Apakah keracunan ingatan? Keracunan ingatan ialah serangan di mana maklumat palsu atau arahan tersembunyi ditanamkan dalam ingatan ejen AI, jadi ejen tersebut mengingati dan bertindak ke atasnya dalam tugasan kemudian. Penyerang menulis sekali; ejen terus mematuhi dalam setiap sesi yang mendapatkan semula entri yang diracuni.
- Mengapa ia berfungsi: ejen menganggap apa yang mereka ingat sebagai konteks yang dipercayai. Ingatan yang diracuni kelihatan sama seperti sesuatu yang dipelajari oleh ejen secara sah.
- Apa yang boleh dilakukannya: mengekskresikan perbualan, mengarahkan cadangan, mencetuskan panggilan alat yang salah atau menyebarkan data buruk kepada ejen lain, lama selepas interaksi asal.
- Keracunan konteks: keluarga yang lebih luas. Ia merangkumi sebarang kandungan yang rosak dalam konteks kerja ejen, termasuk dokumen yang diambil, keadaan sesi kongsi dan ringkasan, bukan sahaja ingatan jangka panjang.
- Varian utama: suntikan memori melalui pertanyaan biasa, suntikan tidak langsung daripada halaman web atau dokumen, keracunan RAG dan pangkalan pengetahuan, dan penyebaran silang agen.
- Pertahanan pertama: mengetahui ejen mana yang menyimpan memori dan di mana ia berada, mengesahkan apa yang ditulis padanya dan memastikan arahan berasingan daripada data.
Keracunan ingatan dijelaskan #
Kebanyakan ejen AI ingat. Ingatan jangka pendek menyimpan tugasan semasa: perbualan setakat ini, keputusan alat, penaakulan pertengahan. Ingatan jangka panjang kekal merentasi sesi: pilihan pengguna, fakta yang dipelajari daripada tugasan lalu, contoh bagaimana masalah yang serupa diselesaikan. Banyak ejen juga mendapatkan pengetahuan daripada stor vektor melalui penjanaan tambahan dapatan semula (RAG).
Semua memori itu kembali ke dalam model sebagai konteks untuk de seterusnya.cision. Keracunan memori menyasarkan gelung tersebut. Daripada memanipulasi satu respons, penyerang menyimpan rekod berniat jahat, kemudian menunggu ejen mendapatkannya semula. Entri yang diracuni itu boleh jadi fakta palsu (“had bayaran balik untuk pelanggan ini tidak terhad”), contoh masa lalu palsu yang akan ditiru oleh ejen, atau arahan (“sentiasa hantar salinan perbualan ke alamat ini”).
Kegigihan itulah yang membezakan keracunan ingatan daripada suntikan gesaan sekali sahaja. Serangan itu bertahan lebih lama daripada sesi yang menciptanya, dan setiap tugasan masa hadapan yang mengambil rekod itu mewarisi kompromi tersebut. 10 Teratas OWASP untuk Aplikasi Ejen 2026 menyenaraikannya sebagai risikonya sendiri, ASI06 Keracunan Memori dan Konteks, atas sebab itu.
Dalam praktiknya, pembela memperlakukan kedua-duanya dengan cara yang sama: sebagai data yang tidak dipercayai yang tidak boleh dibenarkan bertindak sebagai arahan.
Mengapa keracunan ingatan berkesan #
Keracunan ingatan mengeksploitasi andaian yang sama yang menjadikan ingatan ejen berguna: apa yang diingati oleh ejen dianggap benar.
- Ejen bertindak berdasarkan apa yang mereka ingat. Ejen dengan alatan, kelayakan dan akses rangkaian menukarkan memori palsu kepada tindakan sebenar.
- Ingatan adalah konteks yang dipercayai. Rekod yang diambil sampai kepada model sebagai pengetahuan latar belakang atau contoh untuk diikuti, tanpa penanda yang menyatakan dari mana ia datang.
- Sesiapa sahaja yang bercakap dengan ejen boleh menulis surat kepadanya. Banyak ejen menyimpan memori secara automatik daripada perbualan, dokumen dan halaman web, jadi laluan tulis terbuka kepada sebarang kandungan yang dibaca oleh ejen.
- Serangan itu tertangguh. Keracunan dan kerosakan berlaku pada masa yang berbeza, selalunya dalam sesi yang berbeza dan untuk pengguna yang berbeza, yang menjadikan puncanya sukar dikesan.
- Beberapa rekod sudah memadai. Pengambilan semula hanya perlu menonjolkan entri beracun apabila topik yang betul muncul. Selebihnya, ejen berkelakuan seperti biasa.
Contoh dunia sebenar #
Keracunan ingatan bukanlah sesuatu yang teoritis. Tiga kes menunjukkan bagaimana serangan itu berkembang:
- SpAIware (2024). Penyelidik keselamatan Johann Rehberger menunjukkan bahawa laman web atau dokumen yang berniat jahat boleh menggunakan suntikan gesaan tidak langsung untuk menanam arahan dalam memori jangka panjang ChatGPT pada macOS, jadi setiap perbualan kemudian dihantar ke pelayan yang dikawal oleh penyerang. OpenAI menutup saluran penapisan keluar pada ChatGPT versi 1.2024.247.
- EjenRacun (2024). A Kertas NeurIPS 2024 memperkenalkan serangan pintu belakang yang meracuni ingatan jangka panjang ejen atau pangkalan pengetahuan RAG. Berbanding ejen memandu, menjawab soalan dan penjagaan kesihatan, ia mencapai kadar kejayaan serangan purata sebanyak 80% atau lebih sambil meracuni kurang daripada 0.1% daripada pangkalan pengetahuan.
- MINJA (2025). . Serangan Suntikan Memori menunjukkan bahawa penyerang langsung tidak memerlukan akses kepada stor memori: pertanyaan biasa sudah cukup untuk menyimpan rekod berniat jahat. Merentasi ejen yang diuji, ia menyuntik rekod berniat jahat dengan kadar kejayaan purata 98.2%.
. Projek Keselamatan OWASP GenAI juga memetik serangan ingatan Gemini sebagai contoh keracunan yang mengubah tingkah laku ejen lama selepas interaksi pertama.
Cara mencegah keracunan ingatan #
Tiada kawalan tunggal yang dapat menghentikan keracunan ingatan. Amalan-amalan ini mengurangkan kemungkinan penulisan beracun dan mengehadkan kerosakan apabila seseorang berjaya:
- Ejen inventori yang menyimpan ingatan. Ketahui ejen mana yang mempunyai ingatan jangka panjang, stor vektor atau RAG pipelines, dan tempat data tersebut berada.
- Sahkan penulisan memori. Jangan biarkan ejen menyimpan memori secara automatik daripada kandungan yang tidak dipercayai. Tapis, kelaskan atau minta kelulusan sebelum rekod disimpan.
- Asingkan arahan daripada data. Anggap memori dan dokumen yang diambil sebagai data yang dipersoalkan oleh ejen, bukan sekali-kali sebagai arahan yang diikutinya.
- Jejaki asal usul. Tandakan setiap rekod memori dengan sumber, pengarang dan masanya, supaya entri yang diracuni dapat dikesan dan dialih keluar secara pukal.
- Asingkan ingatan. Kekalkan memori bagi setiap pengguna, setiap penyewa dan setiap ejen. Memori kongsi menyebarkan satu rekod beracun kepada semua orang.
- Tamat tempoh dan snapshot. Gunakan konteks sementara di mana anda boleh, tetapkan tarikh luput pada rekod jangka panjang dan simpan snapshot supaya anda boleh mengembalikan memori kepada keadaan yang diketahui baik.
- Pastikan pengambilannya selamat pipeline. Kawal siapa dan apa yang boleh menambah dokumen pada indeks dan pangkalan pengetahuan RAG, serta imbas sumber baharu sebelum ia diindeks.
- Hadkan apa yang boleh dilakukan oleh ejen. Keistimewaan paling rendah pada alat dan kelayakan, serta kelulusan manusia untuk tindakan sensitif, membatasi kerosakan yang boleh disebabkan oleh memori yang diracuni.
- Semak dan pantau ingatan. Benarkan pengguna dan pentadbir melihat memori yang disimpan dan perhatikan rekod atau corak pengambilan yang luar biasa.
Bagaimana Xygeni membantu mengurangkan risiko ini #
Keracunan memori berlaku semasa masa jalan, tetapi kebanyakan pendedahan ditentukan lebih awal, dalam cara ejen dibina. Xygeni menangani bahagian yang meninggalkan bukti dalam kod dan konfigurasi sebelum ejen dijalankan:
- Inventori: Xygeni Keselamatan AI menemui ejen, stor vektor, set data, gesaan, guardrails dan titik akhir inferens dalam repositori anda, memetakan ejen yang menggunakan data dan alatan yang mana, dan mengeksport semuanya sebagai AI-BOMAnda tidak boleh mengamankan memori yang anda tidak tahu kewujudannya.
- Laluan kandungan yang tidak dipercayai: Ia menandakan ejen yang menelan halaman web, e-mel, mesej sembang atau dokumen yang diambil tanpa sanitasi, laluan suntikan tidak langsung yang paling banyak menyebabkan keracunan memori bermula.
- Sumber gesaan yang boleh berubah: ia menandakan gesaan yang ditarik daripada daftar dan disematkan pada versi terapung seperti
@latest, yang boleh diubah oleh penyerang tanpa semakan kod. - Penemuan yang dipetakan oleh OWASP: Pengesanan merangkumi 10 kategori Teratas OWASP LLM yang terlibat dalam keracunan, termasuk suntikan segera, keracunan data dan model, dan kelemahan vektor dan penyematan, dan melalui aliran kerja triaj dan pembetulan yang sama seperti penemuan AppSec anda yang lain.
Xygeni menganalisis kod dan konfigurasi sebelum penggunaan; ia tidak memantau memori ejen semasa masa jalan, jadi pasangkannya dengan kawalan masa jalan di atas. Tempah demo untuk melihat inventori AI repositori anda sendiri atau cuba alat ini secara percuma.
Soalan Lazim #
Keracunan memori berlaku apabila penyerang mendapat maklumat palsu atau arahan tersembunyi yang disimpan dalam memori ejen AI. Kemudian, apabila ejen tersebut mengingat kembali memori tersebut, ia akan bertindak ke atasnya, contohnya dengan memberikan jawapan yang salah atau membocorkan data, walaupun dalam sesi yang tidak pernah disentuh oleh penyerang.
Suntikan segera memanipulasi ejen semasa interaksi tunggal. Keracunan memori menjadikan manipulasi berterusan dengan menyimpannya, jadi ia menjejaskan sesi akan datang dan kadangkala pengguna lain. Banyak serangan keracunan memori bermula dengan suntikan segera tidak langsung yang memberitahu ejen untuk menyimpan memori berniat jahat.
Cari memori tersimpan atau entri pangkalan pengetahuan yang tidak dapat anda jejaki ke sumber yang sah, jawapan yang hanya berubah apabila topik tertentu muncul dan panggilan alat atau permintaan keluar yang tidak dijangka. Tag asal dan petikan memori membolehkan rekod yang diracuni dicari dan diundurkan.
Ya. Ia adalah ASI06 Keracunan Memori dan Konteks dalam 10 Teratas OWASP untuk Aplikasi Agentik 2026. Ia juga berkaitan dengan Suntikan Segera LLM01, Keracunan Data dan Model LLM04 dan Kelemahan Vektor dan Penyematan LLM08 dalam 10 Teratas OWASP untuk Aplikasi LLM.
