TL;DR: rekayasa agent harness lan permukaan serangan sing didhelikake
Rekayasa agent harness yaiku praktik mbangun kabeh babagan model AI (instruksi, alat, ijin, memori, lan puteran umpan balik) sing ngowahi dadi agen sing bisa digunakake. Sabuk pengaman kuwi, dudu modele, sing saiki dadi papan paling akeh risiko keamanan sing nyata.
- Owah-owahane: Tim-tim kasebut mandheg nyetel pitunjuk lan miwiti ngrancang sabuk pengaman. Agen = model + sabuk pengaman.
- Masalahe: Harness-e disimpen ing file teks biasa (aturan, katrampilan, konfigurasi MCP) sing ditinjau kaya dokumentasi, yen ana.
- Bukti: Backdoor Berkas Aturan lan CVE MCP nyata nuduhake yen penyerang wis ngincer iku.
- Ndandani: Anggep harness minangka kode. Inventaris, deleng, lan pindai sadurunge dikirim.
Saben obrolan keamanan babagan AI pungkasane bakal tekan model kasebut. Apa bisa di-jailbreak? Apa bakal halusinasi? Apa panyedhiya latihan babagan data kita?
Pitakonan sing cukup masuk akal. Nanging pitakonan kasebut saya tambah salah. Nalika agen AI mbusak tabel produksi, mbukak backdoor, utawa ngirim dhaptar pelanggan liwat email menyang wong sing ora dikenal, model kasebut arang banget gagal. Model kasebut nindakake persis apa sing diidini dening harnesse.
Agen = model + sabuk pengaman
Sajrone setaun kepungkur, industri iki kanthi meneng-meneng ngowahi apa tegese mbangun nganggo AI. Rekayasa sing cepet diganti karo rekayasa konteks, lan rekayasa konteks diganti karo sing luwih gedhe: teknik harness agen.
Idené prasaja. Model dhéwé iku mesin penalaran tanpa tangan. Harness iku kabèh sing mènèhi tangan lan tugas: pandhuan sing dituruti, piranti sing bisa diundang, ijin sing diduwèni, memori sing disimpen, lan pamriksan sing némokaké kesalahané. Situs web Martin Fowler nggambarake teknik harness minangka karya sing ditindakake pangguna agen coding saiki kanggo nggawe agen bisa dipercaya, lan kerangka akademik sing diterbitake taun iki harness iki mbagi dadi sewelas tanggung jawab, wiwit saka akses alat lan memori proyek nganti ijin lan verifikasi.
Asilé nyata. Tim sing praktik teknik agent harness nglaporaké yèn mung ngganti harness, kanthi model sing padha ing ngisoré, bisa ngowahi asil agen kanthi dramatis. Iki ngungkit masalah sing ora nyaman kanggo sapa waé ing keamanan: yèn harness nemtokaké kepriyé agen tumindak, harness nemtokaké kepriyé bisa disalahgunakaké.
Umpamane wae, kaya nginstal dependensi. Pengembang mandheg kanggo mriksa jeneng paket. Agen sing nganggo alat sing pas mung mbukak prentahe, lan yen paket kasebut mbebayani, ora ana sing bisa nyegah ing model kasebut. Kuwi persis sing bakal dijlentrehake ing episode SafeDev Talks iki: apa sing owah nalika agen AI nginstal dependensi dhewe, lan kenapa rekayasa perangkat keras agen meneng-meneng dadi masalah rantai pasokan.
Kaya apa rupane teknik harness agen ing repositori?
Bukak repositori ing ngendi para pangembang nggunakake agen AI lan harness ana ing kana, ing file sing mbokmenawa durung nate dipindai:
- File aturan lan instruksi (
AGENTS.md,.cursorrules, Pandhuan kopilot) sing ngandhani agen carane tumindak. - File katrampilan paket kasebut nduweni kemampuan sing bisa digunakake maneh sing dimuat agen nalika dibutuhake.
- Konfigurasi server MCP sing nyambungake agen menyang piranti, basis data, lan API.
- Pitunjuk sistem lan cithakan pitunjuk dilebokake ing kode aplikasi.
- Kabel agen: piranti apa sing bisa digayuh agen, data apa sing bisa dijupuk, lan apa ana pager pembatas ing antarane.
Kabeh iku teks biasa. Kabeh iku commitdigabungake karo kode. Lan kabeh mau ditinjau kaya dene dokumentasi ditinjau: sekilas, persetujuan, gabungan. Nanging saben file iki bisa nulis ulang kanthi meneng apa sing diwulangake marang agen lan apa sing diidini disentuh.
Kuwi akibat nyata saka rekayasa agent harness: konfigurasi paling kuat ing piranti lunak sampeyan saiki paling ora ditinjau.
Para penyerang wis nggatekake
Iki dudu masalah teoretis. Sabuk pengaman iki nduweni sejarah kedadeyan sing cendhak nanging nyritakake.
- Berkas Aturan Backdoor. Ing Maret 2025, para peneliti mbukak serangan ing ngendi karakter Unicode sing didhelikake ing njero file aturan menehi instruksi marang asisten pengkodean AI supaya nglebokake kode backdoored, tanpa nyebutake ing respon sing katon. Pengulas sing maca file kasebut ora weruh apa-apa sing ora biasa. Saiki dikatalogake minangka Studi kasus MITRE ATLAS AML.CS0041.
- Piranti MCP sing diracun. Nganti taun 2025, para peneliti bola-bali nuduhake yen agen percaya karo deskripsi alat kanthi implisit, mula server MCP sing ala bisa ngarahake agen mung kanthi njlentrehake awake dhewe kanthi cara sing bener. Ing taun sing padha, CVE-2025-6514 ing klien MCP sing diunduh kanthi wiyar ngidini eksekusi printah jarak jauh nalika nyambung menyang server sing ora dipercaya, dirating 9.6 ing CVSS.
- Agensi sing berlebihan. The 10 Aplikasi LLM Paling Apik OWASP ndhaptar agensi sing berlebihan minangka risiko paling dhuwur: agen diwenehi luwih akeh alat, ijin, utawa otonomi tinimbang sing dibutuhake tugas. Iku dudu cacat model. Iku desain harness decision.
Gatekna polane. Ora ana serangan iki sing ngrusak model. Dheweke ngrusak tali kekang, lan model kasebut kanthi setya nindakake liyane.
Apa sebabe tumpukan keamanan sampeyan ora bisa ndeleng
Iki bagean sing kikuk. Umume organisasi wis mbukak piranti AppSec sing apik, lan meh ora ana sing digawe kanggo lapisan iki.
Analisis statis ngerti kode, nanging ora ngerti apa iku model utawa kenapa teks sing ora dipercaya sing mili menyang prompt sistem penting. Analisis komposisi nginventarisasi paket, nanging ora ngetung server MCP utawa file skill. Pemindai rahasia bisa uga ora weruh kunci API sing ana ing file konfigurasi agen. Ora ana alat kasebut sing cacat. Piranti kasebut mung digawe kanggo jagad ing ngendi konfigurasi ora menehi prentah.
Dadi, rekayasa agent harness obah kanthi cepet, lan keamanan mriksa bagean sing bisa dideleng: model lan kode. Harness ana ing antarane.
Lima kebiasaan kanggo ngamanake sabuk pengaman
Rekayasa harness agen pengaman ora butuh tim anyar. Butuh sawetara kabiasaan sing nganggep harness kaya apa adanya: niat sing bisa dieksekusi.
| Pakulinan | Apa sebabe? | Apa apa |
|---|---|---|
| 1. Inventaris saben harness | Sampeyan ora bisa ngamanake agen sing ora diumumake dening sapa wae. | Golekana saben model, agen, server MCP, katrampilan, lan prompt ing repositori sampeyan, saka kode lan file konfigurasi dhewe tinimbang saka survey. |
| 2. Tinjau file harness kaya kode | Aturan, katrampilan, lan konfigurasi MCP bisa nulis ulang apa sing ditindakake agen, nanging aturan kasebut ditinjau kaya dokumentasi. | Wenehana sing padha pull request pengawasan minangka logika aplikasi, kalebu pamriksan karakter sing didhelikake. |
| 3. Semat apa sing dimuat agen | Prompt utawa model sing dirujuk dening label sing bisa diganti bisa ditunjuk maneh tanpa owah-owahan kode. | Sematake prompt lan model menyang versi sing ora bisa diowahi. |
| 4. Pasang pager ing saben wastafel | Dokumen sing dijupuk, output alat, lan konten pangguna kabeh bisa nggawa instruksi sing diinjeksi menyang model. | Pasang pager ing dalan ing ngendi wae konten kasebut bisa tekan model. |
| 5. Simpen kredensial ing njaba jangkauan | Kunci panyedhiya AI ing file prompt lan konfigurasi agen minangka kamenangan sing gampang kanggo penyerang. | Copot kabeh mau lan terus pindai file harness kanggo nggoleki rahasia. Iki gampang didandani. |
Ngamanake sabuk pengaman, ora mung modele
Keamanan AI Xygeni diwiwiti saka ngendi teknik agent harness ninggalake jejak: ing repositori sampeyan. Iki nemokake aset AI ing basis kode sampeyan (model, agen, server MCP, katrampilan, pitunjuk, guardrails, lan piranti coding AI sing digunakake) saka kode, dependensi, lan file konfigurasi sing ditinggalake piranti kasebut.
Banjur, Xygeni bakal nganalisa file skill, file rules, lan konfigurasi MCP minangka artefak keamanan, dudu dokumentasi, lan ndeteksi risiko kelas injeksi prompt ing kabel agen, kayata konten sing ora dipercaya sing tekan prompt sistem utawa sink pengambilan tanpa pager. Rahasia Xygeni bakal mindhai tandha kredensial panyedhiya AI ing prompt lan file konfigurasi agen, lan dependensi tumpukan AI sampeyan bakal entuk deteksi malware sing padha karo liyane, sadurunge ana tanda tangan.
Pitakonan Umum
Apa kuwi teknik harness agen?
Rekayasa agent harness iku disiplin ngrancang lingkungan sekitar model AI (pandhuan, alat, ijin, memori, konteks, lan puteran verifikasi) supaya tumindak minangka agen sing bisa dipercaya. Model kasebut nyedhiyakake penalaran; harness nemtokake apa sing bisa dideleng lan ditindakake agen.
Apa bedane teknik agent harness karo teknik prompt?
Rekayasa prompt mbentuk siji instruksi. Rekayasa agent harness mbentuk kabeh sistem sing dioperasikake agen, ing pirang-pirang langkah, alat, lan sesi. Prompt iku siji file ing harness.
Yèn nganggo tali kur, kenapa kok isa dadi risiko keamanan?
Amarga ngontrol apa sing diidini ditindakake agen, lan manggon ing file teks biasa sing arang dideleng minangka artefak keamanan. Kompromi file aturan utawa konfigurasi MCP lan sampeyan ngontrol agen kasebut, tanpa ndemek model kasebut.
Sapa sing kudune duwe agen sing duwe keamanan?
Keamanan aplikasi, kerja sama karo insinyur sing nggawe lan ngonfigurasi agen. Harness minangka bagean saka piranti lunak sing sampeyan kirim, mula kalebu ing proses review, scan, lan inventaris sing padha karo kode liyane.







