Rakibolana momba ny fiarovana Xygeni
Famoronana sy fanaterana rindrambaiko Rakibolana momba ny fiarovana

Inona no atao hoe fanapoizinana amin'ny fahatsiarovana?

Inona no atao hoe fanapoizinana amin'ny fitadidiana? Fanafihana izay ametrahana fampahalalana diso na toromarika miafina ao amin'ny fitadidian'ny mpiasan'ny AI ny fanapoizinana amin'ny fitadidiana, ka ny mpiasan'ny AI dia mahatsiaro sy manao zavatra amin'izany amin'ny asa manaraka. Manoratra indray mandeha ny mpanafika; manohy mankatò ny mpiasan'ny AI amin'ny fivoriana rehetra izay maka ny fidirana misy poizina.

  • Maninona no miasa: Heverin'ireo mpiasa ho toy ny teny manodidina azo itokisana izay tadidiny. Ny fahatsiarovana voapoizina dia mitovy tanteraka amin'ny zavatra nianaran'ilay mpiasa ara-dalàna.
  • Inona no azony atao: miditra an-tsokosoko amin'ny resaka, mitarika tolo-kevitra, mandefa antso fitaovana diso na mampiely angon-drakitra ratsy amin'ny mpiasa hafa, ela be aorian'ny fifandraisana voalohany.
  • Fanapoizinana amin'ny toe-javatra misy: ny fianakaviana midadasika kokoa. Mandrakotra izay votoaty simba rehetra ao anatin'ny tontolon'ny fiasan'ny mpandraharaha izy io, anisan'izany ireo antontan-taratasy nalaina, ny toetry ny fivoriana nozaraina ary ireo famintinana, fa tsy ny fahatsiarovana maharitra fotsiny.
  • Ireo karazany lehibe: fampidirana fahatsiarovana amin'ny alàlan'ny fangatahana mahazatra, fampidirana ankolaka avy amin'ny pejy web na antontan-taratasy, fanapoizinana RAG sy base fahalalana, ary fampielezana cross-agent.
  • Fiarovana voalohany: mahafantatra hoe iza amin'ireo agents no mitahiry ny fahatsiarovana sy ny toerana misy azy, manamarina izay voasoratra ao aminy, ary mampisaraka ny toromarika amin'ny angona.

Fanazavana momba ny fanapoizinana amin'ny fahatsiarovana #

Ny ankamaroan'ny mpiasan'ny AI dia mahatadidy. Ny fitadidiana fohy ezaka dia mitazona ny asa ankehitriny: ny resaka hatreto, ny valin'ny fitaovana, ny fisainana antonony. Ny fitadidiana maharitra dia maharitra mandritra ny fivoriana rehetra: ny safidin'ny mpampiasa, ny zava-misy nianarana avy amin'ny asa taloha, ohatra amin'ny fomba nandaminana olana mitovy amin'izany. Maro ihany koa ny mpiasan'ny AI no maka fahalalana avy amin'ny tahiry vector amin'ny alàlan'ny retrieval-augmented generation (RAG).

Izany fahatsiarovana rehetra izany dia miverina ao amin'ny modely ho toy ny teny manodidina ho an'ny famolavolana manaraka azy.cision. Ny fanapoizinana ny fahatsiarovana dia mikendry io fihodinana io. Tsy manodinkodina valiny tokana ny mpanafika, fa mahazo firaketana ratsy voatahiry, avy eo miandry ny masoivoho haka izany. Ny fidirana misy poizina dia mety ho zava-misy diso ("tsy voafetra ny fetran'ny famerenam-bola ho an'ity mpanjifa ity"), ohatra sandoka taloha izay hotahafin'ny masoivoho, na toromarika ("mandefasa foana dika mitovy amin'ny resaka amin'ity adiresy ity").

Izany fikirizana izany no mampiavaka ny fanapoizinana ny fahatsiarovana amin'ny tsindrona bitsika indray mandeha. Maharitra ela kokoa noho ny fivoriana namoronana azy ny fanafihana, ary ny asa rehetra amin'ny ho avy izay maka ny firaketana dia mandova ny fatiantoka. OWASP Top 10 ho an'ny fampiharana masoivoho 2026 dia mitanisa izany ho toy ny risika manokana, ASI06 Memory and Context Poisoning, noho izany antony izany indrindra.

Fanapoizinana amin'ny fahatsiarovana vs. fanapoizinana amin'ny toe-javatra misy #

Matetika ampiasaina mifandimby ireo teny roa ireo, ary ny OWASP dia manambatra azy ireo ao anatin'ny ASI06 Fahatsiarovana sy Fanapoizinana amin'ny Tontolo IainanaNy fahasamihafana dia ny sehatra misy azy: ny fanapoizinana amin'ny fitadidiana dia endrika iray amin'ny fanapoizinana amin'ny toe-javatra manodidina.

lafinyFanapoizinana amin'ny fahatsiarovanaFanapoizinana eo amin'ny manodidina
Inona no simbaNy fitadidiana voatahiry an'ny mpiasa: firaketana maharitra, zava-misy nianarana, ohatra talohaIzay rehetra miditra amin'ny tontolon'ny fiasan'ny agent: fahatsiarovana, antontan-taratasy nalaina, vokatra avy amin'ny fitaovana, toetry ny fivoriana iraisana, famintinana
fikirizanaMitohy mandritra ny fivoriana rehetra mandra-pahafoanan'ny rakitsoratraMety ho fivoriana tokana na maharitra, arakaraka ny loharano
Fidirana mahazatraResadresaka, antontan-taratasy na pejy angatahina amin'ny mpandraharaha mba hotadidiny na hianaranyIzay votoaty tsy azo itokisana vakian'ny mpiasa mandritra ny fiasany
ohatraFahatsiarovana nambolena izay mandefa ny resaka rehetra amin'ny ho avy any amin'ny mpanafikaAntontan-taratasy misy poizina ao amin'ny index RAG izay manoratra indray ny valintenin'ny agent isaky ny alaina izany

Amin'ny tena fampiharana, mitovy ny fomba itondran'ireo mpiaro azy roa ireo: toy ny angon-drakitra tsy azo itokisana izay tsy tokony havela hiasa ho toy ny toromarika mihitsy.

Nahoana no mahomby ny fanapoizinana amin'ny fahatsiarovana #

Ny fanapoizinana amin'ny fitadidiana dia manararaotra ny fiheverana mitovy amin'izay mahatonga ny fitadidian'ny mpandraharaha ho mahasoa: izay tadidin'ny mpandraharaha dia raisina ho marina.

  • Miasa araka izay tadidiny ireo mpiasa. Ny masoivoho iray manana fitaovana, fahazoan-dàlana ary fidirana amin'ny tambajotra dia mamadika fahatsiarovana sandoka ho asa tena izy.
  • Ny fahatsiarovana dia teny manodidina azo itokisana. Tonga ao amin'ny modely ho toy ny fahalalana fototra na ohatra harahina ireo rakitra nalaina, tsy misy marika milaza ny niaviany.
  • Afaka manoratra any aminy izay rehetra miresaka amin'ny masoivoho. Maro amin'ireo "agent" no mitahiry ho azy ny fahatsiarovana avy amin'ny resaka, antontan-taratasy ary pejy web, ka misokatra ho an'ny votoaty rehetra vakian'ny "agent" ny lalana fanoratana.
  • Tara ny fanafihana. Mitranga amin'ny fotoana samihafa ny fanapoizinana sy ny fahasimbana, matetika amin'ny fivoriana samihafa ary ho an'ny mpampiasa samihafa, izay mahatonga ny antony ho sarotra arahina.
  • Rakitra vitsivitsy dia ampy. Ny fikarohana dia mila mampiseho ilay fidirana misy poizina rehefa mipoitra ny lohahevitra mety. Amin'ny fotoana hafa, ny mpitsikilo dia mitondra tena ara-dalàna.

Karazana fahatsiarovana sy fanapoizinana amin'ny teny manodidina #

Mampiasa io fiheverana io ihany ny karazany rehetra: izay tadidin'ny mpandray na raisin'ny mpandray dia raisina ho toy ny teny manodidina azo itokisana.

VariantAhoana no fiasan'izyNy mety ho vokany
Fampidirana fahatsiarovana amin'ny alàlan'ny fangatahanaohatra MINJAMifandray amin'ny mpitsikilo ara-dalàna ny mpanafika, mamorona fangatahana mba hitehirizan'ny mpitsikilo firaketana ratsy ao amin'ny fitadidiany manokana.Ny fangatahan'ny mpampiasa hafa dia miteraka ny dingana fisainan'ny mpanafika
Tsindrona fahatsiarovana ankolakaohatra SpAIwareNy toromarika miafina ao amin'ny pejy web, mailaka na antontan-taratasy dia milaza amin'ny agent mba hitahiry fahatsiarovana mandritra ny fikirakirana ny votoatyFanesorana na fanodinkodinana maharitra mandritra ny fivoriana ho avy
RAG sy fanapoizinana amin'ny fahalalana fototraohatra AgentPoisonMiditra ao amin'ny tahiry vector na ny tobin'ny fahalalana amin'ny alàlan'ny fidirana tsy azo itokisana ny fidirana ratsy na voafafy pipelineValiny na fihetsika diso isaky ny alaina ilay fidirana misy poizina
Fandotoana famintinanaVoafintina ho famintinana izay tehirizin'ilay mpitsikilo ho fahatsiarovana ny votoaty ampidirinaMbola velona ny tsindrona na dia efa lany aza ny ao anatiny tany am-boalohany
Fanapoizinana iombonana sy fanapoizinana amin'ny alalan'ny fanafody samihafaAverina ampiasaina eo amin'ireo mpampiasa, mpanofa na mpiara-miasa ny tontolon'ny fivoriana iraisana na ny fahatsiarovanaRakitra misy poizina iray no miparitaka amin'ny masoivoho na mpampiasa rehetra mamaky azy
Fiovan'ny fitadidiana maharitraIreo fiovana madinika sy azo inoana miverimberina dia manova izay inoan'ny mpandraharaha rehefa mandeha ny fotoanaFiovana miandalana sy sarotra hita eo amin'ny fitondran-tena

Ohatra tena misy #

Tsy teorika ny fanapoizinana amin'ny fitadidiana. Tranga telo no mampiseho ny fivoaran'ny fanafihana:

  • SpAIware (2024). Nasehon'i Johann Rehberger, mpikaroka momba ny fiarovana, fa mety hampiasa fampidirana bitsika ankolaka ny tranonkala na antontan-taratasy manimba mba hametrahana toromarika ao amin'ny fitadidiana maharitra an'ny ChatGPT amin'ny macOS, ka ny resaka rehetra taty aoriana dia nalefa tany amin'ny mpizara fehezin'ny mpanafika. Nohidian'ny OpenAI ny fantsona exfiltration tamin'ny ChatGPT version 1.2024.247.
  • AgentPoison (2024). A Taratasy NeurIPS 2024 nampiditra fanafihana an-tsokosoko izay manapoizina ny fitadidiana maharitra na ny fahalalana RAG an'ny mpiasan'ny fiarovana. Raha oharina amin'ny fitantanana, famaliana fanontaniana ary mpiasan'ny fahasalamana, dia nahatratra 80% na mihoatra ny tahan'ny fahombiazan'ny fanafihana raha toa ka latsaky ny 0.1% amin'ny fahalalana no voapoizina.
  • MINJA (2025). The Fanafihana tsindrona fahatsiarovana nampiseho fa tsy mila miditra amin'ny fitahirizana fahatsiarovana mihitsy ny mpanafika: ampy ny fangatahana tsotra mba hahazoana rakitra manimba. Tamin'ireo mpiasa nosedraina, dia nampiditra rakitra manimba miaraka amin'ny tahan'ny fahombiazana 98.2% izy io.

The Tetikasa Fiarovana OWASP GenAI manonona ihany koa ny fanafihana fitadidiana Gemini ho ohatra amin'ny fanapoizinana izay nanova ny fitondran-tenan'ny mpiasa ela be taorian'ny fifandraisana voalohany.

Ahoana no hisorohana ny fanapoizinana amin'ny fahatsiarovana #

Tsy misy fanaraha-maso tokana afaka manakana ny fanapoizinana amin'ny fitadidiana. Ireo fomba fanao ireo dia mampihena ny mety hisian'ny fanoratana misy poizina ary mametra ny fahasimbana rehefa vita ny iray:

  • Ireo mpiasan'ny lisitra izay mitazona fahatsiarovana. Fantaro hoe iza amin'ireo agent no manana fahatsiarovana maharitra, tahiry vector na RAG pipelines, ary ny toerana misy io angona io.
  • Hamarino ny fanoratana ao amin'ny fahatsiarovana. Aza avela hitahiry fahatsiarovana ho azy avy amin'ny votoaty tsy azo itokisana ny masoivoho. Sivana, sokajiana na takiana ny fankatoavana alohan'ny hitehirizana ny firaketana.
  • Saraho amin'ny angona ny toromarika. Hevero ho toy ny angon-drakitra ampiasain'ny "agent" ny fahatsiarovana sy antontan-taratasy nalaina, fa tsy toy ny toromarika arahina mihitsy.
  • Fiandohan'ny lalana. Asio marika ny loharano, ny mpanoratra ary ny ora rehetra ao amin'ny firaketana an-tsoratra, mba hahafahana manara-maso sy mamafa betsaka ireo fidirana misy poizina.
  • Sokafy ny fahatsiarovana. Tazomy isaky ny mpampiasa, isaky ny mpanofa ary isaky ny masoivoho ny fahatsiarovana iraisana. Ny fahatsiarovana iraisana dia mampiely rakitra voapoizina iray ho an'ny rehetra.
  • Tapitra ny daty ary maka sary. Ampiasao ny fotoana voafetra raha azo atao, mametraha daty lany daty amin'ny firaketana maharitra, ary tehirizo ireo sary mba hahafahanao mamerina ny fitadidiana amin'ny toetrany efa fantatra fa tsara.
  • Ataovy azo antoka ny fihinanana pipeline. Fehezo izay afaka manampy antontan-taratasy ao amin'ny index sy base fahalalana RAG ary jereo ireo loharano vaovao alohan'ny hampidirana azy ireo ao amin'ny index.
  • Fero izay azon'ny mpandraharaha atao. Ny tombontsoa kely indrindra amin'ny fitaovana sy ny fahazoan-dalana, miampy ny fankatoavan'olombelona ny hetsika saro-pady, dia mametra ny fahasimbana mety hateraky ny fahatsiarovana voapoizina.
  • Avereno jerena sy araho maso ny fitadidiana. Avelao ny mpampiasa sy ny mpitantana hahita ny fahatsiarovana voatahiry, ary araho maso ireo firaketana na lamina tsy mahazatra amin'ny famerenana.

Ahoana no ahafahan'ny Xygeni mampihena ity risika ity #

Mitranga mandritra ny fotoana fiasana ny fanapoizinana ny fahatsiarovana, saingy ny ankamaroan'ny fisehoana dia voafaritra mialoha, amin'ny fomba fananganana ireo "agent". Ny Xygeni dia miresaka momba ireo ampahany izay mamela porofo ao amin'ny kaody sy ny fikirakirana alohan'ny hiasan'ny "agent":

  • Inventory: Xygeni AI Security mahita ireo agents, vector stores, datasets, prompts, guardrails ary ireo teboka famaranana ao amin'ny tahiry misy anao, manisy sarintany hoe iza amin'ireo masoivoho no mampiasa ny angon-drakitra sy fitaovana, ary manondrana ny zava-drehetra ho toy ny AI-BOMTsy afaka miaro ny fahatsiarovana izay tsy fantatrao fa misy ianao.
  • Lalan'ny votoaty tsy azo itokisana: Mampiseho famantarana ireo mpiasa izay miditra amin'ny pejy web, mailaka, hafatra an-tserasera na antontan-taratasy nalaina tsy misy fanadiovana, izay lalan'ny fampidirana ankolaka indrindra amin'ny fanapoizinana ny fahatsiarovana.
  • Loharanon'ny bitsika azo ovaina: Maneho marika ireo bitsika nalaina avy amin'ny rejisitra ary napetaka tamin'ny dikan-teny mitsingevana toy ny @latest, izay azon'ny mpanafika ovana raha tsy misy famerenana kaody.
  • Ireo zavatra hita tamin'ny sarintany OWASP: Ny fitiliana dia mandrakotra ireo sokajy 10 ambony indrindra an'ny OWASP LLM izay tafiditra amin'ny fanapoizinana, anisan'izany ny tsindrona haingana, ny fanapoizinana amin'ny angona sy ny modely, ary ny fahalemen'ny vector sy ny embedding, ary mandalo ny fizotran'ny triage sy fanamboarana mitovy amin'ny ambin'ny zavatra hitanao amin'ny AppSec.

Mamakafaka ny kaody sy ny fikirakirana ny Xygeni alohan'ny fametrahana azy; tsy manara-maso ny fitadidian'ny agent mandritra ny fotoana fiasana izy, koa ampifandraiso amin'ny fanaraha-maso ny fotoana fiasana etsy ambony. Mamandrika demo mba hijerena ny lisitry ny AI an'ny tahiryo manokana na andramo maimaim-poana ny fitaovana.

FAQ #

Inona no atao hoe fanapoizinana amin'ny fitadidiana raha lazaina tsotra?

Ny fanapoizinana ny fahatsiarovana dia rehefa mahazo fampahalalana diso na toromarika miafina voatahiry ao amin'ny fitadidian'ny mpiasan'ny AI ny mpanafika. Any aoriana, rehefa mahatsiaro izany fahatsiarovana izany ny mpanafika dia mihetsika amin'izany, ohatra amin'ny fanomezana valiny diso na famoahana angona, na dia amin'ny fivoriana tsy nokasihin'ny mpanafika aza.

Inona no mahasamihafa ny fanapoizinana amin'ny alalan'ny memo sy ny tsindrona haingana?

Ny tsindrona haingana dia manodinkodina ny agent mandritra ny fifandraisana tokana. Ny fanapoizinana amin'ny fahatsiarovana dia mahatonga ny fanodinkodinana haharitra amin'ny alàlan'ny fitahirizana azy, ka misy fiantraikany amin'ny fivoriana ho avy sy indraindray amin'ny mpampiasa hafa. Ny fanafihana fanapoizinana amin'ny fahatsiarovana maro dia manomboka amin'ny tsindrona haingana ankolaka izay milaza amin'ny agent mba hitahiry fahatsiarovana ratsy.

Ahoana no ahafantarako raha voapoizina ny fitadidian'ny mpiasako?

Mitadiava fahatsiarovana voatahiry na fidirana amin'ny fototry ny fahalalana izay tsy azonao arahina avy amin'ny loharano azo antoka, valiny izay tsy miova raha tsy rehefa misy lohahevitra manokana mipoitra, ary antso an-tariby tsy ampoizina na fangatahana mivoaka. Ny marika niavian'ny angon-drakitra sy ny sary miafina amin'ny fahatsiarovana dia ahafahana mahita ny rakitra voapoizina ary mamerina azy.

Tafiditra ao anatin'ny OWASP Top 10 ve ny fanapoizinana amin'ny fitadidiana?

Eny. ASI06 Memory and Context Poisoning ao amin'ny OWASP Top 10 ho an'ny Agentic Applications 2026 izany. Mifandraika amin'ny LLM01 Prompt Injection, LLM04 Data and Model Poisoning ary LLM08 Vector and Embedding Weaknesses ao amin'ny OWASP Top 10 ho an'ny LLM Applications ihany koa izany.

Manomboka maimaimpoana

Manomboha maimaim-poana.
Tsy mila carte de crédit.

Atombohy amin'ny tsindry iray monja:

Ho voatahiry soa aman-tsara ity fampahalalana ity araka ny Terms amin'ny Service sy politika fiarovana fiainan'olona

Pikantsary fampiharana