Slándáil gníomhaire AI

Slándáil gníomhairí AI: aithnigh gach gníomhaire, gabh an riosca, garda a shuiteáil

Ní bhaineann slándáil gníomhairí AI a thuilleadh leis an méid a deir samhail. Baineann sé leis an méid a dhéanann gníomhaire: na huirlisí a ghlaonn sé, na sonraí a léann sé, na dintiúir atá aige, agus na pacáistí a shuiteálann sé leis féin.

Agus ní féidir leis an gcuid is mó de na foirne an chéad cheist a fhreagairt: cé na gníomhairí atá á reáchtáil againn i ndáiríre? Tá siad i stórtha mar ghraif LangChain, freastalaithe MCP, SKILL.md comhaid, agus uirlisí códaithe AI ​​a chumraigh forbróirí aonair tráthnóna Aoine. Níor athbhreithnigh aon duine iad, agus níl i scileanna mailíseacha ach téacs simplí

TL; DR

Slándáil gníomhairí AI i gceithre chéim: féach air, scóráil é, daingnigh an lúb, gardaigh na suiteálacha

Ní féidir leat gníomhairí nach féidir leat a fheiceáil a dhaingniú. Tosaíonn slándáil gníomhairí AI le fardal de gach gníomhaire, freastalaí MCP, scile, samhail agus uirlis chódaithe AI ​​i do chód.

  • Riosca maidir le conas a thógtar gníomhairí: leideanna a chomhcheanglaíonn ionchur úsáideora, gníomhairí a ghlaonn ar uirlisí gan aon guardrails, dintiúir agus scileanna róphribhléideacha le treoracha i bhfolach. Tá an chuid is mó de le feiceáil sa chód, roimh imscaradh, agus mapáiltear chuig an OWASP Barr 10 d'Fheidhmchláir Gníomhaireachta.
  • Slándáil laistigh den lúb: Caithfidh slándáil laistigh dá lúb a bheith ag gníomhairí códaithe, mar sin déanann siad scanadh agus socrú ar a scríobhann siad sula ndéantar é a committed, ní seachtainí ina dhiaidh sin i dticéad.
  • Cosain na suiteálacha: Suiteálann gníomhairí spleáchais freisin. Clúdaíonn braiteadh malware a oibríonn sula mbíonn síniú ann pacáistí mailíseacha cibé duine a shuiteálann iad, forbróir nó gníomhaire.
  • Sreabhadh oibre amháin: Téann torthaí AI tríd an modh céanna triage, ticéid agus tuarascálacha agus a théann an chuid eile de do thorthaí AppSec.

An chéad chéim: fardal den AI a thógáil i do stórtha, é a onnmhairiú mar AI-BOM, agus ansin cód gníomhaire nua a gheatú i CI.

Cén fáth gur fadhb dhifriúil í slándáil gníomhairí AI

Tugann gné LLM téacs ar ais, agus socraíonn duine cad atá le déanamh leis. Dúnann gníomhaire an lúb sin leis féin: déanann sé pleanáil, glaonn sé ar uirlisí, léann sé leathanaigh ghréasáin, ríomhphoist agus doiciméid, scríobhann sé comhaid, agus ritheann sé orduithe. Is cumas é gach cumas a thugann tú do ghníomhaire is féidir le hionsaitheoir a fháil ar iasacht.

Rinne OWASP an t-idirdhealú céanna. Barr 10 d’Fheidhmchláir Ghníomhaireachta OWASP 2026 (ASI01 go ASI10) ag tógáil ar an 10 gCeann is Fearr de chuid OWASP d’Iarratais LLMClúdaíonn an liosta LLM an méid a deir samhail; clúdaíonn an liosta gníomhairí an méid a dhéanann gníomhaire.

Tá dhá chineál gníomhairí ag formhór na n-eagraíochtaí anois:

  • Gníomhairí a thógann tú isteach i do fheidhmchláir: cúntóirí tacaíochta, comhphíolótaí inmheánacha agus sreafaí oibre atá tógtha le creatlacha cosúil le LangChain, LangGraph, CrewAI, AutoGen, Semantic Kernel nó LlamaIndex, a bhíonn ceangailte go minic le huirlisí trí Freastalaithe MCP.
  • Gníomhairí códaithe AI ​​a úsáideann do fhorbróirí: Claude Code, Cursor, GitHub Copilot, Windsurf, agus eile, a scríobhann cód, a chuireann cumraíocht in eagar, agus a chuireann spleáchais leis.

Caithfidh slándáil ghníomhairí AI an dá rud a chlúdach, toisc go ngníomhaíonn an dá cheann le do cheadanna.

Céim 1: fardal a dhéanamh de gach gníomhaire, freastalaí MCP, agus scileanna

Tosaíonn slándáil gníomhairí AI le bord ceisteanna, agus fiafraíonn iniúchóirí anois: cén AI atá á rith againn? Slándáil Intleachta Saorga Xygeni freagraíonn sé ón bhfoinse: cód, cumraíocht, léirithe, agus spleáchais.

Aimsíonn sé samhlacha, gníomhairí agus freastalaithe gníomhairí, creatlacha AI, freastalaithe MCP agus a n-uirlisí, scileanna (SKILL.md, AGENTS.md), leideanna, guardrails, stórais veicteora, tacair sonraí, críochphointí inference agus na huirlisí códaithe AI ​​atá cumraithe i do stórtha. Déanann sé mapáil freisin ar an gcaoi a nascann siad: cé acu gníomhaire a úsáideann cé acu samhail, cé acu uirlisí a fhorghníomhaíonn, agus cé acu freastalaithe MCP a ghlaonn.

Is é an toradh fardal beo AI, is féidir a onnmhairiú mar AI-BOM i bhformáid CycloneDX, le taifead rialachais in aghaidh an tsócmhainne lena n-áirítear réimse catagóire riosca Acht AI AE.

Ar mhaith leat a fheiceáil cén AI atá i do chód cheana féin? Cuir seisiún in áirithe le hinnealtóir, agus déanfaimid fardal AI de cheann de do stórtha a thógáil.

Céim 2: na rioscaí a bhaineann le conas a thógtar gníomhairí a ghabháil

Ní bhíonn formhór na leochaileachtaí gníomhairí neamhchoitianta. Is leid iad atá tógtha trí nascadh teaghrán, gníomhaire a ghlaonn uirlisí gan aon ráille cosanta ionchuir nó dintiúir a bhfuil raon feidhme i bhfad níos mó aige ná mar atá ag teastáil ón ngníomhaire. Fágann siad go léir méarloirg sa chód, ionas gur féidir leat iad a ghabháil i CI, sula ndéantar iad a imscaradh.

Rioscaí gníomhairí AI is féidir leat a ghabháil sa chód

Léarscáilíonn gach riosca leis an 10 gCeann is Fearr de chuid OWASP d’Iarratais LLM nó a chomhghleacaithe gníomhaire, ionas go labhraíonn na torthaí an teanga chéanna le d’iniúchóirí.

RioscaCén chuma atá air sa chódMapáil OWASP
Instealladh prasLeideanna córais a chuireann ábhar úsáideora le chéile gan scaradh róil, deighilteoirí ná guardrailsLLM01
Instealladh indíreachGníomhairí glaonna uirlisí gan aon ionchur guardrails, nó gníomhairí a ghlacann leathanaigh ghréasáin, ríomhphoist nó doiciméid aisghafa gan sláintíochtLLM01
Láimhseáil aschuir neamhshábháilteAschur samhail ag teacht eval nó sloic chontúirteacha eile, a rianaítear trasna feidhmeanna agus comhadLLM05
Céannachtaí gníomhairí róphribhléideachaMí-úsáid aitheantais neamhdhaonnaDintiúir statach fadsaolacha, dintiúir chomhroinnte gan chúngú raoin feidhme, freastalaithe MCP nó uirlisí ag rith le pribhléidí ardaitheASI03
Scileanna mailíseacha nó clóscríofaSlabhra soláthair scileanna gníomhaireTreoracha mailíseacha i bhfolach i SKILL.md or AGENTS.md, ainmneacha scileanna a phearsanaíonn scileanna nó comhtháthúcháin aitheantaBarr 10 Scileanna Gníomhaireachta
Rúin i leideannaDintiúir stóráilte taobh istigh de chomhaid leideannaLLM07

Tá catagóir OWASP LLM Top 10 ag gabháil le gach fionnachtain, chomh maith le clibeanna Feidhmchláir Ghníomhaire OWASP agus Scileanna Ghníomhaire i gcás inarb infheidhme iad, agus na veicteoirí ionsaithe foirne deirge atá i gceist.

Tuilltear aird ar leith ar scileanna mar is prós, ní cód, treoir mailíseach i gcomhad scile, agus ní féidir le haon síniú í a fheiceáil. Déanann athbhreithniú rogha isteach ar AI breithiúnas ar intinn comhad scile agus treoracha gníomhaire brataithe le socrú leaganach, cinntitheach, ionas go bhfaigheann an comhad céanna an breithiúnas céanna i gcónaí. Is féidir é a rith ar do mhúnla féinóstáilte féin, ionas nach gá don chód agus do leideanna do thimpeallacht a fhágáil. Ansin, comhcheanglaíonn scór leibhéal scile na comharthaí sin i bhfreagra amháin: sábháilte, rabhadh nó ná suiteáil.

Téigh níos doimhne: féach ar ár seisiún Gaoth Phléasctha: Nuair a dhéanann an Gníomhaire teagmháil leis an rud nár iarr tú, ar a tharlaíonn nuair a shroicheann ceadanna gníomhaire níos faide ná a thasc.

Céim 3: cuir slándáil laistigh de lúb an ghníomhaire códaithe

Scríobhann gníomhairí códaithe AI ​​agus commit cód níos tapúla ná mar is féidir le duine ar bith é a athbhreithniú. Is annamh a dhéantar réiteach ar fhionnachtain a thagann i dticéad coicíse ina dhiaidh sin. Caithfidh an réiteach tarlú agus an gníomhaire fós ag obair.

Ritheann Freastalaí MCP Xygeni go háitiúil agus oibríonn sé le haon ghníomhaire códaithe AI ​​a thacaíonn le MCP, is cuma cén samhail a ritheann sé air. Is féidir leis an ngníomhaire an cód a scríobh sé díreach a scanadh, na saincheisteanna nua a liostáil, breithiúnais Triage AI a fháil agus socruithe a iarraidh le haghaidh... SAST agus SCA torthaí. Déanann sé athrá go dtí go mbeidh an t-athrú glan, sula ndéantar aon rud committed, leis na ceaduithe a shocraíonn do fhoireann.

Úsáideann sé na hinnill, na beartais agus na rialacha balbhaithe céanna agus atá agatsa. pipeline, ionas nach mbíonn easaontas idir an gníomhaire agus do CI riamh. Maidir leis na forbróirí atá ag obair taobh leis an ngníomhaire, an Breiseáin IDE na torthaí agus na socruithe céanna a thabhairt isteach san eagarthóir.

Céim 4: garda a dhéanamh ar na gníomhairí a shuiteáiltear

Is féidir le gníomhaire códaithe AI ​​spleáchas a chur leis leis féin, agus ní stopfaidh sé le seiceáil an bhfuil pacáiste úrnua le hainm aitheanta dlisteanach. Tá a fhios seo ag ionsaitheoirí, agus is sna clárlanna foinse oscailte a bhíonn siad ag fanacht.

Cosaint i gcoinne Mailíseacha brataíonn sé pacáistí mailíseacha sula mbíonn síniú ann, cibé duine a shuiteálann iad, forbróir nó gníomhaire. Ar mheaisín an fhorbróra, Shield cuireann sé polasaí i bhfeidhm sula ritheann aon rud: aois íosta do phacáistí nua, clúdach do shíntí agus breiseáin IDE, blocáil táscairí mailíseacha agus tíreolaíochtaí rioscaí, agus aonrú críochphointe nuair is gá meaisín a choinneáil faoi smacht.

Ag iarraidh dul níos doimhne?

Is fadhb amháin í locht sa láimhseálaí agus an pointe deiridh nochtaithe a shroicheann é, le húinéir amháin. Agus má ritheann tú uirlis DAST eile cheana féin, déanann Xygeni a torthaí a allmhairiú isteach san amharc riosca céanna, gan iarraidh ort é a athsholáthar.

Ar mhaith leat an dá shraith ag obair le chéile a fheiceáil? Féach ar ár seisiún Ó Chód go Rith-Am: Cén Fáth SAST + Tá an dá DAST riachtanach le haghaidh AppSecurity Nua-Aimseartha, áit a dtéimid tríd an gcaoi a ndeimhníonn torthaí cóid agus tástálacha rith-ama a chéile.

Sreabhadh oibre amháin, ní consól eile

Teipeann ar shlándáil gníomhaire AI nuair a thagann sé chun bheith ina uirlis ar leithligh lena scuaine féin. I Xygeni, téann torthaí AI tríd an gcainéal céanna, Triage AI, ticéid agus tuarascálacha mar an chuid eile de do chuid torthaí. Tugann AI Remediation treoir shocraithe atá feasach ar chomhthéacs do gach ceann de na deich gcatagóir OWASP LLM, agus ASPM cuireann sé riosca AI in aice le cód, spleáchas agus pipeline riosca in aon radharc amháin.

Slándáil agus comhlíonadh gníomhairí AI

Iarrann rialtóirí, iniúchóirí agus custaiméirí níos mó agus níos mó fardal den AI a ritheann tú agus conas a aicmítear a riosca. Acht AI an AE agus ISO / IEC 42001 brúnn an bheirt acu sa treo sin, agus tá AI-BOM ag éirí ina standard mír i gceistneoirí soláthair.

Tugann fardal AI le réimse catagóire riosca in aghaidh an tsócmhainne bunús fianaise do d’fhoireann rialachais don obair sin. Tacaíonn sé le hullmhacht Acht AI an AE; ní measúnú comhréireachta é, agus ní chuireann sé ionad d’athbhreithnithe dlíthiúil.

nó foirne meánmhéide atá simplí:

  1. Ar gach pull request: Slándáil API i CI ar an gcód athraithe, móide scananna DAST incriminteacha.
  2. Roimh commit: mar pre-commit geata ar chomhaid stáitseáilte.
  3. Gach oíche nó ar chumasc: scanadh iomlán DAST.
  4. Roimh gach mór-eisiúint: Tástáil threáite AI i gcoinne stáitse chun an riaráiste a bhailíochtú agus a dheimhniú gur dhún gach socrú an poll.

Ritheann scanóir Slándála API in áit ar bith, lena n-áirítear timpeallachtaí aerbhearnacha, agus tuairiscíonn sé chuig Xygeni SaaS nó chuig do on-premiseardán s. Tagann torthaí amach mar JSON, SARIF 2.1.0, CSV, agus Markdown le haghaidh pull request tuairimí.

Tástáil slándála agus comhlíonadh API

I gcás foirne i mbancéireacht, in árachas, nó san earnáil phoiblí, is fianaise í tástáil slándála API freisin. Tá clibeanna comhlíontachta ag gabháil le gach toradh. Airteagal 32 den GDPR, PCI DSS 4.0 (ceanglais 3.4, 6.4.3, 7.1, 7.2 agus 8) agus NIST SP 800-53 (AC-3, AC-6, IA-2, IA-5), le feiceáil san ardán agus in aschur JSON agus SARIF.

Má thagann d’eagraíocht faoi DORA or NIS2, tugann tástáil rith-ama fianaise leanúnach duit idir na tástálacha treáite láimhe a éilíonn do rialtóirí fós. 

Conas slándáil gníomhaire AI a chur i bhfeidhm i 7 gcéim

Seo an seicliosta praiticiúil, san ord a chuireann slándáil ghníomhaire AI ag obair is tapúla i bhfoireann forbartha fíor.

  1. Discover

    Déan fardal de gach sócmhainn AI i do stórtha

    Scan gach stór le haghaidh gníomhairí, freastalaithe MCP, scileanna, samhlacha, leideanna agus uirlisí códaithe AI, agus easpórtáil an toradh mar AI-BOM. Seo do bhunlíne, agus an liosta a oibríonn gach céim eile uaidh.

  2. Rangaigh

    Tabhair úinéir agus leibhéal riosca do gach gníomhaire

    I gcás gach gníomhaire, taifead cé leis é, cé na sonraí agus na huirlisí ar féidir leis teacht orthu, agus a chatagóir riosca faoin Acht um Intleacht Shaorga AE. Gníomhaire nach bhfuil le haon duine, is gníomhaire é nach ndéanfaidh aon duine a dheisiú.

  3. Braith

    Scanadh cód an ghníomhaire i CI ar gach pull request

    Rith braiteadh riosca AI in aice le do scananna eile. Tosaigh i mód neamhbhlocála chun an bunlíne a fheiceáil, ansin blocáil cumaisc ar thorthaí criticiúla a luaithe a bheidh glanadh déanta ag na foirne.

  4. Athbhreithniú

    Athbhreithnigh scileanna sula suiteálann aon duine iad

    Scan comhaid scileanna agus treoracha gníomhaire amhail SKILL.md agus AGENTS.md, athbhreithniú intinne AI a chasadh air, agus breith "ná suiteáil" a láimhseáil mar stad crua.

  5. Srian

    Ceadanna gníomhaire laghdaithe

    Cuir dintiúir fhadtéarmacha in ionad dintiúir statach fadsaolacha, stop a roinnt dintiúir idir gníomhairí, agus ná rith freastalaithe MCP nó uirlisí riamh le pribhléidí ardaithe nach bhfuil de dhíth orthu.

  6. Socraigh sa lúb

    Cuir slándáil laistigh de lúb an ghníomhaire códaithe

    Ceangail do ghníomhairí códaithe AI ​​le freastalaí slándála MCP ionas go ndéanfaidh siad a gcód féin a scanadh agus a shocrú sula ndéantar é a sheiceáil. committed, leis na beartais chéanna is atá agatsa pipeline.

  7. Cosain

    Cosain cad a thuirlingíonn ar mheaisíní forbróirí

    Cuir aois íosta i bhfeidhm do phacáistí nua, braith pacáistí mailíseacha sula mbíonn síniú ann, agus clúdaigh síntí agus breiseáin IDE, cibé acu a shuiteálann iad, forbróir nó gníomhaire.

Ansin: cuir gach fionnachtain isteach sa sreabhadh oibre céanna maidir le triage, ticéadú agus tuairisciú leis an gcuid eile de d'AppSec, ionas nach gcríochnaíonn riosca na hintleachta saorga i scuaine leis féin.

Ní féidir leat gníomhaire nár bhuail tú leis riamh a fháil

Ní scanóir amháin eile atá i slándáil gníomhairí AI. Is é atá i gceist leis ná a bheith ar an eolas faoi na gníomhairí a ritheann tú, an riosca a bhaineann lena dtógáil a ghabháil, slándáil a chur laistigh de lúb an ghníomhaire códaithe, agus garda a dhéanamh ar na gníomhairí a shuiteálann siad. Tosaigh leis an bhfardal: braitheann gach rud eile air.

Ar mhaith leat gach gníomhaire, freastalaí MCP, agus scileanna a fheiceáil i do chód? Cuir seisiún in áirithe le hinnealtóir chun fardal na hintleachta saorga de do stórtha a thógáil agus a thorthaí a athbhreithniú. Nó tosú saor in aisce le AI SAST, SCA, brath rúnda, breiseáin IDE agus brath malware ar phacáistí foinse oscailte. Gan cárta creidmheasa.

Ceisteanna Coitianta faoi shlándáil gníomhairí AI

Cén difríocht atá idir slándáil gníomhaire AI agus slándáil LLM?

Baineann slándáil LLM leis an méid a deir samhail: sonraí sceite, freagraí ionramháilte, aschur neamhshábháilte. Baineann slándáil gníomhaire AI leis an méid a dhéanann gníomhaire le huirlisí, cuimhne, dintiúir, agus gníomhairí eile. Sin é an fáth a bhfoilsíonn OWASP Barr 10 ar leithligh d'Fheidhmchláir Ghníomhaire (ASI01 go ASI10) ar bharr Barr 10 LLM.

Conas a aimsím na gníomhairí AI agus na freastalaithe MCP i mo eagraíocht?

Tosaigh leis an gcód. Aimsíonn Xygeni AI Security na gníomhairí, na freastalaithe MCP, na scileanna, na samhlacha, na leideanna, agus na huirlisí códaithe AI ​​i do stórtha, mapálann sé an chaoi a nascann siad, agus easpórtálann sé an toradh mar AI-BOM i bhformáid CycloneDX. Ritheann sé i CI in aice le do scananna eile.

An féidir le freastalaí scileanna nó MCP mailíseach cur isteach ar mo fhorbróirí?

Sea: is téacs simplí iad treoracha scile, agus leanfaidh gníomhaire iad le ceadanna an fhorbróra. Déanann Xygeni treoracha mailíseacha i bhfolach agus ainmneacha scileanna a phearsantú a mharcáil, is féidir leis intinn scile a mheas le hathbhreithniú AI rogha isteach, agus scórálann sé gach scileanna mar shábháilte, rabhadh, nó ná suiteáil. Cosaint Malware agus Shield na pacáistí agus na síntí a thugann gníomhairí isteach a chlúdach.

uirlisí-sca-uirlisí-bogearraí-anailíse-comhdhéanamh
Tabhair tosaíocht do rioscaí bogearraí, déan iad a leigheas agus a dhaingniú
Faigh do Chuntas Saor in Aisce.
Níl aon chárta creidmheasa ag teastáil.

Do fhorbairt agus do sheachadadh bogearraí a dhaingniú

le Sraith Táirgí Xygeni