TL; DR
Byna elke ingenieurspan gebruik KI-koderingsassistente. Byna niemand kan 'n lys opstel van watter KI hulle eintlik gebruik nie. Gartner het KI-sekuriteitshoudingbestuur as 'n kategorie in sy 2025-hypesiklus vir datasekuriteit gedefinieer omdat die gaping werklik is: modelle, agente, MCP-bedieners en datastelle is KI-bates in die aanvalsoppervlak, en die meeste organisasies het geen gestruktureerde manier om hulle te sien nie.
Ontdekking sonder remediëring is bloot 'n dashboard. Ongeveer 40% van KI-gegenereerde kode bevat sekuriteitskwesbaarhede. KI-assistente reproduseer onveilige patrone teen 'n volume waarvoor geen handmatige hersiening gebou is nie. Om te weet watter KI-bates bestaan, los slegs die helfte van die probleem op – die ander helfte is om hul risiko te bepaal en die kode reg te stel voordat dit versend word, in dieselfde werkvloei waar dit geskryf is.
Die aanvalsoppervlak is breër as die kode. Gedokumenteerde aanvalle teiken reeds die bates rondom die kode: versteekte Unicode in reëllêers wat veroorsaak dat assistente agterdeur-uitvoer uitstuur, MCP-gereedskapvergiftiging en volledige afstandkode-uitvoering deur 'n wyd gebruikte MCP-brug (437 000+ aflaaie), en slopsquatting — die registrasie van die pakketname. KI-modelle is statisties geneig om te hallusineer. SAST en SCA sien niks hiervan nie.
Die oplossing is een lus, nie drie punt gereedskap nie: KI-SPM bou die voorraad en die KI-BOM; AI Sekuriteit risikotellings teenoor die OWASP Top 10 vir LLM-aansoeke; DevAI herstel kwesbare kode binne die IDE soos dit geskryf word, dek KI-gegenereerde en mensgeskrewe kode, en onderskep wat ander agente op die punt staan om te doen voordat hulle dit doen. Dit geld vir bevindinge van Xygeni se eie skandeerders en vir alles wat reeds ingeneem is van gereedskap in plek. — geen skeur-en-vervang nodig nie.
Byna elke ingenieurspan het KI-koderingsassistente aangeneem. Byna geeneen van hulle kan 'n eenvoudige vraag beantwoord nie: watter KI-modelle, agente en MCP-bedieners gebruik ons eintlik, en watter risiko dra elkeen? Daardie gaping het nou 'n naam. Gartner het KI-sekuriteitshoudingbestuur formeel gedefinieer. (KI-SPM) as 'n kategorie in sy 2025 Hype-siklus vir datasekuriteit — dieselfde afstamming wat CSPM en DSPM voortgebring het. Die kategorie bestaan omdat die syfers konkreet is: ongeveer 40% van KI-gegenereerde kode bevat sekuriteitskwesbaarhede, KI is nou deel van die aanvalsoppervlak eerder as net 'n instrument wat ontwikkelaars gebruik, en die meeste organisasies het geen gestruktureerde inventaris van die KI-bates wat hulle bestuur nie.
Dit is ook die onderwerp wat ons op die grond sal bespreek by OWASP AppSec Dae Portugal 2026, 23-24 September in Porto, waar Xygeni is 'n Goue borgMeer daaroor aan die einde, maar as jy wil voortspring, kry jou kaartjie hier.
Die probleem: KI-gegenereerde kode dra sy eie risikoprofiel
Ongeveer 40% van KI-gegenereerde kode bevat sekuriteitskwesbaarhede. Onafhanklike navorsing oor KI-koderingsassistente het konsekwent hoë mislukkingskoerse teen die gevind. OWASP Top 10, met sekere foutkategorieë soos kruiswebwerf-skripte wat in die oorgrote meerderheid van gegenereerde voorbeelde verskyn. KI-assistente skryf nie net kode vinniger nie. Hulle reproduseer ook onveilige patrone, onveilige afhanklikhede en onveilige konfigurasies vinniger, en hulle doen dit teen 'n volume waarvoor geen handmatige hersieningsproses gebou is nie.
Die aanvalsoppervlak stop nie by die kode wat 'n assistent skryf nie. Dit strek tot die KI-bates wat jou spanne reeds gebruik en selde inventariseer: modelle, datastelle, agente en MCP-bedieners. Elkeen het reeds werklike, gedokumenteerde aanvalle opgelewer:
- Reëls Lêer Agterdeur: Aanvallers versteek instruksies deur onsigbare Unicode-karakters te gebruik binne reëls en konfigurasielêers wat deur gereedskap soos GitHub Copilot en Cursor gelees word, wat veroorsaak dat die assistent agterdeurkode uitstuur sonder om dit ooit te noem. Gekatalogiseer as 'n MITRE ATLAS gevallestudie.
- MCP-gereedskapvergiftiging en uitvoering van afstandkode: 'n Kritieke kwesbaarheid in 'n wydgebruikte MCP-brug, wat meer as 437 000 keer afgelaai is, het volledige afstandkode-uitvoering moontlik gemaak die oomblik dat 'n kliënt aan 'n onbetroubare MCP-bediener gekoppel het.
- Slopsquatting: Grootskaalse akademiese navorsing het meer as twee miljoen kodemonsters oor sestien LLM's gegenereer en bevind dat byna een uit elke vyf aanbevole pakkette glad nie bestaan het nie, name wat aanvallers vooraf kan registreer en bewapen.
Niks hiervan verskyn in 'n tradisionele SAST or SCA skandering. Daardie gereedskap verstaan kode. Hulle verstaan nie wat 'n model is, wat 'n MCP-bediener doen, of of 'n agent se konfigurasielêer gepeuter is nie.
Die meeste spanne los die helfte van die probleem op
Die instinktiewe reaksie is om puntgereedskap by te voeg: een vir modelskandering, 'n ander vir looptydprompt-firewalls, 'n derde vir IDE-assistenteDis dieselfde fout wat AppSec gemaak het met SAST, SCA, en geheime skandering vyftien jaar gelede, en dit lewer dieselfde uitkoms: gefragmenteerde sigbaarheid, waarskuwingsgeraas, en geen enkele plek om te antwoord "watter KI gebruik ons eintlik, en is dit veilig nie."
Ontdekking sonder remediëring sê net vir jou waar die brand is. Remediëring sonder ontdekking beteken dat jy kode regstel terwyl skadu-MCP-bedieners en ongekeurde agente ongemoniteer langsaan loop. KI-sekuriteit moet albei dek, op dieselfde platform, anders is dit nie postuurbestuur nie. Dis 'n dashboard.
Die beter manier: KI-sekuriteitshoudingbestuur wat ontdek, opspoor en regstel
Xygeni AI Sekuriteit sluit hierdie lus oor die volle KI-era SDLC, vanaf die model en die MCP-bediener na die ontwikkelaar se eindpunt.
- Te ontdek. KI-SPM bou 'n lewendige inventaris van elke KI-bate in die organisasie: modelle, datastelle, agente, MCP-bedieners. Dit bewys dat inventaris met 'n KI-BOM, die bewysbasis waarvoor ouditeure en reguleerders toenemend vra, of dit nou tegniese dokumentasie vir hoërisiko-stelsels kragtens die EU-KI-wet is of die bate-inventarisse wat deur raamwerke soos Spanje se ENS vereis word.
- Opspoor. KI-sekuriteit beoordeel elke bate teen werklike risiko: vinnige inspuiting, onveilige MCP-konfigurasies, datablootstelling, in lyn met die OWASP Top 10 vir LLM-toepassingsBevindinge word gerangskik, nie in 'n tou geplaas nie.
- Regstel, op die punt waar kode geskryf is. Dit is waar KI-gegenereerde code security word eintlik opgelos. Xygeni DevAI loop as 'n deurlopende laag binne die IDE, wat inkrementeel skandeer soos ontwikkelaars met mensgeskrewe en KI-gegenereerde kode werk. Dit voer agentiese KI-kwesbaarheidsopsporing uit, karteer KI-gedrewe aanvalspaaie om te wys hoe 'n fout eintlik uitgebuit kan word, en lewer KI-gegenereerde veilige regstellings wat bekragtig is vir uitbuitbaarheid en risiko van deurbrake-verandering voordat 'n ontwikkelaar dit ooit toepas. Guardrails valideer veranderinge teen sekuriteits- en voldoeningsbeleid voordat hulle CI bereik, en 'n toegewyde DevAI-agent onderskep wat ander agente op die punt staan om te doen: validering van vaardigheids- en reëllêers, sifting van elke pakket wat 'n agent probeer installeer teen wanware en slopsquatting-patrone, en dophou van MCP-instrumentgedrag vir vergiftiging, alles voor uitvoering.
- Afdwing. Shield brei dieselfde beleid uit na die ontwikkelaar se eindpunt, wat onveilige KI-aktiwiteit blokkeer voordat dit loop.
En omdat KI-triage, Verduideliking en Remediëring is nie net van toepassing op Xygeni se eie bevindinge nie, maar op alles wat ingeneem word uit gereedskap wat reeds in plek is. Spanne kry dit sonder om uit te ruk waarin hulle reeds belê het.
Ontmoet Xygeni by OWASP AppSec Days Portugal 2026
Ons bring hierdie gesprek na Porto. Xygeni is 'n Goudborg by OWASP AppSec Dae Portugal 2026, hardloop September 23-24 by die Fundação António Cupertino de Miranda.
Ons sal by die geleentheid wees om KI-sekuriteitshoudingbestuur in die praktyk te bespreek: hoe spanne KI-bates ontdek wat hulle nie geweet het hulle het nie, hoe KI-gegenereerde code security pas in 'n bestaande AppSec-program in plaas daarvan om langsaan te sit, en hoe die huidige golf van MCP- en agentiese bedreigings eintlik in die natuur lyk.
As jy bywoon, Kom vind die Xygeni-span by stalletjie 12. Indien KI-sekuriteitsposisie op jou padkaart is en jy nie Porto kan bereik nie, is ons bly om dit direk deur te loop. Op dieselfde datums is ons ook by Duitse OWASP-dag 2026 in Karlsruhe, praat deur KI-sekuriteit en Shieldse afdwingingslaag spesifiek.
Bespreek 'n vergadering met ons!
FAQ
- Wat is KI-sekuriteitshoudingbestuur (KI-SPM)?
KI-SPM is die dissipline van die ontdekking, inventarisering en voortdurende assessering van die risiko van elke KI-bate wat 'n organisasie bedryf – modelle, datastelle, agente en MCP-bedieners – op dieselfde manier as wat CSPM vir die wolk doen en DSPM vir data. Gartner het dit as 'n kategorie in sy 2025 Hype Cycle for Data Security gedefinieer. Xygeni se KI-SPM bou daardie inventaris en ondersteun dit met 'n KI-BOM, wat sekuriteits- en voldoeningspanne bewyse gee wat hulle aan 'n ouditeur kan oorhandig.
- Wat maak KI-gegenereerd code security anders as tradisioneel SAST or SCA?
Tradisionele statiese analise en afhanklikheidsskandering is gebou om kode en pakkette te verstaan, nie KI-spesifieke risiko nie. Hulle sien nie vinnige inspuiting, kwaadwillige reëls of vaardigheidslêers, MCP-gereedskapvergiftiging of slordige pakketname wat 'n KI-assistent dalk installeer nie. KI-gegenereerd code security moet binne dieselfde werkvloei sit wat ontwikkelaars reeds gebruik, wat beide mensgeskrewe en KI-gegenereerde kode saam skandeer, wat Xygeni DevAI binne die IDE doen.
- Waarom bevat ongeveer 40% van KI-gegenereerde kode kwesbaarhede?
KI-koderingsassistente leer uit en reproduseer die patrone in hul opleidingsdata, insluitend onveilige patrone, en hulle genereer kode baie vinniger as wat handmatige hersiening kan byhou. Onafhanklike navorsing het konsekwent hoë koerse van OWASP Top 10-kwesbaarhede in KI-gegenereerde voorbeelde gevind, met sekere foutkategorieë soos kruiswebwerf-skripting wat in die oorgrote meerderheid toetse verskyn.
- Vervang KI-SPM ons bestaande AppSec-gereedskap?
Nee, en dit behoort ook nie te probeer nie. Xygeni se KI-triage, verduideliking en remediëring is van toepassing op bevindinge van Xygeni se eie skandeerders en op bevindinge wat ingeneem word vanaf derdeparty-instrumente wat reeds in plek is, sodat spanne verenigde KI-risikodekking kry sonder 'n rip-and-replace van wat hulle reeds belê het.
- Waar kan ek dit in aksie sien?
Xygeni is 'n Goue borg by OWASP AppSec Days Portugal 2026, 23-24 September in Porto, en die span sal op die perseel wees by stand 12 praat deur KI-SPM, KI-gegenereerd code security, en die huidige golf van MCP- en agentskapdreigemente. Kry jou kaartjie, of kontak hulle direk as jy nie Porto kan bywoon nie.
Dieselfde week is ons ook by Duitse OWASP-dag 2026 in Karlsruhe, gefokus op KI-sekuriteit en Shieldse afdwingingslaag.
