Itzal-AI erakunde batean onartu eta erabiltzen den edozein AI sistema da, baimen formalik, ikusgarritasunik edo gobernantzarik gabe: garatzaile batek joan den astean bere IDEan gaitutako kopilotua, hub publiko batetik alboko proiektu batera ateratako eredua, segurtasun-taldeko inork ez dakien ordenagailu eramangarri batean exekutatzen ari den MCP zerbitzaria. Ez da muturreko kasu bat. 2026an segurtasun-buruei egindako inkesta batean, erakundeen % 19k bakarrik adierazi zuten ikusgarritasun osoa non eta nola erabiltzen den AI beren ingurunean.
Itzal-AI zer den ulertzea (eta praktikan nolakoa den itzal-AIaren esanahia) garrantzitsua da, ez baita datuen gobernantza arazo bat soilik. Itzal-AIa itzal-ITaren ondorengoa da AIaren arokoa, baina alde kritiko batekin: SaaS tresna gaizto batek betetze-buruhausteak sortzen ditu, baina... zuregana sartzeko aukera duen IA agente maltzurra pipelines, biltegiek eta sekretuek erasotzeko gainazal bat sortzen dute. Gida honek azaltzen du zer den itzaleko IA, zergatik hedatzen den gobernantzak jarraitu dezakeena baino azkarrago, zer arrisku sortzen dituen eta nola erakundeek aurkitu eta kudeatu dezaketen gertakari bihurtu aurretik.
Itzal AIaren esanahia: Definizio sakona #
Itzal-AIak adimen artifizialeko edozein tresna, eredu, agente edo integrazio baimenik gabe erabiltzea adierazten du, erakunde baten lan-fluxuetan edo azpiegituretan, IT edo segurtasun taldeen ezagutza, baimenik edo gainbegiratzerik gabe.
Terminoak itzaleko ITaren (baimenik gabeko softwarea eta zerbitzuak) kontzeptua IA sistemen propietate espezifikoetara zabaltzen du. Itzal ITak normalean norbaitek baimenik gabe instalatutako produktibitate tresna bat deskribatzen duen bitartean, itzaleko IAk gainazal askoz zabalagoa eta arriskutsuagoa hartzen du: hizkuntza eredu handiak datu sentikorrak prozesatzen dituzte datuen gobernantza kontrolik gabe, IA kodeketa laguntzaileak sortzen eta... commitsegurtasun-berrikuspenik gabeko kodea sortzea, agente autonomoak jarduten pipelineInork formalki eman ez dituen baimenak dituzten zerbitzariak eta biltegiak, eta IA laguntzaileak barneko tresnetara konektatzen dituzten MCP zerbitzariak, baimen-zerrendarik edo monitorizazio-geruzarik gabe.
Itzaleko AIaren esanahia, praktikan, hau da: zure erakundea operatiboki menpe dagoen baina ezin duen ikusi, ezin duen auditatu eta ezin duen gobernatu AI. Kasu gehienetan ez da nahitako saihestea. AI tresnak hain eskuragarri eta emankor bihurtzearen emaitza da, ezen adopzioak normalean lagunduta egongo liratekeen gobernantza prozesuak gainditzen baititu.
Shadow AI vs Shadow IT: Zein da aldea? #
Itzal IT eta itzaleko AI-k erro bera dute (langileek eta taldeek beren produktibitatea hobetzen duten tresnak hartzea onarpen formalaren zain egon gabe), baina haien arrisku-profilak guztiz desberdinak dira.
IT itzalak normalean datuen gobernantza eta betetze arriskuak ekartzen ditu: baimenik gabeko hodeiko biltegiratze zerbitzu batek fitxategiak agerian utz ditzake, eta baimenik gabeko proiektuen kudeaketa tresna batek datu pertsonalak kudea ditzake GDPR kontrolik gabe. Arriskuak errealak dira, baina, oro har, mugatuak dira eta segurtasun taldeek ondo ulertzen dituzte.
Itzal-AIak arrisku horiek guztiak sartzen ditu eta itzal-ITak ez dituen hainbat gehitzen ditu. Jabedun kode-baseak edo bezeroen datuak prozesatzen dituen baimenik gabeko AI eredu batek datu horiek kanpoko azpiegitura batera bidal ditzake datuak prozesatzeko akordiorik gabe. Segurtasun-kontrolik gabeko kodea sortzen duen AI kodeketa-laguntzaile batek ahultasunak sar ditzake gizaki batek ezin duen berrikusle batek parekatu. Barruan jarduten duen agente autonomo batek CI/CD pipelinebaimen formalik gabekoek ekintzak egin ditzakete (mendekotasunak instalatzea, irekitzea) pull requests, konfigurazio fitxategiak aldatzen) segurtasun-taldearentzat zein gaitu dituen garatzailearentzat ikusezinak direnak.
Desberdintasun handiena agentzia da. IT itzala pasiboa da: datuak gordetzen, transmititzen eta prozesatzen ditu. AI itzalak jardun dezake, eta agentzia-fluxuetan, modu autonomoan jokatzen du, makinaren abiaduran, garatzailearen ingurune osoan. Tresna pasiboetatik agentzia aktibora igarotze horrek bihurtzen du AI itzala hornidura-katearen segurtasun-arazo bat, ez soilik datuen gobernantza-arazo bat.
Zergatik hedatzen da? #
Itzaleko AIa betidanik itzaleko ITak izan duen arrazoi beragatik ugaltzen da: tresna erabiltzeak dakarren produktibitate-irabazia berehalakoa eta pertsonala da, eta ofizial egingo lukeen gobernantza-prozesua, berriz, motela eta antolakuntzazkoa da.
IA tresnen irisgarritasunak dinamika hau izugarri bizkortu du. IA kodeketa laguntzaileak IDE luzapen gisa daude eskuragarri, doakoak edo kostu baxukoak, edozein garatzailek segundo gutxitan gaitu ditzakeenak. Ereduak hub publikoetatik zuzenean proiektuaren mendekotasun zuhaitzera atera daitezke. MCP zerbitzariak JSON lerro gutxi batzuetan lokalean konfigura daitezke. Ekintza horietako batek ere ez du IT onarpenik, erosketa-zigilurik edo segurtasun-berrikuspenik behar, eta horietako bat ere ez da hodeiko kontsola batean agertzen.
Hiru indar espezifikok bultzatzen dute itzaleko AIaren adopzioa: #
- Produktibitatea. Adimen artifizialaren tresnek nabarmen bizkortzen dute garatzaileek, analistek eta segurtasun-ingeniariek egiten duten lana. Ahultasun baten konponketa iradokitzen duen, proba-multzo bat sortzen duen edo errepikapen-prozesu bat automatizatzen duen IA kodeketa-laguntzaile bat. pipeline Zereginak berehalako balioa ematen du. Onarpen prozesu batek balio hori lortzeko itxarotea pertsona gehienek borondatez onartuko ez duten marruskadura da.
- Erabilerraztasuna2026an aktiboki erabiltzen diren IA tresna gehienek ez dute azpiegiturarik, ez erosketa ziklorik eta ez IT inplikaziorik behar hartzeko. SaaS produktuak, IDE pluginak, npm paketeak eta CLI tresnak dira. Adopzioaren oztopoa arakatzailearen fitxa bat edo terminaleko komando bat da.
- InvisibilityItzaleko AI zaila da gobernatzen, neurri batean ikustea zaila delako. Tokian tokiko exekutatzen ari den eredu bat, dotfile batean konfiguratutako MCP zerbitzari bat, CI lan-fluxu batean txertatutako agente bat: horietako bat ere ez da agertzen hodeiko aktiboen inbentarioan. Hodeiko aurkikuntzan soilik oinarritzen diren segurtasun-taldeek etengabe galduko dute erakunde osoan erabiltzen den AI gehiena.
Itzal AIren Arriskuak #
Itzaleko AI-k arriskua sortzen du lau dimentsiotan, eta bakoitzak besteak konposatzen ditu.
- Datuen esposizioa: Adimen artifizialaren tresnek ematen zaizkien datu guztiak prozesatzen dituzte. Jabedun kode-base bat baimenik gabeko LLM batean itsasten duen garatzaile batek, edo zeregin bat burutzeko sekretu-fitxategi bat irakurtzen duen agente batek, datu sentikorrak kanpoko azpiegituretara transmititu ditzake datuak prozesatzeko akordiorik, datuen egoitza-kontrolik edo auditoria-aztarnarik gabe. IBMren ikerketaren arabera, langileen heren batek baino gehiagok onartzen dute laneko informazio sentikorra partekatzen dutela adimen artifizialaren tresnekin beren enpresaburuaren baimenik gabe, eta kasu askotan, bi aldeetako batek ere ez du jakitun datuen kudeaketaren ondorioez.
- Hornikuntza-katearen eraso-azalera: IA itzala bektore bat da, ez gobernantza hutsune bat soilik. IA tresnei zuzendutako pakete gaiztoak (ollama-helpers eta openai-agents-helpers klusterrak,...) SkillLeak eredua, -a Mamu-jarraitzailea kanpaina) bereziki diseinatuta daude gainbegiratze formalik gabe IA tresnak erabiltzen dituzten garatzaileetara iristeko. Mendekotasun bat modu autonomoan instalatzen duen baimenik gabeko IA kodeketa laguntzaile batek ez du segurtasun berrikuspenik pakete gaiztoaren eta bere exekuzioaren artean. Instalazio kakoa da eskanerrek begiratzen duten tokia; trebetasunen direktorioa, menpekotasun trantsitiboa, MCP zerbitzaria - horiexek dira mehatxuak iristen diren tokia.
- Betetze-esposizioa: EBko IA Legeak, GDPRk, NIST IA RMFk eta ISO/IEC 42001 araudiak erakundeek bete ezin dituzten betebeharrak sortzen dituzte, zein IA erabiltzen duten jakin gabe. Itzaleko IA, definizioz, tresna onartuen inbentario batean oinarritzen den edozein betetze-programaren esparrutik kanpo geratzen da. GDPR ez-betetzeagatiko isunak bakarrik 20 milioi euro edo munduko urteko diru-sarreren % 4ra irits daitezke, eta datu pertsonalak prozesatzeko baimenik gabeko eredu bat erabiltzea betetze-urraketa zuzena da, asmoa edozein dela ere.
- Gobernantza eta kalitate arriskua: IA ereduek beren entrenamendu datuak, konfigurazioa eta jasotzen dituzten sarrerak islatzen dituzten irteerak sortzen dituzte. Kalitate-kontrolik, alborapen-ebaluaziorik edo irteera-balidaziorik gabe zabaldutako baimenik gabeko eredu batek arazoak sortzen ditu.ciserakundeak ikusgarritasunik ez duen ioien sorrera arriskua. Itzal-IA sistema bateko modeloen desbideratzea, haluzinazioak eta irteera alboratuak ikusezinak dira bezeroen kexa, arauzko kontsulta edo segurtasun-intzidente gisa agertu arte.
Non ezkutatzen den #
Itzal-IA aurkitzeko zailena software garapen-zikloaren barruan dagoen IA da, aurretikcissegurtasun taldeek begiratzen duten lekuetan agertzeko inoiz diseinatu ez zelako.
Itzal-IA barruan SDLC normalean lau lekutan bizi da:
- Tokiko MCP zerbitzariak. Tokiko IDE ezarpenetan konfiguratutako MCP zerbitzariak (dotfolder bateko JSON fitxategi bat) dira guztien artean ikusezinenak. IA laguntzaileak zuzenean konektatzen dituzte fitxategietara, APIetara, biltegietara eta sekretuetara, detektatzeko sare-perimetrorik gabe eta haiek atzitzeko baimen-prozesurik gabe.
- Garatzaileen amaiera-puntuak. Garatzaile eta IDE bakoitzeko (Copilot, Cursor, Windsurf edo edozein MCP gaitutako bezero) konfiguratutako IA kodeketa laguntzaileak garatzailearen makinan exekutatzen dira eta ikusezinak dira hodeiko aktiboen inbentarioetarako. Konektatzen diren modeloak, kableatzen dituzten MCP zerbitzariak eta prozesatzen dituzten datuak ez dira inoiz erregistro zentralizatu batean agertzen, erakundeak amaiera-puntuko mailako ikusgarritasuna ez badu behintzat.
- Kode biltegiak. npm, PyPI edo beste ekosistema-mendekotasun batzuk bezala sartutako IA ereduak eta liburutegiak kode-basean sartzen dira beste edozein pakete bezala. Gabe SCA AIrako aktibo mota espezifikoak ulertzen dituzten tresnak direnez (ez bakarrik CVE puntuazioak), ezin dira beste edozein menpekotasunetik bereizi zerbait gaizki joan arte.
- CI/CD pipelines. Irekitzen diren agenteen lan-fluxuak pull requests, menpekotasunak instalatu edo konfigurazio fitxategiak aldatu barruan funtzionatzen dute pipeline gizakiek egindako automatizaziorako diseinatutako azpiegitura. GitHub Actions lan-fluxu batean edo Jenkins lan batean txertatutako IA agente batek beste edozein urratsek adina baimen ditu. pipeline eta ikusgarritasun geruzarik ez lehenespenez.
Nola aurkitu eta kudeatu itzalen AIa #
Itzal-AI aurkitzeak aktiboen aurkikuntza tradizionalaren ikuspegi desberdina eskatzen du, itzal-AI ez baita agertzen aurkikuntza tradizionala agertzen den lekuetan.
- Sartu barrura. SDLC, ez hodeia bakarrik. Hodeiko aktiboen aurkikuntzak itzal-IA gehiena galtzen du. Aurkikuntza eraginkorrak kode-biltegien barruan funtzionatu behar du, eraiki pipelines eta garatzaileen amaiera-puntuak, AI kodetze tresnak, MCP zerbitzariak eta modeloen menpekotasunak garatzaileek jartzen dituzten leku berdinetan aurkituz, ez hodeiko kontsoletan, non inoiz agertzen ez diren.
- Tratatu IAren mendekotasunak beste edozein hornidura-kateko arrisku bezala. Kode-base batean sartutako IA liburutegiak, ereduak eta MCP paketeak hornikuntza-kateko aktiboak dira. Aplikatu edozein kode irekiko menpekotasuni egingo zeniokeen azterketa bera: jatorria, bertsio-historia, portaeraren azterketa eta argitaratu berri diren bertsio gaiztoen denbora errealeko monitorizazioa.
- MCP zerbitzariak lehen mailako aktibo gisa inbentariatu. MCP zerbitzariak ez dira garatzaileentzako erosotasunak; fitxategietarako, APIetarako sarbidea duten integrazio pribilegiatuak dira, pipelines, eta sekretuak. MCP zerbitzari guztiak inbentariatu, ebaluatu eta onartu edo blokeatu egin behar dira, garatzailearen amaierako muturrean betearazpena eginez, politika dokumentuetan oinarritu beharrean.
- Aplikatu AI-SPM gobernantza-geruza gisa. AI Segurtasun Jarreraren Kudeaketa (AI-SPM) itzaleko AI eskala handian jorratzeko bereziki diseinatutako praktika da, erakunde osoko AI aktibo guztiak etengabe aurkituz, haien arriskua AI eraso bektore espezifikoen aurka puntuatuz, arauzko betebeharrekin lotuz eta politikak betearaziz kudeatu gabeko AI gertakari bihurtu aurretik. AI inbentarioa da lehen irteera; AI-BOM bat betetzeak eskatzen duen auditoriarako prest dagoen artefaktua da.
Xygeni-rekin itzaleko AI ziurtatzea #
Itzal-IA ezin da politika soilik bidez gobernatu. "Garatzaileek ez dituzte baimenik gabeko IA tresnak erabili behar" dioen politika batek ez du garatzaile baten ordenagailu eramangarrian exekutatzen ari den MCP zerbitzaria detektatzen, ez du joan den asteartean mendekotasun-zuhaitz batean sartutako IA eredua markatzen, eta ez du IA agente batek modu autonomoan instalatu duen pakete gaiztoa blokeatzen.
Xygeni-ren AI Segurtasun plataformak itzaleko AI etengabeko aurkikuntza eta betearazpen arazo gisa jorratzen du: AI-SPM-k modelo, agente, MCP zerbitzari eta AI kodeketa tresna guztiak aurkitzen ditu. SDLC (garatzaileen amaiera-puntuetan, kode-biltegietan eta barruan barne) CI/CD pipelines) bat ekoiztea AI-BOM aktibo bakoitza bere arrisku-mailarekin eta araudi-sailkapenarekin lotzen duena. Shield politikak garatzailearen amaieran betearazten ditu, onartu gabeko MCP zerbitzariak eta mendekotasun gaiztoak blokeatuz iritsi aurretik pipeline. Malwarearen abisu goiztiarra AI tresnei zuzendutako pakete gaiztoak detektatzen ditu argitaratze unean, CVE bat existitu baino lehen.
Zuen taldeek IA kodeketa laguntzaileak erabiltzen badituzte, itzaleko IA arazoa dagoeneko hor dago. Galdera da ea ikus dezakezun.
ohiko galderak #
Erasotzaileek bereziki gainbegiratze formalik gabe IA tresnak erabiltzen dituzten garatzaileak erasotzen dituzte. IA tresna legitimoen itxura hartzeko diseinatutako pakete gaiztoak (ollama, openai-agents, MCP bezeroak eta antzeko paketeak helburu dituztenak) IA agenteen bidez mendekotasunak modu autonomoan instalatzen dituzten garatzaileetara iristeko diseinatuta daude, pakete gaiztoaren eta exekuzioaren artean berrikuslerik gabe. IA itzalak gainazal hori zabaltzen du, bestela onartu gabeko tresnak markatuko edo blokeatuko lituzkeen gobernantza geruza kenduz, tresna horiek iritsi aurretik. pipeline.
IA itzalen aurkikuntza eraginkorrak IA itzalak benetan bizi diren lekuetara iristea eskatzen du: garatzaileen amaiera-puntuak, kode-biltegiak eta CI/CD pipelines, ez bakarrik hodeiko kontsolak, non itzal-IA gehiena ez den inoiz agertzen. Horrek esan nahi du etengabeko inbentario automatizatua dagoela, IAren aktibo mota espezifikoak (ereduak, agenteak, MCP zerbitzariak, datu-multzoak, IA kodetze tresnak) ulertzen dituena, ez bakarrik paketeak eta liburutegiak. IA Segurtasun Jarreraren Kudeaketa (IA-SPM) aurkikuntza hau eskalan operatibalizatzen duen praktika da, etengabe eguneratzen den IA inbentarioa eta esportatu daitekeen IA-BOM bat sortuz betetze eta auditoria helburuetarako.
