Seguridad ng AI (tinatawag din Siber sa seguridad ng AI) ay tumutukoy sa kasanayan sa pag-secure ng parehong mga tool ng AI na ginagamit sa pagbuo ng software at ang code at imprastraktura na nalilikha ng mga ito. Habang ang AI ay nabubuo sa bawat yugto ng SDLC, mula sa pagbuo ng code hanggang sa pag-deploy, nagpapakilala ito ng isang bagong uri ng panganib: mga modelo, ahente, mga MCP server, at mga AI coding assistant na sila mismo ay maaaring pagsamantalahan, maling pagkakaayos, o ginawang armas.
Ang pag-secure ng mga ito ay nangangailangan ng pagiging tanaw, panganib na pagmamarka, at pagpapatupad sa buong siklo ng buhay ng ahente sa pag-unlad, hindi lamang ang code na isinusulat ng iyong koponan, kundi pati na rin ang AI na sumusulat nito, ang mga tool na kinokonekta nito, at ang pipelinedumadaan ito.
Ang OWASP Global AppSec EU 2026 ay gaganapin sa Hunyo 22–26 sa Vienna, Austria, at para sa mga pangkat ng seguridad na naglalayag sa paglipat sa pag-unlad na native ng AI, ito ang pinakamahalagang pagtitipon ng taon. Ang Xygeni ay nasa Booth G-08 buong linggo, kasama ang mga live na demo, mga espesyalista sa produkto, at ang unang pampublikong demonstrasyon ng Xygeni AI Inventory.
Bakit ang Seguridad ng AI ang Pangunahing Hamon ng 2026
Ang AI ay hindi na lamang isang kasangkapan sa produktibidad para sa mga development team. Ito ay naging bahagi na ng mga attack surface. Sa loob ng wala pang isang taon, ang supply chain ng software ay sumipsip ng isang bagong uri ng banta. Isang self-propagating npm worm ang gumawa sa mga developer na maging mga mekanismo ng paghahatid. Itinago ng mga nation-state actor ang malware sa loob ng isang package na na-download nang 100 milyong beses sa isang linggo. Ang isang LLM ay ginawang sandata upang magtanim ng malware sa loob ng isang autonomous agent. Hindi ito mga edge case; ang mga ito ang bagong baseline.
Ang mga numero ay sumasalamin sa pagbabago: tumaas ang pagnanakaw ng kredensyal 160% sa 2025, kasama ang pag-uulat ng Naitalang Hinaharap 90% mas maraming kredensyal ang ninakaw noong Q4 2025 kaysa sa Q1 2025 nag-iisa, at ang AI ay parehong nagpapabilis sa mga pag-atake at nagpapalawak sa ibabaw ng pag-atake. Isang kahinaan ng iisang MCP bridge (CVE-2025-6514) ay na-download nang 437,000 beses bago ito nahuli. Ngayon, 5.5% ng mga pampublikong MCP server may mga depekto sa pagkalason sa kagamitan, at 43% ang may mga kahinaan sa command-injection.
Ang pangunahing problema ay ang kakulangan sa arkitektura. Ang tradisyunal na AppSec ay nakahihinto sa repository at hindi alam kung ano ang isang modelo. Binabantayan ng EDR ang operating system at hindi nauunawaan ang mga package, MCP server, o AI assistant.
Ang pagsasara ng puwang na iyon ay nangangailangan ng ibang uri ng plataporma.
Ang Ginagawa ng Xygeni AI Security
Ang Xygeni AI Security ay nakabatay sa iisang prinsipyo: huwag magtiwala, beripikahin ang lahat, kasama na ang AI. Pinoprotektahan nito ang parehong AI na iyong ginagamit at ang AI na iyong ginagamit sa pagbuo, sa buong ahensya. SDLCAng arkitektura ay may tatlong patong: Tuklasin, Tuklasin, at Ipatupad.
Matuklasan - AI-SPM: Alamin ang Bawat Ari-arian ng AI
Hindi mo mase-secure ang hindi mo nakikita. Binibigyan ng Xygeni AI-SPM ang mga team ng live na imbentaryo ng bawat modelo, dataset, agent, MCP server, at AI coding tool sa kanilang organisasyon. Inilalahad nito ang mga ugnayan sa pagitan nila, inilalantad ang panganib na nag-uugnay sa kanila, at ini-export ang isang AI-BOM na handa nang i-audit, ang AI Bill of Materials na mabilis na nagiging kahalili ng... SBOM.
para CISNaku, isa itong maipagtatanggol na mapagkukunan ng katotohanan para sa bawat AI audit, na nakaugnay sa EU AI Act, NIST AI RMF, at ISO/IEC 42001.
Detect - Pagmamarka ng Panganib ng AI: Mula sa Libu-libong Natuklasan Hanggang sa Iilan na Mahalaga
Pinagsasama ng Xygeni AI Security ang deterministic analysis sa LLM-based semantic understanding upang mahuli ang tradisyonal na... SAST at SCA hindi tama. Natutukoy nito ang mabilis na pag-iniksyon at pagtagas ng agarang sistema, mga hindi ligtas na configuration ng MCP, pagsisiwalat ng sensitibong impormasyon sa mga AI file, mga kahinaan ng vector at embedding, mga malisyosong tagubilin sa mga dokumento at rule file, mga pabaya na AI dependencies, mga hardcoded na LLM credential, at mga ahente na gumagana nang lampas sa mga naka-configure na limitasyon.
Sa kritikal na aspeto, inuuna nito ang mga totoong landas ng pag-atake ng AI, hindi ang mga hilaw na marka ng kalubhaan ng OWASP. Karamihan sa mga tool sa seguridad ng AI ay nagbibigay ng libu-libong natuklasan at tinatawag itong visibility. Sinasala ng Xygeni ang lahat ng natuklasan hanggang sa reachability, exploiability, at impact sa negosyo, kaya sa halip na isang backlog, nakakakuha ang mga team ng maikli at tumpak na listahan ng kung ano talaga ang kailangang ayusin ngayon.
Ang AI nito ay naaangkop din sa mga natuklasan mula sa iyong mga umiiral na SAST, SCA, at mga tool sa scanner, para mapalawak ng mga team ang kanilang kasalukuyang stack sa halip na palitan ito.
Ipatupad – Shield: Walang Tiwala sa Endpoint ng Developer
Ang makina ng developer ay kung saan unang isinasagawa ang isang malisyosong pakete, sa sandaling tumakbo ang npm install, bago pa man umabot ang anumang bagay sa build. pipelineDinadala ng Xygeni Shield ang Dependency Firewall sa endpoint.
Sinusuri nito ang bawat pakete habang kinukuha ito at hinaharangan ang mga hindi ligtas o malisyosong pag-install bago pa man tumakbo ang post-install script. Pinapagana ng MEW (Maagang Babala sa Malware), hinuhuli ng Shield ang mga malisyosong pakete gamit ang mga hatol ng AI na gumagana bago pa man magkaroon ng lagda. Ipinapatupad din nito ang mga allowlist ng MCP, hinaharangan ang mga hindi pinagkakatiwalaang kasanayan sa AI at mga file ng panuntunan, pinipigilan ang pagtakbo ng mga hindi awtorisadong modelo at ahente ng AI, at maaaring awtomatikong ihiwalay ang isang nakompromisong endpoint kapag may dumating na kritikal na alerto, na nagkokontrol sa insidente bago ito kumalat sa buong organisasyon.
Ano ang Aasahan sa Booth G-08 Ngayong Linggo
- Paglabas sa Vienna: Live na demo ng Xygeni AI Inventory. Tingnan ang naka-map na ibabaw ng iyong AI attack nang real time, bawat modelo, ahente, MCP server, at AI coding tool na ginagamit ng iyong organisasyon, kasama ang mga risk score at relationship graph.
- Demo ng Live Dependency Firewall. Panoorin ang pagsusuri at pagharang ng Shield sa isang malisyosong pakete sa endpoint, bago ito i-install, bago pa man magkaroon ng lagda.
- Kumpletong gabay sa plataporma. Tingnan kung paano natutukoy, inuuna, at inaayos ng Xygeni ang mga kahinaan, malware, mga sikreto, at panganib sa supply chain sa mga AI-native SDLCs, mula sa IDE hanggang sa produksyon.
- Makipag-usap sa koponan. Ang mga espesyalista sa AppSec at DevSecOps ng Xygeni ay nasa booth buong linggo para sa mga pag-uusap tungkol sa AI-generated. code security, CI/CD proteksyon, pamamahala ng MCP, panganib sa supply chain ng software, at modernong arkitektura ng AppSec. Alexander, Agustin, Marcos, at Jesus pupuntahan kita para makilala ka!
AI Cybersecurity sa Panahon ng Ahente: Ang mga Tanong na Sulit Itanong sa Vienna
Dumating ang OWASP Global AppSec EU 2026 sa isang punto ng pagbabago para sa AI cybersecurity. Ang OWASP Top 10 para sa LLM Applications, ang OWASP Top 10 para sa Agentic Apps (2026), at ang OWASP MCP Top 10 ay pawang mga live framework na ngayon, at karamihan sa mga organisasyon ay hindi pa nakakapagmapa ng kanilang pagkakalantad laban sa alinman sa mga ito.
Ang mga tanong na dapat itanong ng mga pinuno ng seguridad ngayong linggo:
- Nasaan ang AI sa iyo? SDLC? Karamihan sa mga organisasyon ay hindi kayang sagutin ito nang may kumpiyansa. Ang mga Shadow MCP server, mga hindi naaprubahang modelo, at mga hindi sinusubaybayang AI agent ang mga bagong shadow IT, at tumatakbo na ang mga ito sa iyong... pipelines.
- Ano ang mangyayari kapag ang AI-generated code ay nagpapadala ng isang kahinaan? 40% ng AI-generated code ay naglalaman ng mga kahinaan sa seguridad. Kung wala SAST na nakakaintindi ng mga pattern na binuo ng AI at antas ng IDE guardrails, ang mga kahinaang iyon ay mas mabilis na umaabot sa produksyon kaysa dati.
- May alam ba ang iyong AppSec stack sa MCP? Ang mga MCP server ay naging pangunahing tagapagdala ng mga pag-atake sa tool-poisoning at command-injection. Kung ang iyong security tooling ay walang MCP inventory at enforcement layer, mayroon kang blind spot na ginagamit na ng mga attacker.
- Makakagawa ka ba ng AI-BOM para sa isang auditor ngayon? Mga regulator at enterprise Nagsisimula na itong hilingin ng mga mamimili. Ang mga organisasyong makakasagot ng oo ay magkakaroon ng malaking kalamangan sa pagsunod at tiwala.
Bisitahin ang Xygeni sa OWASP Global AppSec EU 2026
Booth G-08 · Hunyo 22–26 · Vienna, Austria
Dumaan para sa isang live demo, isang pakikipag-usap sa team, eksklusibong mga bagay-bagay, o isang pahinga mula sa mga sesyon. Kung gusto mong garantiyahan ang oras kasama ang isang espesyalista, mag-book ng in-booth demo slot nang maaga sa Xygeni.
Ang Xygeni ay ang plataporma na tumutuklas, nagbibigay-priyoridad, at nagpapatupad ng seguridad ng AI sa buong supply chain ng software, mula sa imbentaryo ng AI at pagmamarka ng panganib hanggang sa pagpapatupad ng patakaran sa endpoint ng developer. Isang plataporma. Isang modelo ng panganib. Isang control plane.
Nakita ito ng AI-SPM. Nakuha ito ng AI Security. Pinigilan ito ng Shield.
FAQ's
Ano ang seguridad ng AI sa pagbuo ng software?
Ang seguridad ng AI sa pagbuo ng software ay nangangahulugan ng pag-secure ng parehong mga tool ng AI na ginagamit ng iyong mga koponan (mga modelo, ahente, mga MCP server, mga AI coding assistant) at ang code na nalilikha ng mga tool na iyon. Saklaw nito ang pagtuklas ng mga asset ng AI, pagmamarka ng panganib laban sa mga framework ng OWASP, at pagpapatupad ng patakaran sa endpoint ng developer.
Ano ang isang AI-BOM?
Ang AI Bill of Materials (AI-BOM) ay isang imbentaryo na nababasa ng makina ng bawat asset ng AI sa isang organisasyon. SDLC (mga modelo, dataset, ahente, MCP server, at mga tool sa AI coding) kasama ang kanilang mga ugnayan, mga marka ng panganib, at pagmamapa ng regulasyon. Mabilis itong nagiging katumbas ng panahon ng AI SBOM.
Ano ang seguridad ng MCP?
MCP (Model Context Protocol) Ang seguridad ay tumutukoy sa kasanayan sa pag-secure ng mga koneksyon sa pagitan ng mga AI assistant at mga panlabas na tool, API, at mga mapagkukunan ng data. Ang mga MCP server ay lumitaw bilang pangunahing vector ng pag-atake noong 2025–2026, na may mga depekto sa tool-poisoning at command-injection na naidokumento sa isang malaking bahagi ng mga pampublikong MCP server.
Ano ang Xygeni AI Security?
Ang Xygeni AI Security ay isang plataporma na tumutuklas, nagbibigay ng iskor, at nagpapatupad ng seguridad ng AI sa buong supply chain ng software. Pinagsasama nito ang AI-SPM (AI Security Posture Management) para sa imbentaryo at pagbuo ng AI-BOM, pagmamarka ng panganib ng AI na nakahanay sa OWASP LLM at MCP Top 10 frameworks, at Shield para sa pagpapatupad ng zero-trust policy sa developer endpoint.
Ano ang slopsquatting?
Ang slopsquatting ay isang pag-atake kung saan mga malisyosong artista nagrerehistro ng mga pangalan ng package na malamang na guni-guni o iminumungkahi ng mga AI coding assistant, na tinatarget ang mga developer na nag-i-install ng mga dependency na inirerekomenda ng AI nang walang beripikasyon.
