An Inventori AI merupakan katalog yang sentiasa dikemas kini bagi setiap aset AI yang beroperasi di seluruh organisasi anda — model, titik akhir berkuasa AI, set data, pembantu pengekodan AI, pelayan MCP dan kebergantungan AI — bersama-sama dengan hubungan, risiko dan pemilik yang menghubungkannya. Dalam konteks keselamatan, ini tidak ada kena mengena dengan pengurusan inventori gudang atau stok; di sini, "Inventori AI" bermaksud mengetahui dengan tepat AI yang anda jalankan, di mana ia berada dan apa yang boleh dicapainya.
Memandangkan AI merebak merentasi setiap peringkat pembangunan perisian, daripada penjanaan kod dalam IDE kepada ejen autonomi yang bertindak di dalamnya CI/CD pipelines, persoalannya bukan lagi sama ada AI wujud dalam persekitaran anda. Ia adalah sama ada anda boleh melihatnya. Panduan ini menerangkan apa itu inventori AI, bagaimana ia berkaitan dengan AI-BOM dan SBOM, mengapa bayang AI telah menjadi masalah keselamatan, dan bagaimana amalan ini dipadankan dengan Akta AI EU, NIST AI RMF dan ISO / IEC 42001.
Pengambilan kunci
- Inventori AI mengkatalogkan setiap model, set data, ejen, pelayan MCP dan alat pengekodan AI merentasi kitaran hayat perisian anda, bukan hanya yang diluluskan oleh IT.
- Shadow AI, AI yang diguna pakai tanpa tadbir urus, kini menjadi kebiasaan, bukan pengecualian: dalam satu tinjauan pada tahun 2026 terhadap pemimpin keselamatan, hanya 19% organisasi melaporkan keterlihatan penuh tentang di mana dan bagaimana AI digunakan.
- An AI-BOM (Bill of Materials AI) ialah output sedia audit bagi inventori AI: pengganti era AI kepada SBOM.
- Peraturan sedang digubal. Akta AI EU, NIST AI RMF dan ISO/IEC 42001 semuanya secara efektif memerlukan anda mengetahui AI yang anda kendalikan.
- Inventori hanyalah titik permulaan; nilainya datang daripada pemarkahan risiko dan bertindak ke atas sebilangan kecil aset yang benar-benar penting.
Apakah inventori AI?
Inventori AI ialah amalan menemui, mengkatalog dan memantau secara berterusan setiap aset AI yang beroperasi merentasi kitaran hayat pembangunan perisian anda dan risiko yang berkaitan dengan setiap satunya. Inventori yang lengkap menjawab tiga soalan untuk setiap aset: apakah itu, di mana ia dijalankan dan apakah yang boleh diaksesnya?
Skop itu lebih luas daripada yang dijangkakan oleh kebanyakan pasukan. Inventori AI yang bermakna harus merangkumi:
- model: setiap model bahasa besar dan model asas yang digunakan merentasi pembangunan dan pengeluaran, dengan keyakinan versi, lokasi dan pengesanan.
- Dataset: data latihan, set data dapatan semula dan stor vektor, termasuk pendedahan kepada konteks yang diracuni dan kebocoran data.
- Ejen: sistem autonomi yang mengambil tindakan dalam persekitaran anda, seperti pembukaan pull requests, memasang kebergantungan atau menyentuh infrastruktur.
- pelayan MCP: Protokol Konteks Model pelayan yang menghubungkan pembantu AI kepada alatan luaran, API dan sumber data.
- Alat dan pembantu pengekodan AI: juruterbang bersama dan integrasi IDE yang menjana kod, cadangkan kebergantungan dan berinteraksi dengan repositori.
- rangka kerja AILangChain, LangGraph, pelayan ejen dan lapisan orkestrasi lain yang menghubungkan model dengan alatan dan data.
- Hubungan antara aset: hubungan antara model, ejen, pelayan, set data dan rahsia yang berkaitan dengannya. Graf perhubungan menjadikan risiko kelihatan dalam konteks, bukan sebagai senarai rata.
Inventori AI vs inventori aset AI vs AI-BOM, dan bagaimana ia berbeza daripada SBOM
Istilah-istilah ini digunakan secara longgar, jadi ia membantu untuk menjadi pra-cise. "Inventori AI" dan "Inventori aset AI" menggambarkan perkara yang sama: katalog hidup aset AI dan risikonya. An AI-BOM ialah artifak boleh eksport yang dihasilkan oleh inventori: bil bahan yang boleh dibaca mesin yang boleh anda serahkan kepada juruaudit atau enterprise pembeli.
Cara paling bersih untuk memahami AI-BOM adalah melalui analogi dengan SBOM:
Apabila AI diterapkan merentasi SDLC, AI-BOM menjadi asas seperti SBOM, dan pemimpin keselamatan semakin menerima permintaan daripada juruaudit dan enterprise pasukan perolehan untuk artifak ini.
Mengapa inventori AI penting sekarang
Tiga kuasa telah mengubah inventori AI daripada sesuatu yang bagus untuk dimiliki kepada keutamaan.
- Pertama, AI menulis kod tidak selamat pada skala besar. Kajian bebas secara konsisten mendapati bahawa sebahagian besar kod yang dijana AI mempunyai kelemahan. Kajian NYU/Copilot asal oleh Pearce et al. mendapati secara kasar 40% daripada program yang dihasilkan mengandungi kelemahan keselamatan, dan titik ujian berskala besar yang lebih baru dengan cara yang sama: Analisis Veracode 2025 merentasi 100+ model hanya ditemui 55% kod yang dijana AI adalah selamatJika anda tidak tahu pembantu mana yang menjana kod dalam pipelines, anda tidak boleh mengawal risiko itu.
- Kedua, rantaian bekalan perisian telah menjadi permukaan serangan AI. Pada bulan September 2025, Shai Hulud, cacing npm yang pertama merambat sendiri, mengubah mesin pembangun menjadi mekanisme pengedaran, merebak merentasi ratusan pakej. Pada Mac 2026, penyerang telah menceroboh axios, satu pakej dengan kira-kira 100 juta muat turun mingguan, menerbitkan versi beracun yang menjatuhkan trojan akses jauh. Serangan seperti ini mendarat betul-betul di lapisan antara AppSec tradisional dan perkakasan titik akhir: lapisan yang dibina untuk menerangi inventori AI.
- Ketiga, rahsia dan kelayakan bocor melalui AI. Penyebaran Rahsia Negeri GitGuardian 2026 melaporkan bahawa Kebocoran rahsia perkhidmatan AI meningkat 81% tahun ke tahun, dan bantuan AI itu commits leak secrets pada kira-kira dua kali ganda kadar asas. Setiap model, ejen atau pelayan MCP yang tidak didokumenkan merupakan laluan berpotensi untuk mendapatkan kelayakan.
AppSec tradisional berhenti di repositori dan tidak memahami apa itu model. Alatan titik akhir memerhatikan sistem pengendalian tetapi tidak memahami pakej, pelayan MCP atau pembantu AI. Jurang antara kedua-duanya adalah tempat risiko AI terkumpul, dan inventori adalah langkah pertama untuk menutupnya.
Tempat AI bersembunyi: Bayangan AI merentasi SDLC
Shadow AI adakah sebarang sistem AI yang diguna pakai tanpa kelulusan atau tadbir urus formal: pembantu juruterbang yang didayakan oleh pembangun minggu lepas, pelayan MCP yang berjalan pada komputer riba, model itu ditarik terus dari hab awam ke dalam projek sampingan. Ia bukanlah kes pinggir. Dalam tinjauan 2026 terhadap 400+ peneraju keselamatan, hanya 19% melaporkan keterlihatan penuh tentang di mana dan bagaimana AI digunakan merentasi organisasi mereka, manakala majoriti besar sudah pun menggunakan atau merintis pembantu pengekodan AI.
AI bayangan yang paling sukar ditemui ialah AI di dalam kitaran hayat perisian, kerana ia jarang muncul dalam konsol awan:
- Model dan pustaka AI ditarik ke dalam repositori sebagai kebergantungan.
- Pembantu pengekodan AI dikonfigurasikan setiap pembangun, setiap IDE.
- Pelayan MCP dan fail peraturan yang berjalan secara setempat pada titik akhir pembangun.
- Aliran kerja ejen dibuka secara senyap pull requests atau memasang pakej.
Inilah sebabnya mengapa penemuan awan sahaja tidak mencukupi. Inventori AI yang benar-benar lengkap perlu mencapai persekitaran kod dan binaan (komputer riba pembangun, repositori, pipeline), bukan sekadar awan pengeluaran.
Apa yang sepatutnya ada dalam AI-BOM
AI-BOM yang sedia untuk audit menukar inventori anda kepada sesuatu yang boleh anda buktikan. Sekurang-kurangnya, ia harus merangkumi:
- Setiap aset AI: model, set data, ejen, pelayan MCP, alat pengekodan AI.
- Jenis aset, lokasi dan keyakinan pengesanan untuk setiap satu.
- Asal-usul dan kebergantungan (dari mana model atau komponen berasal).
- Tahap risiko setiap aset, berdasarkan vektor serangan khusus AI.
- Pemetaan kawal selia kepada Akta AI EU, NIST AI RMF dan ISO/IEC 42001.
- Format yang boleh dieksport dan dibaca mesin untuk juruaudit dan pelanggan.
Organisasi yang boleh menjana AI-BOM atas permintaan akan mempunyai kelebihan pematuhan dan kepercayaan yang sebenar apabila kewajipan audit AI matang.
Inventori dan pematuhan AI: Akta AI EU, RMF AI NIST dan ISO/IEC 42001
Tiada satu pun rangka kerja utama yang menamakan "inventori AI" sebagai item baris, tetapi setiap satunya adalah mustahil untuk dipenuhi tanpanya. Anda tidak boleh mendokumentasikan, mengklasifikasikan atau mentadbir sistem AI yang anda tidak dapat lihat.
Nota tentang masa: pelancaran Akta AI EU telah disemak semula oleh perjanjian “Omnibus Digital” Mei 2026, yang menangguhkan kebanyakan obligasi berisiko tinggi kepada Disember 2027, sambil mengekalkan beberapa peristiwa penting 2 Ogos 2026 (duti ketelusan, kuasa penalti GPAI). Anggap tarikh yang tepat sebagai sasaran yang bergerak dan sahkan terhadap sumber utama EU. Tetapi arah perjalanan adalah jelas, dan inventori adalah prasyarat untuk semuanya.
Cara membina dan menyelenggara inventori AI
Membina inventori bukanlah sekadar audit sekali sahaja tetapi lebih kepada mewujudkan proses yang berterusan, kerana aset AI sentiasa berubah: model baharu diguna pakai, ejen baharu digunakan, pelayan MCP baharu dikonfigurasikan, selalunya tanpa kelulusan.
Pendekatan praktikal:
- Temui secara automatik merentasi kod, binaan dan awan. Hamparan manual akan menjadi basi dalam beberapa hari. Discovery perlu dijalankan secara berterusan dan mencapai SDLC, bukan sekadar masa jalan.
- Mengelaskan dan memetakan hubungan. Jenis rekod, lokasi, asal usul dan, secara kritikalnya, bagaimana setiap aset berhubung dengan aset lain dan dengan rahsia.
- Skor risiko dalam konteks. Senarai rata ratusan penemuan tidak membantu sesiapa; utamakan mengikut apa yang sebenarnya boleh dicapai, boleh dieksploitasi dan kritikal perniagaan.
- Tetapkan pemilikan. Setiap aset memerlukan pemilik yang bertanggungjawab.
- Pastikan ia aktif dan boleh dieksport. Kekalkannya sebagai inventori berterusan yang boleh menghasilkan AI-BOM apabila diminta.
Apa yang perlu dicari dalam perisian inventori AI
Jika anda menilai perkakasan, berikut adalah keupayaan yang memisahkan perisian inventori AI tulen daripada senarai statik:
- Memahami jenis aset khusus AI (model, ejen, pelayan MCP, set data), bukan sekadar pakej dan pustaka.
- Mencapai ke dalam SDLC, menemui AI dalam kod dan pada titik akhir pembangun, bukan sahaja di awan.
- Hubungan peta, bukan hanya aset individu, jadi risiko dapat dilihat dalam konteks.
- Menunjukkan risiko pada vektor serangan khusus AI (suntikan segera, MCP tidak selamat, agensi berlebihan), bukan sahaja keterukan CVE.
- Berjalan berterusan, menangkap AI baharu seperti yang kelihatan.
- Menghasilkan AI-BOM yang sedia untuk audit yang memuaskan hati kedua-dua juruaudit dan enterprise perolehan.
- Menghubungkan inventori dengan penguatkuasaan, supaya anda boleh bertindak berdasarkan apa yang anda temui.
Daripada inventori kepada tindakan: mengamankan apa yang anda temui
Penemuan adalah langkah pertama; yang kedua ialah memahami aset mana yang membawa risiko sebenar, kerana kebanyakannya tidak akan. Matlamatnya adalah untuk beralih daripada beribu-ribu penemuan mentah kepada segelintir yang sebenarnya boleh menjejaskan sistem, data atau operasi: yang sedang digunakan secara aktif, menerima input yang tidak dipercayai, boleh dieksploitasi secara realistik, mempunyai akses sensitif dan menjejaskan pengeluaran atau aset yang dikawal selia.
Di sinilah Pengurusan Postur Keselamatan AI (AI-SPM) mengambil: mengambil inventori, menilai risiko di sepanjang laluan serangan AI, memetakannya kepada peraturan dan menghasilkan AI-BOM. Di sinilah inventori bertemu dengan penguatkuasaan: menyekat kebergantungan berniat jahat sebelum dipasang, menolak pelayan dan model MCP yang tidak diluluskan dan membendung titik akhir yang terjejas sebelum insiden merebak.
At Xygeni, inilah model yang kami bina ke arah: inventori AI berterusan dan AI-BOM melalui AI-SPM, pengesanan malware yang menangkap pakej berniat jahat sebelum tandatangan wujud (MEW, Amaran Awal Perisian Hasad), dan penguatkuasaan dasar di titik akhir pembangun melalui Xygeni Shield. Pengesanan diselaraskan dengan 10 Teratas OWASP untuk Aplikasi LLM, 10 Teratas OWASP untuk Aplikasi Agentik dan 10 Teratas OWASP MCP. Tetapi apa jua pendekatan yang anda pilih, prinsipnya tetap: Anda tidak dapat mengamankan apa yang tidak dapat dilihat, dan inventori AI adalah tempat keterlihatan bermula.
Soalan Lazim
Bagaimanakah AI-BOM berbeza daripada SBOM?
An SBOM katalog kebergantungan perisian sumber terbuka dan pihak ketiga, dijaringkan berdasarkan tahap keterukan CVE. AI-BOM mengkatalogkan aset khusus AI (model, ejen, pelayan MCP, set data) dengan pemarkahan risiko khusus AI dan pemetaan kawal selia. Memandangkan AI merebak merentasi SDLC, AI-BOM menjadi asas seperti SBOM.
Apakah itu shadow AI dan bagaimana saya menemuinya?
Shadow AI ialah sebarang AI yang diguna pakai tanpa kelulusan atau tadbir urus formal: juruterbang bersama yang didayakan, pelayan MCP tempatan, model yang diambil daripada hab awam. Anda menemuinya dengan inventori automatik berterusan yang mencapai kod, binaan pipelines dan titik akhir pembangun, bukan sahaja awan pengeluaran di mana kebanyakan AI bayangan tidak pernah muncul.
Adakah Akta AI EU memerlukan inventori AI?
Akta AI EU tidak menamakan "inventori AI" secara eksplisit, tetapi tugas dokumentasi, pengelasan dan pendaftarannya untuk sistem berisiko tinggi adalah mustahil untuk dipenuhi tanpanya. Perkara yang sama berlaku untuk RMF NIST AI (Fungsi Peta, Tadbir Urus 1.6) dan ISO/IEC 42001, yang memerlukan penyelenggaraan inventori sistem AI.
Apakah itu AI-SPM?
Pengurusan Postur Keselamatan AI (AI-SPM) ialah amalan penemuan aset AI secara berterusan, menilai risikonya di sepanjang laluan serangan AI, memetakannya mengikut peraturan dan menghasilkan AI-BOM. Ia melanjutkan pemikiran pengurusan postur (biasa daripada CSPM dan DSPM) kepada aset dan vektor serangan khusus AI.
Berapa kerapkah inventori AI perlu dikemas kini?
Berterusan. Aset AI berubah setiap hari apabila pasukan menerima pakai model baharu, menggunakan ejen baharu dan mengkonfigurasi pelayan MCP baharu, biasanya tanpa kelulusan rasmi. Imbasan tepat masa akan lapuk dalam beberapa hari, jadi perisian inventori AI yang berkesan berjalan sebagai proses berterusan dan bukannya audit sekali sahaja.
Bagaimanakah saya boleh inventori AI yang digunakan dalam kod sumber?
Inventori AI dalam kod bermaksud mengesan model dan pustaka AI yang ditarik masuk sebagai kebergantungan, pembantu pengekodan AI yang dikonfigurasikan setiap pembangun dan pelayan MCP atau fail peraturan yang berjalan secara setempat. Ini memerlukan penemuan yang beroperasi di dalam SDLC (repositori, bina pipelines dan titik akhir pembangun) dan bukannya hanya dalam konsol awan.
