An hàng tồn kho AI Đây là một danh mục được cập nhật liên tục về mọi tài sản AI đang hoạt động trong toàn bộ tổ chức của bạn — các mô hình, điểm cuối được hỗ trợ bởi AI, tập dữ liệu, trợ lý lập trình AI, máy chủ MCP và các phụ thuộc AI — cùng với các mối quan hệ, rủi ro và chủ sở hữu liên kết chúng. Trong bối cảnh an ninh, điều này không liên quan gì đến quản lý kho hàng hoặc hàng tồn kho; ở đây, "Kiểm kê AI" Đơn giản chỉ cần biết chính xác bạn đang sử dụng loại trí tuệ nhân tạo nào, nó đặt ở đâu và phạm vi ảnh hưởng của nó ra sao.
Khi trí tuệ nhân tạo (AI) lan rộng khắp mọi giai đoạn phát triển phần mềm, từ việc tạo mã trong môi trường phát triển tích hợp (IDE) đến các tác nhân tự động hoạt động bên trong hệ thống. CI/CD pipelineNhư vậy, câu hỏi không còn là liệu trí tuệ nhân tạo (AI) có hiện diện trong môi trường của bạn hay không. Vấn đề là bạn có nhìn thấy nó hay không. Hướng dẫn này giải thích kho dữ liệu AI là gì, và mối liên hệ của nó với... AI-BOM và một SBOM, tại sao bóng ai đã trở thành một vấn đề an ninh, và cách thức thực hiện này liên quan đến... Đạo luật AI của EU, NIST AI RMF và ISO / IEC 42001.
Những điểm chính
- Một danh mục kiểm kê AI sẽ lập danh mục mọi mô hình, tập dữ liệu, tác nhân, máy chủ MCP và công cụ lập trình AI trong suốt vòng đời phần mềm của bạn, chứ không chỉ những công cụ được bộ phận CNTT phê duyệt.
- AI bóng tốiViệc áp dụng AI mà không có sự quản lý hiện nay đã trở thành chuẩn mực chứ không phải ngoại lệ: trong một cuộc khảo sát các nhà lãnh đạo an ninh năm 2026, chỉ có 19% các tổ chức báo cáo có cái nhìn toàn diện về nơi và cách thức AI được sử dụng..
- An AI-BOM (Danh sách vật liệu của AI) là kết quả đầu ra sẵn sàng cho kiểm toán của một hệ thống kiểm kê AI: phiên bản kế nhiệm trong kỷ nguyên AI của... SBOM.
- Các quy định đang dần được ban hành. Đạo luật AI của EU, Khung quản lý rủi ro AI của NIST và tiêu chuẩn ISO/IEC 42001 đều yêu cầu bạn phải biết mình đang vận hành loại AI nào.
- Việc lập danh mục chỉ là bước khởi đầu; giá trị thực sự đến từ việc đánh giá rủi ro và hành động dựa trên một số ít tài sản thực sự quan trọng.
Kho hàng AI là gì?
Kiểm kê AI là quá trình phát hiện, lập danh mục và liên tục giám sát mọi tài sản AI hoạt động trong suốt vòng đời phát triển phần mềm của bạn, cũng như các rủi ro gắn liền với từng tài sản. Một bản kiểm kê đầy đủ sẽ trả lời ba câu hỏi cho mỗi tài sản: nó là gì, nó chạy ở đâu và nó có thể truy cập những gì?
Phạm vi đó rộng hơn hầu hết các nhóm mong đợi. Một bản kiểm kê AI có ý nghĩa cần bao gồm:
- mô hình: Mọi mô hình ngôn ngữ lớn và mô hình nền tảng được sử dụng trong quá trình phát triển và sản xuất, kèm theo thông tin về phiên bản, vị trí và độ tin cậy phát hiện.
- Bộ dữ liệu: dữ liệu huấn luyện, tập dữ liệu truy xuất và kho lưu trữ vector, bao gồm cả việc tiếp xúc với ngữ cảnh bị nhiễm độc và rò rỉ dữ liệu.
- Đại lý: các hệ thống tự động thực hiện các hành động trong môi trường của bạn, chẳng hạn như mở pull requests, cài đặt các thư viện phụ thuộc, hoặc can thiệp vào cơ sở hạ tầng.
- Máy chủ MCP: Giao thức ngữ cảnh mô hình Các máy chủ kết nối trợ lý AI với các công cụ, API và nguồn dữ liệu bên ngoài.
- Công cụ và trợ lý lập trình AI: các trình điều khiển phụ và tích hợp IDE tạo mãĐề xuất các phụ thuộc và tương tác với các kho lưu trữ.
- Khung AI: LangChain, LangGraph, máy chủ tác nhân và các lớp điều phối khác kết nối các mô hình với công cụ và dữ liệu.
- Mối quan hệ giữa các tài sản: Mối liên hệ giữa các mô hình, tác nhân, máy chủ, tập dữ liệu và các bí mật liên quan đến chúng. Biểu đồ mối quan hệ giúp hiển thị rủi ro trong bối cảnh cụ thể, chứ không phải dưới dạng một danh sách phẳng.
So sánh giữa kho AI, kho tài sản AI và danh sách vật tư AI (AI-BOM), và sự khác biệt giữa chúng. SBOM
Các thuật ngữ này được sử dụng khá tùy tiện, vì vậy việc hiểu rõ trước đó sẽ rất hữu ích.cise. “Danh mục AI” và “Danh mục tài sản AI” mô tả cùng một khái niệm.: Danh mục cập nhật liên tục về các tài sản AI và rủi ro của chúng. AI-BOM là sản phẩm xuất khẩu được tạo ra từ quá trình kiểm kê.: một bảng kê vật tư có thể đọc được bằng máy mà bạn có thể giao cho kiểm toán viên hoặc... enterprise người mua.
Cách đơn giản nhất để hiểu AI-BOM là thông qua sự tương đồng với... SBOM:
Khi trí tuệ nhân tạo ngày càng được ứng dụng rộng rãi... SDLC, AI-BOM đang trở nên quan trọng không kém gì... SBOMvà các nhà lãnh đạo an ninh ngày càng nhận được nhiều yêu cầu từ các kiểm toán viên và enterprise các đội thu mua cần chính xác hiện vật này.
Vì sao quản lý kho bằng AI lại quan trọng hiện nay?
Ba yếu tố đã biến việc quản lý kho bằng trí tuệ nhân tạo từ một tính năng "có thì tốt" thành một ưu tiên hàng đầu.
- Thứ nhất, trí tuệ nhân tạo đang viết mã không an toàn trên quy mô lớn. Các nghiên cứu độc lập liên tục chỉ ra rằng một phần lớn mã do AI tạo ra đều chứa các lỗ hổng bảo mật. Nghiên cứu ban đầu của NYU/Copilot do Pearce và cộng sự thực hiện đã tìm thấy khoảng... 40% các chương trình được tạo ra có chứa các lỗ hổng bảo mật.và các thử nghiệm quy mô lớn gần đây cũng chỉ ra điều tương tự: Phân tích năm 2025 của Veracode trên hơn 100 mẫu máy chỉ tìm thấy... 55% mã do AI tạo ra là an toàn.Nếu bạn không biết trợ lý nào đang tạo mã trong hệ thống của mình, pipelineBạn không thể kiểm soát rủi ro đó.
- Thứ hai, chuỗi cung ứng phần mềm đã trở thành bề mặt dễ bị tấn công bởi trí tuệ nhân tạo. Vào tháng Chín 2025, Shai Hulud, loại sâu máy tính tự lan truyền đầu tiên của npm, đã biến máy tính của nhà phát triển thành một cơ chế phân phối, lây lan qua hàng trăm gói phần mềm. Vào tháng 3 năm 2026, những kẻ tấn công đã xâm nhập axios, một gói hàng với khoảng 100 triệu lượt tải xuống hàng tuầnPhát tán các phiên bản bị nhiễm độc có chứa mã độc Trojan truy cập từ xa. Các cuộc tấn công như vậy nhắm chính xác vào lớp nằm giữa bảo mật ứng dụng truyền thống và các công cụ điểm cuối: lớp mà hệ thống kiểm kê AI được xây dựng để làm sáng tỏ.
- Thứ ba, các bí mật và thông tin đăng nhập đang bị rò rỉ thông qua trí tuệ nhân tạo. Báo cáo "Tình trạng phân tán kho lưu trữ bí mật năm 2026" của GitGuardian cho biết rằng Số vụ rò rỉ bí mật dịch vụ AI tăng 81% so với năm trước.và rằng trí tuệ nhân tạo hỗ trợ commits leak secretở mức cao gấp đôi so với tỷ lệ cơ bản. Mỗi mô hình, tác nhân hoặc máy chủ MCP không được ghi chép đều là một con đường tiềm tàng dẫn đến thông tin xác thực.
Bảo mật ứng dụng truyền thống chỉ dừng lại ở kho lưu trữ và không hiểu mô hình là gì. Các công cụ điểm cuối giám sát hệ điều hành nhưng không hiểu về các gói phần mềm, máy chủ MCP hoặc trợ lý AI. Khoảng trống giữa chúng là nơi rủi ro AI tích tụ, và việc lập danh mục là bước đầu tiên để thu hẹp khoảng trống đó.
Nơi trí tuệ nhân tạo ẩn náu: Bóng ma trí tuệ nhân tạo lan rộng khắp thế giới. SDLC
AI bóng tối Liệu có hệ thống AI nào được áp dụng mà không có sự phê duyệt hoặc quản trị chính thức hay không: ví dụ như trợ lý ảo mà một nhà phát triển đã kích hoạt tuần trước, máy chủ MCP chạy trên máy tính xách tay, hoặc mô hình được lấy trực tiếp từ một trung tâm công cộng vào một dự án phụ. Đây không phải là trường hợp ngoại lệ. Trong một cuộc khảo sát năm 2026 với hơn 400 nhà lãnh đạo an ninh, chỉ có 19% cho biết họ hoàn toàn nắm được thông tin về nơi và cách thức AI được sử dụng. Trong toàn bộ tổ chức của họ, phần lớn đã và đang sử dụng hoặc thử nghiệm các trợ lý lập trình AI.
Loại AI ẩn khó tìm nhất chính là AI nằm trong vòng đời phần mềm, bởi vì nó hiếm khi xuất hiện trong bảng điều khiển đám mây:
- Các mô hình và thư viện AI được đưa vào kho lưu trữ dưới dạng các phần phụ thuộc.
- Trợ lý lập trình AI được cấu hình riêng cho từng nhà phát triển, từng môi trường phát triển tích hợp (IDE).
- Các máy chủ MCP và các tệp quy tắc đang chạy cục bộ trên các thiết bị đầu cuối của nhà phát triển.
- Các quy trình làm việc của tác nhân đang âm thầm mở ra. pull requests hoặc cài đặt các gói phần mềm.
Đây là lý do tại sao việc chỉ dựa vào phát hiện trên đám mây là chưa đủ. Một hệ thống kiểm kê AI thực sự hoàn chỉnh cần phải bao quát cả mã nguồn và môi trường xây dựng (máy tính xách tay của nhà phát triển, kho lưu trữ, v.v.). pipeline), không chỉ là đám mây sản xuất.
Những gì nên có trong AI-BOM
Một hệ thống AI-BOM sẵn sàng cho kiểm toán sẽ biến hàng tồn kho của bạn thành thứ có thể chứng minh được. Tối thiểu, nó cần bao gồm:
- Mọi tài sản AI: mô hình, tập dữ liệu, tác nhân, máy chủ MCP, công cụ lập trình AI.
- Loại tài sản, vị trí và độ tin cậy phát hiện cho từng tài sản.
- Nguồn gốc và các yếu tố phụ thuộc (mô hình hoặc thành phần đó đến từ đâu).
- Mức độ rủi ro cho mỗi tài sản, dựa trên các vectơ tấn công cụ thể của AI.
- Đối chiếu quy định với Đạo luật AI của EU, Khung quản lý rủi ro AI của NIST và tiêu chuẩn ISO/IEC 42001.
- Một định dạng có thể xuất khẩu và đọc được bằng máy tính dành cho kiểm toán viên và khách hàng.
Các tổ chức có khả năng tạo ra AI-BOM theo yêu cầu sẽ có lợi thế thực sự về tuân thủ và độ tin cậy khi các nghĩa vụ kiểm toán AI ngày càng trở nên quan trọng.
Kiểm kê và tuân thủ AI: Đạo luật AI của EU, Khung quản lý rủi ro AI của NIST và tiêu chuẩn ISO/IEC 42001
Không có khuôn khổ chính nào liệt kê "danh mục kiểm kê AI" như một hạng mục riêng biệt, nhưng trên thực tế, mỗi khuôn khổ đều không thể đáp ứng được yêu cầu nếu thiếu nó. Bạn không thể ghi chép, phân loại hoặc quản lý các hệ thống AI mà bạn không thể nhìn thấy.
Lưu ý về thời gian: việc triển khai Đạo luật AI của EU đã được sửa đổi bởi thỏa thuận “Digital Omnibus” tháng 5 năm 2026, trong đó hoãn hầu hết các nghĩa vụ rủi ro cao đến tháng 12 năm 2027, đồng thời vẫn giữ nguyên một số mốc thời gian ngày 2 tháng 8 năm 2026 (nghĩa vụ minh bạch, quyền xử phạt GPAI). Hãy coi các ngày chính xác là mục tiêu thay đổi và xác nhận lại thông tin từ các nguồn chính thức của EU. Nhưng hướng đi đã rõ ràng, và việc lập danh mục là điều kiện tiên quyết cho toàn bộ quá trình này.
Cách xây dựng và duy trì kho dữ liệu AI
Việc xây dựng danh mục tài sản không chỉ đơn thuần là một cuộc kiểm toán một lần mà còn là việc thiết lập một quy trình liên tục, bởi vì các tài sản AI thay đổi liên tục: các mô hình mới được áp dụng, các tác nhân mới được triển khai, các máy chủ MCP mới được cấu hình, thường là không cần sự phê duyệt.
Một cách tiếp cận thực tế:
- Tự động khám phá trên toàn bộ mã nguồn, quy trình xây dựng và đám mây. Các bảng tính thủ công sẽ trở nên lỗi thời chỉ sau vài ngày. Quá trình tìm kiếm phải diễn ra liên tục và tiếp cận được nhiều nguồn dữ liệu. SDLCKhông chỉ thời gian chạy.
- Phân loại và lập bản đồ các mối quan hệ. Ghi lại loại tài sản, vị trí, nguồn gốc và, quan trọng nhất, cách mỗi tài sản liên kết với những tài sản khác và với các bí mật.
- Đánh giá rủi ro trong bối cảnh cụ thể. Một danh sách hàng trăm phát hiện khô khan chẳng giúp ích gì cho ai; hãy ưu tiên những gì thực sự có thể đạt được, có thể khai thác và có tầm quan trọng đối với hoạt động kinh doanh.
- Gán quyền sở hữu. Mỗi tài sản đều cần một người chủ có trách nhiệm.
- Hãy giữ cho nó hoạt động và có thể xuất khẩu được. Duy trì nó như một kho hàng liên tục có thể tạo ra danh sách vật liệu (BOM) dựa trên trí tuệ nhân tạo (AI) theo yêu cầu.
Những điều cần lưu ý khi chọn phần mềm quản lý kho hàng bằng trí tuệ nhân tạo
Nếu bạn đang đánh giá các công cụ, đây là những khả năng giúp phân biệt phần mềm quản lý kho hàng bằng trí tuệ nhân tạo thực sự với một danh sách tĩnh:
- Hiểu rõ các loại tài sản đặc thù của AI. (các mô hình, tác nhân, máy chủ MCP, tập dữ liệu), chứ không chỉ là các gói và thư viện.
- Vươn tới SDLCKhám phá trí tuệ nhân tạo trong mã nguồn và trên các thiết bị đầu cuối của nhà phát triển, không chỉ trên nền tảng đám mây.
- Mối quan hệ giữa các bản đồKhông chỉ là rủi ro của từng tài sản riêng lẻ, mà còn bao gồm cả rủi ro trong bối cảnh tổng thể.
- Đánh giá rủi ro điểm số trên các vectơ tấn công cụ thể của AI (tiêm nhanh, MCP không an toàn, quyền hạn quá mức), không chỉ mức độ nghiêm trọng của CVE.
- Chạy liên tụcNắm bắt những công nghệ AI mới ngay khi chúng xuất hiện.
- Tạo ra danh sách vật tư (BOM) dựa trên AI, sẵn sàng cho việc kiểm toán. điều đó làm hài lòng cả kiểm toán viên và enterprise mua sắm.
- Kết nối kho hàng với việc thực thi pháp luật.Để bạn có thể hành động dựa trên những gì mình tìm thấy.
Từ kiểm kê đến hành động: bảo vệ những gì bạn tìm thấy
Khám phá là bước đầu tiên; bước thứ hai là hiểu rõ những tài sản nào tiềm ẩn rủi ro thực sự, bởi vì hầu hết sẽ không. Mục tiêu là chuyển từ hàng ngàn phát hiện thô sang một số ít những phát hiện có thể thực sự gây nguy hiểm cho hệ thống, dữ liệu hoặc hoạt động: những tài sản đang được sử dụng, chấp nhận đầu vào không đáng tin cậy, có khả năng bị khai thác, nắm giữ quyền truy cập nhạy cảm và ảnh hưởng đến sản xuất hoặc các tài sản được quản lý.
Đây là nơi Quản lý tư thế an ninh AI (AI-SPM(Phần này đề cập đến các bước sau: lập danh mục, đánh giá rủi ro dọc theo lộ trình tấn công AI, đối chiếu với quy định và tạo ra AI-BOM. Đây cũng là nơi mà việc kiểm kê gặp gỡ việc thực thi: chặn các phụ thuộc độc hại trước khi chúng được cài đặt, từ chối các máy chủ và mô hình MCP không được phê duyệt và ngăn chặn các điểm cuối bị xâm phạm trước khi sự cố lan rộng.)
At XygeniĐây là mô hình chúng ta đang hướng tới: kiểm kê AI liên tục và AI-BOM thông qua AI-SPM, phát hiện phần mềm độc hại bắt giữ các gói độc hại trước khi có chữ ký (MEW, Hệ thống cảnh báo sớm phần mềm độc hại), và việc thực thi chính sách tại điểm cuối của nhà phát triển thông qua Xygeni Shield. Việc phát hiện được căn chỉnh theo OWASP Top 10 cho Ứng dụng LLM, OWASP Top 10 cho Ứng dụng Agentic và OWASP MCP Top 10. Nhưng dù bạn chọn phương pháp nào, nguyên tắc vẫn giữ nguyên: Bạn không thể bảo vệ những gì bạn không thể nhìn thấy, và việc kiểm kê bằng AI chính là bước khởi đầu cho sự minh bạch.
Câu Hỏi Thường Gặp
AI-BOM khác với... như thế nào? SBOM?
An SBOM Danh mục này liệt kê các phần mềm mã nguồn mở và phần mềm của bên thứ ba, được chấm điểm theo mức độ nghiêm trọng của lỗ hổng CVE. Danh mục AI-BOM liệt kê các tài sản dành riêng cho AI (mô hình, tác nhân, máy chủ MCP, tập dữ liệu) với điểm rủi ro và bản đồ quy định dành riêng cho AI. Khi AI lan rộng khắp nơi... SDLC, AI-BOM đang trở nên quan trọng không kém gì... SBOM.
Trí tuệ nhân tạo bóng tối là gì và làm thế nào để tôi phát hiện ra nó?
AI bóng tối là bất kỳ AI nào được áp dụng mà không có sự phê duyệt hoặc quản lý chính thức: một trợ lý ảo được kích hoạt, một máy chủ MCP cục bộ, một mô hình được lấy từ một trung tâm công cộng. Bạn phát hiện ra nó bằng cách kiểm kê tự động liên tục, đi sâu vào mã nguồn và quá trình xây dựng. pipelinecác điểm cuối dành cho nhà phát triển và người dùng cuối, chứ không chỉ là đám mây sản xuất nơi hầu hết AI ngầm không bao giờ xuất hiện.
Đạo luật về trí tuệ nhân tạo của EU có yêu cầu lập danh mục trí tuệ nhân tạo hay không?
Đạo luật AI của EU không đề cập rõ ràng đến "danh mục AI", nhưng việc lập tài liệu, phân loại và đăng ký các hệ thống có rủi ro cao là không thể thực hiện được nếu thiếu danh mục này. Điều tương tự cũng đúng với NIST AI RMF (chức năng Bản đồ, Govern 1.6) và ISO/IEC 42001, vốn yêu cầu duy trì danh mục các hệ thống AI.
AI-SPM là gì?
Quản lý tư thế an ninh AI (AI Security Posture Management - AI-SPM) là hoạt động liên tục phát hiện các tài sản AI, đánh giá rủi ro của chúng dọc theo lộ trình tấn công AI, đối chiếu chúng với các quy định và tạo ra danh sách các mối đe dọa (AI-BOM). Nó mở rộng tư duy quản lý tư thế (quen thuộc từ CSPM và DSPM) cho các tài sản và vectơ tấn công cụ thể của AI.
Tần suất cập nhật kho hàng của AI nên là bao lâu?
Liên tục. Tài sản AI thay đổi hàng ngày khi các nhóm áp dụng các mô hình mới, triển khai các tác nhân mới và cấu hình các máy chủ MCP mới, thường là không có sự phê duyệt chính thức. Một bản quét tại một thời điểm nhất định sẽ trở nên lỗi thời trong vòng vài ngày, vì vậy phần mềm kiểm kê AI hiệu quả hoạt động như một quy trình liên tục chứ không phải là một cuộc kiểm toán một lần.
Tôi có thể lập danh mục các trí tuệ nhân tạo (AI) được sử dụng trong mã nguồn như thế nào?
Việc lập danh mục AI trong mã nguồn có nghĩa là phát hiện các mô hình và thư viện AI được kéo vào dưới dạng phụ thuộc, các trợ lý lập trình AI được cấu hình cho từng nhà phát triển, và các máy chủ MCP hoặc các tệp quy tắc đang chạy cục bộ. Điều này đòi hỏi khả năng khám phá hoạt động bên trong... SDLC (kho lưu trữ, xây dựng) pipeline(và các điểm cuối dành cho nhà phát triển) chứ không chỉ trong các bảng điều khiển đám mây.
