Hãy hỏi một chuyên gia an ninh xem hiện tại có bao nhiêu công cụ AI đang truy cập dữ liệu của công ty, và bạn sẽ nhận được một con số khá chắc chắn. Nhưng con số đó sẽ sai, và không phải vì ai đó đang che giấu điều gì. Hầu hết các AI "ngầm" không để lại dấu vết gì: không cài đặt, không giấy phép, không mục nào. Chỉ là một tab trình duyệt và một thông tin cá nhân. login Khoảng cách giữa AI mà chính sách của bạn bao gồm và AI mà tổ chức của bạn thực sự sử dụng chính là nguyên nhân gây ra rủi ro AI bóng tối, và nó đã phát triển từ một vấn đề nhỏ trong lĩnh vực CNTT thành một trong những hạng mục phát triển nhanh nhất trong bảo mật ứng dụng. Hướng dẫn này sẽ trình bày cách phát hiện và loại bỏ AI bóng tối trong thực tế, cùng với các tín hiệu phát hiện và các bước quản trị có hiệu quả sau khi quá trình kiểm toán kết thúc.
Rủi ro AI ngầm trong một đoạn văn
Trí tuệ nhân tạo ngầm (Shadow AI) là bất kỳ công cụ, mô hình, tác nhân hoặc lệnh gọi API nào hoạt động bên trong tổ chức của bạn mà không qua quá trình xem xét an ninh hoặc kiểm duyệt của bộ phận CNTT. Đây là sự kế thừa trực tiếp của CNTT bóng tối, nhưng khó phát hiện hơn: CNTT bóng tối thường để lại hồ sơ mua sắm hoặc chữ ký mạng mà CASB có thể đối chiếu. AI bóng tối thường không để lại cả hai. Một nhân viên dán hợp đồng vào chatbot được đăng nhập bằng tài khoản cá nhân, hoặc một nhà phát triển kết nối trực tiếp khóa API từ nhà cung cấp mô hình vào một tập lệnh, và không có thao tác nào liên quan đến kho hàng của nhà cung cấp. Hai số liệu được báo cáo độc lập cho thấy mức độ rủi ro của AI bóng tối đã tích lũy như thế nào: 80% người lao động sử dụng các công cụ AI mà tổ chức của họ chưa phê duyệt, theo báo cáo Tình trạng AI bóng tối năm 2026 của Unseen Security, và 86% tổ chức cho biết họ thiếu khả năng hiển thị về cách dữ liệu thực sự chảy đến và đi từ các công cụ AI đang được sử dụng.
Vì sao rủi ro của AI ngầm vượt xa rủi ro của CNTT ngầm?
Ba sự thay đổi giải thích tại sao rủi ro AI ngầm lan rộng nhanh hơn so với hệ thống quản trị được xây dựng để ngăn chặn CNTT ngầm, và không sự thay đổi nào trong số đó có thể đảo ngược.
- AI không còn cần cài đặt nữa. Các công cụ định nghĩa CNTT bóng tối (phần mềm SaaS không được cấp phép, tiện ích mở rộng trình duyệt bất hợp pháp) để lại bằng chứng trong kho tài sản. Một trợ lý AI được mở trong một tab trình duyệt, hoặc một API mô hình được gọi bằng thẻ cá nhân, không để lại bất cứ thứ gì để giám sát điểm cuối hoặc bộ phận mua sắm có thể phát hiện.
- Trí tuệ nhân tạo (AI) đã được tích hợp vào các công cụ mà bạn đã phê duyệt. Các tính năng kiểu Copilot hiện được tích hợp sẵn trong các nền tảng đã có trong danh sách cho phép. Nền tảng đã được xem xét. Khả năng AI đã được âm thầm kích hoạt bên trong, nhưng thông thường nó không làm vậy.
- Khối lượng công việc đã chuyển từ điều khiển bằng con người sang điều khiển bằng máy móc. Nhóm ThreatLabz của Zscaler đã phân tích 536.5 tỷ giao dịch trí tuệ nhân tạo và máy học. trên toàn bộ hệ thống điện toán đám mây của mình và ghi nhận mức tăng trưởng 3,464.6% so với cùng kỳ năm ngoái. enterprise Lưu lượng truy cập AI/ML. Quy mô thay đổi đó chính là lý do tại sao một đánh giá rủi ro AI ngầm được thực hiện cách đây một năm đã trở nên lỗi thời, và tại sao các cuộc kiểm toán tại một thời điểm cụ thể liên tục thất bại trước một vấn đề ngày càng trầm trọng hơn mỗi tháng.
Nơi trí tuệ nhân tạo bóng tối thực sự ẩn náu
Các nhóm bảo mật khi tìm kiếm rủi ro AI ngầm bằng các công cụ CNTT ngầm thường thu được một danh sách không đầy đủ, bởi vì các điểm ẩn náu khác nhau:
- Các công cụ dựa trên trình duyệt, không để lại dấu vết trên thiết bị đầu cuối. Trí tuệ nhân tạo (AI) hoạt động hoàn toàn trong một tab. Không cần phát hiện tác nhân, không cần cài đặt bất cứ thứ gì.
- Các tính năng trí tuệ nhân tạo được tích hợp trong các nền tảng được cấp phép. Nền tảng đã được xem xét. Tuy nhiên, tính năng trí tuệ nhân tạo được tích hợp sau đó lại không được xem xét kỹ lưỡng.
- Chi phí sử dụng API được thanh toán cá nhân. Một lập trình viên đặt API mẫu lên thẻ cá nhân và gọi trực tiếp từ mã nguồn. API này không bao giờ đến bộ phận mua hàng, vì vậy nó không bao giờ được cập nhật vào kho hàng.
- Hướng dẫn và hồ sơ kỹ năng của đặc vụ chưa được xem xét. Các công cụ lập trình tác nhân ngày càng tuân theo các hướng dẫn được viết trực tiếp vào kho lưu trữ (tệp kỹ năng, quy tắc tác nhân), và các tệp đó có thể kết nối tác nhân với mô hình, tập dữ liệu hoặc máy chủ MCP mà không ai phê duyệt.
Cách phát hiện và loại bỏ AI bóng tối
Việc biết cách phát hiện và loại bỏ AI ngầm đòi hỏi phải xử lý nó như hai vấn đề riêng biệt nhưng phải được giải quyết đồng thời: tìm ra những gì đã tồn tại và đảm bảo rằng chúng không quay trở lại mà không được kiểm soát.
Hãy nhận biết: ba tín hiệu hoạt động cùng nhau.
Không có một lần quét nào có thể phát hiện hết tất cả các nguy cơ từ trí tuệ nhân tạo ẩn nấp, bởi vì mỗi vị trí ẩn nấp phía trên đều để lại một dấu vết khác nhau.
- Nhật ký mạng và máy chủ proxy. Nhật ký tường lửa, máy chủ proxy và DNS của bạn đã ghi lại các cuộc gọi đi đến các điểm cuối của nhà cung cấp AI, bất kể công cụ đó đã được phê duyệt hay chưa. Các cuộc gọi API tần suất cao từ một máy chủ duy nhất, tải trọng gửi đi lớn hoặc lưu lượng truy cập tự động ngoài giờ làm việc đến điểm cuối của mô hình là những mẫu đáng để phân tích.
- Tín hiệu nhận dạng và truy cập. Nhật ký mạng cho bạn biết một công cụ đang được sử dụng; nhà cung cấp danh tính của bạn cho bạn biết ai đứng sau nó và họ đã cấp quyền truy cập đến mức nào. Hãy cảnh giác với các yêu cầu OAuth đến các ứng dụng AI chưa được xem xét, việc đăng nhập vào các công cụ AI bằng tài khoản cá nhân thay vì tài khoản doanh nghiệp và hoạt động API tài khoản dịch vụ mà không ai có thể giải thích được.
- Khám phá tài sản và mã nguồn. Đây là lớp standard Các công cụ CNTT ngầm còn thiếu sót, và điều này đặc biệt quan trọng đối với cách AI xuất hiện trong phần mềm: các mô hình, tập dữ liệu, điểm cuối suy luận, tác nhân, máy chủ MCP và các công cụ lập trình AI được tham chiếu trực tiếp trong kho lưu trữ. pipelinevà các tập tin kỹ năng, không chỉ trong lưu lượng truy cập trình duyệt. Nếu thiếu lớp này, bạn có thể thấy việc này Một API mô hình đã được gọi; bạn không thể nhìn thấy. cái nào Người đại diện đã gọi điện, từ cái nào pipelinehoặc những gì nó được kết nối, đó chính xác là nơi mà Rủi ro AI ngầm biến thành sự cố chuỗi cung ứng thay vì vi phạm chính sách.
Hãy loại bỏ nó: bốn bước để loại bỏ hoàn toàn
Việc phát hiện cho bạn biết những gì đang hoạt động. Biến điều đó thành một thứ bền vững cần bốn bước, được thực hiện theo vòng lặp chứ không phải là một cuộc kiểm toán một lần, vì rủi ro AI ngầm thay đổi nhanh hơn bất kỳ đánh giá hàng năm nào có thể theo dõi.
- Chỉ lập một danh mục kiểm kê, chứ không phải ba. Tài sản truyền thống (khoản tiền mua lại, pipelineCác tài sản AI (mô hình, tập dữ liệu, tác nhân, máy chủ MCP, công cụ lập trình) và các tài sản AI khác (mô hình, tập dữ liệu, tác nhân, máy chủ MCP, công cụ lập trình) cần phải cùng tồn tại trong một giao diện, với các mối quan hệ giữa chúng được thể hiện rõ ràng. Một công cụ AI thoạt nhìn có vẻ vô hại có thể tiềm ẩn nguy cơ nguy hiểm thực sự khi bạn biết được tập dữ liệu nào cung cấp dữ liệu cho nó và điểm cuối nào mà nó tương tác.
- Phân loại trước khi soạn thảo chính sách. Một quy định cấm “dữ liệu nhạy cảm trong các công cụ AI” sẽ vô nghĩa nếu không ai biết dữ liệu nào được coi là nhạy cảm. Hãy biết dữ liệu được quy định và dữ liệu bí mật nằm ở đâu, và hãy để sự phân loại đó quyết định trường hợp sử dụng AI nào được chấp nhận và trường hợp nào không bao giờ được phép rời khỏi công ty.
- Hãy cho các đội một lộ trình phê duyệt nhanh hơn, chứ không phải một danh sách cấm dài hơn. Mọi người tìm đến AI "ngầm" vì lựa chọn được cho phép chậm hơn so với tab đang mở trước mặt họ. Một danh mục được quản lý chặt chẽ các mô hình và tác nhân được phê duyệt, với thông tin xác thực được trừu tượng hóa khỏi các nhà phát triển, sẽ loại bỏ lý do để lách luật.
- Thực thi quy định tại nơi rủi ro thực sự phát sinh: quá trình cài đặt và cuộc gọi. Việc chặn một mô hình trong tài liệu không ngăn cản tác nhân cài đặt nó. Cơ chế thực thi cần được đặt tại thời điểm gói được cài đặt hoặc API được gọi, để hành động bị chặn tự động thất bại thay vì phụ thuộc vào việc ai đó nhớ quy tắc.
Rủi ro AI ngầm có ý nghĩa gì đối với bảo mật ứng dụng, chứ không chỉ riêng CNTT?
Hầu hết các hướng dẫn về AI ngầm đều coi đây đơn thuần là vấn đề ngăn ngừa mất dữ liệu, và DLP là một phần hợp pháp của nó. Nhưng một phần ngày càng tăng của rủi ro AI ngầm không hề xuất hiện trên trình duyệt: nó xuất hiện dưới dạng một gói ảo mà một tác nhân cố gắng cài đặt, một máy chủ MCP không ai kiểm duyệt, hoặc một trợ lý lập trình có quyền truy cập thường trực vào kho lưu trữ mà nó chưa bao giờ được phép truy cập. Đó không phải là CNTT ngầm được gắn nhãn AI. Đó là một loại rủi ro chuỗi cung ứng phần mềm mới, và nó cần cùng một kỷ luật mà AppSec đã áp dụng cho bất kỳ sự phụ thuộc nào khác: biết những gì có ở đó, xác minh nó và tự động hóa việc xác minh thay vì hy vọng mọi nhà phát triển đều nhớ kiểm tra.
Hãy ngừng quản lý AI từ một bảng tính.
Khoảng cách không phải là nỗ lực; mà là khả năng hiển thị: hầu hết các nhóm đều thiếu một nơi duy nhất tập hợp các tài sản AI, mã nguồn và... pipelineChúng xuất hiện cùng nhau, và đó chính xác là khoảng cách giữa "chúng ta có một chính sách AI ngầm" và "chúng ta thực sự có thể thực thi nó".
Đó là vấn đề. Xygeni Nền tảng bảo mật AI được xây dựng dựa trên đó. Hệ thống kiểm kê AI liên tục và tự động phát hiện mọi tài sản AI trong kho lưu trữ của bạn. pipelineCác môi trường phát triển và hệ thống: mô hình, khung phần mềm, tập dữ liệu, điểm cuối suy luận, tác nhân, máy chủ MCP và các công cụ lập trình AI như Copilot, Cursor hoặc Claude Code, được ánh xạ dưới dạng đồ thị mối quan hệ với AI-BOM được tạo ra trên mỗi lần quét. DevAI Nó hoạt động như một lớp bảo vệ chủ động trong cùng môi trường, xác thực các tệp kỹ năng và hướng dẫn của tác nhân, đồng thời chặn các cài đặt độc hại trước khi tác nhân hoạt động, không cần nhắc nhở. Và bởi vì CoreAI Xygeni áp dụng cùng một phương pháp tương quan và quản trị dựa trên AI cho các phát hiện từ các công cụ quét hiện có của bạn, đồng thời, rủi ro AI ẩn không biến mất vào một công cụ riêng biệt khác: nó xuất hiện trong cùng một chế độ xem rủi ro với mọi thứ khác trong hệ thống của bạn. SDLC.
Bắt đầu miễn phí. Sign up with GitHubĐăng ký với GitLab hoặc Google để có quyền truy cập vào tối đa 25 kho lưu trữ và 50 lần quét AI mỗi tháng hoàn toàn miễn phí, không cần thẻ tín dụng.
FAQ
Rủi ro AI ngầm là gì, nói một cách đơn giản?
Rủi ro AI ngầm là rủi ro do các công cụ, mô hình, tác nhân hoặc lệnh gọi API AI chạy bên trong một tổ chức mà không qua quá trình xem xét bảo mật. Vì hầu hết chúng không để lại hồ sơ cài đặt và mua sắm, nên rủi ro tích tụ âm thầm cho đến khi ai đó cố tình tìm kiếm nó.
Làm thế nào để phát hiện và loại bỏ AI ngầm trong thực tế?
Quá trình phát hiện dựa trên ba tín hiệu hoạt động cùng nhau (nhật ký mạng và proxy, tín hiệu nhận dạng và truy cập, và mã/pipeline(Khám phá và loại bỏ tài sản ở cấp độ cao) là một vòng lặp bốn bước: xây dựng một kho dữ liệu thống nhất, phân loại dữ liệu trước khi viết chính sách, cung cấp cho các nhóm một lộ trình phê duyệt nhanh hơn và thực thi tại thời điểm cài đặt hoặc gọi API chứ không phải trong một tài liệu.
Liệu AI ngầm có giống với CNTT ngầm không?
Có liên quan nhưng không hoàn toàn giống nhau. CNTT bóng tối thường để lại dấu vết (một bản cài đặt, một giấy phép, một chữ ký mạng). AI bóng tối thường không để lại gì trong số đó: chỉ một tab trình duyệt và một thông tin cá nhân. login Như vậy là đủ, và các tính năng AI hiện đã được tích hợp sẵn trong các nền tảng đã được phê duyệt.
Liệu một công cụ CASB hoặc DLP có thể tự mình phát hiện rủi ro AI ngầm hay không?
Chỉ một phần thôi. Những công cụ đó được xây dựng để phát hiện phần mềm trái phép có dấu vết. Một mô hình được gọi trực tiếp từ mã nguồn, hoặc một tính năng AI được bật bên trong một nền tảng đã được phê duyệt, không tạo ra bất kỳ tín hiệu nào mà CASB được thiết kế để gắn cờ. Quản lý đầy đủ rủi ro AI ngầm đòi hỏi nhận dạng, mạng và mã nguồn.pipeline- cùng nhau đạt được mức độ hiển thị cao.
Cụ thể, trí tuệ nhân tạo bóng tối (shadow AI) thường xuất hiện ở đâu trong lĩnh vực phát triển phần mềm?
Ngoài các chatbot dựa trên trình duyệt, nó còn xuất hiện dưới dạng các khóa API được mã hóa cứng vào mã nguồn, các mô hình mã nguồn mở được đưa vào dự án mà không qua quét bảo mật, và các tệp kỹ năng của tác nhân hoặc kết nối máy chủ MCP được thêm vào kho lưu trữ mà không được xem xét, chính xác là lớp mà các công cụ CNTT ngầm thông thường không kiểm tra.
