Thể loại: AI

Bảo mật GitHub Copilot

Bảo mật GitHub Copilot: Những rủi ro thực sự của mã do AI viết và cách kiểm soát chúng

GitHub Copilot đang viết ngày càng nhiều mã của bạn, và giờ đây nó cũng chạy các lệnh, mở... pull requests và cài đặt các gói. Dưới đây là những rủi ro bảo mật thực sự của GitHub Copilot, từ việc chèn mã nhắc lệnh và rò rỉ bí mật đến các gói ảo, những biện pháp kiểm soát tích hợp của GitHub bao gồm những gì và bảy bước để kiểm soát mã do AI viết.
Đã đọc 9 phút
sự cố an ninh ôm mặt

Sự cố bảo mật Hugging Face: Cách một tác nhân AI xâm nhập nền tảng và những gì cần khắc phục trong hệ thống của riêng bạn. Pipeline

Một tác nhân AI đã biến một tập dữ liệu độc hại thành quyền truy cập vào các cụm máy chủ nội bộ của Hugging Face, mà không cần đến sự can thiệp của con người. Dưới đây là những gì đã xảy ra trong sự cố bảo mật của Hugging Face và lý do tại sao nó lại quan trọng đối với mọi nhóm sử dụng AI. pipelinecác tác nhân AI, và sáu bước để khắc phục những thiếu sót tương tự trong môi trường của bạn.
Đã đọc 10 phút
bảo mật tác nhân AI

Bảo mật tác nhân AI: hiểu rõ từng tác nhân, phát hiện rủi ro, bảo vệ những gì nó cài đặt.

Các tác nhân AI không chỉ trả lời mà còn hành động: chúng gọi các công cụ, giữ thông tin xác thực và tự cài đặt các gói phần mềm. Dưới đây là cách thức bảo mật tác nhân AI hoạt động qua bốn bước, từ việc lập danh sách mọi tác nhân trong mã của bạn đến việc bảo vệ những gì các tác nhân cài đặt.
Đã đọc 10 phút
Xygeni tại ENISE 2026: Bảo mật tác nhân lập trình AI

Ai đã quyết định bản phát hành đó có thể được phép ra mắt? Những bài học về bảo mật cho tác nhân lập trình AI từ ENISE 2026

Tại ENISE 2026, CEO của Xygeni, Jesús Cuadrado, đã trình bày cách một câu trong vấn đề trên GitHub dẫn đến việc phát hành trái phép, và để lại CISHệ điều hành OS với bốn câu hỏi về lập trình tác nhân AI.
Đã đọc 8 phút
Top 10 Trí tuệ nhân tạo tác nhân của OWASP

Giải thích 10 tiêu chí hàng đầu về Trí tuệ nhân tạo tác nhân của OWASP: ASI01–ASI10

Bảng xếp hạng OWASP Agentic AI Top 10 nêu ra mười cách mà các tác nhân AI thất bại. Dưới đây là ý nghĩa thực tế của các lỗi từ ASI01 đến ASI10 trong thực tế. pipeline, từ đó xác định rủi ro nào xuất hiện và rủi ro nào bạn có thể ngăn chặn trước khi triển khai.
Đã đọc 11 phút
Tấn công trích xuất mô hình

Tấn công trích xuất mô hình: Tại sao kho dữ liệu lại được ưu tiên hàng đầu

Tấn công trích xuất mô hình cho phép kẻ tấn công sao chép mô hình của bạn từng truy vấn một, mà không cần xâm nhập hệ thống và không đánh cắp được tệp tin. Dưới đây là cách thức hoạt động của việc đánh cắp mô hình và lý do tại sao biện pháp phòng vệ đầu tiên là phải biết rõ mọi điểm cuối suy luận mà bạn đang để lộ.
Đã đọc 8 phút
Rủi ro và phạm vi ảnh hưởng của trí tuệ nhân tạo tác nhân

Rủi ro và phạm vi ảnh hưởng của trí tuệ nhân tạo: hạn chế tác động của tác nhân hay phục hồi nhanh hơn?

Hạn chế tác nhân, phục hồi nhanh hơn, hay ngăn chặn nó từ bên dưới? Ba chuyên gia, ba câu trả lời, và một giải pháp tối thiểu mà tất cả đều đồng ý.
Đã đọc 13 phút
Kỹ thuật chế tạo dây đai tác nhân

Kỹ thuật chế tạo bộ dây dẫn cho tác nhân: mô hình không phải là bề mặt tấn công, mà bộ dây dẫn mới là bề mặt tấn công.

Kỹ thuật điều khiển tác nhân (agent harness engineering) biến các mô hình thành các tác nhân hữu ích. Nó cũng cung cấp cho kẻ tấn công một mục tiêu mới: các tập tin cho biết tác nhân của bạn có thể làm gì.
Đã đọc 7 phút
Bảo mật ứng dụng AI

Bảo mật ứng dụng AI: Những điều chúng tôi đã nghe được tại OWASP Porto & Karlsruhe

Bảo mật ứng dụng AI chiếm ưu thế tại OWASP Porto và Karlsruhe. Vậy điều gì đã xảy ra? ASPM Thực sự là gì, nó khác với điều gì? SASTvà nơi trí tuệ nhân tạo (AI) hỗ trợ phân loại và khắc phục sự cố.
Đã đọc 8 phút
AI quản lý rủi ro

Quản lý rủi ro AI: hai lĩnh vực, một danh mục

Bốn từ khóa tìm kiếm, hai công việc hoàn toàn khác nhau. Quản lý rủi ro của AI không phải là cùng một lĩnh vực với việc sử dụng AI để quản lý rủi ro, và hầu hết các tổ chức đang tuyển dụng nhân sự cho lĩnh vực này trong khi được chào mời làm việc cho lĩnh vực kia. Điều thú vị là điều gì sẽ xảy ra khi bạn nhận ra chúng thực chất là cùng một chương trình.
Đã đọc 9 phút
Các chỉ số rủi ro AI

Rủi ro AI: Các chỉ số cho biết liệu chiến lược AI tác nhân của bạn có hiệu quả hay không.

Hiện nay, mọi hội đồng quản trị đều đặt ra cùng một câu hỏi: rủi ro AI của chúng ta là gì? Hầu hết các nhóm đều trả lời bằng các tính từ. Dưới đây là các chỉ số rủi ro AI tạo ra con số, nguồn gốc của từng chỉ số và những gì một chiến lược AI mang tính tác nhân cần phải bao quát trước khi bất kỳ chỉ số nào có ý nghĩa.
Đã đọc 9 phút
Các mối đe dọa an ninh AI

10 mối đe dọa an ninh AI hàng đầu và cách lập bản đồ chúng

Hai vấn đề được xếp chung vào một nhóm nhưng thực chất không phải là cùng một vấn đề. Các cuộc tấn công vào hệ thống AI và các cuộc tấn công được thực hiện bởi AI cần các biện pháp kiểm soát khác nhau, chủ sở hữu khác nhau và bằng chứng khác nhau. Mười mối đe dọa, được chia thành hai nửa, và bước đi trước tất cả chúng.
Đã đọc 10 phút