Một nhân viên tài chính tại công ty kỹ thuật Arup đã tham gia một cuộc gọi video. Tôi đã tham gia một cuộc gọi với một vài đồng nghiệp, bao gồm cả Giám đốc tài chính của công ty. Tất cả đều là video giả mạo (deepfake) do AI tạo ra. Cuộc gọi kết thúc với việc 25 triệu đô la được chuyển cho những kẻ tấn công. Không có phần mềm độc hại, không có liên kết lừa đảo, không có lỗ hổng bảo mật nào bị khai thác: chỉ là AI, được sử dụng đủ thuyết phục để lòng tin được giải tỏa. Sự cố đó cho thấy lý do tại sao AI trong an ninh mạng đã trở thành chủ đề quan trọng nhất trong lĩnh vực này. Công nghệ được tạo ra để tạo ra video giả mạo đó, ở những nơi khác trong ngành, lại đang phát hiện ra sự bất thường lẽ ra có thể ngăn chặn nó. Hướng dẫn về an ninh AI này bao gồm cả hai khía cạnh: cách AI tấn công, cách AI phòng thủ và điều đó có nghĩa là gì đối với việc các nhóm bảo mật nên tập trung vào đâu tiếp theo.
Trí tuệ nhân tạo trong an ninh mạng, tóm gọn trong một đoạn văn.
Trí tuệ nhân tạo trong an ninh mạng đề cập đến việc sử dụng máy học, xử lý ngôn ngữ tự nhiên và các mô hình ngôn ngữ quy mô lớn ở cả hai phía của cùng một cuộc chiến: để phát động các cuộc tấn công và để phát hiện cũng như ngăn chặn chúng. Kẻ tấn công sử dụng AI để tạo ra nội dung lừa đảo thuyết phục, sao chép giọng nói và khuôn mặt, và dò quét hệ thống nhanh hơn cả đội ngũ nhân viên. Những người phòng thủ sử dụng cùng các kỹ thuật cơ bản đó (nhận dạng mẫu trên khối lượng dữ liệu khổng lồ, hiểu ngôn ngữ tự nhiên, mô hình hóa hành vi) để phát hiện các bất thường, lọc bỏ nhiễu cảnh báo và phản hồi trước khi thiệt hại gia tăng. Kết quả là công nghệ thực sự có tính lưỡng dụng trong cùng một ngành, đó là lý do tại sao AI trong an ninh mạng không phải là một phạm trù có mặt "tốt" và "xấu" rõ ràng. Nó là một khả năng, và ai áp dụng nó nhanh hơn và hiệu quả hơn sẽ giành chiến thắng.cisEly hiện đang nắm lợi thế.
Trí tuệ nhân tạo như một phương thức tấn công
- Tấn công lừa đảo qua email do AI tạo ra trên quy mô công nghiệp. Trước đây, lừa đảo qua mạng có thể bị phát hiện qua các dấu hiệu: cách diễn đạt vụng về, lời chào chung chung, tên miền giả mạo rõ ràng. Trí tuệ nhân tạo (AI) đã loại bỏ hầu hết các dấu hiệu đó. Theo... của Hoxhunt Báo cáo xu hướng lừa đảo trực tuyến năm 2026Tấn công lừa đảo do AI tạo ra đã tăng từ 4% tổng số vụ tấn công lừa đảo được báo cáo vào tháng 11 năm 2025 lên 56% vào tháng 12 năm 2025, tăng gấp 14 lần chỉ trong một tháng, và duy trì ở mức khoảng 40% tổng số vụ tấn công lừa đảo được báo cáo cho đến giữa năm 2026. Khoảng cách về hiệu quả cũng rất rõ rệt: nghiên cứu trên người từ các nhà nghiên cứu của Trường Harvard Kennedy Nghiên cứu cho thấy các email lừa đảo có chủ đích được tự động hóa hoàn toàn bằng AI đạt tỷ lệ nhấp chuột 54%, ngang bằng với các chuyên gia con người lành nghề và vượt xa tỷ lệ nhấp chuột 12% của nhóm đối chứng sử dụng email lừa đảo thông thường. AI không chỉ viết nhiều email lừa đảo hơn, mà còn viết ra những email hiệu quả.
- Deepfake nhắm vào lòng tin, chứ không phải cơ sở hạ tầng. Vụ kiện Arup Những trường hợp nêu trên không còn là ngoại lệ nữa; chúng đã trở thành khuôn mẫu. Giọng nói và video do AI tạo ra đủ sức thuyết phục để giả làm một giám đốc điều hành thực thụ trong cuộc gọi trực tiếp, biến kỹ thuật xã hội từ "lừa ai đó nhấp chuột" thành "lừa ai đó tin rằng họ đang nhìn vào giám đốc tài chính của mình". Đó là một vấn đề khó giải quyết hơn về cơ bản đối với việc đào tạo nâng cao nhận thức về an ninh, bởi vì sự lừa dối xảy ra ở cấp độ nhận thức, chứ không phải cấp độ kỹ thuật.
- Khả năng trinh sát nhanh hơn và phần mềm độc hại thích ứng. Ngoài kỹ thuật xã hội, AI còn rút ngắn khoảng cách giữa "kẻ tấn công có ý tưởng" và "kẻ tấn công có một công cụ khai thác hoạt động hiệu quả". Các mô hình ngôn ngữ lớn có thể đẩy nhanh quá trình nghiên cứu lỗ hổng bảo mật đối với mã nguồn và cơ sở hạ tầng công khai của mục tiêu, và phần mềm độc hại thích ứng có thể thay đổi hành vi của chính nó trong quá trình thực thi nếu phát hiện ra rằng nó đang bị phân tích trong môi trường sandbox, một khả năng trước đây đòi hỏi người vận hành có kỹ năng theo dõi trong thời gian thực.
- Các cuộc tấn công đánh cắp thông tin đăng nhập với tốc độ máy tính. Việc đưa các bộ thông tin đăng nhập bị rò rỉ vào một mô hình để học các kiểu mẫu mà mọi người thực sự sử dụng khi họ nghĩ rằng mình đang "khéo léo" với mật khẩu sẽ biến phương pháp đoán và kiểm tra thành một thứ gì đó gần giống với dự đoán hơn. Kết hợp với việc tấn công bằng cách sử dụng nhiều thông tin đăng nhập tự động, điều này rút ngắn quá trình tấn công vốn chậm chạp và ồn ào thành một cuộc tấn công nhanh chóng và im lặng.
Trí tuệ nhân tạo như một công cụ phòng thủ
- Khả năng phát hiện các dị thường ở quy mô mà con người không thể sánh kịp. Giá trị phòng thủ cốt lõi của AI nằm ở khả năng xử lý khối lượng lớn lưu lượng mạng. login Hoạt động và nhật ký hệ thống mà không nhóm phân tích nào có thể xem xét thủ công và gắn cờ những gì sai lệch so với tiêu chuẩn đã thiết lập. Đây là điều giúp phát hiện các cuộc tấn công chưa có chữ ký nào được biết đến, bao gồm cả các lỗ hổng zero-day và việc lạm dụng nội bộ mà sẽ không kích hoạt cảnh báo dựa trên quy tắc.
- Loại bỏ các cảnh báo không cần thiết, thay vào đó thêm vào danh sách cảnh báo. Đây cũng là lĩnh vực mà trí tuệ nhân tạo trong an ninh mạng mang lại lợi ích vận hành tức thì nhất, và cũng là lĩnh vực mà ngành công nghiệp vẫn còn nhiều việc phải làm. Nghiên cứu năm 2026 của Vectra AI Nghiên cứu cho thấy các tổ chức nhận được trung bình 2,992 cảnh báo an ninh mỗi ngày, trong đó 63% không được điều tra. Microsoft và Omdia Tình hình hiện tại của SOC: Hợp nhất ngay hay trả giá sau? báo cáo Người ta phát hiện ra rằng 46% tổng số cảnh báo là cảnh báo sai và 42% hoàn toàn không được điều tra. Phân loại dựa trên AI không chỉ đơn thuần là thêm một bộ phát hiện nữa vào đống đó. Nếu được thực hiện tốt, nó sẽ liên kết các cảnh báo liên quan thành một sự cố duy nhất, chấm điểm những gì thực sự đáng để con người chú ý và cho phép các nhà phân tích dành thời gian của họ cho phần nhỏ các cảnh báo đại diện cho rủi ro thực sự thay vì phải tự tay xử lý phần còn lại.
- Phân loại phần mềm độc hại và hành vi vượt ra ngoài các chữ ký đã biết. Phương pháp phân tích hành vi tương tự được sử dụng để phát hiện hoạt động mạng bất thường cũng có tác dụng với các tập tin và gói phần mềm: thay vì so sánh với danh sách các chữ ký độc hại đã biết, AI có thể chấm điểm hành vi trong quá trình cài đặt, các lệnh gọi hệ thống bất thường và các mẫu che giấu để phát hiện phần mềm độc hại chưa từng được thấy trước đây, ngay tại thời điểm nó xuất hiện chứ không phải sau khi đã được nhận dạng.
- Phản hồi tự động, khép kín. Phát hiện mà không hành động chỉ làm kéo dài thời gian. Phản hồi dựa trên trí tuệ nhân tạo có thể cô lập thiết bị bị ảnh hưởng, chặn lưu lượng truy cập đáng ngờ và tự động bắt đầu quá trình ngăn chặn, rút ngắn khoảng thời gian giữa "chúng tôi đã phát hiện" và "chúng tôi đã ngăn chặn" từ hàng giờ xuống còn vài giây trong những trường hợp quan trọng nhất.
Tại sao cùng một kỹ thuật lại có thể gây ra tác hại hai chiều?
Sự thật khó chịu trong hướng dẫn bảo mật AI này là cả kẻ tấn công và người phòng thủ thường xuyên sử dụng cùng một khả năng cơ bản cho hai mục đích trái ngược nhau. Mô hình ngôn ngữ tự nhiên tạo ra một email lừa đảo thuyết phục cũng chính là công nghệ đọc một email đáng ngờ và phân loại chính xác nó là email lừa đảo. Khả năng nhận dạng mẫu cho phép phần mềm độc hại thích nghi để né tránh môi trường thử nghiệm có cấu trúc tương tự như khả năng nhận dạng mẫu giúp phát hiện hành vi bất thường của phần mềm độc hại ngay từ đầu. Không bên nào độc quyền công nghệ này, điều đó có nghĩa là lợi thế thuộc về bên nào tích hợp nó hoàn thiện hơn vào quy trình làm việc thực tế của họ, chứ không phải bên nào có quyền truy cập vào mô hình tiên tiến hơn.
Sự đối xứng đó cũng là lý do tại sao AI trong an ninh mạng lại mang đến những rủi ro riêng ở khía cạnh phòng thủ. Hệ thống AI có thể tạo ra các cảnh báo sai, che lấp tín hiệu thực trong nhiễu nếu được tinh chỉnh kém, thừa hưởng sự thiên vị từ dữ liệu huấn luyện không đầy đủ và do đó bỏ sót toàn bộ các loại mối đe dọa, và bản thân chúng cũng có thể bị nhắm mục tiêu thông qua các kỹ thuật đối kháng, trong đó kẻ tấn công cố tình cung cấp cho mô hình phát hiện dữ liệu sai lệch để thao túng những gì nó gắn cờ. Không có lý do nào trong số đó là lý do để tránh sử dụng AI trong phòng thủ. Đó là lý do để giữ con người tham gia vào quá trình ra quyết định và coi hệ thống AI như một thứ cần được giám sát, chứ không phải là thứ bạn triển khai một lần và tin tưởng vô thời hạn.
Hướng dẫn bảo mật AI này có ý nghĩa gì đối với nhóm của bạn?
Năm bước tạo nên sự khác biệt giữa các nhóm đang thực sự thu được giá trị từ AI trong an ninh mạng và các nhóm chỉ đơn thuần bổ sung thêm một công cụ khác:
- Đừng chờ đến khi các cuộc tấn công "sử dụng trí tuệ nhân tạo" trở nên phổ biến rồi mới đầu tư vào phòng thủ. Dữ liệu về tấn công lừa đảo ở trên cho thấy một chiến thuật thiểu số có thể nhanh chóng trở thành chiến thuật chiếm ưu thế như thế nào. Hãy xây dựng năng lực phát hiện trước khi làn sóng tấn công bùng phát, chứ không phải trong lúc nó đang diễn ra.
- Hãy ưu tiên hướng AI vào khu vực xếp hàng chờ cấp cứu trước, chứ không chỉ khu vực xung quanh. Đối với hầu hết các nhóm, chiến thắng nhanh nhất và dễ đo lường nhất là giảm số lượng kết quả dương tính giả mà nhà phân tích phải xử lý thủ công, chứ không phải là thêm một lớp phát hiện mới.
- Hãy xem rủi ro từ deepfake và giọng nói giả mạo là vấn đề về quy trình, chứ không phải vấn đề về công nghệ. Không có công cụ phát hiện nào hoàn toàn lấp đầy được lỗ hổng kiểu Arup. Xác minh ngoài luồng cho bất kỳ yêu cầu nào liên quan đến chuyển tiền hoặc thay đổi thông tin xác thực.
- Mở rộng tư duy hành vi dựa trên trí tuệ nhân tạo tương tự sang lập trình và pipelinekhông chỉ là lưu lượng mạng. Kẻ tấn công ngày càng nhắm mục tiêu trực tiếp vào chuỗi cung ứng phần mềm (các gói phần mềm độc hại, các phụ thuộc ảo, hướng dẫn tác nhân chưa được kiểm duyệt), một loại rủi ro với những động lực riêng, được đề cập chi tiết trong hướng dẫn Bảo mật Chuỗi Cung ứng AI của chúng tôi.
- Cần có người chịu trách nhiệm về những quyết định của trí tuệ nhân tạo. Phản hồi tự động rất có giá trị chính vì tốc độ của nó, đó cũng là lý do tại sao nó cần một quy trình xử lý rõ ràng khi xảy ra lỗi.
Trí tuệ nhân tạo trong an ninh mạng sẽ hướng đến đâu?
Hai xu hướng sẽ định hình vài năm tới. Thứ nhất, phía tấn công đang tập trung vào số lượng ít hơn nhưng các chiến thuật thuyết phục hơn thay vì số lượng nhiều và thô sơ hơn: tấn công lừa đảo và giả mạo do AI tạo ra không phải là một cái lưới rộng hơn; chúng là một cái móc sắc bén hơn. Thứ hai, phía phòng thủ đang chuyển từ "phát hiện và cảnh báo cho con người" sang "phát hiện, chấm điểm và hành động trước khi có yêu cầu hỗ trợ", đây chính là sự chuyển đổi giúp thu hẹp khoảng cách giữa 2,992 cảnh báo hàng ngày mà hầu hết các trung tâm điều hành an ninh (SOC) phải đối mặt và tỷ lệ nhỏ trong số đó thực sự được xem xét. Các tổ chức dẫn đầu là những tổ chức áp dụng sự chuyển đổi đó ở mọi nơi mà AI đã tác động đến môi trường của họ, bao gồm cả mã nguồn mà các nhà phát triển của họ cung cấp, chứ không chỉ lưu lượng truy cập đi qua ranh giới mạng của họ.
Quan điểm của Xygeni: Bảo mật AI phải bao trùm cả mã nguồn, chứ không chỉ hộp thư đến.
Hầu hết các nghiên cứu về ứng dụng AI trong an ninh mạng đều dừng lại ở trung tâm điều hành an ninh (SOC): tấn công lừa đảo, phần mềm độc hại, các sự cố mạng. Điều đó là cần thiết, nhưng cũng chưa đầy đủ, bởi vì ngày càng nhiều rủi ro do AI gây ra nằm ngay trong vòng đời phát triển phần mềm, nơi mà các công cụ của SOC không thể tiếp cận.
Xygeni's CoreAI áp dụng phương pháp tư duy dựa trên hành vi và phát hiện bất thường tương tự như mô tả trong hướng dẫn này vào bảo mật ứng dụng cụ thể: đối chiếu các phát hiện trên các trình quét hiện có của bạn (không chỉ Xygeni's (tự đánh giá), chấm điểm những rủi ro thực sự có thể khai thác thay vì làm quá tải các nhóm bằng lượng cảnh báo thô, giải thích lý do tại sao một rủi ro cụ thể lại quan trọng và tạo ra giải pháp khắc phục. pull request thay vì tạo thêm một phiếu yêu cầu tồn đọng khác. DevAI Phương pháp này mở rộng cùng một tư thế phòng thủ đó sang phần mới nhất của bề mặt tấn công: các tác nhân và trợ lý lập trình AI, xác thực các tệp kỹ năng và hướng dẫn của tác nhân, và chặn cài đặt độc hại trước khi tác nhân thực sự hoạt động. Mục tiêu cũng giống như mục tiêu mà hướng dẫn này đề cập ở cấp độ SOC, được áp dụng cho... pipelineBiến lợi thế về số lượng và tốc độ của AI thành lợi thế của người phòng thủ thay vì người tấn công.
Bắt đầu miễn phí. Sign up with GitHubĐăng ký với GitLab hoặc Google để có quyền truy cập vào tối đa 25 kho lưu trữ và 50 lần quét AI mỗi tháng hoàn toàn miễn phí, không cần thẻ tín dụng.
FAQ
AI trong an ninh mạng là gì?
Trí tuệ nhân tạo (AI) trong an ninh mạng là việc sử dụng học máy, xử lý ngôn ngữ tự nhiên và các mô hình ngôn ngữ lớn ở cả phía tấn công và phòng thủ. Kẻ tấn công sử dụng nó để tạo ra nội dung lừa đảo thuyết phục, video giả mạo (deepfake) và phần mềm độc hại thích ứng; người phòng thủ sử dụng các kỹ thuật tương tự để phát hiện bất thường, phân loại cảnh báo và phản hồi tự động.
Liệu trí tuệ nhân tạo (AI) nguy hiểm hơn khi được sử dụng như một công cụ tấn công hay hữu ích hơn khi được sử dụng như một công cụ phòng thủ?
Cả hai bên đều không có lợi thế bền vững vì cả hai đều được xây dựng trên cùng một khả năng cơ bản. Các tổ chức gặp rủi ro lớn hơn là những tổ chức chưa áp dụng AI vào phòng thủ với tốc độ tương đương với tốc độ mà các bên tấn công đã áp dụng nó vào tấn công, chứ không phải những tổ chức đang đối mặt với khoảng cách công nghệ mà họ không thể thu hẹp.
Liệu trí tuệ nhân tạo (AI) có thể hoàn toàn thay thế các nhà phân tích con người trong trung tâm điều hành an ninh mạng (SOC
Không, và những rủi ro khi cố gắng làm vậy (kết quả dương tính giả từ các mô hình được tinh chỉnh kém, sai lệch từ dữ liệu huấn luyện không đầy đủ và sự thao túng của đối thủ đối với chính hệ thống phát hiện) chính là lý do tại sao sự giám sát của con người vẫn cần thiết. Giá trị thực sự của AI là giúp giải quyết các vấn đề tồn đọng để các nhà phân tích có thể tập trung vào những quyết định cần đến sự can thiệp của con người.
Rủi ro tấn công do AI điều khiển khác biệt như thế nào đối với các nhóm phát triển phần mềm?
Ngoài các vấn đề về lừa đảo trực tuyến và video giả mạo, các nhóm phát triển còn phải đối mặt với những rủi ro đặc thù liên quan đến trí tuệ nhân tạo (AI) bên trong hệ thống. SDLC Bản thân nó bao gồm: các tác nhân lập trình AI cài đặt các phụ thuộc ảo hoặc độc hại, các hướng dẫn tác nhân chưa được xem xét trong các tệp kỹ năng và mã do AI tạo ra sao chép các bí mật được mã hóa cứng. Khía cạnh này của AI trong an ninh mạng được đề cập chi tiết hơn trong bài viết của chúng tôi. Hướng dẫn về bảo mật chuỗi cung ứng AI.
