พนักงานฝ่ายการเงินของบริษัทวิศวกรรม อารุปเข้าร่วมการสนทนาทางวิดีโอ ในการสนทนากับเพื่อนร่วมงานหลายคน รวมถึง CFO ของบริษัท ทุกคนในภาพเป็นภาพปลอมที่สร้างขึ้นโดย AI (AI deepfake) การสนทนาจบลงด้วยการโอนเงิน 25 ล้านดอลลาร์ไปยังผู้โจมตี ไม่มีมัลแวร์ ไม่มีลิงก์ฟิชชิ่ง ไม่มีช่องโหว่ที่ถูกใช้ประโยชน์ มีเพียง AI ที่ถูกใช้ได้อย่างแนบเนียนจนทำให้เกิดความไว้วางใจ เหตุการณ์เดียวนี้แสดงให้เห็นว่าทำไม AI ในด้านความปลอดภัยทางไซเบอร์จึงกลายเป็นหัวข้อสำคัญในสาขานี้ เทคโนโลยีเดียวกันที่ใช้สร้าง deepfake นั้น ในส่วนอื่นๆ ของอุตสาหกรรม ก็สามารถใช้ตรวจจับความผิดปกติที่น่าจะหยุดยั้ง deepfake ได้ คู่มือความปลอดภัย AI นี้ครอบคลุมทั้งสองด้าน: AI โจมตีอย่างไร AI ป้องกันอย่างไร และนั่นหมายความว่าทีมรักษาความปลอดภัยควรให้ความสำคัญกับเรื่องใดต่อไป
ปัญญาประดิษฐ์ในด้านความปลอดภัยทางไซเบอร์ (สรุปในหนึ่งย่อหน้า)
ปัญญาประดิษฐ์ในด้านความปลอดภัยทางไซเบอร์ หมายถึงการใช้การเรียนรู้ของเครื่อง การประมวลผลภาษาธรรมชาติ และแบบจำลองภาษาขนาดใหญ่ ในทั้งสองด้านของการต่อสู้เดียวกัน ได้แก่ การโจมตีและการตรวจจับและหยุดยั้งการโจมตีเหล่านั้น ผู้โจมตีใช้ AI ในการสร้างเนื้อหาฟิชชิ่งที่น่าเชื่อถือ เลียนแบบเสียงและใบหน้า และตรวจสอบระบบได้เร็วกว่าทีมมนุษย์ ผู้ป้องกันใช้เทคนิคพื้นฐานเดียวกัน (การจดจำรูปแบบในข้อมูลจำนวนมหาศาล การทำความเข้าใจภาษาธรรมชาติ การสร้างแบบจำลองพฤติกรรม) เพื่อตรวจจับความผิดปกติ ลดเสียงรบกวนจากการแจ้งเตือน และตอบสนองก่อนที่ความเสียหายจะลุกลาม ผลลัพธ์ที่ได้คือเทคโนโลยีที่ใช้งานได้สองทางอย่างแท้จริงภายในอุตสาหกรรมเดียว ซึ่งเป็นเหตุผลว่าทำไม AI ในด้านความปลอดภัยทางไซเบอร์จึงไม่ใช่หมวดหมู่ที่มีด้าน "ดี" และ "ไม่ดี" อย่างชัดเจน มันเป็นความสามารถ และใครก็ตามที่นำไปใช้ได้เร็วและแม่นยำกว่าก็จะได้รับประโยชน์มากกว่าcisขณะนี้ ely มีความได้เปรียบ
ปัญญาประดิษฐ์ในฐานะช่องทางโจมตี
- การสร้างภาพฟิชชิ่งโดยใช้ AI ในระดับอุตสาหกรรม เมื่อก่อนการตรวจจับการหลอกลวงแบบฟิชชิ่งทำได้โดยดูจากสัญญาณต่างๆ เช่น การใช้ถ้อยคำที่ฟังดูไม่เป็นธรรมชาติ คำทักทายที่ไม่เฉพาะเจาะจง และโดเมนปลอมที่เห็นได้ชัด แต่ปัญญาประดิษฐ์ (AI) ได้กำจัดสัญญาณเหล่านั้นไปเกือบหมดแล้ว ตามข้อมูลจาก ฮอกซ์ฮันท์ รายงานแนวโน้มการฟิชชิ่งปี 2026การโจมตีแบบฟิชชิงที่สร้างโดย AI เพิ่มขึ้นจาก 4% ของความพยายามโจมตีแบบฟิชชิงทั้งหมดที่รายงานในเดือนพฤศจิกายน 2025 เป็น 56% ในเดือนธันวาคม 2025 ซึ่งเพิ่มขึ้นถึง 14 เท่าในเดือนเดียว และยังคงอยู่ที่ประมาณ 40% ของความพยายามโจมตีแบบฟิชชิงทั้งหมดที่รายงานจนถึงกลางปี 2026 ช่องว่างด้านประสิทธิภาพก็ชัดเจนเช่นกัน: การศึกษาวิจัยโดยนักวิจัยจาก Harvard Kennedy School พบว่าอีเมลฟิชชิงแบบเจาะจงเป้าหมายที่ทำงานโดยอัตโนมัติด้วย AI อย่างเต็มรูปแบบ มีอัตราการคลิกผ่านสูงถึง 54% เทียบเท่ากับผู้เชี่ยวชาญที่มีทักษะ และสูงกว่าอัตราการคลิกผ่าน 12% ของอีเมลฟิชชิงทั่วไปในกลุ่มควบคุมอย่างมาก AI ไม่ได้แค่เขียนอีเมลฟิชชิงมากขึ้นเท่านั้น แต่ยังเขียนอีเมลที่ได้ผลอีกด้วย
- เทคโนโลยี Deepfake ที่มุ่งเป้าไปที่ความไว้วางใจ ไม่ใช่โครงสร้างพื้นฐาน การขอ คดีอารัป สิ่งที่กล่าวมาข้างต้นไม่ใช่เรื่องผิดปกติอีกต่อไปแล้ว แต่มันกลายเป็นแบบแผนไปแล้ว เสียงและวิดีโอที่สร้างโดย AI นั้นน่าเชื่อถือมากพอที่จะใช้เป็นเสียงของผู้บริหารตัวจริงในการสนทนาสด ทำให้การหลอกลวงทางสังคมเปลี่ยนจาก “หลอกให้คนคลิก” เป็น “หลอกให้คนเชื่อว่าพวกเขากำลังดู CFO ของพวกเขาอยู่” ซึ่งเป็นปัญหาที่ยากกว่ามากสำหรับหลักสูตรฝึกอบรมด้านความปลอดภัยที่จะแก้ไข เพราะการหลอกลวงเกิดขึ้นในระดับการรับรู้ ไม่ใช่ระดับทางเทคนิค
- การสอดแนมที่รวดเร็วขึ้นและมัลแวร์ที่ปรับตัวได้ นอกเหนือจากการใช้เทคนิควิศวกรรมสังคมแล้ว AI ยังช่วยลดช่องว่างระหว่าง “ผู้โจมตีมีไอเดีย” กับ “ผู้โจมตีมีช่องโหว่ที่ใช้งานได้จริง” โมเดลภาษาขนาดใหญ่สามารถเร่งการวิจัยช่องโหว่ในโค้ดและโครงสร้างพื้นฐานที่เปิดเผยต่อสาธารณะของเป้าหมายได้ และมัลแวร์ที่ปรับตัวได้สามารถเปลี่ยนพฤติกรรมของตัวเองได้ในระหว่างการทำงาน หากตรวจพบว่ากำลังถูกวิเคราะห์ในสภาพแวดล้อมจำลอง ซึ่งเป็นความสามารถที่เคยต้องอาศัยผู้ปฏิบัติงานที่มีทักษะคอยเฝ้าดูแบบเรียลไทม์
- การโจมตีด้วยข้อมูลประจำตัวด้วยความเร็วระดับเครื่องจักร การป้อนชุดข้อมูลประจำตัวที่รั่วไหลเข้าไปในแบบจำลองเพื่อเรียนรู้รูปแบบที่ผู้คนใช้จริง ๆ เมื่อพวกเขาคิดว่าตนเอง "ฉลาด" ในการใส่รหัสผ่าน จะเปลี่ยนการเดาและตรวจสอบให้ใกล้เคียงกับการทำนายมากขึ้น เมื่อรวมกับการโจมตีด้วยการยัดข้อมูลประจำตัวอัตโนมัติ วิธีนี้จะบีบอัดสิ่งที่เคยเป็นการโจมตีที่ช้าและส่งเสียงดัง ให้กลายเป็นสิ่งที่รวดเร็วและเงียบกว่า
ปัญญาประดิษฐ์ในฐานะเครื่องมือป้องกันประเทศ
- การตรวจจับความผิดปกติในระดับที่มนุษย์ไม่สามารถทำได้ คุณค่าหลักด้านการป้องกันของ AI คือการประมวลผลปริมาณการรับส่งข้อมูลเครือข่ายจำนวนมหาศาล login กิจกรรมและบันทึกระบบที่ทีมวิเคราะห์ไม่สามารถตรวจสอบด้วยตนเองได้ และระบุสิ่งที่เบี่ยงเบนไปจากเกณฑ์มาตรฐานที่กำหนดไว้ นี่คือสิ่งที่ตรวจจับการโจมตีที่ยังไม่มีรูปแบบที่รู้จัก รวมถึงช่องโหว่ Zero-day และการใช้ในทางที่ผิดโดยบุคคลภายใน ซึ่งจะไม่ทำให้เกิดการแจ้งเตือนตามกฎเกณฑ์
- ตัดการแจ้งเตือนที่ค้างอยู่ ไม่ใช่เพิ่มการแจ้งเตือนเข้าไปในระบบ นี่คือจุดที่ AI ในด้านความปลอดภัยทางไซเบอร์ให้ผลตอบแทนเชิงปฏิบัติการที่ชัดเจนที่สุด และเป็นจุดที่อุตสาหกรรมยังคงต้องทำงานอย่างหนักต่อไป งานวิจัยปี 2026 ของ Vectra AI พบว่าองค์กรต่างๆ ได้รับการแจ้งเตือนด้านความปลอดภัยโดยเฉลี่ย 2,992 ครั้งต่อวัน โดย 63% ไม่ได้รับการตรวจสอบ และ ไมโครซอฟต์และออมเดีย สถานะของ SOC: รวมระบบตอนนี้หรือจ่ายทีหลัง รายงาน จากการศึกษาพบว่า 46% ของการแจ้งเตือนทั้งหมดเป็นผลลัพธ์ที่ผิดพลาด และ 42% ไม่ได้รับการตรวจสอบเลย การคัดกรองโดยใช้ AI ไม่ได้เป็นการเพิ่มตัวตรวจจับอีกตัวเข้าไปในกองนั้น หากทำได้อย่างดี AI จะเชื่อมโยงการแจ้งเตือนที่เกี่ยวข้องเข้าด้วยกันเป็นเหตุการณ์เดียว ให้คะแนนสิ่งที่ควรค่าแก่การตรวจสอบโดยมนุษย์ และช่วยให้นักวิเคราะห์ใช้เวลาไปกับการแจ้งเตือนเพียงส่วนน้อยที่แสดงถึงความเสี่ยงที่แท้จริง แทนที่จะปิดการแจ้งเตือนที่เหลือด้วยตนเอง
- การจำแนกประเภทมัลแวร์และพฤติกรรมที่อยู่นอกเหนือรูปแบบที่รู้จักกันดี วิธีการวิเคราะห์พฤติกรรมแบบเดียวกันที่ใช้ตรวจจับกิจกรรมเครือข่ายที่ผิดปกติ สามารถนำไปใช้กับไฟล์และแพ็กเกจได้เช่นกัน: แทนที่จะเปรียบเทียบกับรายการลายเซ็นที่เป็นอันตรายที่รู้จัก AI สามารถให้คะแนนพฤติกรรมระหว่างการติดตั้ง การเรียกใช้ระบบที่ผิดปกติ และรูปแบบการปกปิดข้อมูล เพื่อตรวจจับมัลแวร์ที่ไม่เคยพบเห็นมาก่อน ในขณะที่มันปรากฏขึ้น แทนที่จะเป็นหลังจากที่ได้ทำการระบุลายนิ้วมือแล้ว
- การตอบสนองอัตโนมัติและครบถ้วน การตรวจจับโดยไม่ลงมือทำอะไรเลยนั้นเป็นเพียงการถ่วงเวลาเท่านั้น การตอบสนองด้วย AI สามารถแยกอุปกรณ์ที่ได้รับผลกระทบ บล็อกการรับส่งข้อมูลที่น่าสงสัย และเริ่มการควบคุมโดยอัตโนมัติ ลดช่องว่างระหว่าง "เราเห็นมัน" และ "เราหยุดมันได้แล้ว" จากหลายชั่วโมงเหลือเพียงไม่กี่วินาทีในกรณีที่สำคัญที่สุด
ทำไมเทคนิคเดียวกันถึงให้ผลเสียได้ทั้งสองทาง?
ความจริงที่น่าอึดอัดใจในคู่มือความปลอดภัยของ AI นี้คือ ผู้โจมตีและผู้ป้องกันมักใช้ความสามารถพื้นฐานเดียวกันเพื่อจุดประสงค์ที่ตรงกันข้าม การสร้างแบบจำลองภาษาธรรมชาติที่เขียนอีเมลฟิชชิ่งที่ดูน่าเชื่อถือ คือเทคโนโลยีเดียวกันกับที่อ่านอีเมลที่น่าสงสัยและจำแนกประเภทได้อย่างถูกต้อง การจดจำรูปแบบที่ทำให้มัลแวร์ปรับตัวเพื่อหลีกเลี่ยงแซนด์บ็อกซ์นั้น มีโครงสร้างคล้ายกับการจดจำรูปแบบที่ระบุว่าพฤติกรรมของมัลแวร์นั้นผิดปกติตั้งแต่แรก ไม่มีฝ่ายใดผูกขาดเทคโนโลยีนี้ ซึ่งหมายความว่าข้อได้เปรียบจะตกเป็นของผู้ที่บูรณาการเทคโนโลยีนั้นเข้ากับขั้นตอนการทำงานจริงได้อย่างสมบูรณ์มากกว่า ไม่ใช่ผู้ที่มีโมเดลที่ล้ำหน้ากว่า
ความสมมาตรนั้นเองเป็นเหตุผลว่าทำไม AI ในด้านความปลอดภัยทางไซเบอร์จึงนำมาซึ่งความเสี่ยงในด้านการป้องกัน ระบบ AI สามารถสร้างผลลัพธ์ที่ผิดพลาดซึ่งกลบสัญญาณที่แท้จริงด้วยสัญญาณรบกวนหากปรับแต่งไม่ดี อาจได้รับอคติจากข้อมูลการฝึกอบรมที่ไม่สมบูรณ์ และส่งผลให้พลาดภัยคุกคามทั้งประเภท และตัวระบบเองก็อาจถูกโจมตีด้วยเทคนิคที่เป็นปรปักษ์ โดยที่ผู้โจมตีจงใจป้อนข้อมูลที่ทำให้เข้าใจผิดแก่แบบจำลองการตรวจจับเพื่อบิดเบือนสิ่งที่แบบจำลองระบุ ทั้งหมดนี้ไม่ใช่เหตุผลที่จะหลีกเลี่ยงการใช้ AI ในเชิงป้องกัน แต่เป็นเหตุผลที่จะต้องมีมนุษย์เข้ามามีส่วนร่วมในการตัดสินใจ และต้องปฏิบัติต่อระบบ AI ในฐานะสิ่งที่ต้องได้รับการตรวจสอบ ไม่ใช่สิ่งที่คุณใช้งานเพียงครั้งเดียวและไว้วางใจได้ตลอดไป
คู่มือความปลอดภัยของ AI นี้มีประโยชน์อย่างไรต่อทีมของคุณ
มี 5 ขั้นตอนสำคัญที่ทำให้ทีมที่ได้รับประโยชน์อย่างแท้จริงจาก AI ในด้านความปลอดภัยทางไซเบอร์แตกต่างจากทีมที่เพียงแค่เพิ่มเครื่องมืออีกตัวเข้ามา:
- อย่ารอให้การโจมตีที่ใช้ “ปัญญาประดิษฐ์” กลายเป็นรูปแบบหลักก่อนแล้วค่อยลงทุนด้านการป้องกัน ข้อมูลการหลอกลวงทางอีเมลข้างต้นแสดงให้เห็นว่ากลยุทธ์ส่วนน้อยสามารถกลายเป็นกลยุทธ์หลักได้อย่างรวดเร็วเพียงใด ควรสร้างความสามารถในการตรวจจับก่อนที่จะเกิดการระบาด ไม่ใช่ในระหว่างที่เกิดการระบาด
- ให้ AI ชี้เป้าไปยังคิวคัดกรองผู้ป่วยก่อน ไม่ใช่แค่บริเวณรอบนอก วิธีที่รวดเร็วและวัดผลได้มากที่สุดสำหรับทีมส่วนใหญ่ คือการลดปริมาณผลลัพธ์ที่ผิดพลาดที่นักวิเคราะห์ต้องกำจัดด้วยตนเอง ไม่ใช่การเพิ่มชั้นการตรวจจับใหม่
- ควรพิจารณาความเสี่ยงจากเทคโนโลยี deepfake และการคัดลอกเสียงว่าเป็นปัญหาด้านกระบวนการ ไม่ใช่ปัญหาด้านเทคโนโลยี ไม่มีเครื่องมือตรวจจับใดที่สามารถปิดช่องโหว่แบบ Arup ได้อย่างสมบูรณ์ การตรวจสอบนอกช่องทางสำหรับคำขอใดๆ ที่เกี่ยวข้องกับการโอนเงินหรือการเปลี่ยนแปลงข้อมูลประจำตัว
- นำแนวคิดการคิดเชิงพฤติกรรมที่ขับเคลื่อนด้วย AI แบบเดียวกันนี้ไปใช้กับการเขียนโค้ดและ pipelineไม่ใช่แค่ปริมาณการรับส่งข้อมูลเครือข่ายเท่านั้น ปัจจุบันผู้โจมตีมุ่งเป้าไปที่ห่วงโซ่อุปทานซอฟต์แวร์โดยตรงมากขึ้น (แพ็กเกจที่เป็นอันตราย การพึ่งพาที่หลอกลวง คำสั่งเอเจนต์ที่ไม่ได้ตรวจสอบ) ซึ่งเป็นประเภทความเสี่ยงที่มีพลวัตเฉพาะตัว ซึ่งได้กล่าวถึงอย่างละเอียดในคู่มือความปลอดภัยของห่วงโซ่อุปทาน AI ของเรา
- ควรมีมนุษย์คอยรับผิดชอบต่อการตัดสินใจของ AI ระบบตอบกลับอัตโนมัติมีคุณค่าอย่างยิ่งเพราะมันรวดเร็ว และนั่นเป็นเหตุผลว่าทำไมมันจึงจำเป็นต้องมีขั้นตอนการส่งต่อปัญหาที่ชัดเจนเมื่อระบบตรวจพบข้อผิดพลาด
ทิศทางของ AI ในด้านความปลอดภัยทางไซเบอร์กำลังมุ่งไปในทิศทางใด
การเปลี่ยนแปลงสองอย่างจะกำหนดทิศทางในอีกไม่กี่ปีข้างหน้า ประการแรก ฝั่งผู้โจมตีจะรวมตัวกันใช้กลยุทธ์ที่น้อยลงแต่มีประสิทธิภาพมากขึ้น แทนที่จะใช้กลยุทธ์ที่หยาบและหลากหลายกว่าเดิม: การหลอกลวงด้วย AI และ deepfake ไม่ใช่การใช้ตาข่ายที่กว้างขึ้น แต่เป็นการใช้เบ็ดที่คมกว่า ประการที่สอง ฝั่งผู้ป้องกันจะเปลี่ยนจาก “ตรวจจับและแจ้งเตือนมนุษย์” ไปสู่ “ตรวจจับ ประเมิน และดำเนินการก่อนที่จะมีการแจ้งปัญหา” ซึ่งเป็นการเปลี่ยนแปลงที่จะช่วยลดช่องว่างระหว่างการแจ้งเตือน 2,992 ครั้งต่อวันที่ศูนย์ปฏิบัติการด้านความปลอดภัยส่วนใหญ่เผชิญ และส่วนน้อยของการแจ้งเตือนเหล่านั้นที่ได้รับการตรวจสอบอย่างจริงจัง องค์กรที่ก้าวล้ำหน้าคือองค์กรที่นำการเปลี่ยนแปลงนี้ไปใช้ในทุกที่ที่ AI เข้ามาเกี่ยวข้องในสภาพแวดล้อมของพวกเขา รวมถึงโค้ดที่นักพัฒนาส่ง ไม่ใช่แค่การรับส่งข้อมูลที่ผ่านขอบเขตเครือข่ายของพวกเขาเท่านั้น
มุมมองของ Xygeni: การรักษาความปลอดภัยของ AI ต้องครอบคลุมถึงโค้ด ไม่ใช่แค่กล่องจดหมายเข้า
การรายงานข่าวเกี่ยวกับ AI ในด้านความปลอดภัยทางไซเบอร์ส่วนใหญ่มักหยุดอยู่ที่ศูนย์ปฏิบัติการด้านความปลอดภัย (SOC): การฟิชชิง มัลแวร์ และความผิดปกติของเครือข่าย ซึ่งจำเป็น แต่ก็ยังไม่สมบูรณ์ เพราะความเสี่ยงที่เกิดจาก AI ในปัจจุบันส่วนใหญ่เกิดขึ้นภายในวงจรการพัฒนาซอฟต์แวร์เอง ซึ่งเป็นส่วนที่เครื่องมือของ SOC ไม่ได้ตรวจสอบ
ของไซเกนี คอร์ไอ ใช้แนวคิดเชิงพฤติกรรมและอิงตามความผิดปกติแบบเดียวกันกับที่อธิบายไว้ในคู่มือนี้ โดยเฉพาะอย่างยิ่งกับการรักษาความปลอดภัยของแอปพลิเคชัน: การเชื่อมโยงผลการค้นหาจากสแกนเนอร์ที่มีอยู่ทั้งหมดของคุณ (ไม่ใช่แค่...) ของไซเกนี (เช่น การระบุความเสี่ยงที่สามารถนำไปใช้ประโยชน์ได้จริง แทนที่จะส่งการแจ้งเตือนจำนวนมากไปยังทีม) อธิบายว่าทำไมความเสี่ยงนั้นจึงมีความสำคัญ และสร้างแนวทางการแก้ไข pull request แทนที่จะสร้างตั๋วค้างส่งอีกใบ เดฟเอไอ ขยายแนวทางการป้องกันแบบเดียวกันนี้ไปสู่ส่วนใหม่ล่าสุดของพื้นที่การโจมตี: เอเจนต์และผู้ช่วยเขียนโค้ด AI ตรวจสอบไฟล์ทักษะและคำสั่งของเอเจนต์ และบล็อกการติดตั้งที่เป็นอันตรายก่อนที่เอเจนต์จะดำเนินการใดๆ เป้าหมายก็เหมือนกับที่คู่มือนี้กล่าวถึงในระดับ SOC ซึ่งนำมาประยุกต์ใช้กับ pipelineเปลี่ยนข้อได้เปรียบของ AI ในด้านปริมาณและความเร็ว ให้กลายเป็นข้อได้เปรียบของฝ่ายรับแทนที่จะเป็นฝ่ายรุก
เริ่มใช้งานฟรี Sign up with GitHubสมัครใช้บริการ GitLab หรือ Google เพื่อรับสิทธิ์การเข้าถึงคลังเก็บข้อมูลสูงสุด 25 แห่ง และการสแกนด้วย AI 50 ครั้งต่อเดือน โดยไม่มีค่าใช้จ่าย ไม่ต้องใช้บัตรเครดิต
คำถามที่พบบ่อย
AI มีบทบาทอย่างไรในด้านความปลอดภัยทางไซเบอร์?
ปัญญาประดิษฐ์ (AI) ในด้านความปลอดภัยทางไซเบอร์ คือการใช้การเรียนรู้ของเครื่อง การประมวลผลภาษาธรรมชาติ และแบบจำลองภาษาขนาดใหญ่ ทั้งในฝั่งผู้โจมตีและฝ่ายป้องกัน ผู้โจมตีใช้ AI ในการสร้างเนื้อหาฟิชชิ่งที่น่าเชื่อถือ ภาพปลอม (deepfake) และมัลแวร์ที่ปรับเปลี่ยนได้ ส่วนฝ่ายป้องกันใช้เทคนิคพื้นฐานเดียวกันนี้ในการตรวจจับความผิดปกติ การคัดกรองการแจ้งเตือน และการตอบสนองอัตโนมัติ
ปัญญาประดิษฐ์ (AI) เป็นอันตรายมากกว่าในฐานะเครื่องมือโจมตี หรือมีประโยชน์มากกว่าในฐานะเครื่องมือป้องกัน?
ทั้งสองฝ่ายไม่มีความได้เปรียบที่ยั่งยืน เพราะทั้งสองฝ่ายสร้างขึ้นบนพื้นฐานความสามารถเดียวกัน องค์กรที่มีความเสี่ยงมากกว่าคือองค์กรที่ยังไม่ได้นำ AI มาใช้ในเชิงรับในอัตราเดียวกับที่ผู้โจมตีใช้ในเชิงรุก ไม่ใช่องค์กรที่เผชิญกับช่องว่างทางเทคโนโลยีที่ตนเองไม่สามารถแก้ไขได้
AI สามารถทดแทนนักวิเคราะห์ที่เป็นมนุษย์ในศูนย์ปฏิบัติการด้านความปลอดภัย (SOC) ได้อย่างสมบูรณ์หรือไม่?
ไม่ และความเสี่ยงของการพยายามทำเช่นนั้น (ผลลัพธ์ที่ผิดพลาดจากแบบจำลองที่ปรับแต่งไม่ดี อคติจากข้อมูลการฝึกอบรมที่ไม่สมบูรณ์ และการบิดเบือนระบบตรวจจับโดยเจตนา) คือเหตุผลที่การกำกับดูแลโดยมนุษย์ยังคงจำเป็น คุณค่าที่แท้จริงของ AI คือการเคลียร์คิวเพื่อให้ผู้เชี่ยวชาญสามารถมุ่งเน้นไปที่การตัดสินใจที่ยังคงต้องการมนุษย์อยู่
ความเสี่ยงจากการโจมตีด้วย AI แตกต่างกันอย่างไรสำหรับทีมพัฒนาซอฟต์แวร์โดยเฉพาะ?
นอกเหนือจากภัยคุกคามฟิชชิงและดีพเฟคแล้ว ทีมพัฒนาซอฟต์แวร์ยังเผชิญกับความเสี่ยงเฉพาะด้าน AI ภายในระบบอีกด้วย SDLC ตัวมันเอง: เอเจนต์การเขียนโค้ด AI ติดตั้งส่วนประกอบที่หลอกลวงหรือเป็นอันตราย คำสั่งเอเจนต์ที่ไม่ได้ตรวจสอบในไฟล์ทักษะ และโค้ดที่สร้างโดย AI ที่จำลองความลับที่ถูกกำหนดไว้ตายตัว ด้านนี้ของ AI ในด้านความปลอดภัยทางไซเบอร์จะกล่าวถึงในรายละเอียดเพิ่มเติมในบทความของเรา คู่มือความปลอดภัยของห่วงโซ่อุปทาน AI
