ลองถามหัวหน้าฝ่ายรักษาความปลอดภัยดูว่าตอนนี้มีเครื่องมือ AI กี่ตัวที่กำลังเข้าถึงข้อมูลของบริษัท คุณจะได้ตัวเลขที่มั่นใจ แต่ตัวเลขนั้นจะผิด และไม่ใช่เพราะใครกำลังปกปิดอะไร AI ที่ซ่อนตัวอยู่ส่วนใหญ่ไม่ทิ้งร่องรอยอะไรไว้ให้ค้นหาเลย: ไม่มีการติดตั้ง ไม่มีใบอนุญาต ไม่มีรายการค่าใช้จ่าย แค่เปิดในแท็บเบราว์เซอร์และใช้บัญชีส่วนตัวของคุณก็พอแล้ว login แค่นั้นก็เพียงพอแล้ว ช่องว่างระหว่าง AI ที่นโยบายของคุณครอบคลุมกับ AI ที่องค์กรของคุณใช้งานจริงนั้นเองที่เป็นตัวขับเคลื่อนความเสี่ยงของ AI ที่ซ่อนเร้น และมันได้เติบโตจากเรื่องเล็กน้อยในด้านไอทีกลายเป็นหนึ่งในหมวดหมู่ที่มีการเปลี่ยนแปลงเร็วที่สุดในด้านความปลอดภัยแอปพลิเคชัน คู่มือนี้จะกล่าวถึงวิธีการตรวจจับและกำจัด AI ที่ซ่อนเร้นในทางปฏิบัติ พร้อมด้วยสัญญาณการตรวจจับและขั้นตอนการกำกับดูแลที่ยังคงใช้ได้แม้การตรวจสอบจะเสร็จสิ้นแล้ว
ความเสี่ยงของ Shadow AI ในหนึ่งย่อหน้า
Shadow AI คือเครื่องมือ AI โมเดล เอเจนต์ หรือการเรียกใช้ API ใดๆ ที่ทำงานอยู่ภายในองค์กรของคุณโดยปราศจากการตรวจสอบด้านความปลอดภัยหรือด้านไอที มันคือทายาทโดยตรงของ Shadow IT แต่ตรวจจับได้ยากกว่า: Shadow IT มักทิ้งบันทึกการจัดซื้อหรือลายเซ็นเครือข่ายที่ CASB สามารถตรวจสอบได้ แต่ Shadow AI มักไม่ทิ้งอะไรไว้เลย พนักงานคัดลอกสัญญาลงในแชทบอทที่ลงชื่อเข้าใช้ด้วยบัญชีส่วนตัว หรือนักพัฒนาเชื่อมต่อคีย์ API จากผู้ให้บริการโมเดลโดยตรงไปยังสคริปต์ และไม่มีส่วนใดแตะต้องสินค้าคงคลังของผู้ขายเลย ตัวเลขสองรายงานที่เป็นอิสระต่อกันแสดงให้เห็นว่าความเสี่ยงจาก Shadow AI สะสมมามากเพียงใด: 80% ของพนักงานใช้เครื่องมือ AI ที่องค์กรไม่ได้อนุมัติ ตามรายงาน State of Shadow AI ปี 2026 ของ Unseen Security และ 86% ขององค์กรกล่าวว่าพวกเขาขาดการมองเห็นว่าข้อมูลไหลเวียนเข้าและออกจากเครื่องมือ AI ที่ใช้งานอยู่อย่างไร
เหตุใดความเสี่ยงจาก AI ที่ซ่อนเร้นจึงมีมากกว่า IT ที่ซ่อนเร้น
การเปลี่ยนแปลงสามประการอธิบายว่าทำไมความเสี่ยงจาก AI ที่แฝงตัวอยู่จึงแพร่กระจายเร็วกว่าระบบการกำกับดูแลที่สร้างขึ้นเพื่อตรวจจับ IT ที่แฝงตัวอยู่ และการเปลี่ยนแปลงเหล่านี้ไม่สามารถย้อนกลับได้
- AI ไม่จำเป็นต้องติดตั้งอีกต่อไปแล้ว เครื่องมือที่กำหนดนิยามของ Shadow IT (SaaS ที่ไม่ได้รับอนุญาต ส่วนขยายเบราว์เซอร์ที่ผิดกฎหมาย) จะทิ้งหลักฐานไว้ในรายการทรัพย์สิน แต่ผู้ช่วย AI ที่เปิดอยู่ในแท็บเบราว์เซอร์ หรือ API โมเดลที่เรียกใช้ด้วยบัตรส่วนบุคคล จะไม่ทิ้งอะไรไว้ให้การตรวจสอบปลายทางหรือการจัดซื้อจัดจ้างตรวจจับได้
- AI ได้เข้ามาอยู่ภายในเครื่องมือที่คุณอนุมัติแล้ว ฟีเจอร์สไตล์ Copilot ตอนนี้ถูกฝังอยู่ในแพลตฟอร์มที่อยู่ในรายชื่อที่อนุญาตแล้ว แพลตฟอร์มได้รับการตรวจสอบแล้ว ความสามารถด้าน AI เปิดใช้งานอย่างเงียบๆ ภายในแพลตฟอร์ม แต่โดยปกติแล้วจะไม่เปิดใช้งาน
- ปริมาณเสียงเปลี่ยนจากที่มนุษย์เป็นผู้ควบคุมไปเป็นการควบคุมด้วยเครื่องจักร ทีม ThreatLabz ของ Zscaler วิเคราะห์ธุรกรรม AI และแมชชีนเลิร์นนิงจำนวน 536.5 พันล้านรายการ ทั่วทั้งระบบคลาวด์และบันทึกการเพิ่มขึ้น 3,464.6% เมื่อเทียบกับปีก่อนหน้า enterprise ปริมาณการใช้งาน AI/ML การเปลี่ยนแปลงในระดับนี้เป็นเหตุผลว่าทำไมการประเมินความเสี่ยง AI ที่ซ่อนเร้นซึ่งทำไว้เมื่อปีที่แล้วจึงล้าสมัยไปแล้ว และทำไมการตรวจสอบ ณ จุดเวลาใดเวลาหนึ่งจึงพ่ายแพ้ต่อปัญหาที่ทวีความรุนแรงขึ้นทุกเดือน
ปัญญาประดิษฐ์เงาซ่อนตัวอยู่ที่ไหนกันแน่
ทีมรักษาความปลอดภัยที่ใช้เครื่องมือไอทีลับในการค้นหาความเสี่ยงจาก AI ที่ซ่อนตัวอยู่ มักจะได้รายชื่อที่ไม่ครบถ้วน เนื่องจากจุดซ่อนตัวนั้นแตกต่างกันไป:
- เครื่องมือที่ทำงานบนเว็บเบราว์เซอร์ ไม่ทิ้งร่องรอยใดๆ บนอุปกรณ์ปลายทาง ระบบ AI ทำงานทั้งหมดในแท็บเดียว ไม่ต้องตรวจจับเอเจนต์ ไม่ต้องติดตั้งอะไรเลย
- ฟีเจอร์ AI ที่ฝังอยู่ในแพลตฟอร์มที่ได้รับอนุญาต แพลตฟอร์มดังกล่าวได้รับการตรวจสอบแล้ว แต่ฟีเจอร์ AI ที่ติดตั้งเพิ่มเติมในภายหลังนั้นมักไม่ได้รับการตรวจสอบ
- ค่าใช้จ่ายส่วนตัวในการใช้งาน API นักพัฒนาซอฟต์แวร์นำ API โมเดลไปใส่ไว้ในบัตรส่วนตัวและเรียกใช้โดยตรงจากโค้ด API นั้นไม่เคยไปถึงฝ่ายจัดซื้อ ดังนั้นจึงไม่ปรากฏในระบบสินค้าคงคลัง
- คู่มือและไฟล์ทักษะของเอージェนต์ที่ยังไม่ได้รับการตรวจสอบ เครื่องมือการเขียนโค้ดแบบเอเจนต์นั้นปฏิบัติตามคำสั่งที่เขียนไว้โดยตรงในที่เก็บข้อมูล (ไฟล์ทักษะ กฎของเอเจนต์) มากขึ้นเรื่อยๆ และไฟล์เหล่านั้นสามารถเชื่อมต่อเอเจนต์เข้ากับโมเดล ชุดข้อมูล หรือเซิร์ฟเวอร์ MCP ที่ไม่มีใครอนุมัติได้
วิธีการตรวจจับและกำจัด AI เงา
การรู้วิธีตรวจจับและกำจัด AI ที่แฝงตัวอยู่ หมายถึงการมองปัญหาทั้งสองนี้แยกกัน แต่ต้องดำเนินการควบคู่กันไป นั่นคือ การค้นหาสิ่งที่แฝงตัวอยู่แล้ว และการทำให้แน่ใจว่ามันจะไม่กลับมาโดยไม่ได้รับการจัดการ
ตรวจจับมัน: สัญญาณสามอย่างที่ทำงานร่วมกัน
ไม่มีการสแกนเพียงครั้งเดียวที่จะตรวจพบความเสี่ยงจาก AI แฝงทั้งหมดได้ เพราะแต่ละจุดซ่อนตัวจะทิ้งร่องรอยที่แตกต่างกันออกไป
- บันทึกเครือข่ายและพร็อกซี บันทึกของไฟร์วอลล์ พร็อกซี และ DNS ของคุณบันทึกการเรียกออกไปยังปลายทางของผู้ให้บริการ AI อยู่แล้ว ไม่ว่าเครื่องมือดังกล่าวจะได้รับการอนุมัติหรือไม่ก็ตาม รูปแบบที่ควรดึงข้อมูลออกมาตรวจสอบ ได้แก่ การเรียก API ความถี่สูงจากโฮสต์เดียว ข้อมูลขาออกขนาดใหญ่ หรือการรับส่งข้อมูลอัตโนมัตินอกเวลาทำการไปยังปลายทางของโมเดล
- สัญญาณระบุตัวตนและการเข้าถึง บันทึกเครือข่ายจะบอกคุณว่ามีการใช้งานเครื่องมือใดอยู่ ผู้ให้บริการยืนยันตัวตนของคุณจะบอกคุณว่าใครอยู่เบื้องหลังและให้สิทธิ์การเข้าถึงมากน้อยเพียงใด โปรดระวังการให้สิทธิ์ OAuth แก่แอปพลิเคชัน AI ที่ไม่ได้รับการตรวจสอบ การลงชื่อเข้าใช้เครื่องมือ AI ด้วยบัญชีส่วนบุคคลแทนที่จะเป็นบัญชีของบริษัท และกิจกรรม API ของบัญชีบริการที่ไม่มีใครสามารถอธิบายได้
- การค้นหาในระดับสินทรัพย์และระดับโค้ด นี่คือเลเยอร์ standard เครื่องมือ Shadow-IT ขาดหายไป และเป็นเรื่องเฉพาะเจาะจงเกี่ยวกับวิธีที่ AI ปรากฏในซอฟต์แวร์ ได้แก่ โมเดล ชุดข้อมูล จุดสิ้นสุดการอนุมาน เอเจนต์ เซิร์ฟเวอร์ MCP และเครื่องมือเขียนโค้ด AI ที่อ้างอิงโดยตรงในที่เก็บข้อมูล pipelineและไฟล์ทักษะ ไม่ใช่แค่ในปริมาณการรับส่งข้อมูลของเบราว์เซอร์เท่านั้น หากไม่มีเลเยอร์นี้ คุณจะเห็นได้ ที่ มีการเรียกใช้ API ของโมเดล แต่คุณมองไม่เห็น ที่ ตัวแทนโทรมาจาก ที่ pipelineหรือสิ่งที่มันเชื่อมต่ออยู่ ซึ่งก็คือจุดนั้นเอง ความเสี่ยงจาก AI แฝงกลายเป็นเหตุการณ์ฉุกเฉินในห่วงโซ่อุปทาน มากกว่าจะเป็นการละเมิดนโยบาย
กำจัดมันให้หมดไป: สี่ขั้นตอนที่จะทำให้มันได้ผลอย่างถาวร
การตรวจจับจะบอกคุณว่าอะไรกำลังทำงานอยู่แล้ว การเปลี่ยนสิ่งนั้นให้เป็นสิ่งที่ยั่งยืนต้องใช้สี่ขั้นตอน ซึ่งดำเนินการเป็นวงจรวนซ้ำแทนที่จะเป็นการตรวจสอบครั้งเดียว เนื่องจากความเสี่ยงจาก AI ที่ซ่อนเร้นเปลี่ยนแปลงเร็วกว่าการตรวจสอบประจำปีใดๆ จะติดตามได้ทัน
- สร้างคลังสินค้าเพียงแห่งเดียว ไม่ใช่สามแห่ง สินทรัพย์แบบดั้งเดิม (รีโพล, pipelineเครื่องมือ AI (เช่น คอนเทนเนอร์) และสินทรัพย์ AI (เช่น โมเดล ชุดข้อมูล เอเจนต์ เซิร์ฟเวอร์ MCP เครื่องมือเขียนโค้ด) จำเป็นต้องอยู่ในมุมมองเดียวกัน โดยมีการแมปความสัมพันธ์ระหว่างกัน เครื่องมือ AI ที่ดูเหมือนไม่มีอันตรายในตัวมันเอง อาจกลายเป็นช่องโหว่ที่แท้จริงได้ เมื่อคุณเห็นว่าชุดข้อมูลใดที่ป้อนเข้าไป และมันสื่อสารกับปลายทางใด
- จัดประเภทข้อมูลก่อนเขียนนโยบาย กฎที่ห้าม “การใช้ข้อมูลที่ละเอียดอ่อนในเครื่องมือ AI” นั้นไม่มีความหมายอะไรเลยหากไม่มีใครรู้ว่าข้อมูลใดบ้างที่จัดอยู่ในกลุ่มข้อมูลที่ละเอียดอ่อน ต้องรู้ว่าข้อมูลที่อยู่ภายใต้การควบคุมและข้อมูลที่เป็นความลับนั้นอยู่ที่ไหน และใช้การจำแนกประเภทนั้นเป็นตัวตัดสินว่ากรณีการใช้งาน AI ใดบ้างที่สามารถทำได้ และกรณีใดบ้างที่ไม่ควรนำออกจากระบบ
- ให้ทีมต่างๆ ได้รับอนุมัติเร็วขึ้น ไม่ใช่เพิ่มรายชื่อผู้ถูกแบนให้ยาวขึ้น ผู้คนหันไปใช้ AI ที่ไม่ได้รับอนุญาตเพราะตัวเลือกที่ได้รับการอนุมัตินั้นช้ากว่าแท็บที่เปิดอยู่ตรงหน้าพวกเขา แคตตาล็อกที่มีการควบคุมของโมเดลและเอเจนต์ที่ได้รับอนุมัติ โดยที่ข้อมูลประจำตัวถูกปกปิดจากนักพัฒนา จะช่วยขจัดเหตุผลที่จะต้องหลีกเลี่ยงนโยบาย
- บังคับใช้ในจุดที่ความเสี่ยงเกิดขึ้นจริง: ขั้นตอนการติดตั้งและการโทร การบล็อกโมเดลในเอกสารไม่ได้หยุดเอเจนต์จากการติดตั้งโมเดลนั้น การบังคับใช้กฎต้องเกิดขึ้น ณ จุดที่มีการติดตั้งแพ็กเกจหรือเรียกใช้ API เพื่อให้การกระทำที่ถูกบล็อกล้มเหลวโดยอัตโนมัติ แทนที่จะขึ้นอยู่กับว่าใครจะจำกฎนั้นได้
ความเสี่ยงจาก AI ที่ซ่อนเร้นนั้นมีความหมายอย่างไรต่อความปลอดภัยของแอปพลิเคชัน ไม่ใช่แค่ด้านไอทีเท่านั้น
คำแนะนำส่วนใหญ่เกี่ยวกับ AI ที่แฝงตัวอยู่จะมองเรื่องนี้เป็นเพียงปัญหาการป้องกันการสูญเสียข้อมูล และ DLP ก็เป็นส่วนหนึ่งที่ถูกต้องตามกฎหมาย แต่ความเสี่ยงจาก AI ที่แฝงตัวอยู่จำนวนมากไม่ได้ปรากฏให้เห็นในเบราว์เซอร์เลย มันปรากฏในรูปแบบของแพ็กเกจที่ตัวแทนพยายามติดตั้ง เซิร์ฟเวอร์ MCP ที่ไม่มีใครตรวจสอบ หรือผู้ช่วยเขียนโค้ดที่มีสิทธิ์เข้าถึงคลังเก็บข้อมูลที่มันไม่เคยได้รับอนุญาตให้แตะต้อง นั่นไม่ใช่ไอทีที่แฝงตัวอยู่โดยติดป้าย AI ไว้ แต่มันเป็นความเสี่ยงในห่วงโซ่อุปทานซอฟต์แวร์ประเภทใหม่ และมันต้องการระเบียบวินัยแบบเดียวกับที่ AppSec ใช้กับส่วนประกอบอื่นๆ นั่นคือ รู้ว่ามีอะไรอยู่ ตรวจสอบ และทำให้การตรวจสอบเป็นไปโดยอัตโนมัติ แทนที่จะหวังว่านักพัฒนาทุกคนจะจำได้ว่าต้องตรวจสอบ
หยุดควบคุม AI จากสเปรดชีตเสียที
ช่องว่างไม่ได้อยู่ที่ความพยายาม แต่อยู่ที่การมองเห็น: ทีมส่วนใหญ่ขาดสถานที่เพียงแห่งเดียวที่รวบรวมสินทรัพย์ AI โค้ด และ... pipelineสิ่งเหล่านี้ปรากฏขึ้นพร้อมกัน ซึ่งเป็นระยะห่างที่พอดีระหว่าง "เรามีนโยบาย AI แฝง" กับ "เราสามารถบังคับใช้มันได้จริง"
นั่นแหละคือปัญหา ไซเกนี ระบบรักษาความปลอดภัย AI ถูกสร้างขึ้นโดยใช้ AI Inventory ซึ่งจะค้นหาและตรวจจับสินทรัพย์ AI ทุกชิ้นในคลังเก็บข้อมูลของคุณอย่างต่อเนื่องและอัตโนมัติ pipelineและสภาพแวดล้อมการพัฒนา: โมเดล เฟรมเวิร์ก ชุดข้อมูล จุดสิ้นสุดการอนุมาน เอเจนต์ เซิร์ฟเวอร์ MCP และเครื่องมือเขียนโค้ด AI เช่น Copilot, Cursor หรือ Claude Code ซึ่งแมปเป็นกราฟความสัมพันธ์พร้อมกับ AI-BOM ที่สร้างขึ้นในทุกครั้งที่มีการสแกน เดฟเอไอ ทำงานเสมือนระบบป้องกันที่ทำงานอย่างต่อเนื่องในสภาพแวดล้อมเดียวกัน ตรวจสอบไฟล์ทักษะและคำสั่งของเอเจนต์ และบล็อกการติดตั้งที่เป็นอันตรายก่อนที่เอเจนต์จะทำงาน โดยไม่จำเป็นต้องมีการแจ้งเตือนใดๆ และเนื่องจาก คอร์ไอ ระบบใช้การเชื่อมโยงและการกำกับดูแลที่ขับเคลื่อนด้วย AI แบบเดียวกันกับผลลัพธ์จากเครื่องสแกนที่มีอยู่ของคุณ เช่นเดียวกับที่ใช้กับเครื่องสแกนของ Xygeni เอง ความเสี่ยงจาก AI ที่ซ่อนเร้นจะไม่หายไปในเครื่องมือที่ไม่เชื่อมต่อกันอีกตัวหนึ่ง แต่จะปรากฏอยู่ในมุมมองความเสี่ยงเดียวกันกับทุกสิ่งทุกอย่างในระบบของคุณ SDLC.
เริ่มใช้งานฟรี Sign up with GitHubสมัครใช้บริการ GitLab หรือ Google เพื่อรับสิทธิ์การเข้าถึงคลังเก็บข้อมูลสูงสุด 25 แห่ง และการสแกนด้วย AI 50 ครั้งต่อเดือน โดยไม่มีค่าใช้จ่าย ไม่ต้องใช้บัตรเครดิต
คำถามที่พบบ่อย
อธิบายง่ายๆ ก็คือ ความเสี่ยงจากปัญญาประดิษฐ์เงา (Shadow AI) คืออะไร?
ความเสี่ยงจาก AI ที่ซ่อนเร้น คือความเสี่ยงที่เกิดจากเครื่องมือ AI โมเดล เอเจนต์ หรือการเรียกใช้ API ที่ทำงานอยู่ภายในองค์กรโดยไม่มีการตรวจสอบด้านความปลอดภัย เนื่องจากส่วนใหญ่ไม่มีการติดตั้งและไม่มีบันทึกการจัดซื้อ ความเสี่ยงจึงค่อยๆ เพิ่มขึ้นอย่างเงียบๆ จนกว่าจะมีคนไปตรวจสอบโดยเจตนา
ในทางปฏิบัติ คุณจะตรวจจับและกำจัด AI เงาได้อย่างไร?
การตรวจจับทำงานโดยอาศัยสัญญาณสามอย่างที่ทำงานร่วมกัน (บันทึกเครือข่ายและพร็อกซี สัญญาณระบุตัวตนและการเข้าถึง และรหัส/)pipelineการค้นหาและการกำจัดสินทรัพย์ในระดับต่างๆ เป็นกระบวนการวนซ้ำสี่ขั้นตอน ได้แก่ สร้างรายการสินค้าคงคลังที่เป็นหนึ่งเดียว จัดประเภทข้อมูลก่อนเขียนนโยบาย มอบเส้นทางการอนุมัติที่รวดเร็วยิ่งขึ้นให้กับทีม และบังคับใช้ ณ จุดติดตั้งหรือเรียกใช้ API แทนที่จะอยู่ในเอกสาร
AI ที่ทำงานอยู่เบื้องหลัง กับ IT ที่ทำงานอยู่เบื้องหลัง เหมือนกันหรือไม่?
มีความเกี่ยวข้อง แต่ไม่เหมือนกันเสียทีเดียว Shadow IT มักทิ้งร่องรอยไว้ (เช่น การติดตั้ง ใบอนุญาต ลายเซ็นเครือข่าย) ในขณะที่ Shadow AI มักไม่ทิ้งร่องรอยใดๆ ไว้เลย นอกจากแท็บเบราว์เซอร์และข้อมูลส่วนตัว login เพียงพอแล้ว และปัจจุบันฟีเจอร์ AI ได้ถูกฝังอยู่ในแพลตฟอร์มที่ได้รับการอนุมัติแล้ว
เครื่องมือ CASB หรือ DLP สามารถตรวจจับความเสี่ยงจาก AI ที่ซ่อนตัวอยู่ได้ด้วยตัวเองหรือไม่?
เพียงบางส่วนเท่านั้น เครื่องมือเหล่านั้นถูกสร้างขึ้นเพื่อตรวจจับซอฟต์แวร์ที่ไม่ได้รับอนุญาตที่มีร่องรอยการใช้งาน โมเดลที่เรียกใช้โดยตรงจากโค้ด หรือฟีเจอร์ AI ที่เปิดใช้งานภายในแพลตฟอร์มที่ได้รับอนุมัติ จะไม่สร้างสัญญาณใดๆ ที่ CASB ถูกตั้งค่าให้ตรวจจับ การจัดการความเสี่ยงจาก AI ที่ซ่อนเร้นอย่างเต็มรูปแบบนั้นต้องอาศัยข้อมูลประจำตัว เครือข่าย และโค้ด/pipeline- การมองเห็นในระดับเดียวกัน
ปัญญาประดิษฐ์แฝง (Shadow AI) มักปรากฏให้เห็นในด้านใดของการพัฒนาซอฟต์แวร์มากที่สุด?
นอกเหนือจากแชทบอทที่ทำงานบนเว็บเบราว์เซอร์แล้ว ปัญหานี้ยังปรากฏในรูปแบบของคีย์ API ที่ถูกเขียนไว้ในซอร์สโค้ด โมเดลโอเพนซอร์สที่ถูกดึงเข้ามาในโปรเจ็กต์โดยไม่ผ่านการตรวจสอบความปลอดภัย และไฟล์ทักษะของเอเจนต์หรือการเชื่อมต่อเซิร์ฟเวอร์ MCP ที่ถูกเพิ่มเข้าไปในที่เก็บข้อมูลโดยไม่ได้รับการตรวจสอบ ซึ่งเป็นส่วนที่เครื่องมือไอทีแบบไม่เป็นทางการทั่วไปไม่ได้ตรวจสอบ
