ความปลอดภัยของเอเจนต์ AI ไม่ได้ขึ้นอยู่กับสิ่งที่โมเดลพูดอีกต่อไปแล้ว แต่ขึ้นอยู่กับสิ่งที่เอเจนต์ทำ: เครื่องมือที่มันเรียกใช้ ข้อมูลที่มันอ่าน ข้อมูลประจำตัวที่มันถือครอง และแพ็กเกจที่มันติดตั้งด้วยตัวเอง
และทีมส่วนใหญ่ไม่สามารถตอบคำถามแรกได้ว่า: เรากำลังใช้งานเอเจนต์ตัวไหนอยู่กันแน่? เอเจนต์เหล่านั้นอยู่ในที่เก็บข้อมูลในรูปแบบของกราฟ LangChain และเซิร์ฟเวอร์ MCP เป็นต้น SKILL.md ไฟล์เหล่านั้นและเครื่องมือเขียนโค้ด AI ที่นักพัฒนาแต่ละคนตั้งค่าในบ่ายวันศุกร์ ไม่มีใครตรวจสอบ และทักษะที่เป็นอันตรายก็เป็นเพียงข้อความธรรมดา
TL; DR
การรักษาความปลอดภัยของเอเจนต์ AI ในสี่ขั้นตอน: ตรวจสอบ ประเมินผล รักษาความปลอดภัยของวงจร และปกป้องการติดตั้ง
คุณไม่สามารถรักษาความปลอดภัยของเอเจนต์ที่คุณมองไม่เห็นได้ การรักษาความปลอดภัยของเอเจนต์ AI เริ่มต้นจากการตรวจสอบเอเจนต์ เซิร์ฟเวอร์ MCP ทักษะ โมเดล และเครื่องมือเขียนโค้ด AI ทุกตัวในโค้ดของคุณ
- ความเสี่ยงในวิธีการสร้างเอเจนต์: ข้อความแจ้งเตือนที่เชื่อมโยงข้อมูลที่ผู้ใช้ป้อน ตัวแทนเรียกใช้เครื่องมือที่ไม่มี guardrailsสิทธิ์การเข้าถึงและทักษะที่มากเกินไป พร้อมคำสั่งที่ซ่อนอยู่ ส่วนใหญ่จะปรากฏให้เห็นในโค้ด ก่อนการใช้งานจริง และจะเชื่อมโยงกับ OWASP Top 10 สำหรับแอปพลิเคชัน Agentic.
- การรักษาความปลอดภัยภายในวงจร: เอเจนต์การเข้ารหัสต้องการระบบรักษาความปลอดภัยภายในลูปการทำงาน ดังนั้นพวกมันจึงสแกนและแก้ไขสิ่งที่เขียนก่อนที่จะนำไปใช้งาน commitเท็ด ไม่ใช่หลังจากนั้นหลายสัปดาห์ในใบสั่งปรับ
- รักษาความปลอดภัยของอุปกรณ์ที่ติดตั้ง: เอเจนต์จะติดตั้งส่วนประกอบที่จำเป็นด้วยเช่นกัน การตรวจจับมัลแวร์ที่ทำงานได้ก่อนที่จะมีลายเซ็นนั้นครอบคลุมแพ็กเกจที่เป็นอันตรายไม่ว่าใครจะเป็นผู้ติดตั้ง ไม่ว่าจะเป็นนักพัฒนาหรือเอเจนต์ก็ตาม
- ขั้นตอนการทำงานหนึ่งเดียว: ผลการตรวจสอบโดย AI จะผ่านกระบวนการคัดกรอง การออกตั๋ว และการรายงานเช่นเดียวกับผลการตรวจสอบความปลอดภัยแอปพลิเคชันอื่นๆ ของคุณ
ขั้นตอนแรก: สร้างรายการชิ้นส่วน AI ในคลังเก็บข้อมูลของคุณ ส่งออกเป็น AI-BOM จากนั้นจึงอนุมัติโค้ดเอเจนต์ใหม่ใน CI
เหตุใดการรักษาความปลอดภัยของเอเจนต์ AI จึงเป็นปัญหาที่แตกต่างออกไป
ฟีเจอร์ LLM ส่งคืนข้อความ และมนุษย์จะเป็นผู้ตัดสินใจว่าจะทำอย่างไรกับข้อความนั้น เอเจนต์จะปิดวงจรนั้นด้วยตัวเอง: มันวางแผน เรียกใช้เครื่องมือ อ่านเว็บเพจ อีเมลและเอกสาร เขียนไฟล์ และรันคำสั่ง ความสามารถทุกอย่างที่คุณมอบให้เอเจนต์ คือความสามารถที่ผู้โจมตีสามารถนำไปใช้ได้
OWASP ก็ให้ความแตกต่างในลักษณะเดียวกัน OWASP Top 10 สำหรับแอปพลิเคชัน Agentic ปี 2026 (ASI01 ถึง ASI10) สร้างขึ้นบนพื้นฐานของ OWASP Top 10 สำหรับการสมัครเรียน LLMรายการ LLM ครอบคลุมสิ่งที่แบบจำลองกล่าวไว้ ส่วนรายการตัวแทนครอบคลุมสิ่งที่ตัวแทนกระทำ
ปัจจุบันองค์กรส่วนใหญ่ใช้เอเจนต์สองประเภท:
- เอเจนต์ที่คุณสร้างไว้ในแอปพลิเคชันของคุณ: ผู้ช่วยสนับสนุน นักบินร่วมภายใน และเวิร์กโฟลว์ที่สร้างขึ้นด้วยเฟรมเวิร์ก เช่น LangChain, LangGraph, CrewAI, AutoGen, Semantic Kernel หรือ LlamaIndex มักเชื่อมต่อกับเครื่องมือต่างๆ ผ่านทาง เซิร์ฟเวอร์ MCP.
- เอージェนต์การเขียนโค้ด AI ที่นักพัฒนาของคุณใช้: Claude Code, Cursor, GitHub Copilot, Windsurf และเครื่องมืออื่นๆ ที่ใช้ในการเขียนโค้ด แก้ไขการตั้งค่า และเพิ่มส่วนประกอบที่จำเป็น
การรักษาความปลอดภัยของเอージェนต์ AI ต้องครอบคลุมทั้งสองอย่าง เพราะทั้งสองอย่างทำงานโดยได้รับอนุญาตจากคุณ
ขั้นตอนที่ 1: ตรวจสอบและจัดทำรายการเอเจนต์ เซิร์ฟเวอร์ MCP และทักษะทั้งหมด
การรักษาความปลอดภัยของเอージェนต์ AI เริ่มต้นด้วยกระดานคำถาม และปัจจุบันผู้ตรวจสอบบัญชีถามว่า: เรากำลังใช้งาน AI ประเภทใดอยู่? Xygeni AI Security ตอบคำถามจากแหล่งที่มาโดยตรง ได้แก่ โค้ด การตั้งค่า ไฟล์กำหนดค่า และส่วนประกอบต่างๆ
มันค้นพบโมเดล เอเจนต์ และเซิร์ฟเวอร์เอเจนต์ เฟรมเวิร์ก AI เซิร์ฟเวอร์ MCP และเครื่องมือ ทักษะ (SKILL.md, AGENTS.md), ข้อความแจ้งเตือน, guardrailsรวมถึงที่เก็บเวกเตอร์ ชุดข้อมูล จุดสิ้นสุดการอนุมาน และเครื่องมือเขียนโค้ด AI ที่กำหนดค่าไว้ในที่เก็บข้อมูลของคุณ นอกจากนี้ยังแสดงแผนผังการเชื่อมต่อระหว่างกันด้วย เช่น เอเจนต์ใดใช้โมเดลใด เรียกใช้เครื่องมือใด และเรียกใช้เซิร์ฟเวอร์ MCP ใด
ผลลัพธ์ที่ได้คือรายการสินค้าคงคลัง AI ที่มีชีวิตชีวา ซึ่งสามารถส่งออกเป็น AI-BOM ในรูปแบบ CycloneDX พร้อมบันทึกการกำกับดูแลสำหรับสินทรัพย์แต่ละรายการ ซึ่งรวมถึงช่องหมวดหมู่ความเสี่ยงตามกฎหมาย AI ของสหภาพยุโรป
อยากเห็นว่า AI มีส่วนไหนในโค้ดของคุณบ้างแล้ว? จองคิวปรึกษากับวิศวกร และเราจะสร้างคลังข้อมูล AI สำหรับคลังข้อมูลของคุณแห่งหนึ่ง
ขั้นตอนที่ 2: ตรวจจับความเสี่ยงในวิธีการสร้างเอเจนต์
ช่องโหว่ของเอเจนต์ส่วนใหญ่ไม่ได้ซับซ้อนอะไร มักจะเป็นข้อความแจ้งเตือนที่สร้างขึ้นจากการต่อสตริง เอเจนต์ที่เรียกใช้เครื่องมือโดยไม่มีการตรวจสอบความถูกต้องของข้อมูลป้อนเข้า หรือข้อมูลรับรองที่มีขอบเขตกว้างเกินกว่าที่เอเจนต์ต้องการ ช่องโหว่เหล่านี้ล้วนทิ้งร่องรอยไว้ในโค้ด ดังนั้นคุณสามารถตรวจจับได้ในระบบ CI ก่อนการใช้งานจริง
ความเสี่ยงของ AI agent ที่คุณสามารถตรวจจับได้ตั้งแต่ในโค้ด
ความเสี่ยงแต่ละอย่างจะสอดคล้องกับ OWASP Top 10 สำหรับการสมัครเรียน LLM หรือคู่หูที่ทำหน้าที่เดียวกัน เพื่อให้ผลการตรวจสอบสื่อสารไปในภาษาเดียวกันกับผู้ตรวจสอบบัญชีของคุณ
| ความเสี่ยง | ลักษณะในรูปแบบโค้ด | การแมป OWASP |
|---|---|---|
| ฉีดด่วน | ข้อความแจ้งเตือนของระบบที่รวมเนื้อหาของผู้ใช้เข้าด้วยกันโดยไม่มีการแยกบทบาท ตัวคั่น หรือ guardrails | นิติศาสตรมหาบัณฑิต01 |
| การฉีดทางอ้อม | ตัวแทนเรียกใช้เครื่องมือโดยไม่มีข้อมูลป้อนเข้า guardrailsหรือเอเจนต์ที่รับข้อมูลเว็บเพจ อีเมล หรือเอกสารที่ดึงมาโดยไม่ผ่านการตรวจสอบความถูกต้อง | นิติศาสตรมหาบัณฑิต01 |
| การจัดการเอาต์พุตที่ไม่ปลอดภัย | ผลลัพธ์ของแบบจำลองที่ได้คือ eval หรืออ่างล้างจานอันตรายอื่นๆ ที่ติดตามได้จากฟังก์ชันและไฟล์ต่างๆ | นิติศาสตรมหาบัณฑิต05 |
| ตัวตนของเอเจนต์ที่มีสิทธิ์มากเกินไปการละเมิดอัตลักษณ์ที่ไม่ใช่มนุษย์ | ข้อมูลประจำตัวแบบคงที่ที่มีอายุการใช้งานยาวนาน ข้อมูลประจำตัวที่ใช้ร่วมกันโดยไม่จำกัดขอบเขต เซิร์ฟเวอร์ MCP หรือเครื่องมือที่ทำงานด้วยสิทธิ์ระดับสูง | ASI03 |
| ทักษะที่เป็นอันตรายหรือถูกละเมิดลิขสิทธิ์ห่วงโซ่อุปทานทักษะตัวแทน | คำสั่งที่เป็นอันตรายที่ซ่อนไว้ภายใน SKILL.md or AGENTS.mdชื่อทักษะที่เลียนแบบทักษะหรือการบูรณาการที่เป็นที่รู้จัก | ทักษะการเป็นผู้นำ 10 อันดับแรก |
| ความลับในคำถามกระตุ้นความคิด | ข้อมูลประจำตัวจะถูกจัดเก็บไว้ในไฟล์ข้อความแจ้งเตือน | นิติศาสตรมหาบัณฑิต07 |
ผลการค้นหาแต่ละรายการจะมีหมวดหมู่ OWASP LLM Top 10 กำกับอยู่ พร้อมด้วยแท็ก OWASP Agentic Applications และ Agentic Skills ในกรณีที่เกี่ยวข้อง และเวกเตอร์การโจมตีแบบเรดทีมที่เกี่ยวข้องด้วย
ทักษะต่างๆ สมควรได้รับการพิจารณาเป็นพิเศษ เพราะคำสั่งที่เป็นอันตรายในไฟล์ทักษะเป็นเพียงข้อความ ไม่ใช่โค้ด และไม่มีลายเซ็นใดสามารถตรวจจับได้ การตรวจสอบโดย AI ที่เลือกใช้จะตัดสินเจตนาของไฟล์ทักษะและคำสั่งเอเจนต์ที่ถูกตั้งข้อสงสัย ด้วยการตั้งค่าแบบกำหนดเวอร์ชันและแน่นอน ดังนั้นไฟล์เดียวกันจึงได้รับการตัดสินแบบเดียวกันเสมอ สามารถทำงานบนโมเดลโฮสต์เองของคุณได้ ดังนั้นโค้ดและข้อความแจ้งเตือนจึงไม่จำเป็นต้องออกจากสภาพแวดล้อมของคุณ จากนั้นคะแนนระดับทักษะจะรวมสัญญาณเหล่านั้นเข้าด้วยกันเป็นคำตอบเดียว: ปลอดภัย ระมัดระวัง หรือห้ามติดตั้ง
ไปลึก: รับชมเซสชั่นของเรา รัศมีระเบิด: เมื่อเจ้าหน้าที่ไปแตะต้องสิ่งที่คุณไม่ได้ขอเกี่ยวกับสิ่งที่เกิดขึ้นเมื่อสิทธิ์ของเอเจนต์ขยายออกไปเกินขอบเขตงานที่ได้รับมอบหมาย
ขั้นตอนที่ 3: ใส่ระบบรักษาความปลอดภัยไว้ในลูปของเอเจนต์การเขียนโค้ด
เอージェนต์การเขียนโค้ด AI จะเขียนและ commit เขียนโค้ดได้เร็วกว่าที่ใครจะตรวจสอบทัน ปัญหาที่แจ้งเข้ามาในรายงานหลังจากสองสัปดาห์มักจะไม่ได้รับการแก้ไข การแก้ไขต้องเกิดขึ้นในขณะที่เจ้าหน้าที่ยังทำงานอยู่
เซิร์ฟเวอร์ Xygeni MCP ทำงานในเครื่องและใช้งานได้กับเอเจนต์การเขียนโค้ด AI ใดๆ ที่รองรับ MCP ไม่ว่าจะเป็นโมเดลใดก็ตาม เอเจนต์สามารถสแกนโค้ดที่เพิ่งเขียน แสดงรายการปัญหาใหม่ รับคำวินิจฉัยจาก AI Triage และขอแก้ไขได้ SAST และ SCA ผลการค้นพบ กระบวนการนี้จะทำซ้ำไปเรื่อยๆ จนกว่าการเปลี่ยนแปลงจะสมบูรณ์ ก่อนที่จะมีสิ่งใดเกิดขึ้น commitเท็ด โดยได้รับการอนุมัติจากทีมของคุณแล้ว
มันใช้กลไก นโยบาย และกฎการปิดเสียงแบบเดียวกับของคุณ pipelineดังนั้นเอเจนต์และ CI ของคุณจึงไม่มีความขัดแย้งกัน สำหรับนักพัฒนาที่ทำงานร่วมกับเอเจนต์นั้น ปลั๊กอิน IDE นำผลการค้นพบและการแก้ไขเดียวกันนั้นมาใช้ในโปรแกรมแก้ไขด้วย
ขั้นตอนที่ 4: รักษาความปลอดภัยของสิ่งที่เอเจนต์ติดตั้ง
โปรแกรมเขียนโค้ด AI สามารถเพิ่มการพึ่งพาได้เอง และจะไม่ตรวจสอบว่าแพ็กเกจใหม่เอี่ยมที่มีชื่อคุ้นเคยนั้นถูกต้องหรือไม่ ผู้โจมตีรู้เรื่องนี้ และพวกเขารอจังหวะอยู่ที่แหล่งเก็บข้อมูลโอเพนซอร์ส
การป้องกันมัลแวร์ ระบบจะตรวจจับแพ็กเกจที่เป็นอันตรายก่อนที่จะมีการสร้างลายเซ็น ไม่ว่าใครจะเป็นผู้ติดตั้ง ไม่ว่าจะเป็นนักพัฒนาหรือเอเจนต์ โดยจะทำงานบนเครื่องของนักพัฒนา Shield บังคับใช้นโยบายก่อนที่สิ่งใดจะเริ่มทำงาน: อายุขั้นต่ำสำหรับแพ็กเกจใหม่ การครอบคลุมสำหรับส่วนขยายและปลั๊กอินของ IDE การบล็อกตัวบ่งชี้ที่เป็นอันตรายและพื้นที่ทางภูมิศาสตร์ที่มีความเสี่ยง และการแยกปลายทางเมื่อจำเป็นต้องจำกัดการทำงานของเครื่อง
ต้องการที่จะลงลึก?
ความบกพร่องในตัวจัดการและจุดเชื่อมต่อที่เปิดเผยซึ่งเข้าถึงตัวจัดการนั้นเป็นปัญหาหนึ่งเดียว และมีเจ้าของปัญหาเดียวกัน และหากคุณใช้เครื่องมือ DAST อื่นอยู่แล้ว Xygeni จะนำเข้าผลลัพธ์ของเครื่องมือเหล่านั้นไปยังมุมมองความเสี่ยงเดียวกันโดยไม่ต้องขอให้คุณเปลี่ยนเครื่องมือ
อยากเห็นการทำงานร่วมกันของทั้งสองชั้นหรือไม่? รับชมการสัมมนาของเรา จากโค้ดสู่รันไทม์: เหตุผลคืออะไร SAST + DAST ทั้งสองอย่างจำเป็นสำหรับความปลอดภัยของแอปพลิเคชันสมัยใหม่ซึ่งเราจะอธิบายว่าการค้นพบโค้ดและการทดสอบขณะรันไทม์ยืนยันซึ่งกันและกันได้อย่างไร
เวิร์กโฟลว์เดียว ไม่ใช่คอนโซลอีกตัว
การรักษาความปลอดภัยของเอージェนต์ AI จะล้มเหลวเมื่อมันกลายเป็นเครื่องมือแยกต่างหากที่มีคิวของตัวเอง ใน Xygeni ผลลัพธ์จาก AI จะผ่านกระบวนการเดียวกัน การคัดกรองโดย AIรวมถึงตั๋วและรายงานต่างๆ เป็นส่วนหนึ่งของผลการค้นพบของคุณ AI Remediation จะให้คำแนะนำในการแก้ไขปัญหาที่เหมาะสมกับบริบทสำหรับหมวดหมู่ OWASP LLM ทั้งสิบหมวด และ ASPM ทำให้ความเสี่ยงด้าน AI อยู่เคียงข้างกับโค้ด การพึ่งพา และ pipeline ความเสี่ยงในมุมมองหนึ่ง
ความปลอดภัยและการปฏิบัติตามข้อกำหนดของเอเจนต์ AI
หน่วยงานกำกับดูแล ผู้ตรวจสอบบัญชี และลูกค้า ต่างเรียกร้องมากขึ้นเรื่อยๆ เกี่ยวกับรายละเอียดของ AI ที่คุณใช้งาน และวิธีการจัดประเภทความเสี่ยงของ AI นั้นๆ พระราชบัญญัติ AI ของสหภาพยุโรป และ ISO / IEC 42001 ทั้งสองฝ่ายต่างผลักดันไปในทิศทางนั้น และ AI-BOM กำลังกลายเป็น... standard รายการในแบบสอบถามการจัดซื้อจัดจ้าง
การจัดทำรายการ AI โดยมีช่องสำหรับระบุประเภทความเสี่ยงต่อสินทรัพย์แต่ละรายการ จะช่วยให้ทีมกำกับดูแลของคุณมีฐานข้อมูลหลักฐานสำหรับการทำงานนั้นๆ นอกจากนี้ยังช่วยสนับสนุนความพร้อมในการปฏิบัติตามกฎหมาย AI ของสหภาพยุโรป ไม่ใช่การประเมินความสอดคล้อง และไม่ได้มาแทนที่การตรวจสอบทางกฎหมายของคุณ
หรือสำหรับทีมขนาดกลางนั้นง่ายมาก:
- ในทุกๆ pull request: การรักษาความปลอดภัย API ในระบบ CI สำหรับโค้ดที่เปลี่ยนแปลง รวมถึงการสแกน DAST แบบเพิ่มทีละน้อย
- ก่อน commit: เป็น pre-commit เกตบนไฟล์ที่จัดเตรียมไว้
- อัปเดตทุกคืนหรือเมื่อรวมไฟล์: การสแกน DAST แบบเต็มรูปแบบ
- ก่อนการเปิดตัวเวอร์ชันหลักแต่ละครั้ง: การทดสอบเจาะระบบด้วย AI บนระบบทดสอบเพื่อตรวจสอบความถูกต้องของรายการที่ต้องทำและยืนยันว่าการแก้ไขแต่ละครั้งได้ปิดช่องโหว่แล้ว
เครื่องมือสแกนความปลอดภัย API สามารถทำงานได้ทุกที่ รวมถึงสภาพแวดล้อมที่แยกจากเครือข่าย และรายงานผลไปยัง Xygeni SaaS หรือระบบของคุณ on-premiseแพลตฟอร์ม s ผลลัพธ์จะแสดงในรูปแบบ JSON ซาริฟ 2.1.0CSV และ Markdown สำหรับ pull request ความเห็น
การทดสอบความปลอดภัยของ API และการปฏิบัติตามข้อกำหนด
สำหรับทีมงานในภาคการธนาคาร ประกันภัย หรือภาครัฐ การทดสอบความปลอดภัยของ API ยังเป็นหลักฐานสำคัญอีกด้วย ทุกๆ ผลการตรวจสอบจะมาพร้อมกับป้ายกำกับการปฏิบัติตามข้อกำหนด GDPR มาตรา 32, พีซีไอ ดีเอสเอส 4.0 (ข้อกำหนด 3.4, 6.4.3, 7.1, 7.2 และ 8) และ นิสต์ เอสพี 800-53 (AC-3, AC-6, IA-2, IA-5) สามารถมองเห็นได้ในแพลตฟอร์มและในเอาต์พุต JSON และ SARIF
หากองค์กรของคุณเข้าข่ายตามข้อกำหนดต่อไปนี้ DORA or NIS2การทดสอบแบบเรียลไทม์ช่วยให้คุณมีหลักฐานอย่างต่อเนื่องระหว่างการทดสอบเจาะระบบด้วยตนเองที่หน่วยงานกำกับดูแลของคุณยังคงต้องการอยู่
วิธีการนำระบบรักษาความปลอดภัยของ AI มาใช้ใน 7 ขั้นตอน
นี่คือเช็คลิสต์เชิงปฏิบัติ เรียงลำดับตามขั้นตอนที่จะช่วยให้การรักษาความปลอดภัยของเอเจนต์ AI ทำงานได้อย่างรวดเร็วที่สุดในทีมพัฒนาจริง
- เลือกซื้อ
จัดทำรายการทรัพย์สิน AI ทุกชิ้นในคลังเก็บข้อมูลของคุณ
สแกนที่เก็บข้อมูลทั้งหมดเพื่อค้นหาเอเจนต์ เซิร์ฟเวอร์ MCP ทักษะ โมเดล พรอมต์ และเครื่องมือเขียนโค้ด AI แล้วส่งออกผลลัพธ์เป็น AI-BOM นี่คือข้อมูลพื้นฐานของคุณ และเป็นรายการที่ขั้นตอนอื่นๆ ทั้งหมดใช้เป็นพื้นฐาน
- แยกประเภท
กำหนดเจ้าของและระดับความเสี่ยงให้กับตัวแทนแต่ละคน
สำหรับเอเจนต์แต่ละตัว ให้บันทึกว่าใครเป็นเจ้าของ ข้อมูลและเครื่องมือที่เอเจนต์นั้นสามารถเข้าถึงได้ และประเภทความเสี่ยงตามกฎหมาย AI ของสหภาพยุโรป เอเจนต์ที่ไม่มีใครเป็นเจ้าของก็คือเอเจนต์ที่ไม่มีใครแก้ไข
- ตรวจจับ
สแกนโค้ดเอเจนต์ใน CI ทุกครั้ง pull request
เรียกใช้การตรวจจับความเสี่ยงด้วย AI ควบคู่ไปกับการสแกนอื่นๆ ของคุณ เริ่มต้นในโหมดไม่บล็อกเพื่อดูข้อมูลพื้นฐาน จากนั้นบล็อกการรวมข้อมูลเมื่อพบข้อบกพร่องที่สำคัญหลังจากที่ทีมแก้ไขปัญหาเรียบร้อยแล้ว
- รีวิว
ตรวจสอบทักษะก่อนที่ใครจะติดตั้ง
สแกนไฟล์คำแนะนำทักษะและตัวแทน เช่น
SKILL.mdและAGENTS.mdเปิดใช้งานการตรวจสอบเจตนาของ AI และถือว่าคำตัดสิน "ห้ามติดตั้ง" เป็นการหยุดอย่างเด็ดขาด - จำกัด
ลดสิทธิ์ของเอเจนต์
เปลี่ยนข้อมูลประจำตัวแบบคงที่ที่มีอายุการใช้งานยาวนานเป็นข้อมูลประจำตัวแบบจำกัดขอบเขต หยุดการแชร์ข้อมูลประจำตัวระหว่างเอเจนต์ และอย่าเรียกใช้ MCP หรือเซิร์ฟเวอร์เครื่องมือด้วยสิทธิ์ระดับสูงที่ไม่จำเป็น
- แก้ไขในลูป
ใส่ระบบรักษาความปลอดภัยไว้ในลูปของเอเจนต์การเขียนโค้ด
เชื่อมต่อเอเจนต์การเขียนโค้ด AI ของคุณเข้ากับเซิร์ฟเวอร์ MCP ด้านความปลอดภัย เพื่อให้พวกมันสแกนและแก้ไขโค้ดของตัวเองก่อนที่จะถูกใช้งาน commitเท็ด ด้วยนโยบายเดียวกันกับของคุณ pipeline.
- ป้องกัน
ระวังสิ่งที่ตกลงไปในเครื่องของนักพัฒนา
กำหนดอายุขั้นต่ำสำหรับแพ็กเกจใหม่ ตรวจจับแพ็กเกจที่เป็นอันตรายก่อนที่จะมีการสร้างลายเซ็น และครอบคลุมส่วนขยายและปลั๊กอินของ IDE ไม่ว่าใครจะเป็นผู้ติดตั้ง ไม่ว่าจะเป็นนักพัฒนาหรือเอเจนต์ก็ตาม
แล้ว: ส่งต่อข้อค้นพบทั้งหมดเข้าสู่ขั้นตอนการคัดกรอง การออกตั๋ว และการรายงานเดียวกันกับส่วนอื่นๆ ของระบบรักษาความปลอดภัยแอปพลิเคชันของคุณ เพื่อไม่ให้ความเสี่ยงจาก AI ไปอยู่ในคิวของตัวเอง
คุณไม่สามารถติดต่อตัวแทนที่คุณไม่เคยพบมาก่อนได้
การรักษาความปลอดภัยของเอเจนต์ AI ไม่ได้หมายถึงแค่เครื่องสแกนอีกตัวหนึ่ง แต่หมายถึงการรู้ว่าคุณใช้เอเจนต์ตัวไหน ตรวจจับความเสี่ยงในวิธีการสร้างเอเจนต์ ใส่ระบบรักษาความปลอดภัยเข้าไปในวงจรการเขียนโค้ดของเอเจนต์ และปกป้องสิ่งที่เอเจนต์ติดตั้ง เริ่มต้นด้วยการสำรวจตรวจสอบ เพราะทุกอย่างขึ้นอยู่กับการสำรวจนี้
ต้องการดูเอเจนต์ เซิร์ฟเวอร์ MCP และสกิลทั้งหมดในโค้ดของคุณหรือไม่? จองคิวปรึกษากับวิศวกร เพื่อสร้างรายการ AI ของคลังข้อมูลของคุณและตรวจสอบผลลัพธ์ หรือ เริ่มต้นฟรี กับ AI SAST, SCAการตรวจจับความลับ ปลั๊กอิน IDE และการตรวจจับมัลแวร์ในแพ็กเกจโอเพนซอร์ส ไม่รับบัตรเครดิต
คำถามที่พบบ่อยเกี่ยวกับการรักษาความปลอดภัยของเอเจนต์ AI
การรักษาความปลอดภัยของเอเจนต์ AI แตกต่างจากการรักษาความปลอดภัยของ LLM อย่างไร?
ความปลอดภัยของ LLM เกี่ยวข้องกับสิ่งที่แบบจำลองบอก เช่น ข้อมูลรั่วไหล คำตอบที่ถูกบิดเบือน และผลลัพธ์ที่ไม่ปลอดภัย ส่วนความปลอดภัยของเอเจนต์ AI เกี่ยวข้องกับสิ่งที่เอเจนต์ทำกับเครื่องมือ หน่วยความจำ ข้อมูลประจำตัว และเอเจนต์อื่นๆ นั่นเป็นเหตุผลที่ OWASP เผยแพร่ Top 10 สำหรับแอปพลิเคชันเอเจนต์ (ASI01 ถึง ASI10) แยกต่างหาก นอกเหนือจาก Top 10 ของ LLM
ฉันจะค้นหาเอเจนต์ AI และเซิร์ฟเวอร์ MCP ในองค์กรของฉันได้อย่างไร?
เริ่มต้นจากโค้ด Xygeni AI Security จะค้นหาเอเจนต์ เซิร์ฟเวอร์ MCP สกิล โมเดล พรอมต์ และเครื่องมือเขียนโค้ด AI ในที่เก็บข้อมูลของคุณ ระบุวิธีการเชื่อมต่อ และส่งออกผลลัพธ์เป็น AI-BOM ในรูปแบบ CycloneDX โดยจะทำงานในระบบ CI ควบคู่ไปกับการสแกนอื่นๆ ของคุณ
ทักษะที่เป็นอันตรายหรือเซิร์ฟเวอร์ MCP สามารถโจมตีนักพัฒนาของฉันได้หรือไม่?
ใช่: คำสั่งของสกิลเป็นข้อความธรรมดา และเอเจนต์จะปฏิบัติตามคำสั่งเหล่านั้นโดยได้รับอนุญาตจากผู้พัฒนา Xygeni จะตรวจจับคำสั่งที่เป็นอันตรายที่ซ่อนอยู่และชื่อสกิลที่ปลอมแปลง สามารถประเมินเจตนาของสกิลด้วยการตรวจสอบ AI แบบเลือกเข้าร่วม และให้คะแนนแต่ละสกิลเป็น ปลอดภัย ระมัดระวัง หรือ ห้ามติดตั้ง การป้องกันมัลแวร์และ Shield ครอบคลุมค่าใช้จ่ายสำหรับพัสดุและเจ้าหน้าที่ส่งเสริมการเกษตรที่นำเข้ามา







