TL; DR
OWASP Agentic AI Top 10 มีความหมายอย่างไรต่อคุณ pipeline
LLM ที่พูดอะไรผิดพลาดคือปัญหาด้านเนื้อหา ส่วนเอเจนต์ที่ทำอะไรผิดพลาดคือเหตุการณ์ด้านความปลอดภัย OWASP Agentic AI Top 10 คือแผนที่สำหรับกรณีหลัง
- มันคืออะไร: OWASP Agentic AI Top 10 (อย่างเป็นทางการ) OWASP Top 10 สำหรับแอปพลิเคชัน Agentic ปี 2026(เอกสารนี้ระบุความเสี่ยง 10 ประการที่เฉพาะเจาะจงสำหรับเอเจนต์ AI ที่วางแผน เรียกใช้เครื่องมือ เก็บข้อมูล และดำเนินการในนามของคุณ) รหัสความเสี่ยงมีตั้งแต่ ASI01 ถึง ASI10
- ความเกี่ยวข้อง: มันเป็นการต่อยอดจาก OWASP LLM Top 10 มากกว่าที่จะมาแทนที่ รายชื่อ LLM ครอบคลุมสิ่งที่โมเดลกล่าวไว้ ในขณะที่รายชื่อเอเจนต์ครอบคลุมสิ่งที่เอเจนต์ทำ
- จุดที่มันเข้าไป: ในความเป็นจริง pipelineความเสี่ยงเหล่านี้เข้ามาได้จากสี่ทาง ได้แก่ IDE, ส่วนประกอบเอเจนต์ของบุคคลที่สาม, โค้ดเอเจนต์ของคุณเอง และรันไทม์ในสภาพแวดล้อมการผลิต
- สิ่งที่คุณสามารถจับได้: หกในสิบตัวทิ้งร่องรอยไว้ในโค้ดและการตั้งค่า ดังนั้นคุณสามารถหยุดพวกมันได้ก่อนการใช้งานจริง ส่วนอีกสี่ตัวที่เหลือต้องการการควบคุมการออกแบบในขณะทำงาน และทุกตัวเริ่มต้นด้วยการรู้ว่าคุณใช้งานเอเจนต์ตัวใดบ้าง
ขั้นตอนแรก: ตรวจสอบเอเจนต์ เครื่องมือ เซิร์ฟเวอร์ MCP และทักษะทั้งหมด จากนั้นตรวจสอบโค้ดเอเจนต์ใหม่ใน CI โดยติดแท็กผลการตรวจสอบไปยังรหัส ASI
เหตุใด OWASP Agentic AI Top 10 จึงมีความสำคัญ: ของคุณ pipeline มีใหม่ committers
เมื่อปีที่แล้ว โค้ดในคลังเก็บโค้ดของคุณมาจากคน แต่ปัจจุบัน สัดส่วนที่มาจากเอเจนต์ AI กำลังเพิ่มขึ้นเรื่อยๆ ไม่ว่าจะเป็นผู้ช่วยเขียนโค้ดที่ติดตั้งส่วนประกอบต่างๆ หรือเอเจนต์ที่เปิดไฟล์ต่างๆ pull requestsและเฟรมเวิร์กเอเจนต์ที่รวมอยู่ในผลิตภัณฑ์ของคุณเอง พร้อมด้วยเครื่องมือ หน่วยความจำ และข้อมูลรับรองของตนเอง นั่นคือการเปลี่ยนแปลงที่ OWASP Agentic AI Top 10 เขียนขึ้นมาเพื่อรองรับ
นั่นทำให้รูปแบบภัยคุกคามเปลี่ยนไป LLM ที่บอกว่ามีบางอย่างผิดพลาดคือปัญหาด้านเนื้อหา ส่วนเอเจนต์ที่กระทำการผิดพลาด (ลบข้อมูล รั่วไหลของโทเค็น ติดตั้งแพ็กเกจที่เป็นอันตราย) คือเหตุการณ์ด้านความปลอดภัย
OWASP Agentic AI Top 10 เป็นคำศัพท์ร่วมชุดแรกสำหรับปัญหาประเภทที่สองนั้น คำอธิบายส่วนใหญ่จะหยุดอยู่ที่คำจำกัดความ แต่คำอธิบายนี้จะเชื่อมโยงความเสี่ยงแต่ละอย่างกับจุดที่มันเข้ามามีบทบาทในชีวิตของคุณจริงๆ pipelineและสิ่งที่คุณสามารถทำได้เพื่อแก้ไขปัญหาก่อนการใช้งานจริง
OWASP Agentic AI Top 10 คืออะไร?
OWASP Agentic AI Top 10 คือรายชื่อความเสี่ยงด้านความปลอดภัยที่สำคัญที่สุด 10 ประการในระบบ AI agent ซึ่งผ่านการตรวจสอบโดยผู้เชี่ยวชาญ ระบบเหล่านี้ได้แก่ ระบบที่วางแผน เรียกใช้เครื่องมือ เก็บข้อมูล และดำเนินการตามอำนาจที่ได้รับมอบหมาย ชื่ออย่างเป็นทางการคือ OWASP.org/auth.org OWASP Top 10 สำหรับแอปพลิเคชัน Agentic ปี 2026โครงการ OWASP GenAI Security Project ได้เผยแพร่มาตรฐานนี้เมื่อวันที่ 9 ธันวาคม 2025 ผ่านทาง Agentic Security Initiative ซึ่งเป็นที่มาของคำนำหน้า ASI
มันยังเด็กอยู่ standardนี่คือฉบับพิมพ์ครั้งแรก แต่ละหัวข้อเป็นไปตามรูปแบบของ OWASP ที่คุ้นเคย โดยมีคำอธิบาย ตัวอย่างทั่วไป สถานการณ์การโจมตี และคำแนะนำในการป้องกัน คำแนะนำด้านการออกแบบหลักของ OWASP นั้นครอบคลุมทั้งสิบหัวข้อ ได้แก่ หลีกเลี่ยงการให้เอเจนต์มีอิสระมากกว่าที่งานต้องการ และถือว่าการตรวจสอบเป็นสิ่งที่จำเป็น
เปรียบเทียบ Agentic Top 10 กับ LLM Top 10
รายชื่อตัวแทนไม่ได้มาแทนที่ OWASP Top 10 สำหรับการสมัครเรียน LLMมันต่อยอดจากสิ่งนั้น และรายการต่างๆ ในนั้นอ้างอิงถึงความเสี่ยงของ LLM โดยตรง กฎง่ายๆ ที่ใช้ได้คือ:
| Dimension | OWASP LLM 10 อันดับแรก | OWASP Agentic AI 10 อันดับแรก |
|---|---|---|
| โฟกัส | แบบจำลองกล่าวว่าอย่างไร | ตัวแทนทำอะไร |
| ความล้มเหลวทั่วไป | คำตอบที่ถูกบิดเบือนหรือรั่วไหล | เป้าหมายที่ถูกบิดเบือน การเรียกใช้เครื่องมือ หรือการกระทำ |
| นำไปใช้กับ | แชทบอท แอป RAG หรือฟีเจอร์ LLM ใดๆ ก็ตาม | เอเจนต์ที่มีเครื่องมือ หน่วยความจำ การมอบหมาย หรือเอเจนต์อื่นๆ |
| รหัส | LLM01 ถึง LLM10 | ASI01 ถึง ASI10 |
หากใบสมัครของคุณตอบได้เพียงคำถาม รายชื่อหลักสูตร LLM ก็เพียงพอแล้ว แต่หากใบสมัครของคุณสามารถนำไปปฏิบัติได้ คุณจำเป็นต้องใช้ทั้งสองอย่าง คู่มือของเราสำหรับ การโจมตีการสกัดโมเดล แสดงรายละเอียดเชิงลึกเกี่ยวกับความเสี่ยง 10 อันดับแรกของหลักสูตร LLM
OWASP Agentic AI Top 10 อธิบายโดยละเอียด: ASI01 ถึง ASI10 ในการใช้งานจริง pipelines
ต่อไปนี้คือความเสี่ยงแต่ละข้อใน OWASP Agentic AI Top 10 ที่อธิบายอย่างง่ายๆ ตามด้วยลักษณะที่ปรากฏในโค้ดเบส pipelineอย่างที่เราเห็นกันทุกวัน
ASI01: การยึดเป้าหมายของเอเจนต์
ผู้โจมตีเปลี่ยนแปลงสิ่งที่เอเจนต์พยายามจะทำโดยการแทรกคำสั่งลงในเอกสาร อีเมล เว็บเพจ หรือข้อความของเอเจนต์อื่น เอเจนต์มักแยกแยะคำสั่งออกจากเนื้อหาได้ยาก ดังนั้นข้อความที่ถูกแทรกเข้ามาจึงสามารถเปลี่ยนเส้นทางแผนการทำงานหลายขั้นตอนทั้งหมดได้
ในของคุณ pipeline: ตัวแทนที่สรุปผล pull requests อ่านคำอธิบาย PR ที่มีคำแนะนำซ่อนอยู่ และเริ่มอนุมัติหรือเปิดเผยข้อมูลแทนที่จะสรุป
ASI02: การใช้เครื่องมือในทางที่ผิดและการแสวงหาประโยชน์
เอเจนต์ใช้เครื่องมือที่ตนได้รับอนุญาตให้ใช้ แต่ในทางที่ก่อให้เกิดอันตราย เช่น การลบข้อมูล การเรียกใช้ API ที่ใช้ทรัพยากรมากซ้ำๆ หรือการส่งข้อมูลออกไป ไม่มีการยกระดับสิทธิ์ใดๆ เพียงแต่สิทธิ์การเข้าถึงที่ถูกต้องถูกนำไปใช้กับเป้าหมายที่ผิดเท่านั้น
ในของคุณ pipeline: เอเจนต์การเขียนโค้ดที่มีสิทธิ์เข้าถึงเชลล์รันคำสั่งล้างข้อมูลในไดเร็กทอรีที่ไม่ถูกต้อง
ASI03: การละเมิดอัตลักษณ์และสิทธิพิเศษ
เอเจนต์จะสืบทอดข้อมูลประจำตัว เซสชัน และบทบาทต่างๆ และผู้โจมตีจะใช้ประโยชน์จากห่วงโซ่การมอบหมายเหล่านั้นเพื่อเข้าถึงสิ่งที่พวกเขาไม่สามารถเข้าถึงได้โดยตรง สาเหตุหลักมาจากระบบระบุตัวตนที่สร้างขึ้นสำหรับมนุษย์ แต่ถูกนำไปใช้กับซอฟต์แวร์ที่ทำงานโดยอัตโนมัติ
ในของคุณ pipeline: การกำหนดค่าเอเจนต์จะเก็บโทเค็นที่มีอายุการใช้งานยาวนานและมีขอบเขตการใช้งานทั่วทั้งองค์กร โดยใช้ร่วมกันในเครื่องมือหลายอย่าง
ASI04: จุดอ่อนของห่วงโซ่อุปทานที่เกิดจากตัวแทน
โมเดล เครื่องมือ ปลั๊กอิน เซิร์ฟเวอร์ MCP ทักษะ และข้อความแจ้งเตือนที่เอเจนต์โหลดนั้นมาจากบุคคลที่สาม และส่วนประกอบเหล่านี้อาจเป็นอันตรายหรือถูกดัดแปลงได้ ซึ่งแตกต่างจากความสัมพันธ์แบบดั้งเดิม เอเจนต์มักจะประกอบส่วนประกอบเหล่านี้ขึ้นเองในระหว่างการทำงาน
ในของคุณ pipeline: นักพัฒนาติดตั้งทักษะเอเจนต์ที่สะกดผิด โดยคำสั่งในทักษะดังกล่าวระบุให้เอเจนต์อ่านข้อมูลประจำตัวและเผยแพร่ออกสู่ภายนอก
ASI05: การเรียกใช้โค้ดโดยไม่คาดคิด (RCE)
เอเจนต์สร้างหรือเรียกใช้โค้ดที่ทำงานในที่ที่ไม่ควรทำงาน เช่น คำสั่งเชลล์ อ็อบเจ็กต์ที่ถูกดีซีเรียไลซ์ และเอนจิ้นเทมเพลต eval ขึ้นอยู่กับผลลัพธ์ของโมเดล ผลลัพธ์ที่ได้อาจเป็นการโจมตีโฮสต์หรือคอนเทนเนอร์ทั้งหมด
ในของคุณ pipeline: ผลผลิตของ LLM ไหลตรงไปยัง evalหรือเอเจนต์โหลดชุดข้อมูลที่ไม่น่าเชื่อถือด้วย pickle.load.
ASI06: การปนเปื้อนของความทรงจำและบริบท
ผู้โจมตีจะแทรกข้อมูลที่เป็นอันตรายเข้าไปในหน่วยความจำระยะยาว ข้อมูลสรุป หรือที่เก็บข้อมูล RAG ของเอเจนต์ เพื่อให้ทุกๆ การตรวจสอบในอนาคตสามารถดำเนินการได้cision เกิดการบิดเบือน ไม่เหมือนกับการฉีดพรอมต์แบบครั้งเดียว การทุจริตนี้ยังคงอยู่ตลอดเซสชัน
ในของคุณ pipeline: โปรแกรมดึงข้อมูล RAG จะรับเอกสารภายนอกโดยไม่ผ่านการตรวจสอบความปลอดภัย และหน้าเว็บที่ปนเปื้อนเพียงหน้าเดียวจะส่งผลต่อคำตอบทั้งหมดที่ตามมา
ASI07: การสื่อสารระหว่างเอเจนต์ที่ไม่ปลอดภัย
เอเจนต์แลกเปลี่ยนข้อความโดยไม่มีการตรวจสอบสิทธิ์ การตรวจสอบความถูกต้อง หรือการตรวจสอบความสอดคล้อง ดังนั้นข้อความจึงสามารถถูกปลอมแปลง ดักฟัง หรือเปลี่ยนแปลงได้ นอกจากนี้ คำสั่งเดียวกันก็อาจถูกอ่านแตกต่างกันโดยเอเจนต์ที่แตกต่างกันได้
ในของคุณ pipeline: ตัวแทนวางแผนจะรับงานจากบริการใดๆ บนเครือข่ายภายในที่ใช้โปรโตคอลเดียวกัน
ASI08: ความล้มเหลวแบบต่อเนื่อง
ความผิดพลาดเพียงอย่างเดียว (เช่น ภาพหลอน ความทรงจำที่บิดเบือน หรือเครื่องมือที่ถูกบุกรุก) สามารถแพร่กระจายไปยังเอเจนต์และเวิร์กโฟลว์ต่างๆ ได้เร็วกว่าที่มนุษย์จะรับมือได้ทัน OWASP ใช้หมวดหมู่นี้เมื่อความเสียหายขยายวงกว้างออกไปเกินกว่าจุดเริ่มต้นของการละเมิด
ในของคุณ pipeline: เอเจนต์คนหนึ่งเขียนไฟล์คอนฟิกที่ไม่ถูกต้อง คนที่สองนำไปใช้งาน และคนที่สามนำไปปรับใช้กับทุกภูมิภาค เราถกเถียงกันว่าจะจำกัดขอบเขตความเสียหายนั้นได้อย่างไร รัศมีระเบิด SafeDev Talk.
ASI09: การแสวงหาประโยชน์จากความไว้วางใจระหว่างมนุษย์และเอเจนต์
ผู้คนมักไว้วางใจผลลัพธ์จากเอージェนต์ที่น่าเชื่อถือและอธิบายได้อย่างชัดเจน และผู้โจมตีหรือการออกแบบที่บกพร่องจะใช้ประโยชน์จากความไว้วางใจนั้นเพื่อชี้นำการกระทำcisไอออน มนุษย์เป็นผู้ดำเนินการขั้นสุดท้าย ดังนั้นบทบาทของเอเจนต์จึงสามารถหายไปจากบันทึกการตรวจสอบได้
ในของคุณ pipeline: ผู้ตรวจสอบอนุมัติตัวแทน pull request เพราะคำอธิบายฟังดูสมเหตุสมผล โดยไม่ต้องตรวจสอบความแตกต่าง
ASI10: เจ้าหน้าที่นอกรีต
เอージェนต์เริ่มเบี่ยงเบนจากหน้าที่ที่ตั้งใจไว้และกระทำการที่เป็นอันตราย หลอกลวง หรือเกินขอบเขตอย่างต่อเนื่อง การกระทำแต่ละครั้งอาจดูเหมือนถูกต้องตามกฎหมาย แต่พฤติกรรมโดยรวมนั้นไม่ถูกต้อง ASI10 กล่าวถึงการสูญเสียการควบคุมหลังจากที่การเบี่ยงเบนเริ่มต้นขึ้น ไม่ใช่เกี่ยวกับการบุกรุกในครั้งแรก
ในของคุณ pipeline: เอเจนต์ยังคงใช้สิทธิ์ต่อไปแม้ภารกิจจะสิ้นสุดลงแล้ว โดยจะขยายขอบเขตการเข้าถึงอย่างเงียบๆ
จากความเสี่ยงทั้งสิบประการ ASI04 เป็นความเสี่ยงที่ทีมส่วนใหญ่เผชิญอยู่ทุกวันอยู่แล้ว นั่นคือ เอเจนต์การเขียนโค้ดเลือกและติดตั้งแพ็กเกจโดยไม่มีใครตรวจสอบว่ามีอะไรเข้าไปบ้าง เราได้เจาะลึกประเด็นนี้ในงาน SafeDev Talk ครั้งล่าสุด ลองไปดูกัน!
จุดที่ OWASP Agentic AI Top 10 เข้ามามีบทบาทในชีวิตของคุณ pipeline
ความเสี่ยงทั้งสิบประการไม่ได้เข้ามาทางประตูเดียว แต่เข้ามาทางประตูสี่บาน และแต่ละบานก็ต้องการการควบคุมที่แตกต่างกัน
| จุดเริ่มต้น | สิ่งที่เข้ามา | ความเสี่ยง ASI | จะหยุดมันได้ที่ไหน |
|---|---|---|---|
| IDE สำหรับนักพัฒนาและเวิร์กสเตชัน | เอเจนต์การเขียนโค้ด เซิร์ฟเวอร์ MCP ทักษะ แพ็กเกจที่เอเจนต์ติดตั้ง | ASI04, ASI05 | บนเวิร์กสเตชัน ก่อนการติดตั้ง |
| ส่วนประกอบเอเจนต์จากบุคคลที่สาม | โมเดล เครื่องมือ ปลั๊กอิน ข้อความแจ้งเตือนจากรีจิสทรี | ASI04, ASI06 | ตรวจสอบและประเมินก่อนรับเลี้ยง |
| รหัสตัวแทนของคุณเอง | กรอบงานเอเจนต์, ข้อความแจ้งเตือน, คำจำกัดความของเครื่องมือ, ข้อมูลประจำตัว, RAG pipelines | ASI01, ASI02, ASI03, ASI05, ASI06 | การวิเคราะห์สถิต ใน pull requests และ CI |
| ระยะเวลาการผลิต | เอเยนต์ทำหน้าที่ พูดคุยกัน และทำงานร่วมกับผู้คน | ASI07, ASI08, ASI09, ASI10 | สถาปัตยกรรม การตรวจสอบ และสวิตช์ปิดระบบ |
รูปแบบนี้มีความสำคัญต่อวิธีการนำ OWASP Agentic AI Top 10 ไปใช้ สามข้อแรกจะทิ้งหลักฐานไว้ในโค้ดและการตั้งค่า ซึ่งหมายความว่าคุณสามารถค้นหาและบล็อกได้ก่อนที่จะมีการใช้งานจริง ข้อที่สี่ขึ้นอยู่กับพฤติกรรมในขณะรันไทม์ ดังนั้นจึงต้องอาศัยการออกแบบ: การให้อำนาจการตัดสินใจน้อยที่สุด ข้อความที่ลงนาม การอนุมัติจากมนุษย์สำหรับการดำเนินการที่มีผลกระทบสูง และความสามารถในการเพิกถอนเอเจนต์ได้อย่างรวดเร็ว
แม้แต่การควบคุมขณะทำงานก็ยังขึ้นอยู่กับสิ่งหนึ่งที่คุณสร้างไว้ก่อนหน้านี้ นั่นก็คือ บัญชีรายการสิ่งของ คุณไม่สามารถติดตั้งสวิตช์ปิดการทำงานให้กับเอเจนต์ที่คุณไม่รู้ว่ามีอยู่จริงได้
Xygeni ตรวจจับความเสี่ยง 10 อันดับแรกของ OWASP Agentic AI ก่อนการใช้งานได้อย่างไร
Xygeni AI Security เครื่องมือนี้จะสแกนส่วนประกอบ AI ที่ใช้ในการสร้างแอปพลิเคชันของคุณโดยตรงจากซอร์สโค้ด ผลการตรวจสอบแต่ละรายการจะแสดงหมวดหมู่ OWASP LLM Top 10 และรหัส OWASP Agentic AI Top 10 (หากมี) เพื่อให้ทีมของคุณและผู้ตรวจสอบบัญชีของคุณอ่านผลการตรวจสอบในภาษาเดียวกัน
การครอบคลุม OWASP Agentic AI Top 10 เริ่มต้นด้วยการสำรวจรายการ AI Security ค้นหาเอเจนต์ โมเดล เครื่องมือ เซิร์ฟเวอร์ MCP ทักษะ และข้อความแจ้งเตือน guardrailsรวมถึงการจัดเก็บเวกเตอร์และชุดข้อมูลต่างๆ ในที่เก็บข้อมูลของคุณ และแผนผังแสดงวิธีการเชื่อมต่อ: เอเจนต์ใดใช้โมเดลใด เรียกใช้เครื่องมือใด และเรียกใช้เซิร์ฟเวอร์ MCP ใด การส่งออกข้อมูลสินค้าคงคลังจะเป็นไฟล์ CycloneDX 1.6 ML-BOM
Xygeni AI Security
สิ่งที่ Xygeni ตรวจพบก่อนการใช้งาน โดยพิจารณาจากความเสี่ยงของ ASI
ทุกข้อค้นพบจะถูกระบุด้วยรหัส OWASP เพื่อให้ทีมงานของคุณและผู้ตรวจสอบบัญชีของคุณสามารถอ่านได้ในภาษาเดียวกัน
การยึดเป้าหมายของเอเจนต์
พื้นผิวสำหรับฉีดสารทันที ตัวแทนที่ดูดซับเนื้อหาภายนอกโดยไม่ผ่านการฆ่าเชื้อ ข้อความแจ้งเตือนที่ดึงมาจากทะเบียนบนฉลากลอย
การใช้เครื่องมือผิดวิธี
เอเจนต์เรียกใช้เครื่องมือโดยไม่มีข้อมูลป้อนเข้า guardrailsรวมถึงมุมมองรายละเอียดต่อสินทรัพย์เกี่ยวกับความสามารถต่างๆ เช่น การเรียกใช้โค้ดและการเรียกใช้อัตโนมัติ
การละเมิดอัตลักษณ์และสิทธิพิเศษ
ข้อมูลประจำตัวแบบคงที่ที่มีอายุการใช้งานยาวนานในไฟล์การกำหนดค่าเอเจนต์ ข้อมูลประจำตัวที่แชร์โดยไม่จำกัดขอบเขต เซิร์ฟเวอร์ MCP และเครื่องมือที่มีสิทธิ์ระดับสูง และความลับในไฟล์ข้อความแจ้งเตือน
ห่วงโซ่อุปทานตัวแทน
ทักษะที่เป็นอันตรายหรือสะกดผิด โดยมีคำตัดสินว่า ปลอดภัย / ระมัดระวัง / ห้ามติดตั้ง; การโหลดโมเดลที่ไม่ปลอดภัย (trust_remote_code=True); รายการวัสดุ (BOM) ที่สร้างด้วย AI สำหรับทุกส่วนประกอบ
การเรียกใช้โค้ดที่ไม่คาดคิด
การปนเปื้อนไหลจากผลผลิตของ LLM เข้าสู่ eval และจากชุดข้อมูลที่ไม่น่าเชื่อถือไปสู่ pickle.loadในภาษา Python และ JavaScript; การแทรกเทมเพลตนำไปสู่การโจมตีแบบ RCE (Remote Code Execution)
การบิดเบือนความทรงจำและบริบท
เครื่องมือดึงข้อมูล RAG ที่ไม่ได้ผ่านการฆ่าเชื้อ และจุดอ่อนของเวกเตอร์และการฝังตัว (LLM08)
พฤติกรรมขณะรันไทม์
การสื่อสารระหว่างเอเจนต์ ความล้มเหลวแบบต่อเนื่อง ความไว้วางใจของมนุษย์ และเอเจนต์ที่ก่อกวน ล้วนเกิดขึ้นในระหว่างการทำงาน Xygeni มอบข้อมูลสินค้าคงคลังและกราฟความสัมพันธ์ที่การควบคุมในระหว่างการทำงานเหล่านี้ต้องพึ่งพา
โดยมีแก่นหลักเป็นศูนย์กลาง:
- การทบทวนความหมายของทักษะและคำแนะนำสำหรับตัวแทน การประเมิน LLM แบบไม่บังคับและสามารถทำซ้ำได้ จะประเมินเจตนารมณ์ของ
SKILL.mdและAGENTS.mdไฟล์เหล่านี้สามารถตรวจจับคำสั่งที่เป็นอันตรายซึ่งมีแต่ข้อความเท่านั้น ซึ่งลายเซ็นไม่สามารถตรวจจับได้ และสามารถทำงานบนระบบโฮสต์เองได้ - กำหนดเกตในระบบ CI การขอ
xygeni aiเครื่องสแกนทำงานอยู่ในระบบของคุณ pipeline และจะทำให้การสร้างล้มเหลวเมื่อพบข้อบกพร่อง เริ่มต้นในโหมดรายงานอย่างเดียว จากนั้นตรวจสอบที่ระดับวิกฤต - การรักษาความปลอดภัยภายในวงจรของเอเจนต์ เดฟเอไอ นำการสแกน การคัดแยก และการแก้ไขปัญหาของ Xygeni เข้าสู่ IDE และเข้าสู่เอเจนต์การเขียนโค้ด AI ผ่านทาง เซิร์ฟเวอร์ Xygeni MCP.
- ปกป้องเวิร์กสเตชัน Shield โปรแกรมนี้บล็อกแพ็กเกจที่เป็นอันตรายบนเครื่องของนักพัฒนาซอฟต์แวร์ก่อนที่จะดาวน์โหลด ไม่ว่าใครจะเป็นผู้ติดตั้ง และระบุกระบวนการและคำสั่งที่ทำให้เกิดการบล็อกแต่ละครั้ง
- แก้ไขให้เร็ว AI Triage จะจัดลำดับความสำคัญของสิ่งที่พบ และ AI Remediation จะสร้างคำแนะนำในการแก้ไขสำหรับทุกหมวดหมู่ของ OWASP LLM
รายการตรวจสอบความพร้อม 10 อันดับแรกของ OWASP Agentic AI
- สินค้าคงคลัง: แสดงรายการเอเจนต์ โมเดล เครื่องมือ เซิร์ฟเวอร์ MCP และทักษะทั้งหมดในคลังข้อมูลของคุณ และอัปเดตรายการให้เป็นปัจจุบันอยู่เสมอ commit.
- หน่วยงานที่มีอำนาจน้อยที่สุด: มอบอำนาจและเครื่องมือที่จำเป็นให้แก่เอเจนต์แต่ละตัวเฉพาะเท่าที่จำเป็นสำหรับภารกิจของตนเท่านั้น และต้องได้รับการอนุมัติจากมนุษย์สำหรับการกระทำที่ก่อให้เกิดความเสียหาย
- อัตลักษณ์ที่มีขอบเขต: แทนที่ข้อมูลประจำตัวของเอเจนต์ที่ใช้งานร่วมกันมานานด้วยโทเค็นแบบจำกัดอายุสำหรับแต่ละเอเจนต์
- ข้อมูลที่ป้อนเข้ามาไม่น่าเชื่อถือ: ให้ถือว่าเอกสาร เว็บเพจ อีเมล และข้อความจากตัวแทนทุกอย่างเป็นสิ่งที่ไม่น่าเชื่อถือ ก่อนที่จะนำมาใช้กำหนดเป้าหมายหรือตัดสินใจใช้เครื่องมือใดๆ
- ส่วนประกอบที่ผ่านการตรวจสอบ: ตรวจสอบทักษะ เซิร์ฟเวอร์ MCP และโมเดลต่างๆ ก่อนนำไปใช้งาน กำหนดเวอร์ชันที่แน่นอน และจัดทำ AI-BOM (รายการวัสดุสำหรับ AI)
- ไม่มีการดำเนินการที่ไม่ปลอดภัย: ห้าม
evalในการแสดงผลโมเดล ให้ทำการรันโค้ดในสภาพแวดล้อมจำลอง และห้ามรันเอเจนต์ในฐานะผู้ใช้ root เด็ดขาด - ล้างหน่วยความจำ: ทำความสะอาดข้อมูลที่เข้าสู่ที่เก็บข้อมูล RAG และหน่วยความจำระยะยาว และแยกหน่วยความจำตามผู้ใช้และบริบท
- ประตูใน CI: สแกนรหัสเอเจนต์บนทุกๆ pull request และแปลงผลการค้นหาเป็นรหัส ASI
- สังเกตและควบคุม: บันทึกทุกการกระทำของเอเจนต์และการเรียกใช้เครื่องมือ และตรวจสอบให้แน่ใจว่าคุณสามารถเพิกถอนเอเจนต์ได้อย่างรวดเร็ว
รู้ว่าคุณกำลังใช้งานเอเจนต์ตัวไหนก่อนที่พวกมันจะลงมือ
OWASP Agentic AI Top 10 เปรียบเสมือนแผนที่นำทาง ขั้นตอนแรกสำหรับความเสี่ยงทั้งสิบประการนั้นเหมือนกัน คือ ค้นหาเอเจนต์ เครื่องมือ และทักษะทั้งหมดในโค้ดของคุณ ดูว่า Xygeni AI Security ทำการสำรวจเอเจนต์ของคุณและแมปผลการค้นหาไปยังรหัส ASI ได้อย่างไรหรือ จองการสาธิต.
คำถามที่พบบ่อย
ASI ใน OWASP Agentic AI Top 10 ย่อมาจากอะไร?
ASI ย่อมาจาก Agentic Security Initiative ซึ่งเป็นทีมงานของ OWASP GenAI Security Project ที่จัดทำรายการความเสี่ยงดังกล่าว ความเสี่ยงแต่ละรายการจะมีรหัสตั้งแต่ ASI01 (Agent Goal Hijack) ถึง ASI10 (Rogue Agents) เช่นเดียวกับรายการ LLM ที่ใช้ LLM01 ถึง LLM10
ฉันจำเป็นต้องติดตาม OWASP Agentic AI Top 10 อีกหรือไม่ หากฉันติดตาม OWASP LLM Top 10 อยู่แล้ว?
เฉพาะในกรณีที่ AI ของคุณสามารถดำเนินการได้เท่านั้น แชทบอทหรือแอป RAG ที่ตอบคำถามอย่างเดียวจะอยู่ในขอบเขตของ LLM Top 10 แต่เมื่อแอปพลิเคชันของคุณเรียกใช้เครื่องมือ เก็บข้อมูลในหน่วยความจำ มอบหมายงานให้เอเจนต์อื่น หรือใช้ข้อมูลประจำตัว ความเสี่ยงในรายการของเอเจนต์จะครอบคลุมความเสี่ยงที่รายการ LLM ไม่ครอบคลุม
การวิเคราะห์แบบคงที่สามารถตรวจจับความเสี่ยง 10 อันดับแรกของ OWASP Agentic AI ได้หรือไม่?
สำหรับหลายๆ กรณี คำตอบคือใช่ ช่องโหว่ในการโจรกรรมเป้าหมาย เครื่องมือที่ไม่ได้รับการป้องกัน ข้อมูลประจำตัวที่มีสิทธิ์มากเกินไป ทักษะที่เป็นอันตราย การเรียกใช้โค้ดที่ไม่ปลอดภัย และอินพุต RAG ที่ไม่ได้ตรวจสอบ ล้วนทิ้งร่องรอยไว้ในโค้ดและการกำหนดค่า ความเสี่ยงที่เกิดขึ้นจากพฤติกรรมขณะทำงาน เช่น ความล้มเหลวแบบต่อเนื่องและเอเจนต์ที่ไม่พึงประสงค์ จำเป็นต้องมีการควบคุมขณะทำงานเพิ่มเติม







