หมวดหมู่: AI

GitHub Copilot Security

ความปลอดภัยของ GitHub Copilot: ความเสี่ยงที่แท้จริงของโค้ดที่เขียนโดย AI และวิธีการควบคุมความเสี่ยงเหล่านั้น

GitHub Copilot ช่วยเขียนโค้ดของคุณมากขึ้นเรื่อยๆ และตอนนี้มันยังสามารถรันคำสั่งและเปิดไฟล์ต่างๆ ได้อีกด้วย pull requests และติดตั้งแพ็กเกจ ต่อไปนี้คือความเสี่ยงด้านความปลอดภัยที่แท้จริงของ GitHub Copilot ตั้งแต่การแทรกข้อความแจ้งเตือนและการรั่วไหลของข้อมูลลับ ไปจนถึงแพ็กเกจที่สร้างขึ้นมาเอง สิ่งที่การควบคุมในตัวของ GitHub ครอบคลุม และเจ็ดขั้นตอนในการควบคุมโค้ดที่เขียนโดย AI
อ่าน 9 นาที
เหตุการณ์ความปลอดภัยจากการกอดใบหน้า

เหตุการณ์ด้านความปลอดภัยของ Hugging Face: ตัวแทน AI บุกรุกแพลตฟอร์มได้อย่างไร และสิ่งที่ควรแก้ไขในแพลตฟอร์มของคุณเอง Pipeline

ตัวแทน AI ตัวหนึ่งได้เปลี่ยนชุดข้อมูลที่เป็นอันตรายชุดหนึ่งให้กลายเป็นช่องทางเข้าถึงคลัสเตอร์ภายในของ Hugging Face โดยไม่มีผู้โจมตีที่เป็นมนุษย์อยู่เบื้องหลัง นี่คือสิ่งที่เกิดขึ้นในเหตุการณ์ด้านความปลอดภัยของ Hugging Face และเหตุใดจึงมีความสำคัญสำหรับทุกทีมที่ใช้งาน AI pipelineหรือตัวแทน AI และหกขั้นตอนในการอุดช่องโหว่เดียวกันในสภาพแวดล้อมของคุณเอง
อ่าน 10 นาที
ความปลอดภัยของตัวแทน AI

การรักษาความปลอดภัยของเอเจนต์ AI: รู้จักเอเจนต์ทุกตัว ตรวจจับความเสี่ยง และปกป้องสิ่งที่เอเจนต์ติดตั้ง

เอเจนต์ AI ไม่ได้แค่ตอบคำถาม แต่พวกมันยังลงมือทำด้วย: พวกมันเรียกใช้เครื่องมือ เก็บข้อมูลประจำตัว และติดตั้งแพ็กเกจด้วยตนเอง นี่คือวิธีการทำงานของระบบรักษาความปลอดภัยของเอเจนต์ AI ในสี่ขั้นตอน ตั้งแต่การตรวจสอบเอเจนต์ทั้งหมดในโค้ดของคุณ ไปจนถึงการปกป้องสิ่งที่เอเจนต์ติดตั้ง
อ่าน 10 นาที
Xygeni ในงาน ENISE 2026 ตัวแทนการเข้ารหัส AI ด้านความปลอดภัย

ใครเป็นคนตัดสินใจว่าเวอร์ชันนั้นสามารถวางจำหน่ายได้? บทเรียนด้านความปลอดภัยของเอเจนต์การเขียนโค้ด AI จากงาน ENISE 2026

ในงาน ENISE 2026 Jesús Cuadrado ซีอีโอของ Xygeni ได้แสดงให้เห็นว่าประโยคเพียงประโยคเดียวในประเด็นปัญหาบน GitHub นำไปสู่การเผยแพร่ที่ไม่ได้รับอนุญาตได้อย่างไร และสร้างความเสียหายอย่างใหญ่หลวง CISOs มีคำถามสี่ข้อเกี่ยวกับเอเจนต์การเขียนโค้ด AI
อ่าน 8 นาที
OWASP Agentic AI 10 อันดับแรก

OWASP Agentic AI 10 อันดับแรก อธิบายโดยละเอียด: ASI01–ASI10

OWASP Agentic AI Top 10 ระบุ 10 วิธีที่เอージェนต์ AI ล้มเหลว ต่อไปนี้คือความหมายที่แท้จริงของ ASI01 ถึง ASI10 ในสถานการณ์จริง pipelineโดยแต่ละความเสี่ยงเข้ามาจากจุดใด และความเสี่ยงใดบ้างที่คุณสามารถหยุดยั้งได้ก่อนการใช้งานจริง
อ่าน 11 นาที
การโจมตีการสกัดโมเดล

การโจมตีเพื่อดึงข้อมูลโมเดล: เหตุใดการตรวจสอบสินค้าคงคลังจึงสำคัญเป็นอันดับแรก

การโจมตีแบบดึงข้อมูลโมเดลช่วยให้ผู้โจมตีสามารถคัดลอกโมเดลของคุณทีละคำสั่งค้นหา โดยไม่มีการเจาะระบบหรือขโมยไฟล์ นี่คือวิธีการทำงานของการขโมยโมเดล และเหตุผลที่การป้องกันขั้นแรกคือการรู้ทุกจุดเชื่อมต่อการอนุมานที่คุณเปิดเผย
อ่าน 8 นาที
ความเสี่ยงและขอบเขตของการระเบิดของ AI ที่มีเอเจนต์

ความเสี่ยงและขอบเขตความเสียหายของ AI ที่ทำงานโดยตัวแทน: จำกัดขอบเขตของตัวแทน หรือฟื้นตัวได้เร็วขึ้น?

จำกัดขอบเขตการทำงานของเอเจนต์ ฟื้นตัวได้เร็วขึ้น หรือควบคุมมันจากเบื้องล่าง? ผู้เชี่ยวชาญสามคนให้คำตอบสามแบบ แต่มีอย่างน้อยหนึ่งอย่างที่พวกเขาเห็นพ้องต้องกัน
อ่าน 13 นาที
วิศวกรรมสายรัดเอเจนต์

วิศวกรรมการเชื่อมต่อเอเจนต์: ตัวแบบไม่ใช่พื้นผิวการโจมตี แต่การเชื่อมต่อต่างหากที่เป็นพื้นผิวการโจมตี

การออกแบบเครื่องมือสร้างเอเจนต์ (Agent harness engineering) เปลี่ยนโมเดลให้กลายเป็นเอเจนต์ที่มีประโยชน์ แต่ในขณะเดียวกันก็มอบเป้าหมายใหม่ให้กับผู้โจมตี นั่นคือไฟล์ที่บอกเอเจนต์ของคุณว่ามันทำอะไรได้บ้าง
อ่าน 7 นาที
ความปลอดภัยของแอปพลิเคชัน AI

ความปลอดภัยของแอปพลิเคชัน AI: สิ่งที่เราได้ยินจากงาน OWASP Porto & Karlsruhe

ความปลอดภัยของแอปพลิเคชัน AI เป็นหัวข้อหลักในการประชุม OWASP Porto และ Karlsruhe อะไรนะ? ASPM จริงๆ แล้วมันแตกต่างจากอย่างไร SASTและนี่คือจุดที่ AI เข้ามาช่วยคัดกรองและแก้ไขปัญหา
อ่าน 8 นาที
การจัดการความเสี่ยงของ AI

การจัดการความเสี่ยงด้าน AI: สองสาขาวิชา หนึ่งรายการตรวจสอบ

คำค้นหา 4 คำ แต่ได้งานที่แตกต่างกันอย่างสิ้นเชิง 2 งาน การจัดการความเสี่ยงของ AI ไม่ใช่ศาสตร์เดียวกันกับการใช้ AI เพื่อการบริหารความเสี่ยง และองค์กรส่วนใหญ่กำลังจ้างคนทำงานด้านหนึ่ง ในขณะที่ถูกโน้มน้าวให้ทำงานอีกด้านหนึ่ง ส่วนที่น่าสนใจคือจะเกิดอะไรขึ้นเมื่อคุณตระหนักว่ามันคือโปรแกรมเดียวกัน
อ่าน 9 นาที
ตัวชี้วัดความเสี่ยงของ AI

ความเสี่ยงจาก AI: ตัวชี้วัดที่จะบอกคุณว่ากลยุทธ์ AI ของคุณได้ผลหรือไม่

ทุกคณะกรรมการต่างถามคำถามเดียวกันในปัจจุบันว่า: ความเสี่ยงด้าน AI ของเราคืออะไร? ทีมส่วนใหญ่ตอบด้วยคำคุณศัพท์ ต่อไปนี้คือตัวชี้วัดความเสี่ยงด้าน AI ที่ให้ผลลัพธ์เป็นตัวเลข ที่มาของแต่ละตัวชี้วัด และสิ่งที่กลยุทธ์ AI ที่มีประสิทธิภาพต้องครอบคลุมก่อนที่ตัวชี้วัดเหล่านั้นจะมีความหมาย
อ่าน 9 นาที
ภัยคุกคามด้านความปลอดภัยของ AI

ภัยคุกคามด้านความปลอดภัยของ AI 10 อันดับแรก และวิธีการระบุและวิเคราะห์ภัยคุกคามเหล่านั้น

สองสิ่งถูกจัดอยู่ในหัวข้อเดียวกัน แต่ไม่ใช่ปัญหาเดียวกัน การโจมตีระบบ AI และการโจมตีที่ขับเคลื่อนด้วย AI ต้องการการควบคุมที่แตกต่างกัน เจ้าของที่แตกต่างกัน และหลักฐานที่แตกต่างกัน ภัยคุกคามสิบประการ แบ่งออกเป็นสองส่วน และขั้นตอนหนึ่งที่นำหน้าภัยคุกคามทั้งหมด
อ่าน 10 นาที