ตัวชี้วัดความเสี่ยงของ AI

ความเสี่ยงจาก AI: ตัวชี้วัดที่จะบอกคุณว่ากลยุทธ์ AI ของคุณได้ผลหรือไม่

TL; DR

ปัจจุบันคณะกรรมการบริหารทุกแห่งต่างสอบถามเกี่ยวกับความเสี่ยงจาก AI และทีมรักษาความปลอดภัยส่วนใหญ่มักตอบด้วยคำคุณศัพท์แทนที่จะใช้ตัวเลข กรอบการกำกับดูแลบอกคุณว่าต้องกำกับดูแลอะไร แต่ไม่ได้บอกคุณว่าต้องนับอะไร ตัวชี้วัดความเสี่ยงด้าน AI เหล่านี้ล้วนมาจากแหล่งเดียวกัน นั่นคือโค้ดที่องค์กรของคุณใช้งานอยู่แล้ว

  • กลยุทธ์ AI แบบตัวแทนมีสามชั้น และมีเพียงชั้นเดียวเท่านั้นที่เป็นแบบจำลอง สิ่งที่เอเจนต์เขียน สิ่งที่เอเจนต์เชื่อมต่ออยู่ และสิ่งที่เอเจนต์ดึงเข้ามา โปรแกรมส่วนใหญ่จะวัดแค่สิ่งแรก แต่ละเลยอีกสองสิ่ง
  • รัศมีของการระเบิดไม่ได้รวมอยู่ในแบบจำลอง ข้อมูลดังกล่าวอยู่ในไฟล์ทักษะ การกำหนดค่า MCP ขอบเขตของเครื่องมือ และข้อมูลรับรองที่เอเจนต์ใช้ในการทำงาน การประเมินโมเดลที่สะอาดหมดจดและเอเจนต์ที่มีสิทธิ์เกินความจำเป็นสามารถทำงานร่วมกันได้อย่างราบรื่น
  • ตัวชี้วัดความเสี่ยงด้าน AI จำนวน 9 ตัว โดยแต่ละตัวเป็นตัวเลข ไม่ใช่คำคุณศัพท์ สินทรัพย์ AI ที่ไม่ได้รับการอนุมัติ เส้นทางการฉีดแบบทันทีที่ไปถึงแหล่งเก็บเครื่องมือ ความลับใน .mcp/servers.jsonความสัมพันธ์ที่ตัวแทนเพิ่มเข้ามาถูกระบุไว้ก่อนที่จะมีลายเซ็นต์
  • หากคุณไม่สามารถทำผลงานได้ตามเป้าหมายในไตรมาสนี้ ตัวชี้วัดนั้นไม่ใช่ปัญหา สินค้าคงคลังนั้น เริ่มต้นด้วยการนับสามครั้ง ไม่ใช่การวางแผนเป็นโปรแกรม

ความเสี่ยงจาก AI หมายถึงอะไรกันแน่ เมื่อคุณเป็นผู้ส่งมอบซอฟต์แวร์?

ลองถามคนสิบคนว่าความเสี่ยงจาก AI หมายถึงอะไร คุณก็จะได้คำตอบสิบแบบ อคติของแบบจำลอง ภาพลวงตา การรั่วไหลของข้อมูล ความเสี่ยงด้านกฎระเบียบ การถูกแทนที่ในงาน ทั้งหมดนี้เป็นเรื่องจริง ล้วนควรค่าแก่การใส่ใจ และไม่มีข้อใดที่ทีมรักษาความปลอดภัยจะตอบได้ในบ่ายวันอังคาร

มีคำถามในแง่มุมที่แคบกว่านั้น ซึ่งทีมรักษาความปลอดภัยสามารถรับผิดชอบได้อย่างแท้จริง: ปัญญาประดิษฐ์ (AI) ที่ทำงานอยู่ภายในซอฟต์แวร์ที่เราสร้างขึ้นนั้นคืออะไร มันสามารถเข้าถึงอะไรได้บ้าง และจะเกิดอะไรขึ้นเมื่อมีคนพยายามดัดแปลงมัน เวอร์ชันนั้นมีคำตอบ และคำตอบนั้นอยู่ในที่เก็บข้อมูลของคุณแล้ว pipelineแทนที่จะอยู่ในเอกสารนโยบาย

นี่คือความเสี่ยงด้าน AI ในเวอร์ชันที่โพสต์นี้กล่าวถึง ไม่ใช่เพราะคำถามด้านธรรมาภิบาลไม่สำคัญ แต่เพราะคำถามด้านธรรมาภิบาลจะไม่สามารถตอบได้จนกว่าจะตอบคำถามนี้ได้เสียก่อน กรอบการทำงานขอให้คุณจัดทำบัญชีรายการระบบ AI ของคุณ แต่ไม่ได้บอกคุณว่าบัญชีรายการนั้นอยู่ในที่ใด .mcp/servers.json ไฟล์ที่ไม่มีใครเปิดอีกเลยนับตั้งแต่นั้นมา commitเท็ด

เหตุใดโปรแกรมประเมินความเสี่ยงด้าน AI ส่วนใหญ่จึงวัดสิ่งที่ผิดพลาด?

มีรูปแบบความล้มเหลวอยู่สามแบบ และองค์กรส่วนใหญ่มักใช้รูปแบบความล้มเหลวอย่างน้อยสองแบบ

  • วัดผลการนำไปใช้แทนที่จะวัดจากการรับรู้ “นักพัฒนาของเรา 72% ใช้เครื่องมือ AI” เป็นเพียงตัวชี้วัดประสิทธิภาพการทำงานที่ติดตราสัญลักษณ์ด้านความปลอดภัย แต่ไม่ได้บอกอะไรเลยเกี่ยวกับศักยภาพของเครื่องมือเหล่านั้น
  • วัดผลจากแบบจำลองแทนที่จะวัดผลจากระบบโดยรวม การทดสอบเจาะระบบปลายทางด้วยทีมสีแดงตอบคำถามว่าโมเดลสามารถถูกหลอกให้พูดในสิ่งที่ไม่ควรพูดได้หรือไม่ แต่ไม่ได้ตอบคำถามว่าจะเกิดอะไรขึ้นต่อไป เพราะขอบเขตของผลกระทบนั้นขึ้นอยู่กับขอบเขตของเครื่องมือ ข้อมูลประจำตัวที่เอเจนต์ใช้ และไฟล์การกำหนดค่าที่กำหนดทั้งสองอย่าง การประเมินโมเดลที่สะอาดและเอเจนต์ที่มีสิทธิ์มากเกินไปสามารถอยู่ร่วมกันได้อย่างราบรื่น
  • การวัดสิ่งที่นับได้ง่าย จำนวนนโยบายด้าน AI ที่เผยแพร่ จำนวนพนักงานที่ผ่านการฝึกอบรมด้าน AI ตัวเลขเหล่านี้เพิ่มขึ้นอย่างสม่ำเสมอและไม่มีความสัมพันธ์ใดๆ กับสิ่งอื่น

การขอ กรอบการบริหารความเสี่ยง NIST AI ระบุไว้อย่างชัดเจนว่าการวัดผลเป็นหนึ่งในสี่หน้าที่หลัก นอกเหนือจากการกำกับดูแล การวางแผน และการจัดการ กรอบการทำงานนี้มุ่งเน้นผลลัพธ์มากกว่าการกำหนดแนวทาง ซึ่งถือว่าถูกต้องแล้ว standard และไม่เป็นประโยชน์ในวันอังคาร คุณยังต้องตัดสินใจว่าจะนับอะไรบ้าง

ตัวชี้วัดความเสี่ยงด้าน AI ตัวไหนบ้างที่บอกอะไรเราได้จริงๆ?

ตัวชี้วัดเก้าตัว แต่ละตัวเป็นตัวเลข แต่ละตัวจะเปลี่ยนแปลงไปเมื่อการเปิดรับความเสี่ยงของคุณเปลี่ยนแปลง และแต่ละตัวสามารถสร้างขึ้นได้จากโค้ดแทนที่จะได้จากแบบสำรวจ

เมตริกทำไมมันถึงมีความสำคัญที่มาของตัวเลขนั้น
01จำนวนสินทรัพย์ AI ที่ค้นพบทั้งหมด และการเปลี่ยนแปลงนับตั้งแต่เดือนที่แล้วคุณไม่สามารถรายงานความเสี่ยงจาก AI ได้หากคุณไม่เคยทำการสำรวจมาก่อน แนวโน้มมีความสำคัญมากกว่าตัวเลขสัมบูรณ์การค้นพบอย่างต่อเนื่อง ของโมเดล เฟรมเวิร์ก ชุดข้อมูล จุดสิ้นสุดการอนุมาน เอเจนต์ เซิร์ฟเวอร์ MCP ทักษะ และเครื่องมือเขียนโค้ด AI
02สินทรัพย์ AI ที่ไม่ได้รับการอนุมัติ คิดเป็นเปอร์เซ็นต์ของทั้งหมดนี่คืออัตรา AI แฝงของคุณ มันเป็นตัวชี้วัดความเสี่ยงจาก AI ที่สำคัญที่สุดสำหรับคณะกรรมการบริหารสถานะการอนุมัติจะถูกติดตามสำหรับแต่ละสินทรัพย์ตามกรมธรรม์ของคุณ
03สินทรัพย์ AI ที่ไม่มีการระบุเจ้าของทรัพย์สินที่ไม่มีใครเป็นเจ้าของ คือทรัพย์สินที่ไม่มีใครซ่อมแซม โดยปกติแล้วมักจะเป็นตัวเลขที่ดูแย่ที่สุดในกลุ่มการติดตามความเป็นเจ้าของเทียบกับสินทรัพย์
04เส้นทางการฉีดแบบทันทีที่ไปถึงตัวรับเครื่องมือการป้อนข้อมูลที่ไม่น่าเชื่อถือเข้าสู่พรอมต์ระบบจะมีผลก็ต่อเมื่อมีสิ่งที่เป็นอันตรายอยู่ที่ปลายทางอีกด้านหนึ่งการตรวจจับความเสี่ยงด้วย AI ที่เชื่อมโยงกับ OWASP Top 10 สำหรับการสมัครเรียน LLM
05มีเซิร์ฟเวอร์ MCP ที่ใช้งานอยู่กี่เครื่อง และมีการค้นพบอะไรบ้างการตั้งค่า MCP คือที่ที่เอเจนต์รับคำสั่ง และเป็นที่ที่ข้อมูลประจำตัวต่างๆ สะสมอยู่การกำหนดค่าเซิร์ฟเวอร์ MCP ถูกวิเคราะห์ในฐานะสิ่งประดิษฐ์ด้านความปลอดภัย
06ความลับที่พบในไฟล์การกำหนดค่า AIจากการวิจัยในปี 2026 พบว่ามีข้อมูลลับกว่า 24,000 รายการซ่อนอยู่ในไฟล์การตั้งค่า MCP บน GitHub สาธารณะ และมากกว่า 2,000 รายการยังคงใช้งานได้อยู่การตรวจจับความลับ ครอบคลุมทั้งโค้ด การกำหนดค่า คอนเทนเนอร์ และ pipelines
07การพึ่งพาที่ตัวแทนเพิ่มเข้ามาถูกระบุไว้ก่อนที่จะมีลายเซ็นสาธารณะเอเจนต์ดึงแพ็กเกจได้อย่างรวดเร็ว และชื่อที่โมเดลของคุณคิดขึ้นมานั้นเป็นพื้นผิวโจมตีที่สามารถใช้ประโยชน์ได้ระบบเตือนภัยมัลแวร์ล่วงหน้าการตรวจจับหลักฐานตามด้วยการตรวจสอบความถูกต้องโดย AI
08สัดส่วนของผลการค้นพบด้าน AI ที่สามารถเข้าถึงได้และอยู่ในระหว่างการพัฒนาโค้ดอย่างต่อเนื่องแยกงานค้างที่คุณไม่มีวันเคลียร์ได้ออกจากงานที่จะช่วยลดความเสี่ยงของคุณกรวยการจัดลำดับความสำคัญของ AI
09เปอร์เซ็นต์ของผลงานที่เขียนโดยตัวแทน pull requests ผสานรวมกับการอนุมัติของมนุษย์ตัวชี้วัดด้านธรรมาภิบาลที่หน่วยงานกำกับดูแลจะร้องขอ แต่เป็นตัวชี้วัดที่ไม่มีใครติดตามPull request การวิเคราะห์ และด่านอนุมัติ

ถ้าจะเลือกเพียงหนึ่งเดียว ให้เลือกตัวชี้วัดที่ 02 อัตราส่วนของสินทรัพย์ AI ที่ไม่ได้รับการอนุมัติเทียบกับสินทรัพย์ AI ทั้งหมด คือตัวเลขที่เหลือรอดจากการแปลงจากทีมรักษาความปลอดภัยไปสู่การตรวจสอบ commitเสื้อยืดตัวนี้จะขยับเมื่อคุณลงมือทำอะไรบางอย่างจริงๆ

กลยุทธ์ AI ที่เน้นการทำงานอย่างมีประสิทธิภาพต้องครอบคลุมอะไรบ้าง?

มีสามชั้น ความผิดพลาดที่เกือบทุกคนทำคือเริ่มต้นที่ชั้นแรกแล้วหยุดอยู่แค่นั้น

  1. ชั้นแรก: สิ่งที่ตัวแทนเขียน โค้ดที่สร้างขึ้นโดย AI มีช่องโหว่ประเภทเดียวกันกับโค้ดที่เขียนโดยมนุษย์ และงานวิจัยตั้งแต่ปี 2022 พบอย่างสม่ำเสมอว่าโปรแกรมที่สร้างโดย AI จำนวนมากมีข้อบกพร่องด้านความปลอดภัย ชั้นนี้เป็นชั้นที่คุ้นเคยมากที่สุด ซึ่งเป็นเหตุผลว่าทำไมมันถึงได้รับความสนใจทั้งหมด
  2. ชั้นที่สอง: สิ่งที่เอเจนต์เชื่อมต่ออยู่ ไฟล์ทักษะ ไฟล์กฎ การกำหนดค่าเซิร์ฟเวอร์ MCP ขอบเขตเครื่องมือ ข้อมูลประจำตัวที่เอเจนต์ใช้ในการทำงาน นี่คือเลเยอร์ที่กำหนดว่าการโจมตีที่ประสบความสำเร็จจะแพร่กระจายไปได้ไกลแค่ไหน และเลเยอร์นี้มองไม่เห็นสำหรับสิ่งใดก็ตามที่ทดสอบโมเดลผ่านทางเอนด์พอยต์ ไมเตอร์แอตลาส เอกสารนี้จัดทำขึ้นโดยตรงเพื่ออธิบายเรื่องนี้: กรณีศึกษาช่องโหว่ในไฟล์กฎ (Rules File Backdoor) รหัส AML.CS0041 อธิบายถึงอักขระที่มีความกว้างเป็นศูนย์ในไฟล์กฎ ซึ่งเปลี่ยนเอกสารให้กลายเป็นคำสั่งที่ตัวแทนปฏิบัติตามโดยไม่พูดอะไร ผู้ตรวจสอบที่อ่านเอกสารนี้ pull request มองไม่เห็นอะไรเลย
  3. ชั้นที่สาม: สิ่งที่เอเจนต์ดึงเข้ามา การพึ่งพา โมเดล ชุดข้อมูล เครื่องมือภายนอก งานวิจัยที่นำเสนอในงาน USENIX Security ปี 2025 สร้างตัวอย่างโค้ด 2.23 ล้านตัวอย่างจาก 16 โมเดล และพบว่า 19.7% ของแพ็กเกจที่แนะนำนั้นไม่มีอยู่จริง ทำให้เกิดชื่อปลอมที่ไม่ซ้ำกันมากกว่า 205,000 ชื่อ ผู้โจมตีไม่จำเป็นต้องเจาะระบบผู้ดูแลระบบอีกต่อไป พวกเขาเพียงแค่ลงทะเบียนชื่อที่เอเจนต์ของคุณสร้างขึ้นและรอ

กลยุทธ์ AI เชิงตัวแทนที่ครอบคลุมเฉพาะเลเยอร์แรกจะสร้างรายงานที่ชัดเจนและโปรไฟล์ความเสี่ยง AI ที่ไม่เปลี่ยนแปลง OWASP Top 10 สำหรับการสมัครเรียน LLM โครงสร้างของมันก็สะท้อนสิ่งนี้เช่นกัน: อำนาจการตัดสินใจที่มากเกินไปอยู่ในลำดับต้นๆcisเพราะเป็นปัญหาเรื่องการเดินสายไฟ ไม่ใช่ปัญหาที่ตัวรุ่น

คุณจะดำเนินการนี้โดยไม่ทำให้เอเจนต์ทำงานช้าลงได้อย่างไร?

โดยสัญชาตญาณแล้ว เรามักจะควบคุมทุกอย่าง แต่มันล้มเหลว เพราะจุดประสงค์หลักของเอเจนต์คือการเพิ่มปริมาณงาน และการควบคุมที่ลดปริมาณงานลงครึ่งหนึ่งจะถูกลบออกภายในเวลาเพียงหนึ่งในสี่

หลักการนำไปปฏิบัติสามประการที่ใช้ได้ผลเสมอ:

  • วัดอย่างต่อเนื่อง เลือกวัดเฉพาะจุดที่ต้องการ สามารถรวบรวมตัวชี้วัดความเสี่ยงด้าน AI ทั้งเก้าตัวได้ในการสแกนทุกครั้งโดยไม่ปิดกั้นสิ่งใด ควรใช้เกณฑ์การตรวจสอบที่เข้มงวดเฉพาะในกรณีเล็กๆ ที่ความล้มเหลวไม่สามารถแก้ไขได้ เช่น การพึ่งพาที่เป็นอันตราย ข้อมูลลับที่ยังใช้งานอยู่ หรือโมเดลที่ไม่ได้รับการอนุมัติซึ่งจัดการข้อมูลที่อยู่ภายใต้การกำกับดูแล
  • ติดตั้งระบบรักษาความปลอดภัยในจุดที่เจ้าหน้าที่ประจำอยู่แล้ว เอเจนต์ที่เชื่อมต่อผ่าน MCP จะเรียกใช้แพลตฟอร์มความปลอดภัยในขณะที่สร้าง สแกนสิ่งที่เพิ่งเขียน และปรับปรุงแก้ไขไปเรื่อยๆ จนกว่าโค้ดจะตรงตามเกณฑ์ที่คุณกำหนด ในขั้นตอนนี้ไม่มีมนุษย์เข้ามาเกี่ยวข้อง และไม่จำเป็นต้องติดตั้งอะไรในตำแหน่งที่เอเจนต์ทำงาน นี่คือจุดแทรกแซงเพียงจุดเดียวที่ปรับขนาดได้ตามประสิทธิภาพของเอเจนต์ ไม่ใช่ขัดแย้งกับประสิทธิภาพ
  • รักษาความเป็นมนุษย์ไว้ที่ pull request. ทุกอย่างที่เข้าสู่โค้ดการผลิต จะต้องมีคนอนุมัติ นี่ไม่ใช่ความระมัดระวัง แต่เป็นจุดยืนด้านการออกแบบที่กฎหมาย AI ของสหภาพยุโรปผลักดันให้คุณปฏิบัติตามอยู่แล้ว และการสร้างระบบนี้ตั้งแต่แรกนั้นถูกกว่าการแก้ไขภายหลังภายใต้แรงกดดันจากการตรวจสอบมาก นอกจากนี้ยังเป็นตัวชี้วัดที่ 09 ซึ่งเป็นเหตุผลว่าทำไมตัวชี้วัดนี้จึงควรติดตามตั้งแต่วันแรก
ชั้นเจ้าของรายงานต่อ
สิ่งที่ตัวแทนเขียนหัวหน้าทีม AppSecCISโอ รายเดือน
ตัวแทนนั้นเชื่อมต่อกับอะไรหัวหน้าฝ่ายแพลตฟอร์มหรือ DevOpsCISโอ อย่างต่อเนื่อง
สิ่งที่ตัวแทนดึงเข้ามาหัวหน้าทีม AppSecCISโอ อย่างต่อเนื่อง
สถานะความเสี่ยงด้าน AI ที่รายงานCISสำนักงาน Oคณะกรรมการหรือการตรวจสอบ commitที, รายไตรมาส

แถวที่มักไม่มีการกำหนดหน้าที่ในองค์กรส่วนใหญ่คือแถวที่สอง ไฟล์การกำหนดค่าจะอยู่ระหว่างฝ่ายรักษาความปลอดภัยของแอปพลิเคชัน ซึ่งถือว่าไฟล์เหล่านี้เป็นโครงสร้างพื้นฐาน และฝ่ายวิศวกรรมแพลตฟอร์ม ซึ่งถือว่าไฟล์เหล่านี้เป็นเอกสาร ช่องว่างตรงนี้เองที่เป็นจุดเริ่มต้นของการโจมตีที่น่าสนใจ

คุณจะเริ่มต้นวัดความเสี่ยงด้าน AI ในไตรมาสนี้อย่างไร?

อย่าสร้างโปรแกรมทั้งหมด จงสร้างตัวเลขสามอย่าง นับจำนวนสินทรัพย์ AI ของคุณ นับจำนวนสินทรัพย์ที่ไม่มีใครอนุมัติ นับจำนวนความลับที่ซ่อนอยู่ในไฟล์การกำหนดค่า AI ตัวเลขทั้งสามนี้สามารถใส่ลงในสไลด์เดียวได้ ทั้งหมดนี้สามารถพิสูจน์ได้ และผลลัพธ์จะแย่กว่าที่ผู้ขอคาดคิดไว้

จากนั้นเลือกอันที่แย่ที่สุดและแก้ไขให้เสร็จก่อนการประชุมคณะกรรมการครั้งต่อไป นั่นคือโปรแกรมบริหารความเสี่ยงด้วย AI ที่ใช้งานได้จริง ส่วนที่เหลือเป็นเพียงการขยายความเท่านั้น

องค์กรที่จะประสบปัญหาเรื่องความเสี่ยงจาก AI ในปี 2027 ไม่ใช่องค์กรที่ดำเนินการอย่างรวดเร็ว แต่เป็นองค์กรที่ใช้เวลาในปี 2026 ในการเขียนนโยบาย AI และไม่เคยวัดผลอะไรเลย นโยบายที่ไม่มีใครสามารถวัดผลได้นั้นเป็นเพียงเอกสาร การวัดผลความเสี่ยงจาก AI ต่างหากที่จะทำให้มันกลายเป็นเครื่องมือควบคุม

ดูตัวเลขของคุณเอง เชื่อมต่อแหล่งเก็บข้อมูล แล้ว Xygeni จะส่งคืนรายการสินค้าคงคลัง AI ของคุณ สินทรัพย์ที่ไม่ได้รับการอนุมัติ ความเสี่ยงที่เชื่อมโยงกับกรอบการทำงานที่ผู้ตรวจสอบบัญชีของคุณใช้ และ AI-BOM ที่คุณสามารถส่งออกได้ เริ่มฟรี or จองการสาธิต.

คำถามที่พบบ่อย

ความเสี่ยงของ AI และความปลอดภัยของ AI แตกต่างกันอย่างไร?

ความปลอดภัยของ AI ส่วนใหญ่เกี่ยวข้องกับสิ่งที่โมเดลทำ: ว่ามันทำงานตามที่ตั้งใจไว้หรือไม่ ผลลัพธ์ที่ได้เป็นอันตรายหรือไม่ และมันสามารถถูกดัดแปลงให้ทำในสิ่งที่มันควรปฏิเสธได้หรือไม่ ส่วนความเสี่ยงของ AI ในบริบทด้านความปลอดภัยนั้น เกี่ยวข้องกับสิ่งที่ระบบ AI ที่ถูกบุกรุกหรือทำงานผิดปกติสามารถทำได้ภายในสภาพแวดล้อมของคุณ ทั้งสองส่วนนี้มีความเกี่ยวข้องกัน แต่เป็นความรับผิดชอบของทีมที่แตกต่างกันและวัดผลด้วยเครื่องมือที่แตกต่างกัน ปัจจุบันทีมรักษาความปลอดภัยสามารถดำเนินการในส่วนที่สองได้แล้ว

เราควรรายงานตัวชี้วัดความเสี่ยงด้าน AI กี่ตัวต่อคณะกรรมการบริหาร?

สามถึงห้าตัว คณะกรรมการไม่สามารถดำเนินการใดๆ ได้จากตัวเลขเก้าตัว และเอกสารที่มีตัวเลขเก้าตัวมักจะซ่อนตัวเลขที่สำคัญที่สุดไว้ รายงานจำนวนสินทรัพย์ AI ทั้งหมดของคุณ เปอร์เซ็นต์ที่ไม่ได้รับการอนุมัติ และตัวชี้วัดความเสี่ยงหนึ่งตัว เช่น ผลการค้นพบ AI ที่สามารถเข้าถึงได้ซึ่งอยู่ระหว่างการพัฒนา เก็บข้อมูลส่วนที่เหลือไว้สำหรับการตรวจสอบการดำเนินงาน

เราจำเป็นต้องมี AI-BOM หรือไม่ ในเมื่อยังไม่มีกฎระเบียบใดกำหนดให้ต้องมี?

ปัจจุบันยังไม่มีกฎระเบียบใดบังคับให้ต้องจัดทำ AI-BOM ซึ่งเป็นเหตุผลว่าทำไมการจัดทำเอกสารนี้จึงมีราคาถูกในตอนนี้ แต่จะแพงขึ้นในอนาคต ปัจจุบันมีรูปแบบที่เครื่องอ่านได้สองรูปแบบ และผู้ตรวจสอบจะยอมรับได้ทั้งสองแบบ คุณค่าของเอกสารนี้ไม่ได้อยู่ที่การปฏิบัติตามกฎระเบียบ แต่เป็นการบังคับให้คุณต้องมีรายการวัสดุ และรายการวัสดุนี้เองที่เป็นสิ่งที่ตัวชี้วัดความเสี่ยงด้าน AI ทุกตัวต้องพึ่งพา

นักพัฒนาของเราใช้เครื่องมือ AI ที่เราไม่เคยอนุมัติ เราควรเริ่มต้นจากตรงไหนดี?

นับจำนวนก่อนออกกฎควบคุม การประกาศนโยบายต่อต้านเครื่องมือที่คุณมองไม่เห็นจะทำให้การใช้งานซ่อนเร้นและทำลายความโปร่งใสที่คุณต้องการ ดำเนินการสำรวจก่อน เผยแพร่จำนวนภายในโดยไม่ระบุแหล่งที่มา และใช้จำนวนนั้นเพื่อตกลงรายชื่อเครื่องมือที่ได้รับอนุมัติซึ่งสะท้อนถึงสิ่งที่ผู้คนต้องการจริงๆ การบังคับใช้จะได้ผลดีกว่าเมื่อเกิดขึ้นหลังจากมีหลักฐาน มากกว่าเมื่อเกิดขึ้นก่อนมีหลักฐาน

sca-tools-software-composition-analysis-tools
จัดลำดับความสำคัญ แก้ไข และรักษาความปลอดภัยความเสี่ยงด้านซอฟต์แวร์ของคุณ
สมัครบัญชีฟรีได้เลย
ไม่ต้องใช้บัตรเครดิต

รักษาความปลอดภัยในการพัฒนาและส่งมอบซอฟต์แวร์ของคุณ

ด้วยชุดผลิตภัณฑ์ Xygeni