TL; DR
ปัจจุบันคณะกรรมการบริหารทุกแห่งต่างสอบถามเกี่ยวกับความเสี่ยงจาก AI และทีมรักษาความปลอดภัยส่วนใหญ่มักตอบด้วยคำคุณศัพท์แทนที่จะใช้ตัวเลข กรอบการกำกับดูแลบอกคุณว่าต้องกำกับดูแลอะไร แต่ไม่ได้บอกคุณว่าต้องนับอะไร ตัวชี้วัดความเสี่ยงด้าน AI เหล่านี้ล้วนมาจากแหล่งเดียวกัน นั่นคือโค้ดที่องค์กรของคุณใช้งานอยู่แล้ว
- กลยุทธ์ AI แบบตัวแทนมีสามชั้น และมีเพียงชั้นเดียวเท่านั้นที่เป็นแบบจำลอง สิ่งที่เอเจนต์เขียน สิ่งที่เอเจนต์เชื่อมต่ออยู่ และสิ่งที่เอเจนต์ดึงเข้ามา โปรแกรมส่วนใหญ่จะวัดแค่สิ่งแรก แต่ละเลยอีกสองสิ่ง
- รัศมีของการระเบิดไม่ได้รวมอยู่ในแบบจำลอง ข้อมูลดังกล่าวอยู่ในไฟล์ทักษะ การกำหนดค่า MCP ขอบเขตของเครื่องมือ และข้อมูลรับรองที่เอเจนต์ใช้ในการทำงาน การประเมินโมเดลที่สะอาดหมดจดและเอเจนต์ที่มีสิทธิ์เกินความจำเป็นสามารถทำงานร่วมกันได้อย่างราบรื่น
- ตัวชี้วัดความเสี่ยงด้าน AI จำนวน 9 ตัว โดยแต่ละตัวเป็นตัวเลข ไม่ใช่คำคุณศัพท์ สินทรัพย์ AI ที่ไม่ได้รับการอนุมัติ เส้นทางการฉีดแบบทันทีที่ไปถึงแหล่งเก็บเครื่องมือ ความลับใน
.mcp/servers.jsonความสัมพันธ์ที่ตัวแทนเพิ่มเข้ามาถูกระบุไว้ก่อนที่จะมีลายเซ็นต์ - หากคุณไม่สามารถทำผลงานได้ตามเป้าหมายในไตรมาสนี้ ตัวชี้วัดนั้นไม่ใช่ปัญหา สินค้าคงคลังนั้น เริ่มต้นด้วยการนับสามครั้ง ไม่ใช่การวางแผนเป็นโปรแกรม
ความเสี่ยงจาก AI หมายถึงอะไรกันแน่ เมื่อคุณเป็นผู้ส่งมอบซอฟต์แวร์?
ลองถามคนสิบคนว่าความเสี่ยงจาก AI หมายถึงอะไร คุณก็จะได้คำตอบสิบแบบ อคติของแบบจำลอง ภาพลวงตา การรั่วไหลของข้อมูล ความเสี่ยงด้านกฎระเบียบ การถูกแทนที่ในงาน ทั้งหมดนี้เป็นเรื่องจริง ล้วนควรค่าแก่การใส่ใจ และไม่มีข้อใดที่ทีมรักษาความปลอดภัยจะตอบได้ในบ่ายวันอังคาร
มีคำถามในแง่มุมที่แคบกว่านั้น ซึ่งทีมรักษาความปลอดภัยสามารถรับผิดชอบได้อย่างแท้จริง: ปัญญาประดิษฐ์ (AI) ที่ทำงานอยู่ภายในซอฟต์แวร์ที่เราสร้างขึ้นนั้นคืออะไร มันสามารถเข้าถึงอะไรได้บ้าง และจะเกิดอะไรขึ้นเมื่อมีคนพยายามดัดแปลงมัน เวอร์ชันนั้นมีคำตอบ และคำตอบนั้นอยู่ในที่เก็บข้อมูลของคุณแล้ว pipelineแทนที่จะอยู่ในเอกสารนโยบาย
นี่คือความเสี่ยงด้าน AI ในเวอร์ชันที่โพสต์นี้กล่าวถึง ไม่ใช่เพราะคำถามด้านธรรมาภิบาลไม่สำคัญ แต่เพราะคำถามด้านธรรมาภิบาลจะไม่สามารถตอบได้จนกว่าจะตอบคำถามนี้ได้เสียก่อน กรอบการทำงานขอให้คุณจัดทำบัญชีรายการระบบ AI ของคุณ แต่ไม่ได้บอกคุณว่าบัญชีรายการนั้นอยู่ในที่ใด .mcp/servers.json ไฟล์ที่ไม่มีใครเปิดอีกเลยนับตั้งแต่นั้นมา commitเท็ด
เหตุใดโปรแกรมประเมินความเสี่ยงด้าน AI ส่วนใหญ่จึงวัดสิ่งที่ผิดพลาด?
มีรูปแบบความล้มเหลวอยู่สามแบบ และองค์กรส่วนใหญ่มักใช้รูปแบบความล้มเหลวอย่างน้อยสองแบบ
- วัดผลการนำไปใช้แทนที่จะวัดจากการรับรู้ “นักพัฒนาของเรา 72% ใช้เครื่องมือ AI” เป็นเพียงตัวชี้วัดประสิทธิภาพการทำงานที่ติดตราสัญลักษณ์ด้านความปลอดภัย แต่ไม่ได้บอกอะไรเลยเกี่ยวกับศักยภาพของเครื่องมือเหล่านั้น
- วัดผลจากแบบจำลองแทนที่จะวัดผลจากระบบโดยรวม การทดสอบเจาะระบบปลายทางด้วยทีมสีแดงตอบคำถามว่าโมเดลสามารถถูกหลอกให้พูดในสิ่งที่ไม่ควรพูดได้หรือไม่ แต่ไม่ได้ตอบคำถามว่าจะเกิดอะไรขึ้นต่อไป เพราะขอบเขตของผลกระทบนั้นขึ้นอยู่กับขอบเขตของเครื่องมือ ข้อมูลประจำตัวที่เอเจนต์ใช้ และไฟล์การกำหนดค่าที่กำหนดทั้งสองอย่าง การประเมินโมเดลที่สะอาดและเอเจนต์ที่มีสิทธิ์มากเกินไปสามารถอยู่ร่วมกันได้อย่างราบรื่น
- การวัดสิ่งที่นับได้ง่าย จำนวนนโยบายด้าน AI ที่เผยแพร่ จำนวนพนักงานที่ผ่านการฝึกอบรมด้าน AI ตัวเลขเหล่านี้เพิ่มขึ้นอย่างสม่ำเสมอและไม่มีความสัมพันธ์ใดๆ กับสิ่งอื่น
การขอ กรอบการบริหารความเสี่ยง NIST AI ระบุไว้อย่างชัดเจนว่าการวัดผลเป็นหนึ่งในสี่หน้าที่หลัก นอกเหนือจากการกำกับดูแล การวางแผน และการจัดการ กรอบการทำงานนี้มุ่งเน้นผลลัพธ์มากกว่าการกำหนดแนวทาง ซึ่งถือว่าถูกต้องแล้ว standard และไม่เป็นประโยชน์ในวันอังคาร คุณยังต้องตัดสินใจว่าจะนับอะไรบ้าง
ตัวชี้วัดความเสี่ยงด้าน AI ตัวไหนบ้างที่บอกอะไรเราได้จริงๆ?
ตัวชี้วัดเก้าตัว แต่ละตัวเป็นตัวเลข แต่ละตัวจะเปลี่ยนแปลงไปเมื่อการเปิดรับความเสี่ยงของคุณเปลี่ยนแปลง และแต่ละตัวสามารถสร้างขึ้นได้จากโค้ดแทนที่จะได้จากแบบสำรวจ
| เมตริก | ทำไมมันถึงมีความสำคัญ | ที่มาของตัวเลขนั้น |
|---|---|---|
| 01จำนวนสินทรัพย์ AI ที่ค้นพบทั้งหมด และการเปลี่ยนแปลงนับตั้งแต่เดือนที่แล้ว | คุณไม่สามารถรายงานความเสี่ยงจาก AI ได้หากคุณไม่เคยทำการสำรวจมาก่อน แนวโน้มมีความสำคัญมากกว่าตัวเลขสัมบูรณ์ | การค้นพบอย่างต่อเนื่อง ของโมเดล เฟรมเวิร์ก ชุดข้อมูล จุดสิ้นสุดการอนุมาน เอเจนต์ เซิร์ฟเวอร์ MCP ทักษะ และเครื่องมือเขียนโค้ด AI |
| 02สินทรัพย์ AI ที่ไม่ได้รับการอนุมัติ คิดเป็นเปอร์เซ็นต์ของทั้งหมด | นี่คืออัตรา AI แฝงของคุณ มันเป็นตัวชี้วัดความเสี่ยงจาก AI ที่สำคัญที่สุดสำหรับคณะกรรมการบริหาร | สถานะการอนุมัติจะถูกติดตามสำหรับแต่ละสินทรัพย์ตามกรมธรรม์ของคุณ |
| 03สินทรัพย์ AI ที่ไม่มีการระบุเจ้าของ | ทรัพย์สินที่ไม่มีใครเป็นเจ้าของ คือทรัพย์สินที่ไม่มีใครซ่อมแซม โดยปกติแล้วมักจะเป็นตัวเลขที่ดูแย่ที่สุดในกลุ่ม | การติดตามความเป็นเจ้าของเทียบกับสินทรัพย์ |
| 04เส้นทางการฉีดแบบทันทีที่ไปถึงตัวรับเครื่องมือ | การป้อนข้อมูลที่ไม่น่าเชื่อถือเข้าสู่พรอมต์ระบบจะมีผลก็ต่อเมื่อมีสิ่งที่เป็นอันตรายอยู่ที่ปลายทางอีกด้านหนึ่ง | การตรวจจับความเสี่ยงด้วย AI ที่เชื่อมโยงกับ OWASP Top 10 สำหรับการสมัครเรียน LLM |
| 05มีเซิร์ฟเวอร์ MCP ที่ใช้งานอยู่กี่เครื่อง และมีการค้นพบอะไรบ้าง | การตั้งค่า MCP คือที่ที่เอเจนต์รับคำสั่ง และเป็นที่ที่ข้อมูลประจำตัวต่างๆ สะสมอยู่ | การกำหนดค่าเซิร์ฟเวอร์ MCP ถูกวิเคราะห์ในฐานะสิ่งประดิษฐ์ด้านความปลอดภัย |
| 06ความลับที่พบในไฟล์การกำหนดค่า AI | จากการวิจัยในปี 2026 พบว่ามีข้อมูลลับกว่า 24,000 รายการซ่อนอยู่ในไฟล์การตั้งค่า MCP บน GitHub สาธารณะ และมากกว่า 2,000 รายการยังคงใช้งานได้อยู่ | การตรวจจับความลับ ครอบคลุมทั้งโค้ด การกำหนดค่า คอนเทนเนอร์ และ pipelines |
| 07การพึ่งพาที่ตัวแทนเพิ่มเข้ามาถูกระบุไว้ก่อนที่จะมีลายเซ็นสาธารณะ | เอเจนต์ดึงแพ็กเกจได้อย่างรวดเร็ว และชื่อที่โมเดลของคุณคิดขึ้นมานั้นเป็นพื้นผิวโจมตีที่สามารถใช้ประโยชน์ได้ | ระบบเตือนภัยมัลแวร์ล่วงหน้าการตรวจจับหลักฐานตามด้วยการตรวจสอบความถูกต้องโดย AI |
| 08สัดส่วนของผลการค้นพบด้าน AI ที่สามารถเข้าถึงได้และอยู่ในระหว่างการพัฒนาโค้ดอย่างต่อเนื่อง | แยกงานค้างที่คุณไม่มีวันเคลียร์ได้ออกจากงานที่จะช่วยลดความเสี่ยงของคุณ | กรวยการจัดลำดับความสำคัญของ AI |
| 09เปอร์เซ็นต์ของผลงานที่เขียนโดยตัวแทน pull requests ผสานรวมกับการอนุมัติของมนุษย์ | ตัวชี้วัดด้านธรรมาภิบาลที่หน่วยงานกำกับดูแลจะร้องขอ แต่เป็นตัวชี้วัดที่ไม่มีใครติดตาม | Pull request การวิเคราะห์ และด่านอนุมัติ |
ถ้าจะเลือกเพียงหนึ่งเดียว ให้เลือกตัวชี้วัดที่ 02 อัตราส่วนของสินทรัพย์ AI ที่ไม่ได้รับการอนุมัติเทียบกับสินทรัพย์ AI ทั้งหมด คือตัวเลขที่เหลือรอดจากการแปลงจากทีมรักษาความปลอดภัยไปสู่การตรวจสอบ commitเสื้อยืดตัวนี้จะขยับเมื่อคุณลงมือทำอะไรบางอย่างจริงๆ
กลยุทธ์ AI ที่เน้นการทำงานอย่างมีประสิทธิภาพต้องครอบคลุมอะไรบ้าง?
มีสามชั้น ความผิดพลาดที่เกือบทุกคนทำคือเริ่มต้นที่ชั้นแรกแล้วหยุดอยู่แค่นั้น
- ชั้นแรก: สิ่งที่ตัวแทนเขียน โค้ดที่สร้างขึ้นโดย AI มีช่องโหว่ประเภทเดียวกันกับโค้ดที่เขียนโดยมนุษย์ และงานวิจัยตั้งแต่ปี 2022 พบอย่างสม่ำเสมอว่าโปรแกรมที่สร้างโดย AI จำนวนมากมีข้อบกพร่องด้านความปลอดภัย ชั้นนี้เป็นชั้นที่คุ้นเคยมากที่สุด ซึ่งเป็นเหตุผลว่าทำไมมันถึงได้รับความสนใจทั้งหมด
- ชั้นที่สอง: สิ่งที่เอเจนต์เชื่อมต่ออยู่ ไฟล์ทักษะ ไฟล์กฎ การกำหนดค่าเซิร์ฟเวอร์ MCP ขอบเขตเครื่องมือ ข้อมูลประจำตัวที่เอเจนต์ใช้ในการทำงาน นี่คือเลเยอร์ที่กำหนดว่าการโจมตีที่ประสบความสำเร็จจะแพร่กระจายไปได้ไกลแค่ไหน และเลเยอร์นี้มองไม่เห็นสำหรับสิ่งใดก็ตามที่ทดสอบโมเดลผ่านทางเอนด์พอยต์ ไมเตอร์แอตลาส เอกสารนี้จัดทำขึ้นโดยตรงเพื่ออธิบายเรื่องนี้: กรณีศึกษาช่องโหว่ในไฟล์กฎ (Rules File Backdoor) รหัส AML.CS0041 อธิบายถึงอักขระที่มีความกว้างเป็นศูนย์ในไฟล์กฎ ซึ่งเปลี่ยนเอกสารให้กลายเป็นคำสั่งที่ตัวแทนปฏิบัติตามโดยไม่พูดอะไร ผู้ตรวจสอบที่อ่านเอกสารนี้ pull request มองไม่เห็นอะไรเลย
- ชั้นที่สาม: สิ่งที่เอเจนต์ดึงเข้ามา การพึ่งพา โมเดล ชุดข้อมูล เครื่องมือภายนอก งานวิจัยที่นำเสนอในงาน USENIX Security ปี 2025 สร้างตัวอย่างโค้ด 2.23 ล้านตัวอย่างจาก 16 โมเดล และพบว่า 19.7% ของแพ็กเกจที่แนะนำนั้นไม่มีอยู่จริง ทำให้เกิดชื่อปลอมที่ไม่ซ้ำกันมากกว่า 205,000 ชื่อ ผู้โจมตีไม่จำเป็นต้องเจาะระบบผู้ดูแลระบบอีกต่อไป พวกเขาเพียงแค่ลงทะเบียนชื่อที่เอเจนต์ของคุณสร้างขึ้นและรอ
กลยุทธ์ AI เชิงตัวแทนที่ครอบคลุมเฉพาะเลเยอร์แรกจะสร้างรายงานที่ชัดเจนและโปรไฟล์ความเสี่ยง AI ที่ไม่เปลี่ยนแปลง OWASP Top 10 สำหรับการสมัครเรียน LLM โครงสร้างของมันก็สะท้อนสิ่งนี้เช่นกัน: อำนาจการตัดสินใจที่มากเกินไปอยู่ในลำดับต้นๆcisเพราะเป็นปัญหาเรื่องการเดินสายไฟ ไม่ใช่ปัญหาที่ตัวรุ่น
คุณจะดำเนินการนี้โดยไม่ทำให้เอเจนต์ทำงานช้าลงได้อย่างไร?
โดยสัญชาตญาณแล้ว เรามักจะควบคุมทุกอย่าง แต่มันล้มเหลว เพราะจุดประสงค์หลักของเอเจนต์คือการเพิ่มปริมาณงาน และการควบคุมที่ลดปริมาณงานลงครึ่งหนึ่งจะถูกลบออกภายในเวลาเพียงหนึ่งในสี่
หลักการนำไปปฏิบัติสามประการที่ใช้ได้ผลเสมอ:
- วัดอย่างต่อเนื่อง เลือกวัดเฉพาะจุดที่ต้องการ สามารถรวบรวมตัวชี้วัดความเสี่ยงด้าน AI ทั้งเก้าตัวได้ในการสแกนทุกครั้งโดยไม่ปิดกั้นสิ่งใด ควรใช้เกณฑ์การตรวจสอบที่เข้มงวดเฉพาะในกรณีเล็กๆ ที่ความล้มเหลวไม่สามารถแก้ไขได้ เช่น การพึ่งพาที่เป็นอันตราย ข้อมูลลับที่ยังใช้งานอยู่ หรือโมเดลที่ไม่ได้รับการอนุมัติซึ่งจัดการข้อมูลที่อยู่ภายใต้การกำกับดูแล
- ติดตั้งระบบรักษาความปลอดภัยในจุดที่เจ้าหน้าที่ประจำอยู่แล้ว เอเจนต์ที่เชื่อมต่อผ่าน MCP จะเรียกใช้แพลตฟอร์มความปลอดภัยในขณะที่สร้าง สแกนสิ่งที่เพิ่งเขียน และปรับปรุงแก้ไขไปเรื่อยๆ จนกว่าโค้ดจะตรงตามเกณฑ์ที่คุณกำหนด ในขั้นตอนนี้ไม่มีมนุษย์เข้ามาเกี่ยวข้อง และไม่จำเป็นต้องติดตั้งอะไรในตำแหน่งที่เอเจนต์ทำงาน นี่คือจุดแทรกแซงเพียงจุดเดียวที่ปรับขนาดได้ตามประสิทธิภาพของเอเจนต์ ไม่ใช่ขัดแย้งกับประสิทธิภาพ
- รักษาความเป็นมนุษย์ไว้ที่ pull request. ทุกอย่างที่เข้าสู่โค้ดการผลิต จะต้องมีคนอนุมัติ นี่ไม่ใช่ความระมัดระวัง แต่เป็นจุดยืนด้านการออกแบบที่กฎหมาย AI ของสหภาพยุโรปผลักดันให้คุณปฏิบัติตามอยู่แล้ว และการสร้างระบบนี้ตั้งแต่แรกนั้นถูกกว่าการแก้ไขภายหลังภายใต้แรงกดดันจากการตรวจสอบมาก นอกจากนี้ยังเป็นตัวชี้วัดที่ 09 ซึ่งเป็นเหตุผลว่าทำไมตัวชี้วัดนี้จึงควรติดตามตั้งแต่วันแรก
| ชั้น | เจ้าของ | รายงานต่อ |
|---|---|---|
| สิ่งที่ตัวแทนเขียน | หัวหน้าทีม AppSec | CISโอ รายเดือน |
| ตัวแทนนั้นเชื่อมต่อกับอะไร | หัวหน้าฝ่ายแพลตฟอร์มหรือ DevOps | CISโอ อย่างต่อเนื่อง |
| สิ่งที่ตัวแทนดึงเข้ามา | หัวหน้าทีม AppSec | CISโอ อย่างต่อเนื่อง |
| สถานะความเสี่ยงด้าน AI ที่รายงาน | CISสำนักงาน O | คณะกรรมการหรือการตรวจสอบ commitที, รายไตรมาส |
แถวที่มักไม่มีการกำหนดหน้าที่ในองค์กรส่วนใหญ่คือแถวที่สอง ไฟล์การกำหนดค่าจะอยู่ระหว่างฝ่ายรักษาความปลอดภัยของแอปพลิเคชัน ซึ่งถือว่าไฟล์เหล่านี้เป็นโครงสร้างพื้นฐาน และฝ่ายวิศวกรรมแพลตฟอร์ม ซึ่งถือว่าไฟล์เหล่านี้เป็นเอกสาร ช่องว่างตรงนี้เองที่เป็นจุดเริ่มต้นของการโจมตีที่น่าสนใจ
คุณจะเริ่มต้นวัดความเสี่ยงด้าน AI ในไตรมาสนี้อย่างไร?
อย่าสร้างโปรแกรมทั้งหมด จงสร้างตัวเลขสามอย่าง นับจำนวนสินทรัพย์ AI ของคุณ นับจำนวนสินทรัพย์ที่ไม่มีใครอนุมัติ นับจำนวนความลับที่ซ่อนอยู่ในไฟล์การกำหนดค่า AI ตัวเลขทั้งสามนี้สามารถใส่ลงในสไลด์เดียวได้ ทั้งหมดนี้สามารถพิสูจน์ได้ และผลลัพธ์จะแย่กว่าที่ผู้ขอคาดคิดไว้
จากนั้นเลือกอันที่แย่ที่สุดและแก้ไขให้เสร็จก่อนการประชุมคณะกรรมการครั้งต่อไป นั่นคือโปรแกรมบริหารความเสี่ยงด้วย AI ที่ใช้งานได้จริง ส่วนที่เหลือเป็นเพียงการขยายความเท่านั้น
องค์กรที่จะประสบปัญหาเรื่องความเสี่ยงจาก AI ในปี 2027 ไม่ใช่องค์กรที่ดำเนินการอย่างรวดเร็ว แต่เป็นองค์กรที่ใช้เวลาในปี 2026 ในการเขียนนโยบาย AI และไม่เคยวัดผลอะไรเลย นโยบายที่ไม่มีใครสามารถวัดผลได้นั้นเป็นเพียงเอกสาร การวัดผลความเสี่ยงจาก AI ต่างหากที่จะทำให้มันกลายเป็นเครื่องมือควบคุม
ดูตัวเลขของคุณเอง เชื่อมต่อแหล่งเก็บข้อมูล แล้ว Xygeni จะส่งคืนรายการสินค้าคงคลัง AI ของคุณ สินทรัพย์ที่ไม่ได้รับการอนุมัติ ความเสี่ยงที่เชื่อมโยงกับกรอบการทำงานที่ผู้ตรวจสอบบัญชีของคุณใช้ และ AI-BOM ที่คุณสามารถส่งออกได้ เริ่มฟรี or จองการสาธิต.
คำถามที่พบบ่อย
ความเสี่ยงของ AI และความปลอดภัยของ AI แตกต่างกันอย่างไร?
ความปลอดภัยของ AI ส่วนใหญ่เกี่ยวข้องกับสิ่งที่โมเดลทำ: ว่ามันทำงานตามที่ตั้งใจไว้หรือไม่ ผลลัพธ์ที่ได้เป็นอันตรายหรือไม่ และมันสามารถถูกดัดแปลงให้ทำในสิ่งที่มันควรปฏิเสธได้หรือไม่ ส่วนความเสี่ยงของ AI ในบริบทด้านความปลอดภัยนั้น เกี่ยวข้องกับสิ่งที่ระบบ AI ที่ถูกบุกรุกหรือทำงานผิดปกติสามารถทำได้ภายในสภาพแวดล้อมของคุณ ทั้งสองส่วนนี้มีความเกี่ยวข้องกัน แต่เป็นความรับผิดชอบของทีมที่แตกต่างกันและวัดผลด้วยเครื่องมือที่แตกต่างกัน ปัจจุบันทีมรักษาความปลอดภัยสามารถดำเนินการในส่วนที่สองได้แล้ว
เราควรรายงานตัวชี้วัดความเสี่ยงด้าน AI กี่ตัวต่อคณะกรรมการบริหาร?
สามถึงห้าตัว คณะกรรมการไม่สามารถดำเนินการใดๆ ได้จากตัวเลขเก้าตัว และเอกสารที่มีตัวเลขเก้าตัวมักจะซ่อนตัวเลขที่สำคัญที่สุดไว้ รายงานจำนวนสินทรัพย์ AI ทั้งหมดของคุณ เปอร์เซ็นต์ที่ไม่ได้รับการอนุมัติ และตัวชี้วัดความเสี่ยงหนึ่งตัว เช่น ผลการค้นพบ AI ที่สามารถเข้าถึงได้ซึ่งอยู่ระหว่างการพัฒนา เก็บข้อมูลส่วนที่เหลือไว้สำหรับการตรวจสอบการดำเนินงาน
เราจำเป็นต้องมี AI-BOM หรือไม่ ในเมื่อยังไม่มีกฎระเบียบใดกำหนดให้ต้องมี?
ปัจจุบันยังไม่มีกฎระเบียบใดบังคับให้ต้องจัดทำ AI-BOM ซึ่งเป็นเหตุผลว่าทำไมการจัดทำเอกสารนี้จึงมีราคาถูกในตอนนี้ แต่จะแพงขึ้นในอนาคต ปัจจุบันมีรูปแบบที่เครื่องอ่านได้สองรูปแบบ และผู้ตรวจสอบจะยอมรับได้ทั้งสองแบบ คุณค่าของเอกสารนี้ไม่ได้อยู่ที่การปฏิบัติตามกฎระเบียบ แต่เป็นการบังคับให้คุณต้องมีรายการวัสดุ และรายการวัสดุนี้เองที่เป็นสิ่งที่ตัวชี้วัดความเสี่ยงด้าน AI ทุกตัวต้องพึ่งพา
นักพัฒนาของเราใช้เครื่องมือ AI ที่เราไม่เคยอนุมัติ เราควรเริ่มต้นจากตรงไหนดี?
นับจำนวนก่อนออกกฎควบคุม การประกาศนโยบายต่อต้านเครื่องมือที่คุณมองไม่เห็นจะทำให้การใช้งานซ่อนเร้นและทำลายความโปร่งใสที่คุณต้องการ ดำเนินการสำรวจก่อน เผยแพร่จำนวนภายในโดยไม่ระบุแหล่งที่มา และใช้จำนวนนั้นเพื่อตกลงรายชื่อเครื่องมือที่ได้รับอนุมัติซึ่งสะท้อนถึงสิ่งที่ผู้คนต้องการจริงๆ การบังคับใช้จะได้ผลดีกว่าเมื่อเกิดขึ้นหลังจากมีหลักฐาน มากกว่าเมื่อเกิดขึ้นก่อนมีหลักฐาน







