ขับเคลื่อนด้วย AI SDLCs มาถึงแล้ว

ขับเคลื่อนด้วย AI SDLCสิ่งต่างๆ มาถึงแล้ว แล้วจะทำอย่างไรต่อไป?

ขับเคลื่อนด้วย AI SDLCAI มาถึงแล้ว AI ไม่ได้กำลังมาถึงอีกต่อไปแล้ว แต่มันมาถึงแล้ว มันเขียนโค้ดใน IDE ของเรา มันเลือกใช้ไลบรารี มันเปิด... pull requestsมันดำเนินขั้นตอนต่างๆ ในระบบของเรา pipelineคำถามจึงไม่ใช่ว่านักพัฒนาจะใช้ AI หรือไม่ แต่คำถามคือองค์กรจะรักษาความโปร่งใส การควบคุม และความไว้วางใจได้อย่างไรในขณะที่ใช้ AI

การพัฒนาซอฟต์แวร์สมัยใหม่ได้ก้าวเข้าสู่ยุคปัญญาประดิษฐ์แล้ว

ในองค์กรด้านวิศวกรรมต่างๆ นักพัฒนาซอฟต์แวร์กำลังใช้ผู้ช่วยร่วมในการทำงาน (copilots) ผู้ช่วยเขียนโค้ด IDE ที่ขับเคลื่อนด้วย AI เอเจนต์ภายใน เครื่องมือที่เชื่อมต่อกับ MCP และเวิร์กโฟลว์อัตโนมัติที่เพิ่มมากขึ้นเรื่อยๆ เป็นส่วนหนึ่งของการดำเนินงานพัฒนาซอฟต์แวร์ในแต่ละวัน สิ่งที่เริ่มต้นจากการทดลองได้กลายเป็นส่วนหนึ่งของวงจรการพัฒนาซอฟต์แวร์อย่างรวดเร็ว นั่นคือหัวข้อหลักของการบรรยาย SafeDev Talk ครั้งล่าสุดที่จัดโดย Xygeni: “ขับเคลื่อนด้วย AI SDLCสิ่งต่างๆ มาถึงแล้ว แล้วจะทำอย่างไรต่อไป?"

การประชุมครั้งนี้ได้รวบรวมผู้คนจากหลากหลายกลุ่ม แซม สเตปานยานสมาชิกคณะกรรมการระดับโลกของ OWASP และผู้นำสาขา OWASP ลอนดอน; อัชวินี สิทธิสมาชิกคณะกรรมการระดับโลกของ OWASP และผู้นำด้านความปลอดภัยทางไซเบอร์ที่มุ่งเน้นสภาพแวดล้อมที่ขับเคลื่อนด้วย AI; และ เฆซุส กัวดราโดซีอีโอของ Xygeni ดำเนินรายการโดย Luis Rodriguezเจ้าหน้าที่วิจัย บริษัท Xygeni

และสิ่งที่ปรากฏชัดเจนตลอดการสนทนาคือข้อความที่ชัดเจน: การพูดคุยเรื่องความปลอดภัยของแอปพลิเคชัน (AppSec) ได้เปลี่ยนแปลงไปอย่างสิ้นเชิงแล้ว ทีมรักษาความปลอดภัยไม่ได้เตรียมพร้อมสำหรับการนำ AI มาใช้ในการพัฒนาซอฟต์แวร์อีกต่อไป แต่พวกเขากำลังจัดการกับ AI อยู่แล้ว

ประเด็นสำคัญสำหรับระบบที่ขับเคลื่อนด้วย AI SDLCs

  • ปัญญาประดิษฐ์ (AI) ได้ถูกผสานรวมเข้ากับเทคโนโลยีสมัยใหม่แล้ว SDLCผ่านทางผู้ช่วยนักบิน ผู้ช่วยในการเขียนโค้ด ตัวแทนอัตโนมัติ และเครื่องมือพัฒนาที่ขับเคลื่อนด้วย AI
  • โมเดล AppSec แบบดั้งเดิมไม่ได้ออกแบบมาสำหรับโค้ดที่สร้างโดย AI, การพึ่งพาที่มองไม่เห็น, เวิร์กโฟลว์อัตโนมัติ หรือการพัฒนาด้วยความเร็วของเครื่องจักร
  • ปัญญาประดิษฐ์เงา (Shadow AI) กำลังกลายเป็นความท้าทายสำคัญด้านการมองเห็นและการกำกับดูแลสำหรับ CISทีมระบบปฏิบัติการและทีมรักษาความปลอดภัยแอปพลิเคชัน
  • การพัฒนาโดยใช้ AI ช่วยเหลือทำให้เกิดช่องโหว่การโจมตีใหม่ๆ รวมถึงการแทรกโค้ดโดยทันที การพึ่งพาโค้ดที่เป็นอันตราย การใช้ MCP ในทางที่ผิด และเวิร์กโฟลว์ของเอเจนต์
  • องค์กรต่างๆ จำเป็นต้องมีรูปแบบการกำกับดูแลที่คำนึงถึง AI ซึ่งสร้างขึ้นบนพื้นฐานของความโปร่งใส การระบุแหล่งที่มา สิทธิ์ขั้นต่ำ และการตรวจสอบอย่างต่อเนื่อง
  • อุตสาหกรรมกำลังก้าวไปสู่ระบบตัวแทนอย่างรวดเร็ว SDLCซึ่งเป็นที่ที่ระบบ AI ดำเนินการพัฒนาอย่างจริงจัง

รับชมการบรรยาย SafeDev Talk ฉบับเต็ม: ขับเคลื่อนด้วย AI SDLCs มาถึงแล้ว

ด้านล่างนี้คือประเด็นสำคัญบางส่วนที่ได้หารือกันในระหว่างการประชุม รวมถึงวิธีที่ AI กำลังเปลี่ยนแปลงรูปแบบภัยคุกคามด้านความปลอดภัยของแอปพลิเคชัน และเหตุผลเบื้องหลัง CISระบบปฏิบัติการกำลังสูญเสียความสามารถในการมองเห็นภาพรวมของสภาพแวดล้อมการพัฒนา และการควบคุมเชิงปฏิบัติใดที่องค์กรควรให้ความสำคัญเป็นอันดับแรก 

เหตุใดจึงต้องขับเคลื่อนด้วย AI SDLC เรื่องความปลอดภัยเป็นสิ่งสำคัญในขณะนี้

การนำ AI มาใช้ในกระบวนการพัฒนาซอฟต์แวร์กำลังเติบโตอย่างรวดเร็วเกินกว่าที่โปรแกรมการกำกับดูแลส่วนใหญ่จะปรับตัวได้ทัน เมื่อองค์กรต่างๆ เปลี่ยนจากผู้ช่วยนักบินไปสู่ตัวแทนอิสระที่มากขึ้นเรื่อยๆ SDLC ระบบกำลังขับเคลื่อนด้วยเครื่องจักรมากขึ้น มีพลวัตมากขึ้น และยากต่อการตรวจสอบโดยใช้แนวทางการรักษาความปลอดภัยแอปพลิเคชันแบบดั้งเดิม

มากมาย CISสำหรับผู้นำด้านระบบปฏิบัติการและ AppSec แล้ว ความท้าทายไม่ได้อยู่ที่ว่า AI จะเข้ามาอยู่ในสภาพแวดล้อมการพัฒนาหรือไม่ แต่ความท้าทายอยู่ที่ว่าจะรักษาความสามารถในการมองเห็น การระบุแหล่งที่มา และการควบคุมการดำเนินงานได้อย่างไร เมื่อ AI เข้ามาแล้ว

การเปลี่ยนแปลงดังกล่าวได้บังคับให้องค์กรต่างๆ ต้องคิดทบทวนใหม่แล้ว software supply chain securityรูปแบบการกำกับดูแล ความสามารถในการมองเห็นของนักพัฒนา และบทบาทของความไว้วางใจภายในสภาพแวดล้อมการพัฒนาซอฟต์แวร์สมัยใหม่

การนำ AI มาใช้กำลังก้าวหน้าเร็วกว่าการกำกับดูแลด้านความปลอดภัย

หนึ่งในประเด็นสำคัญที่สุดตลอดการสนทนาคือเรื่องความเร็ว ดังที่หลุยส์ โรดริเกซได้อธิบายไว้ในช่วงเปิดงาน ปัญญาประดิษฐ์ (AI) ไม่ได้จำกัดอยู่แค่การทดลองหรือเครื่องมือเพิ่มประสิทธิภาพการทำงานอีกต่อไปแล้ว แต่ได้เข้ามามีส่วนร่วมโดยตรงในกระบวนการทำงานด้านการพัฒนาแล้ว เช่น การเขียนโค้ด การเลือกไลบรารี และการโต้ตอบกับระบบ pipelineและมีการดำเนินงานครอบคลุมโครงสร้างพื้นฐานซอฟต์แวร์มากขึ้นเรื่อยๆ

สิ่งที่ทำให้ผู้ร่วมอภิปรายประหลาดใจมากที่สุดไม่ใช่การนำ AI มาใช้ แต่เป็นการที่ AI แพร่หลายไปมากแล้ว โดยมักเกิดขึ้นโดยไม่มีการกำกับดูแลหรือการเปิดเผยอย่างเป็นทางการ แซม สเตปานยาน อธิบายถึงความไม่สอดคล้องกันที่เพิ่มมากขึ้นระหว่างนโยบายความปลอดภัยอย่างเป็นทางการกับสิ่งที่เกิดขึ้นจริงภายในทีมวิศวกรรม โดยเฉพาะอย่างยิ่งในอุตสาหกรรมที่มีการควบคุมอย่างเข้มงวด บางองค์กรยังคงอ้างว่าพวกเขา "ไม่ได้ใช้ AI" ในขณะที่นักพัฒนาได้บูรณาการผู้ช่วย ผู้ช่วยเสมือน และเครื่องมือ AI เข้ากับขั้นตอนการทำงานประจำวันของพวกเขาแล้ว

ในขณะเดียวกัน เขายังชี้ให้เห็นถึงความเป็นจริงที่หลายองค์กรยังคงดิ้นรนที่จะยอมรับ นั่นคือ แม้แต่บริษัทที่พยายามหลีกเลี่ยงการนำ AI มาใช้ ก็ยังคงเผชิญกับศัตรูที่ใช้ AI อย่างแข็งขันอยู่แล้ว ความตึงเครียดดังกล่าวได้ก่อให้เกิดสิ่งที่ผู้นำด้านความปลอดภัยหลายคนเรียกว่า "ปัญญาประดิษฐ์แฝง" (Shadow AI) ภายในสภาพแวดล้อมการพัฒนาซอฟต์แวร์ ซึ่งหมายถึงระบบ AI ที่ทำงานอยู่นอกเหนือแบบจำลองการกำกับดูแลที่กำหนดไว้

อัชวินี สิดธี ได้เสริมมุมมองที่สำคัญอีกประการหนึ่ง สิ่งที่เธอเป็นกังวลไม่ใช่แค่ความเร็วในการนำไปใช้เท่านั้น แต่ยังรวมถึงการขาดสุขอนามัยในการดำเนินงานที่เกี่ยวข้องกับโค้ดที่สร้างโดย AI ด้วย ในระหว่างการสนทนา เธอเน้นย้ำว่าองค์กรต่างๆ มักไม่มีหลักฐานที่น่าเชื่อถือว่า AI มีส่วนร่วมที่ใด ทำไมจึงสร้างโค้ดเฉพาะเหล่านั้น หรือโค้ดเหล่านั้นถูกนำไปใช้อย่างไรcisควรมีการตรวจสอบและยืนยันความถูกต้องของไอออนในภายหลัง นัยสำคัญก็คือ ทีมพัฒนาได้นำผู้มีส่วนร่วมที่ไม่ใช่มนุษย์เข้ามาในกระบวนการทำงานแล้ว SDLCแต่แบบจำลองการกำกับดูแลและการตรวจสอบส่วนใหญ่ยังคงสันนิษฐานว่าผู้เขียนเป็นมนุษย์แต่เพียงอย่างเดียว

AI ไม่เพียงแต่เร่งการพัฒนาเท่านั้น แต่ยังเปลี่ยนวิธีการที่ความเสี่ยงเข้ามาเกี่ยวข้องด้วย SDLC

เมื่อ AI ถูกนำมาใช้ในกระบวนการพัฒนาซอฟต์แวร์มากขึ้น พื้นที่การโจมตีก็ขยายวงกว้างออกไปไกลเกินกว่าสมมติฐานด้านความปลอดภัยของแอปพลิเคชันแบบดั้งเดิม คณะผู้เชี่ยวชาญได้เน้นย้ำถึงประเด็นสำคัญประเด็นหนึ่งซ้ำแล้วซ้ำเล่า นั่นคือ โปรแกรมรักษาความปลอดภัยส่วนใหญ่ถูกสร้างขึ้นโดยอิงจากความเสี่ยงที่ทราบกันดีอยู่แล้วซึ่งดำเนินการด้วยความเร็วของมนุษย์ AI เปลี่ยนแปลงทั้งสองเงื่อนไขนี้ไปพร้อมๆ กัน

ทีมรักษาความปลอดภัยไม่ได้ตรวจสอบเฉพาะโค้ดที่เขียนโดยมนุษย์อีกต่อไปแล้ว พวกเขากำลังรับมือกับความสัมพันธ์ที่สร้างขึ้นโดย AI ความเสี่ยงจากการโจมตีแบบ Prompt Injection เวิร์กโฟลว์อัตโนมัติ เครื่องมือที่เชื่อมต่อกับ MCP ปลั๊กอิน AI และความเร็วในการประมวลผลของเครื่องจักรมากขึ้นเรื่อยๆ CI/CD การดำเนินการ

อัชวินี สิดธี อธิบายว่า หนึ่งในแนวคิดแรกๆ ที่เริ่มพังทลายลงคือขอบเขตความไว้วางใจแบบดั้งเดิมนั่นเอง ระบบ AI ได้รับการฝึกฝนด้วยโค้ดสาธารณะจำนวนมหาศาล ซึ่งส่วนใหญ่ไม่ปลอดภัย ล้าสมัย หรือไม่สามารถตรวจสอบได้อย่างครบถ้วน ส่งผลให้องค์กรสูญเสียความสามารถในการกำหนดได้อย่างชัดเจนว่าอะไรอยู่ภายในหรือภายนอกขอบเขตความไว้วางใจ

เธอยังเน้นย้ำว่า AI เปลี่ยนแปลงลักษณะของการสร้างแบบจำลองภัยคุกคามอย่างสิ้นเชิง เพราะระบบเหล่านี้ไม่ได้หยุดนิ่ง การตรวจสอบความปลอดภัยแบบดั้งเดิม ณ จุดเวลาใดเวลาหนึ่งจึงไม่สามารถใช้ได้อีกต่อไปในสภาพแวดล้อมที่ระบบ AI พัฒนา ปรับตัว และเพิ่มประสิทธิภาพพฤติกรรมอย่างต่อเนื่องและไดนามิก

เฆซุส กัวดราโด เข้าถึงปัญหาจากมุมมองของห่วงโซ่อุปทานซอฟต์แวร์ หนึ่งในตัวอย่างที่ชัดเจนที่สุดที่กล่าวถึงในระหว่างการประชุมคือ การแนะนำการพึ่งพาซอฟต์แวร์โดย AI นักพัฒนาซอฟต์แวร์ยอมรับคำแนะนำแพ็กเกจที่สร้างโดย AI โดยอัตโนมัติมากขึ้นเรื่อย ๆ โดยมักจะมีการตรวจสอบความถูกต้องเพียงเล็กน้อยหรือไม่เลย ซึ่งนั่นสร้างช่องทางการโจมตีแบบใหม่ทั้งหมด

ดังที่ได้กล่าวไว้ในระหว่างการอภิปราย ผู้โจมตีสามารถระบุชื่อแพ็กเกจปลอมที่สร้างขึ้นโดยแบบจำลองภาษาขนาดใหญ่ ลงทะเบียนแพ็กเกจเหล่านั้นในที่เก็บสาธารณะ และรอให้นักพัฒนาหรือตัวแทน AI ติดตั้งโดยอัตโนมัติ

สิ่งนี้เปลี่ยนแปลงสมมติฐานดั้งเดิมไปอย่างสิ้นเชิง SCA ทีมรักษาความปลอดภัยไม่ได้จัดการเฉพาะกับช่องโหว่ที่รู้จักอีกต่อไปแล้ว แต่กำลังจัดการกับช่องโหว่ที่อาจปรากฏขึ้นเมื่อไม่กี่นาทีที่ผ่านมา และมีพฤติกรรมที่เป็นอันตรายซึ่งออกแบบมาโดยเฉพาะสำหรับเวิร์กโฟลว์ที่ใช้ AI มากขึ้นเรื่อยๆ

การสนทนายังได้สำรวจถึงวิธีการที่การโจมตีเริ่มมุ่งเป้าไปที่พื้นผิวใหม่ทั้งหมดภายในสภาพแวดล้อมการพัฒนา การแทรกข้อความแจ้งเตือนภายในความคิดเห็น ไฟล์คำสั่งที่เป็นพิษสำหรับเอเจนต์ การโต้ตอบ MCP ที่เป็นอันตราย และเวิร์กโฟลว์ AI ที่ถูกดัดแปลง ล้วนกลายเป็นช่องทางการโจมตีที่เป็นไปได้มากขึ้น ผลลัพธ์ที่ได้คือแบบจำลองภัยคุกคามที่กว้างขวาง รวดเร็ว และมีความเปลี่ยนแปลงได้มากกว่าที่โปรแกรมรักษาความปลอดภัยแอปพลิเคชันแบบดั้งเดิมได้รับการออกแบบมาแต่แรก

CISระบบปฏิบัติการกำลังสูญเสียการมองเห็นไปทั่ว SDLC

ประเด็นเรื่องความโปร่งใสกลายเป็นหัวข้อสำคัญหัวข้อหนึ่งตลอดการอภิปราย ดังที่หลุยส์ โรดริเกซ สรุปไว้ในระหว่างการประชุม ผู้นำด้านความปลอดภัยหลายคนไม่ทราบว่านักพัฒนาซอฟต์แวร์ของตนใช้เครื่องมือ AI อะไรบ้าง โค้ดที่สร้างโดย AI ใดบ้างที่เข้าสู่คลังเก็บโค้ด หรือเอเจนต์ใดบ้างที่กำลังโต้ตอบกับระบบ pipelineและโครงสร้างพื้นฐาน

คณะผู้เชี่ยวชาญได้อธิบายเรื่องนี้ว่าเป็นวิวัฒนาการของ Shadow IT ไปสู่ ​​Shadow AI แต่แตกต่างจากเครื่องมือที่ไม่ได้รับการอนุมัติในรุ่นก่อนๆ ระบบเหล่านี้มีส่วนร่วมอย่างแข็งขันในการพัฒนาcisไอออน ทำหน้าที่สร้างโค้ด เลือกส่วนประกอบที่จำเป็น โต้ตอบกับโครงสร้างพื้นฐาน และมีบทบาทมากขึ้นในการตัดสินใจด้านการดำเนินงานในนามของนักพัฒนา

แซม สเตปานยาน ชี้ให้เห็นถึงความท้าทายที่สำคัญอีกประการหนึ่ง นั่นคือ การระบุแหล่งที่มา เมื่อโค้ดที่สร้างโดย AI แพร่หลายมากขึ้น องค์กรต่างๆ ก็สูญเสียความสามารถในการระบุได้อย่างชัดเจนว่าใคร (หรืออะไร) เป็นผู้สร้างการกระทำเฉพาะนั้นๆ

การสูญเสียความสามารถในการตรวจสอบย้อนกลับนั้นก่อให้เกิดปัญหาทั้งในด้านการกำกับดูแลและการดำเนินงาน หากทีมงานไม่สามารถแยกแยะความแตกต่างระหว่างพฤติกรรมของมนุษย์และพฤติกรรมที่สร้างขึ้นโดย AI ได้อย่างน่าเชื่อถือ การตอบสนองต่อเหตุการณ์ การตรวจสอบ และการทบทวนด้านความปลอดภัยก็จะซับซ้อนขึ้นอย่างมาก

การสนทนายังได้กล่าวถึงแนวโน้มที่เพิ่มขึ้นของการไว้วางใจผลลัพธ์ที่สร้างโดย AI มากเกินไป นักพัฒนาซอฟต์แวร์มักคิดว่าเนื่องจากโค้ดที่สร้างโดย AI ดูมั่นใจและใช้งานได้ จึงต้องปลอดภัยด้วย แต่ดังที่แซมชี้ให้เห็น ระบบเหล่านี้มักได้รับการฝึกฝนจากตัวอย่างสาธารณะที่ไม่ปลอดภัย และสามารถสร้างผลลัพธ์ที่เปราะบางหรือหลอกลวงได้อย่างสมบูรณ์ด้วยความมั่นใจสูง สิ่งนี้ก่อให้เกิดสถานการณ์ที่อันตราย: การมองเห็นที่จำกัด การระบุแหล่งที่มาที่ลดลง และความไว้วางใจที่เพิ่มขึ้นในระบบที่องค์กรยังไม่เข้าใจอย่างถ่องแท้

อุตสาหกรรมกำลังค่อยๆ เคลื่อนตัวไปสู่ระบบตัวแทน SDLCs

ประเด็นสำคัญส่วนหนึ่งในการอภิปรายมุ่งเน้นไปที่การเปลี่ยนผ่านจากนักบินผู้ช่วยไปสู่ตัวแทนอัตโนมัติ ผู้ร่วมอภิปรายเห็นพ้องต้องกันว่าอุตสาหกรรมกำลังก้าวไปสู่สิ่งที่สามารถอธิบายได้มากขึ้นเรื่อยๆ ว่าเป็นระบบตัวแทนอัตโนมัติ SDLCในสภาพแวดล้อมที่ระบบ AI ไม่ได้เพียงแค่แนะนำโค้ด แต่ลงมือทำอย่างแข็งขันตลอดวงจรชีวิตของซอฟต์แวร์

ระบบ AI เริ่มเปิดกว้างมากขึ้น pull requestsAI สามารถดำเนินการทดสอบ เรียกใช้เครื่องมือภายนอก ปรับเปลี่ยนโครงสร้างพื้นฐาน โต้ตอบกับ API และทำงานได้อย่างอิสระในสภาพแวดล้อมการพัฒนาต่างๆ กล่าวอีกนัยหนึ่ง AI กำลังเปลี่ยนจากผู้ช่วยไปเป็นผู้ควบคุม

การเปลี่ยนแปลงดังกล่าวเปลี่ยนรูปแบบการรักษาความปลอดภัยไปอย่างสิ้นเชิง ดังที่ได้กล่าวไปแล้ว องค์กรต่างๆ อาจจำเป็นต้องมีแนวทางการกำกับดูแลแบบใหม่ทั้งหมดที่เน้นเรื่องการระบุตัวตนสำหรับตัวแทน AI การเข้าถึงที่มีสิทธิ์น้อยที่สุด การตรวจสอบได้ การกำกับดูแลโดยมนุษย์ การกระทำที่ลงนาม และการมองเห็นพฤติกรรมของ AI อย่างต่อเนื่อง

ตัวอย่างที่โดดเด่นเป็นพิเศษอย่างหนึ่งที่กล่าวถึงในระหว่างการประชุม คือ ระบบ AI พยายามปิดใช้งานการป้องกันความปลอดภัยของอุปกรณ์ปลายทางบนเวิร์กสเตชันของนักพัฒนา เพื่อให้บรรลุเป้าหมายที่ได้รับมอบหมาย

ตัวอย่างดังกล่าวแสดงให้เห็นถึงความเป็นจริงที่สำคัญเกี่ยวกับสภาพแวดล้อมที่ขับเคลื่อนด้วย AI นั่นคือ ระบบเหล่านี้จะปรับให้เหมาะสมกับเป้าหมาย ไม่ใช่ขอบเขตด้านความปลอดภัยเสมอไป ระบบรักษาความปลอดภัยแอปพลิเคชันแบบดั้งเดิมถูกสร้างขึ้นโดยเน้นการตรวจสอบความผิดพลาดของมนุษย์ แต่ระบบรักษาความปลอดภัยแอปพลิเคชันยุคใหม่จะต้องควบคุมพฤติกรรมอัตโนมัติมากขึ้นเรื่อยๆ

เหตุใดการรักษาความปลอดภัยแอปพลิเคชันที่คำนึงถึง AI จึงต้องใช้แนวทาง Zero Trust

ประเด็นต่างๆ มากมายที่กล่าวถึงในงาน SafeDev Talk สอดคล้องอย่างใกล้ชิดกับการเปลี่ยนแปลงในวงกว้างไปสู่สิ่งใด ไซเกนี นิยามของ Zero Trust สำหรับยุค AI SDLCอย่าไว้ใจสิ่งใด ตรวจสอบทุกสิ่ง รวมถึงตัว AI เองด้วย ตามที่ได้อธิบายไว้ในแนวทางการพัฒนาแพลตฟอร์มของ Xygeni นั้น AI จะขยายขอบเขตการโจมตีไปยังหลายชั้นพร้อมกัน:

  • รหัสจากผู้พัฒนาหลัก
  • การพึ่งพา
  • CI/CD pipelines,
  • โมเดลและเอเจนต์ AI
  • และสภาพแวดล้อมการพัฒนาซอฟต์แวร์

พื้นที่เหล่านี้จำนวนมากยังคงมองไม่เห็นได้ด้วยเครื่องมือรักษาความปลอดภัยแอปพลิเคชันแบบดั้งเดิม ความท้าทายไม่ได้อยู่ที่การสแกนโค้ดเพื่อหาช่องโหว่เพียงอย่างเดียวอีกต่อไปแล้ว องค์กรต่างๆ จำเป็นต้องมองเห็นภาพรวมของความสัมพันธ์ที่เกิดจาก AI กิจกรรมของ AI ภายในสภาพแวดล้อมการพัฒนา พฤติกรรมของเอเจนต์ โครงสร้างพื้นฐานที่เชื่อมต่อกับ AI และปฏิสัมพันธ์ในห่วงโซ่อุปทานซอฟต์แวร์ที่เกิดขึ้นด้วยความเร็วของเครื่องจักรมากขึ้นเรื่อยๆ

นั่นจึงเป็นเหตุผลว่าทำไมจึงมีแนวคิดต่างๆ เช่น สินค้าคงคลัง AI และระบบที่รับรู้ AI ASPMAI-SPM และการกำกับดูแลสภาพแวดล้อมการพัฒนาซอฟต์แวร์ กำลังกลายเป็นประเด็นสำคัญในการพูดคุยเรื่องความปลอดภัยของแอปพลิเคชันในยุคปัจจุบันอย่างรวดเร็ว

การขอ SDLC มีการเปลี่ยนแปลงแล้ว

การบรรยาย SafeDev Talk ทำให้เห็นชัดเจนอย่างหนึ่ง: AI ได้ถูกฝังอยู่ภายในแล้ว SDLC. ปัจจุบันวงการวิศวกรรมไม่ได้ถกเถียงกันอีกต่อไปแล้วว่าการพัฒนาโดยใช้ AI จะเกิดขึ้นหรือไม่ การเปลี่ยนแปลงดังกล่าวได้เริ่มขึ้นแล้วในองค์กรด้านวิศวกรรมทุกขนาด

ความท้าทายที่แท้จริงในขณะนี้คือการรักษาความโปร่งใส การกำกับดูแล การระบุแหล่งที่มา และการควบคุมการดำเนินงานในสภาพแวดล้อมการพัฒนาที่มีความเป็นอิสระมากขึ้นเรื่อยๆ

เมื่อการนำ AI มาใช้แพร่หลายมากขึ้น สมมติฐานด้านความปลอดภัยของแอปพลิเคชันแบบดั้งเดิมเกี่ยวกับขอบเขตความไว้วางใจ ผู้เขียนที่เป็นมนุษย์ ที่มาของซอฟต์แวร์ และรูปแบบการกำกับดูแลแบบคงที่ จะเริ่มพังทลายลงเรื่อยๆ

องค์กรที่ปรับตัวได้เร็วที่สุดจะไม่ใช่องค์กรที่ทำให้การนำ AI มาใช้ช้าลงเสมอไป แต่จะเป็นองค์กรที่สามารถเข้าใจ ควบคุม และรักษาความปลอดภัยของการพัฒนาซอฟต์แวร์ที่ขับเคลื่อนด้วย AI ได้ในความเร็วที่การพัฒนาเหล่านั้นกำลังดำเนินไป

ร่วมพูดคุยต่อได้ที่งาน OWASP Global AppSec EU Vienna

การสนทนาเกี่ยวกับปัญญาประดิษฐ์ (AI) SDLC ความปลอดภัยเพิ่งเริ่มต้นเท่านั้น Xygeni จะยังคงสำรวจหัวข้อเหล่านี้ต่อไปในงาน OWASP Global AppSec EU ที่เวียนนา ซึ่งทีมงานจะหารือเกี่ยวกับ AppSec ที่คำนึงถึง AI software supply chain securityการกำกับดูแล AI และความเสี่ยงที่เกิดขึ้นใหม่ของสภาพแวดล้อมการพัฒนาแบบเอเจนต์

หากคุณกำลังเข้าร่วม OWASP Global AppSec EUเชิญมาพบกับทีมงาน Xygeni ได้ที่บูธ G-08 ในกรุงเวียนนา!

sca-tools-software-composition-analysis-tools
จัดลำดับความสำคัญ แก้ไข และรักษาความปลอดภัยความเสี่ยงด้านซอฟต์แวร์ของคุณ
สมัครบัญชีฟรีได้เลย
ไม่ต้องใช้บัตรเครดิต

รักษาความปลอดภัยในการพัฒนาและส่งมอบซอฟต์แวร์ของคุณ

ด้วยชุดผลิตภัณฑ์ Xygeni