ขับเคลื่อนด้วย AI SDLCAI มาถึงแล้ว AI ไม่ได้กำลังมาถึงอีกต่อไปแล้ว แต่มันมาถึงแล้ว มันเขียนโค้ดใน IDE ของเรา มันเลือกใช้ไลบรารี มันเปิด... pull requestsมันดำเนินขั้นตอนต่างๆ ในระบบของเรา pipelineคำถามจึงไม่ใช่ว่านักพัฒนาจะใช้ AI หรือไม่ แต่คำถามคือองค์กรจะรักษาความโปร่งใส การควบคุม และความไว้วางใจได้อย่างไรในขณะที่ใช้ AI
การพัฒนาซอฟต์แวร์สมัยใหม่ได้ก้าวเข้าสู่ยุคปัญญาประดิษฐ์แล้ว
ในองค์กรด้านวิศวกรรมต่างๆ นักพัฒนาซอฟต์แวร์กำลังใช้ผู้ช่วยร่วมในการทำงาน (copilots) ผู้ช่วยเขียนโค้ด IDE ที่ขับเคลื่อนด้วย AI เอเจนต์ภายใน เครื่องมือที่เชื่อมต่อกับ MCP และเวิร์กโฟลว์อัตโนมัติที่เพิ่มมากขึ้นเรื่อยๆ เป็นส่วนหนึ่งของการดำเนินงานพัฒนาซอฟต์แวร์ในแต่ละวัน สิ่งที่เริ่มต้นจากการทดลองได้กลายเป็นส่วนหนึ่งของวงจรการพัฒนาซอฟต์แวร์อย่างรวดเร็ว นั่นคือหัวข้อหลักของการบรรยาย SafeDev Talk ครั้งล่าสุดที่จัดโดย Xygeni: “ขับเคลื่อนด้วย AI SDLCสิ่งต่างๆ มาถึงแล้ว แล้วจะทำอย่างไรต่อไป?"
การประชุมครั้งนี้ได้รวบรวมผู้คนจากหลากหลายกลุ่ม แซม สเตปานยานสมาชิกคณะกรรมการระดับโลกของ OWASP และผู้นำสาขา OWASP ลอนดอน; อัชวินี สิทธิสมาชิกคณะกรรมการระดับโลกของ OWASP และผู้นำด้านความปลอดภัยทางไซเบอร์ที่มุ่งเน้นสภาพแวดล้อมที่ขับเคลื่อนด้วย AI; และ เฆซุส กัวดราโดซีอีโอของ Xygeni ดำเนินรายการโดย Luis Rodriguezเจ้าหน้าที่วิจัย บริษัท Xygeni
และสิ่งที่ปรากฏชัดเจนตลอดการสนทนาคือข้อความที่ชัดเจน: การพูดคุยเรื่องความปลอดภัยของแอปพลิเคชัน (AppSec) ได้เปลี่ยนแปลงไปอย่างสิ้นเชิงแล้ว ทีมรักษาความปลอดภัยไม่ได้เตรียมพร้อมสำหรับการนำ AI มาใช้ในการพัฒนาซอฟต์แวร์อีกต่อไป แต่พวกเขากำลังจัดการกับ AI อยู่แล้ว
ประเด็นสำคัญสำหรับระบบที่ขับเคลื่อนด้วย AI SDLCs
- ปัญญาประดิษฐ์ (AI) ได้ถูกผสานรวมเข้ากับเทคโนโลยีสมัยใหม่แล้ว SDLCผ่านทางผู้ช่วยนักบิน ผู้ช่วยในการเขียนโค้ด ตัวแทนอัตโนมัติ และเครื่องมือพัฒนาที่ขับเคลื่อนด้วย AI
- โมเดล AppSec แบบดั้งเดิมไม่ได้ออกแบบมาสำหรับโค้ดที่สร้างโดย AI, การพึ่งพาที่มองไม่เห็น, เวิร์กโฟลว์อัตโนมัติ หรือการพัฒนาด้วยความเร็วของเครื่องจักร
- ปัญญาประดิษฐ์เงา (Shadow AI) กำลังกลายเป็นความท้าทายสำคัญด้านการมองเห็นและการกำกับดูแลสำหรับ CISทีมระบบปฏิบัติการและทีมรักษาความปลอดภัยแอปพลิเคชัน
- การพัฒนาโดยใช้ AI ช่วยเหลือทำให้เกิดช่องโหว่การโจมตีใหม่ๆ รวมถึงการแทรกโค้ดโดยทันที การพึ่งพาโค้ดที่เป็นอันตราย การใช้ MCP ในทางที่ผิด และเวิร์กโฟลว์ของเอเจนต์
- องค์กรต่างๆ จำเป็นต้องมีรูปแบบการกำกับดูแลที่คำนึงถึง AI ซึ่งสร้างขึ้นบนพื้นฐานของความโปร่งใส การระบุแหล่งที่มา สิทธิ์ขั้นต่ำ และการตรวจสอบอย่างต่อเนื่อง
- อุตสาหกรรมกำลังก้าวไปสู่ระบบตัวแทนอย่างรวดเร็ว SDLCซึ่งเป็นที่ที่ระบบ AI ดำเนินการพัฒนาอย่างจริงจัง
รับชมการบรรยาย SafeDev Talk ฉบับเต็ม: ขับเคลื่อนด้วย AI SDLCs มาถึงแล้ว
ด้านล่างนี้คือประเด็นสำคัญบางส่วนที่ได้หารือกันในระหว่างการประชุม รวมถึงวิธีที่ AI กำลังเปลี่ยนแปลงรูปแบบภัยคุกคามด้านความปลอดภัยของแอปพลิเคชัน และเหตุผลเบื้องหลัง CISระบบปฏิบัติการกำลังสูญเสียความสามารถในการมองเห็นภาพรวมของสภาพแวดล้อมการพัฒนา และการควบคุมเชิงปฏิบัติใดที่องค์กรควรให้ความสำคัญเป็นอันดับแรก
เหตุใดจึงต้องขับเคลื่อนด้วย AI SDLC เรื่องความปลอดภัยเป็นสิ่งสำคัญในขณะนี้
การนำ AI มาใช้ในกระบวนการพัฒนาซอฟต์แวร์กำลังเติบโตอย่างรวดเร็วเกินกว่าที่โปรแกรมการกำกับดูแลส่วนใหญ่จะปรับตัวได้ทัน เมื่อองค์กรต่างๆ เปลี่ยนจากผู้ช่วยนักบินไปสู่ตัวแทนอิสระที่มากขึ้นเรื่อยๆ SDLC ระบบกำลังขับเคลื่อนด้วยเครื่องจักรมากขึ้น มีพลวัตมากขึ้น และยากต่อการตรวจสอบโดยใช้แนวทางการรักษาความปลอดภัยแอปพลิเคชันแบบดั้งเดิม
มากมาย CISสำหรับผู้นำด้านระบบปฏิบัติการและ AppSec แล้ว ความท้าทายไม่ได้อยู่ที่ว่า AI จะเข้ามาอยู่ในสภาพแวดล้อมการพัฒนาหรือไม่ แต่ความท้าทายอยู่ที่ว่าจะรักษาความสามารถในการมองเห็น การระบุแหล่งที่มา และการควบคุมการดำเนินงานได้อย่างไร เมื่อ AI เข้ามาแล้ว
การเปลี่ยนแปลงดังกล่าวได้บังคับให้องค์กรต่างๆ ต้องคิดทบทวนใหม่แล้ว software supply chain securityรูปแบบการกำกับดูแล ความสามารถในการมองเห็นของนักพัฒนา และบทบาทของความไว้วางใจภายในสภาพแวดล้อมการพัฒนาซอฟต์แวร์สมัยใหม่
การนำ AI มาใช้กำลังก้าวหน้าเร็วกว่าการกำกับดูแลด้านความปลอดภัย
หนึ่งในประเด็นสำคัญที่สุดตลอดการสนทนาคือเรื่องความเร็ว ดังที่หลุยส์ โรดริเกซได้อธิบายไว้ในช่วงเปิดงาน ปัญญาประดิษฐ์ (AI) ไม่ได้จำกัดอยู่แค่การทดลองหรือเครื่องมือเพิ่มประสิทธิภาพการทำงานอีกต่อไปแล้ว แต่ได้เข้ามามีส่วนร่วมโดยตรงในกระบวนการทำงานด้านการพัฒนาแล้ว เช่น การเขียนโค้ด การเลือกไลบรารี และการโต้ตอบกับระบบ pipelineและมีการดำเนินงานครอบคลุมโครงสร้างพื้นฐานซอฟต์แวร์มากขึ้นเรื่อยๆ
สิ่งที่ทำให้ผู้ร่วมอภิปรายประหลาดใจมากที่สุดไม่ใช่การนำ AI มาใช้ แต่เป็นการที่ AI แพร่หลายไปมากแล้ว โดยมักเกิดขึ้นโดยไม่มีการกำกับดูแลหรือการเปิดเผยอย่างเป็นทางการ แซม สเตปานยาน อธิบายถึงความไม่สอดคล้องกันที่เพิ่มมากขึ้นระหว่างนโยบายความปลอดภัยอย่างเป็นทางการกับสิ่งที่เกิดขึ้นจริงภายในทีมวิศวกรรม โดยเฉพาะอย่างยิ่งในอุตสาหกรรมที่มีการควบคุมอย่างเข้มงวด บางองค์กรยังคงอ้างว่าพวกเขา "ไม่ได้ใช้ AI" ในขณะที่นักพัฒนาได้บูรณาการผู้ช่วย ผู้ช่วยเสมือน และเครื่องมือ AI เข้ากับขั้นตอนการทำงานประจำวันของพวกเขาแล้ว
ในขณะเดียวกัน เขายังชี้ให้เห็นถึงความเป็นจริงที่หลายองค์กรยังคงดิ้นรนที่จะยอมรับ นั่นคือ แม้แต่บริษัทที่พยายามหลีกเลี่ยงการนำ AI มาใช้ ก็ยังคงเผชิญกับศัตรูที่ใช้ AI อย่างแข็งขันอยู่แล้ว ความตึงเครียดดังกล่าวได้ก่อให้เกิดสิ่งที่ผู้นำด้านความปลอดภัยหลายคนเรียกว่า "ปัญญาประดิษฐ์แฝง" (Shadow AI) ภายในสภาพแวดล้อมการพัฒนาซอฟต์แวร์ ซึ่งหมายถึงระบบ AI ที่ทำงานอยู่นอกเหนือแบบจำลองการกำกับดูแลที่กำหนดไว้
อัชวินี สิดธี ได้เสริมมุมมองที่สำคัญอีกประการหนึ่ง สิ่งที่เธอเป็นกังวลไม่ใช่แค่ความเร็วในการนำไปใช้เท่านั้น แต่ยังรวมถึงการขาดสุขอนามัยในการดำเนินงานที่เกี่ยวข้องกับโค้ดที่สร้างโดย AI ด้วย ในระหว่างการสนทนา เธอเน้นย้ำว่าองค์กรต่างๆ มักไม่มีหลักฐานที่น่าเชื่อถือว่า AI มีส่วนร่วมที่ใด ทำไมจึงสร้างโค้ดเฉพาะเหล่านั้น หรือโค้ดเหล่านั้นถูกนำไปใช้อย่างไรcisควรมีการตรวจสอบและยืนยันความถูกต้องของไอออนในภายหลัง นัยสำคัญก็คือ ทีมพัฒนาได้นำผู้มีส่วนร่วมที่ไม่ใช่มนุษย์เข้ามาในกระบวนการทำงานแล้ว SDLCแต่แบบจำลองการกำกับดูแลและการตรวจสอบส่วนใหญ่ยังคงสันนิษฐานว่าผู้เขียนเป็นมนุษย์แต่เพียงอย่างเดียว
AI ไม่เพียงแต่เร่งการพัฒนาเท่านั้น แต่ยังเปลี่ยนวิธีการที่ความเสี่ยงเข้ามาเกี่ยวข้องด้วย SDLC
เมื่อ AI ถูกนำมาใช้ในกระบวนการพัฒนาซอฟต์แวร์มากขึ้น พื้นที่การโจมตีก็ขยายวงกว้างออกไปไกลเกินกว่าสมมติฐานด้านความปลอดภัยของแอปพลิเคชันแบบดั้งเดิม คณะผู้เชี่ยวชาญได้เน้นย้ำถึงประเด็นสำคัญประเด็นหนึ่งซ้ำแล้วซ้ำเล่า นั่นคือ โปรแกรมรักษาความปลอดภัยส่วนใหญ่ถูกสร้างขึ้นโดยอิงจากความเสี่ยงที่ทราบกันดีอยู่แล้วซึ่งดำเนินการด้วยความเร็วของมนุษย์ AI เปลี่ยนแปลงทั้งสองเงื่อนไขนี้ไปพร้อมๆ กัน
ทีมรักษาความปลอดภัยไม่ได้ตรวจสอบเฉพาะโค้ดที่เขียนโดยมนุษย์อีกต่อไปแล้ว พวกเขากำลังรับมือกับความสัมพันธ์ที่สร้างขึ้นโดย AI ความเสี่ยงจากการโจมตีแบบ Prompt Injection เวิร์กโฟลว์อัตโนมัติ เครื่องมือที่เชื่อมต่อกับ MCP ปลั๊กอิน AI และความเร็วในการประมวลผลของเครื่องจักรมากขึ้นเรื่อยๆ CI/CD การดำเนินการ
อัชวินี สิดธี อธิบายว่า หนึ่งในแนวคิดแรกๆ ที่เริ่มพังทลายลงคือขอบเขตความไว้วางใจแบบดั้งเดิมนั่นเอง ระบบ AI ได้รับการฝึกฝนด้วยโค้ดสาธารณะจำนวนมหาศาล ซึ่งส่วนใหญ่ไม่ปลอดภัย ล้าสมัย หรือไม่สามารถตรวจสอบได้อย่างครบถ้วน ส่งผลให้องค์กรสูญเสียความสามารถในการกำหนดได้อย่างชัดเจนว่าอะไรอยู่ภายในหรือภายนอกขอบเขตความไว้วางใจ
เธอยังเน้นย้ำว่า AI เปลี่ยนแปลงลักษณะของการสร้างแบบจำลองภัยคุกคามอย่างสิ้นเชิง เพราะระบบเหล่านี้ไม่ได้หยุดนิ่ง การตรวจสอบความปลอดภัยแบบดั้งเดิม ณ จุดเวลาใดเวลาหนึ่งจึงไม่สามารถใช้ได้อีกต่อไปในสภาพแวดล้อมที่ระบบ AI พัฒนา ปรับตัว และเพิ่มประสิทธิภาพพฤติกรรมอย่างต่อเนื่องและไดนามิก
เฆซุส กัวดราโด เข้าถึงปัญหาจากมุมมองของห่วงโซ่อุปทานซอฟต์แวร์ หนึ่งในตัวอย่างที่ชัดเจนที่สุดที่กล่าวถึงในระหว่างการประชุมคือ การแนะนำการพึ่งพาซอฟต์แวร์โดย AI นักพัฒนาซอฟต์แวร์ยอมรับคำแนะนำแพ็กเกจที่สร้างโดย AI โดยอัตโนมัติมากขึ้นเรื่อย ๆ โดยมักจะมีการตรวจสอบความถูกต้องเพียงเล็กน้อยหรือไม่เลย ซึ่งนั่นสร้างช่องทางการโจมตีแบบใหม่ทั้งหมด
ดังที่ได้กล่าวไว้ในระหว่างการอภิปราย ผู้โจมตีสามารถระบุชื่อแพ็กเกจปลอมที่สร้างขึ้นโดยแบบจำลองภาษาขนาดใหญ่ ลงทะเบียนแพ็กเกจเหล่านั้นในที่เก็บสาธารณะ และรอให้นักพัฒนาหรือตัวแทน AI ติดตั้งโดยอัตโนมัติ
สิ่งนี้เปลี่ยนแปลงสมมติฐานดั้งเดิมไปอย่างสิ้นเชิง SCA ทีมรักษาความปลอดภัยไม่ได้จัดการเฉพาะกับช่องโหว่ที่รู้จักอีกต่อไปแล้ว แต่กำลังจัดการกับช่องโหว่ที่อาจปรากฏขึ้นเมื่อไม่กี่นาทีที่ผ่านมา และมีพฤติกรรมที่เป็นอันตรายซึ่งออกแบบมาโดยเฉพาะสำหรับเวิร์กโฟลว์ที่ใช้ AI มากขึ้นเรื่อยๆ
การสนทนายังได้สำรวจถึงวิธีการที่การโจมตีเริ่มมุ่งเป้าไปที่พื้นผิวใหม่ทั้งหมดภายในสภาพแวดล้อมการพัฒนา การแทรกข้อความแจ้งเตือนภายในความคิดเห็น ไฟล์คำสั่งที่เป็นพิษสำหรับเอเจนต์ การโต้ตอบ MCP ที่เป็นอันตราย และเวิร์กโฟลว์ AI ที่ถูกดัดแปลง ล้วนกลายเป็นช่องทางการโจมตีที่เป็นไปได้มากขึ้น ผลลัพธ์ที่ได้คือแบบจำลองภัยคุกคามที่กว้างขวาง รวดเร็ว และมีความเปลี่ยนแปลงได้มากกว่าที่โปรแกรมรักษาความปลอดภัยแอปพลิเคชันแบบดั้งเดิมได้รับการออกแบบมาแต่แรก
CISระบบปฏิบัติการกำลังสูญเสียการมองเห็นไปทั่ว SDLC
ประเด็นเรื่องความโปร่งใสกลายเป็นหัวข้อสำคัญหัวข้อหนึ่งตลอดการอภิปราย ดังที่หลุยส์ โรดริเกซ สรุปไว้ในระหว่างการประชุม ผู้นำด้านความปลอดภัยหลายคนไม่ทราบว่านักพัฒนาซอฟต์แวร์ของตนใช้เครื่องมือ AI อะไรบ้าง โค้ดที่สร้างโดย AI ใดบ้างที่เข้าสู่คลังเก็บโค้ด หรือเอเจนต์ใดบ้างที่กำลังโต้ตอบกับระบบ pipelineและโครงสร้างพื้นฐาน
คณะผู้เชี่ยวชาญได้อธิบายเรื่องนี้ว่าเป็นวิวัฒนาการของ Shadow IT ไปสู่ Shadow AI แต่แตกต่างจากเครื่องมือที่ไม่ได้รับการอนุมัติในรุ่นก่อนๆ ระบบเหล่านี้มีส่วนร่วมอย่างแข็งขันในการพัฒนาcisไอออน ทำหน้าที่สร้างโค้ด เลือกส่วนประกอบที่จำเป็น โต้ตอบกับโครงสร้างพื้นฐาน และมีบทบาทมากขึ้นในการตัดสินใจด้านการดำเนินงานในนามของนักพัฒนา
แซม สเตปานยาน ชี้ให้เห็นถึงความท้าทายที่สำคัญอีกประการหนึ่ง นั่นคือ การระบุแหล่งที่มา เมื่อโค้ดที่สร้างโดย AI แพร่หลายมากขึ้น องค์กรต่างๆ ก็สูญเสียความสามารถในการระบุได้อย่างชัดเจนว่าใคร (หรืออะไร) เป็นผู้สร้างการกระทำเฉพาะนั้นๆ
การสูญเสียความสามารถในการตรวจสอบย้อนกลับนั้นก่อให้เกิดปัญหาทั้งในด้านการกำกับดูแลและการดำเนินงาน หากทีมงานไม่สามารถแยกแยะความแตกต่างระหว่างพฤติกรรมของมนุษย์และพฤติกรรมที่สร้างขึ้นโดย AI ได้อย่างน่าเชื่อถือ การตอบสนองต่อเหตุการณ์ การตรวจสอบ และการทบทวนด้านความปลอดภัยก็จะซับซ้อนขึ้นอย่างมาก
การสนทนายังได้กล่าวถึงแนวโน้มที่เพิ่มขึ้นของการไว้วางใจผลลัพธ์ที่สร้างโดย AI มากเกินไป นักพัฒนาซอฟต์แวร์มักคิดว่าเนื่องจากโค้ดที่สร้างโดย AI ดูมั่นใจและใช้งานได้ จึงต้องปลอดภัยด้วย แต่ดังที่แซมชี้ให้เห็น ระบบเหล่านี้มักได้รับการฝึกฝนจากตัวอย่างสาธารณะที่ไม่ปลอดภัย และสามารถสร้างผลลัพธ์ที่เปราะบางหรือหลอกลวงได้อย่างสมบูรณ์ด้วยความมั่นใจสูง สิ่งนี้ก่อให้เกิดสถานการณ์ที่อันตราย: การมองเห็นที่จำกัด การระบุแหล่งที่มาที่ลดลง และความไว้วางใจที่เพิ่มขึ้นในระบบที่องค์กรยังไม่เข้าใจอย่างถ่องแท้
อุตสาหกรรมกำลังค่อยๆ เคลื่อนตัวไปสู่ระบบตัวแทน SDLCs
ประเด็นสำคัญส่วนหนึ่งในการอภิปรายมุ่งเน้นไปที่การเปลี่ยนผ่านจากนักบินผู้ช่วยไปสู่ตัวแทนอัตโนมัติ ผู้ร่วมอภิปรายเห็นพ้องต้องกันว่าอุตสาหกรรมกำลังก้าวไปสู่สิ่งที่สามารถอธิบายได้มากขึ้นเรื่อยๆ ว่าเป็นระบบตัวแทนอัตโนมัติ SDLCในสภาพแวดล้อมที่ระบบ AI ไม่ได้เพียงแค่แนะนำโค้ด แต่ลงมือทำอย่างแข็งขันตลอดวงจรชีวิตของซอฟต์แวร์
ระบบ AI เริ่มเปิดกว้างมากขึ้น pull requestsAI สามารถดำเนินการทดสอบ เรียกใช้เครื่องมือภายนอก ปรับเปลี่ยนโครงสร้างพื้นฐาน โต้ตอบกับ API และทำงานได้อย่างอิสระในสภาพแวดล้อมการพัฒนาต่างๆ กล่าวอีกนัยหนึ่ง AI กำลังเปลี่ยนจากผู้ช่วยไปเป็นผู้ควบคุม
การเปลี่ยนแปลงดังกล่าวเปลี่ยนรูปแบบการรักษาความปลอดภัยไปอย่างสิ้นเชิง ดังที่ได้กล่าวไปแล้ว องค์กรต่างๆ อาจจำเป็นต้องมีแนวทางการกำกับดูแลแบบใหม่ทั้งหมดที่เน้นเรื่องการระบุตัวตนสำหรับตัวแทน AI การเข้าถึงที่มีสิทธิ์น้อยที่สุด การตรวจสอบได้ การกำกับดูแลโดยมนุษย์ การกระทำที่ลงนาม และการมองเห็นพฤติกรรมของ AI อย่างต่อเนื่อง
ตัวอย่างที่โดดเด่นเป็นพิเศษอย่างหนึ่งที่กล่าวถึงในระหว่างการประชุม คือ ระบบ AI พยายามปิดใช้งานการป้องกันความปลอดภัยของอุปกรณ์ปลายทางบนเวิร์กสเตชันของนักพัฒนา เพื่อให้บรรลุเป้าหมายที่ได้รับมอบหมาย
ตัวอย่างดังกล่าวแสดงให้เห็นถึงความเป็นจริงที่สำคัญเกี่ยวกับสภาพแวดล้อมที่ขับเคลื่อนด้วย AI นั่นคือ ระบบเหล่านี้จะปรับให้เหมาะสมกับเป้าหมาย ไม่ใช่ขอบเขตด้านความปลอดภัยเสมอไป ระบบรักษาความปลอดภัยแอปพลิเคชันแบบดั้งเดิมถูกสร้างขึ้นโดยเน้นการตรวจสอบความผิดพลาดของมนุษย์ แต่ระบบรักษาความปลอดภัยแอปพลิเคชันยุคใหม่จะต้องควบคุมพฤติกรรมอัตโนมัติมากขึ้นเรื่อยๆ
เหตุใดการรักษาความปลอดภัยแอปพลิเคชันที่คำนึงถึง AI จึงต้องใช้แนวทาง Zero Trust
ประเด็นต่างๆ มากมายที่กล่าวถึงในงาน SafeDev Talk สอดคล้องอย่างใกล้ชิดกับการเปลี่ยนแปลงในวงกว้างไปสู่สิ่งใด ไซเกนี นิยามของ Zero Trust สำหรับยุค AI SDLCอย่าไว้ใจสิ่งใด ตรวจสอบทุกสิ่ง รวมถึงตัว AI เองด้วย ตามที่ได้อธิบายไว้ในแนวทางการพัฒนาแพลตฟอร์มของ Xygeni นั้น AI จะขยายขอบเขตการโจมตีไปยังหลายชั้นพร้อมกัน:
- รหัสจากผู้พัฒนาหลัก
- การพึ่งพา
- CI/CD pipelines,
- โมเดลและเอเจนต์ AI
- และสภาพแวดล้อมการพัฒนาซอฟต์แวร์
พื้นที่เหล่านี้จำนวนมากยังคงมองไม่เห็นได้ด้วยเครื่องมือรักษาความปลอดภัยแอปพลิเคชันแบบดั้งเดิม ความท้าทายไม่ได้อยู่ที่การสแกนโค้ดเพื่อหาช่องโหว่เพียงอย่างเดียวอีกต่อไปแล้ว องค์กรต่างๆ จำเป็นต้องมองเห็นภาพรวมของความสัมพันธ์ที่เกิดจาก AI กิจกรรมของ AI ภายในสภาพแวดล้อมการพัฒนา พฤติกรรมของเอเจนต์ โครงสร้างพื้นฐานที่เชื่อมต่อกับ AI และปฏิสัมพันธ์ในห่วงโซ่อุปทานซอฟต์แวร์ที่เกิดขึ้นด้วยความเร็วของเครื่องจักรมากขึ้นเรื่อยๆ
นั่นจึงเป็นเหตุผลว่าทำไมจึงมีแนวคิดต่างๆ เช่น สินค้าคงคลัง AI และระบบที่รับรู้ AI ASPMAI-SPM และการกำกับดูแลสภาพแวดล้อมการพัฒนาซอฟต์แวร์ กำลังกลายเป็นประเด็นสำคัญในการพูดคุยเรื่องความปลอดภัยของแอปพลิเคชันในยุคปัจจุบันอย่างรวดเร็ว
การขอ SDLC มีการเปลี่ยนแปลงแล้ว
การบรรยาย SafeDev Talk ทำให้เห็นชัดเจนอย่างหนึ่ง: AI ได้ถูกฝังอยู่ภายในแล้ว SDLC. ปัจจุบันวงการวิศวกรรมไม่ได้ถกเถียงกันอีกต่อไปแล้วว่าการพัฒนาโดยใช้ AI จะเกิดขึ้นหรือไม่ การเปลี่ยนแปลงดังกล่าวได้เริ่มขึ้นแล้วในองค์กรด้านวิศวกรรมทุกขนาด
ความท้าทายที่แท้จริงในขณะนี้คือการรักษาความโปร่งใส การกำกับดูแล การระบุแหล่งที่มา และการควบคุมการดำเนินงานในสภาพแวดล้อมการพัฒนาที่มีความเป็นอิสระมากขึ้นเรื่อยๆ
เมื่อการนำ AI มาใช้แพร่หลายมากขึ้น สมมติฐานด้านความปลอดภัยของแอปพลิเคชันแบบดั้งเดิมเกี่ยวกับขอบเขตความไว้วางใจ ผู้เขียนที่เป็นมนุษย์ ที่มาของซอฟต์แวร์ และรูปแบบการกำกับดูแลแบบคงที่ จะเริ่มพังทลายลงเรื่อยๆ
องค์กรที่ปรับตัวได้เร็วที่สุดจะไม่ใช่องค์กรที่ทำให้การนำ AI มาใช้ช้าลงเสมอไป แต่จะเป็นองค์กรที่สามารถเข้าใจ ควบคุม และรักษาความปลอดภัยของการพัฒนาซอฟต์แวร์ที่ขับเคลื่อนด้วย AI ได้ในความเร็วที่การพัฒนาเหล่านั้นกำลังดำเนินไป
ร่วมพูดคุยต่อได้ที่งาน OWASP Global AppSec EU Vienna
การสนทนาเกี่ยวกับปัญญาประดิษฐ์ (AI) SDLC ความปลอดภัยเพิ่งเริ่มต้นเท่านั้น Xygeni จะยังคงสำรวจหัวข้อเหล่านี้ต่อไปในงาน OWASP Global AppSec EU ที่เวียนนา ซึ่งทีมงานจะหารือเกี่ยวกับ AppSec ที่คำนึงถึง AI software supply chain securityการกำกับดูแล AI และความเสี่ยงที่เกิดขึ้นใหม่ของสภาพแวดล้อมการพัฒนาแบบเอเจนต์
หากคุณกำลังเข้าร่วม OWASP Global AppSec EUเชิญมาพบกับทีมงาน Xygeni ได้ที่บูธ G-08 ในกรุงเวียนนา!







