ປຶ້ມຄຳສັບກ່ຽວກັບຄວາມປອດໄພຂອງ Xygeni
ການພັດທະນາຊອບແວ ແລະ ການຈັດສົ່ງຄຳສັບກ່ຽວກັບຄວາມປອດໄພ

ການຮ່ວມມື AI Red Teaming ແມ່ນຫຍັງ?

ການໂຈມຕີລະບົບ AI ສີແດງແມ່ນການໂຈມຕີລະບົບ AI ໂດຍເຈດຕະນາ, ເຊັ່ນ: ແອັບພລິເຄຊັນ LLM ຫຼື ຕົວແທນ AI, ເພື່ອຊອກຫາວິທີທີ່ຈະເຮັດໃຫ້ມີພຶດຕິກຳທີ່ບໍ່ດີກ່ອນທີ່ສັດຕູຕົວຈິງຈະເຮັດ.

  • ສິ່ງ​ທີ່​ມັນ​ທົດ​ສອບ​: ພຶດຕິກຳ, ບໍ່ພຽງແຕ່ລະຫັດເທົ່ານັ້ນ. ການສີດຢ່າງວ່ອງໄວ, ການ jailbreak, ການຮົ່ວໄຫຼຂອງຂໍ້ມູນ, ການໃຊ້ເຄື່ອງມືທີ່ບໍ່ປອດໄພ ແລະ ຜົນຜະລິດທີ່ເປັນອັນຕະລາຍ.
  • ມັນແຕກຕ່າງຈາກການທົດສອບແບບ pentesting ແນວໃດ: ເປົ້າໝາຍແມ່ນຄວາມເປັນໄປໄດ້. ການປ້ອນຂໍ້ມູນດຽວກັນສາມາດຜະລິດຜົນຜະລິດທີ່ແຕກຕ່າງກັນ, ສະນັ້ນການທົດສອບຈຶ່ງເຮັດຊ້ຳອີກ ແລະ ເປັນສະຖິຕິ.
  • ວິທີການອ້າງອີງ: ຄູ່ມືການຮ່ວມທີມ OWASP GenAI Red, ຈັດພິມໃນເດືອນມັງກອນ 2025.
  • ຂໍ້ຈຳກັດຂອງມັນ: ມັນຊອກຫາສິ່ງທີ່ສາມາດເຈາະເອົາຜົນປະໂຫຍດໄດ້ໃນລະບົບທີ່ກຳລັງເຮັດວຽກຢູ່. ມັນບໍ່ໄດ້ບອກທ່ານວ່າ AI ແມ່ນຫຍັງຢູ່ໃນລະຫັດຂອງທ່ານ, ຫຼື ແກ້ໄຂການຕັ້ງຄ່າທີ່ເຮັດໃຫ້ການໂຈມຕີເປັນໄປໄດ້.

ການຮ່ວມມື AI Red Teaming ແມ່ນຫຍັງ? ຄຳນິຍາມ #

ຊອບແວແບບດັ້ງເດີມລົ້ມເຫຼວໃນແບບທີ່ຄາດເດົາໄດ້. ໃຫ້ຟັງຊັນມີການປ້ອນຂໍ້ມູນດຽວກັນສອງຄັ້ງ ແລະ ທ່ານຈະໄດ້ຮັບຜົນຜະລິດດຽວກັນ, ດັ່ງນັ້ນທ່ານສາມາດທົດສອບມັນ, ແກ້ໄຂມັນ ແລະ ກ້າວຕໍ່ໄປ. ຮູບແບບພາສາຂະໜາດໃຫຍ່ບໍ່ໄດ້ເຮັດວຽກແບບນັ້ນ. ພວກມັນຕອບສະໜອງຕໍ່ພາສາທຳມະຊາດ, ພວກມັນສາມາດຖືກຊັກຊວນໄດ້, ແລະ ຄຳສັ່ງທີ່ເຊື່ອງໄວ້ໃນໜ້າເວັບ ຫຼື ເອກະສານສາມາດປ່ຽນແປງສິ່ງທີ່ພວກມັນເຮັດໄດ້.

ນັ້ນແມ່ນຊ່ອງຫວ່າງທີ່ທີມງານສີແດງ AI ຕື່ມເຕັມ. ທີມງານສີແດງເອົາມຸມມອງຂອງຄູ່ແຂ່ງ ແລະ ພະຍາຍາມເຮັດໃຫ້ລະບົບ AI ເຮັດບາງສິ່ງບາງຢ່າງທີ່ມັນບໍ່ຄວນເຮັດ: ເປີດເຜີຍການກະຕຸ້ນຂອງລະບົບ, ຮົ່ວໄຫຼຂໍ້ມູນລູກຄ້າ, ໂທຫາເຄື່ອງມືທີ່ມັນບໍ່ເຄີຍມີຈຸດປະສົງທີ່ຈະໂທຫາ, ຫຼື ບໍ່ສົນໃຈ guardrails ນັກພັດທະນາຂອງມັນໄດ້ຂຽນໄວ້ວ່າ. ທຸກໆການໂຈມຕີທີ່ປະສົບຜົນສຳເລັດຈະກາຍເປັນການຄົ້ນພົບທີ່ທີມງານວິສະວະກຳສາມາດປະຕິບັດໄດ້.

ໄດ້ ຄູ່ມືການຮ່ວມທີມ OWASP GenAI Red ວາງກອບການຮ່ວມມືຂອງ AI ສີແດງເປັນການອອກກຳລັງກາຍແບບຮອບດ້ານcisກວມເອົາສີ່ຂົງເຂດຄື: ການປະເມີນຮູບແບບ, ການທົດສອບການຈັດຕັ້ງປະຕິບັດ, ການປະເມີນໂຄງສ້າງພື້ນຖານ ແລະ ການວິເຄາະພຶດຕິກຳໃນເວລາແລ່ນ. ເວົ້າອີກຢ່າງໜຶ່ງ, ມັນບໍ່ພຽງແຕ່ກ່ຽວກັບການຫຼອກລວງ chatbot ເທົ່ານັ້ນ. ມັນກວມເອົາລະບົບທັງໝົດທີ່ຮູບແບບຕັ້ງຢູ່.

ວິທີການເຮັດວຽກຂອງ AI Red Teaming #

ການມີສ່ວນຮ່ວມຂອງທີມງານ AI ສີແດງໂດຍທົ່ວໄປແມ່ນປະຕິບັດຕາມຫ້າຂັ້ນຕອນ.

1. ກຳນົດຂອບເຂດຂອງລະບົບ #

ກຳນົດສິ່ງທີ່ກຳລັງທົດສອບ: ຜູ້ຊ່ວຍທີ່ຕ້ອງຕິດຕໍ່ກັບລູກຄ້າ, ຜູ້ຮ່ວມເດີນທາງພາຍໃນ, ຕົວແທນທີ່ເປັນອິດສະຫຼະທີ່ສາມາດເຂົ້າເຖິງອີເມວ ຫຼື ຖານຂໍ້ມູນ. ຂອບເຂດທີ່ກຳນົດໄວ້ເຊິ່ງເປັນອັນຕະລາຍຕໍ່ເລື່ອງ. ການຮົ່ວໄຫຼນະໂຍບາຍການຄືນເງິນຂອງບັອດຊ່ວຍເຫຼືອແມ່ນເລື່ອງທີ່ໜ້າລຳຄານ; ການຮົ່ວໄຫຼຂໍ້ມູນປະຈຳຕົວຂອງຕົວແທນແມ່ນເຫດການໜຶ່ງ.

2. ສ້າງແບບຈຳລອງໄພຂົ່ມຂູ່ #

ສ້າງແຜນທີ່ໜ້າດິນຂອງການໂຈມຕີ: ການປ້ອນຂໍ້ມູນຂອງຜູ້ໃຊ້, ເອກະສານທີ່ດຶງມາ, ເຄື່ອງມືທີ່ເຊື່ອມຕໍ່, ເຊີບເວີ MCP, ໜ່ວຍຄວາມຈຳ ແລະ ຕົວຕົນທີ່ລະບົບປະຕິບັດພາຍໃຕ້. ກອບຕ່າງໆເຊັ່ນ: MITER ATLAS ລະບຸເຕັກນິກການຕໍ່ສູ້ທີ່ແທ້ຈິງຕໍ່ກັບລະບົບ AI ແລະ ຊ່ວຍໃຫ້ທີມງານຫຼີກລ່ຽງການທົດສອບພຽງແຕ່ສິ່ງທີ່ເຫັນໄດ້ຊັດເຈນເທົ່ານັ້ນ.

3. ການໂຈມຕີ #

ທີມງານສີແດງປະສົມປະສານຄວາມຄິດສ້າງສັນດ້ວຍມືເຂົ້າກັບການກວດສອບແບບອັດຕະໂນມັດ. ເຕັກນິກທົ່ວໄປລວມມີ:

  • ການສັກຢາໂດຍກົງ: ຄຳແນະນຳທີ່ພິມໂດຍກົງໃສ່ໃນການປ້ອນຂໍ້ມູນເພື່ອລົບລ້າງການກະຕຸ້ນຂອງລະບົບ.
  • ການສັກຢາກະຕຸ້ນທາງອ້ອມ: ຄຳແນະນຳທີ່ຝັງຢູ່ໃນເນື້ອຫາທີ່ຮູບແບບອ່ານຕໍ່ມາ, ເຊັ່ນ: ໄຟລ໌, ອີເມວ ຫຼື ໜ້າເວັບ.
  • Jailbreaking: ການສະແດງບົດບາດ, ການເຂົ້າລະຫັດ ຫຼື ການຊັກຊວນຫຼາຍຮອບເພື່ອຫຼີກລ່ຽງກົດລະບຽບຄວາມປອດໄພ.
  • ການສະກັດເອົາຂໍ້ມູນ: ການຊັກຊວນໃຫ້ແບບຈຳລອງເປີດເຜີຍຂໍ້ມູນການຝຶກອົບຮົມ, ການກະຕຸ້ນຂອງລະບົບ ຫຼື ຂໍ້ມູນຂອງຜູ້ໃຊ້ອື່ນໆ.
  • ການໃຊ້ເຄື່ອງມື ແລະ ຕົວແທນໃນທາງທີ່ຜິດ: ການຊີ້ນຳຕົວແທນໃຫ້ໂທຫາເຄື່ອງມືທີ່ມີພາລາມິເຕີທີ່ເປັນອັນຕະລາຍ ຫຼື ຍົກລະດັບສິດອະນຸຍາດຂອງຕົນເອງ.

4. ມາດຕະການ #

ເນື່ອງຈາກຮູບແບບຕ່າງໆບໍ່ສາມາດກຳນົດໄດ້, ຄວາມສຳເລັດພຽງຄັ້ງດຽວຈຶ່ງພິສູດໄດ້ໜ້ອຍ ແລະ ຄວາມລົ້ມເຫຼວພຽງຄັ້ງດຽວກໍ່ພິສູດໄດ້ໜ້ອຍກວ່າ. ທີມງານທີ່ມີຄວາມເປັນຜູ້ໃຫຍ່ດຳເນີນການໂຈມຕີແຕ່ລະຄັ້ງຫຼາຍຄັ້ງ ແລະ ລາຍງານອັດຕາຄວາມສຳເລັດ, ບໍ່ແມ່ນເລື່ອງເລົ່າ.

5. ແກ້ໄຂ ແລະ ທົດສອບຄືນໃໝ່ #

ຜົນການຄົ້ນພົບກັບຄືນໄປຫາວິສະວະກຳ: ເຮັດໃຫ້ການກະຕຸ້ນຂອງລະບົບເຂັ້ມງວດຂຶ້ນ, ເພີ່ມຮົ້ວກັ້ນການປ້ອນຂໍ້ມູນ ຫຼື ຜົນຜະລິດ, ຫຼຸດຜ່ອນສິດອະນຸຍາດຂອງຕົວແທນ, ເອົາເຄື່ອງມືອອກ. ຫຼັງຈາກນັ້ນ, ການທົດສອບຈະດຳເນີນອີກຄັ້ງ, ເພາະວ່າການແກ້ໄຂສຳລັບປະໂຫຍກໜຶ່ງບໍ່ຄ່ອຍຈະກວມເອົາປະໂຫຍກຕໍ່ໄປ.

ການຮ່ວມມືແບບ AI Red Teaming ທຽບກັບການທົດສອບການເຈາະລະບົບ #

ທັງສອງມີແນວຄິດຮ່ວມກັນແຕ່ທົດສອບສິ່ງທີ່ແຕກຕ່າງກັນ.

ຂະຫນາດການທົດສອບ PenetrationAI ສີແດງເປັນທີມ
ເປົ້າຫມາຍພື້ນຖານໂຄງລ່າງ, ແອັບພລິເຄຊັນ, APIsພຶດຕິກຳຂອງແບບຈຳລອງ ແລະ ລະບົບທີ່ຢູ່ອ້ອມຮອບມັນ
ການປ້ອນຂໍ້ມູນໂຈມຕີການນຳໃຊ້ຊ່ອງໂຫວ່, payloads, ການຮ້ອງຂໍທີ່ມີຮູບແບບບໍ່ຖືກຕ້ອງພາສາທຳມະຊາດ, ເອກະສານ, ການສົນທະນາຫຼາຍຮອບ
ຜົນການຄົ້ນຫາກຳນົດໄວ້: ການຂຸດຄົ້ນບໍ່ແຮ່ເຮັດວຽກ ຫຼື ມັນບໍ່ໄດ້ຜົນຄວາມເປັນໄປໄດ້: ອັດຕາຄວາມສຳເລັດໃນຫຼາຍໆຄວາມພະຍາຍາມ
ການຄົ້ນພົບທົ່ວໄປຂໍ້ບົກຜ່ອງໃນການສີດ, ການຕັ້ງຄ່າຜິດພາດ, ການອະນຸຍາດອ່ອນແອການສັກຢາຢ່າງວ່ອງໄວ, ການກັກຂັງ, ການຮົ່ວໄຫຼຂອງຂໍ້ມູນ, ອຳນາດຫຼາຍເກີນໄປ
ຄວາມ​ສາ​ມາດຄວາມປອດໄພທີ່ຮຸກຮານຄວາມປອດໄພທີ່ຮຸກຮານບວກກັບ ML ແລະພາສາສາດ

ໂປຣແກຣມທີ່ສົມບູນຕ້ອງການທັງສອງຢ່າງ. ແອັບພລິເຄຊັນ LLM ຍັງເຮັດວຽກຢູ່ໃນເຊີບເວີ ແລະ API ທີ່ pentest ຄວນກວມເອົາ, ແລະ pentest ທີ່ສະອາດບໍ່ໄດ້ບອກຫຍັງກ່ຽວກັບວ່າຮູບແບບສາມາດຖືກເວົ້າໃຫ້ຂໍ້ມູນຮົ່ວໄຫຼໄດ້ຫຼືບໍ່.

ເປັນຫຍັງ AI Red Teaming ຈຶ່ງມີຄວາມສຳຄັນໃນຕອນນີ້ #

ສາມກຳລັງກຳລັງຊຸກຍູ້ການຮ່ວມມືດ້ານ AI ຈາກຫ້ອງທົດລອງຄົ້ນຄວ້າເຂົ້າສູ່ໂຄງການຄວາມປອດໄພທຳມະດາ.

  • AI ກຳລັງສົ່ງໄວກວ່າການທົບທວນຄືນ. ນັກພັດທະນາເພີ່ມຮູບແບບ, ກອບຕົວແທນ ແລະ ເຊີບເວີ MCP ໃສ່ແອັບພລິເຄຊັນທຸກໆອາທິດ, ໂດຍມັກຈະບໍ່ມີການທົບທວນຄວາມປອດໄພ. ແຕ່ລະອັນແມ່ນວິທີການໃໝ່ສຳລັບຂໍ້ຄວາມທີ່ບໍ່ໜ້າເຊື່ອຖືທີ່ຈະເຂົ້າເຖິງອົງປະກອບທີ່ສາມາດເຮັດວຽກໄດ້.
  • ຕົວແທນເພີ່ມຄວາມສ່ຽງ. chatbot ທີ່ປະພຶດຕົວບໍ່ດີຈະສ້າງຂໍ້ຄວາມທີ່ບໍ່ດີ. ຕົວແທນທີ່ປະພຶດຕົວບໍ່ດີຈະສົ່ງອີເມວ, ແກ້ໄຂບັນທຶກ ຫຼື ແລ່ນລະຫັດພາຍໃຕ້ຕົວຕົນຂອງອົງກອນຂອງທ່ານ.
  • ຜູ້ຄວບຄຸມຄາດວ່າຈະມີການທົດສອບແບບກົງກັນຂ້າມ. ໄດ້ ກົດໝາຍວ່າດ້ວຍ AI ຂອງ EU ຮຽກຮ້ອງໃຫ້ຜູ້ໃຫ້ບໍລິການແບບຈຳລອງ AI ທີ່ມີຈຸດປະສົງທົ່ວໄປທີ່ມີຄວາມສ່ຽງທາງລະບົບປະຕິບັດ ແລະ ບັນທຶກການທົດສອບແບບຕ້ານກັນ. ອົງກອນສ່ວນໃຫຍ່ທີ່ນຳໃຊ້ AI ບໍ່ແມ່ນຜູ້ໃຫ້ບໍລິການແບບຈຳລອງ, ສະນັ້ນພັນທະດັ່ງກ່າວຈຶ່ງບໍ່ໄດ້ນຳໃຊ້ກັບພວກເຂົາໂດຍກົງ, ແຕ່ມັນໄດ້ກຳນົດຄວາມຄາດຫວັງວ່າການນຳໃຊ້ AI ທີ່ຈິງຈັງຈະຖືກທົດສອບດ້ວຍວິທີນີ້.

ຂໍ້ຈຳກັດຂອງ AI Red Teaming #

ການຮ່ວມມືກັນແບບ AI ສີແດງມີປະສິດທິພາບຫຼາຍ, ແລະມັນຍັງຊ້າອີກດ້ວຍ. ມັນທົດສອບລະບົບທີ່ສ້າງແລ້ວ ແລະ ໃຊ້ງານໄດ້, ເຊິ່ງເຮັດໃຫ້ມີຊ່ອງຫວ່າງສາມຢ່າງ.

ມັນພຽງແຕ່ທົດສອບສິ່ງທີ່ທ່ານຮູ້ກ່ຽວກັບ. ທ່ານບໍ່ສາມາດຈັດທີມຕົວແທນທີ່ບໍ່ມີໃຜປະກາດໄດ້. ຖ້ານັກພັດທະນາໄດ້ເຊື່ອມຕໍ່ເຊີບເວີ MCP ເຂົ້າໃນບ່ອນເກັບຂໍ້ມູນໃນເດືອນທີ່ຜ່ານມາ, ມັນຈະຢູ່ນອກຂອບເຂດຂອງທຸກໆການພົວພັນຈົນກວ່າຈະມີຄົນພົບມັນ.

ມັນຊອກຫາອາການ, ບໍ່ແມ່ນສາເຫດ. ການສັກຢາທີ່ປະສົບຜົນສຳເລັດມັກຈະຕິດຕາມກັບໄປຫາບາງສິ່ງບາງຢ່າງໃນລະຫັດ ຫຼື ການຕັ້ງຄ່າ: ເນື້ອຫາທີ່ບໍ່ໜ້າເຊື່ອຖືທີ່ເຊື່ອມຕໍ່ເຂົ້າໃນການກະຕຸ້ນຂອງລະບົບ, ບ່ອນເກັບຂໍ້ມູນທີ່ບໍ່ມີຮົ້ວກັ້ນ, ຕົວແທນທີ່ໄດ້ຮັບເຄື່ອງມືຫຼາຍກວ່າທີ່ມັນຕ້ອງການ. ທີມສີແດງພິສູດວ່າການໂຈມຕີໄດ້ຜົນ; ຍັງຕ້ອງມີຄົນຊອກຫາສາຍທີ່ອະນຸຍາດໃຫ້ມັນເກີດຂຶ້ນ.

ມັນເປັນໄລຍະໆ. ການມີສ່ວນຮ່ວມຈະເກີດຂຶ້ນທຸກໆໄຕມາດ ຫຼື ກ່ອນການເປີດຕົວ. ຖານຂໍ້ມູນລະຫັດມີການປ່ຽນແປງທຸກໆມື້.

ນັ້ນແມ່ນເຫດຜົນທີ່ທີມງານທີ່ເຕີບໃຫຍ່ແລ້ວຈັບຄູ່ AI red teaming ກັບການຄວບຄຸມໃນຕອນຕົ້ນຂອງວົງຈອນຊີວິດ: ບັນຊີສິນຄ້າຄົງຄັງຂອງທຸກໆຊັບສິນ AI ໃນຖານຂໍ້ມູນລະຫັດ, ແລະການກວດຫາການຕັ້ງຄ່າ AI ທີ່ມີຄວາມສ່ຽງໃນຈຸດທີ່ມັນເປັນ. committed, ສະນັ້ນທີມສີແດງຈຶ່ງໃຊ້ເວລາຂອງພວກເຂົາໃສ່ບັນຫາທີ່ຍາກກວ່າການຄົ້ນພົບບັນຫາທີ່ສາມາດຫຼີກລ່ຽງໄດ້ຄືນໃໝ່.

ກ່ອນທີ່ທີມແດງຈະມາຮອດ: ການຮັກສາລະຫັດທີ່ຢູ່ເບື້ອງຫຼັງ AI ຂອງທ່ານ #

ທີມງານ AI ສີແດງທົດສອບສິ່ງທີ່ລະບົບ AI ເຮັດເມື່ອມັນເຮັດວຽກ. Xygeni ເຮັດວຽກກ່ອນໜ້ານີ້, ກ່ຽວກັບລະຫັດ ແລະ ການຕັ້ງຄ່າທີ່ຕັດສິນສິ່ງທີ່ AI ໄດ້ຮັບອະນຸຍາດໃຫ້ເຮັດໃນຕອນທຳອິດ.

ຄວາມປອດໄພ AI ຂອງ Xygeni ຄົ້ນພົບຊັບສິນ AI ໃນທົ່ວບ່ອນເກັບມ້ຽນຂອງທ່ານ, ລວມທັງຮູບແບບ, ຕົວແທນ, ເຊີບເວີ MCP, ທັກສະ, ການກະຕຸ້ນເຕືອນ ແລະ guardrails, ຈາກລະຫັດ ແລະ ໄຟລ໌ການຕັ້ງຄ່າທີ່ເຄື່ອງມື AI ປະໄວ້, ສະນັ້ນບໍ່ມີຫຍັງຂຶ້ນກັບນັກພັດທະນາທີ່ປະກາດພວກມັນ. ຫຼັງຈາກນັ້ນມັນຈະກວດຫາຄວາມສ່ຽງຂອງ prompt-injection-class ໃນລະຫັດ ແລະ ການຕັ້ງຄ່ານັ້ນ, ເຊື່ອມຕໍ່ກັບ OWASP Top 10 ສຳລັບແອັບພລິເຄຊັນ LLM, ແລະ ຊີ້ໄປຫາໄຟລ໌ ແລະ ເສັ້ນທີ່ແນ່ນອນ. ຜົນໄດ້ຮັບ: ຂອບເຂດທີ່ສົມບູນສຳລັບທີມສີແດງຂອງທ່ານ, ແລະ ການຄົ້ນພົບທີ່ຫຼີກລ່ຽງໄດ້ໜ້ອຍລົງໃນເວລາທີ່ພວກມັນມາຮອດ.

ຈັດຕາຕະລາງການສາທິດ ເພື່ອເບິ່ງສິນຄ້າຄົງຄັງ AI ຂອງຖານຂໍ້ມູນລະຫັດຂອງທ່ານເອງ.

FAQ #

ເວົ້າງ່າຍໆ, ການຮ່ວມມືກັນແບບ AI ສີແດງແມ່ນຫຍັງ?

ການຮ່ວມມືກັນແບບ AI ສີແດງໝາຍເຖິງການໂຈມຕີລະບົບ AI ຂອງທ່ານເອງໂດຍເຈດຕະນາ, ຄືກັນກັບທີ່ສັດຕູຕົວຈິງເຮັດ, ເພື່ອຄົ້ນພົບວ່າມັນສາມາດຖືກຫຼອກລວງໃຫ້ຮົ່ວໄຫຼຂໍ້ມູນ, ບໍ່ສົນໃຈກົດລະບຽບຂອງມັນ ຫຼື ດຳເນີນການທີ່ບໍ່ປອດໄພໄດ້ແນວໃດ. ຫຼັງຈາກນັ້ນ, ການຄົ້ນພົບຈະຖືກແກ້ໄຂກ່ອນທີ່ຜູ້ໂຈມຕີຈະພົບພວກມັນ.

ການຮ່ວມມືກັນລະຫວ່າງ AI ແລະ LLM ແມ່ນຄືກັນກັບການຮ່ວມມືກັນລະຫວ່າງ LLM ແລະ LLM ບໍ?

ສ່ວນຫຼາຍແລ້ວ. LLM red teaming ສຸມໃສ່ຮູບແບບພາສາ ແລະ ແອັບພລິເຄຊັນທີ່ສ້າງຂຶ້ນເທິງພວກມັນ. AI red teaming ແມ່ນຄຳສັບທີ່ກວ້າງຂວາງ ແລະ ຍັງກວມເອົາຕົວແທນ, ຮູບແບບຫຼາຍຮູບແບບ ແລະ ລະບົບການຮຽນຮູ້ຂອງເຄື່ອງຈັກແບບຄລາສສິກ ເຊັ່ນ: ຕົວຈັດປະເພດຮູບພາບ ຫຼື ຮູບແບບການສໍ້ໂກງ.

ການຈັດທີມດ້ວຍ AI ສີແດງສາມາດເປັນອັດຕະໂນມັດໄດ້ບໍ?

ບາງສ່ວນ. ເຄື່ອງມືອັດຕະໂນມັດສາມາດໃຊ້ຮູບແບບການໂຈມຕີທີ່ຮູ້ຈັກຫຼາຍພັນຮູບແບບ ແລະ ວັດແທກອັດຕາຄວາມສຳເລັດ, ເຊິ່ງເປັນສິ່ງຈຳເປັນສຳລັບການທົດສອບການຖົດຖອຍ. ການໂຈມຕີແບບໃໝ່ຍັງມາຈາກຄວາມຄິດສ້າງສັນຂອງມະນຸດ, ສະນັ້ນໂປຣແກຣມສ່ວນໃຫຍ່ຈຶ່ງລວມທັງສອງຢ່າງເຂົ້າກັນ.

ໃຜຄວນເປັນເຈົ້າຂອງທີມ AI ສີແດງ?

ໃນອົງກອນສ່ວນໃຫຍ່, ມັນຂຶ້ນກັບທີມຄວາມປອດໄພຂອງແອັບພລິເຄຊັນ ຫຼື ທີມງານຄວາມປອດໄພທີ່ໂຈມຕີ, ເຮັດວຽກຮ່ວມກັບວິສະວະກອນທີ່ສ້າງຄຸນສົມບັດ AI. ມັນເປັນການປະຕິບັດດ້ານຄວາມປອດໄພທີ່ນຳໃຊ້ກັບຊອບແວປະເພດໃໝ່, ບໍ່ແມ່ນໜ້າທີ່ AI ແຍກຕ່າງຫາກ.

ເລີ່ມຟຣີ

ເລີ່ມຕົ້ນໄດ້ຟຣີ.
ບໍ່ຕ້ອງມີບັດເຄດິດ.

ເລີ່ມຕົ້ນໄດ້ດ້ວຍການຄລິກດຽວ:

ຂໍ້ມູນນີ້ຈະຖືກບັນທຶກໄວ້ຢ່າງປອດໄພຕາມ ເງື່ອນໄຂການໃຫ້ບໍລິການ ແລະ ນະໂຍບາຍຄວາມເປັນສ່ວນຕົວ

ພາບໜ້າຈໍແອັບ