ხელოვნური ინტელექტის აგენტის უსაფრთხოება

ხელოვნური ინტელექტის აგენტის უსაფრთხოება: იცნობდეთ ყველა აგენტს, აკონტროლეთ რისკი და დაიცავით ის, რასაც ის აინსტალირებს.

ხელოვნური ინტელექტის აგენტის უსაფრთხოება აღარ არის დამოკიდებული იმაზე, თუ რას ამბობს მოდელი. საქმე ეხება იმას, თუ რას აკეთებს აგენტი: რა ინსტრუმენტებს იძახებს, რა მონაცემებს კითხულობს, რა სერთიფიკატებს შეიცავს და რა პაკეტებს აინსტალირებს დამოუკიდებლად.

და გუნდების უმეტესობას არ შეუძლია პირველ კითხვაზე პასუხის გაცემა: რომელ აგენტებს ვმართავთ სინამდვილეში? ისინი საცავებში არიან, როგორც LangChain გრაფიკები, MCP სერვერები, SKILL.md ფაილები და ხელოვნური ინტელექტის კოდირების ინსტრუმენტები, რომლებიც ცალკეულმა დეველოპერებმა პარასკევს შუადღისას დააკონფიგურირეს. ისინი არავის გადაუხედავს და მავნე უნარი უბრალოდ უბრალო ტექსტია.

TL; DR

ხელოვნური ინტელექტის აგენტის უსაფრთხოება ოთხ ეტაპად: ნახეთ, შეაფასეთ, დაიცავით ციკლი, დაიცავით ინსტალაციები

თქვენ არ შეგიძლიათ დაიცვათ აგენტები, რომლებსაც ვერ ხედავთ. ხელოვნური ინტელექტის აგენტის უსაფრთხოება იწყება თქვენს კოდში არსებული ყველა აგენტის, MCP სერვერის, უნარის, მოდელისა და ხელოვნური ინტელექტის კოდირების ინსტრუმენტის ინვენტარიზაციით.

  • რისკი აგენტების აგების წესში: მოთხოვნები, რომლებიც აერთიანებს მომხმარებლის შეყვანას, ხელსაწყოების გამოძახების აგენტებს არა guardrails, ზედმეტად პრივილეგირებული სერთიფიკატები და უნარები ფარული ინსტრუქციებით. მათი უმეტესობა კოდში ჩანს, დანერგვამდე და შეესაბამება OWASP-ის ტოპ 10 აგენტური აპლიკაციებისთვის.
  • უსაფრთხოება ციკლის შიგნით: კოდირების აგენტებს სჭირდებათ უსაფრთხოება თავიანთ ციკლში, ამიტომ ისინი სკანირებენ და ასწორებენ იმას, რასაც წერენ, სანამ ის დაიწერება. commitტედი, არა რამდენიმე კვირის შემდეგ ბილეთში.
  • დაიცავით ინსტალაციები: აგენტებიც აყენებენ დამოკიდებულებებს. მავნე პროგრამების აღმოჩენა, რომელიც ხელმოწერის არსებობამდე მუშაობს, მოიცავს მავნე პაკეტებს, ვინც არ უნდა დააინსტალიროს ისინი, იქნება ეს დეველოპერი თუ აგენტი.
  • ერთი სამუშაო პროცესი: ხელოვნური ინტელექტის მონაცემები იგივე დახარისხებას, ბილეთებსა და ანგარიშებს გადის, როგორც თქვენი AppSec-ის დანარჩენი მონაცემები.

Პირველი ნაბიჯი: შექმენით ხელოვნური ინტელექტის ინვენტარი თქვენს საცავებში, ექსპორტირეთ ის AI-BOM-ის სახით, შემდეგ კი CI-ში შეიყვანეთ ახალი აგენტის კოდი.

რატომ არის ხელოვნური ინტელექტის აგენტის უსაფრთხოება განსხვავებული პრობლემა

LLM ფუნქცია აბრუნებს ტექსტს და ადამიანი წყვეტს, რა გააკეთოს მასთან. აგენტი თავად ხურავს ამ ციკლს: ის გეგმავს, იძახებს ინსტრუმენტებს, კითხულობს ვებ გვერდებს, ელფოსტებს და დოკუმენტებს, წერს ფაილებს და ასრულებს ბრძანებებს. აგენტს მინიჭებული ყველა შესაძლებლობა არის შესაძლებლობა, რომლის სესხებაც თავდამსხმელს შეუძლია.

OWASP-მაც იგივე განსხვავება გააკეთა. OWASP-ის ტოპ 10 აგენტური აპლიკაციებისთვის 2026 წელს (ASI01-დან ASI10-მდე) ეფუძნება OWASP-ის ტოპ 10 LLM აპლიკაციებისთვისLLM სია მოიცავს მოდელის მიერ შესრულებულ სამუშაოს; აგენტების სია მოიცავს აგენტის მიერ შესრულებულ სამუშაოს.

ამჟამად, ორგანიზაციების უმეტესობა ორი სახის აგენტს იყენებს:

  • თქვენს აპლიკაციებში ინტეგრირებული აგენტები: დამხმარე ასისტენტები, შიდა თანაპილოტები და სამუშაო პროცესები, რომლებიც აგებულია ისეთი ჩარჩოებით, როგორიცაა LangChain, LangGraph, CrewAI, AutoGen, Semantic Kernel ან LlamaIndex, რომლებიც ხშირად დაკავშირებულია ინსტრუმენტებთან MCP სერვერები.
  • ხელოვნური ინტელექტის კოდირების აგენტები, რომლებსაც თქვენი დეველოპერები იყენებენ: Claude Code, Cursor, GitHub Copilot, Windsurf და სხვები, რომლებიც წერენ კოდს, არედაქტირებენ კონფიგურაციას და ამატებენ დამოკიდებულებებს.

ხელოვნური ინტელექტის აგენტის უსაფრთხოება ორივეს უნდა მოიცავდეს, რადგან ორივე თქვენი ნებართვებით მოქმედებს.

ნაბიჯი 1: ყველა აგენტის, MCP სერვერისა და უნარის ინვენტარიზაცია

ხელოვნური ინტელექტის აგენტის უსაფრთხოება კითხვების დაფით იწყება და აუდიტორები ახლა კითხულობენ: რომელ ხელოვნურ ინტელექტს ვმართავთ? Xygeni AI უსაფრთხოება პასუხობს მას წყაროდან: კოდი, კონფიგურაცია, მანიფესტები და დამოკიდებულებები.

ის აღმოაჩენს მოდელებს, აგენტებსა და აგენტ სერვერებს, ხელოვნური ინტელექტის ჩარჩოებს, MCP სერვერებს და მათ ინსტრუმენტებს, უნარებს (SKILL.md, AGENTS.md), მინიშნებები, guardrails, ვექტორული საცავები, მონაცემთა ნაკრებები, ინფერენციის საბოლოო წერტილები და თქვენს საცავებში კონფიგურირებული ხელოვნური ინტელექტის კოდირების ინსტრუმენტები. ის ასევე ასახავს, ​​თუ როგორ უკავშირდებიან ისინი ერთმანეთს: რომელი აგენტი იყენებს რომელ მოდელს, ასრულებს რომელ ინსტრუმენტებს და იძახებს რომელ MCP სერვერებს.

შედეგად მიიღება ცოცხალი ხელოვნური ინვენტარი, რომლის ექსპორტირება შესაძლებელია AI-BOM-ის სახით CycloneDX ფორმატში, თითოეული აქტივის მმართველობის ჩანაწერით, რომელიც მოიცავს ევროკავშირის ხელოვნური ინტელექტის აქტის რისკის კატეგორიის ველს.

გსურთ ნახოთ, რა არის ხელოვნური ინტელექტი უკვე თქვენს კოდში? დაჯავშნეთ შეხვედრა ინჟინერთან, და ჩვენ შევქმნით თქვენი ერთ-ერთი საცავის ხელოვნური ინვენტარს.

ნაბიჯი 2: გაითვალისწინეთ რისკები აგენტების შექმნის პროცესში

აგენტის დაუცველობების უმეტესობა ეგზოტიკური არ არის. ისინი წარმოადგენენ სტრიქონების შეერთებით აგებულ მოთხოვნებს, ხელსაწყოების გამომძახებელ აგენტს შეყვანის დამცავი ბარიერის გარეშე ან გაცილებით დიდი სერთიფიკატით, ვიდრე აგენტს სჭირდება. ყველა მათგანი კოდში თითის ანაბეჭდებს ტოვებს, ამიტომ მათი აღმოჩენა CI-ში, განლაგებამდე შეგიძლიათ.

ხელოვნური ინტელექტის აგენტი რისკავს, რომლის დაჭერაც კოდში შეიძლება

თითოეული რისკი შეესაბამება OWASP-ის ტოპ 10 LLM აპლიკაციებისთვის ან მისი აგენტი თანამგზავრები, ამიტომ დასკვნები იმავე ენაზე საუბრობს, რასაც თქვენი აუდიტორები.

რისკისროგორ გამოიყურება კოდშიOWASP-ის რუკების შედგენა
სწრაფი ინექციასისტემის მოთხოვნები, რომლებიც აერთიანებს მომხმარებლის შინაარსს როლების გამიჯვნის, გამყოფების ან guardrailsLLM01
არაპირდაპირი ინექციაინსტრუმენტების გამომძახებელი აგენტები შეყვანის გარეშე guardrailsან აგენტები, რომლებიც ვებგვერდებს, ელფოსტას ან ამოღებულ დოკუმენტებს დაუმუშავებლად შთანთქავენLLM01
გამომავალი მონაცემების არაუსაფრთხო დამუშავებამოდელის გამომავალი მიღწევა eval ან სხვა სახიფათო ჩამკეტები, რომლებიც ფუნქციებსა და ფაილებში ხვდებაLLM05
ზედმეტად პრივილეგირებული აგენტის იდენტობებიარაადამიანური იდენტობის ბოროტად გამოყენებასტატიკური, ხანგრძლივი მოქმედების მქონე ავტორიზაციის მონაცემები, გაზიარებული ავტორიზაციის მონაცემები მოქმედების არეალის შევიწროების გარეშე, MCP ან ხელსაწყოების სერვერები, რომლებიც მუშაობენ ამაღლებული პრივილეგიებით.ASI03
მავნე ან არასწორი წერის უნარებიაგენტის უნარების მიწოდების ჯაჭვიდამალული მავნე დირექტივები SKILL.md or AGENTS.md, უნარების სახელები, რომლებიც ცნობილ უნარებს ან ინტეგრაციებს ასახიერებენაგენტის უნარების ტოპ 10
საიდუმლოებები მოთხოვნებშისერთიფიკატები შენახულია მოთხოვნის ფაილებშიLLM07

ყველა აღმოჩენას აქვს საკუთარი OWASP LLM ტოპ 10 კატეგორია, პლუს OWASP აგენტური აპლიკაციებისა და აგენტური უნარების თეგები, სადაც ისინი გამოიყენება, და ჩართული წითელი გუნდის შეტევის ვექტორები.

უნარები განსაკუთრებულ ყურადღებას იმსახურებს, რადგან უნარების ფაილში არსებული მავნე ინსტრუქცია პროზაა და არა კოდი და მისი დანახვა ხელმოწერით შეუძლებელია. ხელოვნური ინტელექტის არჩევითი მიმოხილვა აფასებს დროშით მონიშნული უნარებისა და აგენტის ინსტრუქციების ფაილების განზრახვას ვერსიონიზებული, დეტერმინისტული კონფიგურაციით, ამიტომ ერთი და იგივე ფაილი ყოველთვის ერთსა და იმავე განაჩენს იღებს. მას შეუძლია თქვენს საკუთარ, თვითჰოსტინგ მოდელზე მუშაობა, ამიტომ კოდი და მოთხოვნები არ უნდა დატოვონ თქვენი გარემო. შემდეგ უნარების დონის ქულა ამ სიგნალებს ერთ პასუხად აერთიანებს: უსაფრთხოა, სიფრთხილე ან არ დააინსტალიროთ.

უფრო ღრმად ჩადით: უყურეთ ჩვენს სესიას აფეთქების რადიუსი: როდესაც აგენტი შეეხება იმას, რაც არ გითხოვიათ, იმის შესახებ, თუ რა ხდება, როდესაც აგენტის ნებართვები მის ამოცანებზე მეტს მოიცავს.

ნაბიჯი 3: უსაფრთხოების ელემენტის განთავსება კოდირების აგენტის ციკლში

ხელოვნური ინტელექტის კოდირების აგენტები წერენ და commit კოდის გადახედვაზე უფრო სწრაფად, ვიდრე ვინმეს შეუძლია. ორი კვირის შემდეგ ბილეთში მოხვედრილი დასკვნა იშვიათად გამოსწორდება. გამოსწორება უნდა მოხდეს მაშინ, როდესაც აგენტი ჯერ კიდევ მუშაობს.

Xygeni MCP სერვერი მუშაობს ლოკალურად და მუშაობს ნებისმიერ ხელოვნური ინტელექტის კოდირების აგენტთან, რომელიც მხარს უჭერს MCP-ს, რა მოდელზეც არ უნდა მუშაობდეს. აგენტს შეუძლია დაასკანიროს ახლახან დაწერილი კოდი, ჩამოთვალოს ახალი პრობლემები, მიიღოს ხელოვნური ინტელექტის ტრიაჟის დასკვნები და მოითხოვოს გამოსწორებები. SAST მდე SCA დასკვნები. ის იტერაციას განიცდის მანამ, სანამ ცვლილება არ გახდება ნათელი, სანამ რამე არ მოხდება committed, თქვენი გუნდის მიერ დადგენილი დამტკიცებებით.

ის იყენებს იგივე ძრავებს, პოლიტიკას და დადუმების წესებს, რასაც თქვენი pipeline, რათა აგენტი და თქვენი CI არასდროს არ ეთანხმებოდნენ ერთმანეთს. აგენტთან ერთად მომუშავე დეველოპერებისთვის, IDE დანამატები რედაქტორში შეიტანეთ იგივე დასკვნები და შესწორებები.

ნაბიჯი 4: დაიცავით ის, რასაც აგენტები აინსტალირებენ

ხელოვნური ინტელექტის კოდირების აგენტს შეუძლია დამოუკიდებლად დაამატოს დამოკიდებულება და ის არ გაჩერდება იმის შესამოწმებლად, ლეგიტიმურია თუ არა ნაცნობი სახელის მქონე სრულიად ახალი პაკეტი. თავდამსხმელებმა ეს იციან და ისინი ღია კოდის რეესტრებს ელოდებიან.

მავნე პროგრამებისგან დაცვა მავნე პაკეტების სიგნალიზაციას ახდენს ხელმოწერის არსებობამდე, ვინც არ უნდა დააინსტალიროს ისინი, დეველოპერი თუ აგენტი. დეველოპერის მანქანაზე, Shield ნებისმიერი რამის გაშვებამდე აწესებს პოლიტიკას: ახალი პაკეტების მინიმალური ასაკი, IDE გაფართოებებისა და დანამატების დაფარვა, მავნე ინდიკატორებისა და სარისკო გეოგრაფიული ზონების ბლოკირება და საბოლოო წერტილის იზოლაცია, როდესაც მანქანას სჭირდება შეკავება.

გსურთ უფრო ღრმად ჩასვლა?

დამმუშავებლის ხარვეზი და მასზე მოხვედრილი ღია საბოლოო წერტილი ერთი პრობლემაა ერთი მფლობელით. და თუ თქვენ უკვე იყენებთ სხვა DAST ინსტრუმენტს, Xygeni იმპორტს ახდენს მის შედეგებს იმავე რისკის ხედში, მისი შეცვლის მოთხოვნის გარეშე.

გსურთ ნახოთ, რომ ორივე ფენა ერთად მუშაობს? უყურეთ ჩვენს სესიას კოდიდან გაშვების დრომდე: რატომ SAST + DAST ორივე აუცილებელია თანამედროვე AppSec-ისთვის, სადაც განვიხილავთ, თუ როგორ ადასტურებენ ერთმანეთს კოდის დასკვნები და გაშვების ტესტები.

ერთი სამუშაო პროცესი და არა კიდევ ერთი კონსოლი.

ხელოვნური ინტელექტის აგენტის უსაფრთხოება ვერ ხერხდება, როდესაც ის ცალკე ინსტრუმენტად იქცევა საკუთარი რიგით. Xygeni-ში ხელოვნური ინტელექტის აღმოჩენები იმავე ძაბრის გავლით გადის, ხელოვნური ინტელექტის ტრიაჟი, ბილეთები და ანგარიშები, როგორც თქვენი დანარჩენი დასკვნები. AI Remediation გთავაზობთ კონტექსტის გათვალისწინებით გამოსასწორებელ რჩევებს OWASP LLM-ის ათივე კატეგორიისთვის და ASPM ხელოვნური ინტელექტის რისკს კოდის, დამოკიდებულებისა და pipeline რისკი ერთი შეხედვით.

ხელოვნური ინტელექტის აგენტის უსაფრთხოება და შესაბამისობა

მარეგულირებლები, აუდიტორები და მომხმარებლები სულ უფრო ხშირად ითხოვენ თქვენს მიერ გამოყენებული ხელოვნური ინტელექტის ინვენტარიზაციას და მისი რისკების კლასიფიკაციას. ევროკავშირის AI აქტი მდე ISO / IEC 42001 ორივე ამ მიმართულებით მიიწევს წინ და AI-BOM ხდება standard პუნქტი შესყიდვების კითხვარებში.

ხელოვნური ინვენტარი, რომელიც თითოეული აქტივის რისკის კატეგორიის ველს შეიცავს, თქვენს მმართველ გუნდს ამ სამუშაოსთვის მტკიცებულებების საფუძველს აძლევს. ის მხარს უჭერს ევროკავშირის ხელოვნური ინტელექტის აქტისადმი მზაობას; ეს არ არის შესაბამისობის შეფასება და არ ცვლის თქვენს სამართლებრივ მიმოხილვას.

ან საშუალო ზომის გუნდები მარტივია:

  1. ყოველ pull request: API უსაფრთხოება CI-ში შეცვლილ კოდზე, პლუს დამატებითი DAST სკანირება.
  2. მანამდე commit: როგორც pre-commit კარიბჭე დადგმულ ფაილებზე.
  3. ყოველ ღამე ან შერწყმის დროს: სრული DAST სკანირება.
  4. თითოეული მნიშვნელოვანი გამოშვების წინ: ხელოვნური ინტელექტის შეღწევადობის ტესტირება ეტაპობრივად, რათა დადასტურდეს შეჩერებული სამუშაოები და დადასტურდეს, რომ თითოეული გამოსწორების შედეგად ამოიწურა ხვრელი.

API უსაფრთხოების სკანერი მუშაობს ყველგან, მათ შორის ჰაერის ხარვეზებით დაცულ გარემოში და ანგარიშს აგზავნის Xygeni SaaS-ზე ან თქვენს... on-premises პლატფორმა. შედეგები JSON ფორმატში გამოდის, სარიფი 2.1.0, CSV და Markdown pull request კომენტარები.

API-ის უსაფრთხოების ტესტირება და შესაბამისობა

საბანკო, სადაზღვევო ან საჯარო სექტორის გუნდებისთვის API უსაფრთხოების ტესტირება ასევე მტკიცებულებაა. ყველა აღმოჩენას აქვს შესაბამისობის ტეგები GDPR მუხლი 32, PCI DSS 4.0 (მოთხოვნები 3.4, 6.4.3, 7.1, 7.2 და 8) და NIST SP 800-53 (AC-3, AC-6, IA-2, IA-5), ხილული პლატფორმაზე და JSON და SARIF გამომავალში.

თუ თქვენი ორგანიზაცია ექვემდებარება დორა or NIS2, გაშვების დროს ტესტირება გაძლევთ უწყვეტ მტკიცებულებას ხელით შეღწევადობის ტესტებს შორის, რომლებიც თქვენს რეგულატორებს ჯერ კიდევ სჭირდებათ. 

როგორ განვახორციელოთ ხელოვნური ინტელექტის აგენტის უსაფრთხოება 7 ნაბიჯში

აქ მოცემულია პრაქტიკული საკონტროლო სია, იმ თანმიმდევრობით, რომ ხელოვნური ინტელექტის აგენტის უსაფრთხოება რეალურ დეველოპერულ გუნდში ყველაზე სწრაფად იმუშაოს.

  1. აღმოაჩინეთ

    ინვენტარიზაცია გაუკეთეთ თქვენს საცავებში არსებულ ყველა ხელოვნური ინტელექტის აქტივს

    დაასკანირეთ ყველა საცავი აგენტების, MCP სერვერების, უნარების, მოდელების, მოთხოვნებისა და ხელოვნური ინტელექტის კოდირების ინსტრუმენტების აღმოსაჩენად და შედეგი ექსპორტირებულია AI-BOM-ის სახით. ეს არის თქვენი საბაზისო ხაზი და სია, საიდანაც ყოველი მეორე ნაბიჯი მუშაობს.

  2. დაალაგეთ

    თითოეულ აგენტს მიანიჭეთ მფლობელი და რისკის დონე

    თითოეული აგენტისთვის, ჩაიწერეთ, ვის ეკუთვნის ის, რომელ მონაცემებსა და ინსტრუმენტებზე შეუძლია წვდომა და რა რისკის კატეგორია აქვს მას ევროკავშირის ხელოვნური ინტელექტის აქტის შესაბამისად. აგენტი, რომელსაც არავინ ფლობს, არის აგენტი, რომელსაც არავინ გამოასწორებს.

  3. გამოავლინონ

    აგენტის კოდის სკანირება CI-ში ყოველ pull request

    სხვა სკანირებების გვერდით გაუშვით ხელოვნური ინტელექტის რისკის აღმოჩენა. დაიწყეთ არაბლოკირებადი რეჟიმით საწყისი ხაზის სანახავად, შემდეგ კი გუნდების გაწმენდის შემდეგ კრიტიკულ აღმოჩენებზე დაბლოკვა გაერთიანდება.

  4. მიმოხილვა

    გადახედეთ უნარებს, სანამ ვინმე დააინსტალირებს მათ

    უნარებისა და აგენტის ინსტრუქციების ფაილების სკანირება, როგორიცაა SKILL.md მდე AGENTS.md, ჩართეთ ხელოვნური ინტელექტის განზრახვის მიმოხილვა და „ინსტალირების აკრძალვის“ გადაწყვეტილება მკაცრ აკრძალვად ჩათვალეთ.

  5. შეზღუდოს

    შემცირებული აგენტის ნებართვები

    სტატიკური, ხანგრძლივი მოქმედების მქონე ავტორიზაციის მონაცემები შეცვალეთ შეზღუდული შესაძლებლობის მქონე ავტორიზაციის მონაცემებით, შეწყვიტეთ აგენტებს შორის ავტორიზაციის მონაცემების გაზიარება და არასდროს გაუშვათ MCP ან ხელსაწყოების სერვერები ისეთი ამაღლებული პრივილეგიებით, რომლებიც მათ არ სჭირდებათ.

  6. ციკლში გამოსწორება

    უსაფრთხოების ელემენტების განთავსება კოდირების აგენტის ციკლში

    დააკავშირეთ თქვენი ხელოვნური ინტელექტის კოდირების აგენტები უსაფრთხოების MCP სერვერთან, რათა მათ საკუთარი კოდი დაასკანირონ და გამოასწორონ მის დამუშავებამდე. commitტედირებული, იგივე პოლიტიკით, რაც თქვენი pipeline.

  7. დაცვა

    დაიცავით ყველაფერი, რაც დეველოპერის მანქანებზე მოხვდება

    ახალი პაკეტებისთვის მინიმალური ასაკის დაწესება, მავნე პაკეტების აღმოჩენა ხელმოწერის არსებობამდე და IDE გაფართოებებისა და დანამატების დაფარვა, ვინც არ უნდა დააინსტალიროს ისინი, დეველოპერი თუ აგენტი.

მაშინ: ყველა აღმოჩენა მოათავსეთ იმავე დახარისხების, ბილეთების გაცემისა და ანგარიშგების სამუშაო პროცესში, როგორც თქვენი AppSec-ის დანარჩენი სისტემა, რათა ხელოვნური ინტელექტის რისკი დამოუკიდებლად არ აღმოჩნდეს რიგში.

ვერ დაიქირავებ აგენტს, რომელსაც არასდროს შეხვედრიხარ

ხელოვნური ინტელექტის აგენტის უსაფრთხოება კიდევ ერთი სკანერი არ არის. ეს ნიშნავს იმის ცოდნას, თუ რომელ აგენტებს იყენებთ, რისკის აღმოჩენას მათი აგების პროცესში, უსაფრთხოების უზრუნველყოფას კოდირების აგენტის ციკლში და იმის დაცვას, თუ რას აინსტალირებენ აგენტები. დაიწყეთ ინვენტარით: ყველაფერი დანარჩენი ამაზეა დამოკიდებული.

გსურთ თქვენს კოდში ნახოთ ყველა აგენტი, MCP სერვერი და უნარი? დაჯავშნეთ შეხვედრა ინჟინერთან თქვენი საცავების ხელოვნური ინვენტარის შესაქმნელად და მისი დასკვნების გადასახედად. ან დაიწყე უფასოდ AI– სთან ერთად SAST, SCA, საიდუმლოებების აღმოჩენა, IDE დანამატები და მავნე პროგრამების აღმოჩენა ღია კოდის პაკეტებზე. საკრედიტო ბარათის გარეშე.

ხელოვნური ინტელექტის აგენტის უსაფრთხოების ხშირად დასმული კითხვები

რით განსხვავდება ხელოვნური ინტელექტის აგენტის უსაფრთხოება LLM უსაფრთხოებისგან?

LLM-ის უსაფრთხოება ეხება იმას, თუ რას ამბობს მოდელი: გაჟონილი მონაცემები, მანიპულირებული პასუხები, სახიფათო გამომავალი მონაცემები. ხელოვნური ინტელექტის აგენტის უსაფრთხოება ეხება იმას, თუ რას აკეთებს აგენტი ხელსაწყოების, მეხსიერების, სერთიფიკატების და სხვა აგენტების გამოყენებით. სწორედ ამიტომ, OWASP აქვეყნებს ცალკე ტოპ 10-ს აგენტური აპლიკაციებისთვის (ASI01-დან ASI10-მდე), LLM-ის ტოპ 10-ის გარდა.

როგორ მოვძებნო ჩემს ორგანიზაციაში ხელოვნური ინტელექტის აგენტები და MCP სერვერები?

დაიწყეთ კოდიდან. Xygeni AI Security აღმოაჩენს თქვენს საცავებში აგენტებს, MCP სერვერებს, უნარებს, მოდელებს, მოთხოვნებს და ხელოვნური ინტელექტის კოდირების ინსტრუმენტებს, ასახავს, ​​თუ როგორ უკავშირდებიან ისინი ერთმანეთს და შედეგს ექსპორტს უკეთებს AI-BOM-ის სახით CycloneDX ფორმატში. ის მუშაობს CI-ში თქვენი სხვა სკანირების გვერდით.

შეუძლია თუ არა მავნე უნარს ან MCP სერვერს ჩემი დეველოპერების კომპრომეტირება?

დიახ: უნარის ინსტრუქციები უბრალო ტექსტია და აგენტი მათ დეველოპერის ნებართვით მიჰყვება. Xygeni აღნიშნავს დამალულ მავნე დირექტივებს და უნარების სახელების გაყალბებას, შეუძლია შეაფასოს უნარის განზრახვა ხელოვნური ინტელექტის არჩევითი მიმოხილვით და შეაფასოს თითოეული უნარი, როგორც უსაფრთხო, ფრთხილად ან არ დააინსტალიროთ. მავნე პროგრამებისგან დაცვა და Shield დაფარეთ შემოტანილი პაკეტები და გაფართოების აგენტები.

sca-tools-software-composition-analysis-tools
თქვენი პროგრამული უზრუნველყოფის რისკების პრიორიტეტიზაცია, გამოსწორება და დაცვა
მიიღეთ თქვენი უფასო ანგარიში.
საკრედიტო ბარათი არ არის საჭირო.

უზრუნველყავით თქვენი პროგრამული უზრუნველყოფის შემუშავება და მიწოდება

Xygeni Product Suite-თან ერთად