ჰკითხეთ უსაფრთხოების ხელმძღვანელს, რამდენი ხელოვნური ინტელექტის ინსტრუმენტი ეხება კომპანიის მონაცემებს ამჟამად და მიიღებთ დარწმუნებულ რიცხვს. ეს არასწორი იქნება და არა იმიტომ, რომ ვინმე რამეს მალავს. ჩრდილოვანი ხელოვნური ინტელექტის უმეტესობა არაფერს ტოვებს საპოვნელად: არც ინსტალაციას, არც ლიცენზიას, არც ხაზოვან ელემენტს. ბრაუზერის ჩანართი და პირადი... login საკმარისია. თქვენი პოლისის მიერ დაფარულ ხელოვნურ ინტელექტსა და თქვენი ორგანიზაციის მიერ რეალურად მართვად ხელოვნურ ინტელექტს შორის არსებული უფსკრული იწვევს ჩრდილოვანი ხელოვნური ინტელექტის რისკს და ის IT სქოლიოდან AppSec-ის ერთ-ერთ ყველაზე სწრაფად მზარდ კატეგორიად გადაიქცა. ეს სახელმძღვანელო განიხილავს, თუ როგორ უნდა გამოვავლინოთ და აღმოვფხვრათ ჩრდილოვანი ხელოვნური ინტელექტი პრაქტიკაში, აღმოჩენის სიგნალებითა და მმართველობის ნაბიჯებით, რომლებიც აუდიტის დასრულების შემდეგ რჩება ძალაში.
ჩრდილოვანი ხელოვნური ინტელექტის რისკი ერთ აბზაცში
Shadow AI არის ნებისმიერი AI ინსტრუმენტი, მოდელი, აგენტი ან API ზარი, რომელიც მოქმედებს თქვენს ორგანიზაციაში უსაფრთხოების ან IT მიმოხილვის გარეშე. ეს არის ჩრდილოვანი IT-ის პირდაპირი მემკვიდრე, თუმცა მისი დაჭერა უფრო რთულია: ჩრდილოვანი IT, როგორც წესი, ტოვებს შესყიდვების ჩანაწერს ან ქსელის ხელმოწერას, რომელსაც CASB-ი შეიძლება შეესაბამებოდეს. ჩრდილოვანი ხელოვნური ინტელექტი ხშირად არცერთს არ ტოვებს. თანამშრომელი ათავსებს კონტრაქტს ჩატბოტში, რომელიც შესულია პირადი ანგარიშით, ან დეველოპერი მოდელის პროვაიდერიდან API გასაღებს პირდაპირ სკრიპტში აგზავნის და ეს არცერთი არ ეხება მომწოდებლის ინვენტარს. ორი დამოუკიდებლად მოხსენებული მაჩვენებელი აჩვენებს, თუ რამდენად დიდია უკვე დაგროვილი ჩრდილოვანი ხელოვნური ინტელექტის რისკი: Unseen Security-ის 2026 წლის ჩრდილოვანი ხელოვნური ინტელექტის მდგომარეობის ანგარიშის თანახმად, დასაქმებულთა 80% იყენებს ხელოვნური ინტელექტის ინსტრუმენტებს, რომლებიც მათ ორგანიზაციას არ დაუმტკიცებია, ხოლო ორგანიზაციების 86% ამბობს, რომ მათ არ აქვთ ხედვა იმის შესახებ, თუ როგორ მიედინება მონაცემები რეალურად უკვე გამოყენებულ ხელოვნურ ინტელექტუალურ ინსტრუმენტებზე და მათკენ.
რატომ გადააჭარბა ჩრდილოვანი ხელოვნური ინტელექტის რისკმა ჩრდილოვან IT-ს?
სამი ცვლა ხსნის, თუ რატომ მოძრაობდა ჩრდილოვანი ხელოვნური ინტელექტის რისკი უფრო სწრაფად, ვიდრე ჩრდილოვანი IT-ის დასაჭერად შექმნილი მმართველობა და არცერთი მათგანი არ არის შექცევადი.
- ხელოვნურ ინტელექტს ინსტალაცია აღარ სჭირდებოდა. ჩრდილოვანი IT-ის (არასანქცირებული SaaS, rogue ბრაუზერის გაფართოებები) განსაზღვრული ინსტრუმენტები აქტივების ინვენტარში მტკიცებულებებს ტოვებდა. ბრაუზერის ჩანართში გახსნილი ხელოვნური ინტელექტის ასისტენტი ან პერსონალური ბარათით გამოძახებული მოდელის API არაფერს ტოვებს საბოლოო წერტილის მონიტორინგისთვის ან შესყიდვებისთვის შესამოწმებლად.
- ხელოვნური ინტელექტი თქვენს მიერ უკვე დამტკიცებულ ინსტრუმენტებში გადავიდა. თანაპილოტის სტილის ფუნქციები ახლა უკვე დაშვებულთა სიაში შემავალ პლატფორმებზეა ჩაშენებული. პლატფორმა გადახედეს. ხელოვნური ინტელექტის შესაძლებლობები მასში ჩუმად ჩაირთო, თუმცა, როგორც წესი, ასე არ ხდებოდა.
- მოცულობა ადამიანის მიერ მოქმედიდან მანქანურ მასშტაბზე გადავიდა. Zscaler-ის ThreatLabz-ის გუნდმა გააანალიზა ხელოვნური ინტელექტისა და მანქანური სწავლების 536.5 მილიარდი ტრანზაქცია. მის ღრუბელში და წლიურად 3,464.6%-იანი ზრდა დაფიქსირდა enterprise ხელოვნური ინტელექტის/მანქანური სწავლების ტრაფიკი. ცვლილების ასეთი მასშტაბი სწორედ ამიტომ არის ერთი წლის წინ ჩატარებული ხელოვნური ინტელექტის ჩრდილოვანი რისკის შეფასება უკვე მოძველებული და რატომ ხდება პერიოდული აუდიტები ყოველთვიურად მწვავდება და პრობლემას აფუჭებს.
სად იმალება სინამდვილეში ჩრდილოვანი ხელოვნური ინტელექტი
უსაფრთხოების ჯგუფები, რომლებიც ჩრდილოვანი ხელოვნური ინტელექტის რისკებს ჩრდილოვანი IT ინსტრუმენტებით ეძებენ, როგორც წესი, არასრული სიით ბრუნდებიან, რადგან დამალვის ადგილები განსხვავებულია:
- ბრაუზერზე დაფუძნებული ინსტრუმენტები საბოლოო წერტილის კვალის გარეშე. ხელოვნური ინტელექტი მთლიანად ჩანართში მუშაობს. არც აგენტია აღმოსაჩენი და არც ინსტალაციისთვის საჭირო.
- სანქცირებულ პლატფორმებში ჩაშენებული ხელოვნური ინტელექტის ფუნქციები. პლატფორმა გადაიხედა. მოგვიანებით მასში დამატებული ხელოვნური ინტელექტის ფუნქცია, როგორც წესი, არ გადაიხედა.
- API-ის გამოყენების პირადი ხარჯები. დეველოპერი მოდელის API-ს პირად ბარათზე ათავსებს და პირდაპირ კოდიდან იძახებს. ის არასდროს აღწევს შესყიდვებამდე, შესაბამისად, არასდროს აღწევს ინვენტარამდე.
- განუხილველი აგენტის ინსტრუქციები და უნარების ფაილები. აგენტური კოდირების ინსტრუმენტები სულ უფრო ხშირად მიჰყვება საცავში პირდაპირ ჩაწერილ ინსტრუქციებს (უნარების ფაილები, აგენტის წესები) და ამ ფაილებს შეუძლიათ აგენტი დააკავშირონ მოდელთან, მონაცემთა ნაკრებთან ან MCP სერვერთან, რომელზეც არავინ იყო ხელმოწერილი.
როგორ ამოვიცნოთ და მოვხსნათ Shadow AI
ჩრდილოვანი ხელოვნური ინტელექტის აღმოჩენისა და აღმოფხვრის ცოდნა ნიშნავს მის ორ ცალკეულ პრობლემად აღქმას, რომლებიც ერთად უნდა მუშაობდეს: იმის პოვნა, რაც უკვე არსებობს და იმის უზრუნველყოფა, რომ ის უმართავად არ დაბრუნდეს.
მისი აღმოჩენა: სამი სიგნალი, რომლებიც ერთად მუშაობენ
ჩრდილის ხელოვნური ინტელექტის ყველა რისკს ერთი სკანირება ვერ პოულობს, რადგან ზემოთ თითოეული სამალავი განსხვავებულ კვალს ტოვებს.
- ქსელის და პროქსი სერვერის ჟურნალები. თქვენი firewall-ის, proxy-სა და DNS ჟურნალები უკვე იწერენ გამავალ ზარებს ხელოვნური ინტელექტის პროვაიდერის საბოლოო წერტილებზე, მიუხედავად იმისა, დამტკიცდა თუ არა ინსტრუმენტი. მაღალი სიხშირის API ზარები ერთი ჰოსტიდან, დიდი გამავალი დატვირთვები ან არასამუშაო საათების განმავლობაში ავტომატიზირებული ტრაფიკი მოდელის საბოლოო წერტილზე არის ის ნიმუშები, რომელთა გათვალისწინებაც ღირს.
- იდენტობისა და წვდომის სიგნალები. ქსელის ჟურნალები გეუბნებათ, რომ ინსტრუმენტი გამოიყენება; თქვენი საიდენტიფიკაციო პროვაიდერი გეუბნებათ, ვინ დგას მის უკან და რამდენი წვდომა გადასცა მათ. ყურადღება მიაქციეთ OAuth-ის მინიჭებას განუხილველი ხელოვნური ინტელექტის აპლიკაციებისთვის, ხელოვნური ინტელექტის ინსტრუმენტებში შესვლას პირადი და არა კორპორატიული ანგარიშებით და სერვისის ანგარიშის API აქტივობას, რომლის ახსნაც არავის შეუძლია.
- აქტივებისა და კოდის დონის აღმოჩენა. ეს არის ფენა standard shadow-IT ინსტრუმენტების გამოყენება შეცდომებს უშვებს და ეს სპეციფიკურია იმაში, თუ როგორ ჩნდება ხელოვნური ინტელექტი პროგრამულ უზრუნველყოფაში: მოდელები, მონაცემთა ნაკრებები, დასკვნითი წერტილები, აგენტები, MCP სერვერები და ხელოვნური ინტელექტის კოდირების ინსტრუმენტები, რომლებიც პირდაპირ მითითებულია საცავებში, pipelines და უნარების ფაილები, არა მხოლოდ ბრაუზერის ტრაფიკში. ამ ფენის გარეშე, თქვენ შეგიძლიათ ნახოთ ეს მოდელის API გამოიძახეს; თქვენ ვერ ხედავთ რომელიც აგენტმა დაუძახა, რომელიც pipeline, ან რას უკავშირდება ის, რაც ზუსტად იქ არის ჩრდილოვანი ხელოვნური ინტელექტის რისკი მიწოდების ჯაჭვის ინციდენტად იქცევა პოლიტიკის დარღვევის ნაცვლად.
მისი აღმოფხვრა: ოთხი ნაბიჯი, რომელიც მას გამყარებაში დაეხმარება
აღმოჩენა გეუბნებათ, რა მუშაობს უკვე. ამის გამძლე აუდიტად გადაქცევას ოთხი ნაბიჯი სჭირდება, რომელიც ციკლის სახით უნდა შესრულდეს და არა ერთჯერადი აუდიტით, რადგან ჩრდილოვანი ხელოვნური ინტელექტის რისკი უფრო სწრაფად იცვლება, ვიდრე ნებისმიერი წლიური მიმოხილვა აკონტროლებს.
- შექმენით ერთი ინვენტარი და არა სამი. ტრადიციული აქტივები (რეპოები, pipelines, კონტეინერები) და ხელოვნური ინტელექტის აქტივები (მოდელები, მონაცემთა ნაკრებები, აგენტები, MCP სერვერები, კოდირების ინსტრუმენტები) ერთსა და იმავე ხედში უნდა იყოს განთავსებული, მათ შორის ურთიერთობები კი შედგენილია. ხელოვნური ინტელექტის ინსტრუმენტი, რომელიც თავისთავად უვნებლად გამოიყურება, შეიძლება რეალურ აღმოჩენად იქცეს, როდესაც დაინახავთ, თუ რომელი მონაცემთა ნაკრები კვებავს მას და რომელ საბოლოო წერტილთან კომუნიკაციას ახდენს.
- პოლიტიკის დაწერამდე გააკეთეთ კლასიფიკაცია. „ხელოვნური ინტელექტის ინსტრუმენტებში მგრძნობიარე მონაცემების“ აკრძალვის წესი არაფერს ნიშნავს, თუ ვერავინ იტყვის, რომელი მონაცემებია მნიშვნელოვანი. იცოდეთ, სად ინახება რეგულირებადი და კონფიდენციალური მონაცემები და მიეცით ამ კლასიფიკაციას საშუალება გადაწყვიტოს, ხელოვნური ინტელექტის რომელი გამოყენების შემთხვევებია მისაღები და რომელი არასდროს ტოვებს შენობას.
- მიეცით გუნდებს უფრო სწრაფი დამტკიცების გზა და არა უფრო გრძელი აკრძალვების სია. ადამიანები ჩრდილოვან ხელოვნურ ინტელექტს იმიტომ მიმართავენ, რომ სანქცირებული ვარიანტი მათ წინ უკვე გახსნილ ჩანართზე უფრო ნელია. დამტკიცებული მოდელებისა და აგენტების რეგულირებადი კატალოგი, სადაც დეველოპერებისგან ამოღებულია რწმუნებათა სიგელები, პოლიტიკის გვერდის ავლის საფუძველს აღარ იძლევა.
- აღასრულეთ იქ, სადაც რისკი რეალურად მოქმედებს: ინსტალაციასა და გამოძახებაზე. დოკუმენტში მოდელის დაბლოკვა აგენტს მის ინსტალაციაში ხელს არ უშლის. აღსრულება უნდა მოხდეს პაკეტის ინსტალაციის ან API-ს გამოძახების ეტაპზე, ამიტომ დაბლოკილი მოქმედება ავტომატურად ჩაიშლება და არ უნდა იყოს დამოკიდებული წესის დამახსოვრებაზე.
რას ნიშნავს ჩრდილოვანი ხელოვნური ინტელექტის რისკი AppSec-ისთვის და არა მხოლოდ IT-სთვის
ჩრდილოვანი ხელოვნური ინტელექტის (ჩრდილოვანი ხელოვნური ინტელექტი) ინსტრუქციების უმეტესობა ამას მხოლოდ მონაცემთა დაკარგვის პრევენციის პრობლემად განიხილავს და DLP ამ პრობლემის ლეგიტიმური ნაწილია. თუმცა, ჩრდილოვანი ხელოვნური ინტელექტის რისკის მზარდი წილი ბრაუზერში საერთოდ არ ჩანს: ის ჩნდება, როგორც ჰალუცინირებული პაკეტი, რომლის ინსტალაციაც აგენტმა სცადა, MCP სერვერი, რომელსაც არავინ ამოწმებდა, ან კოდირების ასისტენტი, რომელსაც მუდმივი წვდომა აქვს საცავზე, რომლის შეხებაც არასდროს ჰქონია. ეს არ არის ჩრდილოვანი IT, რომელზეც ხელოვნური ინტელექტის იარლიყია. ეს პროგრამული უზრუნველყოფის მიწოდების ჯაჭვის რისკის ახალი კატეგორიაა და მას იგივე დისციპლინა სჭირდება, რასაც AppSec უკვე იყენებს ნებისმიერ სხვა დამოკიდებულებაზე: იცოდეთ რა არის იქ, გადაამოწმეთ და ავტომატიზირეთ ვერიფიკაცია, იმის ნაცვლად, რომ იმედი გქონდეთ, რომ ყველა დეველოპერი შეამოწმებს.
შეწყვიტეთ ხელოვნური ინტელექტის მართვა ცხრილიდან
ხარვეზი ძალისხმევაში კი არა, ხილვადობაშია: გუნდების უმეტესობას ერთი ადგილი აკლია, სადაც ხელოვნური ინტელექტის აქტივები, კოდი და pipelineერთად გამოჩნდებიან, რაც ზუსტად ის მანძილია, რაც „ჩვენ გვაქვს ჩრდილოვანი ხელოვნური ინტელექტის პოლიტიკა“ და „ჩვენ რეალურად შეგვიძლია მისი აღსრულება“-ს შორისაა.
ეს არის პრობლემა ქსიგენი ხელოვნური ინტელექტის უსაფრთხოება აგებულია. ხელოვნური ინვენტარი განუწყვეტლივ და ავტომატურად აღმოაჩენს თქვენს საცავებში არსებულ ყველა ხელოვნური ინტელექტის აქტივს, pipelineდა დეველოპერის გარემო: მოდელები, ჩარჩოები, მონაცემთა ნაკრებები, ინფერენციის საბოლოო წერტილები, აგენტები, MCP სერვერები და ხელოვნური ინტელექტის კოდირების ინსტრუმენტები, როგორიცაა Copilot, Cursor ან Claude Code, რომლებიც გამოსახულია ურთიერთობის გრაფიკის სახით, სადაც ყოველი სკანირებისას გენერირებულია AI-BOM. DevAI მუშაობს როგორც აქტიური დამცავი ბარიერი იმავე გარემოში, ამოწმებს უნარების ფაილებს და აგენტის ინსტრუქციებს და ბლოკავს მავნე ინსტალაციებს აგენტის მოქმედებამდე, არ საჭიროებს მოთხოვნას. და რადგან CoreAI თქვენი არსებული სკანერების დასკვნებზე იგივე ხელოვნური ინტელექტით მართულ კორელაციასა და მმართველობას იყენებს, როგორც Xygeni-ს საკუთარ დასკვნებზე, ჩრდილოვანი ხელოვნური ინტელექტის რისკი არ ქრება კიდევ ერთ გათიშულ ინსტრუმენტში: ის იმავე რისკის ხედვაში ხვდება, როგორც თქვენს ყველა დანარჩენ ნაწილში. SDLC.
დაიწყეთ უფასოდ. Sign up with GitHub, GitLab ან Google და მიიღეთ ხილვადობა 25-მდე საცავში და 50 ხელოვნური ინტელექტის სკანირებაში თვეში უფასოდ, საკრედიტო ბარათის გარეშე.
კითხვა-პასუხი
რა არის ჩრდილოვანი ხელოვნური ინტელექტის რისკი, მარტივად რომ ვთქვათ?
ჩრდილოვანი ხელოვნური ინტელექტის რისკი არის ორგანიზაციაში უსაფრთხოების შემოწმების გარეშე მომუშავე ხელოვნური ინტელექტის ინსტრუმენტების, მოდელების, აგენტების ან API ზარების მიერ შექმნილი ზემოქმედება. რადგან მისი უმეტესობა არ ტოვებს ინსტალაციისა და შესყიდვების ჩანაწერს, რისკი ჩუმად იზრდება მანამ, სანამ ვინმე განზრახ არ დაიწყებს მის ძებნას.
როგორ აღმოვაჩინოთ და აღმოფხვრათ ჩრდილოვანი ხელოვნური ინტელექტი პრაქტიკაში?
აღმოჩენა ხორციელდება სამ ერთად მომუშავე სიგნალზე (ქსელის და პროქსის ჟურნალები, იდენტობისა და წვდომის სიგნალები და კოდი/pipeline((-დონის აქტივების აღმოჩენა) და აღმოფხვრა ოთხსაფეხურიანი ციკლია: შექმენით ერთიანი ინვენტარი, დააკლასიფეთ მონაცემები პოლიტიკის დაწერამდე, მიეცით გუნდებს უფრო სწრაფი დამტკიცებული გზა და აღასრულეთ ისინი ინსტალაციის ან API გამოძახების ეტაპზე და არა დოკუმენტში.
ჩრდილოვანი ხელოვნური ინტელექტი იგივეა, რაც ჩრდილოვანი IT?
დაკავშირებული, არა იდენტური. Shadow IT ჩვეულებრივ ტოვებდა კვალს (ინსტალაცია, ლიცენზია, ქსელის ხელმოწერა). Shadow AI ხშირად არაფერს ტოვებს: ბრაუზერის ჩანართს და პირად login საკმარისია და ხელოვნური ინტელექტის ფუნქციები ახლა უკვე დამტკიცებულ პლატფორმებშია ჩაშენებული.
შეუძლია თუ არა CASB-ს ან DLP-ს ინსტრუმენტს ჩრდილოვანი ხელოვნური ინტელექტის რისკის დამოუკიდებლად დაჭერა?
მხოლოდ ნაწილობრივ. ეს ინსტრუმენტები შეიქმნა არასანქცირებული პროგრამული უზრუნველყოფის აღმოსაჩენად, რომელსაც აქვს გარკვეული კვალი. კოდიდან პირდაპირ გამოძახებული მოდელი ან დამტკიცებულ პლატფორმაში ჩართული ხელოვნური ინტელექტის ფუნქცია არ წარმოქმნის არცერთ სიგნალს, რომლის აღსანიშნავადაც CASB-ს აქვს მორგებული. ჩრდილოვანი ხელოვნური ინტელექტის რისკის სრულად მართვა მოითხოვს იდენტობას, ქსელს და კოდს/pipeline-დონის ხილვადობა ერთად.
სად ჩნდება ყველაზე ხშირად ჩრდილოვანი ხელოვნური ინტელექტი პროგრამული უზრუნველყოფის შემუშავებაში?
ბრაუზერზე დაფუძნებული ჩატბოტების გარდა, ის ჩნდება როგორც API გასაღებები, რომლებიც ჩაწერილია საწყის კოდში, ღია კოდის მოდელები, რომლებიც ჩართულია პროექტში უსაფრთხოების სკანირების გარეშე და აგენტის უნარების ფაილები ან MCP სერვერის კავშირები, რომლებიც დამატებულია საცავში განხილვის გარეშე, ზუსტად ის ფენა, რომელსაც ზოგადი shadow-IT ინსტრუმენტები არ ამოწმებს.
