एआई सुरक्षा: जिन फाइलों की कोई समीक्षा नहीं करता, वे अब आपके लिए सबसे बड़ा आक्रमण क्षेत्र बन गई हैं।

आपके मौजूदा उपकरण क्यों अपर्याप्त साबित होते हैं?

SAST कोड पढ़ता है। SCA यह निर्भरताओं की सूची पढ़ता है। इनमें से किसी को भी यह नहीं पता होता कि मॉडल क्या है, एमसीपी सर्वर क्या दिखाता है, या स्किल फ़ाइल एजेंट को क्या करने का निर्देश देती है। यही वह अंतर है जहाँ एआई युग के हमले होते हैं, यानी "जिस कोड को हम स्कैन करते हैं" और "एआई जिसे हमने चुपचाप अपना लिया है" के बीच की जगह में।

इसका परिणाम शैडो एआई की एक श्रेणी है। CISO फिलहाल इन सवालों के जवाब दे सकता है: हम कौन से मॉडल चला रहे हैं, कौन से एजेंट किससे संपर्क कर सकते हैं, और पिछले मंगलवार को किसी ने बिना किसी को बताए किस MCP सर्वर से कनेक्ट किया था। इन सवालों का सटीक जवाब देना AI सप्लाई चेन सिक्योरिटी का काम है, और यही कारण है कि सामान्य AppSec टूलिंग यहाँ अपर्याप्त साबित हो रही है।

एआई सुरक्षा का असल मतलब क्या है?

ज़ायजेनी यह एआई सुरक्षा कंपनी है जो इसे तीन परस्पर जुड़ी हुई गतियों के रूप में देखती है। SDLC: पता लगाना, पहचान करना और लागू करना।

जानें: आपके पास वास्तव में कौन सी एआई है

आपके रिपॉजिटरी में निरंतर, स्वचालित खोज से हर एआई एसेट सामने आता है: मॉडल, फ्रेमवर्क, डेटासेट, इन्फरेंस एंडपॉइंट, एजेंट, एमसीपी सर्वर, स्किल्स, प्रॉम्प्ट आदि। guardrailsऔर आपके डेवलपर्स द्वारा वास्तव में उपयोग किए जा रहे AI कोडिंग टूल। कोई सर्वेक्षण नहीं। कोई स्व-रिपोर्टिंग नहीं। यदि इसने किसी रिपॉजिटरी में कोई निशान छोड़ा है, तो वह इन्वेंट्री में दिखाई देगा, जो वास्तविक AI आपूर्ति श्रृंखला सुरक्षा की पहली और सबसे बुनियादी आवश्यकता है।

फिर एआई ग्राफ यह दर्शाता है कि वे एसेट आपस में कैसे जुड़े हैं: कौन सा मॉडल किस डेटासेट को फीड करता है, कौन सा एजेंट किस टूल को सक्रिय करता है, और कौन सा एमसीपी सर्वर किस असिस्टेंट के पीछे काम करता है। किसी एक एसेट के बारे में अलग से ज्यादा जानकारी नहीं मिलती। ग्राफ आपको दिखाता है कि जोखिम कहाँ केंद्रित है।

उसी खोज से, Xygeni एक उत्पन्न करता है एआई-बीओएमआपके सॉफ़्टवेयर में AI से संबंधित हर चीज़ की ऑडिट के लिए तैयार, मशीन-पठनीय सूची। जब कोई नियामक, लेखा परीक्षक या ग्राहक आपसे पूछे कि आप कौन सा AI चला रहे हैं, तो तीन सप्ताह की भागदौड़ के बजाय उत्तर डाउनलोड के रूप में दिया जा सकता है।

उन जोखिमों का पता लगाएं जिन्हें पारंपरिक स्कैनर नहीं देख सकते।

एक समर्पित एआई स्कैनर एआई सिस्टमों से संबंधित विफलता के तरीकों की खोज करता है: प्रॉम्प्ट इंजेक्शन, टूल इंजेक्शन और अविश्वसनीय टूल आह्वान, पुनर्प्राप्ति के माध्यम से डेटा रिसाव, सिस्टम प्रॉम्प्ट बाईपास, अत्यधिक सक्रियता। प्रत्येक निष्कर्ष को इससे जोड़ा जाता है। OWASP की ओर से LLM आवेदनों के लिए शीर्ष 10 सूची और यह उस सटीक फ़ाइल और लाइन की ओर इशारा करता है जिससे डेटा लीक हुआ है, न कि किसी अस्पष्ट "अपने एआई उपयोग की समीक्षा करें" अलर्ट की ओर।

यह पहचान परत कौशल फ़ाइलों, नियमों की फ़ाइलों और एमसीपी कॉन्फ़िगरेशन को सुरक्षा संबंधी दस्तावेज़ों के रूप में देखती है, न कि हानिरहित दस्तावेज़ों के रूप में। यह दुर्भावनापूर्ण या दूषित कौशलों को चिह्नित करती है, टूल पॉइज़निंग के लिए एमसीपी सर्वर कॉन्फ़िगरेशन की जाँच करती है, और आपके एआई वर्कलोड को चलाने वाले प्रॉम्प्ट को उजागर करती है।

प्राथमिकता तय करें: शोर को कम करने वाला फ़नल, शॉर्टकट अपनाने वाला नहीं।

प्रत्येक खोज को क्रमिक रूप से फ़िल्टर किया जाता है: पहले एप्लिकेशन कोड में जो कुछ भी उपलब्ध है, फिर जो वास्तव में दुरुपयोग योग्य है, और अंत में वह जो आपकी टीम द्वारा सक्रिय रूप से विकसित किए जा रहे कोड में मौजूद है। डेवलपर की कतार में केवल वही संक्षिप्त सूची पहुँचती है जो वास्तव में उत्पादन को खतरे में डालती है, साथ ही फ्रेमवर्क संदर्भ, जोखिम की अवधि और निवारण संबंधी दिशानिर्देश भी संलग्न होते हैं।

लागू करें: इसे चलने से पहले ही रोकें

Shield यह नीति प्रवर्तन को डेवलपर के अपने एंडपॉइंट तक ले जाता है: यह किसी भी चीज़ के निष्पादन से पहले अनधिकृत और दुर्भावनापूर्ण इंस्टॉलेशन, अस्वीकृत मॉडल और अनधिकृत एमसीपी सर्वरों को ब्लॉक कर देता है। इसके अंतर्गत Xygeni का सिस्टम काम करता है। मैलवेयर अर्ली वार्निंग (एमईडब्ल्यू)यह तकनीक, जो सिग्नेचर मौजूद होने से पहले ही दुर्भावनापूर्ण पैकेजों को पकड़ लेती है, उस लेयर पर भरोसा करती है जिस पर प्रतिष्ठा-आधारित उपकरण अभी भी भरोसा करते हैं क्योंकि किसी ने भी पैकेज की रिपोर्ट नहीं की है। यह एआई सप्लाई चेन सुरक्षा का प्रवर्तन वाला हिस्सा है: खोज और पहचान आपको बताती है कि क्या गलत है। Shield यही असल में इसे रोकता है।