इन्जिनियरिङ फर्ममा एक वित्त कर्मचारी अरुप भिडियो कलमा सामेल भए कम्पनीका CFO सहित धेरै सहकर्मीहरूसँग। तिनीहरूमध्ये प्रत्येक एक AI-उत्पन्न deepfake थिए। कल आक्रमणकारीहरूलाई $25 मिलियन स्थानान्तरणको साथ समाप्त भयो। कुनै मालवेयर छैन, कुनै फिसिङ लिङ्क छैन, कुनै शोषित जोखिम छैन: केवल AI, पर्याप्त रूपमा प्रयोग गरियो कि विश्वासले बाँकी काम गर्यो। त्यो एकल घटनाले साइबर सुरक्षामा AI किन यस क्षेत्रमा परिभाषित विषय बनेको छ भनेर समात्छ। त्यो deepfake ले बनाएको उही प्रविधिले, उद्योगको अन्यत्र, यसलाई रोक्ने विसंगतिलाई समातिरहेको छ। यो AI सुरक्षा गाइडले दुवै पक्षलाई समेट्छ: AI ले कसरी आक्रमण गर्छ, AI ले कसरी बचाउ गर्छ, र सुरक्षा टोलीहरूले अर्को ध्यान केन्द्रित गर्नुपर्छ भन्ने कुराको लागि यसको अर्थ के हो।
साइबर सुरक्षामा एआई, एउटा अनुच्छेदमा
साइबर सुरक्षामा एआई भन्नाले एउटै लडाइँका दुवै पक्षमा मेसिन लर्निङ, प्राकृतिक भाषा प्रशोधन र ठूला भाषा मोडेलहरूको प्रयोगलाई जनाउँछ: आक्रमणहरू सुरु गर्न र तिनीहरूलाई पत्ता लगाउन र रोक्न। आक्रमणकारीहरूले मानव टोलीले भन्दा छिटो विश्वस्त फिसिङ सामग्री उत्पन्न गर्न, आवाज र अनुहारहरू क्लोन गर्न र प्रोब प्रणालीहरू सिर्जना गर्न एआई प्रयोग गर्छन्। डिफेन्डरहरूले विसंगतिहरू पत्ता लगाउन, सतर्क आवाजलाई काट्न र क्षति यौगिकहरू अघि प्रतिक्रिया दिन समान अन्तर्निहित प्रविधिहरू (डेटाको विशाल मात्रामा ढाँचा पहिचान, प्राकृतिक-भाषा बुझाइ, व्यवहार मोडेलिङ) प्रयोग गर्छन्। परिणाम एकल उद्योग भित्र साँच्चै दोहोरो-प्रयोग प्रविधि हो, त्यसैले साइबर सुरक्षामा एआई स्पष्ट "राम्रो" र "खराब" पक्ष भएको श्रेणी होइन। यो एक क्षमता हो, र जसले यसलाई छिटो र अधिक पूर्व-प्रयोग गर्दछ।cisहाल ely लाई फाइदा छ।
आक्रमण भेक्टरको रूपमा एआई
- औद्योगिक स्तरमा एआई-उत्पन्न फिसिङ। फिसिङ पहिले यसको भनाइहरूद्वारा समात्न सकिन्थ्यो: अजीब वाक्यांश, सामान्य अभिवादन, स्पष्ट नक्कली डोमेनहरू। एआईले ती धेरैजसो भनाइहरू हटायो। अनुसार होक्सहन्टको २०२६ फिसिङ प्रवृत्ति रिपोर्टनोभेम्बर २०२५ मा रिपोर्ट गरिएका सबै फिसिङ प्रयासहरूको ४% बाट एआई-उत्पन्न फिसिङ डिसेम्बर २०२५ मा ५६% मा पुग्यो, जुन एक महिनामा १४ गुणा वृद्धि हो, र २०२६ को मध्यसम्ममा रिपोर्ट गरिएका सबै फिसिङ प्रयासहरूको लगभग ४०% ओगटेको छ। प्रभावकारिता अन्तर उत्तिकै स्पष्ट छ: a हार्वर्ड केनेडी स्कूलका अनुसन्धानकर्ताहरूबाट मानव-विषय अध्ययन पूर्ण रूपमा एआई-स्वचालित स्पियर फिशिङ इमेलहरूले ५४% क्लिक-थ्रु दर हासिल गरेको पत्ता लाग्यो, दक्ष मानव विशेषज्ञहरूसँग मेल खान्छ र नियन्त्रण समूहको जेनेरिक फिशिङ इमेलहरूको १२% क्लिक-थ्रु दरभन्दा धेरै राम्रो प्रदर्शन गर्छ। एआईले केवल धेरै फिशिङ इमेलहरू मात्र लेख्दैन। यसले काम गर्नेहरू लेख्छ।
- पूर्वाधारलाई होइन, विश्वासलाई लक्षित गर्ने डिपफेकहरू। यो अरुप केस माथिको कुरा अब बाहिरी कुरा होइन; यो एउटा टेम्प्लेट हो। एआई-उत्पन्न भ्वाइस र भिडियोहरू लाइभ कलमा वास्तविक कार्यकारीको रूपमा पास हुन पर्याप्त विश्वस्त छन्, जसले सामाजिक इन्जिनियरिङलाई "कसैलाई क्लिक गर्नमा छल गर्ने" बाट "कसैलाई आफ्नो CFO लाई हेरिरहेको विश्वास गर्नमा छल गर्ने" मा परिणत गर्दछ। सुरक्षा जागरूकता तालिमको लागि यो समाधान गर्न मौलिक रूपमा गाह्रो समस्या हो, किनभने धोखाधडी प्राविधिक स्तरमा होइन, अवधारणात्मक स्तरमा हुन्छ।
- छिटो जासूसी र अनुकूली मालवेयर। सामाजिक इन्जिनियरिङभन्दा बाहिर, एआईले "आक्रमणकारीसँग एउटा विचार हुन्छ" र "आक्रमणकारीसँग काम गर्ने शोषण हुन्छ" बीचको दूरी छोटो पार्छ। ठूला भाषा मोडेलहरूले लक्षितको सार्वजनिक-मुखी कोड र पूर्वाधार विरुद्ध जोखिम अनुसन्धानलाई गति दिन सक्छन्, र अनुकूली मालवेयरले कार्यान्वयनको बीचमा आफ्नो व्यवहार परिवर्तन गर्न सक्छ यदि यसले यसलाई स्यान्डबक्समा विश्लेषण भइरहेको पत्ता लगायो भने, जुन क्षमतालाई वास्तविक समयमा हेर्ने दक्ष मानव अपरेटरको आवश्यकता पर्थ्यो।
- मेसिनको गतिमा प्रमाणिक आक्रमणहरू। पासवर्डको साथ "चलाख" भएको सोच्दा मानिसहरूले वास्तवमा प्रयोग गर्ने ढाँचाहरू सिक्नको लागि चुहावट भएका प्रमाणपत्र सेटहरूलाई मोडेलमा खुवाउँदा अनुमान र जाँचलाई भविष्यवाणीको नजिकको कुरामा परिणत गर्दछ। स्वचालित प्रमाणपत्र स्टफिंगसँग मिलाएर, यसले पहिले ढिलो, कोलाहलपूर्ण आक्रमणलाई छिटो र शान्त कुरामा संकुचित गर्दछ।
एआई एक रक्षा उपकरणको रूपमा
- मानवले गर्न नसक्ने स्तरमा विसंगति पत्ता लगाउने काम मिल्दैन। एआईको मुख्य रक्षात्मक मूल्य भनेको नेटवर्क ट्राफिकको मात्रा प्रशोधन गर्नु हो, login गतिविधि, र प्रणाली लगहरू जुन कुनै पनि विश्लेषक टोलीले म्यानुअल रूपमा समीक्षा गर्न सक्दैन र स्थापित आधाररेखाबाट विचलित हुने कुरालाई फ्ल्याग गर्दछ। यो त्यस्तो चीज हो जसले अहिलेसम्म कुनै ज्ञात हस्ताक्षर बिना आक्रमणहरूलाई समात्छ, जसमा शून्य-दिन र भित्री दुरुपयोग समावेश छ जसले नियम-आधारित अलर्टलाई ट्रिप गर्दैन।
- अलर्ट क्यु काट्दै, थप्दै होइन। यो त्यस्तो ठाउँ हो जहाँ साइबर सुरक्षामा एआईको सबैभन्दा तत्काल सञ्चालन प्रतिफल हुन्छ, र जहाँ उद्योगले अझै पनि वास्तविक काम गर्न बाँकी छ। भेक्ट्रा एआईको २०२६ अनुसन्धान संस्थाहरूले प्रतिदिन औसत २,९९२ सुरक्षा अलर्टहरू प्राप्त गर्छन्, जसमध्ये ६३% अनुसन्धान नगरिएको पाइन्छ, र माइक्रोसफ्ट र ओमडियाको SOC को अवस्था: अहिले एकताबद्ध गर्नुहोस् वा पछि भुक्तानी गर्नुहोस् रिपोर्ट पत्ता लाग्यो कि सबै अलर्टहरू मध्ये ४६% गलत सकारात्मक साबित हुन्छन् र ४२% पूर्ण रूपमा अनुसन्धान नगरिएका हुन्छन्। एआई-संचालित ट्राइजले त्यो पाइलमा अर्को डिटेक्टर मात्र थप्दैन। राम्रोसँग गरिएको छ, यसले सम्बन्धित अलर्टहरूलाई एकल घटनामा सहसम्बन्धित गर्दछ, वास्तवमा मानिसको ध्यान लायक कुराहरू स्कोर गर्दछ, र विश्लेषकहरूलाई बाँकी म्यानुअल रूपमा बन्द गर्नुको सट्टा वास्तविक जोखिम प्रतिनिधित्व गर्ने अलर्टहरूको अंशमा आफ्नो समय खर्च गर्न दिन्छ।
- ज्ञात हस्ताक्षरभन्दा बाहिर मालवेयर र व्यवहारिक वर्गीकरण। असामान्य नेटवर्क गतिविधिलाई झण्डा लगाउने उही व्यवहार-विश्लेषण दृष्टिकोणले फाइलहरू र प्याकेजहरूमा पनि काम गर्छ: ज्ञात-खराब हस्ताक्षरहरूको सूचीसँग मिल्नुको सट्टा, AI ले स्थापना-समय व्यवहार, असामान्य प्रणाली कलहरू, र अस्पष्ट ढाँचाहरू स्कोर गर्न सक्छ जसले पहिले कहिल्यै नदेखेको मालवेयर समात्न सक्छ, जुन क्षणमा यो औंठाछाप पछि भन्दा देखा पर्दछ।
- स्वचालित, निहित प्रतिक्रिया। कार्य बिनाको पत्ता लगाउने प्रक्रियाले घडीलाई गतिशील बनाउँछ। एआई-संचालित प्रतिक्रियाले प्रभावित उपकरणलाई अलग गर्न सक्छ, शंकास्पद ट्राफिकलाई रोक्न सक्छ, र स्वचालित रूपमा नियन्त्रण सुरु गर्न सक्छ, "हामीले यो देख्यौं" र "हामीले यसलाई रोक्यौं" बीचको अन्तरलाई घण्टाबाट सेकेन्डसम्म घटाउँदै सबैभन्दा महत्त्वपूर्ण अवस्थामा।
किन एउटै प्रविधिले दुवैतिर काट्छ?
यस एआई सुरक्षा गाइडमा असहज सत्य यो हो कि आक्रमणकारीहरू र रक्षकहरूले बारम्बार विपरीत छेउमा एउटै अन्तर्निहित क्षमता प्रयोग गरिरहेका छन्। प्राकृतिक-भाषा मोडेलिङ जसले एक विश्वस्त फिसिङ इमेल लेख्छ त्यो नै प्रविधि हो जसले शंकास्पद इमेल पढ्छ र यसलाई सही रूपमा वर्गीकृत गर्दछ। मालवेयरलाई स्यान्डबक्सबाट बच्न अनुकूलन गर्न दिने ढाँचा पहिचान वास्तुकलाको रूपमा ढाँचा पहिचानसँग मिल्दोजुल्दो छ जसले मालवेयरको व्यवहारलाई पहिलो स्थानमा असामान्य रूपमा झण्डा लगाउँछ। कुनै पनि पक्षको प्रविधिमा एकाधिकार छैन, जसको अर्थ फाइदा जसले यसलाई आफ्नो वास्तविक कार्यप्रवाहमा पूर्ण रूपमा एकीकृत गर्छ उसलाई जान्छ, जसले अझ उन्नत मोडेलमा पहुँच राख्छ उसलाई होइन।
त्यही समरूपताले गर्दा साइबर सुरक्षामा एआईले रक्षात्मक पक्षमा आफ्नै जोखिमहरू प्रस्तुत गर्छ। एआई प्रणालीहरूले गलत सकारात्मकता उत्पन्न गर्न सक्छन् जसले खराब ट्युनिङ भएमा वास्तविक संकेतलाई आवाजमा गाड्छ, अपूर्ण प्रशिक्षण डेटाबाट पूर्वाग्रह प्राप्त गर्छ र फलस्वरूप सम्पूर्ण वर्गका धम्कीहरू गुमाउँछ, र आफैंलाई विरोधी प्रविधिहरू मार्फत लक्षित गर्न सकिन्छ, जहाँ आक्रमणकारीले जानाजानी पत्ता लगाउने मोडेललाई भ्रामक डेटा फिड गर्छ जसले यसले के झण्डा लगाउँछ भनेर हेरफेर गर्छ। ती मध्ये कुनै पनि एआईलाई रक्षात्मक रूपमा बेवास्ता गर्ने कारण होइन। यो न्याय कलहरूको लागि लूपमा राख्ने र एआई प्रणालीलाई अनुगमन आवश्यक पर्ने चीजको रूपमा व्यवहार गर्ने कारण हो, तपाईंले एक पटक तैनाथ गर्ने र अनिश्चित कालसम्म विश्वास गर्ने कुरा होइन।
यो एआई सुरक्षा गाइडले तपाईंको टोलीको लागि के अर्थ राख्छ?
साइबर सुरक्षामा एआईबाट वास्तविक मूल्य प्राप्त गर्ने टोलीहरूलाई पाँचवटा चालहरूले भर्खरै अर्को उपकरण थपेका टोलीहरूबाट अलग गर्छन्:
- रक्षात्मक रूपमा लगानी गर्नु अघि "एआई-संचालित" आक्रमणहरू बहुमतमा नआउनुहोस्। माथिको फिसिङ डेटाले अल्पसंख्यक रणनीति कति छिटो प्रमुख बन्न सक्छ भनेर देखाउँछ। वृद्धि हुनुभन्दा पहिले पत्ता लगाउने क्षमता निर्माण गर्नुहोस्, यसको समयमा होइन।
- आफ्नो परिधिमा मात्र होइन, पहिले AI लाई आफ्नो ट्राइज लाइनमा देखाउनुहोस्। धेरैजसो टोलीहरूको लागि सबैभन्दा छिटो, सबैभन्दा मापनयोग्य जित भनेको विश्लेषकले म्यानुअल रूपमा सफा गर्नुपर्ने झूटा सकारात्मकताको मात्रा घटाउनु हो, नयाँ पत्ता लगाउने तह थप्नु होइन।
- डिपफेक र भ्वाइस-क्लोन जोखिमलाई प्रविधि समस्याको रूपमा नभई प्रक्रिया समस्याको रूपमा व्यवहार गर्नुहोस्। कुनै पनि पत्ता लगाउने उपकरणले अरुप-शैलीको खाडललाई पूर्ण रूपमा बन्द गर्दैन। पैसाको आवागमन वा प्रमाण परिवर्तनहरू समावेश गर्ने कुनै पनि अनुरोधको लागि आउट-अफ-ब्यान्ड प्रमाणीकरण।
- कोडमा उही एआई-संचालित व्यवहारिक सोच विस्तार गर्नुहोस् र pipelines, नेटवर्क ट्राफिक मात्र होइन। आक्रमणकारीहरूले बढ्दो रूपमा सफ्टवेयर आपूर्ति श्रृंखलालाई प्रत्यक्ष रूपमा लक्षित गरिरहेका छन् (दुर्भावनापूर्ण प्याकेजहरू, भ्रमित निर्भरताहरू, समीक्षा नगरिएका एजेन्ट निर्देशनहरू), आफ्नै गतिशीलता भएको जोखिम वर्ग, जुन हाम्रो एआई आपूर्ति श्रृंखला सुरक्षा गाइडमा गहिराइमा समेटिएको छ।
- एआईले के निर्णय गर्छ भन्ने कुराको लागि मानवलाई जवाफदेही बनाउनुहोस्। स्वचालित प्रतिक्रिया मूल्यवान छ किनकि यो छिटो छ, त्यसैले पनि जब यसमा केहि गडबड हुन्छ तब यसलाई स्पष्ट वृद्धि मार्ग चाहिन्छ।
साइबर सुरक्षामा एआई कहाँ जाँदैछ?
दुई परिवर्तनहरूले आगामी केही वर्षहरूलाई परिभाषित गर्नेछन्। पहिलो, आक्रमणकारी पक्षले धेरै कच्चा भन्दा कम, बढी विश्वस्त रणनीतिहरू वरिपरि समेकित गरिरहेको छ: एआई-उत्पन्न फिसिङ र डीपफेकहरू फराकिलो जाल होइनन्; तिनीहरू एक तीखो हुक हुन्। दोस्रो, डिफेन्डर पक्ष "मानिसलाई पत्ता लगाउनुहोस् र सचेत गर्नुहोस्" बाट "टिकट अवस्थित हुनुभन्दा पहिले पत्ता लगाउनुहोस्, स्कोर गर्नुहोस्, र कार्य गर्नुहोस्" तिर सर्दैछ, जुन ठ्याक्कै त्यो परिवर्तन हो जसले धेरैजसो SOC हरूले सामना गर्ने २,९९२ दैनिक अलर्टहरू र वास्तविक रूप पाउनेहरूको अंश बीचको खाडललाई बन्द गर्दछ। अगाडि बढ्ने संस्थाहरू ती हुन् जहाँ AI ले पहिले नै आफ्नो वातावरणलाई छुन्छ, तिनीहरूका विकासकर्ताहरूले पठाएको कोड सहित, तिनीहरूको नेटवर्क परिधि पार गर्ने ट्राफिक मात्र होइन।
जाइजेनीको विचार: एआई सुरक्षाले इनबक्स मात्र होइन, कोड पनि समेट्नुपर्छ
धेरैजसो एआई-इन-साइबरसुरक्षा कभरेज SOC मा रोकिन्छ: फिसिङ, मालवेयर, नेटवर्क विसंगतिहरू। त्यो आवश्यक छ, र यो अपूर्ण पनि छ, किनभने एआई-संचालित जोखिमको बढ्दो हिस्सा अब सफ्टवेयर विकास जीवनचक्र भित्रै रहन्छ, जहाँ SOC टूलिङ देखिँदैन।
जाइगेनीको कोरएआई यस गाइडमा वर्णन गरिएको उही व्यवहारिक, विसंगति-आधारित सोचलाई विशेष गरी अनुप्रयोग सुरक्षामा लागू गर्दछ: तपाईंको अवस्थित स्क्यानरहरूमा निष्कर्षहरू सहसम्बन्धित गर्ने (केवल होइन) जाइगेनीको आफ्नै), कच्चा अलर्ट भोल्युमले टोलीहरूलाई भर्नुको सट्टा वास्तवमा के फाइदाजनक छ भनेर स्कोर गर्ने, दिइएको जोखिम किन महत्त्वपूर्ण छ भनेर व्याख्या गर्ने, र उपचार उत्पन्न गर्ने pull request अर्को ब्याकलग टिकटको सट्टा। देवएआई आक्रमण सतहको नयाँ भागमा उही रक्षात्मक मुद्रा विस्तार गर्दछ: एआई कोडिङ एजेन्टहरू र सहायकहरू, सीप फाइलहरू र एजेन्ट निर्देशनहरू प्रमाणित गर्ने, र एजेन्टले त्यसमा कार्य गर्नु अघि नै मालिसियस स्थापनालाई ब्लक गर्ने। लक्ष्य उही हो जुन यो गाइडले SOC स्तरमा तर्क गर्दछ, लागू गरिएको pipeline: भोल्युम र गतिमा AI को फाइदालाई आक्रमणकारीको सट्टा डिफेन्डरको फाइदामा परिणत गर्नुहोस्।
नि:शुल्क सुरु गर्नुहोस्। Sign up with GitHub, GitLab, वा Google मा जडान गर्नुहोस् र प्रति महिना २५ वटा रिपोजिटरी र ५० वटा AI स्क्यानहरूमा नि:शुल्क दृश्यता प्राप्त गर्नुहोस्, कुनै क्रेडिट कार्ड आवश्यक पर्दैन।
सोधिने प्रश्न
साइबर सुरक्षामा एआई भनेको के हो?
साइबर सुरक्षामा एआई भनेको मेसिन लर्निङ, प्राकृतिक भाषा प्रशोधन, र सुरक्षाको आक्रमणकारी र रक्षा गर्ने दुवै पक्षमा ठूला भाषा मोडेलहरूको प्रयोग हो। आक्रमणकारीहरूले यसलाई विश्वस्त फिसिङ सामग्री, डीपफेक र अनुकूली मालवेयर उत्पन्न गर्न प्रयोग गर्छन्; डिफेन्डरहरूले विसंगति पत्ता लगाउने, अलर्ट ट्राइज र स्वचालित प्रतिक्रियाको लागि उही अन्तर्निहित प्रविधिहरू प्रयोग गर्छन्।
के एआई आक्रमण उपकरणको रूपमा बढी खतरनाक छ वा रक्षा उपकरणको रूपमा बढी उपयोगी छ?
दुवै पक्ष एउटै अन्तर्निहित क्षमतामा निर्मित भएकाले कुनै पनि पक्षको दिगो फाइदा छैन। बढी जोखिममा रहेका संस्थाहरू ती हुन् जसले अहिलेसम्म एआईलाई समान गतिमा रक्षात्मक रूपमा लागू गरेका छैनन्, आक्रमणकारीहरूले यसलाई आक्रामक रूपमा प्रयोग गरेका छन्, न कि ती जसले पूरा गर्न नसक्ने प्रविधि खाडलको सामना गरिरहेका छन्।
के एआईले सामाजिक सञ्जालमा मानव विश्लेषकहरूलाई पूर्ण रूपमा प्रतिस्थापन गर्न सक्छ?
होइन, र प्रयास गर्ने जोखिमहरू (खराब रूपमा ट्युन गरिएका मोडेलहरूबाट झूटा सकारात्मकता, अपूर्ण प्रशिक्षण डेटाबाट पूर्वाग्रह, र पत्ता लगाउने प्रणालीको विरोधी हेरफेर) ठ्याक्कै यही कारणले गर्दा मानव निरीक्षण आवश्यक रहन्छ। एआईको वास्तविक मूल्य भनेको क्यु खाली गर्नु हो ताकि विश्लेषकहरूले अझै पनि व्यक्तिको आवश्यकता पर्ने निर्णय कलहरूमा ध्यान केन्द्रित गर्न सकून्।
विशेष गरी सफ्टवेयर विकास टोलीहरूको लागि एआई-संचालित आक्रमण जोखिम कसरी फरक छ?
फिसिङ र डीपफेकभन्दा बाहिर, विकास टोलीहरूले भित्र एआई-विशिष्ट जोखिमहरूको सामना गर्छन् SDLC आफैं: भ्रामक वा दुर्भावनापूर्ण निर्भरताहरू स्थापना गर्ने एआई कोडिङ एजेन्टहरू, सीप फाइलहरूमा समीक्षा नगरिएका एजेन्ट निर्देशनहरू, र हार्डकोड गरिएका गोप्य कुराहरू पुनरुत्पादन गर्ने एआई-उत्पन्न कोड। साइबर सुरक्षामा एआईको त्यो पक्षलाई हाम्रो एआई आपूर्ति श्रृंखला सुरक्षा गाइड।
