2026 के अंत में एजेंटिक एआई के शीर्ष सुरक्षा खतरे

उपकरणों का दुरुपयोग और विशेषाधिकारों का दुरुपयोग, भ्रमित प्रतिनिधि समस्या का प्रत्यक्ष रूप है। एजेंटों को प्रभावी ढंग से कार्य करने के लिए व्यापक अनुमतियाँ दी जाती हैं, जैसे कि सीआरएम, कोड रिपॉजिटरी, क्लाउड इन्फ्रास्ट्रक्चर और वित्तीय प्रणालियों तक रीड-राइट एक्सेस। हमलावर इसका फायदा उठाते हुए ऐसे इनपुट तैयार करते हैं जो एजेंटों को इन उपकरणों का अनधिकृत तरीके से उपयोग करने के लिए भ्रमित करते हैं।

यहां गंभीर खामी है: आपके एजेंट के एक्सेस कंट्रोल नेटवर्क-स्तरीय अनुमतियों द्वारा नियंत्रित होते हैं। यदि आपके एजेंट खाते के पास ग्राहक डेटाबेस तक API पहुंच है, तो नेटवर्क फ़ायरवॉल उस एजेंट से किसी भी क्वेरी की अनुमति देगा। आपका फ़ायरवॉल वैध डेटाबेस पुनर्प्राप्ति और अनधिकृत निष्कर्षण के बीच अंतर नहीं कर सकता। यहीं पर सिमेंटिक वैलिडेशन विफल हो जाता है।

फ़ायरवॉल नियमों के कारण हमलावर सीधे आपके संवेदनशील वित्तीय डेटाबेस तक नहीं पहुँच सकता। हालाँकि, आपके ग्राहक सहायता एजेंट के पास बिलिंग स्थिति की जाँच करने के लिए API क्रेडेंशियल हैं। एक सहायता टिकट के माध्यम से प्रॉम्प्ट इंजेक्शन और हेरफेर करके, हमलावर एजेंट को न केवल अपना रिकॉर्ड, बल्कि पूरी ग्राहक तालिका प्राप्त करने के लिए बाध्य करता है। एजेंट के पास विशेषाधिकार है, इसलिए नेटवर्क स्तर अनुरोध को स्वीकृत कर देता है। सुरक्षा में चूक नेटवर्क स्तर पर नहीं, बल्कि सिमेंटिक स्तर पर होती है, यानी एजेंट की उस समझ में गड़बड़ी होती है कि उसे क्या प्राप्त करना चाहिए।

2024 की एक वास्तविक घटना: वित्तीय सेवाओं के डेटा की चोरी के मामले में ठीक यही पैटर्न देखने को मिला। एक हमलावर ने एक मिलान एजेंट को "पैटर्न X से मेल खाने वाले सभी ग्राहक रिकॉर्ड" निर्यात करने के लिए बहकाया, जहाँ X एक रेगुलर एक्सप्रेशन (regex) था जो डेटाबेस के हर रिकॉर्ड से मेल खाता था। एजेंट ने इस अनुरोध को उचित समझा क्योंकि इसे एक व्यावसायिक कार्य के रूप में प्रस्तुत किया गया था। हमलावर 45,000 ग्राहक रिकॉर्ड लेकर फरार हो गया।

यह खतरा तब और बढ़ जाता है जब एजेंट विशेषाधिकार बढ़ा सकते हैं। यदि आपका परिनियोजन एजेंट महत्वपूर्ण बुनियादी ढांचे के अपडेट को तैनात करने के लिए उच्च अनुमतियों का अनुरोध कर सकता है, तो हमलावर उसे धोखा देकर किसी बैकडोर खाते को स्थायी रूप से उच्च पहुंच प्रदान करवा सकता है। एजेंट को लगता है कि वह एक वैध परिचालन कार्य कर रहा है। जब तक आप बैकडोर का पता लगाते हैं, तब तक हमलावर को हफ्तों तक बिना पता चले पहुंच प्राप्त हो चुकी होती है।

यह क्यों महत्वपूर्ण है: आपके एजेंट आपकी सुरक्षा संबंधी खामियों को विरासत में पाते हैं। यदि आपका उपयोगकर्ता पहुंच प्रबंधन (यूएएम) सिस्टम कमजोर है, तो आपके एजेंट उस कमजोरी को और बढ़ा देते हैं। हमलावरों को जटिल तकनीकों की आवश्यकता नहीं होती; उन्हें बस आपके विश्वसनीय एजेंट को इस तरह से धोखा देना होता है कि वह कमजोर अनुमतियों का उपयोग करे जिसकी आपने कभी कल्पना भी नहीं की थी।