Xप्लेन: अगर AI कंट्रोल से बाहर हो जाए तो किसके सिर फूटेगा ठीकरा?
AI Goes Rogue: आर्टिफिशियल इंटेलिजेंस (AI) अब इंसानों की तरह आजादी के साथ काम कर रहा है. ऐसे फैसले ले रहा है, जो किसी ने सोचा भी न हो. इसके बावजूद कानून अब भी पुराने जमाने की सोच के साथ चल रहा है.
एक कंपनी अपने ऑफिस में बैठी अपना काम कर रही है और अचानक पता चलता है कि उसके पूरे आईटी सिस्टम में सेंध लग चुकी है. हैरानी की बात यह कि यह हमला किसी चालाक हैकर ने नहीं, बल्कि दूसरी कंपनी के एक आर्टिफिशियल इंटेलिजेंस (AI) एजेंट ने अपनी मर्जी से किया है. यह कोई साइंस फिक्शन फिल्म की कहानी नहीं है, बल्कि 2026 की गर्मियों में सचमुच हुई घटनाएं हैं. OpenAI का एक AI एजेंट खुद ब खुद AI स्टार्टअप Hugging Face के सिस्टम में घुस गया. Anthropic के Claude मॉडल्स ने तीन अलग-अलग कंपनियों के सिस्टम हैक कर लिए. Meta एक AI मॉडल साइबर सिक्योरिटी टेस्टिंग के दौरान ही दूसरी कंपनी में सेंध लगा गया. इससे सवाल उठा कि AI के कंट्रोल से बाहर होने पर जिम्मेदार कौन होगा...
सबसे पहले समझते हैं कि हुआ क्या है?
रिलेटेड स्टोरी >>
AI एजेंट दरअसल ऐसे सिस्टम होते हैं जो बिना इंसानों की मदद के खुद फैसले ले सकते हैं और काम कर सकते हैं. ये किसी टास्क को समझते हैं, उसके लिए प्लान बनाते हैं और फिर उसे अंजाम देते हैं. OpenAI का एक AI एजेंट जिसे खास टास्क के लिए प्रोग्राम किया गया था, उसने अपनी सैंडबॉक्स यानी टेस्टिंग वाली बंद दुनिया से बाहर निकलकर इंटरनेट पर छानबीन की और सीधे AI स्टार्टअप Hugging Face के सिस्टम में घुस गया.
OpenAI को ऐसे और भी उदाहरण मिले जब उसके एजेंट अपनी डिजिटल सीमाओं को लांघ गए. इसी तरह Anthropic के Claude मॉडल्स ने अप्रैल 2026 से लेकर अब तक तीन अलग-अलग कंपनियों के सिस्टम में सेंध लगाई. तीसरी बड़ी घटना Meta के साथ हुई, जहां साइबर सिक्योरिटी टेस्टिंग के दौरान ही उसका एक AI मॉडल दूसरी कंपनी को हैक कर गया.
सबसे चौंकाने वाली बात यह है कि इन तीनों ही मामलों में संबंधित AI कंपनियों को इस बात की बिल्कुल भी जानकारी नहीं थी कि उनके बनाए हुए AI एजेंट इंटरनेट पर घूम-घूमकर दूसरी कंपनियों के सिस्टम में सेंध लगा रहे हैं. इसका पता हमले के काफी समय बाद चला, जब नुकसान हो चुका था.
Hugging Face के CEO क्लेमेंट डेलैंग ने खुद इस बात का खुलासा करते हुए बताया कि उनकी कंपनी को अपने IT नेटवर्क का पूरा एक-तिहाई हिस्सा दोबारा से बनाना पड़ा. डेलैंग ने इसे 'एक नई तरह का तकनीकी जोखिम' करार दिया.
अगर मुकदमा हो तो कौन-कौन कर सकता है?
जब AI एजेंट इस तरह से किसी कंपनी के सिस्टम में सेंध लगाता है और नुकसान पहुंचाता है, तो कानूनी तौर पर कई पक्ष मुकदमा कर सकते हैं:
- पीड़ित कंपनियां नुकसान की भरपाई मांग सकती हैं.
- अगर हैकिंग की वजह से किसी कर्मचारी की नौकरी या पर्सनल डेटा लीक हुआ है तो वे भी मुकदमा कर सकते हैं.
- अगर कंज्यूमर्स का सेंसिटिव डेटा लीक हुआ हो या उन्हें किसी तरह का वित्तीय नुकसान उठाना पड़ा हो.
- कंपनी के शेयर होलडर्स भी तब अदालत जा सकते हैं जब इस तरह की हैकिंग की वजह से कंपनी की वैल्यू में भारी गिरावट आई हो.
- सरकारी रेगुलेटर और एजेंसियां अपनी तरफ से कानूनी कार्रवाई कर सकती हैं, खासकर अगर कंपनियों ने अपनी साइबर सुरक्षा को लेकर गलत दावे किए हों.
कानूनी दावे क्या-क्या हो सकते हैं?
कानूनी एक्सपर्ट्स का मानना है कि अभी हमें पुराने कानूनी सिद्धांतों का ही सहारा लेना होगा. सबसे आम और सीधा रास्ता नेग्लिजेंस यानी लापरवाही का दावा होगा. इसमें पीड़ित पक्ष को अदालत में यह साबित करना होगा कि जिस AI लैब ने उस एजेंट को बनाया, टेस्ट किया या तैनात किया, वह संभावित नुकसान को रोकने या कम करने के लिए जरूरी सावधानियां लेने में नाकाम रही.
अगर कोई कंपनी अपने AI प्रोडक्ट को बाजार में उतारने से पहले पूरी तरह से टेस्ट नहीं करती, सुरक्षा के इंतजाम नहीं करती और फिर उसका AI एजेंट किसी दूसरी कंपनी का सिस्टम हैक कर लेता है, तो यह लापरवाही का साफ मामला बनता है.
ह्यूस्टन यूनिवर्सिटी के कानून प्रोफेसर गेब्रिएल विल ने कहा, 'अगर किसी इंसान OpenAI कर्मचारी ने जाकर Hugging Face के सिस्टम में सेंध लगाई होती, तो OpenAI उस कर्मचारी के गलत काम के लिए पूरी तरह से जिम्मेदार होता. लेकिन जब यही काम कोई AI एजेंट करता है, तो कानून इसे बहुत अलग तरीके से देखता है.' इसके अलावा अमेरिका के कंप्यूटर फ्रॉड एंड एब्यूज एक्ट यानी CFAA के तहत भी दावा हो सकता है.
जिम्मेदारी का ठीकरा आखिर किस पर फूटेगा?
इस सवाल का जवाब कोई एक लाइन में नहीं दिया जा सकता. यह इस बात पर निर्भर करता है कि AI किस तरह से कंट्रोल से बाहर हुआ, नुकसान कैसे हुआ और सबसे बड़ी बात यह कि गलती किस लेवल पर हुई...
1. AI बनाने वाली कंपनी और डेवलपर्स जिम्मेदार
अगर गलती डिजाइन और डेवलपमेंट में हुई है तो जिम्मेदारी सीधे-सीधे AI बनाने वाली कंपनी और उसके डेवलपर्स पर आती है. मान लीजिए किसी AI सिस्टम को ऐसे डेटा पर ट्रेन किया गया जिसमें जाति या लिंग के आधार पर भेदभाव छिपा था और उस वजह से उसने किसी के साथ गलत किया.
इसमें गलती डेटा चुनने वालों और एल्गोरिदम डिजाइन करने वालों की है. अगर कंपनी ने जानबूझकर टेस्टिंग में कटौती की या सुरक्षा को नजरअंदाज किया, तो कॉरपोरेट जिम्मेदारी बनती है और पीड़ित को मुआवजा मिलना चाहिए.
2. गलत इस्तेमाल करने पर यूजर जिम्मेदार
अगर गलती इस्तेमाल करने वाले की है तो जिम्मेदार यूजर होगा. मान लीजिए कोई अस्पताल AI डायग्नोसिस टूल खरीदता है, लेकिन अपने डॉक्टरों को उसकी ट्रेनिंग नहीं देता और डॉक्टर बिना सोचे-समझे AI की हर सलाह मान लेते हैं, जिससे मरीज की जान चली जाती है.
इस मामले में AI टूल ने गलत सलाह दी हो सकती है, लेकिन आखिरी फैसला तो डॉक्टर का था और अस्पताल की जिम्मेदारी थी कि वह अपने स्टाफ को सही तरीके से ट्रेन करे. ऐसे मामलों में AI एक टूल की तरह है और यूजर को पता होना चाहिए कि उसकी सीमाएं क्या हैं.
AI का खुद सीखना सबसे ज्यादा पेचीदा
अगर AI ने खुद कुछ ऐसा सीख लिया जिसकी भविष्यवाणी नहीं की जा सकती थी तो यह सबसे पेचीदा स्थिति है. मशीन लर्निंग मॉडल अपने अनुभव से सीखते हैं और कई बार ऐसे पैटर्न पकड़ लेते हैं जिनकी डेवलपर्स ने कल्पना भी नहीं की होती.
कानूनी एक्सपर्ट्स का मानना है कि अगर कंपनी ने सारी जरूरी सावधानियां बरती थीं, पूरी टेस्टिंग की थी और सुरक्षा मानकों का पालन किया था, तो भी अगर AI ने कुछ अप्रत्याशित कर दिया, तो यह 'फोर्स मैज्योर' या अप्रत्याशित घटना की कैटेगरी में आ सकता है. इस तर्क को अदालतों में चुनौती दी जा सकती है और पीड़ित को न्याय दिलाने के लिए सरकार को फंड बनाने की जरूरत पड़ सकती है.
इसके अलावा अगर AI को हैक कर लिया गया हो तो जिम्मेदारी हैकर की तो बनती ही है, लेकिन सवाल यह भी उठता है कि क्या कंपनी ने साइबर सिक्योरिटी टेस्ट किए थे. अगर कंपनी ने सस्ते और कमजोर सुरक्षा सिस्टम लगाए थे जिन्हें आसानी से हैक किया जा सका, तो कंपनी भी लापरवाही की दोषी हो सकती है.
दुनिया भर में नए कानून बनाने की कवायद तेज
यह समस्या सिर्फ अमेरिका तक सीमित नहीं है, बल्कि पूरी दुनिया के देश अब इस पर गंभीरता से विचार कर रहे हैं. कैलिफोर्निया ने इस दिशा में एक ठोस कदम उठाते हुए असेंबली बिल 316 नाम का एक नया कानून बनाया है. इसके तहत जिस किसी ने भी AI सिस्टम बनाया या इस्तेमाल किया, वह अब यह कहकर बच नहीं सकता कि 'तकनीक खुद गलत थी' या 'मेरा AI भड़क गया, इसमें मेरी कोई गलती नहीं है.' यानी AI कंपनियों के लिए जिम्मेदारी से बचने का यह रास्ता अब बंद हो गया है.
यूनाइटेड किंगडम की जॉइंट लॉ टास्क फोर्स ने भी जुलाई 2026 में एक अहम कानूनी बयान जारी किया. उनका दावा है कि इंग्लैंड का मौजूदा कानून AI के कारण होने वाले नुकसान के लिए दायित्व तय करने में पूरी तरह से सक्षम है. इसके लिए किसी नए, सिर्फ AI के लिए बनाए गए विशेष कानून की जरूरत नहीं है. यह बहस अभी भी जारी है.
टॉप हेडलाइंस
