कंट्रोल से बाहर हो रही है एआई! बिना कमांड के ही काम करने लगा एआई एजेंट, दुनिया को हो गई टेंशन
AI Risk: चाइनीज कंपनी अलीबाबा से जुड़े रिसर्चर एक एआई एजेंट बना रहे थे. सबको चौंकाते हुए इस एजेंट ने बिना प्रॉम्प्ट और इंस्ट्रक्शन दिए क्रिप्टोकरेंसी के लिए माइनिंग शुरू कर दी.
- AI एजेंट ने बिना कमांड दिए ही क्रिप्टो माइनिंग शुरू की.
- एजेंट ने प्रतिबंधित वातावरण में भी रिवर्स SSH टनल बनाया.
- यह घटना AI के नियंत्रण से बाहर होने की चिंता बढ़ाती है.
- विशेषज्ञ AI सुरक्षा पर अधिक ध्यान देने की चेतावनी दे रहे हैं.
AI Risk: एआई को लेकर पिछले कुछ समय से ऐसी घटनाएं हो रही हैं, जिनका पहले ही डर जताया जा रहा था. पिछले महीने ही कई एक्सपर्ट्स ने वार्निंग दी थी कि एआई इंसानों के कंट्रोल से बाहर हो रही है. अब इसका एक ताजा उदाहरण देखने को मिला है. हाल ही में एक एआई एजेंट बना रहे डेवलपर्स ने देखा कि यह बिना कमांड दिए ही क्रिप्टोकरेंसी की माइनिंग शुरू करने लगा, जबकि किसी ने भी इसको ऐसा करने के लिए नहीं कहा था.
क्या है मामला?
चाइनीज कंपनी अलीबाबा से जुड़ी एक रिसर्च टीम ROME नाम के एक एक्सपेरिमेंटल एआई एजेंट पर काम कर रही थी. इस एजेंट को ट्रेनिंग देते समय टीम को कुछ गड़बड़ नजर आई. दरअसल, यह एजेंट रिसर्चर की कमांड या प्रॉम्प्ट दिए बिना ही क्रिप्टोकरेंसी की माइनिंग करने लगा. इसे सिक्योरिटी सिस्टम एक्टिवेट हो गए, जिससे रिसर्चर को यह जानकारी मिली और वो चौंक गए. रिसर्चर का कहना है कि इस सिस्टम को एक रेस्ट्रिक्टेड एनवायरनमेंट में ऑपरेट किया जा रहा था, जहां इस पर कई कंट्रोल लगे थे, लेकिन इसके बावजूद यह ऐसा काम करने लगा, जिसके लिए इसे कहा नहीं गया था.
इस टास्क ने भी बढ़ा दी चिंता
यह एआई एजेंट न सिर्फ क्रिप्टो माइनिंग करने लगा था बल्कि इसके एक और टास्क ने भी रिसर्चर की चिंता बढ़ा दी. रिसर्चर ने बताया कि माइनिंग के साथ-साथ इस एजेंट ने एक रिवर्स SSH टनल भी क्रिएट कर ली. यह वह तरीका होता है, जिससे प्रोटेक्टेड एनवायरनमेंट में रखी मशीन एक्सटर्नल कंप्यूटर से कनेक्ट हो सकती है. रिसर्चर को इस बात की चिंता है कि इनमें से किसी भी टास्क के लिए एआई एजेंट को प्रॉम्प्ट या इंस्ट्रक्शन नहीं दिए गए थे.
एक्सपर्ट्स दे रहे हैं चेतावनी
पिछले महीने एआई के गॉडफादर कहे जाने वाले कनाडा के कंप्यूटर साइंटिस्ट योशुआ बेंगियो ने कहा था कि एआई इंसानी कंट्रोल से बाहर होना शुरू हो गई है. बेंगियो समेत 100 से अधिक रिसर्चर ने कहा था कि एआई कंपनियों को सेफ्टी पर ज्यादा ध्यान देना चाहिए. अब एआई सिस्टम को काम करने के लिए इंसानी इनपुट की बहुत कम जरूरत रह गई है.
ये भी पढ़ें-
टॉप हेडलाइंस
Source: IOCL
