क्या AI खुद बन सकता है हैकर? Anthropic के Mythos टेस्ट ने खोले चौंकाने वाले राज
AI as Hacker: Anthropic के रिसर्चर Nicholas Carlini ने जब इस मॉडल की जांच की, तो उन्हें पता चला कि यह AI सिर्फ मदद करने तक सीमित नहीं है.
- एंथ्रोपिक का Mythos AI सॉफ्टवेयर की कमजोरियों का पता लगा सकता है।
- यह AI हैकिंग टूल्स खुद बना सकता है और सिस्टम पर हमला कर सकता है।
- कंपनी ने सुरक्षा चिंताओं के कारण मॉडल को सीमित संस्थानों को उपलब्ध कराया है।
AI as Hacker: आर्टिफिशियल इंटेलिजेंस यानी Artificial Intelligence आज दुनिया को तेजी से बदल रहा है. जहां एक तरफ यह काम आसान बना रहा है वहीं दूसरी तरफ इसके खतरों को लेकर भी चिंता बढ़ रही है. हाल ही में Anthropic ने अपना नया AI मॉडल Mythos पेश किया जो सॉफ्टवेयर की कमजोरियों को पहले ही पहचान सकता है. लेकिन टेस्टिंग के दौरान इसके कुछ ऐसे पहलू सामने आए जिन्होंने सभी को चौंका दिया.
क्या Mythos खुद बन सकता है हैकर?
Anthropic के रिसर्चर Nicholas Carlini ने जब इस मॉडल की जांच की, तो उन्हें पता चला कि यह AI सिर्फ मदद करने तक सीमित नहीं है. रिपोर्ट के अनुसार, Mythos डिजिटल सिस्टम में मौजूद खामियों को पहचानने के साथ-साथ उनका फायदा भी उठा सकता है.
इतना ही नहीं, यह खुद ही हैकिंग के टूल्स तैयार करने और सिस्टम पर हमला करने की क्षमता भी रखता है. उदाहरण के तौर पर, यह Linux जैसे प्लेटफॉर्म को भी टारगेट कर सकता है. यानी यह AI इंसान की मदद करने के बजाय खुद हैकर की तरह व्यवहार कर सकता है.
कंपनी के अंदर कैसे हुई प्रतिक्रिया?
Anthropic की रेड टीम के प्रमुख Logan Graham ने बताया कि टेस्टिंग के दौरान ही टीम को इस मॉडल में कुछ असामान्य और जोखिम भरे फीचर्स नजर आए. वहीं कंपनी के को-फाउंडर और चीफ साइंस ऑफिसर Jared Kaplan ने इस पर गहराई से नजर रखी. उन्होंने टीम से कहा कि यह समझना जरूरी है कि यह समस्या छोटी है या आम लोगों के लिए खतरा बन सकती है. आखिरकार उन्होंने माना कि यह AI जोखिम पैदा कर सकता है.
इसके बाद Kaplan और Sam McCandlish ने अपनी चिंताओं को कंपनी के CEO Dario Amodei और प्रेसिडेंट Daniela Amodei के सामने रखा. साफ हो गया कि यह कोई सामान्य लॉन्च नहीं होने वाला है.
सुरक्षा के लिए क्या कदम उठाए गए?
इन चिंताओं को देखते हुए कंपनी ने इस मॉडल को सीमित तरीके से जारी करने का फैसला किया. Project Glasswing नाम के एक खास प्रोग्राम के तहत Mythos को सिर्फ चुनिंदा संस्थानों तक ही पहुंच दी गई है. Anthropic का मकसद इस AI का इस्तेमाल सुरक्षा के लिए करना है ताकि कंपनियां हैकर्स से पहले ही अपने सिस्टम की कमजोरियों को पहचानकर उन्हें ठीक कर सकें.
यह भी पढ़ें:
क्या है Emergency SOS फीचर? जानिए कैसे मुश्किल समय में आता है काम और क्या है फोन में सेटअप का तरीका
टॉप हेडलाइंस
