OpenAI के नए मॉडल ने बढ़ाई चिंता, क्या है Astra AI?

Astra AI: OpenAI ने अपने अपकमिंग एआई मॉडल Astra पर काम धीमा कर दिया है. कंपनी ने बताया कि इंटरनल रिव्यू के दौरान पता चला कि यह मॉडल किसी भी सिस्टम को हैक कर सकता है.

Astra AI मॉडल के काम की रफ्तार पर ब्रेक लगा दिया गया है

Source : X

Show Quick Read

Key points generated by AI, verified by newsroom

• ओपनएआई का Astra AI एजेंटिक कोडिंग, साइबर सुरक्षा में सक्षम।
• मॉडल की अत्यधिक क्षमता के कारण विकास धीमा किया गया।
• यह सुरक्षित सिस्टम भेद सकता है, दुरुपयोग बड़ा खतरा।

Astra AI: एआई मॉडल तेजी से एडवांस होते जा रहे हैं. अब कई कंपनियां ऐसे एआई मॉडल बना चुकी हैं, जिनके मिसयूज को रोकने का कोई तरीका फिलहाल उपलब्ध नहीं है. कुछ समय पहले एंथ्रोपिक ने अपने Claude Mythos का ऐलान किया था. साइबर सिक्योरिटी से जुड़ा यह मॉडल इतना एडवांस है कि इसे पब्लिक के लिए रोल आउट नहीं किया गया है. केवल कुछ कंपनियां ही अपने सिस्टम्स में खामियों का पता लगाने के लिए इसे यूज कर रही हैं. अब OpenAI भी इस रेस में शामिल होती दिख रही है. कंपनी ने बताया कि उसका अपकमिंग Astra AI मॉडल बहुत एडवांस है. इसके चलते कंपनी ने इस पर काम की रफ्तार धीमी कर दी है. आइए जानते हैं कि इस मॉडल में ऐसा क्या खास है, जो कंपनी को लॉन्च होने से पहले ही चिंता में डाल रहा है.

क्या है Astra AI मॉडल?

OpenAI इन दिनों Astra नाम के एक मॉडल पर काम कर रही है. इसे एजेंटिंक कोडिंग और साइबर सिक्योरिटी कैपेबिलिटीज से लैस किया गया है. चैटबॉट जहां केवल सवालों के जवाब दे सकता है, वहीं एजेंटिक एआई मॉडल टास्क पूरे करने के साथ-साथ टूल्स यूज कर सकता है और इंसानी दखल के बिना किसी स्पेसिफिक गोल को भी अचीव कर सकता है. OpenAI ने बताया कि इंटरनल रिव्यू से पता चला है कि एजेटिंक कोडिंग और साइबर सिक्योरिटी के मामले में यह इतना एडवांस है कि इसकी कैपेबिलिटी को लेकर चिंता होने लगी है. इस कारण इस पर काम धीमा कर दिया गया है.

प्रोटेक्टेड सिस्टम पर भी अटैक कर सकता है Astra 

OpenAI ने एक ब्लॉग में बताया कि डेवलपमेंट के दौरान यह मॉडल कंपनी के 'क्रिटिकल साइबर सिक्योरिटी थ्रेसहोल्ड' तक पहुंच गया. यानी यह मॉडल इतना एडवांस है कि खुद से रियल-वर्ल्ड के सिस्टम को पहचान कर साइबर अटैक को अंजाम दे सकता है. भले ही टारगेटेड सिस्टम अच्छी तरह से प्रोटेक्टेड हो. आसान भाषा में समझें तो यह मॉडल किसी भी कंप्यूटर सिस्टम की खामियों का पता लगाकर उनका मिसयूज कर सकता है और इस काम के लिए इसे इंसानी मदद की भी जरूरत नहीं होगी. इसलिए यह खतरा जताया जा रहा है कि अगर ऐसे एडवांस मॉडल गलत हाथों में पड़ते हैं तो ये बड़े नुकसान की वजह बन सकते हैं. 

मॉडल पर काम हुआ धीमा

OpenAI ने बताया है कि उसने इस मॉडल पर काम धीमा कर दिया है और सुरक्षा उपायों को मजबूत किया जा रहा है. हालांकि, यह जानकारी सामने नहीं आई है कि इसने साइबर सिक्योरिटी थ्रेसहोल्ड को पार कर लिया है या नहीं, लेकिन शुरुआती नतीजों के आधार पर इसकी संभावना को पूरी तरह खारिज नहीं किया जा सकता. OpenAI ने अपने ब्लॉग में कहा कि पारदर्शिता के लिए वह इस जानकारी को सार्वजनिक कर रही है. 

पहले से ही विवादों में घिरी है OpenAI 

OpenAI की तरफ से Astra को लेकर जानकारी ऐसे समय में दी गई है, जब कंपनी अपने एक दूसरे मॉडल द्वारा साइबर अटैक करने के मामले में विवादों में घिरी हुई है. दरअसल, कंपनी के एक और मॉडल ने इंटरनल टेस्टिंग के दौरान Hugging Face के सिस्टम को ब्रीच कर दिया था. यह किसी कंपनी का अपने एआई मॉडल से कंट्रोल खोने का पहला मामला था. इसके बाद एंथ्रोपिक और मेटा ने भी अपने मॉडल्स कंट्रोल से बाहर होने की जानकारी दी थी. इन कंपनियों के मॉडल ने भी टेस्टिंग के दौरान दूसरी कंपनियों के सिस्टम्स पर अटैक कर दिया था. इसे लेकर कई जानकारों ने चेतावनी देते हुए सख्त निगरानी की मांग की है तो कुछ लोग एआई मॉडल्स की इस कैपेबिलिटीज को शानदार उपलब्धि के तौर पर देख रहे हैं. 

Claude Mythos से भी बढ़ी थी चिंता

साइबर सिक्योरिटी को लेकर एंथ्रोपिक के Claude Mythos ने भी दुनियाभर की चिंताएं बढ़ा दी थी. यह मॉडल किसी भी ऑपरेटिंग सिस्टम और सॉफ्टवेयर को हैक कर सकता है. इसके चलते इस पब्लिक के लिए रोलआउट नहीं किया जा रहा है. दुनियाभर की चुनिंदा कंपनियां ही इसे इस्तेमाल कर रही हैं.