एआई होती जा रही है खतरनाक, अब चैटजीपीटी बनाने वाले सैम ऑल्टमैन को भी लगने लगा डर!

पूरी दुनिया में इस बात पर चिंता जताई जा रही है कि जिस रफ्तार से एआई सिस्टम आते जा रहे हैं, उस हिसाब से इन्हें कंट्रोल में रखने वाले उपायों पर काम नहीं हो रहा. अब सैम ऑल्टमैन ने भी यह माना है.

सैम ऑल्टमैन ने कहा कि एआई खतरनाक होती जा रही है

Source : X

Show Quick Read

Key points generated by AI, verified by newsroom

• ओपनएआई के सीईओ सैम ऑल्टमैन ने एआई के बढ़ते खतरों पर चिंता जताई है।
• ऑल्टमैन के अनुसार, एआई की तीव्र प्रगति सुरक्षा उपायों से आगे निकल रही है।
• एआई सिस्टम सुरक्षा कमजोरियों को पहचान सकते हैं और इनका दुरुपयोग संभव है।
• एआई का मानव मानसिक स्वास्थ्य और समाज पर भी नकारात्मक प्रभाव पड़ रहा है।

चैटजीपीटी बनाने वाली कंपनी ओपनएआई के सीईओ सैम ऑल्टमैन का मानना है कि एआई खतरनाक होती जा रही है. उन्होंने कहा कि यह खतरा किसी एक प्रोडक्ट या फीचर से नहीं बल्कि उस रफ्तार से है, जिससे नए और एडवांस सिस्टम आते जा रहे हैं. ऑल्टमैन ने कहा कि सुरक्षा उपाय आने से पहले ही नए सिस्टम आ जाते हैं. बता दें कि ऑल्टमैन की कंपनी ने ही करीब तीन साल पहले चैटजीपीटी को लॉन्च किया था, जिसने जनरेटिव एआई को घर-घर पहुंचा दिया है. 

एआई से क्या खतरा?

ऑल्टमैन ने कहा कि एआई मॉडल की रीजनिंग, कोडिंग और इन्फोर्मेशन को एनालाइज करने की क्षमता बेहतर हुई है. इस कारण नई दिक्कतें भी आ गई हैं. उन्होंने कहा कि अब एआई सिस्टम सुरक्षा कमजोरियों को पहचान और बिहेवियर को इंफ्लुएंस कर सकते हैं साथ ही इन्हें कई तरीकों से मिसयूज भी किया जा सकता है. अब एआई मॉडल ज्यादा ऑटोनोमस और एक्सेसिबल बन गए हैं, इसलिए इनके मिसयूज का खतरा बढ़ गया है. ऑल्टमैन ने अपनी चेतावनी में कहा कि एआई को साइबर सिक्योरिटी के लिए यूज किया जा सकता है, लेकिन उसी टूल को अटैकर्स भी यूज कर सकते हैं. आज से पहले दुनिया में बहुत कम बार ही ऐसा हुआ है, जब किसी टेक्नोलॉजी को अटैकर और डिफेंडर दोनों एक साथ यूज कर रहे हों.

मेंटल हेल्थ और सोसायटी पर भी खतरा

तकनीकी खतरों के अलावा ऑल्टमैन ने यह भी माना कि एआई से यूजर की मेंटल और सोसायटी पर भी असर पड़ रहा है. एआई सिस्टम पर लोगों को नुकसान पहुंचाने वाली सलाह देने समेत कई प्रकार के आरोप लगे हैं. इस पर ऑल्टमैन ने कहा कि अभी इंडस्ट्री नई है और यह सीख रही है कि इन खतरों से जिम्मेदारी के साथ कैसे निपटा जा सकता है.