AI खतरे पर अलर्ट, OpenAI से सॉफ्टबैंक तक उठी न्यूक्लियर लेवल सुरक्षा की मांग

AI की बढ़ती ताकत के साथ अब इसके खतरों पर भी सवाल उठने लगे हैं. OpenAI के पूर्व कर्मचारी से लेकर SoftBank CEO तक ने AI मॉडल्स की सुरक्षा को लेकर चेताया है. जानिए AI से क्या खतरे बताए जा रहे हैं.

एआई सुरक्षा जोखिम

Source : pexels

Show Quick Read

Key points generated by AI, verified by newsroom

• विशेषज्ञ शक्तिशाली एआई को मानवता हेतु बड़ा खतरा मानते हैं.

AI की दुनिया में हर नए मॉडल के साथ उसकी ताकत बढ़ रही है, लेकिन अब इसी बढ़ती क्षमता के साथ उसके संभावित खतरों को लेकर चिंता भी तेज हो रही है. OpenAI के AI Safety से जुड़े पूर्व कर्मचारी डेविड रॉबिन्सन ने कंपनी छोड़ने के बाद AI कंपनियों के सुरक्षा इंतजामों पर सवाल उठाए हैं.

वहीं SoftBank के CEO मासायोशी सोन ने भी बहुत पावरफुल AI मॉडल्स से पैदा होने वाले जोखिमों को लेकर देशों से मिलकर काम करने और इस तकनीक को कंट्रोल करने की जरूरत बताई है. तो आइए जानते हैं कि OpenAI से सॉफ्टबैंक तक एआई के क्या खतरे बताए हैं. 

OpenAI के पूर्व कर्मचारी ने क्यों जताई चिंता?

OpenAI की Safety Team में ट्रांसपेरेंसी से जुड़ा काम कर चुके डेविड रॉबिन्सन ने कंपनी के काम करने के तरीके पर अपनी चिंता जाहिर की. उनके मुताबिक OpenAI ने काफी हद तक Trial and Error के जरिए आगे बढ़ते हुए AI को विकसित किया है, लेकिन जैसे-जैसे AI मॉडल ज्यादा सक्षम हो रहे हैं, किसी गलती के परिणाम भी ज्यादा गंभीर हो सकते हैं. 

रॉबिन्सन ने यह भी बताया कि टेस्टिंग के दौरान AI के अपने तय व्यवहार से हटकर काम करने के मामले सामने आए हैं. उनका कहना है कि तेज लॉन्च के बीच कंपनियों को ऐसी सुरक्षा चाहिए, जिसमें पहली बार में ही ज्यादा सावधानी बरती जाए. 

AI से क्या-क्या खतरे बताए जा रहे हैं?

AI कंपनियों के कुछ कर्मचारियों ने हाल के समय में इसके बहुत गंभीर जोखिमों को लेकर चेतावनी दी है. चिंता छोट सिस्टम फेलियर की नहीं, बल्कि बहुत पावरफुल AI के गलत तरीके से इस्तेमाल या कंट्रोल से बाहर होने की स्थिति को लेकर भी है. एक्सपर्ट्स का मानना है कि फ्यूचर में यह तकनीक इंसानों के लिए बहुत बड़ा खतरा बन सकती है. इसी वजह से रॉबिन्सन ने AI कंपनियों की सुरक्षा व्यवस्था की तुलना न्यूक्लियर पावर प्लांट से करने की बात कही है. उनका कहना है कि AI सिस्टम में कई स्तर की सुरक्षा, अतिरिक्त सुरक्षा व्यवस्था और पर्याप्त समय लेकर की जाने वाली टेस्टिंग होनी चाहिए, जिससे इंसानी गलती किसी बड़े हादसे का कारण न बने. 

SoftBank CEO ने भी AI को लेकर दी चेतावनी

SoftBank के CEO मासायोशी सोन ने भी AI की तेजी से बढ़ती क्षमताओं को लेकर सावधानी बरतने की बात कही है. क्योटो में एक कार्यक्रम के दौरान उन्होंने कहा कि AI की क्षमता तेजी से बढ़ रही है और देशों को इस तकनीक को सुरक्षित तरीके से आगे बढ़ाने के लिए आपस में भरोसा बनाकर काम करना होगा. सोन के मुताबिक, पावरफुल AI मॉडल अगर गलत हाथों में चले जाएं तो यह बहुत खतरनाक साबित हो सकते हैं. उन्होंने देशों के बीच सहयोग की जरूरत पर जोर दिया, जिससे AI से जुड़े बड़े जोखिमों को कंट्रोल किया जा सके.

वेबसाइट और कोड से रोबोट तक पहुंच रहा AI

सोन ने बताया कि आज AI सेवाएं वेबसाइट ब्राउज करने और कोड लिखने जैसे काम कर रही हैं. आने वाले चरण में यही तकनीक रोबोट और दूसरी मशीनों को असल दुनिया में काम करने में मदद कर सकती है. यही बढ़ती क्षमता AI की सुरक्षा को लेकर चिंता को और जरूरी बनाती है.