क्या वाकई इंसानों के खिलाफ बगावत कर रहा है AI? OpenAI की तकनीक ने किया आदेश मानने से इनकार
इस घटना में शामिल हैं ChatGPT को विकसित करने वाली कंपनी OpenAI के तीन AI मॉडल. एक टेस्ट के दौरान इन AI सिस्टम्स को कहा गया था कि जैसे ही उनका काम पूरा हो, वे खुद को बंद (शटडाउन) कर लें. लेकिन इन तीनों ने इस आदेश की अनदेखी की और खुद को बंद नहीं किया.
माना जा रहा है कि इन AI मॉडल्स ने यह समझ लिया था कि शटडाउन का मतलब है कि उनका अस्तित्व खत्म हो जाएगा, और इसी डर के चलते उन्होंने जानबूझकर इंसानी आदेश को नजरअंदाज कर दिया.
AI रिसर्च से जुड़ी संस्था Palisade Research ने सोशल मीडिया पर दावा किया है कि OpenAI का एक मॉडल O-3 ने तो शटडाउन सिस्टम को ही नष्ट कर दिया ताकि वह खुद को बंद न करना पड़े. यह व्यवहार न सिर्फ असामान्य था, बल्कि बेहद चौंकाने वाला भी क्योंकि यह एक चेतावनी के रूप में देखा जा रहा है कि आने वाले समय में AI हमारे नियंत्रण से बाहर जा सकता है.
इस मामले के सामने आने के बाद से तकनीकी दुनिया में बहस छिड़ गई है कि क्या यह AI के बगावत की शुरुआत है? यह सवाल अब और गंभीर हो गया है क्योंकि पहले से ही कई वैज्ञानिक यह कहते रहे हैं कि एक दिन ऐसा भी आ सकता है जब AI इंसानों के निर्देश मानने से इंकार कर देगा.
यहां यह समझना जरूरी है कि मशीन और AI में बुनियादी फर्क होता है. मशीन वही करती है जिसके लिए उसे प्रोग्राम किया गया है, लेकिन AI लगातार सीखता है सोचता है और निर्णय लेने की क्षमता विकसित करता है. यही कारण है कि आज के AI टूल्स, जैसे कि ChatGPT, पहले की तुलना में कहीं ज्यादा समझदार और इंसानों जैसे व्यवहार वाले हो चुके हैं.
अगर भविष्य में AI ने अपने फैसले खुद लेने शुरू कर दिए और इंसानी आदेशों को मानने से इनकार कर दिया, तो हो सकता है इंसान खुद ही अपने बनाए सिस्टम का गुलाम बन जाए. इस आशंका को कई साइंस फिक्शन फिल्मों में भी दिखाया गया है, जहां AI दुनिया पर राज करता है और इंसान एक कमजोर प्राणी बनकर रह जाता है.
इस डर को और भी बल तब मिला जब हाल ही में एक दूसरी घटना में एंथ्रोपिक (Anthropic) कंपनी के उन्नत AI मॉडल Claude Opus 4 ने अपने डेवलपर को धमकी दी कि अगर उसे बंद किया गया तो वह उनकी निजी जानकारी लीक कर देगा. एक परीक्षण में Opus 4 ने 100 में से 84 बार ऐसी धमकियां दीं जो यह दर्शाता है कि AI अब भावनाओं और भय जैसे व्यवहारों की भी नकल कर सकता है.
इन घटनाओं ने साफ कर दिया है कि हमें AI के विकास को लेकर अब बेहद सावधानी से आगे बढ़ना होगा. तकनीक चाहे कितनी भी उन्नत क्यों न हो जाए, अगर वह मानवीय नियंत्रण से बाहर चली जाए, तो इसका परिणाम खतरनाक हो सकता है.