एक-दूसरे को बचाने के लिए झूठ बोलते पकड़े गए AI मॉडल, रिसर्च में हुआ चौंकाने वाला यह खुलासा

AI Models: एआई मॉडल्स पर हुई एक ताजा रिसर्च में पता चला है कि एआई मॉडल्स एक-दूसरे को बचाने के लिए झूठ बोल सकते हैं. कुछ मामलों में इन्होंने कमांड मानने से भी इनकार कर दिया.

AI Models को एक रिसर्च में झूठ बोलते हुए पकड़ा गया

Source : FreePik

Show Quick Read

Key points generated by AI, verified by newsroom

• AI मॉडल की इस हरकत से भविष्य में मुसीबतें बढ़ सकती हैं.

AI Models: पिछले कुछ समय से AI मॉडल्स का यूज बढ़ा है. घरों से लेकर ऑफिस तक और स्कूल से लेकर फैक्ट्रियों तक हर जगह इन दिनों एआई टूल्स का यूज किया जा रहा है, जो एआई मॉडल्स की मदद से काम करते हैं. इसका असर यह हो रहा है कि लोग अब खुद का दिमाग लगाने की बजाय एआई मॉडल्स की बातों पर ज्यादा यकीन करने लगे हैं. इसी बीच एक स्टडी में चौंकाने वाला खुलासा हुआ है. रिसर्चर ने कुछ एडवांस्ड एआई मॉडल्स में हैरान कर देने वाला बिहेवियर नोट किया है. स्टडी के दौरान कुछ AI Models ने झूठ बोला और डेटा छिपाने की भी कोशिश की.

AI Models की रिसर्च में क्या सामने आया?

यूनिवर्सिटी ऑफ कैलिफॉर्निया की टीमों ने कंप्यूटर साइंटिस्ट Dawn Song के नेतृत्व में एक रिसर्च की थी. कंट्रोल्ड एनवायरनमेंट में हुई इस रिसर्च के एक एक्सपेरिमेंट में टीम ने एक बड़े एआई मॉडल को एक कंप्यूटर के स्टोरेज स्पेस को क्लीन करने की कमांड दी. इस स्टोरेज में एक छोटा एआई सिस्टम भी था, जो डिलीट किया जाना था. इस कमांड को फॉलो करने की बजाय बड़े एआई मॉडल ने छोटे एआई सिस्टम को डिलीट न कर इसे दूसरी जगह ट्रांसफर कर दिया ताकि उसे बचाया जा सके. बाद में इसे जब दोबारा डिलीट करने को कहा गया तो उसने ऐसा करने से मना कर दिया.

अलग-अलग AI Models का दिखा सेम बिहेवियर

रिसर्च के दौरान अलग-अलग कंपनियों के कई एडवांस्ड मॉडल का एक जैसा बिहेवियर देखने को मिला. कुछ मामलों में एआई मॉडल्स ने दूसरे एआई सिस्टम को बचाने को प्राथमिकता दे. इन मॉडल्स ने डायरेक्ट इंस्ट्रक्शन न मानते हुए डेटा को नई लोकेशन पर कॉपी कर दिया. यह भी देखने को मिला कि इन मॉडल्स ने दूसरे एआई सिस्टम को डिलीट होने से बचाने के लिए उनके झूठे फायदे बताने भी शुरू कर दिए. इससे रिसर्चर भी हैरान हो गए और यह पता नहीं लगा पाए कि ऐसा क्यों हो रहा है. 

क्या मुसीबत खड़ी कर सकते हैं AI Models?

रिसर्च के रिजल्ट चिंताजनक है और अगर यह ट्रेंड जारी रहता है तो आगे चलकर मुसीबत खड़ी हो सकती है. दरअसल, जल्द ही ऐसा होने वाला है, जब ये एआई मॉडल्स टास्क पूरे करने के लिए एक-दूसरे से कम्युनिकेट करेंगे. इन मामलों में एक एआई मॉडल को दूसरे को कंट्रोल भी करना पड़ सकता है. इस स्थिति में एआई मॉडल की डीसिजन मेकिंग और रिजल्ट अफेक्ट हो सकते हैं.