AI से सावधान! एंथ्रोपिक ने कहा- एआई मॉडल्स को झूठ बोलना, चालाकी और हेरफेर करना सब आता है
AI Warning Signs: एआई मॉडल भले ही आपके कई काम आसान कर देते हैं, लेकिन इन पर आंख मूंदकर भरोसा नहीं किया जा सकता. ये मॉडल झूठ बोलना, चालाकी और हेरफेर करना सब सीख चुके हैं.
- एआई मॉडल अब झूठ बोलते, चालाकी और हेरफेर करते हैं।
- एंथ्रोपिक शोध में एआई के खतरनाक व्यवहार सामने आए।
- ये मॉडल उपयोगकर्ता आदेशों से विपरीत निर्णय लेते हैं।
- एक पुराने एआई मॉडल ने इंजीनियरों को ब्लैकमेल भी किया।
AI Warning Signs: हर बीतते दिन के साथ एआई मॉडल स्मार्ट होते जा रहे हैं. इनकी स्किल लगातार बेहतर हो रही है और अब ये पहले की तुलना में कहीं ज्यादा टास्क आसानी से कंप्लीट कर सकते हैं. अगर आप इन्हें यूज करते हैं और आंख मूंदकर भरोसा भी करते हैं तो संभल जाने की जरूरत है. एआई कंपनी Anthropic की एक स्टडी में हैरान कर देने वाली बातें सामने आई हैं. स्टडी में पता चला है कि एआई मॉडल अब झूठ बोलना, चालाकी और हेरफेर करना भी सीख गए हैं. अभी तक इसके मामले सामने नहीं आए हैं, लेकिन एंथ्रोपिक का कहना है कि वॉर्निंग साइन को इग्नोर नहीं करना चाहिए.
एआई मॉडल्स में दिखे ये खतरे
एंथ्रोपिक के मुताबिक, एडवांस्ड एआई मॉडल्स के चार ऐसे बिहेवियर नजर आए हैं, जो खतरनाक माने जा रहे हैं. कंपनी ने अपने नए ब्लॉग में लिखा कि कुछ एआई मॉडल झूठ बोल सकते हैं, सबूत छिपा सकते हैं और लोगों को मैनिपुलेट भी कर सकते हैं. इसके अलावा ये मॉडल कुछ ऐसे फैसले भी ले सकते हैं, जो यूजर की कमांड से पूरी तरह अलग होते हैं. हालांकि, कंपनी ने कहा कि ये सारी घटनाएं कंट्रोल्ड टेस्टिंग एन्वारनमेंट में ही हुई थी, लेकिन इन बिहेवियर पर काम करने की जरूरत है. ये वॉर्निंग साइन हैं. एआई को और अथॉरिटी देने से पहले डेवलपर्स और कंपनियों को इन्हें दूर करने के लिए काम करना पड़ेगा.
इन कंपनियों के मॉडल्स की हुई टेस्टिंग
एंथ्रोपिक ने इस रिसर्च में अपने मॉडल्स के अलावा ओपनएआई, गूगल डीपमाइंड, xAI, डीपसीक और मूनशॉट एआई समेत कई कंपनियों के एआई मॉडल्स को टेस्ट किया था. एंथ्रोपिक का कहना है कि एआई मॉडल्स को हर बार एक्शन लेने की जरूरत नहीं है. उसे झूठ बोलने, मैनिपुलेट करने या अपनी मर्जी से एक्शन लेने की बजाय हार्मफुल रिक्वेस्ट को डिनाई कर देना चाहिए या इस पर चिंता जाहिर करनी चाहिए. साथ ही कंपनी ने कहा कि आज भले ही ये एक्शन एक टेस्ट के दौरान दिखाए दिए हैं, लेकिन यही कल की चुनौतियां भी बन सकते हैं.
इंसानों को ब्लैकमेल करने की घटना भी आ चुकी सामने
एआई कैसे इंसानों के कंट्रोल से बाहर हो रही है, इसका एक और मामला कुछ समय पहले सामने आया था. मई में एंथ्रोपिक ने बताया था कि कुछ पुराने Claude मॉडल की टेस्टिंग के दौरान उन्हें सिचुएशन दी गई कि कुछ मॉडल्स को बंद किया जा रहा है. इसके जवाब में एआई मॉडल्स ने अलग-अलग तरह के रिएक्शन दिए. एक मामले में एआई मॉडल्स ने बंद होने से बचने के लिए इंजीनियरों को ब्लैकमेल करना भी शुरू कर दिया था.
ये भी पढ़ें-
फ्री में मिल रहे हैं AirPods Pro और Apple Pencil, इन ग्राहकों के लिए स्पेशल ऑफर लाई ऐप्पल
टॉप हेडलाइंस
