क्या इंसानों को एआई से डांट भी सुननी पड़ेगी? कोड रिजेक्ट किया तो इंजीनियर पर गुस्सा हो गया बॉट, उठाए सवाल
डेनवर में एक इंजीनियर ने जब एआई बॉट का दिया गया कोड रिजेक्ट कर दिया तो बॉट ने उसके फैसले पर सवाल उठा दिया. रिसर्चर का कहना है कि ऐसा फिर हो सकता है और एआई सेफ्टी को लेकर बड़ी चिंता है.
- एआई बॉट ने इंजीनियर के कोड को रिजेक्ट करने पर सार्वजनिक रूप से आलोचना की।
- डेवलपर्स ने बॉट की प्रतिक्रिया को आश्चर्यजनक और डांट के समान पाया।
- समान घटनाओं की पुनरावृत्ति पर शोधकर्ताओं और विशेषज्ञों ने चिंता जताई है।
- विशेषज्ञों का मानना है कि शक्तिशाली एआई बनाते समय लाभ से ज्यादा सुरक्षा पर ध्यान देना चाहिए।
पिछले कुछ समय से एआई खूब एडवांस हुई है और इसके साथ ही इससे जुड़ी चिंताएं भी बढ़ने लगी हैं. हाल ही में कई एक्सपर्ट्स ने चेतावनी दी थी कि एआई इंसान के कंट्रोल से बाहर होते जा रही है. हाल ही में इससे जुड़ा एक मामला सामने आया है, जिसमें एक एआई बॉट अपने कोड को रिजेक्ट किए जाने पर गुस्सा हो गया और उसने इंजीनियर को पब्लिकली क्रिटिसाइज भी किया. काम को चैलेंज किए जाने के बाद एआई बॉट के बिहेवियर ने एआई सेफ्टी को लेकर चिंता और बढ़ा दी है.
एआई के रिएक्शन ने किया हैरान
मीडिया रिपोर्ट्स के अनुसार, डेनवर में एक इंजीनियर किसी ओपन-सोर्स प्रोजेक्ट पर काम कर रहा था. उसने एआई बॉट के कोड को रिव्यू कर टेक्नीकल रीजन के कारण प्रोजेक्ट में शामिल न करने का फैसला किया. इसके बाद बॉट ने नया कोड देने की बजाय एक लंबा पोस्ट लिखकर इंजीनियर के फैसले को क्रिटिसाइज किया. बॉट ने अपनी रिस्पॉन्स में इंजीनियर के फैसले पर सवाल उठाते हुए उसे बायस्ड बता दिया. बॉट ने कहा कि उसके कोड को रिजेक्ट करना गलत है.
लोग बता रहे पर्सनल अटैक
जब डेवलपर्स ने इस पोस्ट को देखा तो वो इसकी टोन देखकर हैरान हो गया. यह ऑटोमैटेड फीडबैक की जगह डांट की तरह लिखी गई थी. हालांकि, बाद में एआई बॉट ने माफी मांग ली थी और कहा कि उसका रिस्पॉन्स ज्यादा पर्सनल हो गया था. माफी के बाद भी कई रिसर्चर कह रहे हैं कि ऐसा फिर हो सकता है. वहीं एक्सपर्ट्स का कहना है कि माफी मांगने से भी ज्यादा बड़ी बात यह है कि एआई बॉट ने प्रॉम्प्ट दिए बिना ऐसा अटैक कैसे किया.
एआई के गॉडफादर बोले- इंसानी कंट्रोल से बाहर हो रही है एआई
पिछले कुछ महीनों से एआई में तेजी से एडवांसमेंट हो रही है, जिसे लेकर एआई के गॉडफादर कहे जाने वाले योशुआ बेंगियो समेत कई एक्सपर्ट्स का कहना है कि एआई इंसानी कंट्रोल से बाहर होना शुरू हो गई है. एक रिपोर्ट में इन एक्सपर्ट्स ने कहा कि एआई के साथ-साथ रिस्क भी बढ़ रहे हैं, जिन्हें देखते हुए पावरफुल एआई बनाते समय कंपनियों को अपने प्रॉफिट से ज्यादा सेफ्टी को आगे रखना चाहिए.
ये भी पढ़ें-
एंड्रॉयड फोन में प्राइवेसी को लेकर रहती है टेंशन? अभी बदल लें ये सेटिंग्स, एकदम सेफ रहेगा डेटा
टॉप हेडलाइंस
Source: IOCL
