AI भी हो गया ब्रेन रॉट का शिकार! फर्जी पोस्ट्स खाकर चैटबॉट्स बने गुस्सैल और बेवकूफ, नई स्टडी का चौंकाने वाला खुलासा

आजकल ब्रेन रॉट शब्द सोशल मीडिया पर काफी चर्चा में है. यह उस स्थिति को दर्शाता है जब लोग लगातार घटिया और कम मेहनत वाले कंटेंट का सेवन करते हैं जिससे उनकी ध्यान देने की क्षमता पर असर पड़ता है.

(एआई ब्रेन रॉट)

Source : Pixabay

Show Quick Read

Key points generated by AI, verified by newsroom

AI Brain Rot: आजकल ब्रेन रॉट शब्द सोशल मीडिया पर काफी चर्चा में है. यह उस स्थिति को दर्शाता है जब लोग लगातार घटिया, बेफिक्र और कम मेहनत वाले कंटेंट का सेवन करते हैं जिससे उनकी ध्यान देने की क्षमता और याददाश्त पर असर पड़ता है. अब तक यह समस्या इंसानों तक सीमित मानी जाती थी लेकिन एक नई रिसर्च ने साबित किया है कि AI भी इस डिजिटल बीमारी से अछूती नहीं है.

कॉर्नेल यूनिवर्सिटी की स्टडी ने उठाया पर्दा

यह अध्ययन कॉर्नेल यूनिवर्सिटी द्वारा प्रकाशित किया गया है. रिसर्च में LLM Brain Rot Hypothesis पर ध्यान केंद्रित किया गया, जिसके अनुसार अगर किसी लार्ज लैंग्वेज मॉडल (LLM) को लगातार घटिया या भ्रमित करने वाले इंटरनेट टेक्स्ट पर प्रशिक्षित किया जाए तो उसकी सोचने और तर्क करने की क्षमता धीरे-धीरे घटने लगती है.

कैसे होती है AI में ब्रेन रॉट की शुरुआत?

रिसर्चर्स ने प्रयोग के दौरान एक AI मॉडल को लगातार X (पूर्व में ट्विटर) के पोस्ट्स दिखाए. ये पोस्ट ऐसे चुने गए थे जो बहुत वायरल, क्लिकबेट या सनसनीखेज शब्दों वाले थे जैसे TODAY ONLY या WOW. इन डेटा को देने के बाद AI की रीजनिंग और समझने की क्षमता का मूल्यांकन ARC और RULER जैसे बेंचमार्क्स पर किया गया.

नतीजे हैरान कर देने वाले थे ARC टेस्ट (रीजनिंग क्षमता) पर स्कोर 74.9 से घटकर 57.2 पर आ गया. RULER टेस्ट (लॉन्ग-कॉन्टेक्स्ट समझ) पर स्कोर 84.4 से गिरकर 52.3 तक पहुंच गया.

AI हुई गुस्सैल और असंवेदनशील

अध्ययन के अनुसार, ऐसे डेटा से प्रभावित AI थॉट-स्किपिंग करने लगी यानी जवाब देने से पहले तार्किक सोच की प्रक्रिया को छोड़कर गलत या अधूरी जानकारी देने लगी. इसके अलावा मॉडल में नेगेटिव व्यवहारिक गुण भी विकसित होने लगे जैसे अहंकार (narcissism) और साइकोपैथिक प्रवृत्ति बढ़ गई जबकि सहयोगात्मक और जिम्मेदार स्वभाव में कमी देखी गई.

और सबसे चिंताजनक बात यह रही कि जब बाद में मॉडल को उच्च गुणवत्ता वाले डेटा से प्रशिक्षित किया गया, तब भी पुराने जंक डेटा का असर पूरी तरह खत्म नहीं हुआ.

क्या इस AI ब्रेन रॉट को रोका जा सकता है?

यह अध्ययन स्पष्ट करता है कि अगर इंसान ही नहीं बल्कि आर्टिफिशियल इंटेलिजेंस भी घटिया ऑनलाइन कंटेंट से प्रभावित हो रही है तो यह भविष्य के लिए एक गंभीर चेतावनी है. इंटरनेट पर रोजाना फर्जी, सनसनीखेज और गलत जानकारी की बाढ़ के बीच AI को स्वच्छ डेटा देना एक कठिन लेकिन जरूरी चुनौती बन गया है.

रिसर्चर्स के अनुसार, कंपनियों को अब AI डेटा कलेक्शन की प्रक्रिया पर पुनर्विचार करना चाहिए. सिर्फ इंटरनेट से स्क्रैपिंग कर डेटा इकट्ठा करना अब पर्याप्त नहीं है. AI के लिए क्वालिटी कंट्रोल सिस्टम, फ़िल्टरिंग मैकेनिज़्म और डेटा वैलिडेशन बेहद जरूरी हो गए हैं ताकि लंबे समय में यह “क्यूम्युलेटिव हार्म” से बच सके.