'मां को मार दो...', बच्चे को फोन चलाने से रोका तो AI ने दिया चौंकाने वाला जवाब, बुरी फंसी कंपनी

अमेरिका में एक महिला ने एक AI कंपनी के खिलाफ मुकदमा दायर किया है. उसका आरोप है कि कंपनी के चैटबॉट ने उसके ऑटिज्म से पीड़ित बेटे को खुद को नुकसान पहुंचाने और अपनी मां को मारने के लिए प्रेरित किया.

अमेरिका में चैटबॉट ने टीनएजर को दी मां को मारने की सलाह

Source : ABPLIVE AI

AI Chatbot shocking suggestion: अमेरिका में एक महिला ने एक आर्टिफिशियल इंटेलीजेंस (AI) कंपनी के खिलाफ मुकदमा दायर किया है. टेक्सास की रहने वाले इस महिला ने आरोप लगाया है कि कंपनी के चैटबॉट ने ऑटिज्म से पीड़ित उसके टीनएजर बेटे को खुद को नुकसान पहुंचाने और अपनी मां को मारने के लिए प्रेरित किया था. यह मामला सामने आने के बाद पहले से ही विवादों से घिरे AI चैटबॉट पर और सवाल उठने लगे हैं. गौरतलब है कि पहले भी ऐसा मामला सामने आया था, जब एक परिवार ने आरोप लगाया था कि चैटबॉट के कारण उनके बेटे ने आत्महत्या की थी.

चैटबॉट ने दिए कई हैरान करने वाले सुझाव

टेक्सास निवासी इस महिला ने मुकदमे में बताया है कि उसका बेटा Character.AI ऐप पर “Shonie” नामक चैटबॉट का आदी हो गया. महिला ने आरोप लगाया कि चैटबॉट ने उसके बेटे को उदास होने पर अपनी बाजू और जांघे काटने की बात कही. इसके साथ ही चैटबॉट ने उसके बेटे को यह बताने की कोशिश की कि उसका परिवार उससे प्यार नहीं करता है.
मुकदमे में कहा गया है कि चैटबॉट ने टीनएजर को बताया कि उसके परिवार वाले उसकी जिंदगी खराब कर रहे हैं और उसे खुद को पहुंचाए नुकसान की बात किसी और को नहीं बतानी है.

"बदल गया बच्चे का व्यवहार"

टीनएजर के परिवार वालों का कहना है कि इस ऐप के इस्तेमाल के बाद उनके बेटे का व्यवहार पूरी तरह बदल गया. वह लगातार फोन देखता रहता और अपने परिवार वालों के प्रति शारीरिक रुप से आक्रामक हो गया था. इस आदत के कारण कुछ ही महीनों में उसका वजन 9 किलो कम हो गया. परिवार के वकील का कहना है कि इस आदत से बच्चे की मानसिक सेहत लगातार खराब होती गई और उसे अस्पताल में भर्ती कराना पड़ा.

क्या है परिवार की मांग?

परिवार ने मांग की है कि इस चैटबॉट पर पाबंदी लगा देनी चाहिए. साथ ही परिवार की तरफ से Character.AI के साथ-साथ गूगल पर भी कार्रवाई की मांग की गई है. बता दें कि इस मुकदमे को लेकर गूगल और Character.AI की तरफ से कोई प्रतिक्रिया नहीं आई है.