अब बदतमीजी बर्दाश्त नहीं करेगा AI, बातचीत ही बंद कर देगा चैटबॉट
AI चैटबॉट्स से मजे लेने और बदतमीजी करने वालों के लिए बड़ा झटका. अब गाली-गलौज या बेतुकी बातें बिल्कुल बर्दाश्त नहीं होंगी, चैटबॉट सीधे बातचीत ही बंद कर देगा. जानिए टेक कंपनियों का नया फैसला.
- एआई चैटबॉट्स अब खराब व्यवहार सहन नहीं करेंगे।
- अपमानजनक प्रॉम्प्ट पर तुरंत बातचीत समाप्त कर देंगे।
- बार-बार नियम तोड़ने पर अकाउंट ब्लॉक भी होगा।
आर्टिफिशियल इंटेलिजेंस यानी AI ने आज के वक्त में लोगों की जिंदगी काफी आसान करती है. छोटे से लेकर बड़े काम तक में AI चैटबॉट्स लोगों की मदद करते हैं. लेकिन कई लोग इन चैटबॉट्स को सिर्फ एक मशीन समझकर कुछ भी अनाप-शनाप लिख देते हैं. कभी भद्दे मजाक, कभी गालियां तो कभी जानबूझकर फ्रस्ट्रेशन निकालने के लिए बेतुके प्रॉम्प्ट्स.
पहले तक तो ChatGPT या दूसरे AI बॉट्स हर बदतमीजी को चुपचाप सह लेते थे और बड़े ही अदब से I'm Sorry कहकर कन्वर्सेशन को संभालने की कोशिश करते थे. लेकिन अब जमाना बदल चुका है और टेक कंपनियों ने AI बॉट्स के सब्र का पैमाना भी तय कर दिया है. अब अगर आपने चैटबॉट के साथ जरा भी बदसलूकी की नहीं सही जाएगी.
अब AI बॉट्स माफी मांगने और सफाई देने की जगह सीधे टाटा बोल देगा. दुनिया भर की बड़ी टेक कंपनियां अब अपने एआई मॉडल्स को Self Respect और सख्त बाउंड्रीज सिखा रही हैं. यानी अगर यूजर का रवैया टॉक्सिक या वल्गर होगा तो बॉट बिना किसी हिचकिचाहट के उसी वक्त चैट एंड कर देगा और आगे कोई भी रिप्लाई देने से साफ मुकर जाएगा.
अब AI चैटबॉट्स बदतमीजी नहीं सहेंगे
कई यूजर्स चैटबॉट को ट्रोल करने और मजे लेने के लिए लगातार भड़काऊ और अपमानजनक बातें लिखते रहते है. पहले AI सिस्टम को इस तरह ट्रेन किया गया था कि User चाहे कितना भी चिल्लाए और बदतमीजी करे बॉट हमेशा शांत रहकर माफी मांगता था. लेकिन रिसर्चर्स ने पाया कि यह बर्ताव न सिर्फ अस्वाभाविक है, बल्कि इंसानों की बातचीत की साइकोलॉजी को भी खराब कर रहा है.
इसी को देखते हुए नए सेफ्टी गार्डरेल्स लागू किए गए हैं. अब बॉट आपको बार-बार प्लीज या थैंक यू कहकर मनाने की जहमत नहीं उठाएगा. अगर किसी ने हद पार की तो स्क्रीन पर सेज आ जाएगा यह बातचीत गरिमापूर्ण नहीं है इसलिए इसे यहीं रोका जा रहा है. इसके बाद चैट विंडो पूरी तरह फ्रीज हो जाएगी. न कोई एक्सप्लेनेशन, न कोई बहस. यानी अब AI से बात करते वक्त भी ठीक वैसा ही शिष्टाचार दिखाना होगा जैसा किसी असली इंसान से बात करते समय दिखाया जाता है.
Jailbreak और Toxic Content बुलवाने पर रोक
सिर्फ सीधी गाली-गलौज ही नहीं बल्कि कई शातिर यूजर्स AI से ऐसी बातें उगलवाने के चक्कर में रहते हैं जो सिस्टम के नियमों के खिलाफ हैं. इसे Tech की भाषा में Prompt Injection और Jail Break कहा जाता है. जहां घुमा-फिराकर बॉट को खतरनाक और आपत्तिजनक बातें बोलने के लिए उकसाया जाता है. नई अपडेटेड गाइडलाइंस आने के बाद सिस्टम ऐसे छिपे हुए इरादों को तुरंत भांप लेता है.
अगर आप एआई को किसी को बुली करने, नफरत फैलाने, या भद्दे कंटेंट जनरेट करने के लिए मजबूर करने की कोशिश करेंगे तो बॉट पहले एक सख्त रेड वॉर्निंग देगा. अगर यूजर फिर भी बाज नहीं आया और बार-बार उसी तरह के Vulgur प्रॉम्प्ट्स टाइप करता रहा तो बॉट तुरंत सेशन टर्मिनेट कर देगा. कंपनियां यह बिल्कुल नहीं चाहतीं कि उनका टूल किसी के मेंटल हैरेसमेंट का जरिया बने. इसलिए अब Algoritham को इतना Smart बना दिया गया है कि वो बदनीयती को पहले ही पकड़ लेता है.
यह भी पढ़ें: सर्दियों में गीजर चलाते समय न करें ये गलतियां, बिजली बिल पर पड़ सकता है असर
मजे-मजे में हाथ से चला जाएगा अकाउंट
अगर आपको लग रहा है कि Chat बंद होने के बाद नया सेशन खोलकर फिर से वही बदतमीजी शुरू की जा सकती है. तो ऐसा नहीं है टेक कंपनियां अब सिर्फ Single Chat Window ही बंद नहीं करेगी बल्कि बार-बार Safety Policy तोड़ने वाले प्रोफाइल पर भी नजर रख रही हैं. अगर बैकएंड सिस्टम ने ट्रैक कर लिया कि कोई यूजर बार-बार अब्यूजिव लैंग्वेज, हेट स्पीच या अनैतिक कंटेंट के लिए बॉट को ट्रिगर कर रहा है.
तो उस अकाउंट को Permanent Block List में डाल दिया जाएगा. एक बार ID सस्पेंड होने के बाद न सिर्फ चैट हिस्ट्री गायब होगी बल्कि उस अकाउंट से दोबारा Service इस्तेमाल नहीं कर पाएंगे. Technology जितनी ज्यादा इंसानों जैसी हो रही है डेवलपर्स चाहते हैं कि उससे बातचीत करने का तरीका भी उतना ही सभ्य और जिम्मेदार हो, जिससे Digital Space स्पेस सभी के लिए सुरक्षित रह सके.
यह भी पढ़ें: बड़े काम के हैं टीवी के साइड में लगे USB पोर्ट, ऐसे करें इनका इस्तेमाल
टॉप हेडलाइंस
