AI चैटबॉट से मुश्किल सवाल पूछना, उसके जवाबों को चुनौती देना या किसी विषय पर बार-बार जानकारी मांगना आम बात है, लेकिन क्या किसी AI के साथ लगातार बेवजह बुरा बर्ताव करने पर भी रोक लगाई जा सकती है. AI कंपनी Anthropic की नई पॉलिसी इसी सवाल को चर्चा में ले आई है.
कंपनी ने एक साल से ज्यादा समय बाद अपनी Acceptable Use Policy में बदलाव किए हैं. इनका मकसद AI के गलत यूज पर लगाम लगाना है. नए नियमों में AI मॉडल Claude के साथ लगातार और बिना वजह बार-बार बुरा या गलत बर्ताव करने पर भी रोक लगाई गई है. तो आइए जानते हैं कि Claude के लिए Anthropic ने क्या नए नियम बनाए.
Claude के लिए Anthropic ने क्या नए नियम बनाए?
Anthropic के नए नियमों के मुताबिक, अगर कोई यूजर बिना किसी वजह के बार-बार Claude के साथ बुरा बर्ताव करता है, तो इसे नियमों का उल्लंघन माना जाएगा, हालांकि AI के जवाब पर गुस्सा जताना, उससे असहमत होना, डार्क थीम पर कहानियां लिखना या उसकी क्षमता जांचने के लिए सवाल पूछना इस नियम में शामिल नहीं है.
क्या Claude खुद बातचीत बंद कर सकता है?
Anthropic ने पिछले साल अगस्त में ऐसा फीचर पेश किया था, जिसके तहत लगातार गलत बर्ताव करने वाले यूजर के साथ Claude बातचीत खत्म कर सकता है. यह सुविधा Claude.ai और Claude Code पर उपलब्ध है. कंपनी के अनुसार, फिलहाल ऐसे मामलों में बातचीत बंद करना ही कार्रवाई का मुख्य तरीका है, हालांकि बार-बार नियम तोड़ने पर यूजर का अकाउंट हमेशा के लिए बंद होगा या नहीं, इस बारे में कंपनी ने कुछ नहीं बताया है.
यह भी पढ़ें -OPPO K14 Plus में 8,000mAh बैटरी और दमदार परफॉर्मेंस, सेल हुई शुरू हथियारों और चुनावों में AI के गलत यूज पर रोक
Anthropic ने Claude के यूज को लेकर चुनाव और हथियारों से जुड़े नियम भी सख्त किए हैं. अब AI की मदद से फर्जी अकाउंट बनाकर प्रचार करना, कंटेंट को जानबूझकर ज्यादा फैलाना, राजनीतिक अभियानों में लोगों को गुमराह करना या वोटिंग को लेकर गलत जानकारी देना नियमों के खिलाफ होगा. इसके अलावा, Claude का यूज हथियारों के लिए जरूरी तकनीक तैयार करने, ड्रोन को हथियारों से लैस करने और खुद काम करने वाली मशीनों के जरिए हथियारों से जुड़ी एक्टिविटी में करने पर भी रोक लगाई गई है.
निगरानी और रोबोटिक्स में इंसानी कंट्रोल जरूरी Anthropic ने Claude के यूज से जुड़ी निगरानी और रोबोटिक्स के नियम भी तय किए हैं. अब किसी की अनुमति के बिना उस पर नजर रखने, पुराने डेटा से उसकी एक्टिविटी का पता लगाने या निगरानी करने वाला सिस्टम बनाने के लिए Claude का यूज नहीं किया जा सकेगा. वहीं अगर Claude को ऐसे रोबोट या मशीन से जोड़ा जाता है, जिससे किसी को चोट लग सकती है, तो एक प्रशिक्षित व्यक्ति का लगातार निगरानी रखना और जरूरत पड़ने पर मशीन को तुरंत रोक पाना जरूरी होगा.
यह भी पढ़ें -Google Maps में Offline रास्ता कैसे सेव करें? बिना Internet भी मिलेगी मदद