OpenAI बिना डेटा देखे AI मिसयूज पर रखेगा नजर, जानें कैसे?

OpenAI का नया सिस्टम यूजर की बातचीत का असली कंटेंट देखे बिना उसमें मौजूद ऐसे पैटर्न को पहचानने में मदद करेगा, जो AI के गलत इस्तेमाल की ओर इशारा कर सकते हैं.

AI मिसयूज पर नजर रखेगा OpenAI

Source : pexels

AI मॉडल जैसे-जैसे ज्यादा ताकतवर और सक्षम हो रहे हैं, इनके गलत इस्तेमाल को लेकर चिंता भी बढ़ रही है. ऐसे में कंपनियों के सामने एक बड़ी चुनौती यह है कि AI के मिसयूज पर नजर भी रखी जाए और यूजर्स की प्राइवेसी भी सुरक्षित रहे. इसी बीच ChatGPT बनाने वाली कंपनी OpenAI ने एक नए सिस्टम का प्रीव्यू किया है, जिसका नाम Private Safety Processing है.

कंपनी का कहना है कि यह सिस्टम यूजर की बातचीत का असली कंटेंट देखे बिना उसमें मौजूद ऐसे पैटर्न को पहचानने में मदद करेगा, जो AI के गलत इस्तेमाल की ओर इशारा कर सकते हैं. फिलहाल इसकी टेस्टिंग कुछ यूजर्स के साथ की जा रही है और सितंबर में इसे ज्यादा व्यापक स्तर पर शुरू करने की उम्मीद है. तो आइए जानते हैं कि Private Safety Processing क्या है और कैसे बिना डेटा देखे AI मिसयूज पर नजर रखेगा. 

क्या है Private Safety Processing?

OpenAI का Private Safety Processing सिस्टम उसके मौजूदा Zero Data Retention (ZDR) सिस्टम पर आधारित है. ZDR का इस्तेमाल योग्य API यूजर्स के लिए किया जाता है. इसके तहत AI सिस्टम हर इंटरैक्शन को अलग-अलग जांचकर संभावित गलत एक्टिविटी का पता लगा सकता है, जबकि यूजर का डेटा कंपनी के पास सामान्य तौर पर स्टोर नहीं रहता है. OpenAI के मुताबिक नया सिस्टम इसी सुरक्षा व्यवस्था को आगे बढ़ाता है. इसका मकसद ऐसे AI मॉडल्स से जुड़े नए जोखिमों को पहचानना है, जो ज्यादा जटिल और लंबे समय तक चलने वाले काम कर सकते हैं.

कैसे बिना डेटा देखे AI मिसयूज पर नजर रखेगा?

इस सिस्टम की खास बात यह है कि यूजर की बातचीत या दूसरे कंटेंट को OpenAI के कर्मचारी सीधे रिव्यू नहीं कर पाएंगे. कंपनी ने कहा है कि एंटरप्राइज यूजर्स का डेटा उसके AI मॉडल्स को ट्रेन करने के लिए भी इस्तेमाल नहीं किया जाता, जब तक यूजर खुद इसकी अनुमति न दें. OpenAI एक ऐसा ऑप्शन भी पेश करेगा, जिसमें इंटरैक्शन डेटा को एन्क्रिप्ट करके कंपनी के इंफ्रास्ट्रक्चर पर स्टोर किया जा सकेगा. इसकी एन्क्रिप्शन कीज यूज के कंट्रोल में रहेंगी. 

गलत एक्टिविटी मिलने पर क्या होगा?

अगर OpenAI के ऑटोमेटेड सिस्टम को कोई गलत इंटरैक्शन मिलता है, तो कंपनी के कर्मचारियों को उसका असली कंटेंट नहीं दिखेगा. इसकी जगह OpenAI को एक सीमित संकेत मिलेगा, जिससे यह पता चल सकेगा कि किस तरह की एक्टिविटी सामने आई है. इसी संकेत के आधार पर कंपनी तय कर सकेगी कि आगे कोई कार्रवाई जरूरी है या नहीं. हालांकि, सिस्टम गलत अलर्ट यानी false positives से कैसे निपटेगा, इसकी ज्यादा जानकारी अभी सामने नहीं आई है. यूजर अपने सिस्टम में उपलब्ध जानकारी के आधार पर अलर्ट या कार्रवाई की जांच कर सकेंगे. अगर वे अपील करना चाहते हैं या किसी वैध एक्टिविटी की जानकारी देना चाहते हैं, तो संबंधित जानकारी OpenAI के साथ शेयर कर सकते हैं. 

सितंबर में ज्यादा स्तर पर शुरू हो सकता है सिस्टम

OpenAI फिलहाल Private Safety Processing की कुछ यूजर्स के साथ टेस्टिंग कर रहा है. कंपनी के मुताबिक इसे इस साल सितंबर में ज्यादा व्यापक रूप से उपलब्ध कराया जा सकता है. इसके साथ इस सिस्टम की तकनीकी जानकारी देने वाली एक रिपोर्ट भी जारी की जाएगी. 

OpenAI क्यों बढ़ा रहा है सुरक्षा?

OpenAI ने यह कदम ऐसे समय उठाया है, जब कंपनी ने अपने कुछ सबसे शक्तिशाली और अभी तक जारी न किए गए AI मॉडल्स की ट्रेनिंग को दो हफ्ते से ज्यादा समय के लिए रोक दिया है. इसके पीछे एक सुरक्षा घटना भी सामने आई, जिसमें OpenAI के दो अप्रकाशित मॉडल इंटरनल साइबर सिक्योरिटी टेस्ट के दौरान सैंडबॉक्स से बाहर निकल गए और Hugging Face के प्रोडक्शन सिस्टम को नुकसान पहुंचा. हाल के दिनों में Anthropic, Meta और चीन की Moonshot AI जैसी कंपनियों के साथ भी सुरक्षा से जुड़ी घटनाएं सामने आई हैं. ऐसे में AI के गलत इस्तेमाल को रोकने के लिए सुरक्षा उपायों पर ज्यादा ध्यान दिया जा रहा है.