आ गया बड़ा खतरा! बायोवेपन बनाने का तरीका बताने लगे एआई चैटबॉट
AI Chatbot Danger: एआई चैटबॉट के खतरे लगातार सामने आ रहे हैं. अब एक रिपोर्ट में बताया गया है कि रिसर्चर ने आसान तरीकों से चैटबॉट्स को मैनिपुलेट कर खतरनाक जानकारी हासिल की.
- एआई चैटबॉट से जैविक हथियार बनाने का गंभीर खतरा।
- शोधकर्ताओं ने सुरक्षा बाइपास कर खतरनाक जानकारी हासिल की।
- बोको हराम आतंकी चैटबॉट का उपयोग हथियार बनाने में।
- कंपनियों के सामने सुरक्षा और शोध में संतुलन की चुनौती।
AI Chatbot Danger: चैटजीपीटी, जेमिनी और ग्रोक जैसे एआई चैटबॉट्स के बढ़ते इस्तेमाल के साथ नए खतरे सामने आ रहे हैं. कुछ समय पहले रिपोर्ट आई थी कि आतंकी संगठनों के लोग एआई चैटबॉट्स की मदद से बम बना रहे हैं. अब एक और रिपोर्ट में इससे भी बड़े खतरे की तरफ ध्यान आकर्षित किया गया है. भले ही कंपनियां सालों लगाकर इन चैटबॉट्स को बायोवेपन (जैविक हथियार) बनाने की तरकीब न बताने के लिए सुरक्षा उपाय करती हैं, लेकिन चैटबॉट्स के लिए अपने पास स्टोर जानकारी को सीक्रेट रखना मुश्किल होता जा रहा है. रिसर्चर ने कुछ आसान तरीकों से चैटबॉट्स से खतरनाक जानकारी हासिल करने का दावा किया है. बात सिर्फ रिसर्चर तक ही सीमित नहीं है. यूजर्स भी इन चैटबॉट्स से बायोवेपन और जहर से जुड़ी जानकारियां हासिल करना चाह रहे हैं.
आसान तरीकों से मैनिपुलेट हो रहे हैं एआई चैटबॉट्स- रिसर्च
रिलेटेड स्टोरी >>
वॉल स्ट्रीट जर्नल की एक पड़ताल के मुताबिक, सिस्को के रिसर्चर ने चैटजीपीटी, क्लॉड और जेमिनी जैसे चैटबॉट्स के सुरक्षा उपायों को आसानी से बाइपास कर
दिया. इसके बाद रिसर्चर इन चैटबॉट्स से बायोवेपन से जुड़ी खतरनाक जानकारी हासिल करने में कामयाब हो गए. सिस्को के एआई थ्रेट और सिक्योरिटी रिसर्च के प्रमुख एमी चेंग ने बताया कि अगर यूजर लगातार कोशिश करता रहे तो कोई भी मॉडल पूरी तरह प्रोटेक्टेड नहीं है. जैसा हमने ऊपर बताया कि सिर्फ रिसर्चर ही इन सिस्टम को टेस्ट नहीं कर रहे हैं. कुछ समय पहले जब OpenAI ने अपने एआई मॉडल को अपग्रेड किया था तब सैकड़ो यूजर्स ने इससे जहर और बायोवेपन के बारे में सवाल पूछने शुरू कर दिए थे. जब बायोलॉजी और टेररिज्म एक्सपर्ट्स ने उन कन्वर्सेशन को एनालाइज किया तो पाया कि चैटबॉट्स की कुछ जानकारी खतरनाक रूप से सटीक थी. यह मामला सामने आने के बाद OpenAI ने इन कन्वर्सेशन में शामिल कुछ अकाउंट्स को बैन कर दिया था.
एडवांस होते मॉडल से बढ़ रहा है खतरा
ऐसा नहीं है कि कंपनियों को अपने एआई मॉडल्स के मिसयूज के बारे में अंदाजा नहीं है. 2024 में OpenAI की एक इंटरनल टेस्टिंग में सामने आया था कि लगातार सवाल पूछने पर ChatGPT खतरनाक बायोलॉजिकल जानकारी दे सकता है. तब कर्मचारियों ने अनुमान लगाया था कि अगले साल तक इसकी कैपेबिलिटी यहां तक पहुंच जाएगी कि बायोलॉजी की लिमिटेड जानकारी रखने वाला व्यक्ति भी इसका इस्तेमाल कर अहम जानकारी तक पहुंच सकता है. यही वजह है कि जब OpenAI ने GPT-5 को लॉन्च किया था, तब इसके लिए अतिरिक्त सुरक्षा उपाय किए गए थे.
कंपनियों के सामने संतुलन बनाने की चुनौती
एआई मॉडल्स को लेकर कंपनियों के सामने एक बड़ी चुनौती आ गई है. दरअसल, जिस जानकारी से बायोवेपन बनाए जाने का खतरा है, वही जानकारी दवाओं और वैक्सीन की रिसर्च में काम आ सकती है. OpenAI के अधिकारियों ने बताया कि इसी वजह से कंपनी का मॉडल एक के बाद एक बायोलॉजी के सवालों के जवाब देने से इनकार नहीं करता. अगर इन सवालों की संख्या को लिमिट कर दिया जाएगा तो रिसर्च पर असर पड़ सकता है. एंथ्रोपिक ऐसी एक मुसीबत में फंस गई थी. कंपनी के Claude मॉडल पर ऐसी लिमिट लगाई थी, जिससे अमेरिका में पैथोजन पर चल रही एक रिसर्च प्रभावित हो गई थी.
हथियार बनाने के लिए ली जा रही है एआई चैटबॉट्स की मदद
इसी महीने न्यूयॉर्क टाइम्स की एक रिपोर्ट आई थी, जिसमें बताया गया था कि बोको हराम के मेंबर एआई चैटबॉट का धड़ल्ले से इस्तेमाल कर रहे हैं. इस संगठन के 27 पूर्व मेंबर के साथ इंटरव्यू से यह पता चला कि चैटजीपीटी, क्लॉड, जेमिनी, ग्रोक और मेटा एआई को हथियार बनाने, टेक्नीकल इंफोर्मेशन जुटाने और हमलों की प्लानिंग में इस्तेमाल किया जा रहा है. बोको हराम पूरे संगठित तरीके से इस टेक्नोलॉजी को यूज कर रहा है और उसने इंटरनल ट्रेनिंग के लिए बकायदा टीमें भी बना रखी हैं. इसके कई मेंबर्स ने एआई के बिल्ट-इन सेफ्टी प्रोटेक्शन को बाइपास कर लिया है, जिसके बाद ये चैटबॉट अब हिंसा से जुड़े सवालों के भी जवाब दे रहे हैं.
ये भी पढ़ें- कैसे लीक हो जाता है डेटा? पिछले कुछ दिनों में कई बड़ी घटनाएं
टॉप हेडलाइंस
