क्या आपका घर भी है AI के निशाने पर? शोधकर्ताओं ने दिखाया इस मॉडल का खतरनाक रूप

Google Gemini: गूगल का Gemini AI एक ऐसा टूल है जो वीडियो के साथ ऑडियो बना सकता है, बच्चों के लिए चित्रों वाली किताबें तैयार कर सकता है और यहां तक कि आपकी यात्रा योजनाएं भी तय कर सकता है.

(गूगल जेमिनी)

Source : Pixabay

Google Gemini: गूगल का Gemini AI एक ऐसा टूल है जो वीडियो के साथ ऑडियो बना सकता है, बच्चों के लिए चित्रों वाली किताबें तैयार कर सकता है और यहां तक कि आपकी यात्रा योजनाएं भी तय कर सकता है. लेकिन इसके उजले पहलू के साथ-साथ इसका खतरनाक पक्ष भी है जिसे एक शोध टीम ने छोटे लेकिन चौंकाने वाले डेमो में सामने रखा.

साइंस फिक्शन से हकीकत तक

फिल्मों में आपने देखा होगा कि कोई व्यक्ति दूर बैठे घर की लाइट्स कंट्रोल करता है या तापमान बदल देता है. लेकिन शोधकर्ताओं ने यह कारनामा असल में कर दिखाया और वह भी Gemini AI को हैक करके. उन्होंने दिखाया कि कैसे AI को स्मार्ट डिवाइस से जोड़कर न सिर्फ घर में बदलाव किए जा सकते हैं बल्कि इससे गंभीर नुकसान भी पहुंचाया जा सकता है.

Google Calendar से घर में सेंधमारी

WIRED की रिपोर्ट के मुताबिक, टीम ने एंड्रॉयड फोन पर चल रहे Gemini असिस्टेंट को एक गूगल कैलेंडर इनवाइट के ज़रिए हैक किया जिसमें खतरनाक कोड छिपा था. जैसे ही उन्होंने Gemini से कैलेंडर के विवरण का सार बताने को कहा, वह कोड सक्रिय हो गया और घर के तमाम डिवाइस पर असर डालने लगा. इस तरह एक साधारण सा दिखने वाला कैलेंडर इनवाइट घर की पूरी स्मार्ट सिस्टम को अपने कब्ज़े में लेने का ज़रिया बन गया.

AI की डरावनी सीमाएं

भले ही शोधकर्ताओं ने तकनीकी विवरण उजागर नहीं किए लेकिन यह डेमो ही काफी था यह दिखाने के लिए कि गलत हाथों में AI कितना विनाशकारी साबित हो सकता है. स्मार्ट डिवाइस पहले से ही साइबर हमलों के शिकार होते रहे हैं और अब LLMs (लार्ज लैंग्वेज मॉडल) के आने से खतरा कई गुना बढ़ गया है. यही वजह है कि स्मार्ट होम AI के विस्तार से पहले इन मॉडलों की सुरक्षा सुनिश्चित करना बेहद ज़रूरी है.

गूगल की प्रतिक्रिया और भविष्य की चुनौती

यह हैकिंग डेमो गूगल के साथ साझा किया गया और कंपनी मानती है कि घर के डिवाइस के ज़रिए AI पर नियंत्रण खतरनाक हो सकता है. हालांकि गूगल का कहना है कि अब तक इस कमज़ोरी का दुरुपयोग नहीं हुआ है लेकिन वह इसे दूर करने पर काम कर रहा है. आने वाले समय में Gemini को स्मार्टवॉच, स्मार्ट टीवी और यहां तक कि कारों में भी लाने की योजना है जिसे I/O 2025 की कीनोट में घोषित किया गया था. उम्मीद है कि गूगल और उसकी सुरक्षा टीम इन कमज़ोरियों को पुख्ता तरीके से दूर कर लेगी इससे पहले कि साइबर अपराधी इसका फ़ायदा उठाएं.