लॉन्च होते ही फेल हो गया मेटा का नया टूल? अपनी बनाई इमेज ही नहीं पहचान पा रहा

Meta AI Detection Tool: मेटा ने हाल ही में एक एआई डिटेक्शन टूल की झलक दिखाई थी और यह शुरुआती ट्रायल में ही फेल हो गया. यह टूल क्रॉप की गई एआई जनरेटेड तस्वीरों को नहीं पहचान पाया.

Meta AI Detection Tool अपनी ही बनाई इमेज को नहीं पहचान पाया

Source : Magnific

Show Quick Read

Key points generated by AI, verified by newsroom

• मेटा का एआई डिटेक्शन टूल अपनी तस्वीरें पहचानने में विफल।
• परीक्षण में 55% क्रॉप की गई तस्वीरें पहचान नहीं पाया।
• कंपनी ने कहा वाटरमार्क सिग्नल अत्यधिक क्रॉप से कमजोर हुआ।
• विशेषज्ञों के अनुसार वॉटरमार्क-आधारित पहचान प्रणालियों की सीमाएं हैं।

Meta AI Detection Tool: मेटा का नया एआई डिटेक्शन टूल अपनी बनाई तस्वीरों को ही पहचानने में फेल हो गया. दरअसल, मेटा ने पिछले सप्ताह अपने नए इमेज जनरेशन मॉडल Muse Image के साथ एक नए एआई डिटेक्शन टूल की झलक दिखाई थी. अब सामने आया है कि यह टूल खुद की बनाई तस्वीरों को ही नहीं पहचान पा रहा है. जानकारी के मुताबिक, अगर एआई से बनी किसी इमेज को क्रॉप कर दिया जाए तो इस टूल के लिए उसे पहचान पाना मुश्किल हो जाता है.

क्रॉप्ड इमेज पहचानने में हो रही दिक्कत

समाचार एजेंसी रॉयटर्स ने 40 तस्वीरों के साथ इस टूल का ट्रायल किया था. ट्रायल में Muse Image से बनी तस्वीरों का इस्तेमाल किया गया. यह टूल 40 की 40 एआई जनरेटेड इमेजेज को तो पहचान गया, लेकिन जब उसे क्रॉप की गई तस्वीरें दिखाई गईं तो ये 55 प्रतिशत तस्वीरों का पता नहीं लगा पाया. यानी क्रॉप की गई तस्वीरों के मामले में इसकी सटीकता आधी से भी ज्यादा कम हो जाती है. दूसरी तरफ मेटा ने अपनी वेबसाइट पर दावा किया है कि यह मॉडल क्रॉप की गई एआई जनरेटेड इमेज को भी पहचान सकता है. मेटा के मुताबिक, यह टूल कंटेट सील नाम के एक वाटरमार्किंग सिस्टम को यूज करता है. Muse Image से बनी हर इमेज में इनविजिबल वाटरमार्क होता है. एआई जनरेटेड इमेज का पता लगाने के लिए यह सिस्टम यूज किया गया है.

टूल के फेल होने पर मेटा ने कही यह बात

जब मेटा से इस टूल के फेल होने के बारे में पूछा गया तो कंपनी ने कहा कि अभी इसका केवल प्रीव्यू आया है. वाटरमार्क को इस तरह डिजाइन किया गया है कि यह फोटो क्रॉप होने के बाद भी रहे, लेकिन हो सकता है कि फोटो ज्यादा क्रॉप होने के कारण वह सिग्नल मिस हो गया. बता दें कि एआई डिटेक्शन टूल की सटीकता को लेकर संदेह हमेशा बना रहता है. ओपनएआई और गूगल जैसे कंपनियां भी यह चेतावनी दे चुकी हैं कि उनके एआई टूल्स भी पूरी तरह फुलप्रूफ नहीं है. यानी ये एआई जनरेटेड कंटेट को पहचानने में गलती कर सकते हैं.

वाटरमार्क पर हमेशा नहीं किया जा सकता भरोसा

एक्सपर्ट्स का कहना है कि वाटरमार्क-बेस्ड डिटेक्शन सिस्टम की अपनी सीमा है. न्यूयॉर्क स्टेट यूनिवर्सिटी में कंप्यूटर साइंस की प्रोफेसर Siwei Lyu ने कहा कि अगर वाटरमार्क फोटो के साथ इंटैक्ट है तो यह काफी फायदेमंद है, लेकिन फोटो क्रॉप करने, रिसाइज करने, कंप्रेशन और एडिटिंग आदि मोडिफिकेशन के कारण वाटरमार्क के सिग्नल गायब या कमजोर हो जाते हैं.