सोशल मीडिया पर हेट स्पीच की पहचान और उसे हटाना प्लेटफॉर्म कंपनियों के लिए सबसे बड़ी चुनौती में से एक है. भारत के मामले में Meta के अपने आंकड़े इस चुनौती को और गंभीर बनाते हैं. कंपनी के आंकड़ों के मुताबिक, भारत में Instagram पर हेट स्पीच की पहचान करने की proactive क्षमता में पिछले एक साल के दौरा तेज गिरावट देखने को मिली है. ऐसे में आइए जानते हैं कि इस तेज गिरावट के पीछे क्या वजहें हो सकती है.
क्या होता है Proactive rate?
Proactive rate का मतलब यह होता है कि किसी आपत्तिजनक पोस्ट को यूजर की शिकायत आने से पहले ही प्लेटफॉर्म की तकनीकी व्यवस्था पहचान ले और उस पर कार्रवाई करे. Meta के Community Standards Enforcement Report के अनुसार, 2025 में Instagram पर हेट स्पीच के लिए Proactive Detection Rate करीब 90 फीसदी के स्तर पर था. हालंकि, भारत के आंकड़ों में तस्वीर काफी अलग दिखाई देती है. भारत में जनवरी से जून 2026 के दौरान यह दर 30 फीसदी से भी नीचे रही. जून 2025 में Instagram पर हेट स्पीच के मामले में Proactive Rate करीब 82 फीसदी था, जो जून 2026 में घटकर करीब 25 फीसदी ही रह गया. यानी जिस कंटेंट को पहले बड़ी संख्या में Meta की व्यवस्था खुद पहचान लेती थी, उसका बड़ा हिस्सा अब यूजर रिपोर्ट या दूसरे तरीकों से सामने आ रहा है.
यह भी पढ़ें: चीन के AI का कमाल! अब सेकेंडों में डॉक्यूमेंट से बन जाएगा वीडियो
भाषा विविधता हो सकती है चुनौती
यह अंतर इसलिए भी महत्वपूर्ण है क्योंकि भारत Meta के सबसे बड़े यूजर बाजारों में से एक है. इतने बड़े यूजर बेस वाले देश में Moderation System की क्षमता में गिरावट का असर बड़ी संख्या में पोस्ट और यूजर्स पर पड़ सकता है. इस समस्या के पीछे सबसे अहम सवाल तकनीकी क्षमता का है. वहीं भारत में सोशल मीडिया पर इस्तेमाल होने वाली भाषाएं, स्थानीय शब्द और स्लैंग बेहद विविध हैं. किसी शब्द का अर्थ उसके संदर्भ के अनुसार बदल जाता है. यही वजह है कि केवल सामान्य भाषा आधारित Automated Systems के लिए भारतीय इंटरनेट की पूरी भाषाई और सांस्कृतिक विविधता को समझना आसान नहीं है.
मशीन को सिखाना भी है जरूरी
Meta ने समय के साथ Artificial Intelligence और Machine Learning आधारित सिस्टम का इस्तेमाल बढ़ाया है. लेकिन Automated Moderation को लगातार नए शब्दों, नए तरीकों और बदलते संदर्भों के हिसाब से प्रशिक्षित करनाभी जरूरी है. Hate speech भी अक्सर सीधे शब्दों में नहीं लिखी जाती. कई बार इमोजी, तस्वीरों, वीडियो या स्थानीय बोलियों के जरिए संदेश दिया जाता है. ऐसे मामलों में मशीन के लिए सही निर्णय लेना और मुश्किल हो जाता है. खास बात यह है कि वैश्विक स्तर पर Meta की Proactive Detection क्षमता और भारत के आंकड़ों के बीच बड़ा अंतर दिखाई देता है. इससे यह सवाल उठता है कि भारत जैसे बड़े और भाषा विविध बाजार में Automated Moderation के लिए पर्याप्त स्थानीय संसाधन और तकनीकी क्षमता मौजूद है या नहीं.
यह भी पढ़ें: Generative AI और Agentic AI क्या अंतर, दोनों में आपके लिए क्या फायदेमंद?