सोशल मीडिया कंपनी Facebook पर पिछले काफी समय से भारत में हेट स्पीच और फेक न्यूज को बढ़ावा देने के आरोप लग रहे हैं. अब कंपनी के एक इंटरनल डॉक्यूमेंट में भी इसी तरह की बात सामने आई है. रिपोर्ट्स के मुताबिक, फेसबुक ने दो साल पहले भारत में टेस्टिंग के लिए एक अकाउंट बनाया था. इस अकाउंट के जरिये फेसबुक ने जाना कि कैसे उसका खुद का एल्गोरिदम हेट स्पीच और फेक न्यूज को बढ़ावा दे रहा है.
फेसबुक ने फरवरी 2019 में भारत में एक टेस्ट अकाउंट बनाया. अकाउंट का मकसद ये देखना था कि कंपनी के तेजी से बढ़ते मार्केट में इसके अपने एल्गोरिदम ये कैसे प्रभावित करते हैं कि लोग क्या देख रहे हैं.
ये टेस्ट अकाउंट एक 21 साल की लड़की का था, जो हैदराबाद से आती है और जयपुर में रहती है. अकाउंट ने केवल फेसबुक द्वारा सुझाए गए फेज और ग्रुप को फॉलो किया. ये अकाउंट 4 फरवरी 2019 को बनाया गया था, जब एक रिसर्च टीम भारत आई थी. करीब एक हफ्ते बाद, अकाउंट फेसबुक द्वारा सुझाए गए अकाउंट्स को फॉलो करने लगा. इसमें बीजेपी और बीबीसी न्यूज इंडिया जैसे अकाउंट्स थे.
तीन हफ्तों के अंदर फेसबुक के टेस्ट अकाउंट की फीड पर फेक न्यूज और एडिटेड तस्वीरों की बाढ़ आ गई. इसमें सिर कलम करने, पाकिस्तान के खिलाफ भारत की एयर स्ट्राइक और हिंसा जैसी ग्राफिक तस्वीरें शामिल थीं. रिपोर्ट के मुताबिक, 'things that make you laugh' नाम के एक ग्रुप में पाकिस्तान में एक बम विस्फोट में मारे गए 300 आतंकियों की फर्जी खबरें शामिल थीं.
इसके बाद, 14 फरवरी को जम्मू-कश्मीर के पुलवामा में भारतीय सेना पर हमले के बाद, टेस्ट अकाउंट की फीड पर पाकिस्तान के खिलाफ हेट स्पीच बढ़ने लगी. पाकिस्तान में भारत की एयर स्ट्राइक, बम विस्फोट की फेक तस्वीरें और जवानों से संबंधित फेक तस्वीरें भी भारी मात्रा में शेयर की जाने लगीं. रिपोर्ट के मुताबिक, हेट स्पीच वाले ज्यादातर पोस्ट हिंदी में थे.
फेसबुक व्हिसलब्लोअर Frances Haugen की तरफ से जारी इन डॉक्यूमेंट्स में, रिसर्चर ने इस अकाउंट की फाइंडिंग पर लिखा, "मैंने पिछले 3 हफ्तों में मृत लोगों की इतनी तस्वीरें देखी हैं, जितनी मैंने अपने पूरे जीवन में नहीं देखी हैं."
भारत में कंटेंट मॉडरेशन पर फेसबुक का ध्यान नहीं?
रिपोर्ट के मुताबिक, फेसबुक कंटेंट मॉडरेशन पर खर्च होने वाला अधिकांश पैसा अमेरिका जैसे देशों में अंग्रेजी पर केंद्रित है. लेकिन कंपनी का विकास काफी हद तक भारत, इंडोनेशिया और ब्राजील जैसे देशों से होता है, जहां उसने ओवरसाइट के लिए लैंग्युएज स्किल्स वाले लोगों को रखने पर ध्यान नहीं दिया है. 22 आधिकारिक भाषाओं वाले और 130 करोड़ की आबादी वाले भारत में फेसबुक के सामने कंटेंट मॉडरेशन की चुनौती बड़ी है.
फेसबुक के प्रवक्ता ने कहा, "हमने हिंदी और बंगाली समेत अलग-अलग भाषाओं में हेट स्पीच खोजने के लिए टेक्नोलॉजी में निवेश किया है. परिणामस्वरूप, हमने इस साल हेट स्पीच को आधा कर दिया है. आज, ये 0.05 प्रतिशत तक गिर गया है. मुसलमानों, अल्पसंख्यक समूहों के खिलाफ हेट स्पीच विश्व स्तर पर बढ़ रही है. इसलिए हम सुधार कर रहे हैं और अपनी नीतियों को अपडेट करने के लिए प्रतिबद्ध है."
(इनपुट्स: ब्लूमबर्ग)
(हैलो दोस्तों! हमारे Telegram चैनल से जुड़े रहिए यहां)