नए आईटी नियमों (New IT Rules) का पालन करते हुए फेसबुक (Facebook) ने 2 जून को कहा था कि उसने 15 मई से 15 जून के बीच भारत में 10 उल्लंघन श्रेणी में 3 करोड़ से ज्यादा पोस्ट्स के खिलाफ एक्शन लिया है. फेसबुक के स्वामित्व वाले इंस्टाग्राम (Instagram) ने भी कहा था कि इसी अवधि में उसने 2 करोड़ पोस्ट्स पर एक्शन लिया था.
नए आईटी नियमों के मुताबिक, सोशल मीडिया इंटरमीडियरी को हर महीने मिलने वाली शिकायत और उस पर लिए गए एक्शन की एक कंप्लायंस रिपोर्ट पब्लिश करनी होगी.
फेसबुक की पारदर्शिता रिपोर्ट कितनी भरोसेमंद है, ये जानने के लिए क्विंट ने एक्सपर्ट्स से बात की: सॉफ्टवेयर फ्रीडम लीगल सेंटर (SFLC) के प्रशांत सुगथन, इंटरनेट फ्रीडम फाउंडेशन में प्राइवेसी और राइट तो इंफॉर्मेशन फेलो यशस्विनी बासु और प्राइवेसी पॉलिसी थिंक टैंक द डायलॉग के फाउंडर काजिम रिजवी.
क्या कंटेंट हटाया गया है?
फेसबुक की रिपोर्ट कहती है कि हेट-स्पीच कंटेंट वाले 3.11 लाख पोस्ट और 18 लाख पोस्ट एडल्ट थीम, न्यूडिटी और सेक्सुअल एक्टिविटी पर आधारित हटाए गए हैं.
रिजवी ने क्विंट से कहा कि फेसबुक की पारदर्शिता रिपोर्ट इस बात का मापदंड है कि प्लेटफॉर्म की मशीन लर्निंग टेक्नोलॉजी उल्लंघन करने वाले कंटेंट को कितनी अच्छी तरह खुद पहचान सकती है. हालांकि, रिपोर्ट में वही डेटा दिया गया है जो पोस्ट प्लेटफॉर्म ने खुद से हटाए हैं.
AI से हेट स्पीच मॉनिटर करना कितना सही?
फेसबुक अपने कम्युनिटी स्टैंडर्ड में बताता है कि किस तरह का कंटेंट संभावित उल्लंघन की स्थिति में हटाया जा सकता है. इन्हीं में से एक श्रेणी 'हिंसक और आपराधिक बर्ताव' है.
हेट स्पीच इसी श्रेणी की समझ से संभाली जाती है. यशस्विनी बासु ने कहा, "हालांकि कई घटनाओं को देखें तो फेसबुक ओवरसाइट बोर्ड ने इन फैसलों को पलटा है और श्रेणियां अस्पष्ट हैं. फेसबुक हेट स्पीच का पता लगाने के लिए AI-आधारित कंटेंट मॉनिटरिंग इस्तेमाल करता है."
रिजवी ने बताया, "हेट स्पीच संदर्भ, भाषा, क्षेत्र और व्यक्ति पर निर्भर करती है और इसे सुलझाना बहुत मुश्किल काम है. उदाहरण के लिए, शब्द की स्पेलिंग बदलने से AI को चकमा दिया जा सकता है."
रिपोर्ट का खरापन
रिपोर्ट खुद अपनी एक्यूरेसी के बारे में एक डिस्क्लेमर देती है और कहती है कि आंकड़े उसके कंटेंट का सबसे अच्छा अनुमान है. आंकड़े सिर्फ ये बताते हैं कि किस तरह के कितने कंटेंट पर किस श्रेणी के तहत एक्शन हुआ.
एक्शन शुरू करने के सवालों पर रिपोर्ट में कुछ नहीं है. हालांकि, फेसबुक का ट्रांसपेरेंसी सेंटर किसी तिमाही में एक देश से आने वाली टेकडाउन रिक्वेस्ट को चेक करने की इजाजत देता है. रिपोर्ट में नहीं बताया गया कि हटाया गया कंटेंट क्या था और किस सरकारी संस्था ने इस पर आपत्ति जताई थी.
बासु ने कहा कि ये बताना कितने पोस्ट हटाए गए और किस प्रावधान के तहत अच्छा कदम है लेकिन जिन यूजर के कंटेंट हटाए गए, उन्हें समझाना कि कंटेंट क्यों हटाया गया जरूरी है.
फेसबुक पोस्ट हटाने से पहले हर यूजर को नोटिस भेजता है लेकिन रिपोर्ट इन पोस्ट्स का लिंक नहीं दिखाती.
'एकतरफ' एक्शन की ज्यादा संभावना
सभी एक्सपर्ट्स का मानना है कि सरकार या इंटरमीडियरी की तरफ से एकतरफा एक्शन चिंता का विषय है. उनका कहना है कि हर स्टेकहोल्डर से हर स्तर पर पारदर्शिता रखकर ही इसे किया जाना चाहिए.
"प्लेटफॉर्म्स की पारदर्शिता रिपोर्ट्स का स्वतंत्र ऑडिट जरूरी है ताकि निष्पक्षता सुनिश्चित हो सके. पक्षपात की चिंताओं को दूर करने के लिए ये कोशिश जरूरी है."काजिम रिजवी
फेसबुक पर अभी भी दिखते हैं हेट पोस्ट्स
जबकि इंटरमीडियरी दावा कर रहे हैं कि वो अपने प्लेटफॉर्म को अवैध और विवादित कंटेंट से मुक्त करने की कोशिश कर रहे हैं, फिर भी काफी कंटेंट ऐसा है जो कंटेंट मॉडरेशन सिस्टम और टूल्स के चंगुल से छूट रहा है.
सुगथन ने कहा कि किसी भी इंटरमीडियरी के लिए अपने कंटेंट मॉडरेशन को लेकर 100 प्रतिशत सही नहीं होना समझ आता है, लेकिन इस दिशा में काफी काम करने की जरूरत है.
रिजवी ने कहा, "प्लेटफॉर्म्स इन तकनीकों के इस्तेमाल से बड़ी संख्या में नुकसानदायक कंटेंट हटा रहे हैं, लेकिन इसी तकनीक से ओवर-सेंसरशिप होने की चिनत से भी वाकिफ होना चाहिए."
(हैलो दोस्तों! हमारे Telegram चैनल से जुड़े रहिए यहां)