''Facebook ने सिर्फ 3 हफ्ते में मुझे नफरत की तरफ धकेल दिया''

''भारत की 22 भाषाओं में से सिर्फ 5 भाषाओं की हेट पोस्ट पकड़ पा रहा फेसबुक''

Facebook बदल रहा है.

(फोटो- क्विंट हिंदी)

कौन जानता था… यह कि 2004 में लड़कियों को ‘हॉट या नॉट’ रेट करने के मकसद से शुरू हुई एक प्रैंक वेबसाइट आने वाले दिनों में एक ऐसा ग्लोबल प्लेटफॉर्म बन जाएगी, जिसे म्यांमार में नरसंहार कराने, अमेरिका में चुनावों को पलटाने और भारत में दंगे भड़काने के लिए इस्तेमाल किया जाएगा. फेसबुक ने सिर्फ 17 सालों में संवाद और जन भागीदारी के नए नियम लिख दिए. हालांकि अमेरिकी कांग्रेस के सामने हाल की व्हिसिलब्लोअर टेस्टिमनी और कंपनी के आंतरिक दस्तावेजों ने काफी चौंकाने वाला ब्यौरा दिया है. इसमें बताया गया है कि फेसबुक के नए नियमों की बदौलत किस तरह विश्व स्तर पर नफरत, गलफहमी फैलाने वाली सूचनाओं और गुस्से का दलदल तैयार हुआ था.

हालांकि पिछले कई सालों से फेसबुक के बारे में नए-नए खुलासे हो रहे हैं, लेकिन ‘फेसबुक पेपर्स’ और व्हिसिलब्लोअर फ्रांसेस हौगेन की टेस्टिमनी ने एकाएक इन खुलासों में नया तड़का लगा दिया.

फेसबुक पेपर्स क्या हैं?

फेसबुक पेपर्स ऐसे दबे-छिपे दस्तावेज हैं, जिनका खुलासा फेसबुक की पूर्व प्रॉडक्ट मैनेजर हौगेन ने यूएस सिक्योरिटीज और एक्सचेंज कमीशन (एसईसी) के सामने किया. इसके अलावा हौगेन की वकील ने इन दस्तावेजों की रीटैक्टेड, यानी संपादित प्रति को यूएस कांग्रेस को सौंपा. अमेरिका के 17 न्यूज ऑर्गेनाइजेशंस के कंसोर्टियम को भी इनकी रीटैक्टेड प्रतियां मिलीं और उन्होंने इन पेपर्स से मिली सनसनीखेज जानकारियों को छापा भी.

इन दस्तावेजों में ‘गैरजिम्मेदार’ चीफ एग्जीक्यूटिव ऑफिसर मार्क जकरबर्ग के कारोबार के अजब तौर तरीकों को स्पष्ट किया गया है. इनमें पता चलता है कि जकरबर्ग यूजर्स की सुरक्षा से ज्यादा मुनाफे और कंपनी की प्रगति पर जोर दिया करते हैं.

इस तरह भारत में राजनैतिक हेट स्पीच बिना जांचे पोस्ट होती रहीं. इससे अल्पसंख्यकों पर खतरा मंडराया और बड़े पैमाने पर झूठी खबरें फैलती रहीं.इस आर्टिकल में फेसबुक की गड़बड़ियों के बारे में बताया गया है और हाल के खुलासों को चार खंडों में बांटा गया है जो कि आपस में एक दूसरे से जुड़े हुए हैं- एल्गोरिदम, पॉलिसी, रिसोर्स और मुनाफे का मकसद.

एल्गोरिदम- ये हेट स्पीच के फैलने पर क्या असर डालते हैं?

न्यूयॉर्क टाइम्स जानकारी देता है- फरवरी 2019 में एक फेसबुक रिसर्चर ने केरल में रहने वाले एक व्यक्ति के तौर पर एक नया यूजर अकाउंट बनाया. उसका मकसद सोशल मीडिया साइट को टेस्ट करना था. अगले तीन हफ्ते तक एक सामान्य नियम पर अकाउंट ऑपरेट किया गया- रिसर्चर ने फेसबुक के एल्गोरिदम से जनरेट होने वाले सभी सजेशंस को फॉलो किया गया. ग्रुप्स को ज्वाइन करना, वीडियो देखना, साइट पर नए पेजों को एक्सप्लोर करना.

इसका नतीजा था, हेट स्पीच, झूठी खबरें और हिंसा का सेलिब्रेशन. पिछले महीने फेसबुक की एक आंतरिक रिपोर्ट प्रकाशित हुई थी, उसमें इसका उल्लेख था.

फेसबुक रिसर्चर ने लिखा है, “इस टेस्ट यूजर के न्यूज फीड को फॉलो करते हुए मैंने पिछले तीन हफ्तों मे मृत लोगों की इतनी तस्वीरें देखी हैं जितनी मैंने अपनी पूरी जिंदगी में भी नहीं देखीं.”

यह भयानक खुलासा हाल ही में फेसबुक के इनसाइडर्स, जिसमें हौगेन भी शामिल हैं, की रिसर्च और टेस्टिमनी में भी शामिल है.उनके मुताबिक, फेसबुक के एल्गोरिदम जिन सजेशंस को जनरेट करते हैं उन्हें इस तरह डिजाइन किया गया है कि वे कंजरवेटिव एकाउंट्स को चरमपंथी और नफरत-घृणा से भरे एकाउंट्स की तरफ धकेलते हैं.

फेसबुक दुनिया की सबसे बेशकीमती कंपनियों में से एक है, जिसने थर्ड पार्टी एडवरटाइजर्स के विज्ञापनों के जरिए अरबों कमाए हैं. एडवरटाइजर्स फेसबुक के क्लाइंट्स हैं जो फेसबुक और इंस्टाग्राम पर एक अरब से अधिक लोगों के डेटा के लिए मार्क जकरबर्ग को अरबों का भुगतान कर रहे हैं.इस प्लेटफॉर्म पर हम जितने लंबे समय तक सक्रिय रहते हैं, उतने ज्यादा समय तक हम विज्ञापनों को देखते हैं और उससे जुड़ते हैं. इस दौरान हम प्लेटफॉर्म और एडवरटाइजर्स को अपनी पसंद, व्यवहार, आदतों का बहुमूल्य डेटा दे रहे होते हैं जिनसे चांदी काटी जा सकती है.

इंटरनल पॉलिसी: जब कारोबार के मायने नैतिकता से बढ़कर होते हैं

आंतरिक दस्तावेजों के भंडार से खबरें निकालने वाले न्यूज ऑर्गेनाइजेशंस के मुताबिक,

जकरबर्ग ने भारत जैसे विकासशील देशों में हेट स्पीच को काबू करने के काम में अड़ंगा लगाया.

वॉशिंगटन पोस्ट की खबर में कहा गया कि जकरबर्ग ने कांग्रेस की टेस्टिमनी में इस बात को कोई महत्व ही नहीं दिया कि फेसबुक हेट स्पीच को बढ़ा-चढ़ा पेश करता है. हालांकि वह इस बात से वाकिफ थे कि सार्वजनिक तौर पर इस समस्या को जितना बड़ा बताया जाता है, यह उससे भी बहुत बड़ी है और यह प्लेटफॉर्म लोगों का ध्रुवीकरण कर रहा है. वॉशिंगटन पोस्ट ने जिन आंतरिक दस्तावेजों को देखा, उनमें दावा किया गया है कि यह सोशल नेटवर्क पांच प्रतिशत से भी कम हेट स्पीच को हटाता था.

भारत में 14 अगस्त से 1 सितंबर के बीच फेसबुक के इंडिया ऑपरेशंस और उसके उच्च अधिकारियों पर बड़े आरोप लगे थे. वॉल स्ट्रीट जनरल की 14 अगस्त की रिपोर्ट में दावा किया गया था कि फेसबुक के कर्मचारियों, जिन पर प्लेटफॉर्म की पॉलिसिंग की जिम्मेदारी थी- के अनुरोध करने के बावजूद हेट स्पीच देने वाले बीजेपी के एक नेता की प्रोफाइल को स्थायी रूप से बैन नहीं किया गया. फेसबुक की एक पोस्ट में हैदराबाद के एमएलए टी राजा सिंह हेट स्पीच दे रहे थे लेकिन भारत में फेसबुक की पूर्व पब्लिक पॉलिसी एग्जीक्यूटिव अंखी दास ने उन पर संबंधित नियम को लागू करने का विरोध किया.

रिपोर्ट के मुताबिक, दास ने स्टाफ मेंबर्स से कहा कि “मोदी की पार्टी के नेताओं को किसी किस्म की सजा देने से भारत में कंपनी के कारोबारी हितों को नुकसान हो सकता है. भारत फेसबुक का सबसे बड़ा मार्केट है और यहां उसके सबसे ज्यादा यूजर्स हैं.”

रिसोर्सेज: कर्मचारियों की कमी भी एक बड़ी समस्या

हेट स्पीच कई बार इसलिए भी बेरोक-टोक चलती रहती हैं, क्योंकि ऐसे ह्यूमन मॉडरेटर्स यानी कर्मचारियों की संख्या कम है जो भारतीय भाषाओं में आपत्तिजनक कंटेंट को फ्लैग कर सकें. फेसबुक का एआई अलग-अलग भाषाओं की बारीकियों को नहीं पकड़ सकता.

रॉयटर्स बताता है कि फेसबुक ने कई विकासशील देशों की पूरी तरह से अनदेखी की है जिसकी वजह से हेट स्पीच और चरमपंथ खूब फले-फूले हैं. उसने ऐसे कर्मचारियों को पर्याप्त संख्या में नौकरी पर नहीं रखा जो स्थानीय भाषा बोल पाएं, सांस्कृतिक संदर्भ समझ सकें और इस तरह अच्छी तरह से मॉडरेट कर सकें.

हौगेन ने ब्रिटिश संसद को बताया था कि फेसबुक अंग्रेजी के कंटेंट में झूठी खबरों को रोकने में 87% खर्च करता है जबकि उसके सिर्फ 9% यूजर्स अंग्रेजी बोलते हैं. एडवर्सेरियल हार्मफुल नेटवर्क: इंडिया केस स्टडी नाम के आंतरिक दस्तावेज में फेसबुक रिसर्चर ने लिखा है कि फेसबुक पर "भड़काऊ और मुस्लिम विरोधी भ्रामक कंटेंट से भरे" ग्रुप्स और पेज थे

भारत की 22 आधिकारिक मान्यता प्राप्त भाषाओं में से फेसबुक ने अपने एआई सिस्टम्स को सिर्फ पांच में प्रशिक्षित किया है. फेसबुक रिपोर्ट में कहा गया है कि हिंदी और बांग्ला में उसके पास कंटेंट को पूरी तरह से नियंत्रित करने के लिए अभी भी पर्याप्त डेटा नहीं है, और मुसलमानों को निशाना बनाने वाले कंटेंट को “कभी फ्लैग नहीं किया जाता या उनके खिलाफ कार्रवाई नहीं की जाती.”

मुनाफा: कामयाबी के लिए कुछ भी करेगा

26 अक्टूबर को फेसबुक को तीसरी तिमाही में नौ बिलियन USD का मुनाफा हुआ. सितंबर में खत्म हुए तीन महीनों के लिए फेसबुक ने 29 बिलियन USD का राजस्व दर्ज किया, जो एक साल पहले की उसी अवधि से 35% अधिक था. कंपनी ने लगभग 9.2 बिलियन USD का लाभ कमाया, जो एक साल पहले की तुलना में 17% अधिक है. फेसबुक के फैमिली ऑफ ऐप्स का इस्तेमाल करने वाले लोगों की संख्या साल दर साल 12% की दर से बढ़कर तिमाही के दौरान लगभग 3.6 बिलियन हो गई.

लेकिन जकरबर्ग फिर भी असहज और शर्मिंदा दिख रहे हैं. उन्होंने इन खुलासों का जोरदार तरीके से बचाव किया. उन्होंने कहा, “अच्छी भावना से की गई आलोचना हमें बेहतर बनाती है लेकिन मेरा मानना है कि सबने मिल जुलकर डॉक्यूमेंट्स को बहुत चुन-चुनकर इस्तेमाल किया है ताकि हमारी कंपनी की झूठी तस्वीर दिखाई जा सके.”

फेसबुक का भविष्य :तो फेसबुक किस रास्ते जा रहा है?

मुनाफा कमाने के बावजूद सीआईओ जकरबर्ग को चिंता करनी चाहिए. बाजार में 890 बिलियन USD की पूंजी के साथ दुनिया की सातवीं सबसे बड़ी कंपनी फेसबुक के लिए रास्ता पथरीला है. दो बड़े मसले ऐसे हैं जो कंपनी के मुनाफे में सेंध लगा सकते हैं.

पहला, लीक हुए दस्तावेजों से पता चलता है कि 2012-13 से कंपनी युवा यूजर्स को लुभाने की जद्दोजेहद में है. कंपनी के लिए सबसे अहम है लोगों की सक्रियता और विज्ञापनदाताओं के लिए टीनएजर्स सबसे बड़ा टारगेट सेगमेंट है. 25 साल से कम उम्र के लोग प्लेटफॉर्म पर कम समय बिता रहे हैं और विकसित देशों के टीनएजर्स कम संख्या में साइन अप कर रहे हैं. यह जक एंड कंपनी के लिए बड़ा सिरदर्द है.

हौगेन का आरोप है कि फेसबुक ने “निवेशकों और विज्ञापनदाताओं के कोर मैट्रिक्स को गलत तरीके से पेश किया है” और डुप्लिकेट एकाउंट्स विज्ञापनदाताओं के साथ "बड़ी धोखाधड़ी" की वजह बन रहे हैं.

दूसरी तरफ गलत वजह से खबरों में रहने की वजह से टॉप टैलेंट को नौकरी पर रखने में मुश्किलें हो रही हैं. हौगेन ने एक ब्रीफिंग में कहा, "फेसबुक में बहुत कम कर्मचारी हैं ... और ऐसा इसलिए है क्योंकि बहुत सारे टेक्नोलॉजिस्ट देखते हैं कि फेसबुक ने क्या किया है और वह किस तरह से जिम्मेदारी लेने से बचता है. ऐसे लोग यहां काम करने को राजी नहीं हैं." इसमें कोई शक नहीं कि फेसबुक का भविष्य इस बात पर भी निर्भर करता है कि क्या वह टॉप टैलेंट को आकर्षित कर सकता है.

फेसबुक पेपर्स से जैसे-जैसे नए खुलासे हो रहे हैं, एक्सपर्ट्स मांग कर रहे हैं कि कंपनी को रेगुलेट करने के लिए कोई कानून लाया जाए. यह शोर भी मचेगा कि जकरबर्ग को अपनी कुर्सी छोड़ देनी चाहिए. अब, इस फ्रैंकेस्टाइन में निवेश करने वालों को भी कुछ बोलना चाहिए. बेशक, जकरबर्ग ने शैली के कैरेक्टर फैंकेस्टाइन की ही तरह खुद को ही तबाह करने वाले दैत्य की रचना ही तो की है.

(लेखक एक स्वतंत्र पत्रकार हैं और टेक्नोलॉजी और साइबर पॉलिसी पर लिखते हैं. उनका ट्विटर हैंडिल @Maha_Shoonya है. यह एक ओपनियन पीस है. यहां व्यक्त विचार लेखक के अपने हैं. क्विंट का उनसे सहमत होना जरूरी नहीं है.)

(क्विंट हिन्दी, हर मुद्दे पर बनता आपकी आवाज, करता है सवाल. आज ही मेंबर बनें और हमारी पत्रकारिता को आकार देने में सक्रिय भूमिका निभाएं.)