स्टैनफोर्ड इंटरनेट ऑब्जर्वेटरी का 2023 का एक अध्ययन बताता है कि भाषा उत्पादित करने वाले लैंग्वेज मॉडल ये सब करेंगे:

• कंटेंट में सुधार
• कीमत घटेगी
• अभियानों का स्तर बढ़ेगा

लेकिन इस अध्ययन में ये भी कहा गया है कि यह मॉडल्स गढ़े गए प्रोपगेंडा जैसे नए तरह के भ्रमों को भी पेश करेंगे, लिहाजा ऐसे लोगों को इस तरह के अभियान को फैलाने में फायदा मिलेगा, जो नुकसान पहुंचा सकते हैं.

अध्ययन आगे कहता है कि इस उपकरण का उपयोग लोग व्यक्तिगत कंटेंट को बनाने के लिए कर सकते हैं, जो किसी विशेष नैरेटिव में फिट किया जा सके. इससे छोटे समूहों को यह सुविधा मिलेगी कि वे इंटरनेट पर खुद को बड़ा दिखा सकें.

गुहा कहते हैं, "मुझे लगता है कि यहां गलत जानकारी से ज्यादा बड़ी समस्या यह है कि बाहर बहुत सारे अनभिज्ञ लोग मौजूद हैं, जो चैट जीपीटी से उपलब्ध हर तरह की जानकारी को सही ज्ञान समझ लेगें, बजाए इसके कि यह एक पैटर्न जेनरेशन है. ये लोग बिना सोचे-समझे इस जानकारी को सही मानकर इसका उपयोग कर सकते हैं. मुझे लगता है कि अनभिज्ञ होना, यहां विद्वेष से ज्यादा बड़ी समस्या है."

इससे पहले शोधार्थियों की मदद के लिए विकसित की गई मेटा गैलेक्टिका को बंद किया जा चुका है. गैलेक्टिका की भ्रामक जानकारी फैलाने के लिए आलोचना की गई थी.

स्टैनफोर्ड इंटरनेट ऑब्जर्वेटरी का अध्ययन बताता है कि लैंग्वेज मॉडल्स अपनी गुणवत्ता में सुधार करेंगे, जिससे ट्वीट और कमेंट्स के जरिए होने वाली छोटी टिप्पणियों और लंबे लेखों का परीक्षण मुश्किल हो जाएगा.

ऑर्सेक ने एआई की कुछ और सीमाओं पर ध्यान दिलाया है और सुझाव दिया है कि इसका इस्तेमाल दूसरे तरीकों के साथ भ्रामक जानकारी से लड़ने के लिए होना चाहिए.

यहां फॉल्स पॉजिटिव का मतलब है वो सही जानकारी, जिसे AI गलत मानकर फ्लैग कर रहा है.

स्टैनफोर्ड रिसर्च में हार्वर्ड मेडिकल स्कूल के एक छात्र के अध्ययन का भी जिक्र है, जहां वॉलंटियर्स AI-जेनरेटेड और इंसानों द्वारा लिखे टेक्स्ट के बीच अंतर न कर सके.

OpenAI ने हाल में एक क्लासिफायर टूल लॉन्च किया है, जो AI और इंसानों के लिखे गए टेक्स्ट के बीच अंतर कर सकता है.

हालांकि, उनकी वेबसाइट के मुताबिक, इसकी सटीकता केवल 26 प्रतिशत है.

ये टूल अंग्रेजी को छोड़कर, भाषा और एक हजार से कम शब्दों वाले टेक्स्ट पर भी सटीक नहीं है.

प्रोफेसर गुहा का तर्क है कि देश में मीडिया साक्षरता की कमी के कारण लोग गलत सूचनाओं के प्रति अतिसंवेदनशील होते हैं, जो वर्तमान में अधिकांश छात्रों के पाठ्यक्रम में मौजूद नहीं है. गुहा ने आगे कहा..

• क्रिटिकल रीडिंग और चीजों को वेरिफाई करना बहुत जरूरी है.
  
• तकनीकी सुधारों की तुलना में बुनियादी स्किल और मीडिया साक्षरता में निवेश के बेहतर परिणाम हैं.
  

कुछ फायदे भी हैं. AI टूल्स का विकास भ्रामक सूचनाओं का मुकाबला करने में मदद कर सकता है, क्योंकि उसके पास इंसानों की तुलना में ज्यादा तेजी से मुश्किल डेटा का विश्लेषण करने की क्षमता है. ये फैक्ट-चेकर्स को वायरल हो रही एक तरह की तस्वीरों और क्लिप को ट्रैक करने में भी मदद कर सकता है.

मई 2021 में, मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी ने AI प्रोग्राम के बारे में बात करते हुए एक आर्टिकल पब्लिश किया था, जिसमें ऐसे सोशल मीडिया अकाउंट्स का विश्लेषण किया गया था जो गलत या भ्रामक सूचनाएं फैला रहे थे. इसके मुताबिक, प्रोग्राम 96 फीसदी सटीकता के साथ ऐसे अकाउंट की पहचान कर सकता है.

हालांकि, एक्सपर्ट बताते हैं कि गलत सूचनाओं से लड़ने के लिए मनुष्यों और AI के बीच एक सहयोगी दृष्टिकोण बेहतर रहेगा.

ऑर्सेक तर्क देते हैं:

• इससे फैक्ट-चेकर्स से काम का भार कम हो सकता है.
• डीपफेक जैसी मीडिया का पता लगाने के लिए भी AI टूल्स का इस्तेमाल किया जा सकता है, जिसे फैक्ट-चेकर्स के लिए पहचानना मुश्किल होता है.

प्रोफेसर गुहा का भी कहना है कि वेरिफिकेश का आखिरी स्टेप इंसानों को ही करना चाहिए, क्योंकि "फैक्ट चेकिंग करना काफी संवेदनशील काम है."