ग्राफिका नाम की एक सोशल मीडिया एनालिटिक्स फर्म द्वारा किए गए एक अध्ययन में पाया गया कि जिन वेबसाइटों ने लोगों, विशेषकर महिलाओं के पहने कपड़े को छेड़छाड़ करने के लिए आर्टिफिशियल इंटेलिजेंस (AI) का इस्तेमाल किया. उन वेबसाइटों पर सिर्फ सितंबर महीने में 24 मिलियन से अधिक लोगों ने विजिट किया.
एआई के बड़े पैमाने पर दुरुपयोग और उन्हें विनियमित करने के लिए कानूनों की तत्काल आवश्यकताओं पर प्रकाश डालते हैं.
इस अध्ययन में लगभग 34 वेबसाइटों का विश्लेषण किया गया जो लोगों की सहमति के बिना उन्हें नग्न दिखाने के लिए उनकी मौजूदा तस्वीरों और वीडियो को छेड़छाड़ करने के लिए एआई टूल का उपयोग करती हैं. फर्म ने इन वेबसाइटों द्वारा दी जाने वाली सेवाओं को "गैर-सहमतिपूर्ण अंतरंग इमेजरी" (NCII) कहा.
ये एनसीआईआई प्रदाता अपनी "सेवाओं" का मार्केटिंग करने और ट्रैफिक को अपनी वेबसाइटों की ओर मोड़ने के लिए विभिन्न सोशल मीडिया प्लेटफॉर्म की लोकप्रियता का दुरुपयोग करते हैं. अध्ययन में यह भी पाया गया कि इस साल की शुरुआत से एक्स (पूर्व में ट्विटर) और रेडिट जैसे सोशल माडिया प्लेटफार्मों पर रेफरल लिंक स्पैम की मात्रा 2,000 प्रतिशत से अधिक बढ़ गई है.
ये मॉडल कैसे संचालित होते हैं?
ये वेबसाइटें फ्रीमियम मॉडल पर काम करती हैं. इसका मतलब यह है कि उपयोगकर्ताओं को मुफ्त में कुछ फोटोज, वीडियोज बनाने की अनुमति है, लेकिन एक बार जब यह समाप्त हो जाती है, तो उन्हें प्रीमियम टूल तक पहुंचने या ऐसी तस्वीरें बनाने के लिए अतिरिक्त "क्रेडिट" खरीदने की आवश्यकता होती है. मौजूदा फोटोज, वीडियोज के साथ छेड़छाड़ हर किसी के लिए गोपनीयता संबंधी चिंताएं पैदा करती हैं, खासकर महिलाओं के लिए, जिन्हें ऐसी वेबसाइटों की मदद से निशाना बनाया जा सकता है.
इसमें आगे कहा गया है, "उपयोगकर्ताओं को उच्च रिजॉल्यूशन निर्यात, "आयु" और "शारीरिक विशेषता" अनुकूलन, और इनपेंटिंग जैसी सुविधाओं तक पहुंचने के लिए अतिरिक्त "क्रेडिट" या "टोकन" खरीदने की आवश्यकता होती है. एक ऐसी सुविधा जिसमें अनुरोधित सामग्री के साथ फोटो का भाग, जैसे कपड़े हटाना, एआई मॉडल एक हाइलाइट की जगह लेगा. "
इस साल की शुरुआत में, हमने बॉलीवुड एक्ट्रेस रश्मिका मंदाना और काजोल के डीपफेक को सोशल मीडिया प्लेटफॉर्म पर वायरल होते देखा. जब इन क्लिपों ने विभिन्न सार्वजनिक हस्तियों की प्रतिक्रियाओं को प्रेरित किया, इस मामले ने उन खतरों को भी उजागर किया जो एआई उपकरणों के पास होते हैं.
ये वेबसाइटें क्यों उभर रही हैं ?
अध्ययन में इस बात पर प्रकाश डाला गया कि ओपन-सोर्स AI फोटोज प्रसार मॉडल की पहुंच में वृद्धि ने कई वेबसाइटों को बड़े पैमाने पर ऐसे रियलस्टिक एनसीआईआई आसानी से प्रदान करने की अनुमति दी है. आप पूछ सकते हैं कैसे? ऐसा इसलिए है क्योंकि ऐसे उपकरणों की उपलब्धता से ऐसी फोटोज, वीडियोज बनाने का समय और लागत काफी कम हो गया है.
अध्ययन में कहा गया है, "ऐसे प्रदाताओं के बिना, उनके ग्राहकों को अपने स्वयं के कस्टम फोटो प्रसार मॉडल की मेजबानी, रखरखाव और चलाने की आवश्यकता होगी.
आगे की राह क्या ?
हाल ही में प्रधानमंत्री नरेंद्र मोदी ने एक सभा को संबोधित करते हुए एआई टूल्स और डीपफेक से उत्पन्न खतरों पर अपनी चिंता व्यक्त की थी. क्विंट ने विश्लेषण किया था कि डीपफेक का उपयोग चुनावों को कैसे प्रभावित कर सकता है, और कैसे बुरे व्यक्ति उनका उपयोग आगे की कहानियों और सोशल मीडिया प्लेटफार्मों पर गलत सूचना फैलाने के लिए कर सकते हैं.
(क्विंट हिन्दी, हर मुद्दे पर बनता आपकी आवाज, करता है सवाल. आज ही मेंबर बनें और हमारी पत्रकारिता को आकार देने में सक्रिय भूमिका निभाएं.)