मेटा चाहता है कि आप उसके AI टूल्स से कुछ बनाएं. पिछले कुछ हफ़्तों से, यह आपके इंस्टाग्राम फ़ीड में दोस्ताना सुझावों और तैयार टेम्प्लेट्स के साथ दिखाई दे रहा है, और आपको भी एक क्रिएटर बनने के लिए उकसा रहा है. आप एक कोर्गी कुत्ते की तस्वीर बना सकते हैं जिसे एक बाल्ड ईगल उठाकर ले जा रहा हो, या डॉनल्ड ट्रंप के साथ एक नकली न्यूज़ इंटरव्यू बना सकते हैं; जो गलत जानकारी के पैमाने पर, भले ही वे “WTF?” (यह क्या बकवास है?) वाली श्रेणी में आए, लेकिन फिर भी किसी को बुरा न लगे. इनमें से कोई भी चीज़ आपकी ज़िंदगी बर्बाद नहीं करेगी. लेकिन भारतीय पुरुषों ने — हैरानी की बात नहीं — मिसोजिनी (औरतों से नफ़रत) को चुना है.
इसका नतीजा यह हुआ है कि फ़ीड ऐसी रील्स से भर गया है जिनमें औरतें एक ही समय पर किसी जानी-पहचानी हस्ती जैसी भी लगती हैं और किसी अनजान जैसी भी; उन्होंने ऐसी साड़ियां पहनी होती हैं जो स्लो मोशन में उनके सिंथेटिक शरीर से फिसलती रहती हैं. ट्रेंडिंग गानों पर बने इन वीडियोज़ में, उन पर आवारा गायें हमला करती हैं और उनके कपड़े फाड़ देती हैं, जबकि कमेंट्स में मौजूद पुरुष उनकी बेइज़्ज़ती पर तालियां बजाते हैं. गर्भवती औरतों के वीडियोज़ पर हज़ारों व्यूज़ आते हैं; इन वीडियोज़ में औरतें एक कॉमिक-बुक जैसी मशीन में लेटकर अपने होने वाले बच्चे का लिंग (लड़का या लड़की) चुनती हुई दिखाई जाती हैं — जो एक ही समय पर दो तरह की विकृत कामुक इच्छाओं को पूरा करता है. इसे घटिया कहना भी इसके लिए काफ़ी नहीं होगा.
ये औरतें, अपनी नाभि और बढ़ा-चढ़ाकर दिखाए गए शरीर के साथ, स्कूल जाने वाले लड़कों और बड़े पुरुषों — दोनों की ही कल्पनाओं में दिखाई देती हैं. मुझे डर है कि यहां से हालात और भी बदतर ही होंगे. इन रील्स में मुख्यधारा की पोर्नोग्राफ़ी की सबसे ज़्यादा अश्लील और वर्जित श्रेणियां — जैसे कि मां और बेटे के बीच के संबंध — साफ़ तौर पर झलकती हैं. इनमें औरतें यौन गतिविधियों में लिप्त दिखाई देती हैं, और कई अश्वेत पुरुषों के साथ अश्लील बातें करती हैं. एक ऐसा अकाउंट जिसके 39,000 फ़ॉलोअर्स हैं और जिस पर अक्सर लाखों व्यूज़ आते हैं, वह पूरी तरह से ऐसे वीडियोज़ को समर्पित है जिनमें कुछ भी कल्पना के लिए नहीं छोड़ा जाता; इन वीडियोज़ में एक अजीब सा बूढ़ा आदमी और एक बहुत ही कम उम्र की लड़की दिखाई देते हैं.
इन सभी अकाउंट्स पर हज़ारों की संख्या में फ़ॉलोअर्स जमा हो जाते हैं; ऐसा लगता है कि उन्हें इस बात से कोई फ़र्क नहीं पड़ता — या शायद वे इस बात पर ध्यान ही नहीं देते — कि जिस औरत को वे फ़ॉलो कर रहे हैं, वह असल में कोई औरत है ही नहीं. लेकिन औरतों की तस्वीरों पर अपना नियंत्रण जमाने की यह पागलपन भरी ज़िद, तस्वीरों के अस्तित्व में आने के समय से ही — अलग-अलग रूपों में — मौजूद रही है.
पुरानी ज़िद, नए टूल्स
औरतों के शरीर की तस्वीरों के साथ, उनकी मर्ज़ी के बिना छेड़छाड़ करने का सबसे शुरुआती और दस्तावेज़ों में दर्ज मामला 19वीं सदी का है. 1888 में, न्यूयॉर्क के एक फोटोग्राफर ले ग्रेंज ब्राउन पर आरोप लगा कि उन्होंने समाज की प्रतिष्ठित महिलाओं के चित्रों से चेहरे काटकर नग्न महिलाओं के शरीरों पर चिपका दिए. फिर इन मिश्रित चित्रों को शराबखानों में बेचा गया. यह सब पोर्टेबल कैमरे के व्यापक रूप से उपलब्ध होने के कुछ ही वर्षों के भीतर हुआ.
तब से, स्मार्टफोन, इंटरनेट और AI का इस्तेमाल महिलाओं के शरीरों पर भयावह निश्चितता के साथ किया जा रहा है – और इसमें शामिल किसी को भी सिखाने की आवश्यकता नहीं है. कैंसर और विश्वव्यापी भुखमरी के इलाज के रूप में प्रचारित AI अब तक महिलाओं को निर्वस्त्र करने में सबसे अधिक विश्वसनीय साबित हुआ है.
इस वर्ष जनवरी में, रिसर्चर्स ने पाया कि एलोन मस्क का AI चैटबॉट ग्रोक प्रति घंटे लगभग 6,700 महिलाओं और बच्चों की यौन उत्तेजक छवियां उत्पन्न कर रहा था. नौ दिनों में, इसने 4.4 मिलियन छवियां तैयार कीं, जिनमें से 1.8 मिलियन महिलाओं के यौन उत्तेजक चित्रण थे और 23,000 बच्चों की यौन उत्तेजक तस्वीरें थीं. खुद को बेनकाब करने से न डरते हुए, यूजर्स ने एक-दूसरे को सिखाया कि सेफ्टी फ़िल्टर्स को पार करने के लिए अपने संदेशों को कैसे लिखें, विशेष रूप से मशहूर हस्तियों, मॉडलों और ऐसी महिलाओं को निशाना बनाते हुए जो न तो मशहूर थीं और न ही मॉडल. कुछ ने तो ग्रोक से अपनी तस्वीरों में खून और चोट के निशान जोड़ने के लिए भी कहा.
जब इसका व्यापक प्रसार हुआ और लोगों में आक्रोश फैल गया, तो xAI ने सशुल्क ग्राहकों के लिए छवि निर्माण को प्रतिबंधित करके जवाब दिया – यानी, अगर आप सदस्यता शुल्क वहन कर सकते थे, तो आप महिलाओं को नग्न कर सकते थे. मस्क के एक बच्चे की मां, एशले सेंट क्लेयर ने xAI पर मुकदमा दायर किया, जब उन्हें पता चला कि ग्रोक का उपयोग उनकी 14 साल की उम्र में ली गई एक तस्वीर से यौन छवियां बनाने के लिए किया गया था.
लेकिन इसे केवल ग्रोक की समस्या या यहां तक कि AI की समस्या मानना, प्लेटफ़ॉर्म वास्तव में क्या कर रहे हैं, उसे नज़रअंदाज़ करना है. 2023 में, वॉल स्ट्रीट जर्नल ने पाया कि इंस्टाग्राम का एल्गोरिदम कुछ ही मिनटों में उन परीक्षण खातों को स्पष्ट रूप से यौन सामग्री दिखा रहा था जो केवल युवा जिमनास्ट और चीयरलीडर्स को फॉलो करते थे. सुरक्षा उपकरण लागू किए गए, लेकिन 2024 में, नाबालिगों के रूप में बने अकाउंट्स अश्लील कंटेंट से भर गए. सात महीने तक चली एक जांच में, वॉल स्ट्रीट जर्नल और नॉर्थईस्टर्न यूनिवर्सिटी ने नए नाबालिग खाते बनाए जो इंस्टाग्राम के वीडियो रील्स फीड को स्क्रॉल करते थे, “सामान्य” कंटेंट को छोड़ देते थे और अधिक “उत्तेजक” एडल्ट वीडियो पर देर तक रुके रहते थे. निष्कर्ष: “सिर्फ़ 20 मिनट स्क्रॉल करने के बाद, अकाउंट्स ‘एडल्ट सेक्स-कंटेंट क्रिएटर्स’ के प्रमोशन और न्यूड फ़ोटो के ऑफ़र्स से भर गए.”
यहां तक कि स्नैपचैट, जो चुपके से रिस्की फ़ोटो शेयर करने के लिए इस्तेमाल किया जाने वाला ऐप है, और टिकटॉक, जिन्हें एक जैसी कंडीशन में टेस्ट किया गया, उनसे भी एक जैसे रिज़ल्ट नहीं मिले. हालांकि 2022 के अंदरूनी दस्तावेज़ों से पता चला था कि मेटा को इस बात की जानकारी थी कि उसका एल्गोरिदम क्या कर रहा है, फिर भी कंपनी ने इन प्रयोगों को “आर्टिफिशियल” बताकर जवाब दिया; जो यकीनन एक अजीब फ़ैसला था.
दुनिया में इसका असर
लेकिन, जो चीज़ बिल्कुल भी बनावटी नहीं है, वह है उन आम महिलाओं को चुकानी पड़ने वाली कीमत, जिनकी खबरें मीडिया में नहीं आतीं. भारत में महिलाओं से जुड़ी साइबर क्राइम की शिकायतें 2024 में 48,335 से बढ़कर 2025 में 76,657 हो गईं—यानी, सिर्फ़ एक साल में 28,000 से ज़्यादा मामलों की बढ़ोतरी हुई. सबसे बड़ी कैटेगरी, जिसमें लगभग 38,000 शिकायतें थीं, वह थी अश्लील कंटेंट से जुड़ी; इसके बाद 19,000 से ज़्यादा मामले यौन-संबंधी हरकतों से जुड़े थे, और 10,000 से ज़्यादा मामले बच्चों के यौन शोषण से जुड़ी सामग्री से संबंधित थे.
RATI फ़ाउंडेशन और Tattle की 2025 की “मेक इट रियल” रिपोर्ट में पाया गया कि जिन 92 प्रतिशत महिलाओं ने डीपफ़ेक से जुड़ी बदसलूकी की शिकायत की, वे न तो अभिनेत्रियां थीं और न ही कोई जानी-मानी हस्ती, बल्कि वे आम महिलाएं थीं. ज़्यादातर मामलों में, बदसलूकी करने वाले का पीड़ित महिला से असल दुनिया में कोई लेना-देना ही नहीं था: AI का इस्तेमाल ठीक इसी वजह से किया गया था, क्योंकि बदसलूकी करने वाले की पहुंच महिला की निजी ज़िंदगी तक नहीं थी, और उसे इसकी ज़रूरत भी नहीं थी. यहाँ तक कि सार्वजनिक रूप से उपलब्ध एक फ़ोटो भी काफ़ी थी.
एक मामले में, एक महिला ने लोन के आवेदन के साथ अपनी एक फ़ोटो जमा की थी; बाद में उसे पता चला कि दर्जनों “nudify” (नग्न बनाने वाले) ऐप्स में से किसी एक का इस्तेमाल करके उसकी उस फ़ोटो के साथ डिजिटल छेड़छाड़ की गई थी. वह फ़ोटो उसके फ़ोन नंबर के साथ व्हाट्सएप पर वायरल कर दी गई, जिसके बाद उसे अनजान लोगों से लगातार अश्लील फ़ोन आने लगे. 2025 में RATI हेल्पलाइन पर दर्ज की गई बदसलूकी की लगभग 70 प्रतिशत शिकायतों में AI-जनरेटेड या छेड़छाड़ की गई तस्वीरों का इस्तेमाल किया गया था. जब इन महिलाओं ने पुलिस में इन घटनाओं की शिकायत की—जैसा कि सोशल मीडिया पर मौजूद पुरुष हमेशा “मददगार” सुझाव देते रहते हैं—तो उन्हें अक्सर यही कहा गया कि वे बस अपने सोशल मीडिया अकाउंट बंद कर दें.
ऑनलाइन बदसलूकी से बचने का एकमात्र उपाय यही बताया गया कि वे ऑनलाइन दुनिया से ही गायब हो जाएं—जो कि असल दुनिया में किसी महिला को यह कहने जैसा ही है कि वह घर से बाहर ही न निकले. सबसे ज़्यादा दुख की बात यह है कि इसका ठीक वैसा ही “खुद पर रोक लगाने वाला” असर दूसरी महिलाओं पर भी पड़ता है; वे उन जगहों से खुद को दूर कर लेती हैं, जो असल में उनकी भी होनी चाहिए.
कम से कम कागज़ों पर तो, भारत के 2026 के IT संशोधन नियमों का मकसद इसी समस्या को हल करना है. इन नियमों के तहत, प्लेटफ़ॉर्म के लिए यह ज़रूरी है कि सरकार या अदालत से निर्देश मिलने के तीन घंटे के भीतर वे उन सभी डीपफ़ेक सामग्री को हटा दें, जिनके बारे में शिकायत की गई हो—हालांकि, यह अपने आप में एक बेहद पेचीदा और मुश्किल काम है. लेकिन आलोचकों ने यह बताया है कि ये नियम डिजिटल रेगुलेशन को और ज़्यादा सख़्त करने के एक बड़े कदम का हिस्सा हैं; इनका मकसद महिलाओं की सुरक्षा करना कम, बल्कि डिजिटल क्रिएटर्स क्या कह सकते हैं, इसे कंट्रोल करना ज़्यादा है. इस बीच, मेटा—जिसने दुनिया भर में अपने सबसे बड़े यूज़र बेस के लिए ये टूल्स उपलब्ध कराए हैं—ने इस साल यह घोषणा की कि वह अपने इंसानी कंटेंट मॉडरेटर्स की जगह AI का इस्तेमाल करेगा.
फिर भी, रेगुलेशन और मॉडरेशन के इस विचार में एक तरह का अफ़सोसनाक भरोसा छिपा है. यह आपको यह मानने पर मजबूर करता है कि यह महज़ एक गवर्नेंस की समस्या है, जिसका हल बेहतर फिल्टर्स और तेज़ी से कंटेंट हटाने से निकल आएगा. लेकिन ऐसा नहीं है. टूल्स को तो आख़िरकार कंट्रोल किया जा सकता है. लेकिन उन पुरुषों को कौन कंट्रोल करेगा?
करनजीत कौर पत्रकार हैं. वे TWO Design में पार्टनर हैं. उनका एक्स हैंडल @Kaju_Katri है. व्यक्त विचार निजी हैं.
(इस लेख को अंग्रेज़ी में पढ़ने के लिए यहां क्लिक करें)
यह भी पढ़ें: डाबोलिम एयरपोर्ट बंद होने की अटकलों से लोगों में बेचैनी, यह गोवा की लाइफलाइन है