नई दिल्ली: आर्टिफिशियल इंटेलिजेंस (AI) से तैयार नफरती कंटेंट जून 2024 के बाद से “तेजी से बढ़ा” है. वॉशिंगटन डीसी स्थित गैर-लाभकारी थिंक टैंक सेंटर फॉर दि स्टडी ऑफ ऑर्गेनाइज्ड हेट (CSOH) की हालिया रिपोर्ट में यह खुलासा हुआ है. रिपोर्ट में कहा गया कि 2023 और 2024 की पहली छमाही तक ऐसा कंटेंट “बहुत कम” था.
हालांकि, जून 2024 के बाद अचानक इसमें बढ़ोतरी हुई. एआई से बने नफरती कंटेंट ने सितंबर 2024 और फिर मार्च 2025 में चरम छुआ. सितंबर की बढ़ोतरी “रेल जिहाद” साजिश सिद्धांत के उभरने के साथ हुई. वहीं मार्च में वृद्धि गिबली आर्ट की लोकप्रियता के साथ मेल खाती है.
रिपोर्ट के लिए CSOH ने 1,326 सार्वजनिक रूप से उपलब्ध एआई से बनी तस्वीरें और वीडियो संकलित किए. इन्हें तीन सोशल मीडिया प्लेटफॉर्म्स पर मौजूद 297 अकाउंट्स से लिया गया. ये पोस्ट मई 2023 से मई 2025 के बीच डाले गए थे.
करीब 187 पोस्ट, जिन्हें एक्स, फेसबुक और इंस्टाग्राम पर सामुदायिक दिशानिर्देशों का उल्लंघन माना गया, रिपोर्ट किए गए. लेकिन इनमें से कोई भी पोस्ट हटाई नहीं गई. इससे यह साफ हुआ कि प्लेटफॉर्म्स अपनी नीतियों को लागू करने में नाकाम रहे हैं.
रिपोर्ट में बताया गया कि एआई से बने नफरती कंटेंट मुख्य रूप से चार थीम पर केंद्रित था. मुस्लिम महिलाओं का यौनिकरण, बहिष्कारी और अमानवीय भाषा, साजिश से जुड़े नैरेटिव, और हिंसा का सौंदर्यीकरण.
इनमें मुस्लिम महिलाओं को यौनिक तरीके से दिखाने वाले पोस्ट पर सबसे ज्यादा एंगेजमेंट हुआ—6.7 मिलियन. इनमें अक्सर मुस्लिम महिलाओं को बुर्के में पुरुषों के बीच दिखाया गया, और कैप्शन में रिश्तेदारी को लेकर आपत्तिजनक संकेत दिए गए.
एआई-जनित तस्वीरों का इस्तेमाल “लव जिहाद”. “पॉपुलेशन जिहाद”. और “रेल जिहाद” जैसी साजिशों को मजबूत करने में भी हुआ. इन्हें साजिश से जुड़े नैरेटिव की श्रेणी में रखा गया. और इनमें मुस्लिम समुदाय को भारत की अखंडता या सुरक्षा को कमजोर करने वाला बताया गया.
बहिष्कारी और अमानवीय भाषा वाली पोस्ट ने मुसलमानों के खिलाफ हिंसा को बढ़ावा दिया. ये एआई-जनित नफरती तस्वीरों का 23.4 प्रतिशत थीं. इनमें कई पोस्ट में मुसलमानों को जानवरों के रूप में दिखाया गया और उन्हें संपत्ति नुकसान पहुंचाने और राष्ट्रीय हितों के खिलाफ बताया गया.
हिंसा का सौंदर्यीकरण करने वाले पोस्ट में एआई का इस्तेमाल मुसलमानों के खिलाफ हिंसा को सामान्य और वैध दिखाने के लिए हुआ.
नतीजों से पता चलता है कि भारत में एंटी-मुस्लिम नफरत की लहर बढ़ रही है. इसलिए CSOH की रिपोर्ट का शीर्षक रखा गया “एआई-जनित तस्वीरें और भारत में इस्लामोफोबिया की नई सीमा”.
इन पोस्ट को एक्स, इंस्टाग्राम और फेसबुक पर कुल 2,73,00,000 एंगेजमेंट मिले. यानी लाइक्स, कमेंट्स, रीपोस्ट और शेयर का जोड़.
रिपोर्ट में विश्लेषण किए गए 1,326 पोस्ट तीनों प्लेटफॉर्म्स पर असमान रूप से बंटे थे. सबसे ज्यादा X पर (509). फिर इंस्टाग्राम (462). और फेसबुक (355).
X पर एंगेजमेंट सबसे ज्यादा था. 2.41 करोड़ व्यूज. 5,64,400 लाइक्स. 29,200 कमेंट्स. और 1,79,800 शेयर. इसके मुकाबले इंस्टाग्राम पर करीब 15,30,000 लाइक्स. 24,800 कमेंट्स. और 3,13,100 शेयर मिले. वहीं फेसबुक पर 1,19,000 लाइक्स. 16,000 कमेंट्स. और 8,200 शेयर मिले.
CSOH रिपोर्ट ने यह भी कहा. “हिंदू राष्ट्रवादी मीडिया संस्थान, खासकर ऑपइंडिया, सुधर्शन न्यूज और पंचजन्य, ने इस तरह की नफरत तैयार करने और फैलाने में केंद्रीय भूमिका निभाई. उन्होंने AI-जनित इस्लामोफोबिया को मुख्यधारा की चर्चा में शामिल कर दिया.”
(इस रिपोर्ट को अंग्रेजी में पढ़ने के लिए यहां क्लिक करें)
यह भी पढ़ें: सलाहुद्दीन ओवैसी ने राजनीति में मुसलमानों की पहचान बनाने के लिए कैसे हैदराबाद को अपना अखाड़ा बनाया