नयी दिल्ली, सात जनवरी (भाषा) सूचना प्रौद्योगिकी मंत्रालय आपत्तिजनक सामग्री तैयार करने में एआई चैटबॉट ‘ग्रोक’ के दुरुपयोग से जुड़े मामले में सरकार के कड़े निर्देश के बाद सोशल मीडिया मंच ‘एक्स’ की तरफ से दिए गए जवाब और कार्रवाई रिपोर्ट की जांच कर रहा है। सूत्रों ने बुधवार को यह जानकारी दी।
अमेरिकी उद्योगपति एलन मस्क के स्वामित्व वाले सोशल मीडिया मंच एक्स को मंत्रालय ने विस्तारित समय देते हुए बुधवार शाम पांच बजे तक विस्तृत ‘कार्रवाई रिपोर्ट’ (एटीआर) जमा करने को कहा था।
सूत्रों ने पीटीआई-भाषा से कहा कि एक्स ने अपना जवाब मंत्रालय को सौंप दिया है, जिसे फिलहाल इसकी पड़ताल की जा रही है।
हालांकि, कंपनी की ओर से सरकार को दी गई जानकारी का विवरण तत्काल उपलब्ध नहीं हो सका है।
सरकार ने एक्स को कड़े शब्दों में चेतावनी देते हुए कहा था कि उसके कृत्रिम मेधा (एआई) आधारित टूल ‘ग्रोक’ का दुरुपयोग कर महिलाओं और नाबालिगों की अश्लील, आपत्तिजनक और यौन प्रकृति की तस्वीरें एवं वीडियो तैयार किए जाने के साथ साझा किए जा रहे हैं।
इसको ध्यान में रखते हुए मंत्रालय ने दो जनवरी को एक्स को तत्काल ऐसी सभी गैरकानूनी और अश्लील सामग्रियों को हटाने का निर्देश दिया था।
मंत्रालय ने अपने आदेश में एक्स से यह भी कहा था कि वह 72 घंटे के भीतर यह स्पष्ट करे कि ग्रोक ऐप के संदर्भ में कौन-कौन से तकनीकी और संगठनात्मक कदम उठाए गए हैं या उठाए जाने वाले हैं।
इस मामले में एक्स के मुख्य अनुपालन अधिकारी की भूमिका एवं निगरानी और उल्लंघन करने वाली सामग्री, उपयोगकर्ताओं एवं खातों के खिलाफ की गई कार्रवाई के बारे में जानकारी देने को कहा गया था।
सूत्रों के मुताबिक, मंत्रालय ने यह भी रेखांकित किया कि ग्रोक एआई का इस्तेमाल फर्जी खाते बनाकर महिलाओं की तस्वीरों एवं वीडियो को अपमानजनक और अश्लील ढंग से प्रसारित करने के लिए किया जा रहा है, जो मंच-स्तरीय सुरक्षा उपायों की गंभीर नाकामी को दर्शाता है।
सरकार ने स्पष्ट किया है कि सूचना प्रौद्योगिकी अधिनियम और उससे जुड़े नियमों का पालन वैकल्पिक नहीं है और धारा 79 के तहत मिलने वाली ‘सुरक्षित स्थान’ वाली छूट सख्त ‘जाच-पड़ताल’ के अनुपालन पर ही निर्भर करती है। नियमों के उल्लंघन की स्थिति में एक्स के खिलाफ आईटी अधिनियम और भारतीय न्याय संहिता के तहत कार्रवाई की जा सकती है।
इस बीच, एक्स ने रविवार को अपने ‘सेफ्टी’ हैंडल पर कहा था कि वह बाल यौन अपराध सामग्री (सीएसएएम) सहित अवैध सामग्री के खिलाफ सख्त कार्रवाई करता है और ऐसे मामलों में खातों को निलंबित करने के साथ कानून प्रवर्तन एजेंसियों के साथ सहयोग करता है।
भाषा प्रेम प्रेम रमण
रमण
यह खबर ‘भाषा’ न्यूज़ एजेंसी से ‘ऑटो-फीड’ द्वारा ली गई है. इसके कंटेंट के लिए दिप्रिंट जिम्मेदार नहीं है.