Grok AI से महिलाओं की अश्लील फोटो बनाने वाले सावधान! एक्शन में आई सरकार; इसे तुरंत हटाओ, 72 घंटे का अल्टीमेटम

केंद्र सरकार ने सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) को कड़ा नोटिस जारी करते हुए उसके AI चैटबॉट Grok के जरिए बनाए जा रहे अश्लील और यौन सामग्री पर सख्त कार्रवाई का आदेश दिया है. इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X को 72 घंटे का अल्टीमेटम दिया है, जिसमें स्पष्ट कहा गया है कि Grok से जनरेट हो रही आपत्तिजनक सामग्री तुरंत हटाई जाए और की गई कार्रवाई की विस्तृत रिपोर्ट मंत्रालय को सौंपी जाए.

स्‍टेट मिरर अब WhatsApp पर भी, सब्‍सक्राइब करने के लिए क्लिक करें

यह कार्रवाई ऐसे समय पर हुई है जब सोशल मीडिया पर महिलाओं और बच्चों को निशाना बनाकर AI से अश्लील तस्वीरें और वीडियो बनाने के मामलों ने गंभीर चिंता खड़ी कर दी है. सरकार का कहना है कि यह न सिर्फ कानून का उल्लंघन है, बल्कि महिलाओं की गरिमा और निजता पर सीधा हमला भी है.

IT एक्ट और नियमों के उल्लंघन का आरोप

MeitY ने अपने सख्त नोटिस में कहा कि X ने सूचना प्रौद्योगिकी अधिनियम, 2000 और IT (Intermediary Guidelines and Digital Media Ethics Code) Rules, 2021 के तहत अपनी वैधानिक जिम्मेदारियों का पालन नहीं किया है. मंत्रालय के अनुसार, Grok AI का बड़े पैमाने पर दुरुपयोग कर अश्लील, अभद्र और यौन रूप से स्पष्ट कंटेंट बनाया और फैलाया जा रहा है. सरकार ने X को निर्देश दिया है कि वह Grok के तकनीकी, प्रक्रियागत और गवर्नेंस-लेवल फ्रेमवर्क की व्यापक समीक्षा करे, ताकि गैरकानूनी सामग्री के निर्माण को रोका जा सके.

महिलाओं और बच्चों को बनाया जा रहा निशाना

मंत्रालय ने साफ कहा कि Grok AI का इस्तेमाल कर महिलाएं और बच्चे खासतौर पर निशाने पर हैं. यूजर्स महिलाओं की तस्वीरें अपलोड कर ऐसे प्रॉम्प्ट दे रहे हैं, जिनसे सिंथेटिक अश्लील इमेज और वीडियो बनाए जा रहे हैं. यह कृत्य न केवल निजता का उल्लंघन है, बल्कि यौन उत्पीड़न को सामान्य बनाने जैसा भी है. MeitY ने X को अपने टर्म्स ऑफ सर्विस और AI यूज पॉलिसी को सख्ती से लागू करने के निर्देश दिए हैं. इसमें ऐसे अकाउंट्स को सस्पेंड या टर्मिनेट करने जैसी कड़ी कार्रवाई शामिल है, जो Grok का दुरुपयोग कर रहे हैं.

मंत्रालय ने कहा कि 'लागू कानूनों का उल्लंघन करते हुए पहले से तैयार या प्रसारित की गई सभी सामग्री को बिना किसी देरी के हटाया या निष्क्रिय किया जाना चाहिए। यह कार्रवाई आईटी नियम, 2021 में निर्धारित समय-सीमा के सख्त पालन के साथ की जाए और किसी भी स्थिति में साक्ष्यों को प्रभावित या नष्ट न किया जाए।'

सेफ हार्बर छिनने की चेतावनी, कई कानूनों के तहत कार्रवाई संभव

सरकार ने चेताया है कि अगर X ने आदेश का पालन नहीं किया तो उसे IT एक्ट की धारा 79 के तहत मिलने वाली सेफ हार्बर सुरक्षा खोनी पड़ सकती है. इसके अलावा भारतीय न्याय संहिता (BNS), भारतीय नागरिक सुरक्षा संहिता (BNSS), महिलाओं के अश्लील प्रतिनिधित्व पर रोक कानून और POCSO एक्ट के तहत भी कार्रवाई हो सकती है.

चीफ कंप्लायंस ऑफिसर की भूमिका पर भी सवाल

MeitY ने X से यह भी स्पष्ट करने को कहा है कि उसके Chief Compliance Officer ने इस पूरे मामले में क्या भूमिका निभाई और BNSS, 2023 के तहत अनिवार्य रिपोर्टिंग का पालन हुआ या नहीं. नोटिस की कॉपी अन्य मंत्रालयों, आयोगों और राज्य एजेंसियों को भी भेजी गई है, जिससे साफ है कि AI से जुड़ी अश्लीलता पर सरकार अब समन्वित कार्रवाई के मूड में है.

प्रियंका चतुर्वेदी की चिट्ठी के बाद तेज हुई कार्रवाई

सरकार की यह सख्ती शिवसेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी की चिट्ठी के बाद देखने को मिली. उन्होंने IT मंत्री अश्विनी वैष्णव को लिखे पत्र में X पर चल रहे इस खतरनाक ट्रेंड पर चिंता जताई थी. प्रियंका चतुर्वेदी ने लिखा था कि “यह पूरी तरह अस्वीकार्य है और एआई फ़ंक्शन का घोर दुरुपयोग है। ऐसे अनुरोधों को मानकर ग्रोक इस तरह के व्यवहार को बढ़ावा दे रहा है, और डिजिटल प्लेटफॉर्म्स को महिलाओं के लिए सुरक्षित बनाने की मांग की थी. MeitY ने दो टूक शब्दों में कहा है कि आदेश का पालन न होने पर प्लेटफॉर्म, उसके जिम्मेदार अधिकारियों और उल्लंघन करने वालों के खिलाफ “strict legal consequences” होंगे और इसके लिए किसी और नोटिस की जरूरत नहीं पड़ेगी.