सही से जवाब तो दो X! Grok AI के अश्लील कंटेंट पर सरकार सख्त, एलन मस्‍क की कंपनी X के जवाब को बताया “डिटेल्ड लेकिन नाकाफी”

एलन मस्क की कंपनी X (पूर्व में ट्विटर) द्वारा अपने AI चैटबॉट Grok से जुड़े अश्लील और आपत्तिजनक कंटेंट पर दी गई सफाई को भारत सरकार ने “डिटेल्ड, लेकिन पर्याप्त नहीं” बताया है. सरकार ने साफ कर दिया है कि जवाब में कई अहम जानकारियां गायब हैं और अब X को इन पर तुरंत स्पष्टीकरण देना होगा.

रिपोर्ट्स के अनुसार, X ने IT मंत्रालय को एक लंबा जवाब सौंपा था, जिसमें उसने भारतीय कानूनों और दिशानिर्देशों का सम्मान करने की बात कही और भारत को अपना एक अहम बाजार बताया.

हालांकि अधिकारियों का कहना है कि जवाब में कितना कंटेंट हटाया गया, इसकी स्पष्ट जानकारी नहीं दी गई है. Grok AI से बने अश्लील कंटेंट को रोकने के लिए ठोस कदमों का विवरण नहीं दिया गया और भविष्य में ऐसे मामलों को रोकने के लिए क्या तकनीकी उपाय किए गए, यह भी साफ नहीं किया गया है. इसी वजह से मंत्रालय ने X से अतिरिक्त सवालों का तुरंत जवाब देने को कहा है.

2 जनवरी को जारी हुआ था सख्त नोटिस

सरकार ने 2 जनवरी को X को निर्देश दिया था कि Grok AI के जरिए बने अश्लील, यौन रूप से स्पष्ट और गैरकानूनी कंटेंट को तुरंत हटाया जाए और 72 घंटे में Action Taken Report सौंपी जाए. मंत्रालय ने चेतावनी दी है कि IT Act की धारा 79 के तहत मिलने वाली ‘सेफ हार्बर’ सुरक्षा तभी मिलेगी, जब नियमों का पूरी तरह पालन होगा. सरकार ने Grok AI के दुरुपयोग को महिलाओं और बच्चों के लिए गंभीर खतरा बताया है और कहा है कि यह प्लेटफॉर्म की सुरक्षा व्यवस्था की बड़ी विफलता है.

Grok AI को लेकर अपनाए गए तकनीकी और प्रशासनिक उपाय

• Chief Compliance Officer की भूमिका और निगरानी
• आपत्तिजनक कंटेंट, यूजर्स और अकाउंट्स पर की गई कार्रवाई
• भारतीय कानून के तहत अनिवार्य रिपोर्टिंग सिस्टम का पालन

Safe Harbour पर भी सरकार की चेतावनी

सरकार ने साफ शब्दों में कहा कि “IT Act की धारा 79 के तहत मिलने वाली छूट (Safe Harbour) तभी लागू होती है, जब प्लेटफॉर्म पूरी तरह से due diligence का पालन करें.” मंत्रालय ने X को सलाह दी कि वह अश्लील, पोर्नोग्राफिक, यौन रूप से स्पष्ट, बाल यौन शोषण से जुड़ा या किसी भी कानून से प्रतिबंधित कंटेंट को होस्ट, शेयर या स्टोर करने से पूरी तरह बचे.

महिलाओं को निशाना बनाने के आरोप

सरकारी अधिकारियों ने गंभीर आरोप लगाते हुए कहा कि Grok AI का इस्तेमाल फर्जी अकाउंट बनाने, महिलाओं की तस्वीरों और वीडियो को लेकर AI से अश्लील और नकली कंटेंट तैयार करने में किया जा रहा है. इसे अधिकारियों ने “प्लेटफॉर्म स्तर की सुरक्षा व्यवस्था की गंभीर विफलता” और “कानूनों का उल्लंघन करते हुए AI तकनीक का घोर दुरुपयोग” बताया.

X ने पहले क्या सफाई दी थी?

X ने अपने आधिकारिक ‘Safety’ हैंडल से कहा था कि गैरकानूनी कंटेंट, खासकर Child Sexual Abuse Material (CSAM) को हटाया जाता है और नियम तोड़ने वाले अकाउंट्स को स्थायी रूप से सस्पेंड किया जाता है. साथ ही कानून प्रवर्तन एजेंसियों के साथ सहयोग किया जाता है. X ने यह भी कहा था कि “अगर कोई Grok से गैरकानूनी कंटेंट बनवाता है, तो उसके खिलाफ वही कार्रवाई होगी, जैसे खुद कंटेंट अपलोड करने पर होती है.”

सरकार के नए निर्देश

ताजा घटनाक्रम के बाद सरकार ने X को निर्देश दिया है कि वह यूजर टर्म्स और AI यूज पॉलिसी को सख्ती से लागू करे और नियम तोड़ने वालों पर अकाउंट सस्पेंड या टर्मिनेट जैसी कड़ी कार्रवाई करे. साथ ही गैरकानूनी कंटेंट को बिना देरी हटाए या ब्लॉक करे और IT Rules, 2021 के तय समय का सख्ती से पालन करे और सबूत सुरक्षित रखे.

भारत ही नहीं, विदेशों में भी जांच के घेरे में X

Grok AI को लेकर X सिर्फ भारत में ही नहीं, बल्कि यूके और मलेशिया में भी जांच के दायरे में है. यूके के कम्युनिकेशन रेगुलेटर Ofcom ने कहा, “हमें Grok फीचर को लेकर गंभीर चिंताएं मिली हैं, जिसमें लोगों के बिना कपड़ों की तस्वीरें और बच्चों से जुड़ा यौन कंटेंट बनाया जा रहा है.” Ofcom ने बताया कि उसने X और xAI से तत्काल संपर्क किया है ताकि यह समझा जा सके कि वे यूके के कानूनों का पालन कैसे कर रहे हैं.

Grok AI से जुड़े अश्लील कंटेंट के मामले में भारत सरकार अब जीरो टॉलरेंस मोड में है. X का जवाब भले ही लंबा हो, लेकिन सरकार साफ कर चुकी है कि ठोस कार्रवाई और पारदर्शिता के बिना उसे स्वीकार नहीं किया जाएगा. आने वाले दिनों में यह मामला टेक कंपनियों और AI रेगुलेशन के लिए मिसाल बन सकता है.