तमाम सुरक्षा उपायों के बावजूद X से कैसे दी जा रही विमानों को धमकी? अब IT मंत्रालय ने जारी की एडवाइजरी

पिछले कई दिनों से विमानों में बम होने की फर्जी धमकी मिलने की खबरें आम हो गई हैं. कोई भी दिन ऐसा नहीं बीत रहा जिस दिन कुछ विमानों में बम होने की फर्जी सूचना न मिल रही हो. ज्‍यादातर मामलों में ऐसा करने के लिए माइक्रो ब्‍लॉगिंग साइट X (पूर्व में Twitter) का इस्‍तेमाल करने की बात सामने आ रही है. X जैसे प्‍लेफॉर्म दावा करते हैं कि वो सुरक्षा के तमाम उपाय करते हैं और कुछ भी ऐसा-वैसा पोस्‍ट ना हो जो उनकी पॉलिसी के खिलाफ हो, इसका भी पूरा ध्‍यान रखते हैं. इसके लिए वो न केवल तकनीक का सहारा लेते हैं बल्‍कि इस काम के लिए पूरी टीम भी लगी रहती है. ऐसे में सवाल उठता है कि आखिर चूक कहां हो रही है कि बार-बार ऐसे मामले सामने आ रहे हैं. वहीं, इसे लेकर आईटी मंत्रालय ने एडवाइजरी जारी की है.

X और अन्य सोशल मीडिया प्लेटफार्म, जैस कि Meta (Facebook, Instagram) अपनी सुरक्षा और कंटेंट मॉडरेशन प्रणालियों के लिए बहुत सी तकनीकों का इस्‍तेमाल करते हैं. हालांकि, कई बार इसमें कामयाबी नहीं मिलती, नतीजा यह निकलता है कि लोग इन प्लेटफॉर्मों का उपयोग अनैतिक और अवैध गतिविधियों के लिए करते हैं. आइए समझते हैं कि वो क्‍या वजहें हो सकती हैं कि हर तरह के सुरक्षा उपाय करने के बाद भी शरारती तत्‍व ऐसे पोस्‍ट करने में कैसे कामयाब हो जाते हैं.

AI-Driven कंटेंट मॉडरेशन में सीमाएं

AI और NLP तकनीकें विभिन्न भाषाओं और बोलियों में अपमानजनक या हानिकारक कंटेंट को सही तरीके से पहचानने में अक्सर नाकाम हो जाती हैं. इसका अर्थ यह है कि कुछ सामग्री, जो सांस्कृतिक रूप से संदिग्‍ध हो सकती है, वह AI द्वारा नजरअंदाज की जा सकती है. इस समस्या की वजह से कई उपयोगकर्ता अपमानजनक सामग्री पोस्ट कर सकते हैं, जो फ़िल्टर नहीं होती. मशीन लर्निंग मॉडल्स को डेटा पर प्रशिक्षित किया जाता है, जो हमेशा सही नहीं होते. कभी-कभी ये सामान्य या संवेदनशील सामग्री को भी हटाने में गलती कर सकते हैं, जिससे उपयोगकर्ता असंतुष्‍ट हो सकते हैं और वे अपनी आवाज उठाने के लिए अन्य, ज्यादा खतरनाक तरीकों का सहारा ले सकते हैं.

ह्यूमन मॉडरेशन और नई टीम की चुनौतियां

X की ह्यूमन मॉडरेशन टीमें भले ही संवेदनशील मामलों पर ध्यान देती हैं, लेकिन अक्सर लोगों की कमी दिखती है. ऐसे मामलों में, अगर मॉडरेटर उपलब्ध नहीं होते हैं, तो हानिकारक सामग्री बिना मॉडरेशन के प्लेटफॉर्म पर बनी रह सकती है. इंसान भी पूर्वाग्रहों से मुक्‍त नहीं होते. वे किसी भी सामग्री को अपने व्यक्तिगत दृष्टिकोण से देख सकते हैं, जिससे उनकी निर्णय लेने की प्रक्रिया प्रभावित होती है. इस कारण कुछ महत्वपूर्ण और असामान्य मुद्दों को अनदेखा किया जा सकता है, जिससे उपयोगकर्ता इन प्लेटफॉर्मों का दुरुपयोग कर सकते हैं.

फायरवॉल और नेटवर्क सुरक्षा की सीमाएं

भले ही X WAF और DDoS सुरक्षा का उपयोग करता है, लेकिन इंटरनेट पर नए प्रकार के साइबर हमलों के मुकाबले ये हमेशा प्रभावी नहीं होते. साइबर अपराधियों ने अक्सर नई तकनीकों का उपयोग करके इन सुरक्षा उपायों को बायपास करने के तरीके खोज लिए हैं. X की सुरक्षा प्रणाली कभी-कभी बुरे इरादों वाले उपयोगकर्ताओं के लिए खामियों को छोड़ देती है. उदाहरण के लिए, यदि कोई उपयोगकर्ता VPN या प्रॉक्सी का उपयोग करके अपनी असली पहचान छुपाता है, तो वह आसानी से अवैध गतिविधियों को अंजाम दे सकता है, जैसे कि स्पैमिंग या धोखाधड़ी.

रेगुलेटरी अनुपालन की चुनौतियां

नए कानूनी नियमों के साथ तालमेल बैठाना मुश्किल होता है. इन नियमों का पालन करते समय X को कई बार कठिनाइयों का सामना करना पड़ता है, जैसे कि अनजाने में अपमानजनक सामग्री को हटाने से लेकर उपयोगकर्ताओं की सुरक्षा का ध्यान रखने तक. कानून का पालन करते समय उपयोगकर्ताओं की प्राइवेसी का ध्यान रखना जरूरी है. अगर X कुछ ज्यादा ही सख्‍त नियत्रंण रखता है, तो इससे उपयोगकर्ता प्लेटफार्म छोड़ने पर मजबूर हो सकते हैं, जिससे उनके लिए अवैध गतिविधियों का सहारा लेना आसान हो जाता है.

बॉट डिटेक्शन की सीमाएं

बॉट्स और फेक अकाउंट्स को पहचानने में X का सिस्टम अक्सर असफल रहता है. साइबर अपराधी अपनी रणनीतियों को लगातार बदलते रहते हैं, जिससे बॉट्स को पहचानना कठिन हो जाता है. ये बॉट्स अनैतिक गतिविधियों में शामिल हो सकते हैं, जैसे कि फेक न्‍यूज फैलाना या टारगेटेड हैरासमेंट करना.

सामाजिक प्रभाव और प्लटेफ़ॉर्म का दुरुपयोग

X पर कई उपयोगकर्ता अवैध गतिविधियों, जैसे कि ड्रग्स की बिक्री, मानव तस्करी या हिंसा को बढ़ावा देने वाले ग्रुप्‍स के माध्यम से नेटवर्क बनाते हैं. यह सब कुछ ऑटोमेटेड और मानव मॉडरेटरों की सीमाओं के कारण हो सकता है, जो इन गतिविधियों को पकड़ने में असफल रहते हैं. कभी-कभी उपयोगकर्ताओं का समुदाय भी किसी अपमानजनक या अवैध सामग्री को स्वीकार कर लेता है, जिससे इसे रोकना और भी मुश्‍क‍िल हो जाता है. जब कोई सामूहिकता बनती है तो उसपर काबू पाना और भी कठिन होता है. इन सब समस्याओं के कारण X और अन्य सोशल मीडिया प्लेटफॉर्मों पर अनैतिक और अवैध गतिविधियां बढ़ती जा रही हैं. इन चुनौतियों का सामना करने के लिए प्लेटफॉर्म को अपनी सुरक्षा प्रणालियों में निरंतर सुधार करना होगा और एक सशक्त मानव मॉडरेशन टीम का निर्माण करना होगा.

IT मंत्रालय ने जारी की एडवाइजरी

एयरलाइन कंपनियों को रोज मिल रही धमकियों पर मंत्रालय ने एक एडवाइजरी जारी की है. मंत्रालय ने कहा कि सोशल मीडिया प्लेटफॉर्म को आईटी नियम 2021 के तहत तुरंत आवश्यक कार्रवाई करना होगा. इसे लेकर केंद्र सरकार ने सोशल मीडिया प्लेटफॉर्म एक्स, मेटा और अन्य सोशल मीडिया प्लेटफॉर्म से मदद मांगी है.