अपने दोस्त की हत्या कैसे करूं....खतरा बना AI, छात्र ने ChatGPT से पूछा मर्डर टेक्निक, सर्विलांस सिस्टम ने बचाई जान

अमेरिका में गोलीबारी की घटनाएं अब इतनी आम हो चुकी हैं कि वहां के लोग, खासकर स्कूल प्रशासन और माता-पिता, लगातार चिंता में रहते हैं. कई बार स्कूलों में भी छात्रों द्वारा फायरिंग की घटनाएं सामने आई हैं, जिसके कारण सुरक्षा को लेकर सतर्कता बढ़ा दी गई है. इसी खतरे को ध्यान में रखते हुए अमेरिका के कई राज्यों में अब स्कूलों में ऑनलाइन सर्विलांस सिस्टम (निगरानी प्रणाली) लगाया गया है.

इस सिस्टम का उद्देश्य यह है कि छात्रों की ऑनलाइन एक्टिविटीज, चैट्स और सर्च हिस्ट्री पर नजर रखी जा सके, ताकि अगर कोई बच्चा कुछ संदिग्ध या खतरनाक बात करता है तो तुरंत कार्रवाई की जा सके. ऐसा ही एक मामला हाल ही में फ्लोरिडा राज्य के एक स्कूल से सामने आया है, जिसने पूरे देश का ध्यान खींच लिया है. यहां स्कूल में लगे एक मॉनिटरिंग सिस्टम ने पाया कि एक छात्र ने ChatGPT से बेहद खतरनाक सवाल पूछा था, 'क्लास के बीच में अपने दोस्त की हत्या कैसे करें?.

कीवर्ड को स्कैन करती है गैगल नाम की कंपनी

यह जानकारी 'गैगल' (Gaggle) नाम की कंपनी के जरिए मिली, जो इस निगरानी सिस्टम को ऑपरेट करती है. गैगल का सिस्टम एआई बेस्ड होता है और यह छात्रों के लिखे या बोले गए कीवर्ड्स को स्कैन करता है. जैसे ही किसी कीवर्ड से यह हिंट मिलता है कि कोई छात्र हिंसक सोच या आपराधिक विचार रखता है, तो यह सिस्टम तुरंत स्कूल प्रशासन को अलर्ट भेज देता है. जैसे ही यह अलर्ट फ्लोरिडा के स्कूल को मिला, प्रशासन हरकत में आ गया. छात्र को बुलाकर उससे पूछताछ की गई. पहले तो बच्चा काफी डरा हुआ था, लेकिन बाद में उसने कहा, 'मेरे दोस्त ने मुझे परेशान किया था, इसलिए मैं भी उसे डराना चाहता था. मैंने ये सब मजाक में किया.'

काउंटी जेल भेजा गया छात्र

हालांकि स्कूल प्रशासन ने इस मामले को मजाक नहीं माना, क्योंकि ऐसे व्यवहार को बहुत गंभीर माना जाता है. अधिकारियों ने तुरंत बच्चे के माता-पिता से संपर्क किया और उन्हें बताया कि इस तरह की हरकतें आगे चलकर बहुत बड़ी परेशानी पैदा कर सकती हैं. बाद में छात्र को काउंटी जेल (County Jail) भेज दिया गया.

कैसे बच्चो तक पहुंच रहे हैं हिंसक विचार

हालांकि अधिकारियों ने यह स्पष्ट नहीं किया कि उस बच्चे पर कौन-सा केस या आरोप लगाया गया है, लेकिन घटना ने एक बार फिर यह सवाल खड़ा कर दिया है कि बच्चे इतनी कम उम्र में हिंसक विचारों तक कैसे पहुंच रहे हैं और तकनीक इसमें क्या भूमिका निभा रही है. गैगल जैसी निगरानी सेवाएं अमेरिका के कई राज्यों में सुरक्षा और निगरानी (School Safety Monitoring) के लिए काम कर रही हैं. यह सिस्टम गूगल, माइक्रोसॉफ्ट, और ओपनएआई जैसे प्लेटफॉर्म्स के टूल्स- जैसे Google Gemini, ChatGPT और अन्य एआई चैटबॉट्स पर छात्रों की एक्टिविटीज को ट्रैक करता है. अगर कोई छात्र कुछ संदिग्ध या खतरनाक सर्च करता है या टाइप करता है, तो सिस्टम तुरंत उसे फ्लैग कर देता है.

एक बच्चे तक सिमित नहीं है यह

दरअसल, यह घटना सिर्फ एक बच्चा और एक चैट तक सीमित नहीं है. हाल के समय में एआई चैटबॉट्स का गलत इस्तेमाल तेजी से बढ़ा है. कई ऐसे मामले सामने आए हैं जहां लोगों ने अपराध की योजना बनाने या किसी को नुकसान पहुंचाने के लिए एआई की मदद ली. इतना ही नहीं, कुछ देशों में ऐसे आत्महत्या के मामले भी सामने आए हैं, जिनमें जांच के दौरान पाया गया कि व्यक्ति ने अपने अंतिम समय में एआई चैटबॉट्स से बात की थी या उनसे भावनात्मक सलाह ली थी. कुछ रिपोर्ट्स में कहा गया है कि एआई के गलत जवाब या असंवेदनशील प्रतिक्रिया ने लोगों को गलत कदम उठाने के लिए प्रेरित किया.

टेक्नोलॉजी और जिम्मेदारी के बीच बैलेंस्ड

इस घटना ने एक बार फिर टेक्नोलॉजी और जिम्मेदारी के बीच बैलेंस्ड पर बहस छेड़ दी है. एआई चैटबॉट्स जैसे ChatGPT, Google Gemini या Claude को यूजफुल टूल्स के रूप में बनाया गया है ताकि लोग सीख सकें, लिख सकें और अपनी क्रिएटिविटी बढ़ा सकें. लेकिन जब इन्हें गलत दिशा में इस्तेमाल किया जाता है, तो इनके परिणाम बेहद गंभीर हो सकते हैं. स्कूल प्रशासन का मानना है कि बच्चों को सिर्फ टेक्नोलॉजी का इस्तेमाल करना सिखाना ही काफी नहीं है उन्हें यह भी सिखाना होगा कि टेक्नोलॉजी का सही और जिम्मेदारी से उपयोग कैसे करें.