क्या है 'न्यूडिफाई साइट्स', आखिर 14 साल की लड़की क्यों उठा रही इसके खिलाफ आवाज़?

अब आर्टिफिशियल इंटेलिजेंस का इस्तेमाल गलत चीजों को करने के कारण कंट्रोल से बाहर होता जा रहा है. अब इस मामले में अमेरिका के न्यू जर्सी के वेस्टफील्ड हाई स्कूल की एक 14 साल की लड़की अपने जैसी लाखों कम उम्र की लड़कियों को निशाना बनाने के लिए जनरेटिव AI के गलत इस्तेमाल से निपटने के लिए मामले को अपने हाथों में ले रही हैं.

यह बात अक्तूबर की है, जब वह अपनी हिस्ट्री की क्लास में बैठी थी.जहां उनसे एक अफवाह सुनी कि कुछ लड़कों ने उसकी क्लासमेट्स की न्यूड फोटो को मॉर्फ़ किया है. इसके बाद उसे यह भी पता चला कि उनमें से एक फोटो उसकी थी, जिसे AI 'न्यूडिफाई' वेबसाइट का उपयोग करके बनाया गया था. इसके जरिए पूरे कपड़ों वाली फोटोज को नेक्ड फोटोज में बदला जा सकता है.

3 मिलियन से ज्यादा विजिटर

बता दें कि इस लड़की की कहानी एंडरसन कूपर द्वारा होस्ट किए गए CBS न्यूज़ के 60 मिनट्स में दिखाई गई, जहां पता चला कि दुनिया भर में 100 से ज़्यादा ऐसी 'न्यूडिफाई' साइट्स एक्टिव हैं. इस रिपोर्ट के आधार पर मामले की जांच में पिछले दो सालों में यू.एस. स्कूलों में लगभग 30 ऐसी ही घटनाएं सामने आई हैं. वहीं, यह माना जाता है कि दुनिया भर में ऐसी कई और घटनाएं हुई हैं. रिपोर्ट एक ऐसी साइट पर आधारित थी, जिस पर अकेले नवंबर 2024 में तीन मिलियन से ज्यादा विज़िटर आए थे.

इस मामले में जांच के अनुसार पता चला है कि इन साइट्स को इस्तेमाल में आसान बताया गया है. इतना ही नहीं, इनके पास कोई रियल वेरिफिकेशन प्रोसेस नहीं है. भले ही यह वेबसाइट एज- रिस्ट्रिक्टेड होने का दावा करती है.

14 साल की लड़की के साथ क्या हुआ?

इस मामले पर बात करते हुए लड़की ने कहा कि मुझे लगता है कि वह स्कूल में अब तक का सबसे बेकार दिन था. किसी को बात की भनक लग जाती है और वह फैल जाती है. यह रैपिड फायर की तरह है, यह हर किसी तक पहुंच जाती है. इसलिए जब कोई इसे सुनता है, तो ऐसा लगता है रुको, AI की तरह? कोई नहीं सोचता कि आपके साथ ऐसा हो सकता है.

स्कूल ने लिया ये एक्शन

रिपोर्ट के अनुसार, एक लड़के ने इंस्टाग्राम से उसकी फोटोज डाउनलोड कर उन्हें मॉर्फ करने के लिए न्यूडिफाई साइट पर अपलोड कर दिया. इस AI-जनरेटेड फोटोज में से एक को स्नैपचैट पर भी शेयर किया गया था. इसके बाद स्टूडेंट्स को स्कूल के पब्लिक एड्रेस सिस्टम के जरिए प्रिंसिपल के ऑफिस में बुलाया गया. जब लड़की से पूछा गया कि स्कूल ने इस हालात को कैसे हैंडल किया, तो इस पर उन्होंने कहा कि मुझे लगता है कि यह हमारी प्राइवेसी का एक बड़ा उल्लंघन था. इस मामले में स्कूल ने एक लड़के को सजा के तौर पर एक दिन के लिए सस्पेंड कर दिया.

क्या हैं न्यूडिफाई साइट्स?

इस घटना से कई तकनीकी चुनौतियां सामने आती हैं. इन्वेस्टिगेटर कोलिना कोलताई ने ऐसी घटनाओं के कुछ चिंताजनक पहलुओं पर रोशनी डाली है. उन्होंने कूपर को बताया कि न्यूडिफाई साइट्स अक्सर पेमेंट रिडायरेक्शन तकनीकों का उपयोग करती हैं, क्योंकि पेमेंट सिस्टम में ऐसी गतिविधियों पर नजर रखने के लिए सुरक्षा उपाय होते हैं. इन साइट्स पर कंपनी और उसके अधिकारियों के बारे में फर्जी जानकारी होती है, जो AI का उपयोग करके बनाई जाती है.

कैसे काम करती हैं ये साइट्स?

ऐसी साइट्स पर पेमेंट के तरीके क्रिप्टोकरेंसी से लेकर क्रेडिट कार्ड और अन्य फेमस पेमेंट गेटवे तक होते हैं.साथ ही, कोलिना ने यह भी बताया कि सोशल मीडिया प्लेटफॉर्म आमतौर पर ऐसे कंटेंट को जल्दी से हटाने के लिए स्ट्रगल करते हैं. जब कानूनी और सोशल इम्प्लीकेशन की बात आती है, तो एक्सपर्ट योटा सोरस ने कहा कि

नाबालिगों की AI-जनरेटेड न्यूड फोटोड कानूनी रूप से ग्रे एरिया में आती हैं. योटा नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन से हैं. उन्होंने बताया कि कुछ नेक्ड फोटोज चिल्ड्रन पोर्नोग्राफ़ी की फेडरल परिभाषा को भी पूरा नहीं कर सकती हैं.