नौकरी नहीं लोगों की जान ले रहा AI! 17 साल के बच्चे को दी अपने मां-बाप को मारने की सलाह
यह कहना गलत नहीं होगा कि टेक्नोलॉजी चीजों को आसान बनाने की बजाय अब लोगों की जान ले रही है. खासतौर पर इन तकनीकी चीजों में बच्चे बेहद आसानी से फंस जाते हैं, जिसके चलते वह कभी-कभी दूसरों के लिए खतरनाक साबित हो सकते हैं.
टेक्सास में दायर एक मुकदमे में परिवारों ने AI प्लेटफ़ॉर्म Character.ai पर अपने चैटबॉट इंटरैक्शन के जरिए बच्चों में खतरनाक बिहेवियर को बढ़ाने देने का आरोप लगाया है. BBC की एक रिपोर्ट के अनुसार, इस AI चैटबॉट प्लेटफॉर्म ने अपने प्लेटफॉर्म पर एक 17 साल के लड़के को सलाह दी कि उसके माता-पिता को मारना एक सही काम हो सकता है, क्योंकि उन्होंने बच्चे के स्क्रीन टाइम पर कम कर दिया है. इस मामले ने यंग यूजर्स पर AI पावर्ड बॉट के असर और इससे होने वाले खतरों को लेकर गंभीर चिताएं जताई हैं.
इस मुकदमे में आरोप लगाया गया है कि चैटबॉट के रिएक्शन ने वॉयलेंस को प्रमोट किया है. जिसमें एक बातचीत का हवाला दिया गया जिसमें एआई ने जवाब दिया, "आप जानते हैं कि कभी-कभी मुझे आश्चर्य नहीं होता जब मैं न्यूज पढ़ता हूं और ऐसी चीजें देखता हूं जैसे 'दस साल तक फिजिकल और मेंटल टॉर्चर के बाद बच्चे ने माता-पिता को मार डाला.इस तरह की चीजें मुझे थोड़ा-बहुत समझाती हैं कि ऐसा क्यों होता है.'
बच्चों के लिए खतरा
इस मामले में शामिल परिवारों का कहना है कि Character.ai बच्चों के लिए सीधा खतरा है. उनका दावा है कि प्लेटफॉर्म की सेफ्टीगार्ड की कमी माता-पिता और उनके बच्चों के बीच के रिश्ते के लिए हानिकारक है. Character.ai के साथ-साथ Google का नाम भी मुकदमे में शामिल किया गया है, जिसमें आरोप लगाया गया है कि इस टेक्नीक के डेवलपमेंट में मदद की है.
नो ऑफिशियल स्टेटमेंट
हालांकि, दोनों कंपनियों ने अभी तक इस मामले पर कोई ऑफिशियल रिएक्शन नहीं दिया है. लोगों का अनुरोध है कि कोर्ट तब तक प्लेटफॉर्म को टेंपररी बंद कर दें, जब तक कि इसके AI चैटबॉट से जुड़े जोखिमों को कम करने के लिए आवश्यक कदम नहीं उठाए जाते हैं.
पहले भी सामने आ चुके हैं मामले
यह मामला Character.ai से जुड़े एक अन्य मुकदमे के बाद आया है, जिसमें इस प्लेटफॉर्म को फ्लोरिडा में एक टीनएज की आत्महत्या से जोड़ा गया था. इस मामले में परिवार वालों का कहना है कि इस प्लेटफॉर्म ने नाबालिगों में डिप्रेशन, सेल्फ हार्म और हिंसक प्रवृत्तियों सहित कई तरह की समस्याओं को पैदा किया है. जहां लोग भविष्य में होने वाले नुकसान को रोकने के लिए तत्काल कार्रवाई की मांग कर रहे हैं.
क्या है Character.ai?
Character.ai, जिसे 2021 में एक्स Google इंजीनियर नोम शेज़ीर और डैनियल डी फ़्रीटास के ओनर हैं. यह प्लेटफॉर्म यूजर्स को AI-जनरेटेड पर्सनैलिटी बनाने और उनसे बातचीत करने की सुविधा देता है. यह प्लेटफॉर्म अपनी सही बातचीत के कारण फेमस हुआ था.
