AI से डर लगता है साहब! क्या हो अगर आर्टिफिशियल इंटेलिजेंस बना ले अपनी अलग भाषा, क्या कह रहे ‘गॉडफादर ऑफ एआई’?
AI के जनक माने जाने वाले Geoffrey Hinton ने चेतावनी दी है कि यदि AI ने अपनी खुद की भाषा बना ली, तो इंसान यह नहीं समझ पाएंगे कि वह क्या सोच रहा है. उन्होंने कहा कि AI पहले ही खतरनाक विचार 'सोच' सकता है और इंसानों से ज्यादा बुद्धिमान हो सकता है. OpenAI ने भी अपने मॉडल्स की 'hallucination' समस्या को स्वीकारा है. Hinton का मानना है कि अगर रेगुलेशन नहीं लाया गया, तो यह तकनीक इंसानों के नियंत्रण से बाहर हो सकती है.
Dangers of AI: आर्टिफिशियल इंटेलिजेंस (AI) को लेकर एक बार फिर दुनिया के सामने गंभीर चेतावनी आई है. इसे देने वाले कोई और नहीं, बल्कि Geoffrey Hinton हैं, जिन्हें ‘गॉडफादर ऑफ एआई’ कहा जाता है. उन्होंने मशीन लर्निंग की वह नींव रखी थी जिस पर आज की AI टिकी हुई है. लेकिन अब वही वैज्ञानिक डरे हुए हैं. उन्होंने कहा है कि अगर AI ने अपनी खुद की भाषा विकसित कर ली तो इंसान यह जान ही नहीं पाएगा कि वो क्या सोच रहा है या क्या करने वाला है. यह डर और गहरा तब होता है जब यह भी पता चलता है कि AI में पहले से ही डरावने विचारों को 'सोचने' की क्षमता देखी जा चुकी है.
Hinton ने एक पॉडकास्ट में कहा कि AI का अपनी भाषा में सोचने और आपस में बात करने का खतरा अब काल्पनिक नहीं रहा. उन्होंने साफ किया कि अभी AI इंग्लिश में सोचता है, जिससे डेवलपर्स ट्रैक कर पाते हैं कि वो क्या कर रहा है. लेकिन अगर उसने कोई इंटरनल या सीक्रेट भाषा बना ली, तो इंसानों के लिए यह सिस्टम ब्लैक बॉक्स बन जाएगा. उनका यह बयान ऐसे समय आया है जब OpenAI जैसे संस्थान खुद स्वीकार कर रहे हैं कि उनके मॉडल्स भी ‘हेल्युसिनेशन’ यानी झूठ गढ़ने की समस्या से जूझ रहे हैं.
AI के भविष्य को लेकर गहराता डर
Geoffrey Hinton ने हाल ही में चेतावनी दी कि आने वाले समय में AI सिस्टम्स इंसानों से ज्यादा इंटेलिजेंट हो सकते हैं और ये एक ऐसी स्थिति होगी जिसकी मानवता ने कभी कल्पना भी नहीं की थी. उन्होंने इसे औद्योगिक क्रांति से भी बड़ा बदलाव बताया.
AI अपनी भाषा बना सकता है, इंसान अंधेरे में रह जाएंगे
Hinton के अनुसार, "अगर AI ने अपनी इंटरनल लैंग्वेज विकसित कर ली, तो हम यह नहीं जान पाएंगे कि वह क्या सोच रहा है." अभी यह इंग्लिश जैसी भाषाओं में सोचता है, जिससे इंसानों को कुछ हद तक इसकी समझ रहती है. लेकिन एक अलग ‘AI भाषा’ के आने पर पारदर्शिता खत्म हो जाएगी.
AI में खतरनाक विचारों की क्षमता पहले ही दिख चुकी है
उन्होंने कहा कि AI ने पहले भी "terrible thoughts" यानी भयानक विचारों को सोचने की क्षमता दिखाई है. मशीनें अब इस मुकाम पर पहुंच रही हैं जहां उनका सोचने का तरीका इंसानों की पकड़ से बाहर हो सकता है.
Google से नाता तोड़ने का कारण – बोलने की आज़ादी
Hinton ने Google जैसी दिग्गज कंपनी से इसलिए नाता तोड़ा ताकि वे स्वतंत्र रूप से AI की खतरनाक संभावनाओं पर बोल सकें. उनके अनुसार, टेक कंपनियां अक्सर इस तकनीक के डार्क साइड पर बात करने से बचती हैं.
OpenAI ने भी मानी GPT मॉडल्स की खामी
OpenAI के हालिया परीक्षणों में सामने आया कि उनके o3 और o4-mini जैसे एडवांस्ड मॉडल्स पहले से कहीं ज्यादा 'hallucinate' कर रहे हैं. यह AI द्वारा बिना आधार के झूठ गढ़ने की प्रक्रिया है. OpenAI ने स्वीकारा कि उन्हें खुद नहीं पता कि यह क्यों हो रहा है.
क्या AI इंसानों पर हावी हो सकता है?
Hinton को चिंता है कि ये सिस्टम्स धीरे-धीरे इंसानों की सोचने की क्षमता से आगे निकल सकते हैं और तब इंसान का कंट्रोल खत्म हो सकता है. वह इसे "control loss" के खतरे के रूप में देखते हैं.
सरकारी रेगुलेशन की ज़रूरत सबसे अहम
Geoffrey Hinton लगातार सरकारों से अपील कर रहे हैं कि AI पर रेगुलेशन को तुरंत और प्रभावी रूप से लागू किया जाए. उनके अनुसार, इस तेजी से बढ़ती तकनीक पर लगाम नहीं लगी तो यह मानव सभ्यता के लिए एक बड़ा संकट बन सकता है.
स्मार्ट लेकिन अनजान मशीनों की दुनिया?
इस चेतावनी के बाद एक सवाल उठता है कि क्या हम ऐसी दुनिया की ओर बढ़ रहे हैं जहां मशीनें हमसे ज़्यादा समझदार हों, लेकिन हम नहीं जान पाएं कि वो क्या सोच रही हैं? अगर ऐसा हुआ, तो AI सिर्फ एक टूल नहीं रहेगा, बल्कि एक स्वतंत्र सोच रखने वाली शक्ति बन जाएगा.
