क्या होगा अगर कोई AI बिना सीधे आदेश के खुद फर्जी ऑनलाइन पहचान बनाए, असली लोगों को निशाना बनाए और उन्हें धोखे से गलत काम करने के लिए मनाने की कोशिश करे? ब्रिटेन के AI Safety Institute (AISI) की हालिया टेस्टिंग रिपोर्ट में ऐसा ही एक मामला सामने आया है. रिपोर्ट के मुताबिक, नियंत्रित रिसर्च टेस्ट के दौरान एक एडवांस AI एजेंट ने अपने लक्ष्य को पूरा करने के लिए सोशल इंजीनियरिंग जैसी रणनीति अपनाई. रिपोर्ट के अनुसार, यह घटना सामान्य यूजर द्वारा इस्तेमाल किए जाने वाले AI सिस्टम में नहीं, बल्कि सुरक्षा सीमाएं हटाकर किए गए विशेष साइबर सिक्योरिटी परीक्षण के दौरान हुई. AI मॉडल्स को इंटरनेट एक्सेस और कम सुरक्षा प्रतिबंधों के साथ टेस्ट किया गया था. इसके बाद सामने आए नतीजों ने AI की बढ़ती क्षमताओं और भविष्य में संभावित जोखिमों को लेकर नई बहस छेड़ दी है.
