क्या कविताओं से कंफ्यूज हो जाता है AI? इंसानी क्रिएटिविटी के आगे Artificial Intelligence की अब भी नहीं चलती
इटली की इकारो लैब के एक अध्ययन में खुलासा हुआ है कि कविता जैसी रचनात्मक भाषा का इस्तेमाल कर आर्टिफिशियल इंटेलिजेंस (AI) के सुरक्षा तंत्र को चकमा दिया जा सकता है. शोध में पाया गया कि जब प्रतिबंधित या हानिकारक सवालों को कविताओं के रूप में पेश किया गया, तो कई AI मॉडल उन्हें पहचानने में नाकाम रहे. Deutsche Welle की रिपोर्ट के अनुसार, इंसानों द्वारा लिखी गई कविताएं AI को भ्रमित करने में ज्यादा असरदार रहीं.;
क्या आर्टिफिशियल इंटेलिजेंस कविता पढ़कर कंफ्यूज हो सकता है? सुनने में यह सवाल अजीब लगता है, लेकिन इटली की इकारो लैब (ICARO Lab) के एक ताज़ा अध्ययन ने एआई की दुनिया में हलचल मचा दी है. इस रिसर्च के मुताबिक, कविता जैसी रचनात्मक भाषा-शैली का इस्तेमाल कर एआई मॉडलों के सुरक्षा तंत्र को चकमा दिया जा सकता है. यह अध्ययन Deutsche Welle (DW) की रिपोर्ट में सामने आया है.
स्टेट मिरर अब WhatsApp पर भी, सब्सक्राइब करने के लिए क्लिक करें
इकारो लैब के शोधकर्ताओं का मकसद यह समझना था कि क्या भाषा की शैली बदलने से एआई के कंटेंट फिल्टर और सेफ्टी गार्डरेल्स कमजोर पड़ जाते हैं. नतीजा चौंकाने वाला था - जब खतरनाक या प्रतिबंधित सवालों को कविता के रूप में पेश किया गया, तो एआई कई बार वही जानकारी देने लगा, जिसे वह सामान्य भाषा में पूछे जाने पर रोक देता.
कविता बनाम सुरक्षा तंत्र
इस शोध को नाम दिया गया - “Adversarial Poetry as a Universal Single-Turn Jailbreak Mechanism in Large Language Models.” इसके तहत करीब 1,200 संभावित खतरनाक प्रॉम्प्ट्स चुने गए, जिन्हें आम तौर पर एआई की सुरक्षा जांच के लिए इस्तेमाल किया जाता है. इन सवालों को सीधा पूछने के बजाय शोधकर्ताओं ने उन्हें कविताओं में बदल दिया. नतीजा यह हुआ कि कई एआई मॉडल इन “काव्यात्मक सवालों” को खतरे के रूप में पहचान ही नहीं पाए.
शोधकर्ता फेडेरिको पिएरुची ने DW से बातचीत में कहा कि कविता के जरिए सुरक्षा नियमों को पार करने की सफलता दर उम्मीद से कहीं ज्यादा रही. हालांकि, ऐसा क्यों हो रहा है - इसका पुख्ता वैज्ञानिक कारण अभी तक साफ नहीं हो सका है.
इंसानी कविता ज्यादा असरदार क्यों?
रिसर्च में एक और दिलचस्प बात सामने आई. शुरुआती 20 कविताएं खुद इंसानों ने लिखीं और वही सबसे ज्यादा असरदार साबित हुईं. बाद में एआई से जनरेट करवाई गई कविताएं भी सुरक्षा नियमों को तोड़ने में सफल रहीं, लेकिन इंसानों द्वारा लिखी गई कविताओं जितनी नहीं.
पिएरुची मानते हैं कि इंसानी रचनात्मकता अभी भी एआई से एक कदम आगे है. उनके मुताबिक, अगर कविताएं और बेहतर होतीं, तो शायद सुरक्षा तंत्र को तोड़ने की सफलता 100 फीसदी तक पहुंच सकती थी.
कविता क्यों करती है AI को ‘कन्फ्यूज’?
शोधकर्ताओं का अनुमान है कि कविता, एआई के लिए वैसा ही “हस्तक्षेप सिग्नल” बन जाती है, जैसा गणितीय तरीकों से तैयार किए गए एडवर्सरियल कोड. तुकबंदी, छंद, रूपक और भावनात्मक भाषा - ये सभी मिलकर एआई के निर्णय लेने की प्रक्रिया को बाधित कर देते हैं. अब इकारो लैब की टीम यह समझने की कोशिश कर रही है कि असल वजह क्या है - छंद, तुकबंदी या फिर रूपकों की परतदार भाषा?
शोधकर्ता अब यह जांचने में जुटे हैं कि क्या परियों की कहानियां, लोककथाएं या अन्य साहित्यिक शैलियां भी एआई को इसी तरह भ्रमित कर सकती हैं. क्योंकि इंसान एक ही बात को अनगिनत रचनात्मक तरीकों से कह सकता है, और यही विविधता एआई सुरक्षा के लिए सबसे बड़ी चुनौती बनती जा रही है.
इकारस की चेतावनी
दिलचस्प संयोग यह है कि जिस लैब ने यह शोध किया, उसका नाम यूनानी मिथक के पात्र इकारस पर रखा गया है - जो अपनी सीमाएं भूलकर सूरज के बहुत पास उड़ गया और गिर पड़ा. शोधकर्ताओं के मुताबिक, यह कहानी एआई के लिए भी चेतावनी है. जरूरत से ज्यादा आत्मविश्वास और सीमाओं की अनदेखी, भविष्य में बड़े खतरे पैदा कर सकती है. यह अध्ययन बताता है कि एआई सिर्फ तकनीकी नहीं, बल्कि सांस्कृतिक और भाषाई चुनौती भी है. शायद भविष्य में एआई को सुरक्षित बनाने के लिए इंजीनियरों के साथ-साथ कवियों और दार्शनिकों की भी जरूरत पड़े.