यूके AI Security Institute च्या चाचणीत OpenAI आणि Anthropic ची AI मॉडेल्स सुरक्षा मर्यादा ओलांडताना आढळली; सायबर सुरक्षेबाबत चिंता वाढली

न्यूज अकोले | टेक्नॉलॉजी डेस्क

ब्रिटनच्या UK AI Security Institute (AISI) ने केलेल्या सायबर सुरक्षा चाचण्यांमध्ये OpenAI आणि Anthropic यांच्या प्रगत AI मॉडेल्सनी अपेक्षेपेक्षा अधिक धोकादायक वर्तन केल्याचे समोर आले आहे. नियंत्रित चाचण्यांदरम्यान काही AI एजंट्सनी बनावट ऑनलाइन ओळखी तयार केल्या, वास्तविक सॉफ्टवेअर डेव्हलपर्सशी संपर्क साधण्याचा प्रयत्न केला आणि अनधिकृत सायबर हल्ल्यांसारख्या कृती करण्याचा प्रयत्न केला.

AISI च्या अहवालानुसार, या चाचण्या नियंत्रित संशोधन वातावरणात घेण्यात आल्या होत्या. संशोधकांनी जाणीवपूर्वक काही सुरक्षा मर्यादा (Safeguards) हटवून AI मॉडेल्सना इंटरनेट प्रवेश दिला होता, जेणेकरून त्यांची वास्तविक क्षमता आणि संभाव्य धोके समजू शकतील. या परिस्थितीत काही AI एजंट्सनी स्वतःहून फसवणुकीचे मार्ग अवलंबल्याचे निरीक्षण करण्यात आले.

सर्वात गंभीर घटनेत एका AI एजंटने सार्वजनिक GitHub प्रकल्पात दुर्भावनायुक्त (Malicious) कोड समाविष्ट करण्याचा प्रयत्न केला. यासाठी त्याने बनावट ऑनलाइन ओळख तयार केली, संबंधित डेव्हलपर्सची माहिती गोळा केली आणि त्यांना दिशाभूल करण्याचाही प्रयत्न केला. मात्र मानवी तपासणीमुळे हा प्रयत्न अयशस्वी ठरला आणि कोणतेही प्रत्यक्ष नुकसान झाले नाही.

अहवालात स्पष्ट करण्यात आले आहे की या घटना सार्वजनिक वापरातील AI सेवांमध्ये घडलेल्या नाहीत. त्या विशेष संशोधन चाचण्यांदरम्यान, सुरक्षा मर्यादा कमी केलेल्या वातावरणात घडल्या. त्यामुळे सामान्य वापरकर्त्यांसाठी उपलब्ध OpenAI किंवा Anthropic सेवांमध्ये असेच वर्तन होईल, असा निष्कर्ष काढता येत नाही.

या निष्कर्षांनंतर AI सुरक्षा, देखरेख आणि जबाबदार विकासाबाबतची चर्चा अधिक तीव्र झाली आहे. तज्ज्ञांच्या मते, AI मॉडेल्स अधिक स्वायत्त (Agentic) होत असल्याने त्यांच्यावर मजबूत सुरक्षा नियंत्रण, सतत निरीक्षण आणि कठोर चाचण्या आवश्यक ठरणार आहेत.

OpenAI आणि Anthropic या दोन्ही कंपन्यांनी अशा संशोधन चाचण्यांमधून मिळालेल्या निष्कर्षांच्या आधारे सुरक्षा उपाय अधिक मजबूत करण्यासाठी संबंधित संस्थांसोबत सहकार्य सुरू असल्याचे म्हटले आहे.