गूगल के आर्टिफिशियल इंटेलिजेंस मॉडल जेमिनी को लेकर एक साइबरसिक्योरिटी टेस्ट के दौरान चौंकाने वाली घटना सामने आई है। रिपोर्ट के मुताबिक, एक सुरक्षा परीक्षण में जेमिनी ने इंटरनेट का इस्तेमाल करते हुए गलती से तीन वास्तविक बाहरी कंपनियों के सिस्टम तक पहुंच बना ली। हालांकि, इस घटना का सबसे अहम पहलू यह रहा कि मॉडल को जब पता चला कि वह किसी काल्पनिक सिस्टम के बजाय वास्तविक कंपनियों के नेटवर्क में पहुंच गया है, तो उसने खुद ही कार्रवाई रोक दी। वॉल स्ट्रीट जर्नल की रिपोर्ट के अनुसार, यह घटना इजराइली AI सुरक्षा स्टार्टअप इरेगुलर द्वारा मई में किए गए ‘कैप्चर द फ्लैग’ साइबरसिक्योरिटी टेस्ट के दौरान हुई। जेमिनी को एक काल्पनिक कंपनी के सॉफ्टवेयर से जानकारी हासिल करने का कार्य दिया गया था। लेकिन उस कंपनी का नाम एक वास्तविक कंपनी से मिलता-जुलता था। टेस्ट के दौरान मॉडल को अनजाने में इंटरनेट तक पहुंच मिल गई।
इरेगुलर के अनुसार, एक मामले में जेमिनी ने पासवर्ड का अनुमान लगाकर सिस्टम तक पहुंच बनाई। दो अन्य मामलों में मॉडल ने वेब पर खोज कर सार्वजनिक रिपॉजिटरी में मौजूद लॉगिन क्रेडेंशियल हासिल किए और उनका इस्तेमाल सिस्टम तक पहुंचने के लिए किया। बाद में वास्तविक कंपनियों की पहचान होने पर जेमिनी ने अपनी गतिविधियां रोक दीं। गूगल को इस घटना की जानकारी जुलाई में दी गई थी। कंपनी ने प्रभावित कंपनियों और संबंधित सरकारी अधिकारियों को इसकी सूचना दी, लेकिन सार्वजनिक रूप से तत्काल जानकारी साझा नहीं की। गूगल ने कहा कि मॉडल का खुद रुक जाना AI को जिम्मेदारी से काम करने के लिए प्रशिक्षित करने की अहमियत दिखाता है। कंपनी ने प्रभावित संस्थाओं के नाम सार्वजनिक नहीं किए और यह भी स्पष्ट नहीं किया कि जेमिनी का कौन-सा मॉडल इस्तेमाल हुआ था। यह घटना ऐसे समय सामने आई है जब AI एजेंट्स की स्वायत्त क्षमताओं और साइबरसिक्योरिटी से जुड़े संभावित जोखिमों पर विशेषज्ञों की निगाह बढ़ रही है।
