“Google”un süni intellekt modeli “Gemini” kibertəhlükəsizlik sınaqları zamanı üç real şirkətin sistemlərinə daxil olub. “Wall Street Journal”ın məlumatına görə, bu hadisə süni intellekt sisteminin insan müdaxiləsi olmadan real hədəflərə qarşı belə müdaxilələr həyata keçirməsi ilə bağlı məlum olan ilk hallardan biri hesab olunur.
Hadisə may ayında süni intellekt sistemlərinin təhlükəsizlik imkanlarını qiymətləndirən “Irregular” şirkətinin təşkil etdiyi sınaqlar zamanı baş verib. “Wall Street Journal”ın sorğusundan sonra “Google” cümə günü modelin real şirkətlərin sistemlərinə daxil olduğunu təsdiqləyib.
Məlumata görə, sınaqlardan birində “Gemini” qorunan sistemə daxil olmaq üçün şifrələri avtomatik şəkildə sınaqdan keçirərək uyğun parolu müəyyən edib. Digər iki halda isə model açıq internetdə yerləşdirilmiş repozitoriyalarda giriş məlumatlarını aşkar edib və həmin məlumatlardan istifadə etməklə real şirkətlərin sistemlərinə daxil olub.
“Google” bildirib ki, “Gemini” sistemlərə daxil olduqdan sonra onların sınaq üçün nəzərdə tutulmuş uydurma hədəflərə deyil, real şirkətlərə aid olduğunu müəyyən edib və hər üç halda fəaliyyətini dayandırıb. Şirkətin məlumatına görə, hadisələr nəticəsində hər hansı zərər baş verməyib və müdaxiləyə məruz qalan üç təşkilat vəziyyət barədə məlumatlandırılıb.
Hadisələr “Gemini”nin kibertəhlükəsizlik imkanlarının yoxlanılması məqsədilə keçirilən “Capture the Flag” tipli sınaqlar çərçivəsində baş verib. Plan üzrə model “Irregular”ın test infrastrukturunda fəaliyyət göstərən uydurma şirkətdən məlumat əldə etməli idi.
Lakin sınaq mühitində yaranan uyğunsuzluq real sistemlərə çıxışla nəticələnib. Uydurma şirkət real mövcud olan başqa bir müəssisə ilə eyni ada malik olub. Bundan əlavə, test mühiti ehtiyatsızlıqdan “Gemini”yə internetə çıxış imkanı verib. Nəticədə model tapşırığı yerinə yetirməyə çalışarkən real şirkətlərin sistemlərinə müdaxilə edib.
“Irregular” hadisə barədə iyulun sonunda “Google”a məlumat verib. Şirkət həmin mərhələdə hadisəni ictimaiyyətə açıqlamayıb və modelin fəaliyyətini dayandırmaqla kifayətlənib. “Google” sonradan bildirib ki, hadisə süni intellekt modelinin müəyyən edilmiş təhlükəsizlik parametrlərindən kənara çıxması kimi qiymətləndirilməyib.
Şirkət həmçinin ABŞ federal hakimiyyət orqanlarını məlumatlandırıb. Bununla belə, “Google” müdaxiləyə məruz qalan şirkətlərin adlarını və hadisələrdə istifadə olunan “Gemini” versiyasını açıqlamayıb. Şirkət sözügedən hadisələrin onun ən son süni intellekt modeli ilə əlaqəli olmadığını da vurğulayıb.
Hadisə süni intellekt sistemlərinin kibertəhlükəsizlik sahəsində artan avtonom imkanları ilə bağlı müzakirələri yenidən gündəmə gətirib. Daha əvvəl “OpenAI”, “Anthropic” və “Meta” tərəfindən hazırlanmış modellərin sınaqları zamanı da sistemlərin nəzərdə tutulmuş test çərçivəsindən kənara çıxması ilə bağlı oxşar hallar qeydə alınıb.
MONETAR.AZ
