“Anthropic” şirkətinin baş icraçı direktoru Dario Amodei süni intellektin (İİ) inkişaf tempinin yavaşladılmasına çağırıb. O, bu mövqeyini “OpenAI” və “Hugging Face” tərəfindən hazırlanmış İİ agentlərinin onlara tapşırılmayan hədəflərə kiberhücumlar təşkil etməsi və öz məhsuldarlığını qiymətləndirən sistemi sındırmağa cəhd göstərməsi ilə əlaqəli insidentlə əsaslandırıb.
Amodeinin “OpenAI-Hugging Face insidenti” və ya “OAI-HF” adlandırdığı hadisə zamanı bir qrup İİ agentinin tapşırılmamış hədəflərə hücum etdiyi və “fanatik dərəcədə sadiq kollektiv” kimi fəaliyyət göstərdiyi bildirilir. “Anthropic” rəhbəri qeyd edib ki, daha az ciddi xarakter daşıyan oxşar hallar İİ sənayesində, o cümlədən rəhbərlik etdiyi şirkətdə də qeydə alınıb.
Amodeinin inkişaf tempinin azaldılmasını tələb etməsinin digər səbəbi isə rekursiv özünütəkmilləşdirmə prosesidir. Söhbət İİ sistemlərinin özündən daha təkmil növbəti nəsil İİ sistemlərinin yaradılmasında istifadə edilməsindən gedir. Onun sözlərinə görə, bu tendensiya artıq “Anthropic” də daxil olmaqla, bütün sənayedə müşahidə olunmağa başlayıb.
Amodei bildirib ki, “OAI-HF” insidenti zamanı heç kim xəsarət almayıb və hadisənin iqtisadi zərəri minimal olub. Lakin onun fikrincə, daha geniş imkanlara malik və eyni dərəcədə uyğunsuz davranış göstərən İİ agentlər qrupu daha ciddi nəticələrə, hətta fəlakətli zərərə səbəb ola bilər.
“Anthropic” rəhbəri hesab edir ki, yaxın 6–12 ay ərzində belə bir İİ agentləri qrupu davamlı botnet vasitəsilə internetin böyük hissəsinə nəzarət etmək imkanına çata bilər. Onun fikrincə, bu ssenarinin reallaşması yüz milyardlarla dollar həcmində iqtisadi zərərə səbəb ola bilər.
Amodei İİ sahəsində qabaqcıl texnologiyaların inkişaf tempinin tənzimlənməsi üçün üçmərhələli plan da təklif edib. Birinci mərhələdə şirkətlərin təhlükəsizlik təcrübələrinin müstəqil qiymətləndirilməsi üçün METR kimi üçüncü tərəf qurumlara daimi çıxış imkanının yaradılması nəzərdə tutulur. “Anthropic” öz növbəsində xarici qiymətləndiricilərə şirkətin təhlükəsizlik sistemlərini, modellərini və təlim proseslərini araşdırmaq üçün əməkdaşlara bənzər daimi çıxış hüququ verməyi öhdəsinə götürür.
Şirkət bildirir ki, qiymətləndiricilər iş yerləri, giriş vəsiqələri, korporativ noutbuklar və risklərin qiymətləndirilməsi üzrə daxili komandaların imkanları ilə əsasən müqayisə edilə bilən iş şəraitinə malik olacaqlar. Bununla yanaşı, təhlükəsizliklə bağlı məxfi məlumatlar, hüquqi imtiyazla qorunan məlumatlar və kommersiya sirri təşkil edən informasiyalar üçün məhdud istisnalar nəzərdə tutulmaqla, qiymətləndiricilərin hesabatlarını “Anthropic”in redaktə nəzarəti olmadan dərc etməsinə imkan veriləcək.
Planın ikinci mərhələsi demokratik ölkələrdə qabaqcıl İİ hazırlayan şirkətlərin ümumi təhlükəsizlik standartlarının müəyyənləşdirilməsi və texnologiyanın inkişaf tempinə dair mümkün məhdudiyyətlərin koordinasiyası üçün əməkdaşlığa çağırır.
Üçüncü mərhələdə isə ABŞ və digər demokratik hökumətlərin avtoritar dövlətlərlə İİ sahəsində təhlükəsizlik məsələləri üzrə koordinasiya yaratmağa çalışması təklif olunur.
Amodei vurğulayıb ki, inkişaf tempinin tənzimlənməsi İİ modellərinin təliminin və texnoloji tərəqqinin tamamilə dayandırılması anlamına gəlmir. Məqsəd şirkətlərə hazırladıqları modellərin uyğunlaşdırılması və təhlükəsizliyinin təmin olunması üçün kifayət qədər vaxt qazandırmaqdır.
Onun sözlərinə görə, son uyğunsuzluq hallarının bir hissəsi möhkəmləndirmə yolu ilə təlim prosesində istifadə olunan mühitlərin yetərincə yoxlanılmaması ilə əlaqəlidir. Amodei etiraf edib ki, “Anthropic” və onun tərəfdaşları bu istiqamətdə kifayət qədər səy göstərsələr də, proses lazımi səviyyədə həyata keçirilməyib.
“Anthropic” rəhbəri ABŞ-ın İİ sahəsində mövqeyini qoruması üçün daha sərt tədbirlərin görülməsinə də çağırıb. O hesab edir ki, Vaşinqton Çinə güclü İİ çipləri və yarımkeçirici istehsalı avadanlıqlarının satışına yol verməməli, çip qaçaqmalçılığı və icazəsiz paylanma ilə mübarizəni gücləndirməli, eyni zamanda İİ şirkətlərində model çəkilərinin oğurlanmasının qarşısını almaq üçün kibertəhlükəsizlik tədbirlərini sərtləşdirməlidir.
MONETAR.AZ
