ABŞ-da texnologiya şirkətləri süni intellekt alqoritmlərinin təhlükəli davranış nümayiş etdirməsi ehtimalına qarşı xüsusi müdafiə sistemləri hazırlayırlar.

Aztibb.az xəbər verir ki, bu barədə "Axios" portalı məlumat yayıb.

Nəşrin məlumatına görə, zərurət yarandıqda ayrı-ayrı serverləri söndürmək mümkündür. Lakin müasir süni intellekt sistemləri eyni vaxtda çoxsaylı kompüterlərdən və müxtəlif platformalardan istifadə edir. Buna görə də belə sistemləri dayandırmaq üçün yalnız bir üsul kifayət etmir.

“Universal və vahid həll yolu yoxdur”, – deyə nəşrdə bildirilir.

Bu səbəbdən şirkətlər çoxsəviyyəli müdafiə mexanizmləri yaradırlar. Bu sistemlər süni intellekt agentlərinin şübhəli davranışlarını müəyyən etməli, zərurət yarandıqda onların fəaliyyətini dayandırmalı və resurslara çıxışını məhdudlaşdırmalıdır.

OpenAI şirkəti isə ciddi nasazlıqlar baş verəcəyi təqdirdə sistemi avtomatik şəkildə söndürə biləcək tam avtonom mexanizm hazırlamağa çalışdığını açıqlayıb.

Şirkətin məlumatına görə, xüsusi süni intellekt müşahidəçisi agentlərin fəaliyyətini izləyəcək və onların davranışını təhlükəli hesab etdikdə əməkdaşları xəbərdar edəcək. Təhlükə təsdiqləndiyi halda sistem agentin fəaliyyətini 30 dəqiqə ərzində dayandıracaq.