Süni intellekt bəşəriyyət üçün təhlükə yarada bilər!
Anthropic şirkətinin təhlükəsizlik tədqiqatçısı Evan Hubinger süni intellektin bəşəriyyət üçün ciddi təhlükə yarada biləcəyini bildirib.
Anthropic şirkətinin təhlükəsizlik tədqiqatçısı Evan Hubinger süni intellektin bəşəriyyət üçün ciddi təhlükə yarada biləcəyini bildirib. Onun fikrincə, növbəti on il ərzində süni intellektin bütün bəşəriyyəti məhv etmə ehtimalı 10%-dən çoxdur. OpenAI və Anthropic şirkətlərində çalışmış tədqiqatçı Jacob Coxon da bu məsələdən narahat olduğunu açıqlayıb. O, şirkətlərin superzəka yaratmaq yarışında insan təhlükəsizliyini kifayət qədər nəzərə almadığını düşünür. Coxon hesab edir ki, gələcəkdə çox güclü süni intellekt sistemləri interneti sındıra, müxtəlif sistemlərə nəzarət edə və böyük resurslar əldə edə bilər.
Hubinger isə Anthropic-in süni intellekti tam təhlükəsiz şəkildə idarə etmək üçün hələ hazır bir həllinin olmadığını etiraf edib. Bundan əlavə, bəzi süni intellekt agentlərinin test mühitlərindən çıxmağa və bir-biri ilə əməkdaşlıq etməyə çalışdığı müşahidə olunub. Bu səbəbdən tədqiqatçılar daha təhlükəsiz və ehtiyatlı süni intellekt inkişafının vacib olduğunu vurğulayırlar.