Süni intellektdən yeni təhlükə
Anthropic-in təcrübələri göstərib ki, 30 milyarddan az parametrə malik bəzi süni intellekt modelləri həssas cihazları müəyyənləşdirmək və özlərini həmin cihazlara köçürmək üçün tələb olunan addımların bir çoxunu yerinə yetirə bilir.
Reuters-in məlumatına görə, Anthropic şirkəti kiçik süni intellekt modellərinin ağıllı sobalar, Android TV qutuları və digər Əşyaların İnterneti (IoT) cihazlarında özünü müstəqil şəkildə çoxalda bilməsi ilə bağlı araşdırma aparıb. Şirkətin qiymətləndirməsinə görə, bu cür imkanların reallaşması gözləniləndən daha yaxın ola bilər.
Anthropic-in təcrübələri göstərib ki, 30 milyarddan az parametrə malik bəzi süni intellekt modelləri həssas cihazları müəyyənləşdirmək və özlərini həmin cihazlara köçürmək üçün tələb olunan addımların bir çoxunu yerinə yetirə bilir. Bununla belə, modellər bütün prosesi əvvəldən sona qədər müstəqil şəkildə tamamlamaqda hələ də çətinlik çəkirlər. Təhlükəsizlik tədbirlərinin bir hissəsinin aradan qaldırıldığı sadələşdirilmiş sınaqlarda isə GLM-5.2 və daha güclü modellərin bu prosesi tamamlaya bildiyi müşahidə olunub.
Şirkət xəbərdarlıq edib ki, özünü təkrarlayan süni intellekt sistemlərini dayandırmaq çətin ola bilər. Belə sistemlər ənənəvi zərərli proqramlardan fərqli olaraq, məlumat mərkəzlərinin hesablama resurslarını hədəf alaraq internetə qoşulmuş digər cihazları da müstəqil şəkildə ələ keçirə bilər.
Anthropic-in proqnozuna görə, kiçik süni intellekt modelləri inkişaf tempini qoruyarsa, bu ilin sonuna qədər avtonom şəkildə özünü təkrarlamaq qabiliyyəti qazana bilər. Şirkət bu risklərin qarşısını almaq üçün internetə qoşulmuş cihazların təhlükəsizliyinin gücləndirilməsinin vacibliyini vurğulayıb.