Anthropic süni intellektin bioloji riskləri barədə xəbərdarlıq edib!
Anthropic şirkəti süni intellekt modellərindən bioloji silahların hazırlanmasını dəstəkləmək üçün istifadə hallarının aşkarlandığını açıqlayıb
Anthropic şirkəti süni intellekt modellərindən bioloji silahların hazırlanmasını dəstəkləmək üçün istifadə hallarının aşkarlandığını açıqlayıb. Şirkətin yayımladığı hesabatda süni intellektin sui-istifadəsi ilə bağlı əsas risklərdən birinin bioloji sahə olduğu bildirilib.
Hesabatda bəzi istifadəçilərin Claude modelindən təhlükəli bioloji fəaliyyətlərlə bağlı istifadə etməyə çalışdığı nümunələr göstərilib. Belə hallardan birində bir tədqiqatçı quş qripinin məməlilərə uyğunlaşdırılması ilə bağlı təcrübələrin planlaşdırılmasında Claude-dan istifadə etməyə çalışıb. Digər nümunədə isə dövlət tərəfindən maliyyələşdirilən tədqiqatçının kompüter vasitəsilə toksinlər yaratmaq üçün süni intellektdən istifadə etdiyi bildirilib. Anthropic bu halları müəyyən etdikdən sonra müvafiq hesabları bloklayıb və oxşar fəaliyyətlərin qarşısını almaq üçün əlavə tədbirlər görüb. Şirkət qeyd edib ki, bu nümunələr süni intellektin bioloji risklərinin daha yaxşı anlaşılması və qarşısının alınması üçün müzakirələrin aparılmasına kömək edə bilər.