Anthropic предупредила о биологических рисках искусственного интеллекта!
Anthropic сообщила о случаях использования её моделей искусственного интеллекта для содействия разработке биологического оружия.
Компания Anthropic сообщила о выявленных случаях использования её моделей искусственного интеллекта для содействия разработке биологического оружия. В опубликованном отчёте компания отметила, что биологическое злоупотребление является одним из основных рисков, связанных с использованием ИИ.
В отчёте приведены примеры попыток пользователей использовать модель Claude для опасной биологической деятельности. В одном случае исследователь пытался использовать Claude для планирования экспериментов по адаптации птичьего гриппа к млекопитающим. В другом случае сообщается о государственном исследователе, который использовал ИИ для создания токсинов на компьютере.
После выявления этих случаев Anthropic заблокировала соответствующие аккаунты и приняла дополнительные меры для предотвращения подобных действий в будущем. Компания заявила, что публикация таких примеров поможет лучше понять биологические риски ИИ и разработать более эффективные меры противодействия.