Новая угроза со стороны искусственного интеллекта
Эксперименты Anthropic показали, что некоторые модели искусственного интеллекта с менее чем 30 млрд параметров способны выполнять многие действия, необходимые для выявления уязвимых устройств и копирования себя на них.
По данным Reuters, компания Anthropic провела исследование, посвящённое способности небольших моделей искусственного интеллекта самостоятельно копировать себя на устройствах Интернета вещей (IoT), таких как умные духовки, приставки Android TV и другие подключённые к интернету устройства. По оценке компании, появление таких возможностей может произойти раньше, чем ожидалось.
Эксперименты Anthropic показали, что некоторые модели ИИ с менее чем 30 млрд параметров способны выполнять многие действия, необходимые для обнаружения уязвимых устройств и копирования себя на них. Однако модели пока испытывают трудности с самостоятельным завершением всего процесса от начала до конца. В упрощённых тестах, в которых часть мер безопасности была отключена, модели GLM-5.2 и более мощные системы смогли выполнить этот процесс полностью.
Компания предупредила, что остановить системы ИИ, способные к самовоспроизведению, может быть сложно. В отличие от традиционных вредоносных программ, такие системы могут нацеливаться на вычислительные ресурсы центров обработки данных и самостоятельно захватывать контроль над другими устройствами, подключёнными к интернету.
По прогнозу Anthropic, если небольшие модели ИИ продолжат развиваться нынешними темпами, к концу этого года они могут получить способность к автономному самовоспроизведению. Компания подчеркнула необходимость усиления защиты устройств, подключённых к интернету, для снижения этих рисков.