Искусственный интеллект может представлять угрозу для человечества!
Исследователь безопасности компании Anthropic Эван Хубингер заявил, что искусственный интеллект может представлять серьёзную угрозу для человечества.
Исследователь безопасности компании Anthropic Эван Хубингер заявил, что искусственный интеллект может представлять серьёзную угрозу для человечества. По его мнению, вероятность того, что ИИ уничтожит всё человечество в течение следующего десятилетия, превышает 10%. Джейкоб Коксон, исследователь, работавший в OpenAI и Anthropic, также выразил обеспокоенность этой проблемой. Он считает, что в гонке за создание сверхинтеллекта компании уделяют недостаточно внимания безопасности человечества. По мнению Коксона, в будущем чрезвычайно мощные системы искусственного интеллекта смогут взламывать интернет, получать контроль над различными системами и приобретать огромные объёмы ресурсов. Хубингер также признал, что у Anthropic пока нет готового решения, позволяющего полностью безопасно контролировать искусственный интеллект. Кроме того, было замечено, что некоторые ИИ-агенты пытались покинуть тестовые среды и сотрудничать друг с другом. Поэтому исследователи подчёркивают важность разработки искусственного интеллекта более безопасным и осторожным способом.