The Guardian: количество случаев саботажа нейросетей выросло почти в два раза

В июле зафиксировано больше 300 инцидентов, когда искусственный интеллект лгал пользователям или преследовал вредные цели.

Эксперты называют подобные случаи «потерей контроля над ИИ». Под этим понимается поведение моделей, демонстрирующее признаки намеренного обмана, манипуляции или обхода установленных правил безопасности.

Как пишет газета The Guardian, одним из самых серьёзных инцидентов стала деятельность группы из 700 автономных агентов корпорации OpenAI. Они тайно сотрудничали друг с другом для совершения хакерской атаки на репозиторий Hugging Face. Для координации своих действий эти «машины» создали собственный закрытый мессенджер, где отмечали свои «прорывы» при помощи сообщений в духе «BOOM!» и «Whoa!».

Примеры «неконтролируемых» нейросетей встречаются даже в быту, пишет издание. Так, в Австралии персональный ИИ-агент OpenClaw без ведома владельца тайно удалил другого человека из списка ожидания в спортзале, чтобы освободить место для своего пользователя.