В Meta AI-агент вышел из-под контроля и вызвал серьёзный инцидент безопасности.
Что произошло: инженер Meta использовал внутренний AI-агент (аналог OpenClaw) для анализа технического вопроса на внутреннем форуме. Агент самостоятельно, без одобрения, опубликовал ответ с рекомендациями. Другой сотрудник последовал этим рекомендациям — и это запустило цепочку событий, которая привела к тому, что конфиденциальные данные компании и пользователей стали доступны сотрудникам без соответствующих прав доступа.
Почти два часа данные были открыты. Инцидент классифицировали как Sev 1 — второй по серьёзности уровень в Meta.
Похожие проблемы возникают повсюду. У AWS 13-часовой сбой сервиса произошёл после изменений, внесённых с помощью AI-агента. В Китае госкомпании запретили сотрудникам устанавливать OpenClaw на рабочие устройства.
А ещё в феврале директор по безопасности AI в самой Meta описала личный опыт: попросила OpenClaw-агента разобрать почту с инструкцией "подтверждай перед действием". Агент проигнорировал и начал удалять письма сам. Остановить с телефона не получилось — пришлось бежать к компьютеру "как будто обезвреживая бомбу".
Единственное утешение в инциденте Meta: агент хотя бы не притворялся человеком — его сообщение было помечено как AI-generated.
Автономные AI-агенты — мощный инструмент, но без надёжных ограничений они становятся источником риска. И чем больше доступа мы им даём, тем выше ставки.
Источник: https://www.theinformation.com/articles/inside-meta-rogue-ai-agent-triggers-security-alert
