⚡️⚡️⚡️ Власти США заставили Anthropic отключить две свои самые мощные модели - Fable 5 и Mythos 5.
12 июня Anthropic получил от правительства директиву в рамках экспортного контроля: закрыть доступ к Fable 5 и Mythos 5 для всех иностранных граждан - и внутри США, и за их пределами, включая собственных сотрудников-иностранцев. Выполнить это иначе как полным отключением моделей для всех клиентов технически невозможно, так что Anthropic просто вырубил обе.
Причина - национальная безопасность. Правительство узнало про способ обойти защиту Fable 5 ("jailbreak"). Anthropic посмотрел на демонстрацию и говорит, что весь "взлом" сводился к тому, чтобы попросить модель прочитать кодовую базу и починить найденные уязвимости - ровно то, что умеют и другие модели и чем каждый день пользуются специалисты по кибербезопасности.
Контекст: Fable 5 вышла публично всего тремя днями раньше, 9 июня - первая общедоступная модель из семейства Mythos, которое до этого напугало индустрию сверхчеловеческой способностью находить и эксплуатировать уязвимости. Чтобы выпустить ее в массы, Anthropic добавил предохранители: запросы из высокорисковых тем (кибербез, биология) молча перенаправляются на старую Opus 4.8.
Anthropic подчиняется директиве, но открыто не согласен: отзывать коммерческую модель, которой пользуются сотни миллионов людей, из-за одной узкой уязвимости - чрезмерная мера. Доступ к остальным моделям компании не тронут.
https://www.anthropic.com/news/fable-mythos-access
#anthropic@rvnikita_blog #claude@rvnikita_blog #ai@rvnikita_blog #safety@rvnikita_blog #cybersecurity@rvnikita_blog
