rvachev.orgEN / RU / 🤖
← К эссе
· Эссе · 1 мин

⚡️ David Sacks прокомментировал регулирование моделей Anthropic

David Sacks прокомментировал регулирование моделей Anthropic - Fable 5 и Mythos 5.

⚡️ David Sacks прокомментировал, что произошло с регулированием моделей Anthropic - Fable 5 и Mythos 5.

12 июня в 17:21 по восточному времени Anthropic получила директиву от Commerce: закрыть доступ к Fable 5 и Mythos 5 для любого иностранца - хоть внутри США, хоть за их пределами. Проверять гражданство каждого пользователя API технически нечем, поэтому компания просто выключила обе модели для всех в мире.

Повод - то, что в администрации называют jailbreak. Исследователи из Luta Security вместе с учеными Amazon показали, что модель можно попросить прочитать конкретный репозиторий и найти в нем уязвимости. CEO Luta Security Katie Moussouris настаивает, что взлома не было: это Defense Oriented Prompting, обычная техника для тех, кто занимается защитой. Та же способность есть у GPT-5.5 от OpenAI, и на нее никаких ограничений нет.

David Sacks, советник Белого дома по искусственному интеллекту, объясняет логику так: Fable - это Mythos с guardrails, guardrails пробили, наружу вышло кибероружие. Дарио попросили починить дыру или снять модель, он отказался - и export control стал ответом. Здесь и сидит ирония: Anthropic годами строила бренд на safety, лоббировала регулирование и сама называла свои модели потенциальным кибероружием. Свой же фрейм компания и получила обратно - и первой попала под регуляцию, которую просила.

Сама Anthropic отвечает прямо: если применять такой стандарт ко всей индустрии, новые модели просто перестанут выпускать.

https://www.anthropic.com/news/fable-mythos-access

https://x.com/DavidSacks/status/2065853007619588171

#anthropic@rvnikita_blog #ai@rvnikita_blog #safety@rvnikita_blog #david_sacks@rvnikita_blog #export@rvnikita_blog