🛡 OpenAI выпустила GPT-6 Cyber - модель специально для кибербезопасности. И мне кажется, это хороший повод поговорить, куда все движется.
По собственной шкале OpenAI модель получила уровень "Critical" в кибербезопасности, это самый высокий уровень риска в их Preparedness Framework. Доступ к ней есть только у проверенных организаций через программу Daybreak Red. В тестах модель решила 100% задач на исправление уязвимостей, 96% задач на написание эксплойтов и 97% задач по red-teaming. На бенчмарке FrontierCyber с реальным софтом и железом она решила 90 из 288 задач, включая zero-day уязвимости в браузерах, телефонах и облачных базах данных. Полностью защищенные системы взломать пока не получилось.
Кибербезопасность и разработка софта меняются очень быстро. Мне кажется, мы недалеко от момента, когда идея вручную патчить уязвимости будет выглядеть дико. Атакующие агенты будут работать 24/7, и защищаться от них тоже придется агентами. Как минимум такой агент должен уметь сам отключить систему, в которой нашел уязвимость. А я бы пошел дальше: защитные агенты будут постоянно переписывать софт, чтобы он оставался защищенным в реальном времени. То есть код станет живым и будет меняться постоянно.
https://openai.com/index/introducing-gpt-6-cyber/
https://deploymentsafety.openai.com/gpt-6-cyber
#openai@rvnikita_blog #cybersecurity@rvnikita_blog #agents@rvnikita_blog #ai@rvnikita_blog #coding@rvnikita_blog