🎙 Провели пятый созвон Lecture Club по Stanford MS&E 435: Economics of the AI Supercycle.
Лекция 5 — Sachin Katti (OpenAI). Тема — AI-инфраструктура на примере frontier-лаборатории: inference vs training, дата-центры, чипы, память, энергия. Вёл созвон Борис. По общему ощущению — снова базовая лекция (как и №4), но обсуждение вышло одним из лучших.
Несколько мыслей из обсуждения:
• Борис (lead) — 3 тейка экс-CTO Intel: inference дорастёт до ~70% компьюта (и идёт не только на ответы, но на синтетику/пост-тренинг/RL); пока выгоднее гигантские дата-центры (экономия масштаба + нехватка электриков); рекурсия — AI сам проектирует чипы (цикл ~3 года).
• Никита (я) — латентность решает: 40 мс уже бьют по engagement в ChatGPT. Но я живу в Claude Code, где задержки в минуты, гоняю 6-8 задач параллельно и платил бы за скорость. Память вокруг GPU примитивна → повторится эволюция CPU-кэшей. Копать глубже в стек; AI-обёртки съест следующий апдейт модели.
• Ира — контр: Web Accessibility — это обёртка над AI, и растёт она из-за закона (США ~5 лет, ЕС с прошлого года). Деньги текут туда, где регуляция, а не где глубокий стек.
• Виктор — чипы = главный bottleneck, всё монополизировано (NVIDIA + фаб у TSMC). Крипто-аналогия: на майнинг-чипах выросли мелкие компании — повторится ли в AI? Ценность утекает вниз к инфраструктуре.
• Григорий — теория игр: независимым лабам (их ~4) выгодно негласно замедлить гонку → меньше фич, все «выдыхают». Энерголимит этому помогает.
• Степан — провокация: энергия не bottleneck, чипы (США скупила всё). Верх пирамиды Дженсена — не «приложения», а агенты-сотрудники; главное в них — контекст (тот самый «Джон, который всё знает»). Платишь за результат, как за готовый дом, а не за стройматериалы.
• Михаил — лекции стали нерелевантны практике (гигаватты, миллиарды токенов). Пирог не перевернётся, а добавит слой (агенты за зарплату). По прикидкам: чтобы заменить всех белых воротничков, нужна выручка ~$1T (~1% ВВП США) и всего +3% к выработке электричества. Реальный bottleneck — решение менеджеров увольнять: эффект последней мили.
• Марс — AI заставит пересмотреть даже консервативную энергетику; ДЦ проектируют так, чтобы запуск тысяч GPU не давал скачка нагрузки на сеть. Логичное продолжение — AI начнёт проектировать инфраструктуру под себя.
• Никита (закрытие) — увольнять будут медленно (тактика Amazon: не нанимать + автоматизировать + создавать отток). Сквозной вывод курса: каждый лектор упирается в железо/память/энергию → bottleneck в инфраструктуре. Разработчики стали менеджерами агентов; в компаниях FOMO сверху + саботаж снизу.
📺 Запись созвона:
https://youtu.be/ixXB3KGDZJU
