🎙 Провели шестой созвон Lecture Club по Stanford MS&E 435: Economics of the AI Supercycle.
Лекция 6 — Yash Patil (Applied Compute). Тема — как раскрыть внутренние знания компании для AI. Модерировал Андрей (меня в этот раз не было). По общему ощущению — самая спорная лекция курса: несколько участников не смогли вынести из неё применимую мысль, и самое ценное родилось в самом обсуждении.
Несколько мыслей из обсуждения:
• Макс — не хватило конкретики от Applied Compute. Кейсы DoorDash (нормализовать тысячи разношёрстных меню в стандарт) и RAMP Labs прозвучали, но без сравнения с обычным компьютерным зрением — и непонятно, на чём они зарабатывают. Единственный твёрдый вывод: маленькие локальные модели бывают эффективнее больших.
• Василь (корп. AI-платформы) — чёткий разбор: фронтир дорог на масштабе, поэтому для DoorDash с 10K мерчантов/мес Applied делает спец-модели — то же качество дешевле/быстрее. Следующий bottleneck — RL на редкой обратной связи: Cursor улучшается на миллионах accept/reject, а без такого объёма сигналов модели учатся плохо (человеку хватает «так нельзя» один раз).
• Роман (imaging для food-delivery по всему миру) — из практики: свои модели большие LLM всегда догоняли и стирали, «столько денег потерял», перестали. Теперь только edge-кейсы — те 10%, где ни LLM, ни SLM не справляются: workflow + люди вокруг. И open-source фронтир с мая подсыхает.
• Степан (GigaChat) — самый содержательный разбор: pre/post-train; данные теперь всё больше создаёт сама модель (RL-прогоны + judge true/false отбирает удачную траекторию), а не человек. Эвалы (внутренние, в отличие от публичных бенчмарков) = продуктовая стратегия. И harness важен не меньше весов: одна модель на разных обвязках (Codex vs open-source) даёт разный результат.
• Степан (про деньги) — главный разрыв: модели уже хороши, но им не хватает контекста, которым владеет «Джон с 10 годами в компании». Кто научится грузить контекст компании/отрасли в модели и продавать это — заработает. Прогноз: не всемогущий AGI, а сильные спец-модели и харнесы под домены.
• Джин (футуролог) — рыночный циник: весь разговор про AGI — маркетинговый блаф; создатели моделей сами ничего не изобретают, просто копируют чужие решения (OpenCLO/Hermes скопировали мгновенно — им важен хайп и KPI). Тревога: все (включая Маска, судя по докам IPO SpaceX) дообучаются на чужих моделях и одних данных — чем это грозит экспертизе и устойчивости через 3-5 лет?
• Ира (адвокат дьявола) — впервые не смогла записать из лекции ни одной мысли. Ответ группы и стал выводом: «как только предлагают вложиться в свою модель — триггерься, почти никогда не надо»; и тест CEO Shopify — «почему это не может сделать AI?»: если задачу делает обычный пользователь, AI её уже умеет или вот-вот сможет.
📺 Запись созвона:
https://youtu.be/E8torsNePUU
