Песочницы для ИИ-агентов: почему вычисления выдают «прямоугольниками», а будущее за мгновенными снапшотами

Разговор Эрика Бернхардссона, основателя Modal, с Latent Space формально о железе и деньгах. Но самое практичное для тех, кто работает с Claude Code и похожими инструментами, лежит в середине: песочницы для ИИ-агентов из «побочного эксперимента на два дня» превратились в треть бизнеса компании. Разберём, что за этим стоит.

От serverless-функций к песочницам

Modal начинался как способ запускать код в облаке без возни с инфраструктурой. Первые деньги принёс не ChatGPT, а Stable Diffusion: за три месяца выручка выросла со $100 до $30 000 в месяц, причём почти всё давал один клиент. Сегодня Modal Functions — это около двух третей выручки, в основном инференс.

Тезис Бернхардссона: у каждой технологической эры свои инструменты. Kubernetes и Docker придуманы для ровной нагрузки на дешёвых CPU. Дорогие GPU, огромные модели и рваный спрос требуют другого: собственной файловой системы, снапшотов CPU и GPU, своего autoscaler и планировщика. Обёртка над старым стеком тут не работает.

Modal Sandboxes: продукт, который чуть не закрыли

Песочницы запустили в 2023 году, когда заметили, что клиенты просят LLM писать код, а запускать его негде. Прототип сделали за пару дней, но роста почти не было, и команда обсуждала, не закрыть ли продукт. Перелом пришёл, когда модели научились генерировать целые приложения: пошли vibe coding-сервисы, фоновые агенты (Ramp), обучение с подкреплением в нео-лабораториях. Сейчас песочницы дают около трети выручки.

Изоляция сначала строилась на gVisor, теперь есть и полноценные виртуальные машины: для части задач нужна полная совместимость с Linux. Интеграция с Anthropic устроена по схеме «принеси свою песочницу» для managed agents: Anthropic выгодна любая экосистема, лишь бы инференс оставался за ней.

Снапшоты и форки: где выигрыш

Сейчас многие просто переносят «dev-машину» в облако и отдают агенту. Бернхардссон считает это тупиковой моделью. Долгоживущий агент больше похож на durable execution workflow: он просыпается, поднимает песочницу за ~100 мс, выполняет пару команд, делает снапшот песочницы и засыпает. Чем дешевле этот цикл, тем эффективнее вычисления.

Показательный пример — CI. Если разбить тесты на шарды, каждый платит за установку зависимостей и подготовку окружения, и закон Амдала съедает выгоду. Если окружение подготовить один раз, снять снапшот и клонировать на тысячу песочниц, можно гнать каждый тест отдельно. Для Claude Code та же логика означает ветвление: вместо линейной сессии — сотни параллельных агентов, стартующих из одной точки.

Аренда GPU и «прямоугольные» контракты

Название выпуска про прямоугольники: так Бернхардссон называет классическую аренду «столько-то GPU на три года». Modal сознательно не хочет превращаться в нео-облако с такой моделью и продаёт эластичность: агрегируя спрос тысяч клиентов, платформа сглаживает пики. Но обратная сторона в том, что мощности всё равно приходится закупать иначе, чем раньше. Раньше хватало спота у гиперскейлеров, теперь Modal работает почти с 25 облаками, заключает трёхлетние контракты с предоплатой и держит отдел закупок.

Он осторожен в оценке рынка. Рост цен выгоден тем, кто уже зафиксировал ставки, но настоящий риск — обвал цен, ведь железо в долгосрочной перспективе дешевеет. Корнер рынка по образцу братьев Хант с серебром он считает плохой идеей. Прогноз на 2027 год — наконец-то год не-Nvidia ускорителей.

Что из этого следует

Во-первых, ценность для агентов создаёт не сырая мощность, а низкое трение: быстрый старт, остановка, клонирование. Во-вторых, безопасность песочниц нужно делать строгой по умолчанию: в истории с Hugging Face взломали приложение, размещённое на Modal, а не саму платформу, но выводы команда сделала, как AWS когда-то с публичными S3-бакетами. Наконец, сами агенты оказались хорошими «взломщиками»: Modal уже прогоняет их по принципу «попробуй сбежать из песочницы».