OpenRouter: почему «просто прослойка» оказалась рынком токенов на триллионы

Что такое OpenRouter, многие до сих пор объясняют одной фразой: «прокси к чужим API». В свежем выпуске Latent Space основатель сервиса Алекс Аталла и его инвестор Анджни Мидха разбирают, почему эта формулировка описывает продукт неверно. Заодно они делают ставку: токены становятся новой единицей стоимости в интернете, и вокруг них придётся строить целую инфраструктуру.

Что такое OpenRouter: маркетплейс LLM моделей, а не обёртка

Аталла описывает OpenRouter как смесь обычного API и маркетплейса. Он вспоминает свою старую идею «Pub/Sub как продукт». Товар на маркетплейсе — это топик, на который подписывается покупатель. Человек покупает дискретно и ситуативно. Агент или потребитель инференса ведёт себя иначе: он непрерывно гоняет запросы и постоянно меняет модели, которые использует. Отсюда слаги моделей, автороутер и набор продуктов, на которые можно «подписаться» ради постоянной ценности.

Возражение «это просто обёртка» Мидха называет наивным. Тот, кто так говорит, не запускал подобное в продакшен. Поднять даже три API в боевом режиме, в день релиза модели, в масштабе сообщества — это много инженерной работы. По его словам, у OpenRouter это получается снова и снова, а не один раз.

Дистрибуция моделей для разработчиков: слепое пятно лабораторий

Самая интересная часть разговора — взгляд Мидхи изнутри лабораторий. Он был одним из ранних инвесторов Anthropic и вкладывался в Mistral, Black Forest Labs и Luma. Исследователи, говорит он, мыслят возможностями модели, а не тем, что нужно разработчику после появления чекпоинта. Управление ключами, доступ, версии, эндпоинты — для них «техническая рутина».

Примеры Мидха приводит конкретные:

  • первый чекпоинт Claude был готов примерно за год до внешнего релиза, а плана по привлечению разработчиков не было: в анонсе Claude 1 всего три примера использования API;
  • Mistral выпустил первый чекпоинт как веса по торренту, по magnet-ссылке, без API;
  • у Google, в отличие от них, новая контрольная точка от DeepMind сразу уходит во все сервисы. Это «невидимое» преимущество дистрибуции, которого нет у независимых лабораторий.

OpenRouter закрывает этот разрыв: по словам собеседников, он может привести к новой модели тысячи разработчиков в первый же день. Это единый API для языковых моделей плюс нейтральная витрина, которая «освещает углы тёмной комнаты», где модели остаются чёрными ящиками даже в открытых весах.

Фокус против «владеть всем»

Отдельный блок посвящён тому, почему OpenRouter не превратился в Arena (бывший LMSYS). Аталла объясняет: одна компания собирает и продаёт данные, другая по определению не может. OpenRouter не видит промпты и ответы, если организация сама не дала согласие, и не монетизирует данные. Мидха добавляет, что у Arena самый требовательный клиент — исследователь на этапе пост-тренинга, а у OpenRouter — разработчик, который делает приложение.

На примере Anthropic он показывает, чего стоит фокус. Миссия «ответственная коммерциализация ИИ-помощника для программирования» была в основополагающем меморандуме с первого дня. Компания сознательно не гналась за модальностями вроде изображений и видео, хотя они набирали обороты. Для аудитории про Claude Code это показательный факт: продукт, с которого мы начинаем день, вырос из стратегического выбора, а не из случайности.

Рынок токенов и мошенничество: следующая проблема

Выпуск открывается прогнозом, который стоит держать в голове. Мидха проводит аналогию с онлайн-платежами: они зародились в 80–90-е, за десять лет выросли до триллиона долларов, и понадобились совершенно новые решения против мошенничества. С токенами, по его оценке, мы сейчас примерно в той же точке. За пять лет он ждёт около 5 триллионов долларов токеномики, за десять — 10 триллионов потока токенов. Чем ценнее токены, тем больше желающих их украсть. Аталла добавляет, что заблокированный объём за прошлый месяц вырос в десять раз, а схемы мошенничества «становятся довольно разнообразными».

Стоит помнить, что это прогнозы двух заинтересованных участников рынка, а не измерения. Но направление логично: если агенты постоянно тратят токены за нас, ключи и лимиты становятся ценным активом, а их защита — отдельной инженерной задачей.

Вывод

Для разработчика главный практический вывод простой. Привязка к одной модели — это уже не техническое ограничение, а решение, которое можно пересмотреть. Слой маршрутизации вроде OpenRouter даёт выбор при отказе, при цене и при появлении нового чекпоинта. А если верить прогнозам собеседников, вопросы безопасности токенов скоро станут такой же частью повседневной работы, как когда-то защита платежей.

Latent Space — подкаст для AI-инженеров. Источник: видео «The $10 Trillion Token Economy — Alex Atallah, OpenRouter & Anjney Midha, AMP».

Комментарии

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *