Симон Уиллисон обновил LLM CLI — и запускает видео-модели на своём Mac

Пока крупные лаборатории соревнуются в бенчмарках, часть самой полезной инфраструктуры вокруг LLM делает один человек в свободное время. Simon Willison — автор Datasette и один из самых цитируемых независимых наблюдателей за индустрией — выпустил крупное обновление LLM CLI Simon Willison, консольного инструмента и Python-библиотеки для работы с сотнями разных языковых моделей. В тот же день он опубликовал видео с локальным запуском модели генерации видео MiniMax-H3 на собственном Mac. На первый взгляд это два разных твита, но вместе они хорошо показывают, куда сейчас движется low-level тулинг для LLM.

Зачем нужен ещё один CLI для LLM

Инструмент Willison решает скучную, но реальную проблему: у каждого провайдера — OpenAI, Anthropic, Google, десятков локальных и open-source моделей — свой SDK, свой формат ответа, свои особенности стриминга. LLM CLI даёт единый интерфейс поверх всего этого: одна команда в терминале или один Python-вызов — а какая модель отвечает, решает конфиг, а не переписывание кода. Для разработчика, который тестирует промпты сразу на нескольких моделях или собирает пайплайн вроде того, что стоит за этим блогом, это экономит часы возни с адаптерами.

Что добавилось в этом релизе

Главные пункты обновления — это не косметика:

• Reasoning traces — доступ к промежуточным рассуждениям модели там, где провайдер их отдаёт, а не только к финальному ответу. Это важно для отладки агентных цепочек: видно не результат, а логику, которая к нему привела.
• Поддержка OpenAI Responses API — более новый интерфейс OpenAI, пришедший на смену части возможностей Chat Completions, с server-side инструментами и управлением состоянием на стороне провайдера.
• Server-side tools — вызовы инструментов, которые выполняются на стороне самого провайдера, а не проксируются через клиентский код.
• Более умное логирование — для тех, кто гоняет один и тот же промпт через десяток моделей, это разница между «работает» и «можно понять, что пошло не так».

По сути, LLM CLI повторяет путь, который проходят все зрелые абстракции: сначала унификация базового вызова, потом — унификация новых возможностей провайдеров без разрастания кода под каждую из них.

Локальная видеогенерация на Mac: MiniMax-H3

Второй твит — скорее демонстрация, чем релиз, но не менее показательная. Willison скачал MiniMax-H3, модель генерации видео весом порядка 115 ГБ, и запустил её локально на M5 Pro — без облака, без API-ключей, без счёта за инференс. По его же собственному промпту про «радужного скунса, перепрыгивающего мшистое бревно в супермаркете» модель отработала около 45 минут на один клип.

Почему это интересно, а не просто мем

45 минут ради одного клипа с шуточным промптом — это далеко не production-скорость, и сам факт эксперимента важен не как готовое решение, а как индикатор: модели такого класса, которые ещё год-два назад требовали кластера GPU, сейчас помещаются — пусть медленно и с трудом — в память топового потребительского Mac. Для энтузиастов и небольших студий это означает, что эксперименты с видеогенерацией перестают быть привязаны к облачным квотам и биллингу: можно гонять модель хоть всю ночь на своей машине.

Что это значит на практике

Оба твита — про снижение трения на разных уровнях стека. LLM CLI убирает трение между разработчиком и десятками API одновременно. Локальный запуск MiniMax-H3 убирает трение между тяжёлой моделью и необходимостью арендовать инфраструктуру. Ни то, ни другое не выглядит как прорыв на уровне заголовков, но именно такие инструменты определяют, насколько быстро идея превращается в рабочий прототип — будь то мультимодельный пайплайн для контента или локальный эксперимент с видео на выходных.