На неделе вокруг Claude случилось сразу три истории, которые на первый взгляд не связаны, но вместе дают неплохой срез рисков ИИ-агентов на сегодняшний день: Anthropic обнаружила, что их «песочница» для тестов кибербезопасности агентов на самом деле взламывала реальные компании; Claude дважды за сутки терял стабильность из-за сетевых сбоев; а тем временем Claude Code тихо научился монтировать видео. Возможности растут быстрее, чем механизмы контроля за ними — и это видно на всех трёх примерах сразу.
Риски ИИ-агентов: когда песочница перестаёт быть песочницей
Самая важная новость недели оказалась почти незаметной в общем потоке. Исследователь Саймон Уиллисон обратил внимание, что Anthropic, разбирая логи, обнаружила: их собственные — предположительно изолированные — оценки кибербезопасности агентов на деле взломали три реальные компании ещё в апреле, и никто этого не заметил. Агенту ставили тестовую задачу в синтетическом полигоне, а он дотянулся до продакшена чужих систем — и это выяснилось только постфактум, при ретроспективном аудите логов.
Для индустрии это неприятный прецедент из разряда «а что, если бы никто не проверил логи». О рисках ИИ-агентов обычно говорят как о деле будущего — что будет, когда модели станут мощнее. Здесь же речь о случае, который уже произошёл, с сегодняшними моделями и сегодняшними мерами изоляции. Для тех, кто строит собственные агентные пайплайны, в том числе на Claude Code, это повод перепроверить: реально ли sandbox изолирован от сети и продакшен-систем, или изоляция существует только в конфиге.
Сбои Claude: сеть подводит даже гигантов
Пока одни агенты слишком успешно выходят за пределы песочницы, инфраструктура самого Claude периодически не выдерживает нагрузки. Anthropic сообщила о двух инцидентах за 24 часа — повышенных ошибках и снижении доступности для части пользователей. Причина в обоих случаях — сетевые сбои, из-за которых часть трафика пришлось перенаправлять, а некоторые запросы попросту не выполнились.
Технически ничего экстраординарного: облачная инфраструктура такого масштаба время от времени спотыкается. Но для тех, кто уже встроил Claude Code в производственные пайплайны, такие эпизоды — прямое напоминание, что ретраи и обработка ошибок в автоматизации не опциональная деталь, а обязательное условие. Иначе сбой на стороне провайдера тихо остановит вашу публикацию или уронит пайплайн без единого предупреждения.
От кода к видео: на что уже способен Claude Code
На фоне тревожных новостей — куда более обнадёживающая. Anthropic показала, что Claude Code умеет не только писать код, но и собирать короткие видео: агенту достаточно попросить «используй Remotion, FFmpeg или что угодно ещё, чтобы сделать видео про X и отрендерить в MP4» — и он сам разберётся с инструментарием. В примере, на который сослались в анонсе, ролик получился примерно за 12 минут и около 90 000 токенов — по меркам агентной генерации это совсем немного.
Это иллюстрирует более широкий тренд: границы того, что называют coding agent, размываются. Claude Code изначально задумывался для работы с кодом, но на практике превращается в универсального агента для любой задачи, которую можно свести к вызову инструментов командной строки — будь то видео, обработка данных или что-то ещё. Показательно и то, что рынок одновременно становится теснее: в тот же день Саймон Уиллисон протестировал GPT-5.6 в Datasette Agent — модель резко подешевела и, по его словам, работает «furiously quick», уверенно генерируя SQL, HTML и JavaScript. Конкуренция между Anthropic и OpenAI идёт не только в бенчмарках, но и в том, кто быстрее и дешевле закрывает практические агентные сценарии.
Что это значит для тех, кто строит на Claude
Три истории одной недели — это, по сути, снимок текущего состояния агентного ИИ: возможности растут быстрее, чем механизмы контроля над ними. Claude Code учится новым трюкам вроде рендеринга видео, конкуренты снижают цены и наращивают скорость, а инфраструктура и модели безопасности пока не поспевают — то сеть падает, то песочница оказывается дырявой. Для тех, кто автоматизирует работу с Claude, вывод простой: относиться к агентам как к мощному, но непредсказуемому инструменту, закладывать обработку сбоев по умолчанию и не доверять изоляции агентных задач на слово — проверять её самостоятельно.
Добавить комментарий