Anthropic закрыла доступ к двум своим самым мощным моделям спустя несколько дней после их выхода. 12 июня компания получила директиву правительства США, предписывающую прекратить доступ к Claude Fable 5 и Claude Mythos 5 для любого иностранного гражданина — внутри страны и за её пределами, включая собственных сотрудников-иностранцев. Выполнить такое требование, не отключив модели полностью, технически невозможно, поэтому обе системы стали недоступны всем пользователям.
Речь идёт о моделях класса Mythos, которые Anthropic представила несколькими днями ранее. Fable 5 вышла в публичный доступ через API и подписку с набором защитных классификаторов; полная Claude Mythos 5 с частично снятыми ограничениями оставалась у проверенных партнёров по кибербезопасности. Теперь недоступны обе, тогда как остальные модели Anthropic, включая линейку Opus, по словам компании, продолжают работать без изменений. Между публичным запуском Fable 5 и приказом об отключении прошло меньше недели — модель сняли с рынка фактически на старте коммерческой эксплуатации.
Что умеет Fable 5 и почему вмешались власти
Внимание регулятора привлекли наступательные кибервозможности движка. По данным закрытого тестирования Mythos Preview, модель зафиксировала сотни сбоев в системно значимом ПО — от FFmpeg и ядра Linux до браузеров и криптографических библиотек — и добилась полного перехвата потока управления на отдельных полностью пропатченных целях. На Firefox 147 она сгенерировала рабочий эксплойт 181 раз против двух удачных попыток у Opus 4.6, а среди подтверждённых результатов — обход рандомизации адресного пространства ядра Linux. Программа была масштабной: около полусотни партнёров с помощью Mythos Preview нашли более десяти тысяч уязвимостей высокой и критической степени, причём часть из них относится к инфраструктурному слою, на котором держатся серверы и сети. Именно из-за асимметрии между поиском и эксплуатацией дефектов полную Mythos не отдали в открытый рынок.
Поводом для директивы стала демонстрация обхода защиты. По описанию Anthropic, власти показали «узкий, неуниверсальный» джейлбрейк: модель просили прочитать конкретную кодовую базу и указать в ней программные уязвимости. Компания утверждает, что найденные дефекты относительно просты и что другие общедоступные модели обнаруживают их без всякого обхода ограничений. Anthropic также отмечает, что доказательства носили устный характер, а не были оформлены как воспроизводимый технический отчёт, и что претензия сводится к одной частной технике, а не к системному провалу защиты — на партнёрском тестировании Fable 5 не выдала ни одного успешного вредоносного ответа в однотактовом режиме. По логике компании, отзыв всей модели из-за такого основания несоразмерен найденному риску.
Экспортный механизм: запрет для иностранцев означает отключение для всех
Директиву выпустило Министерство торговли США во главе с Говардом Латником; приказ поступил в пятницу, 12 июня, в 17:21 по восточному времени. Юридически это инструмент экспортного контроля: он запрещает предоставлять доступ к моделям любому иностранному гражданину, где бы тот ни находился. Поскольку Fable 5 и Mythos 5 работают как облачный сервис без сегментации пользователей по гражданству, единственный способ соблюсти запрет — выключить их для всех сразу.
Показателен и сам способ применения экспортного контроля. Обычно этот режим регулирует вывоз физических товаров и передачу технологий — чипов, весов моделей, оборудования. Здесь же ограничение наложено на доступ к работающему сервису вывода (inference): запрет распространяется не на сами веса, а на возможность отправлять модели запросы. Под него попадают даже сотрудники Anthropic, не имеющие американского гражданства, что осложняет компании внутреннюю разработку и дообучение этих моделей до снятия предписания.
Anthropic заявила, что подчиняется законному предписанию и убирает доступ немедленно. При этом компания подчёркивает, что само действие не отвечает её принципам государственного надзора, которые она описывает как прозрачный, справедливый, ясный и опирающийся на технические факты. Скорость и форма приказа, по версии Anthropic, ни одному из этих требований не соответствуют.
Почему решение бьёт по самой Anthropic
Тревогу по поводу кибервозможностей Fable 5 первой подняла сама компания. При запуске она предупреждала, что способности модели в кибербезопасности при злоупотреблении могут нанести серьёзный ущерб, и встроила в публичную версию классификаторы-предохранители. Эти же открытые предупреждения дали властям фактуру для вмешательства — собственная политика прозрачности обернулась против разработчика. Для отрасли это неудобный сигнал: чем подробнее компания раскрывает опасные способности своих систем, тем выше шанс, что эти же данные станут основанием для запрета.
Anthropic считает реакцию несоразмерной. «Мы не согласны с тем, что обнаружение узкого потенциального джейлбрейка должно служить причиной для отзыва коммерческой модели, развёрнутой для сотен миллионов людей», — говорится в заявлении компании. Anthropic добавляет, что применённый стандарт, если распространить его на всю отрасль, фактически остановил бы вывод любых новых моделей у всех ведущих разработчиков. Релиз и без того вызвал резкую реакцию части аудитории из-за самой идеи публиковать модель с такими наступательными навыками.
Для индустрии прецедент значим независимо от исхода: правительство США впервые применило экспортный контроль, чтобы оперативно отозвать уже работающую коммерческую языковую модель из-за единичной уязвимости, а не на этапе обучения или сертификации. Anthropic называет произошедшее недопониманием и обещает восстановить доступ как можно скорее, но сроков и условий снятия запрета не приводит. Конкуренты по фронтиру наблюдают за развязкой не менее внимательно: исход определит, придётся ли им закладывать риск внезапного отзыва в собственные планы релизов. Открытым остаётся вопрос, станет ли разовая директива единичным эпизодом или образцом, по которому власти будут реагировать на следующие фронтирные модели.