Власти США приказали американской компании Anthropic — разработчику чат-бота Claude — закрыть доступ к двум новейшим и самым мощным нейросетям для всех иностранцев. Чтобы выполнить требование, компания отключила модели Fable 5 и Mythos 5 вообще для всех пользователей в мире. Об этом Anthropic сообщила в своем блоге, на ситуацию обратили внимание NBC News, CNBC и другие СМИ.
Fable 5 и Mythos 5 компания представила всего за несколько дней до этого — 9 июня. Это были самые мощные модели, которые Anthropic когда-либо выпускала в открытый доступ: по ее данным, они показывают лучшие в мире результаты почти во всех тестах — от программирования до научных исследований.
Особое внимание привлекли способности нейросетей в области кибербезопасности: компания утверждает, что Mythos 5 умеет искать и использовать уязвимости в программном коде лучше любой другой существующей модели. Именно из-за этого, как писал CNBC, предыдущая версия — Mythos Preview — еще весной привлекла внимание Уолл-стрит и американских чиновников.
Обратная сторона такой мощности — риски: без защитных механизмов, предупреждала сама Anthropic, подобные возможности могут оказаться направлены на кибератаки или, например, на создание опасных биологических агентов — вирусов, бактерий и т.д.
Письмо с требованием от властей США компания получила 12 июня. Конкретные детали угрозы национальной безопасности в нем названы не были. По мнению Anthropic, власти решили, что нашелся способ обойти защиту Fable 5 — так называемый джейлбрейк (метод, который заставляет нейросеть выдавать заблокированную информацию).
Владельцы нейросети с такой оценкой не согласны. Они настаивают, что речь идет об узком и не универсальном способе обхода: он якобы сводится к просьбе проверить конкретный программный код на ошибки. Компания обращает внимание, что схожие возможности дают и другие общедоступные нейросети — например, GPT-5.5 от OpenAI, но на нее ограничений не налагали. «Мы не согласны с тем, что обнаружение узкого потенциального джейлбрейка должно становиться причиной отзыва коммерческой модели, которой пользуются сотни миллионов людей», — говорится в заявлении.
Власти требовали закрыть доступ к моделям только для иностранцев — как за пределами США, так и внутри страны, включая сотрудников самой Anthropic без американского гражданства. Но единственным способом выполнить требование с таким охватом оказалось закрыть доступ к этим моделям вообще для всех польхователей в мире.
Другие нейросети Claude, включая Opus 4.8, продолжают работать.
Как отмечает NBC News, это, судя по всему, первый случай, когда ведущая ИИ-компания убирает уже работающую и публично доступную нейросеть из-за вмешательства американских властей.