Администрация Трампа vs. Anthropic: «Дикий Запад» в регулировании ИИ

Прошла почти неделя с тех пор, как администрация Трампа направила директиву по экспортному контролю в адрес Anthropic, вынудив одну из ведущих мировых лабораторий искусственного интеллекта отключить от сети свои наиболее продвинутые модели. После нескольких дней переговоров Anthropic и Белый дом по-прежнему не могут прийти к согласию относительно того, как вернуть модели Claude Mythos и Fable 5. Причины разногласий зависят от того, к кому обратиться за комментарием.

По словам источника, близкого к компании, на протяжении всей этой ситуации Anthropic не считает, что нарушила какие-либо конкретные процедуры или правила, установленные администрацией Трампа. Однако Белый дом утверждает, что Anthropic действовала безрассудно, продемонстрировав, что ей нельзя доверять безопасное внедрение передовых технологий.

Эти события показали, что американское регулирование ИИ вступило в эпоху «Дикого Запада». Хотя законов, регулирующих развитие передового ИИ, немного, это не означает, что компании не столкнутся с проблемами со стороны Белого дома Трампа, когда они пересекают негласные границы.

Мнения экспертов и политика Белого дома

«Проблема заключается в том, что Белый дом занимал крайне антирегулирующую позицию, и теперь он столкнулся с реальными возможностями ИИ, о которых люди говорили много лет», – заявил бывший технологический чиновник Белого дома, попросивший сохранить анонимность, чтобы не ставить под угрозу свои профессиональные отношения. «Должна была быть подготовка и систематические политики для решения этой проблемы, управления выгодами и рисками, но вместо этого мы видим поспешный и бессистемный подход, который ставит индустрию ИИ в настоящее затруднительное положение».

Администрация Трампа неоднократно блокировала попытки установить защитные меры для индустрии ИИ, часто заявляя, что эти правила могут препятствовать инновациям в США и привести к отставанию страны от конкурентов, таких как Китай. После возвращения в Белый дом президент Трамп подписал указы, отменившие инициативу времён администрации Байдена по созданию национальной структуры регулирования ИИ, и учредил федеральную целевую группу для оспаривания законов штатов, которые могут быть признаны обременительными.

Хотя издание WIRED и другие СМИ на прошлой неделе обнародовали детали переговоров между Anthropic и Белым домом, суть спора по-прежнему определяется его непрозрачностью. Правительство США ни разу не заявило чётко, в чём именно Anthropic допустила ошибку; единственное, что есть, – это сообщение в соцсети X, описывающее общую ситуацию, от технологического советника Белого дома Дэвида Сэкса.

Последствия действий Белого дома

По иронии судьбы, действия Белого дома, вероятно, воспрепятствовали тем самым инновациям, которые он стремится защитить. Администрация Трампа потребовала от Anthropic запретить всем иностранным гражданам доступ к Mythos и Fable 5, что лишило многих собственных сотрудников лаборатории ИИ доступа к её самым передовым моделям, которые, по словам компании, ускорили её исследования и разработки в последние месяцы. Все клиенты Anthropic также оказались заблокированы, включая Apple, Meta* и значительную часть компаний из списка Fortune 500.

Белый дом, возможно, имел обоснованные причины для беспокойства по поводу моделей Anthropic. Как сообщалось ранее, официальные лица США выразили обеспокоенность, когда в начале этого месяца узнали, что Anthropic поделилась Mythos с SK Telecom, южнокорейским телекоммуникационным гигантом, которого, по их утверждениям, подозревают в связях с Китаем. Отдельно глава Amazon Энди Ясси выразил опасения министру финансов США Скотту Бессенту, что некоторые защитные механизмы Claude Fable 5, более безопасной версии Mythos, могут быть обойдены.

Даже если эти опасения обоснованы, это не означает, что Белый дом справился с ними адекватно. В первом случае Anthropic заявляет, что координировала свои действия с правительством США при развёртывании Mythos, предполагая, что у чиновников мог быть шанс выразить беспокойство по поводу SK Telecom заранее. Anthropic также работала с корейской компанией годами, и это сотрудничество, по-видимому, никогда раньше не приводило к проблемам национальной безопасности. И когда Белый дом выразил обеспокоенность по поводу SK Telecom компании Anthropic, она немедленно отозвала доступ к модели.

Во втором случае издание WIRED и другие СМИ подробно писали о том, как любую большую языковую модель можно подвергнуть «джейлбрейку» (обходу ограничений) в той или иной степени. Anthropic и независимые исследователи кибербезопасности утверждают, что решение проблемы «джейлбрейков» не является лёгкой или изолированной задачей. Поскольку модели ИИ вероятностны, а не детерминированы, технологические компании не могут гарантировать, что именно они сгенерируют в ответ на заданный запрос. Если Белый дом не позволит Anthropic выпустить Claude Fable 5 до полного решения проблемы обхода ограничений, то ожидать этого в ближайшее время, по мнению экспертов, не стоит.

Регулирование в реальном времени

В конечном итоге, проблема не в том, что правительство США пытается гарантировать наличие надлежащих мер безопасности в передовых моделях ИИ или предотвратить их попадание в руки противников Америки. Проблема в том, что администрация Трампа теперь находится в положении, когда ей приходится принимать эти регуляторные решения в режиме реального времени.

Можно с уверенностью сказать, что другие лаборатории ИИ, такие как OpenAI, Google и Meta*, с замиранием сердца наблюдали за несчастьями Anthropic. Обозреватель отмечает, что всю неделю задавал руководителям ИИ один и тот же вопрос: как избежать судьбы, похожей на судьбу Anthropic?

Пока многие лидеры в области ИИ приходят к одному и тому же выводу: они считают, что им необходимо предоставить Белому дому ранний доступ к своим новейшим моделям ИИ. Кроме того, по их словам, им необходимо чрезвычайно активно делиться информацией с администрацией Трампа о предстоящих запусках моделей – риск застать чиновников врасплох просто слишком велик.

«Предварительное уведомление, предварительный доступ. Я думаю, это основные запросы, которые мы слышали не только от США, но и от других стран мира», – заявил Эйдан Гомес, генеральный директор канадской лаборатории ИИ Cohere, в интервью на этой неделе. «Я думаю, это хорошо во многих отношениях. Это демонстрирует серьёзное вовлечение и внимание со стороны властей к очень важной технологии».

Президент Трамп в прошлом месяце подписал исполнительный указ, который создал «добровольную» систему для лабораторий ИИ по представлению моделей правительству для раннего тестирования. Он включал оговорку, прямо заявляющую, что это не станет обязательным режимом лицензирования – серьёзное опасение, высказанное технологической индустрией, которое изначально задерживало принятие указа. Но после того, что произошло с Anthropic, похоже, администрация Трампа фактически создала специальную версию такого режима. «Администрация Трампа, откровенно говоря, не должна была говорить, что это добровольный режим», – заявляет бывший технологический чиновник Белого дома. «Кажется совершенно очевидным, что то, что они делают сейчас, – это режим лицензирования».

* — деятельность компании запрещена на территории РФ

Твитнуть