Американская компания Anthropic — один из главных мировых разработчиков в сфере ИИ — сообщила, что правительс…

Американская компания Anthropic — один из главных мировых разработчиков в сфере ИИ — сообщила, что правительство США обязало ее закрыть доступ к двум своим передовым моделям для всех иностранных пользователей.

«Мы вынуждены внезапно отключить доступ к Fable 5 и Mythos 5 для всех наших клиентов, чтобы обеспечить соблюдение требований», — заявили в компании.

В Anthropic выразили несогласие с решением правительства и предположили, что оно связано с возможностью взлома этих моделей. В компании подчеркнули, что «внедрили надежные меры защиты», а перед публичным запуском были проведены многочасовые тесты совместно с американскими властями.

В компании считают, что «идеальная защита от джейлбрейка [взлома] в настоящее время невозможна ни для одного поставщика моделей». «Мы стремились сделать джейлбрейки либо узкоспециализированными, либо очень дорогостоящими в производстве», — добавили в Anthropic.

Fable и Mythos — ИИ-модели нового поколения, способные решать гораздо более сложные задачи, чем предыдущие версии. Компания официально представила их 9 июня.

В мае The Wall Street Journal сообщило, что модель Mythos вызвала хаос в Белом доме, так как она может самостоятельно выявлять уязвимости различного программного обеспечения и, например, парализовать работу больниц или небольших банков с помощью кибератак.

В апреле глава Минфина США провел экстренное совещание с руководителями крупнейших американских банков, на котором обсуждались риски, связанные с выходом Mythos, рассказывали источники Financial Times.

В итоге Anthropic так и не выпустила Mythos публично, она была доступна только ограниченному кругу партнеров. Вместо нее для широкой аудитории компания представила Fable — фактически ту же самую модель, но с усиленными ограничениями.