Anthropic открыла доступ к версии ИИ-модели Fable 5, основанной на нейросети Mythos Эту модель называли самой…
Двач (@dvachannel)
Двач
Anthropic открыла доступ к версии ИИ-модели Fable 5, основанной на нейросети Mythos Эту модель называли самой опасной. На тестах она находила серьёзные уязвимости в Firefox, Linux и macOS и могла превращать их в рабочие способы взлома. Разработчики впервые…
Самую мощную ИИ-модель Mythos официально запретили — пользователи успели поработать с ней всего три дня
Anthropic сообщила, что получила указ от властей США:
Хотя запрет касался только иностранных граждан, компания отключила доступ вообще всем пользователям.
При этом в Сети пишут, что власти США, скорее всего, оставили себе доступ к версии Mythos без цензуры и ограничений.
Ещё одна интересная деталь — создатели вирусов стали добавлять в свой код запросы на создание биологического и ядерного оружия. Когда нейросеть проверяет такой код, она натыкается на собственные фильтры безопасности и отключается.
Выходит, что её же защиту начали использовать против неё самой.
Anthropic сообщила, что получила указ от властей США:
Правительство США, ссылаясь на органы национальной безопасности, издало распоряжение об экспортном контроле, требующее остановить любой доступ к Fable 5 и Mythos 5 для всех иностранных граждан — как находящихся в США, так и за их пределами, включая сотрудников Anthropic, не являющихся гражданами США.
Хотя запрет касался только иностранных граждан, компания отключила доступ вообще всем пользователям.
При этом в Сети пишут, что власти США, скорее всего, оставили себе доступ к версии Mythos без цензуры и ограничений.
Ещё одна интересная деталь — создатели вирусов стали добавлять в свой код запросы на создание биологического и ядерного оружия. Когда нейросеть проверяет такой код, она натыкается на собственные фильтры безопасности и отключается.
Выходит, что её же защиту начали использовать против неё самой.