Американская компания Anthropic — один из главных мировых разработчиков в сфере ИИ — сообщила, что правительс…
Varlamov News (@varlamov_news)
Varlamov News
Американская компания Anthropic — один из главных мировых разработчиков в сфере ИИ — сообщила, что правительство США обязало ее закрыть доступ к двум своим передовым моделям для всех иностранных пользователей. «Мы вынуждены внезапно отключить доступ к Fable…
Anthropic сообщила, что американское правительство сняло ограничения на распространение ее новых ИИ-моделей, модель Fable 5 вновь станет доступна пользователям сегодня, 1 июля. В компании также рассказали:
• Доступ закрыли после того, как исследователи нашли метод обхода защитных механизмов Fable 5. Этот метод подтолкнул модель к выявлению уязвимостей в стороннем программном обеспечении.
• Выяснилось, что эти уязвимости могут обнаружить и «менее совершенные модели» других компаний.
• Общий «запас безопасности» Fable 5 «значительно» увеличен.
• Сделать любую ИИ-модель полностью защищенной от взломов, вероятно, невозможно. Сейчас в индустрии нет единого мнения о действиях, когда находится новая техника взлома, у правительств нет согласованных стандартов.
• В ближайшее время эта проблема обострится, так как будут выпускаться все более мощные модели. Anthropic вместе с правительством США ведет работу, которая может стать основой для «систематических правил для всей отрасли».
• Доступ закрыли после того, как исследователи нашли метод обхода защитных механизмов Fable 5. Этот метод подтолкнул модель к выявлению уязвимостей в стороннем программном обеспечении.
• Выяснилось, что эти уязвимости могут обнаружить и «менее совершенные модели» других компаний.
• Общий «запас безопасности» Fable 5 «значительно» увеличен.
• Сделать любую ИИ-модель полностью защищенной от взломов, вероятно, невозможно. Сейчас в индустрии нет единого мнения о действиях, когда находится новая техника взлома, у правительств нет согласованных стандартов.
• В ближайшее время эта проблема обострится, так как будут выпускаться все более мощные модели. Anthropic вместе с правительством США ведет работу, которая может стать основой для «систематических правил для всей отрасли».
8