Русский
English
Что там опять
Anthropic выпустила Claude Fable 5 и почти сразу ограничила её доступ по требованию властей США
Anthropic представила две новые модели ИИ пятого поколения — Claude Fable 5 и Claude Mythos 5. Обе модели принадлежат к классу Mythos, который компания считает более мощным по сравнению с линейкой Opus. Fable 5 представляет собой публичную, зацензуренную версию Mythos, доступную для всех пользователей и разработчиков. В то же время, Mythos 5 будет использоваться только ограниченным кругом партнёров.
Anthropic утверждает, что Fable 5 превосходит все предыдущие модели, выпущенные компанией, особенно в области программирования, научных исследований, обработки изображений и выполнения сложных многошаговых задач.
Основное отличие Fable 5 заключается в её жёсткой цензуре. Модель основана на той же архитектуре Mythos, но дополнительно оснащена мерами безопасности, что позволяет её использовать широкой аудитории. В то время как Mythos 5, лишённая некоторых ограничений, доступна в рамках Project Glasswing — программы, реализуемой совместно с правительством США. Эта модель предназначена в первую очередь для специалистов по кибербезопасности и поставщиков критической инфраструктуры. Anthropic называет Mythos 5 самой мощной моделью в мире в области кибербезопасности.
Однако правительство США потребовало от Anthropic ограничить доступ к её передовым ИИ-моделям для иностранных пользователей, не являющихся гражданами страны. Компания сообщила, что выполнила это требование.
Сопредседатель совета советников президента США по науке и технологиям Дэвид Сакс объяснил причину решения. По словам Сакса, надёжный партнёр, проверяющий модель Fable 5, обнаружил уязвимость, позволяющую обойти её защитные механизмы — джейлбрейк. Администрация США попросила гендиректора Anthropic Дарио Амодеи устранить проблему или прекратить распространение модели.
Представители Amazon заявили, что правительство США регулярно консультируется с компанией по вопросам информационной безопасности. Однако содержание таких обсуждений не разглашается.
В Anthropic отметили, что выполняют требования регулятора, но не согласны с их мотивацией. Компания считает, что обнаружение «ограниченной потенциальной уязвимости» не должно быть основанием для отзыва коммерческой модели, доступной широкому кругу пользователей. В Anthropic предупредили, что такой подход может создать прецедент, когда единичная проблема приводит к прекращению распространения целого продукта, что может повлиять на всю индустрию разработки ИИ.
Источник: Anthropic
Читайте также по теме:
Anthropic представила Claude Opus 4.8