В конце прошлой недели Anthropic приняла решение отключить свои последние модели ИИ, Claude Fable 5 и Mythos 5, в связи с указанием правительства США. Этот указ запрещает иностранным гражданам использовать эти услуги, что побудило компанию начать переговоры с Белым домом в надежде достичь соглашения, позволяющего возобновить их предложения.
С момента своего запуска в апреле Mythos похвалили за его впечатляющие возможности, особенно в выявлении уязвимостей программного обеспечения, которые могут помочь специалистам по кибербезопасности укрепить системы. Однако та же технология несет риски, так как может быть использована злоумышленниками. Anthropic признала эту критическую проблему в блоге, заявив: "Многие сложные способы использования моделей ИИ имеют двойное назначение: одни и те же запросы, которые полезны в руках специалистов по кибербезопасности и биологическим исследователям, могут быть опасными, если попадут в руки злоумышленников."
Изначально Anthropic выпустила версию Mythos под названием Mythos Preview для ограниченной группы в рамках проекта Glasswing, совместной инициативы, направленной на решение этих проблем двойного назначения. На прошлой неделе Mythos 5 была приватно представлена этому консорциуму, в то время как Claude Fable 5 — модель, связанная с Mythos — стала доступна широкой публике с ограничениями на возможность ответов на запросы о биологии и кибербезопасности. Эта ситуация подчеркивает продолжающиеся дебаты и беспокойство по поводу ответственного развития и внедрения передовых технологий ИИ.
