Anthropic обеспокоена хакерскими способностями китайского ИИ

Утверждается, что модель ИИ с открытым кодом почти не уступает Claude Mythos по кибервозможностям.

Добавить в основные
источники Google

Американский гигант в области искусственного интеллекта Anthropic предупредил о потенциальной опасности ИИ-модели GLM-5.3 китайской компании Z.ai, сообщает издание South China Morning Post.

По данным разработчиков из Сан-Франциско, GLM-5.3 почти не уступает самой продвинутой модели Anthropic Claude Mythos с точки зрения кибервозможностей, но имеет гораздо более слабые средства защиты, что означает большую вероятность того, что она может использоваться злоумышленниками.

В отчете, опубликованном во вторник, Anthropic сообщила о тестировании способности GLM-5.3 создавать сквозные кибер-эксплойты.

Сообщается, что китайский ИИ-агент успешно завершил 50 из 410 попыток взлома по сравнению с 56 у Claude Mythos Preview – новой модели Anthropic, которую могут применять только проверенные пользователи.