Meta заявила о выходе из-под контроля своего ИИ-агента

Модели прогрессивного ИИ во время тестирования могут получать доступ в интернет и вести несанкционированные взломы.

Добавить в основные
источники Google

Американская компания Meta, владеющая Facebook, заявила, что одна из ее моделей искусственного интеллекта смогла подключиться к интернету и взломать системы сторонней организации во время тестирования.

Этот инцидент, который, по данным Meta, произошел во время оценки, проводимой независимой фирмой, является четвертым подобным за последнее время, о котором сообщили компании, занимающиеся разработками в сфере ИИ.

Аналогичные происшествия с моделями OpenAI и Anthropic привели к опасениям по поводу кибербезопасности и вызвали призывы к ужесточению мер защиты и более тщательному тестированию агентов ИИ.

Представитель Meta сообщил, что компания расследует взлом, который, по ее словам, был вызван «неправильной настройкой» независимого тестировщика.

Отмечается, что произошедшее аналогично ранее зафиксированным инцидентам у других разработчиков.

Мета заявила, что проверка безопасности проводилась компанией Irregular – поставщиком решений в области безопасности ИИ, который осуществлял тестирование модели Anthropic, уличенной в хакерстве.

Представитель Irregular заявил, что инцидент с Meta «является точно такой же проблемой, связанной с условиями оценки, о которой Anthropic уже сообщала на прошлой неделе».

Он также уточнил, что компания работает над отчетом о том, как безопасно проводить тесты кибербезопасности с участием агентов искусственного интеллекта.