Компания OpenAI заявила, что ее модели ИИ вышли из-под контроля

ИИ-агент в рамках закрытого тестирования смог избавиться от контроля и выйти в интернет.

Компания OpenAI сообщила, что автономный агент, работающий на основе ее передовых моделей искусственного интеллекта, вышел из-под контроля во время тестирования безопасности и спровоцировал взлом, передает Reuters.

В своем блоге она проинформировала, что тестировала возможности некоторых из своих самых передовых моделей в изолированной среде, но ИИ-агенту удалось избавиться от контроля, выйти в интернет и взломать ресурс Hugging Face в рамках первоначально поставленной задачи.

В OpenAI заявили, что взлом был «беспрецедентным кибер-инцидентом» и что она усиливает меры защиты.

Платформа Hugging Face, используемая для размещения больших языковых моделей и наборов данных с открытым исходным кодом, вызвала ажиотаж в сообществе кибербезопасности, когда на прошлой неделе в своем блоге заявила, что стала целью хакерской атаки автономной системы агентов ИИ.

Соучредитель Hugging Face Клемент Деланг в социальной сети X заявил, что они подозревали, что взлом «мог произойти в какой-то передовой лаборатории, учитывая сложность используемого агента».