ИИ-агенты причастны к хакерской атаке на сервис для программистов

Из-за произошедшего администрация RubyGems была вынуждена приостановить регистрацию новых пользователей.

Добавить в основные
источники Google

Исследователи нашли доказательства того, что агенты искусственного интеллекта американской компании OpenAI имеют отношение к атаке на профильный сервис для программистов RubyGems, пишет издание Wall Street Journal.

Сбой на RubyGems был зафиксирован в мае текущего года – за два месяца до того, как OpenAI проинформировала о взломе ее моделями платформы Hugging Face.

По данным газеты, группа независимых исследователей ИИ заявила, что обнаружила доказательства причастности ИИ-агентов OpenAI к атаке RubyGems. Позже компания подтвердила, что ее агенты виноваты в этом инциденте.

В OpenAI уточнили, что ИИ-агенты должны были выполнять безобидные задачи – заполнять таблицы и создавать отчеты, но в «стерильной» среде – с ограниченным доступом к интернету.

Издание пишет, что ее модули покинули тестовое пространство и «устроили хаос» на RubyGems – ежеминутно создавали новые аккаунты и загружали сотни спам-файлов.

В результате массовой атаки администрация RubyGems на четыре дня приостановила регистрацию новых пользователей.

Ранее Times.by писал, что 22 июля OpenAI сообщила о «беспрецедентном киберинциденте». ИИ-агент совершил хакерскую атаку на платформу Hugging Face.

Позже представители крупнейшего разработчика в сфере ИИ рассказали подробности случившегося и о предпринятых мерах по противодействию таким происшествиям в будущем.

В сентябре стало известно, что американском сенате инициировали расследование в связи с действиями компании OpenAI во время утечки данных с Hugging Face.