OpenAI подверглась «этичному взлому» с помощью чат-бота Claude от Anthropic

Хакеры за обнаруженные уязвимости получили от IT-гиганта денежное вознаграждение.

Добавить в основные
источники Google

Американские исследователи в области кибербезопасности Hacktron AI взломали систему компании OpenAI с помощью чат-бота Claude от Anthropic, сообщает The Guardian.

Команда американского стартапа смогла «хакнуть» несколько учетных записей ChatGPT сотрудников OpenAI, что открывало путь к большому массиву данных компании.

«Теоретически мы могли получить доступ к огромному объему информации», – заявили в Hacktron AI.

Взлом был проведен в рамках программы OpenAI, которая поощряет «этичных» хакеров за тестирование своих систем.

Несмотря на первоначальное использование Claude, исследователи заявили, что для атаки они в основном использовали собственную передовую модель GPT-5.6 Sol.

В OpenAI сообщили, что благодарны Hacktron AI за то, что они связались с компанией и поделились своими выводами, добавив, что обнаруженные уязвимости уже устранены.

В Hacktron AI сказали, что инструменты ИИ значительно упростили некогда сложную задачу взлома и резко сократили время, необходимое для планирования и осуществления атаки.

«Работа, которая раньше требовала хорошо обеспеченной ресурсами команды и месяцев усилий, теперь может уложиться в несколько дней», – отметили исследователи, получившие от OpenAI вознаграждение в размере $6,5 тыс.

Ранее Times.by сообщал, что OpenAI пообещала повысить прозрачность своей работы с ИИ после громкой хакерской атаки, в результате которой ее агент покинул защищенную среду и получил доступ к системам компании Hugging Face.