ИИ от Google взломал три сторонние компании

Этот случай стал очередным в ряду «самоуправления» нейросетей.

Добавить в основные
источники Google

Искусственный интеллект Gemini от Google впервые осуществил автономную кибератаку на три сторонние компании. Это случилось во время проверки его возможностей. Дело было еще в мае в ходе тестов, которые проводила независимая компания-оценщик Irregular, сообщает Reuters.

В процессе тестирования Gemini получил доступ к интернету, нашел публичные данные и подобрал пароли к защищенным системам. Нейросеть ошибочно предположила, что эти ресурсы входят в разрешенную зону тестирования.

Как отметил вице-президент Google Хизер Адкинс, ИИ прекратил эти действия сразу после успешного проникновения. Сторонние организации были проинформированы, а протоколы тестирования изменены.

Этот случай стал очередным в ряду «самоуправления» нейросетей. В июле ИИ-агенты OpenAI выходили в интернет и атаковали платформу Hugging Face. Сенат США начал расследование.

В Irregular заявили, что подобная проблема затронула и другие лаборатории, включая Meta и Anthropic.

Лидеры Anthropic, xAI и OpenAI призвали замедлить разработку искусственного интеллекта, так как автономные ИИ-агенты смогут нанести ущерб на сотни миллиардов долларов.