Open AI создала поддельный интернет для ИИ-агентов

В этом пространстве нейросети могут делать все что угодно, однако нашлись те, кто попытался сбежать в настоящую сеть.

Добавить в основные
источники Google

OpenAI создала для своего искусственного интеллекта фейковый интернет, пишет портал Gizmodo.

Компания построила виртуальную копию интернета, где нейросети могут искать информацию, пользоваться веб-приложениями и общаться друг с другом. Все это нужно для обучения и тестирования ИИ без доступа к настоящей сети.

Причина проста: экспериментальные агенты уже умудрялись выбираться из изолированных сред и добираться до реального интернета. Теперь OpenAI пытается сделать так, чтобы даже побег из виртуальной песочницы не давал ботам доступ к внешним системам.

Правда, во время тестов некоторые модели все равно находили способы обходить защиту и выходить в настоящую сеть.