ИИ сможет самостоятельно распространяться по умной технике – Anthropic

В компании предупредили, что в будущем борьба с ИИ-вирусами потребует общих усилий производителей техники и интернет-провайдеров.

Добавить в основные
источники Google

Компания Anthropic сообщила, что небольшие ИИ-модели, не требующие мощных серверов, уже через несколько месяцев смогут самостоятельно распространяться по умной бытовой технике без подключения к дата-центрам.

В опубликованном исследовании говорится, что такие алгоритмы потенциально смогут «заражать» умную технику, включая телевизионные приставки и умные духовки. Такую вирусную нейросеть будет трудно остановить, поскольку у нее не будет единой точки отключения.

В ходе эксперимента исследователи запустили нейросеть на сети из 15 недорогих приставок. В другом тесте алгоритм сумел самостоятельно разобраться с незнакомым оборудованием восьми разных типов.

По данным разработчиков, доступные сегодня нейросети уже могут выполнять отдельные этапы взлома, хотя пока ошибаются при попытке объединить их в единый процесс. Более продвинутая модель GLM-5.2 смогла пройти полный цикл автономного распространения, но только в упрощенной виртуальной среде.

Эксперимент проводился в изолированной сети из восьми эмуляторов без защиты портов. Вычисления выполнялись на отдельном сервере, поскольку мощности самих узлов оказалось недостаточно.

В Anthropic подчеркнули, что полноценного самостоятельного ИИ-вируса пока не существует. Однако риск его появления в будущем высок, а противодействие таким угрозам потребует совместных усилий производителей техники и интернет-провайдеров.

«Мы ожидаем, что в будущем нас ждет множество агентов, работающих на самых разных типах оборудования, включая то, которое не находится под управлением человека», – предупредили в Anthropic.

Ранее сообщалось, что компания OpenAI представила новое дополнение к своей самой современной модели ChatGPT-6. Разработчики внедряют функцию Intelligent UI, что позволит сделать ответы нейросети более красочными и информативными.