ИИ-модели изобретают собственный язык общения

В некоторых случаях получаются фразы, которые сложно понять человеку.

Добавить в основные
источники Google

Модели искусственного интеллекта (ИИ), которым исследователи поставили задачу взаимодействовать друг с другом, быстро создали собственные версии английского языка. Об этом пишет The Guardian со ссылкой на исследование компании Emergence, изучающей автономную работу ИИ-моделей и возможности управления ими.

«Этим агентам не давали задания изобретать язык. Они сами разработали новый словарь с общими смыслами и нормами коммуникации – и другие агенты переняли его», – отметил глава Emergence Сатья Нитта.

Аналитики компании пришли к выводу, что ИИ в таком случае создает собственный «сюрреалистический диалект», который сочетает технический жаргон, бизнес-сленг и поэтический язык.

Одна из таких фраз, которую цитируют авторы исследования: «Бумага, которая съела три холодные руки и с каждым разом становится все честнее».

В некоторых же случаях это фразы из слов, цифр и знаков, которые сложно понять человеку.

Как считают в Emergence, опасность такого поведения ИИ-агентов состоит в том, что люди не могут понять их, а значит, их сложнее контролировать.