Искусственный интеллект научился раскрывать личности анонимных комментаторов

Даже после удаления имен и прямых ссылок алгоритм показал точность в 90%.

Специалисты из ETH Zurich и Google DeepMind разработали технологию, способную массово деанонимизировать пользователей интернета.

В отличие от классических методов, которые анализируют уникальный почерк или стиль письма, новый алгоритм под названием ESRC опирается на семантику – то есть на конкретные факты, которыми человек делится в своих публикациях.

Как работает «цифровой детектив»

Система анализирует анонимные комментарии и сопоставляет их с открытыми данными из социальных сетей и профессиональных платформ, таких как LinkedIn или HeadHunter.

Процесс разделен на четыре логических этапа:

• Нейросеть читает сообщения и составляет портрет автора: где живет, чем увлекается, в каких проектах участвовал. Например, упоминание поездки на конференцию в конкретный город и наличие специфического хобби уже создают уникальный цифровой след.
• Полученная сводка превращается в математический код, по которому система находит около сотни максимально похожих реальных профилей в сети.
• ИИ сопоставляет анонима с кандидатами, рассуждая: «Этот пользователь пишет о программировании в Москве, и у данного соискателя в резюме указаны те же навыки и город».
• Система проводит детальное сравнение, чтобы исключить случайные совпадения и подтвердить личность.

Особенность метода в том, что каждый шаг по отдельности выглядит абсолютно безобидно. Суммаризация текста или поиск похожих профилей – это стандартные задачи, поэтому разработчикам нейросетей практически невозможно отследить и заблокировать подобные злоупотребления.

Результаты экспериментов

Эффективность технологии подтвердили на практике. В первом тесте исследователи попытались сопоставить анонимные аккаунты форума Hacker News с профилями в LinkedIn. Даже после удаления имен и прямых ссылок алгоритм показал точность в 90% при охвате в 68%. Обычные методы поиска в таких условиях практически не срабатывают.

Второй эксперимент затронул интервью ученых об использовании ИИ, опубликованные компанией Anthropic. Несмотря на то что тексты специально редактировались для защиты приватности, агент смог верно идентифицировать 9 из 33 исследователей.

Попытки «причесать» свой текст через ChatGPT, чтобы изменить стиль речи, не приносят результата. Авторы исследования подчеркивают: они ищут не характерные обороты, а смысловые улики. Как отмечается в работе: «Другой голос, те же факты». Если вы написали, что работаете в финтехе и недавно переехали, нейросеть запомнит именно это, как бы изящно ни была построена фраза.

Теоретически защититься можно лишь созданием ложного шума – намеренным искажением данных о себе. Однако делать это системно на протяжении многих лет крайне сложно. Достаточно один раз написать правду, чтобы ИИ отфильтровал дезинформацию.