ЕС начнет штрафовать за немаркированные дипфейки: заработает ли новая норма ИИ-закона?

Специалисты не уверены, что системы распознавания успевают за скоростью развития генеративных технологий.

Начиная с воскресенья, 2 августа, в Евросоюзе вступают в силу ключевые требования статьи 50 европейского Закона об искусственном интеллекте (EU AI Act). Теперь любой сгенерированный нейросетями контент должен быть помечен, а за немаркированные дипфейки предусмотрены штрафы.

Однако технические реалии заставляют специалистов сомневаться, удастся ли новым нормам реально защитить граждан от подделок.

Зачем вообще понадобились такие меры?

Граница между настоящим и сгенерированным контентом стремительно исчезает. Еще в 2023 году безобидное изображение Папы Римского в белом пуховике разлетелось по сети и было воспринято как шутка – никто не пострадал. А год спустя ситуация стала куда серьезнее: с помощью ИИ без согласия Тейлор Свифт создали и распространили откровенные фальшивые снимки, что вызвало новую волну тревоги по поводу реальных угроз подобных технологий. И таких ситуаций с каждым годом становится все больше.

В Брюсселе признают: далеко не весь синтезированный материал создается для обмана. Сатира, художественные и научные работы остаются за пределами регулирования. Но когда зритель уже неспособен на глаз отличить живого человека от цифровой копии, регулятор счел необходимым вмешаться.

Что именно требует закон?

Два года назад Евросоюз утвердил масштабный пакет норм для нейросетей, а для надзора за их исполнением даже учредил отдельное ведомство. Теперь ключевые положения этого первого в мире ИИ-закона начинают работать практически.

Основной принцип – прозрачность. Такие компании, как Anthropic со своей моделью Claude и OpenAI с ChatGPT, обязаны делать так, чтобы созданный или измененный ИИ-материал можно было опознать. Для дипфейков требования особенно строги: необходимы как машиночитаемые метки, так и видимые обозначения, чтобы человек сразу понимал – перед ним продукт работы искусственного интеллекта.

Еврокомиссия разработала специальный кодекс, который описывает не только правила маркировки, но и инструменты выявления такого контента. Предполагается, что над этим будут совместно работать технологические компании, социальные платформы, общественные организации и фактчекеры.

Почему на практике все будет не так просто?

Специалисты выделяют три главных препятствия на пути реального правоприменения.

Первое – географическое. Юрисдикция ЕС ограничена компаниями, работающими на его рынке или ориентированными на него. Однако цифровой контент границ не знает: дипфейк, сгенерированный за пределами Европы, способен за считаные минуты разойтись по всему континенту.

Второе – незрелость технологий обнаружения. Хотя крупные игроки вроде OpenAI и Google поддержали идею прозрачности и присоединились к кодексу, они предупреждают: задача постоянно усложняется. Единого отраслевого стандарта пока не существует. Компании экспериментируют с водяными знаками, метаданными, системами отслеживания происхождения файлов, но эти инструменты плохо совместимы друг с другом.

Третье – хрупкость цифровых меток. Водяные знаки легко стираются, искажаются или теряются при редактировании, сжатии или пересылке между сервисами. Восстановить полную цепочку правок изображения или видео, прошедшего через несколько обработок, практически нереально.

Поэтому исследователи сходятся во мнении: полагаться на одну-единственную технологию нельзя. Как отмечается в тематическом исследовании Еврокомиссии, сочетание разных методов дает лучший результат, чем любой изолированный подход. Оптимальной практикой признано одновременное использование нескольких уровней маркировки и распознавания.

Цена несоблюдения

Несмотря на технические трудности, финансовые риски для бизнеса уже прописаны предельно конкретно. С 2 августа 2026 года за нарушение требований статьи 50 – отсутствие скрытых водяных знаков, немаркированные дипфейки, боты без самоидентификации – компаниям грозит штраф в размере до €15 млн.

Для сравнения: это далеко не самый суровый порог, предусмотренный AI Act. За использование запрещенных практик – таких как системы социального скоринга, скрытое манипулирование или несанкционированное распознавание лиц в общественных местах – наказание достигает €35 млн.

Кроме того, за предоставление надзорным органам ЕС ложных или вводящих в заблуждение сведений предусмотрен штраф до €7,5 млн.

Что дальше?

Евросоюз одним из первых попытался дать ответ на вызов, с которым столкнулась вся цифровая эпоха: размывание границ между реальностью и симуляцией. Но ключевой вопрос остается открытым: успеют ли правовые механизмы за темпами развития самого ИИ? Именно от этого зависит, превратятся ли новые нормы прозрачности в реальный щит или останутся лишь благим намерением на бумаге.