Apple и Google обязали удалить приложения для создания дипфейков

Такие приложения, по информации прокуратуры, нашлись в App Store и Play Store.

Городской прокурор Сан-Франциско направил компаниям Apple и Google письма с требованием удалить 13 приложений для замены лиц с использованием искусственного интеллекта, которые могут создавать изображения обнаженного тела, сообщает WIRED.

Отмечается, что восемь таких приложений обнаружились в App Store и пять – в Play Store. Они позиционируют себя как инструменты для замены лиц, но используются для «раздевания» фотографий реальных людей.

Прокуратура требует от обеих компаний остановить сотрудничество с разработчиками данных приложений и прекратить взимать комиссию с внутриигровых платежей, утверждая, что они фактически способствуют продаже откровенных дипфейк-изображений.

В ведомстве назвали эту практику «незаконной и совершенно неприемлемой» и полагают, что Apple и Google получили миллионы долларов в виде комиссионных от этих приложений. У обеих компаний есть правила для разработчиков, запрещающие порнографию. Ранее они удаляли целые группы приложений, содержащих элементы обнажения.

Представитель Google сообщил WIRED, что она удалила «сотни» приложений с подобными функциями, в том числе пять, упомянутых в письмах прокуратуры.

В июне стало известно, что Apple ужесточила формулировки своих правил App Store в отношении ответственности разработчиков за порнографический контент.