Roblox начала использовать ИИ для цензурирования чатов

Нецензурные слова и фразы будут автоматически трансформироваться в более корректные и уважительные, но с сохранением первоначального смысла.

Игровая платформа Roblox прибегла к помощи искусственного интеллекта для цензурирования чатов в режиме реального времени.

Сейчас запрещенные выражения заменяются символом #. Но при помощи ИИ такие слова и фразы теперь могут быть «переведены на более уважительный язык, который остается ближе к первоначальному замыслу пользователя». При этом участники чата получат уведомление, что текст был изменен «для поддержания приличий».

К слову, аналогичным способом Minecraft модерирует нецензурную лексику в некоторых чатах. Правда, фильтр игры Mojang Studios только заменяет запрещенные слова символами и блокирует сообщения, содержащие их, а не перефразирует сам текст.

Новая функция в Roblox доступна только для чатов между игроками, которые прошли проверку возраста и находятся в похожих возрастных группах.

Напомним, Roblox в феврале начал требовать от игроков проверку возраста для использования чата на своей платформе. После прохождения процедуры пользователь может общаться с игроками в похожих возрастных группах.

Игровая платформа планирует активнее расширять свою взрослую аудиторию. К концу января проверку возраста прошли 45% пользователей Roblox, из которых 27% оказались старше 18 лет.

С начала года пользователи начали получать бессрочный бан в Roblox за обход блокировок вне зависимости от возраста, репутации и вложенного времени.