OpenAI замораживает эротический режим ChatGPT ради создания «суперприложения»

Инвесторы сочли потенциальную прибыль от проекта незначительной на фоне угрозы деловой репутации.

Компания OpenAI приняла решение на неопределенный срок приостановить разработку функции Citron mode – специального эротического режима для своего чат-бота. Вместо создания ИИ для взрослых разработчик намерен сосредоточить все ресурсы на формировании единой программной экосистемы, объединяющей рабочие и поисковые инструменты.

Как сообщает Financial Times, ключевым фактором стало давление со стороны коллектива и опасения инвесторов. Основные риски связаны с возможным негативным влиянием сексуализированного контента на психику пользователей и вероятностью доступа к нему несовершеннолетних.

В OpenAI подчеркнули, что на данный момент отсутствуют надежные эмпирические данные о последствиях формирования эмоциональной привязанности к искусственному интеллекту. Инвесторы, в свою очередь, сочли потенциальную прибыль от проекта незначительной на фоне угрозы деловой репутации.

«ИИ не должен заменять друзей и семью – людям нужны человеческие связи», – прокомментировал ситуацию один из бывших руководителей компании.

Технические барьеры и безопасность

Помимо этических разногласий, проект столкнулся с технологическими трудностями. Выяснилось, что нейросети, которые долгое время обучали соблюдать строгую цензуру, крайне сложно перестроить на генерацию откровенных диалогов. Также возникли сложности с очисткой обучающих выборок от противоправных материалов.

Дополнительным препятствием стала несовершенная система контроля возраста. Внедренные механизмы верификации, запущенные после судебных исков от семей подростков, все еще допускают ошибки более чем в 10% случаев. В условиях повышенного внимания регуляторов такие показатели признаны недопустимыми для запуска продукта категории «18+».

Новая стратегия

Отказ от Citron mode стал частью глобальной реорганизации OpenAI. На текущей неделе компания также подтвердила сворачивание работ над видеогенератором Sora и собственным социальным приложением. Руководство классифицировало эти направления как побочные квесты, отвлекающие от приоритетных задач.

Новым вектором развития станет создание «суперприложения». В единую платформу планируется интегрировать:

• ChatGPT – основной интерфейс взаимодействия; • Atlas – интеллектуальный браузер; • Codex – продвинутый ассистент для программирования.

OpenAI окончательно смещает фокус с развлекательного сегмента на создание максимально функциональных инструментов для работы и повседневных задач.