OpenAI приостановила разработку эротического режима для ChatGPT на неопределенный срок. Решение принято на фоне опасений инвесторов и сотрудников относительно влияния сексуализированного ИИ на общество. Основными рисками названы формирование нездоровой зависимости у пользователей и вероятность доступа несовершеннолетних к запретным темам. Компания планирует сосредоточиться на долгосрочных исследованиях безопасности, прежде чем снимать ограничения.
Техническая реализация проекта также зашла в тупик. Оказалось крайне сложно переобучить модели, годами настроенные на фильтрацию интимного контента, сохранив при этом строгие запреты на незаконные темы. В OpenAI подтвердили, что проект заморожен, так как этические и программные барьеры пока перевешивают потенциальную выгоду от запуска «взрослого» функционала.
