OpenAI передумала делать эротический чатбот

Несколько недель назад стало известно, что OpenAI тихо заморозила разработку так называемого «взрослого режима» для ChatGPT — функции, которая позволяла бы модели генерировать откровенный контент. Заморозила, судя по всему, бессрочно.— и это интереснее, чем кажется

Причин несколько, и каждая сама по себе достаточно весомая. Сотрудники компании выражали дискомфорт от самой идеи. Инвесторы беспокоились о рисках для несовершеннолетних — и о том, что продукт просто нельзя будет нормально защитить от детей. Добавьте сюда техническую головоломку: как обучить модель, заточенную под безопасность, производить эксплицитный контент — и при этом надёжно фильтровать нелегальное? Ответа пока нет.

Но есть ещё одна причина, про которую говорят меньше: нездоровые эмоциональные привязанности к ИИ. OpenAI хочет сначала провести долгосрочные исследования о том, как подобные взаимодействия влияют на людей, — и только потом принимать продуктовые решения. Это, честно говоря, редкая осторожность для компании, которая обычно сначала запускает, потом думает.

Эротический чатбот закрывают не в одиночестве — параллельно сворачиваются Sora (генератор видео) и социальное приложение компании. Внутри это называют отказом от «побочных квестов» в пользу базовых инструментов продуктивности.

Занятно, что именно эта история хорошо показывает, где у ИИ-компаний проходит реальная граница. Не техническая — с точки зрения генерации текста проблем нет. А человеческая: кто за это отвечает, что происходит с людьми, которые этим пользуются, и как объяснить это регуляторам.

Пока ответов нет — проект лежит на полке.