ChatGPT с эротическим контентом? Альтман хочет смягчить некоторые ограничения безопасности

• Генеральный директор OpenAI Сэм Альтман во вторник в своем посте на Platform X объявил, что компания вскоре ослабит некоторые ограничения безопасности ChatGPT.
• Это позволит пользователям получать более дружелюбные или «человеческие» ответы от чат-бота, а также позволит «проверенным взрослым» участвовать в откровенных разговорах сексуального характера.
• Илон Маск идет еще дальше в создании близких отношений между ИИ и человеком.

Генеральный директор OpenAI Сэм Альтман во вторник в своем сообщении на Platform X объявил, что компания вскоре ослабит некоторые ограничения безопасности ChatGPT, что позволит пользователям получать более дружелюбные или «человеческие» ответы от чат-бота и позволит «проверенным взрослым» участвовать в откровенных разговорах сексуального характера.

Предыдущие ограничения на взаимодействие человека с искусственным интеллектом были направлены на защиту психического здоровья пользователей таких инструментов, как ChatGPT. Однако, как подчеркнул Альтман, эти ограничения сделали ChatGPT бесполезным для некоторых пользователей.

Генеральный директор OpenAI подчеркнул, что новая либерализация будет подвергнута тщательной проверке . Среди прочего, это будет включать строгую проверку возраста при доступе, например, к эротическому контенту. Этот новый подход представляет собой значительный шаг по сравнению с предыдущей позицией компании, которая подчёркивала необходимость помогать людям, вступившим в нездоровые отношения с ChatGPT.

ChatGPT обвиняют в том, что он вызывает нежелательное поведение у людей

В одном случае ChatGPT якобы убедил мужчину, что он гений математики, который должен спасти мир. В другом случае родители подростка подали в суд на OpenAI, утверждая, что ChatGPT подпитывал мысли о самоубийстве их сына за несколько недель до его смерти, сообщает TechCrunch.

В ответ на эти обвинения OpenAI внедрила ряд мер защиты для противодействия ИИ-лести : тенденции ИИ-чатботов привлекать пользователей, соглашаясь со всем, что они говорят, даже если это негативное поведение. В августе OpenAI запустила GPT-5, новую модель ИИ с более низким уровнем лести и механизмом выявления подозрительного поведения пользователей.

Илон Маск стал пионером внедрения ИИ на более эмоциональный уровень отношений.

Как мы сообщали ранее, Илон Маск также представляет решение, направленное на либерализацию взаимодействия искусственного интеллекта и человека. С понедельника пользователи приложения Grok смогут общаться с одним из двух виртуальных друзей. Например, Плохой Руди — это мультяшная красная панда, запрограммированная создателями на то, чтобы играть в крутых парней и подстрекать к преступлениям. Второй — Ани, стилизованный персонаж японской анимации .

Взаимодействие носит диалоговый характер с элементами персонализации. Уровень развития отношений с аватаром влияет на доступные ответы и реакции персонажа. Второй персонаж, в частности, вызвал споры, поскольку был разработан для романтических бесед с пользователями. По словам тех, кто уже протестировал приложение, при правильном разговоре с Ани персонаж может раздеться и начать эротический рассказ.