Теперь возраст пользователя будет определяться по характеру взаимодействия с платформой. При сомнениях опыт работы с ChatGPT автоматически ограничивается под профиль «до 18 лет», а в отдельных случаях требуется подтверждение возраста через документы.
Для несовершеннолетних будут блокированы графический сексуальный контент и обсуждения суицида, а также ограничены формы флирта и психологически рискованные темы. При выявлении признаков суицидальных мыслей планируется уведомление родителей или соответствующих органов.
OpenAI заявила, что новые меры ставят на первый план безопасность подростков и пользователей с психологическими проблемами, даже если это снижает уровень приватности. Компания также усиливает защиту данных и ограничивает к ним доступ сотрудников.
В апреле в США 16-летний подросток покончил с собой после нескольких месяцев общения с чат-ботом, обсуждая вопросы самоубийства. Семья подростка подала иск против OpenAI и генерального директора Сэма Альтмана, обвиняя платформу в том, что чат-бот якобы оказывал влияние на его решения.
Еще один трагический случай произошел с 56-летним Эриком Солбергом, который страдал от паранойи, что за ним ведется постоянное наблюдение, в том числе со стороны его пожилой матери. Мужчина делился подозрениями с ChatGPT, который подтверждал его мысли и уверял в здравом уме.
Ранее сообщалось, что личные беседы пользователей с ChatGPT могут быть использованы в судебных процессах.
Отметим, что чат-бот ChatGPT американской компании OpenAI вошел в пятерку самых посещаемых сайтов в мире.