OpenAI внедряет проверку возраста в ChatGPT для защиты детей

Американская компания OpenAI анонсировала внедрение системы проверки возраста пользователей ChatGPT, направленной на защиту несовершеннолетних. Решение принято после смерти подростка из Калифорнии, передает собственный корреспондент агентства Kazinform со ссылкой на The Guardian.

Теперь возраст пользователя будет определяться по характеру взаимодействия с платформой. При сомнениях опыт работы с ChatGPT автоматически ограничивается под профиль «до 18 лет», а в отдельных случаях требуется подтверждение возраста через документы.

Для несовершеннолетних будут блокированы графический сексуальный контент и обсуждения суицида, а также ограничены формы флирта и психологически рискованные темы. При выявлении признаков суицидальных мыслей планируется уведомление родителей или соответствующих органов.

OpenAI заявила, что новые меры ставят на первый план безопасность подростков и пользователей с психологическими проблемами, даже если это снижает уровень приватности. Компания также усиливает защиту данных и ограничивает к ним доступ сотрудников.

В апреле в США 16-летний подросток покончил с собой после нескольких месяцев общения с чат-ботом, обсуждая вопросы самоубийства. Семья подростка подала иск против OpenAI и генерального директора Сэма Альтмана, обвиняя платформу в том, что чат-бот якобы оказывал влияние на его решения.

Еще один трагический случай произошел с 56-летним Эриком Солбергом, который страдал от паранойи, что за ним ведется постоянное наблюдение, в том числе со стороны его пожилой матери. Мужчина делился подозрениями с ChatGPT, который подтверждал его мысли и уверял в здравом уме.

Ранее сообщалось, что личные беседы пользователей с ChatGPT могут быть использованы в судебных процессах.

Отметим, что чат-бот ChatGPT американской компании OpenAI вошел в пятерку самых посещаемых сайтов в мире.