ChatGPT будет выявлять пользователей младше 18 лет

ChatGPT начнет автоматически определять возраст пользователей, чтобы усилить защиту несовершеннолетних, передает агентство Kazinform со ссылкой на DW.

Новая система OpenAI будет анализировать данные аккаунта, в том числе срок его существования, время активности и характер запросов, и оценивать, не является ли пользователь младше 18 лет.

Если алгоритм придет к выводу, что пользователь — подросток, в ChatGPT будут включаться дополнительные меры безопасности. Они ограничат доступ к жестокому, сексуальному контенту, материалам о самоповреждении, а также к вирусным онлайн-челленджам, которые могут подталкивать к опасному или рискованному поведению.

В OpenAI подчеркивают, что система прогнозирования возраста разработана с опорой на экспертные оценки и академические исследования в области детского развития. При этом подростки по-прежнему смогут использовать ChatGPT для учебы, творчества и получения справочной информации.

Обновление появилось на фоне усиления внимания властей к защите несовершеннолетних в интернете. В странах ЕС обсуждаются ограничения на использование соцсетей пользователями младше 16 лет, а в Австралии подобный запрет уже введен, хотя ChatGPT формально не подпадает под эти правила.

Дополнительный резонанс теме придает судебный иск в Калифорнии против OpenAI и ее гендиректора Сэма Олтмана, поданный родителями 16-летнего подростка, покончившего с собой. Истцы утверждают, что платформа могла негативно повлиять на его состояние. OpenAI уже внедрила функции родительского контроля — «тихие часы» работы чат-бота и уведомления о тревожных признаках в переписке. В случае ошибочного определения возраста пользователь сможет подтвердить совершеннолетие с помощью селфи в реальном времени или загрузки удостоверения личности.

Ранее депутаты британского парламента от правящей партии призвали ввести запрет на использование социальных сетей для лиц младше 16 лет. На фоне цифровизации и роста влияния соцсетей власти по всему миру усиливают контроль над онлайн-пространством для детей и подростков. Готово ли государство к расходам и последствиям такого запрета — в материале корреспондента Kazinform.