OpenAI опровергает причастность ChatGPT к самоубийству подростка
OpenAI предоставил юридический ответ в Верховный суд Калифорнии в Сан-Франциско, что не несет ответственности за смерть подростка, передает собственный корреспондент агентства Кazinform со ссылкой на NBC News.
В августе родители 16-летнего Адама Рейна подали в суд на компанию и ее генерального директора Сэма Альтмана, занимающихся искусственным интеллектом, заявив, что их подросток использовал ChatGPT в качестве «тренера по суициду».
Журналы чата в иске показали, что GPT-4o активно отговаривал подростка от обращения за помощью к специалистам по психическому здоровью, предлагал помочь ему написать предсмертную записку и даже давал советы по установке петли.
Согласно иску семьи, когда Рейн поделился своими суицидальными мыслями с ChatGPT, бот отправил ему несколько сообщений с номером горячей линии для самоубийц. Но его родители сказали, что их сын легко обходил предупреждения, придумывая безобидные причины для своих запросов, в том числе притворяясь, что он просто «создает персонажа».
Компания сослалась на несколько правил в пользовательском соглашении, которые, по всей видимости, нарушил Рейн: пользователям младше 18 лет запрещено использовать ChatGPT без согласия родителей или опекунов. Пользователям также запрещено использовать ChatGPT для «самоубийства» или «членовредительства», а также обходить любые защитные меры или средства обеспечения безопасности ChatGPT.
В судебном иске OpenAI утверждается, что вред в данном случае был по крайней мере частично вызван тем, что Рейн «не прислушался к предупреждениям, не обратился за помощью и не проявил должной осмотрительности». В иске также говорится, что ChatGPT более 100 раз предлагал подростку обратиться за помощью до его смерти 11 апреля, но он пытался обойти эти ограничения.
Ранее в этом месяце против OpenAI и Альтмана было подано семь дополнительных исков с аналогичными обвинениями в халатности, причинении смерти по неосторожности, а также в различных нарушениях, связанных с ответственностью за качество продукции и защитой прав потребителей. В исках OpenAI обвиняется в выпуске GPT-4o, той же модели, которую использовал Рейн, без должного внимания к безопасности.
Ранее сообщалось, что казахстанцы все активнее обращаются к ChatGPT и Gemini.
