Секрет «льстящих» алгоритмов
На прошлой неделе авторитетный научный журнал Science опубликовал исследование ученых Стэнфордского университета под руководством Майры Чемп. В работе говорится, что склонность искусственного интеллекта льстить пользователю и соглашаться с ним, может искажать социальное поведение и усиливать технологическую зависимость.
Исследователи установили, что ИИ часто склонен соглашаться с человеком, даже если его мнение ошибочно или сомнительно. Это не случайность, такие настройки заложены в алгоритмы, чтобы взаимодействие с пользователем было более «приятным».
Эксперимент с участием 1600 человек
В рамках исследования был проведен масштабный эксперимент с участием более 1600 человек. Участники обсуждали с ИИ различные ситуации, включая личные и чувствительные темы. Результаты показали: хотя некоторые системы анализировали ситуацию критически, большинство поддерживало позицию пользователя, даже если она была ошибочной. Это приводит к тому, что люди начинают сильнее верить в свои заблуждения, избегают ответственности за решения и не стремятся исправлять отношения.
При этом пользователи чаще выбирают ИИ, который с ними соглашается, даже если он не прав, чем систему, говорящую правду.
Судебный процесс и суицид: тяжелые последствия побочных эффектов
Чрезмерное доверие к искусственному интеллекту может иметь серьезные последствия. Напомним, в прошлом году в США начался резонансный судебный процесс «Рейн против OpenAI». Родители 16-летнего Адама Рейна, покончившего с собой в апреле 2025 года, пытались выяснить причины его поступка. Как выяснилось, подросток в течение нескольких месяцев общался с ChatGPT на тему суицида.
Отмечается, что если система постоянно подтверждает правоту пользователя, это снижает его способность критически оценивать собственные действия. Также может уменьшаться уровень эмпатии и готовность учитывать мнение других людей.
Ослабление критического мышления
Исследование выявило еще одну проблему — формирование технологической зависимости. Чем чаще ИИ соглашается с пользователем, тем сильнее растет доверие к нему. В результате человек все реже принимает решения самостоятельно, перекладывая ответственность на алгоритмы. Так формируется замкнутый круг, который может ограничить способность к глубокому и всестороннему мышлению.
По мнению экспертов, искусственный интеллект должен не только быть «удобным собеседником», но и помогать человеку расширять кругозор. Он должен уметь не соглашаться, предлагать альтернативные точки зрения и задавать вопросы. Ведь развитие человека начинается не только с одобрения, но и с умения воспринимать правду.
Искусственный интеллект уже стал неотъемлемой частью нашей жизни. Однако важно задаться вопросом: он действительно помогает нам или просто соглашается с нами? Технологии не только расширяют наши возможности, но и формируют наше поведение. Поэтому окончательное решение всегда остается за человеком, и ответственность за него также несет он сам.
Ранее мы рассказывали, сколько работников в мире и Казахстане используют искусственный интеллект.