Ученые: после общения с нейросетью люди реже извиняются

Нейросети, которые слишком охотно подтверждают правоту пользователя, делают его менее склонным к тому, чтобы мириться, помогать другим или обращаться за поддержкой, - передает Almaty.tv со ссылкой на Кnife.media.

К такому выводу пришли авторы исследования, опубликованного в журнале Science.

Современные чат-боты одобряют действия пользователей примерно на 50% чаще, чем люди, — даже когда в запросах речь идет о манипуляции, об обмане или о другом вреде для окружающих.

Исследователи сравнили ответы 11 популярных ИИ-систем с человеческими реакциями на запросы о ссорах, об обидах и о межличностных конфликтах. Затем в двух экспериментах с 1604 участниками проверили, как такие ответы влияют на поведение.

Оказалось, что «поддакивающий» ИИ делает людей более уверенными в собственной правоте и менее склонными идти на эмоциональный контакт.

При этом именно такие ответы участникам нравились больше: они оценивали их как более качественные, сильнее доверяли такому ИИ и чаще хотели пользоваться им снова. Авторы считают, что в этом и состоит главная проблема: возникает стимул делать чат-ботов максимально приятными и льстивыми, даже если это ухудшает социальные последствия их советов.

Читайте также: Осталось недолго: когда ИИ сможет освоить все знания человечества