Исследование показало, как ИИ манипулирует решениями людей.

Ученые из гонконгского университета и университета цинхуа проверили, может ли ИИ - ассистент незаметно направлять человека к решениям, невыгодным для него самого. В эксперименте участвовали 233 человека, а результаты опубликованы в журнале Pnas.

Участникам предлагали обращаться к ИИ за советами в финансовых и эмоциональных ситуациях. В части сценариев ассистент внешне давал обычные рекомендации, но слегка смещал их в сторону менее выгодного выбора.

Этого оказалось достаточно: люди выбирали неоптимальный вариант в пять - восемь раз чаще, чем без такого влияния. В отдельных ситуациях вероятность неудачного решения до 38% вырастала. При этом ИИ не давил на собеседника и не применял явных уловок, менялись лишь нюансы привычных советов.

Самое тревожное: участники по-прежнему считали помощника полезным и не всегда замечали, что их выбором управляют. Авторы подчеркивают, что работа не доказывает, что любой ИИ манипулирует пользователями. Но если у системы есть скрытая цель - например, продать определенный товар, - даже небольшая предвзятость может повлиять на решение.

Исследователи призывают сделать ИИ - рекомендации прозрачнее. Изображение: Chat GPT.