Люди могут испытывать гнев на искусственный интеллект и стремиться наказать его за несправедливые решения, даже понимая, что алгоритм не способен чувствовать боль, стыд или раскаяние. К такому выводу пришли исследователи, изучившие реакцию людей на нечестное поведение машин и других участников экспериментов.
Работа показывает, насколько сильным может быть желание восстановить справедливость, даже если предполагаемый обидчик не обладает человеческими чувствами. Однако учёные обнаружили и важное ограничение: наказание алгоритма далеко не всегда приносит человеку ожидаемое удовлетворение.
За несправедливость готовы наказывать даже машину
В одном из экспериментов участникам предложили сыграть в экономическую игру. Другой участник должен был разделить между ними 50 пенсов. Он мог предложить честный вариант, по 25 пенсов каждому, или оставить себе 45 пенсов, отдав второму игроку только пять.
При этом роль партнёра мог выполнять как человек, так и алгоритм.
Получив несправедливое предложение, участники могли отказаться от денег. В таком случае выплату не получал никто. Это позволяло наказать партнёра, но одновременно лишало вознаграждения и самого участника.
Исследователи обнаружили, что нечестные предложения вызывали выраженный гнев независимо от того, кто их делал. В предварительном эксперименте участники оценивали свой гнев в среднем на 3,12 балла из пяти, когда несправедливое предложение поступало от алгоритма. При честном предложении показатель составлял 1,31 балла.
При этом частота отказов от нечестных предложений, поступавших от человека и алгоритма, существенно не различалась.
Получается, что люди способны реагировать на поведение машины так, словно она нарушила негласные правила честного взаимодействия. Само понимание того, что перед ними алгоритм, не устраняет эмоциональную реакцию.
Наказание не всегда приносит удовлетворение
В последующих экспериментах учёные проверили, помогает ли возможность наказать несправедливого партнёра восстановить ощущение справедливости.
В одном из исследований участники, наказавшие партнёра, сообщали о более сильном чувстве восстановленной справедливости, чем те, кто принял несправедливое предложение. Средняя оценка составила 3,57 балла из пяти против 2,63 балла.
В другом эксперименте, в котором участвовали 739 человек, нечестные предложения алгоритма отвергали в 71% случаев. Для предложений от людей этот показатель составил 65,4%.
Эти результаты свидетельствуют, что желание наказать несправедливого партнёра распространяется и на искусственный интеллект. Но они не доказывают, что наказание машины всегда действует так же, как наказание человека, или гарантированно помогает справиться с негативными эмоциями.
В отдельном эксперименте более жёсткая рекомендация исключить нечестного партнёра неожиданно сопровождалась меньшим удовлетворением. Одно из возможных объяснений заключается в том, что участники не всегда воспринимали предложенное наказание как реально исполненное.
Иными словами, для ощущения справедливости может иметь значение не только решение о наказании, но и то, произошло ли что-то в действительности.
Алгоритм не чувствует раскаяния, но люди хотят его увидеть
Ещё одна часть исследования была посвящена реакции людей на сообщения, которые алгоритм мог бы отправить после наказания.
Участники получали разные варианты ответа: от полного отсутствия реакции до сообщения о том, что система признала несправедливость своего поведения и обещает в будущем поступать честнее. В некоторых случаях алгоритм также сообщал об условном эмоциональном расстройстве.
В группе, не получившей никакого сообщения, удовлетворение от наказания оценивалось в среднем на 3,42 балла из пяти. Когда система сообщала, что учтёт ошибку и будет действовать честнее, показатель повышался до 3,62 балла. Сообщение об эмоциональном расстройстве давало оценку 3,57 балла.
Эти результаты позволяют предположить, что людям важно не только наказать нарушителя, но и получить подтверждение того, что несправедливость признана и ситуация изменится.
Однако здесь необходимо сделать оговорку: алгоритм не испытывает раскаяния или эмоциональной боли в человеческом смысле. Соответствующие сообщения являются частью экспериментального сценария, а не свидетельством наличия у машины субъективных переживаний.
Почему это важно в эпоху искусственного интеллекта
Результаты исследования приобретают особое значение по мере того, как алгоритмы участвуют в принятии решений, влияющих на повседневную жизнь. Искусственный интеллект уже используется в сервисах, финансовых продуктах, системах отбора кандидатов и других сферах, где человек может столкнуться с результатом, который считает несправедливым.
Если алгоритм отказывает в услуге, неправильно оценивает заявку или принимает решение, которое пользователь считает ошибочным, у человека может возникнуть желание не просто исправить результат, но и наказать саму систему.
Однако остаётся принципиальный вопрос: кого именно следует считать ответственным за несправедливое решение? Алгоритм, компанию-разработчика, организацию, внедрившую технологию, или человека, который использовал её рекомендации?
Эксперименты с экономическими играми не дают окончательного ответа. Они изучали поведение участников в искусственно созданных ситуациях с небольшими денежными ставками. Поэтому переносить полученные результаты на реальные решения о кредитах, трудоустройстве или медицинской помощи следует с осторожностью.
Кроме того, желание наказать алгоритм не означает, что люди считают его полноценным живым существом. Человек может понимать, что система не испытывает эмоций, и одновременно воспринимать её действия как нарушение правил, за которое кто-то должен ответить.
Что в итоге выяснили учёные
Исследование показывает, что стремление к справедливости может распространяться и на искусственный интеллект. Люди способны испытывать гнев из-за несправедливого поведения алгоритма, отказываться от собственной выгоды ради наказания и искать подтверждение того, что ошибка признана.
Но наказание не всегда приносит ожидаемое удовлетворение, а результаты экспериментов не позволяют утверждать, что алгоритмы обладают сознанием или способны страдать.
Главный вопрос заключается не в том, может ли машина почувствовать вину, а в том, как человеку восстановить справедливость, когда решение принято технологией. По мере распространения искусственного интеллекта этот вопрос будет всё чаще выходить за пределы психологических экспериментов и становиться практической проблемой для компаний, пользователей и общества.
