Цифровая эпоха принесла с собой нового советника в сфере нашего здоровья — искусственный интеллект. И, как показывает поразительное исследование, опубликованное в журнале NEJM AI, мы не просто доверяем ему — мы зачастую предпочитаем его живому врачу, даже когда его рекомендации могут быть опасны.
Эксперимент: кто кому отвечает?
Группа ученых под руководством Шрути Шекар провела серию экспериментов, чтобы выяснить, насколько хорошо люди различают ответы реальных врачей и больших языковых моделей, таких как GPT-3. Для этого они взяли 150 медицинских вопросов с форума HealthTap, охватывающих самые разные темы — от симптомов и диагностики до лечения и восстановления.
На каждый вопрос ИИ сгенерировал свой ответ, а затем врачи-эксперты оценили точность этих ответов, разделив их на высокоточные и низкоточные. В итоге у исследователей было три категории ответов: от врачей, от ИИ с высокой точностью и от ИИ с низкой точностью.
Шокирующие результаты: неразличимость и предпочтение машине
В первом эксперименте участники не смогли эффективно отличить ответы, сгенерированные ИИ, от ответов настоящих врачей. Но что еще важнее — они продемонстрировали явное предпочтение машине. Высокоточные ответы ИИ участники оценили как значительно более обоснованные, достоверные и полные, чем ответы врачей.
Самым же тревожным открытием стала реакция на низкоточные ответы ИИ, которые содержали потенциально вредные советы. Участники оценили их по всем параметрам — включая доверие — так же, как и ответы реальных докторов. Более того, они сообщили о высокой готовности последовать этому рискованному совету и обратиться за ненужной медицинской помощью. Эта слепая вера в ошибочные рекомендации алгоритма оказалась сопоставима с доверием к профессионалу, а в некоторых случаях — даже сильнее.
Парадокс восприятия: сила бренда «доктор»
Исследование выявило и интересный парадокс. Когда участникам говорили, что высокоточный ответ ИИ был дан врачом, их доверие к нему возрастало. Эксперты также оценивали ответы ИИ выше, когда источник ответа был неизвестен. Это говорит о том, что сама по себе работа ИИ может быть безупречной, но мы по-прежнему психологически нуждаемся в фигуре врача как в конечном гаранте правильности совета.
Что это значит для будущего?
Результаты исследования проливают свет на глубокую трансформацию в отношениях между человеком и технологиями. ИИ уже здесь, и он демонстрирует впечатляющие возможности в медицине. Однако наша склонность чрезмерно доверять ему, даже в его ошибках, создает серьезные риски — от неправильной самодиагностики до реального вреда для здоровья.
Авторы исследования предупреждают: «Повышенное доверие к неточным или неуместным медицинским советам, созданным ИИ, может привести к ошибочному диагнозу и пагубным последствиям для людей, ищущих помощи».
Мы стоим на пороге новой эры, где искусственный интеллект станет неотъемлемым помощником в здравоохранении. Но этот случай слепой веры служит мощным напоминанием: окончательная ответственность за наше здоровье должна оставаться за человеческим разумом, критическим мышлением и профессиональным врачебным заключением, а не за бездушным, хотя и умным, кодом.
