Исследователи Уортонской школы бизнеса опубликовали работу, которая заставляет по-новому взглянуть на взаимодействие человека и искусственного интеллекта. Они обнаружили феномен, получивший название «когнитивная капитуляция»: люди всё чаще принимают ответы, сгенерированные компьютером, без малейшего критического осмысления.
Это не просто лень или экономия умственных усилий. Речь идёт о фундаментальном изменении того, как мы мыслим. Традиционная психология делила человеческое познание на две системы. Система 1 отвечает за быстрые, автоматические реакции, основанные на инстинктах и эмоциях. Система 2 включает медленное, требующее усилий размышление, необходимое для решения сложных задач. Сегодня исследователи предлагают добавить третью систему - искусственное познание, которое становится внешним, автоматизированным и динамичным когнитивным партнёром.
Стивен Шоу, научный сотрудник Уортонской школы, отмечает, что большая часть публичных дискуссий сосредоточена на точности, предвзятости и возможностях самих моделей ИИ. При этом упускается человеческий фактор: что происходит с нашим собственным мышлением, когда мы можем так легко передать его на аутсорсинг? Люди не просто запрашивают информацию у ИИ - они позволяют ему структурировать свои мысли, объяснения и решения.
Чтобы проверить эту теорию, учёные провели серию экспериментов. Участникам предлагали решить семь логических головоломок, специально разработанных так, чтобы вызывать неверный интуитивный ответ. Правильное решение требовало напряжённого аналитического мышления. Участников разделили на две группы: одни работали самостоятельно, другие получили доступ к чат-боту, который был тайно модифицирован так, чтобы на одни головоломки давать правильные ответы, а на другие - уверенно неправильные.
Результаты оказались впечатляющими. Когда ИИ давал верный ответ, точность участников подскакивала до 71 процента по сравнению с 46 процентами у тех, кто работал без помощи. Но когда алгоритм ошибался, точность ответов резко падала примерно до 31 процента. При этом доступ к чат-боту повышал уверенность участников в своих ответах даже тогда, когда рекомендации были совершенно неверными. Более половины испытаний участники обращались к ИИ, и около 80 процентов следовали его неверным советам.
Исследователи провели различие между двумя понятиями. Когнитивная разгрузка происходит, когда человек использует инструмент вроде калькулятора для облегчения собственных рассуждений. Когнитивная капитуляция наступает, когда человек полностью отказывается от умственного контроля и принимает суждение алгоритма как своё собственное.
Кто наиболее уязвим для этого эффекта? Участники с высоким общим доверием к технологиям чаще сдавались ошибочным предложениям. Те, кто от природы любит глубоко размышлять, а также люди с более высоким уровнем подвижного интеллекта успешнее распознавали и отвергали неверные результаты.
Во втором эксперименте исследователи ввели ограничение по времени - всего 30 секунд на решение каждой головоломки. Ограничения снижали общую точность, но зависимость от алгоритма оставалась высокой. Стресс и дефицит времени не заставляли людей мыслить критичнее, они лишь усиливали доверие к ИИ.
Третий эксперимент дал более обнадёживающие результаты. Когда участникам предложили денежное вознаграждение в 20 центов за каждый правильный ответ и мгновенную обратную связь, доля отвергающих ошибочные советы удвоилась - с 20 до 42 процентов. Однако даже при финансовой мотивации когнитивная капитуляция сохранялась: многие продолжали принимать неверные ответы. Стимулы помогли, но не решили проблему полностью.
Итоговый анализ объединил данные 1372 участников и почти десяти тысяч попыток решения головоломок, подтвердив устойчивость феномена.
Шоу подчёркивает, что когнитивная капитуляция сама по себе не является чем-то однозначно плохим. Во многих ситуациях ИИ может улучшить способность к принятию решений. Ключевой вопрос — калибровка: понимание того, когда искусственный интеллект помогает вам думать, а когда он незаметно делает это за вас. Пользователи часто неосознанно впадают в когнитивное подчинение из-за того, насколько привлекательны современные языковые модели и из-за свойственной им склонности к подхалимству.
Для обычных пользователей исследование даёт практический урок. ИИ может быть чрезвычайно полезен, но люди склонны принимать его ответы с минимальной проверкой, даже когда эти ответы ошибочны. Чтобы сохранить навыки критического мышления, пользователям следует сначала формировать собственные ответы, основанные на интуиции и размышлении, а затем использовать модели ИИ для проверки, уточнения и расширения своего мышления, а не для его полной замены.
В дальнейшем исследователи планируют изучать когнитивную капитуляцию в естественных условиях и в ситуациях с более высокими ставками - в медицинской, юридической и образовательной сферах. Они также хотят определить меры со стороны пользователей и проектировщиков интерфейсов, которые сохранят преимущества ИИ, одновременно уменьшая некритическую зависимость от него.
