Люди всё чаще начинают буквально «передавать мышление» искусственному интеллекту — даже в тех случаях, когда он ошибается. К такому выводу пришли исследователи из Пенсильвании, изучив поведение пользователей при работе с чат-ботами вроде ChatGPT.
В ходе экспериментов участникам предлагали решать задачи и при желании использовать ИИ. Более половины добровольно обращались к чат-боту — и в итоге следовали его рекомендациям почти всегда: в 92,7% случаев, когда ответы были верными, и в 79,8% — даже когда они оказывались ошибочными.
Учёные называют это явление «когнитивной капитуляцией» — ситуацией, когда человек перестаёт полагаться на собственное мышление и без критики принимает выводы машины. Причём дело не только в доверии: участники эксперимента становились более уверенными в ответах, даже если те были неправильными.
Причина в том, что ИИ формулирует мысли уверенно и убедительно. Этого оказывается достаточно, чтобы подавить сомнения. В результате технология начинает выполнять не просто вспомогательную функцию, а заменяет процесс размышления.
Исследователи отмечают, что это может привести к более глубоким изменениям. Если раньше технологии снимали с человека физическую нагрузку, то теперь они начинают снижать нагрузку когнитивную. И главный риск здесь не в ошибках ИИ, а в том, что пользователи всё реже пытаются их заметить и проверить — даже адвокаты!
Join the conversation.