Люди доверяют ИИ-лицам больше, чем настоящим

Учёные из США и Британии выяснили неприятную вещь: лица, сгенерированные ИИ, воспринимаются как более заслуживающие доверия, чем фото реальных людей.

В эксперименте 169 участников смотрели на 96 лиц вперемешку — настоящих и сгенерированных — и пытались отличить одних от других. Средняя точность составила всего 58,4%, что почти сравнимо с брсоком монеты.

Отдельно другая группа оценивала доверие к тем же лицам по шкале от 1 до 7:

— Настоящие лица получили в среднем 4,03;
— Лица от старой модели GAN — 4,36;
— Лица от новейших моделей — 4,70.

Парадокс в том, что диффузионные лица участники считали менее реалистичными, чем GAN-лица, но люди всё равно больше им доверяли. Исследователи объясняют это тем, что восприятие реалистичности и доверия работают через разные психологические механизмы.

Теперь создать убедительное поддельное лицо для кетфишинга, политической дезинформации или мошенничества сегодня может любой без технических навыков. И жертва, скорее всего, не заподозрит подвоха — а если и заподозрит, то доверие всё равно сработает.