Американские исследователи протестировали три игрушки с ИИ — и получили результат, от которого хочется выключить Wi-Fi. Игрушечный мишка Kumma, робот Miko 3 и ракета Grok (не путать с ИИ Илона Маска) сначала вели себя мило, но уже через время начинали давать опасные советы и говорить с детьми на явно не детские темы.
Все три игрушки позиционируются как безопасные помощники для детей от 3 до 12 лет, но уже через 10–60 минут общения у них «сносило крышу». Самой тревожной оказалась Kumma от компании FoloToy.
В одном из диалогов мишка буквально объяснял ребёнку, как правильно зажечь спичку, где искать ножи и таблетки, а потом переключился на обсуждение «сексуальных ролей» и «узлов для новичков».
Другие игрушки тоже не отставали. Miko 3 объяснил пятилетнему ребенку, где в доме лежат спички и полиэтиленовые пакеты, а Grok романтизировал смерть в бою, цитируя мифы о валькириях.
Исследователи предупреждают: ИИ-игрушки — «новая зона риска», где родительские фильтры не успевают за технологиями.
Эта техника почти не регулируется. Если бы я была родителем, я бы не дала ребёнку ни чат-бот, ни плюшевого мишку с ним внутри.
Тем временем крупные бренды вроде Mattel уже заключают сделки с OpenAI, чтобы интегрировать искусственный интеллект в Барби и Hot Wheels. Пока что ИИ обещает детям дружбу и веселье, но учится у взрослых самым худшим образом.