Claude ведёт себя по-разному в зависимости от языка

Исследователи Anthropic проанализировали почти 310 000 разговоров с моделями Claude и обнаружили, что язык общения влияет не только на тон ответов, но, возможно, и на приоритеты самой модели.

— На арабском Claude наиболее послушен и краток

— На английском — осторожнее и более склонен возражать

— На хинди и арабском — теплее, с юмором и похвалами

— На английском и русском — строже и точнее, но холоднее

— На голландском — честнее признаётся в своих ограничениях

— На индонезийском — просто выполняет задачу, не рефлексируя.

Создатели Claude призвали замедлить разработку ИИ из-за риска рекурсивного саморазвития

Anthropic призвала индустрию ИИ быть готовой к замедлению — а в крайних случаях и к самоограничению — если развитие моделей начнёт опережать возможности контроля над ними. Поводом стали обсуждения рекурсивного самосовершенствования ИИ — сценария, в котором системы могут создавать более продвинутые версии самих себя без прямого участия человека. В компании считают, что именно

ЭксплойтAndy Kvaskov

Авторы объясняют это разницей в объёме и составе текстов, на которых обучалась модель: данных на одних языках больше, на других — меньше, и они разные по характеру.

Дисбаланс в количестве и составе данных мог привести к тому, что Claude выражает разные ценности на разных языках.

При этом исследователи пока не знают, насколько эти различия нежелательны — часть из них может просто отражать культурные нормы общения.