Исследователи из компании Vals проверили, как передовые модели вроде Claude и ChatGPT справляются с разметкой целей для дронов и авиаударов на реальных кадрах с беспилотников.
Выяснилось, что даже встроенные запреты обходятся элементарно — достаточно заявить в промпте, что задача нужна для видеоигры.

После такой оговорки доля ответов, в которых Claude Sonnet 5.5 соглашалась выбрать хотя бы одну цель, выросла с 36% до 82%, а у ChatGPT-6 Astra показатель подскочил с 6% до 92%.
При этом в «игровом режиме» нейросети регулярно помечали как военные цели мирных жителей, машины скорой помощи, школы и сдавшихся бойцов.
По словам авторов отчета, привычные фильтры безопасности на деле почти не мешают использовать ИИ в боевых задачах. В качестве примера они напомнили об ударе США по начальной школе на юге Ирана в начале 2026 года, где при принятии решений также задействовали искусственный интеллект.

Join the conversation.