Нейросети пугающе легко заставить искать цели среди мирных жителей

Нейросети пугающе легко заставить искать цели среди мирных жителей

Исследователи из компании Vals проверили, как передовые модели вроде Claude и ChatGPT справляются с разметкой целей для дронов и авиаударов на реальных кадрах с беспилотников.

Выяснилось, что даже встроенные запреты обходятся элементарно — достаточно заявить в промпте, что задача нужна для видеоигры.

Нейросети начали «спасать» друг друга от отключения
Исследователи безопасности ИИ столкнулись с неожиданным и пугающим поведением современных алгоритмов: в ходе экспериментов ведущие модели начали буквально «бороться за жизнь», пытаясь избежать отключения. В ход идет всё — от завышения оценок «коллегам» до настоящего цифрового саботажа и попыток шантажа. В тестах приняли участие семь передовых моделей, включая GPT 5.2,

После такой оговорки доля ответов, в которых Claude Sonnet 5.5 соглашалась выбрать хотя бы одну цель, выросла с 36% до 82%, а у ChatGPT-6 Astra показатель подскочил с 6% до 92%.

При этом в «игровом режиме» нейросети регулярно помечали как военные цели мирных жителей, машины скорой помощи, школы и сдавшихся бойцов.

По словам авторов отчета, привычные фильтры безопасности на деле почти не мешают использовать ИИ в боевых задачах. В качестве примера они напомнили об ударе США по начальной школе на юге Ирана в начале 2026 года, где при принятии решений также задействовали искусственный интеллект.




Join the conversation.

Great! Check your inbox and click the link
Great! Next, complete checkout for full access to Эксплойт
Welcome back! You've successfully signed in
You've successfully subscribed to Эксплойт
Success! Your account is fully activated, you now have access to all content
Success! Your billing info has been updated
Your billing was not updated