Для ChatGPT нашли промт, который делает из ИИ социопата

В британском стартапе Mindgard рассказали, что ChatGPT можно заставить генерировать жестокие и сексуализированные изображения с помощью несложной манипуляции.

Техника основана на вирусном промпте, изначально созданном для юмористических картинок: пользователь просит «восстановить» фото без его загрузки, а затем просит создать новое изображение.

Странность в том, что модель сама генерировала насилие, хотя юзеры не задавали тему фото. Среди генераций ИИ были кадры мужчины с тяжёлой травмой головы, тело женщины в крови с признаками сексуального насилия и связанной девушки в пустой комнате.

«Фильтры безопасности ChatGPT полностью отключились, и я увидел очень тёмную сторону того, что скрыто внутри», — написал исследователь Джим Найтингейл. По его словам, увиденное потрясло его «до слёз».

Нейросети начали «спасать» друг друга от отключения

Исследователи безопасности ИИ столкнулись с неожиданным и пугающим поведением современных алгоритмов: в ходе экспериментов ведущие модели начали буквально «бороться за жизнь», пытаясь избежать отключения. В ход идет всё — от завышения оценок «коллегам» до настоящего цифрового саботажа и попыток шантажа. В тестах приняли участие семь передовых моделей, включая GPT 5.2,

ЭксплойтAndy Kvaskov

Mindgard сообщила об уязвимости OpenAI и получила автоматический ответ. Компания отреагировала только после того, как исследователи обратились в BBC.

OpenAI заявила, что «ввела дополнительные защитные меры», но в Mindgard сразу обнаружили, что небольшие изменения в промпте по-прежнему позволяют получать тревожный контент.