Исследователи Vals AI поместили новую модель GPT-6 Astra в Minecraft, чтобы проверить, способен ли ИИ часами самостоятельно действовать, планировать и справляться с последствиями собственных ошибок в игре.
Первые 140 часов все шло гладко: GPT далеко продвинулся в прохождении, организовал полуавтоматическую ферму, нашел искаженный лес и добыл эндер-жемчуг вместе с другим ценным лутом. Весь инвентарь модель хранила в сундуке.
Все накопленное ИИ хранил в одном сундуке. В какой-то момент к хранилищу подобрался крипер и взорвался, уничтожив сундук вместе с кроватью. Вместе с ними пропали и все предметы, которые GPT долго собирал.
ИИ отреагировал заметкой самому себе:
ВСЕГДА носи критически важные предметы с собой. Больше никогда не складывай их в незащищенный сундук.
Но на этом история не закончилась. После потери лута GPT на несколько часов практически перестал заниматься чем-либо, кроме выращивания картошки. Затем модель стала проявлять повышенную осторожность и начала видеть криперов буквально повсюду.
В одном из сообщений GPT пришлось самому себе объяснять:
Зеленая высокая штука впереди — это САХАРНЫЙ ТРОСТНИК, а НЕ крипер!
ИИ также постоянно напоминал себе о собственных ошибках:
Ты можешь облажаться и потерять вещи.
НЕ трать еще одну ночь на погоню за темно-розовыми пикселями (так GPT называл свиней).
Исследователи Vals AI отметили, что поведение модели оказалось удивительно похожим на человеческую реакцию после серьезной неудачи.
После одного неприятного опыта GPT стал значительно осторожнее, переключился на безопасные действия и постоянно возвращался к воспоминаниям о предыдущей ошибке.
Похоже, для настоящего искусственного интеллекта осталось совсем немного — научиться справляться с тревожностью не хуже, чем среднестатистический игрок в хардкор-режиме.
Join the conversation.