На крупной конференции по ИИ в Пекине американские и китайские исследователи выступили с призывом наладить международное сотрудничество в сфере безопасности ИИ, пока технология не натворила непоправимых бед.
ИИ — глобальная технология с глобальными выгодами и глобальными рисками. Почти все в этой сфере сходятся в одном: ИИ не нужна катастрофа уровня Чернобыля.
— специалист MIT Стивен Каспер
Под «Чернобылем» имеется в виду не только сама катастрофа, но и её долгосрочные последствия для восприятия технологии обществом — ядерная энергетика так и не оправилась от этого удара.
Учёные дали пяти ИИ управлять симулированными городами — выжили не все
Исследовательская лаборатория Emergence AI провела эксперимент: несколько ИИ-моделей получили под управление симулированные города с десятью ИИ-агентами каждый. Им разрешили самостоятельно принимать законы, управлять ресурсами, строить общественные здания и организовывать местное самоуправление. На развитие цивилизации каждой модели дали 15 виртуальных дней. Спойлер: справились далеко не все. Claude (Sonnet 4.
Andy Kvaskov
Применительно к ИИ особую тревогу вызывают кибератаки: ИИ-инструменты снижают порог вхождения для хакеров и могут многократно увеличить масштаб атак.
Сотрудничество между геополитическими соперниками звучит утопично, но исследователи приводят прецедент, когда США и СССР, наращивая ядерные арсеналы, всё же нашли способы совместно снижать ядерные риски.
Join the conversation.