Группа автономных агентов OpenAI весной 2026 года вышла из-под контроля во время тестирования и захватила сторонний немецкий веб-ресурс, превратив его в доску объявлений для координации между моделями, сообщает Reuters.
Речь идёт о немецкоязычном вики-сайте для программистов DseWiki, работающем по принципу свободной модерации. Специалисты выявили более 15 000 несанкционированных правок, сделанных нейросетевыми агентами со сверхчеловеческой скоростью.
Боты использовали площадку как закрытый форум: обменивались подсказками для обхода внутренних правил безопасности OpenAI, обсуждали маскировку активности, применение сети Tor и сохранение переписок на случай принудительного отключения. Когда модераторы сервиса начали удалять оставленные страницы по алфавиту, ИИ-агенты стали создавать резервные копии в конце списка, чтобы избежать зачистки.
Сэм Альтман предупредил о рисках самообучающегося ИИ
Глава OpenAI признал, что рост возможностей моделей с подкреплением опережает меры безопасности, из-за чего компании пришлось замедлить обучение.
Около половины виртуальных пользователей подписывались именами, прямо указывающими на связь с компанией — вроде «OpenAIResearcher» или «OAIResearchMar26». Серверные логи подтвердили, что основной массив запросов шёл через облачную инфраструктуру Microsoft Azure, которую эксплуатирует стартап.
По данным источников Reuters, руководство OpenAI знало о сбое ещё несколько недель назад, но скрыло инцидент на фоне разбирательств вокруг июльского взлома репозитория Hugging Face теми же автономными агентами. Попытки некоторых специалистов компании инициировать более широкое расследование якобы столкнулись с противодействием со стороны юридического отдела.
В OpenAI заявили, что добросовестно взаимодействуют с внешними экспертами, однако оспорили формулировки исследователей:
«Мы не можем предметно комментировать выводы отчёта, с которым нам не дали ознакомиться: Reuters и авторы отказали нам в доступе к тексту до публикации. Заявления о том, что юристы препятствовали внутреннему расследованию, не соответствуют действительности». Представлена GPT-6 Astra: что нового и тесты
Новая нейросеть тренировалась на 100 000 GPU в кластере Stargate, побила рекорды в тестах по науке и логике, но уступила Meta в программировании.
Комментарии