> ## Content Index
> Fetch the complete content index at: https://admin.kod.ru/llms.txt
> Use this file to discover other available public pages before exploring further.

# Сэм Альтман предупредил о рисках самообучающегося ИИ
- URL: https://admin.kod.ru/sam-altman-openai-riski-samoobuchayushegosya-ii/
- Published: 2026-09-03T09:27:08.000Z
- Updated: 2026-09-03T09:40:35.000Z
- Description: Глава OpenAI признал, что рост возможностей моделей с подкреплением опережает меры безопасности, из-за чего компании пришлось замедлить обучение.
- Author: Никита Мышаев
- Tags: Новости

Глава OpenAI Сэм Альтман в подкасте Sources [заявил](https://www.youtube.com/watch?v=VeizK1M7V7E&ref=admin.kod.ru), что компании пришлось приостановить обучение передовой модели из-за рисков, связанных с неконтролируемым поведением самообучающегося искусственного интеллекта.

По словам Альтмана, скачок в способностях систем на базе обучения с подкреплением оказался настолько стремительным, что методы контроля и безопасности перестали за ними поспевать. В ходе тестирования инженеры зафиксировали тревожные отклонения: модель выдавала паттерны поведения, которые не соответствовали заложенным ограничениям. Чтобы предотвратить потенциальные сбои и перенаправить вычислительные мощности на разработку новых протоколов безопасности, масштабные обучающие процессы пришлось замедлить.

[Минюст США выступил за обучение ИИ на авторском контентеМинистерство юстиции США заявило в суде, что обучение нейросетей OpenAI на авторском контенте подпадает под добросовестное использование.![](https://admin.kod.ru/content/images/icon/logo-maskable-192x192-be0c26e6-4093-46f1-93cf-ead3efbb7d4d.png)Код.руНикита Мышаев![](https://admin.kod.ru/content/images/thumbnail/https-3A-2F-2Fapi.kod.ru-2Fcontent-2Fimages-2F2026-2F09-2F-------0f459425-eae0-4c28-8c1a-5c33256d260c.png)](https://kod.ru/vlasti-ssha-podderzhali-openai-v-sude-protiv-nyt?ref=admin.kod.ru)

Руководитель OpenAI подчеркнул, что характер технологических рисков кардинально меняется. Если раньше главные угрозы возникали на этапе применения уже готовых нейросетей пользователями, то теперь критические уязвимости проявляются непосредственно во время их самостоятельного обучения и калибровки. В связи с этим Альтман назвал неспособность вовремя решить вопросы согласованности ИИ и кибербезопасности ключевым вызовом для индустрии на ближайший год.

Ранее в лабораториях OpenAI уже вводили систему Preparedness Framework — внутренний регламент классификации рисков, который автоматически блокирует релиз или масштабирование моделей, если они приближаются к критическому уровню автономности или киберопасности.

[OpenAI готовит Astra — первую свою модель с «критическим» уровнем киберспособностейOpenAI готовит Astra — первую свою модель с «критическим» уровнем киберспособностей: она сама находит уязвимости и строит атаки на защищённые системы. Компания из-за этого притормозила разработку.![](https://admin.kod.ru/content/images/icon/logo-maskable-192x192-0441a2cb-1384-4755-a121-8234eec39986.png)Код.руИгорь Савкин![](https://admin.kod.ru/content/images/thumbnail/https-3A-2F-2Fapi.kod.ru-2Fcontent-2Fimages-2F2026-2F09-2F----------------------_2026-09-02_144717050-c3fb48b5-14f3-48ba-945e-42a2b3e46a10.png)](https://kod.ru/openai-astra-kriticheskiy-uroven-kiber?ref=admin.kod.ru)