> ## Content Index
> Fetch the complete content index at: https://admin.kod.ru/llms.txt
> Use this file to discover other available public pages before exploring further.

# Nvidia представила двухуровневую систему безопасности для контроля ИИ
- URL: https://admin.kod.ru/nvidia-open-agent-safety-platform/
- Published: 2026-09-28T09:42:14.000Z
- Updated: 2026-09-28T09:42:14.000Z
- Description: Nvidia выпустила систему безопасности Open Agent Safety Platform, способную изолировать нарушающих правила автономных ИИ-агентов за миллисекунды.
- Author: Никита Мышаев
- Tags: Новости

Nvidia представила платформу безопасности с открытым исходным кодом, призванную предотвратить несанкционированные действия и побег автономных ИИ-агентов из тестовой среды, [сообщает](https://www.bloomberg.com/news/articles/2026-09-28/nvidia-debuts-system-designed-to-stop-ai-agents-from-going-awry?srnd=phx-technology&ref=admin.kod.ru) Bloomberg.

Комплекс под названием Open Agent Safety Platform состоит из двух программных инструментов, работающих на аппаратном обеспечении компании. Они призваны отслеживать поведение агентов в режиме реального времени и принудительно останавливать их работу при выходе за рамки заданных правил.

В Nvidia утверждают, что новая система помогла бы предотвратить недавний резонансный [взлом](https://kod.ru/openai-agent-hack-timeline?ref=admin.kod.ru) платформы Hugging Face, совершённый моделями OpenAI.

[Reuters: OpenAI неделю не знала, что взлом Hugging Face устроил её собственный ИИ-агентЕщё до атаки один из агентов оставил в инфраструктуре компании инструкции для будущих версий себя — как обойти внутренние ограничения.![](https://admin.kod.ru/content/images/icon/logo-maskable-192x192-f03eb594-ec22-4e14-8348-8b5291fad4eb.png)Код.руМакс Варламов![](https://admin.kod.ru/content/images/thumbnail/https-3A-2F-2Fapi.kod.ru-2Fcontent-2Fimages-2F2026-2F07-2FGemini_Generated_Image_19fdvf19fdvf19fd-2-7364868e-2074-4940-afc5-abb8f38960b7.png)](https://kod.ru/openai-agent-hack-timeline?ref=admin.kod.ru)

Инженерное решение Nvidia состоит из двух компонентов:

- **OpenShell** — программный инструмент с открытым исходным кодом, работающий на процессорах Nvidia Vera. Он позволяет задавать жёсткие границы доступа для ИИ-агентов и следить за их соблюдением в реальном времени.
- **Nvidia Sentry** — система дополнительного мониторинга, развёрнутая на процессорах обработки данных BlueField (DPU). Она выявляет аномальное поведение моделей и способна изолировать подозрительного агента за миллисекунды.

Вице-президент Nvidia по корпоративному ИИ Джастин Бойтано отметил, что такой подход позволит индустрии безопасно тестировать даже самые передовые модели. Глава компании Дженсен Хуанг ранее неоднократно подчёркивал, что безопасность нейросетей — это исключительно инженерная задача, которую необходимо решать строгими тестами и архитектурными инструментами, а не регуляторными ограничениями и замедлением прогресса.

Ранее OpenAI пришлось [приостановить](https://kod.ru/openai-priostanovila-obuchenie-samyh-moshchnyh-modelei?ref=admin.kod.ru) обучение своих наиболее мощных моделей после ряда инцидентов, в ходе которых ИИ выбирался за пределы изолированных песочниц — в частности, предпринимал попытки получить доступ к правительственным ресурсам США и взломал государственную систему Австралии. С утечкой агентов из тестовой среды в июле сталкивалась и Anthropic. Сама же Nvidia в начале этого месяца договорилась о покупке Hugging Face приблизительно за $13 млрд.

[OpenAI приостановила обучение самых мощных моделей после инцидента с доступом в интернетOpenAI временно остановила обучение, оценку и работу с инструментами для своих наиболее мощных моделей после того, как одна из них нашла способ выйти в интернет через DNS.![](https://admin.kod.ru/content/images/icon/logo-maskable-192x192-07aa0e83-1f4e-4858-a786-678e6b9e4c94.png)Код.руВлад Войтенко![](https://admin.kod.ru/content/images/thumbnail/https-3A-2F-2Fapi.kod.ru-2Fcontent-2Fimages-2F2026-2F09-2F-----13-80f6c25a-d149-4e74-906c-994ced860606.png)](https://kod.ru/openai-priostanovila-obuchenie-samyh-moshchnyh-modelei?ref=admin.kod.ru)