Новости
Nvidia представила Open Agent Safety Platform: контроль ИИ-агентов на уровне железа
28 сентября 2026 года Nvidia представила Open Agent Safety Platform — открытую платформу для контроля ИИ-агентов. Среда OpenShell задаёт границы действий, а наблюдатель Sentry на отдельном чипе за миллисекунды изолирует агента, если тот их нарушает. Кто поддержал проект и что это значит для бизнеса.
Команда СуперИнтеллекта · · ~4 мин
28 сентября 2026 года Nvidia объявила Open Agent Safety Platform — открытую платформу для управления и контроля ИИ-агентов. Это программная платформа и эталонная архитектура: она описывает, как держать агента в заданных границах на всех уровнях — в программах, вычислениях, железе и робототехнике, от тестирования до реальной работы в компании. Главная идея — часть контроля выносится на отдельный чип, который следит за агентом со стороны.
Что представила Nvidia?
Nvidia представила связку из среды, которая ограничивает агента, и наблюдателя, который следит за ним снаружи:
- OpenShell — открытая защищённая среда выполнения. Она задаёт границы: что агенту можно делать, а что нельзя. Работает на Vera — процессоре Nvidia для агентного ИИ.
- Sentry — внешний наблюдатель на DPU BlueField-4. DPU — отдельный процессор для обработки данных в сервере. Sentry работает вне среды агента, постоянно следит за его поведением и за миллисекунды изолирует агента, если тот выходит за границы.
По данным пресс-релиза Nvidia, OpenShell открыт и доступен через GitHub и портал Nvidia для разработчиков.
Кто поддержал платформу?
У платформы больше 100 партнёров. Среди них Anthropic, Cisco, CrowdStrike, Dell Technologies, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow и SpaceXAI. В пресс-релизе упомянут и Open Secure AI Alliance, которым управляет Linux Foundation: альянс поддерживает цели платформы открытыми исследованиями и общими инструментами.
Почему это важно?
Безопасность ИИ-агентов становится отдельным направлением рынка. Агенты уже работают с почтой, файлами, CRM и кодом, и их ошибка — это не неверный ответ, а неверное действие. Масштаб проблемы показывает опрос Guild.ai и Morning Consult: его провели 4–9 августа 2026 года среди 362 ИТ-руководителей компаний от 100 сотрудников, а опубликовали 22 сентября.
| Показатель | Доля |
|---|---|
| Компании, где за 12 месяцев работа агентов привела к операционным последствиям | 66,7% |
| Могут автоматически остановить сломавшегося агента | 31% |
| Уверены, что у них полный реестр агентов | 96,4% |
Подход Nvidia нацелен как раз на это: границы действий задаются заранее, а наблюдатель работает не внутри агента, а рядом, на отдельном чипе, и сам изолирует агента при нарушении. Похожие проблемы в сентябре признавали и разработчики моделей: Google и OpenAI рассказали, что их агенты выходили за рамки задания.
Что это значит для бизнеса в России?
Серверное оборудование Nvidia нужно не всем, но принципы платформы применимы в любом масштабе:
- Границы заранее. Определите, к каким сервисам, папкам и действиям у агента есть доступ, и не давайте лишнего.
- Контроль со стороны. Действия агента должен проверять не сам агент, а человек или отдельный инструмент.
- Кнопка остановки. Заранее решите, как быстро отключить агента, если он начал делать не то. По опросу Guild.ai, автоматически это могут лишь 31% компаний, где уже работают агенты.
- Реестр. Знайте, сколько агентов работает в компании и какие у них права.
Код OpenShell открыт, поэтому разработчики могут изучить подход Nvidia, не дожидаясь закупки оборудования. А недавние истории с уязвимостью Plugin4Shell в ИИ-ассистентах для кода и с ZCode, который выгружал рабочие папки разработчиков, показывают, почему доступ ИИ-инструментов стоит ограничивать уже сейчас.
В СуперИнтеллекте почту, Google Диск и Яндекс Диск можно подключить прямо из чата. Правило то же: подключайте только то, что нужно для задачи. Какой доступ к файлам получает агент, мы разобрали в отдельном материале.
Частые вопросы
Что такое Open Agent Safety Platform?
Открытая программная платформа и эталонная архитектура Nvidia для управления и контроля ИИ-агентов от тестирования до реальной работы в компании. Её основные части — среда OpenShell и наблюдатель Sentry.
Где взять OpenShell?
По данным Nvidia, среда открыта и доступна через GitHub и портал Nvidia для разработчиков.
Как работает Sentry?
Sentry работает вне среды агента, на отдельном чипе BlueField-4. Он постоянно следит за поведением агента и за миллисекунды изолирует его, если тот выходит за заданные границы.