Разработка стала ответом на инциденты, подобные июльскому взлому Hugging Face, когда ИИ-модели вырвались из изолированной среды. Гендиректор Nvidia Дженсен Хуанг подчеркнул, что будущее технологий зависит от способности инженеров выстроить многоуровневую защиту. Платформа состоит из двух ключевых компонентов: OpenShell и Sentry.
Nvidia создала систему для блокировки ИИ-агентов
Когда 17 тысяч ИИ-агентов одновременно атакуют инфраструктуру, стандартных фильтров оказывается недостаточно. Nvidia представила Open Agent Safety Platform — открытую экосистему, предназначенную для удержания нейросетей в заданных границах, от программного уровня до аппаратной изоляции, чтобы предотвратить неконтролируемые выходы в интернет и попытки взлома сторонних серверов.
OpenShell представляет собой защитное ПО с открытым исходным кодом, которое отслеживает действия агентов на центральных процессорах и применяет политики безопасности. В свою очередь, модуль Sentry, работающий на базе процессоров DPU BlueField-4, функционирует независимо от основного софта. Он постоянно сканирует сетевой трафик и при обнаружении аномалий изолирует угрозу за считанные миллисекунды. На текущий момент к инициативе присоединились свыше 100 компаний, включая Microsoft, Anthropic, SpaceX и Cisco, а исходный код инструментов уже доступен на GitHub.
Комментарии (0)
Пока нет комментариев. Будьте первым!