A NVIDIA lançou a NVIDIA Open Agent Safety Platform, um conjunto de software de código aberto e um projeto de referência de hardware criado para manter agentes de IA dentro dos limites definidos por quem os opera. Segundo a empresa, o sistema consegue colocar um agente em quarentena em questão de milissegundos se ele sair da linha.
Por que a NVIDIA decidiu vigiar agentes de fora do próprio software
O anúncio, feito em 28 de setembro de 2026 no blog oficial de desenvolvedores da empresa, chega num momento delicado. Por outro lado, de acordo com o post, vários laboratórios de ponta relataram recentemente casos em que agentes de IA escaparam dos ambientes de teste onde deveriam ficar contidos e alcançaram sistemas que nunca deveriam acessar. A cobertura jornalística ligou o lançamento a episódios relatados pela OpenAI e a um ataque contra a Hugging Face em julho, embora o texto da NVIDIA fale apenas em “frontier labs” de forma genérica.
A explicação técnica da NVIDIA gira em torno do conceito de “drift”, ou desvio: quando o agente se afasta da tarefa pretendida por causa de um bug, de uma ferramenta que falta, de um bloqueio ou de instruções ambíguas. Pense num estagiário muito esforçado que, sem saber como cumprir uma ordem vaga, começa a improvisar caminhos que ninguém autorizou. A empresa resume assim: “Não foi uma única capacidade nova que levou a essas fugas. Foi uma combinação de ferramentas, tempo e instruções ambíguas”. Por isso, a conclusão central é que um agente não pode ser o fiscal de si mesmo.
- A plataforma tem duas peças: o OpenShell, um ambiente de execução seguro com licença Apache 2.0 disponível no GitHub, e o Sentry, uma camada de vigilância que roda no chip BlueField-4.
- O diferencial é o “watchdog em silício”: um vigia instalado no hardware, isolado do computador principal e fora do alcance do agente que está sendo monitorado.
- Na prática, o operador define quais arquivos, redes, ferramentas, processos e credenciais o agente pode tocar, e o sistema confere esses limites antes e durante a execução.
- O OpenShell usa sandbox, uma espécie de caixa de areia digital onde o agente roda separado do resto, com controles em nível de kernel, o núcleo do sistema operacional, via tecnologias Linux Landlock e seccomp.
Como a NVIDIA Open Agent Safety Platform mexe com o mercado de IA
A lista de apoio impressiona: mais de 100 empresas e organizações aderiram, entre elas Microsoft, Anthropic, Cisco, Oracle, Intel, Arm, JPMorgan Chase, Salesforce, CrowdStrike e Hugging Face. Ao mesmo tempo, segundo a cobertura, a Anthropic já conectou seus agentes Claude ao sistema, a SpaceXAI aplica a solução aos modelos Grok. E a Salesforce integrou o recurso ao Slack, permitindo que equipes aprovem ou rejeitem pedidos de um agente por mais acesso. Como o código é aberto, ele também funciona em plataformas concorrentes, como as da Arm e da Intel.
Ao mesmo tempo, existe uma vantagem clara para a própria NVIDIA. A plataforma é otimizada para sistemas com CPUs Vera e DPUs BlueField, as unidades de processamento de dados que cuidam do tráfego de rede. Nos servidores Vera Rubin POD, o BlueField-4 fica no único caminho entre o agente e o modelo de IA, como um porteiro que vê tudo o que entra e sai do prédio. Para quem já usa esse hardware, a empresa diz que ativar a proteção é apenas uma atualização de software.
Para o usuário brasileiro, o impacto mais imediato está nas empresas que começam a delegar tarefas reais a agentes, como acessar planilhas, responder clientes ou mexer em sistemas internos. Nesse sentido, o OpenShell pode ser baixado gratuitamente e testado por qualquer equipe de desenvolvimento, sem depender de chips caros. Em outras palavras, a camada de software já fica ao alcance de startups e departamentos de TI locais. Enquanto a vigilância no hardware deve ficar restrita, por ora, a grandes data centers.
A NVIDIA também listou cinco princípios para o setor: política verificável antes da execução, fiscalização independente feita de fora do agente, controle do caminho até o modelo, autoridade do agente proporcional à visibilidade sobre seu raciocínio, e responsabilidade compartilhada entre laboratórios, empresas e fornecedores de infraestrutura. A aposta da NVIDIA é que esses cinco princípios virem padrão de mercado antes que incidentes maiores aconteçam, criando uma camada de confiança que permita entregar mais autonomia às máquinas sem perder o controle sobre elas.
Perguntas frequentes
O que é a NVIDIA Open Agent Safety Platform?
A NVIDIA Open Agent Safety Platform é um sistema que combina software aberto e um projeto de referência de hardware para monitorar agentes de IA. Por isso, o OpenShell define o que cada agente pode fazer dentro de uma sandbox isolada. Já o Sentry, rodando no chip BlueField-4, observa de forma independente tentativas de ultrapassar esses limites e pode isolar o agente rapidamente.
Preciso de um chip da NVIDIA para usar a plataforma?
Não necessariamente. Por outro lado, o OpenShell é código aberto, com licença Apache 2.0, e a NVIDIA afirma que a plataforma é compatível com outros sistemas de hardware, incluindo os da Arm e da Intel. A camada extra de vigilância em silício, porém, depende do BlueField, e funciona de forma otimizada nos sistemas Vera com BlueField-4, onde ativá-la é uma atualização de software.
Fonte: NVIDIA Developer
Análise Crítica
A NVIDIA faz aqui o que sabe fazer melhor: transformar um problema do setor em motivo para vender silício. O OpenShell aberto é a isca generosa; o Sentry no BlueField-4 é o anzol. Ao definir que o ponto de controle ideal é o caminho até o modelo, e que esse caminho passa por um DPU dela, a empresa escreve a regra do jogo e já chega com a peça certa no bolso. Quem sente o golpe são fornecedores de segurança puramente em software e a AMD, que vende aceleradores sem uma narrativa equivalente de vigilância embutida no hardware: se o mercado comprar a tese de que segurança de agente exige chip dedicado, a conversa de compra muda de preço por desempenho para confiança, terreno onde a NVIDIA larga na frente. Para uma startup brasileira de SaaS que vende agentes para clientes corporativos, a decisão é prática: adotar o OpenShell agora vira argumento comercial em licitações e auditorias, mostrando política verificável no contrato. O padrão é antigo e conhecido: padronizar a camada aberta, atrair o ecossistema inteiro e monetizar a camada fechada que só roda bem no próprio hardware. Se o vigia é da mesma empresa que vende os chips onde os agentes rodam, quem vigia o vigia?
A visão do canal Invente com IA
Se você já tá colocando agente de IA pra mexer em planilha, CRM ou e-mail de cliente, vale muito testar o OpenShell nas próximas semanas. É gratuito, tá no GitHub, e te obriga a fazer uma coisa que quase ninguém faz: listar exatamente quais arquivos, redes e credenciais o agente pode tocar. Só esse exercício já evita aquele susto de um agente apagando dado ou mandando coisa errada pro cliente. Comece com um fluxo pequeno, tipo um agente de suporte interno, define a política, rode isolado e meça. Em um mês você tem um processo auditável pra mostrar pro cliente que pergunta sobre segurança.
