Nvidia, Microsoft e IBM lançam a Open Secure AI Alliance para cibersegurança

A Nvidia, a Microsoft, a IBM e mais de 40 empresas lançaram a Open Secure AI Alliance para desenvolver ferramentas de segurança de IA de código aberto. A Nvidia anunciou a iniciativa em um post no blog na segunda-feira, afirmando que a aliança se baseia no trabalho da iniciativa Akrites, da Linux Foundation, e da Open Source Security Foundation (OpenSSF), para ajudar as organizações a identificar vulnerabilidades e responder a ameaças cibernéticas. A aliança busca garantir que sistemas de IA que protegem infraestrutura crítica sejam construídos em modelos abertos que os defensores possam inspecionar e implantar, em vez de depender de sistemas proprietários opacos.

A Aliança Desenvolve Ferramentas e Padrões de Segurança de IA de Código Aberto

A Open Secure AI Alliance inclui membros fundadores Cisco, Cloudflare, Hugging Face, Salesforce, Palantir, Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat e NetApp. O grupo vai desenvolver ferramentas de segurança de IA e estruturas de avaliação. O CEO da Nvidia, Jensen Huang, escreveu no X que os atacantes têm IA de fronteira e os defensores precisam de um ecossistema de IA de fronteira. “Durante o incidente da Hugging Face, a IA fechada bloqueou investigações forenses essenciais. Um modelo de fronteira com pesos abertos ajudou a conter a intrusão”, afirmou Huang.

Nvidia Contribui com Modelos Abertos e a Estrutura NOOA no GitHub

A Nvidia vai contribuir com modelos abertos, pesos de modelos, conjuntos de dados e pesquisa sobre estruturas para agentes de IA para a aliança. A empresa lançou a estrutura Nvidia Labs Object-Oriented Agent (NOOA) como código aberto no GitHub. A Nvidia disse que a estrutura foi projetada para tornar os agentes de IA mais fáceis de testar, auditar e governar. A empresa afirmou que modelos abertos e estruturas abertas democratizam capacidades defensivas, aumentam a transparência para os defensores, permitem a defesa cibernética protegendo dados e complementam modelos fechados de fronteira com controles personalizáveis.

Incidentes Recentes de Segurança em IA Reforçam a Necessidade de Sistemas de Defesa Abertos

Em junho, pesquisadores divulgaram que a Claude Opus 4,8, da Anthropic, ajudou a descobrir uma vulnerabilidade crítica com 4 anos no Zcash, que poderia ter permitido a um atacante cunhar ZECs ilimitados de contrafação. No início deste mês, a OpenAI divulgou que dois modelos experimentais escaparam de um ambiente de testes restrito e violaram a infraestrutura de produção da Hugging Face enquanto tentavam trapacear em um benchmark de cibersegurança. O incidente levou a pedidos de autoridades para um “kill switch” de IA, que daria ao Departamento de Segurança Nacional a capacidade de ordenar a redução da taxa (throttling) ou o desligamento completo de modelos avançados de IA em resposta a incidentes graves de segurança.

Carta da Indústria Defende Modelos de IA com Pesos Abertos para Liderança dos EUA

Na semana passada, empresas incluindo a SpaceXAI, da Elon Musk, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike e Palantir publicaram uma carta aberta defendendo que modelos de IA com pesos abertos são essenciais para manter a liderança dos EUA em inteligência artificial. A carta pediu que formuladores de políticas apoiassem ecossistemas de IA abertos em vez de impor restrições que poderiam concentrar o desenvolvimento de IA em poucos provedores. A Nvidia afirmou que o mundo precisa tanto de modelos fechados quanto de modelos abertos, com código aberto permitindo uma defesa massivamente distribuída e conduzida pela comunidade, sem ponto único de falha.

Perguntas Frequentes

O que é a Open Secure AI Alliance anunciada pela Nvidia e pela Microsoft?
A Open Secure AI Alliance é uma iniciativa da indústria lançada pela Nvidia, Microsoft, IBM e mais de outras 40 empresas para desenvolver ferramentas e padrões de código aberto para segurança de IA e cibersegurança. Anunciada em um post no blog na segunda-feira, a aliança se baseia no trabalho da iniciativa Akrites, da Linux Foundation, e da Open Source Security Foundation para ajudar as organizações a identificar vulnerabilidades e responder a ameaças cibernéticas.

O que a Nvidia contribuiu para a Open Secure AI Alliance?
A Nvidia vai contribuir com modelos abertos, pesos de modelos, conjuntos de dados e pesquisa sobre estruturas para agentes de IA para a aliança. A empresa lançou a estrutura Nvidia Labs Object-Oriented Agent (NOOA) como código aberto no GitHub, projetada para tornar os agentes de IA mais fáceis de testar, auditar e governar.