CEO da DeepMind pede uma estrutura de revisão de segurança de IA nos EUA, com AGI “apenas alguns anos de distância”

De acordo com o CEO da DeepMind, Demis Hassabis, na terça-feira, 14 de julho, ele publicou um longo comunicado no X alertando que a inteligência geral artificial (AGI) está apenas a alguns anos e defendendo que os EUA estabeleçam um mecanismo de revisão de segurança para IA de fronteira. Hassabis, que cofundou a DeepMind e desenvolveu AlphaGo e AlphaFold, propôs um novo órgão de padrões, modelado a partir da FINRA (Financial Industry Regulatory Authority), para realizar avaliações prévias de segurança de modelos avançados em até 30 dias após a submissão.

A proposta destaca riscos, incluindo ameaças de cibersegurança e possíveis perigos biológicos, à medida que as capacidades de IA avançam. Hassabis observou que sinais de alertas de segurança agora aparecem quase mensalmente, citando exemplos como o modelo GPT-5.6 da OpenAI, que passou por uma análise do governo dos EUA por suas capacidades de cibersegurança, e os modelos da Anthropic, que foram submetidos a restrições de controle de exportação. Ele ressaltou que, conforme os sistemas de IA ganham habilidades de autoaperfeiçoamento recursivo, barreiras de segurança robustas se tornam críticas para manter o controle.