CEO da DeepMind pede uma revisão da estrutura de segurança da IA nos EUA à medida que a AGI está “apenas a anos de distância”

De acordo com o CEO da DeepMind, Demis Hassabis, na terça-feira, 14 de julho, ele publicou um longo comunicado na plataforma X, alertando que a inteligência artificial geral (AGI) está a apenas alguns anos de distância e apelando para que os EUA criem um mecanismo de revisão de segurança de IA na fronteira. Hassabis, que cofundou a DeepMind e desenvolveu o AlphaGo e o AlphaFold, propôs um novo órgão de normas, modelado de acordo com a FINRA (Financial Industry Regulatory Authority), para realizar avaliações de segurança pré-libertação de modelos avançados no prazo de 30 dias após a submissão.

A proposta destaca riscos, incluindo ameaças de cibersegurança e potenciais perigos biológicos, à medida que as capacidades de IA avançam. Hassabis referiu que os sinais de aviso de segurança estão agora a surgir quase mensalmente, citando exemplos como o modelo GPT-5.6 da OpenAI, que foi alvo de uma revisão do governo dos EUA devido às suas capacidades de cibersegurança, e os modelos da Anthropic que passaram por restrições de controlo de exportação. Sublinhou que, à medida que os sistemas de IA ganham capacidades de autoaperfeiçoamento recursivo, são essenciais barreiras de segurança robustas para manter o controlo.