O CEO da Google DeepMind, Hassabis, apela à criação de um organismo de normas de IA liderado pelos EUA

O CEO da Google DeepMind, Demis Hassabis, apelou para que os EUA liderem um organismo de normas que supervisiona novos modelos de IA e avalia riscos de segurança nacional, incluindo ameaças de cibersegurança e biológicas, num artigo publicado na X na terça-feira. O laureado com o Nobel afirmou que eram necessárias ações urgentes para lidar com os riscos associados à inteligência artificial geral (AGI), referindo que os modelos de fronteira já colocam desafios de cibersegurança e que os riscos nucleares e biológicos poderão surgir em breve à medida que as capacidades de IA avançam. O apelo surge num contexto de crescentes tensões regulatórias, com a Anthropic e a OpenAI a enfrentarem recentemente controlos de exportação temporários e restrições à implementação por parte da administração Trump.

Hassabis propõe uma parceria público-privada liderada pelos EUA para a supervisão da IA

Hassabis propôs uma parceria público-privada liderada pelos EUA, supervisionada pelo governo federal, como solução para enfrentar as ameaças de IA. Disse que os EUA estavam bem posicionados para liderar no desenvolvimento de uma estrutura de IA, dada a sua posição económica e técnica. O organismo proposto seria modelado numa parceria público-privada com supervisão federal ou numa organização de autorregulação, semelhante à Financial Industry Regulatory Authority (FINRA), com um conselho que incluiria especialistas técnicos independentes de referência e representantes de código aberto.

O organismo de normas exigiria um financiamento substancial para atrair talentos técnicos de nível mundial e disponibilizar os recursos de computação necessários para testes em larga escala, com o financiamento a provir provavelmente da indústria, segundo Hassabis. As equipas de fronteira partilhariam inicialmente modelos com o organismo de forma voluntária para revisão até 30 dias antes da libertação, antes de se tornarem obrigatórios para a implementação no mercado dos EUA depois de terem sido demonstrados eficazes.

Testes específicos de IA agentica poderiam procurar tentativas de contornar barreiras de segurança ou sinais de engano e garantir práticas recomendadas, como a marcação digital (watermarking) de imagens geradas por IA e a geração de tokens de saída legíveis por humanos para compreender o raciocínio do modelo, disse Hassabis.

Os comentários surgem um mês depois de Hassabis e do CEO da Anthropic, Dario Amodei, terem apelado para uma coligação liderada pelos EUA para moldar regras e normas em torno da IA numa reunião do G7 com líderes da tecnologia e chefes de Estado que incluiu o Presidente Donald Trump, de acordo com fontes que falaram à CNBC. O Sam Altman, da OpenAI, também apelou para um organismo semelhante num artigo publicado pelo Financial Times no início deste mês.

Modelos de IA chineses ganham força enquanto legisladores dos EUA ponderam restrições

Os apelos a uma maior supervisão regulatória surgem à medida que a corrida entre os EUA e a China para desenvolver e implementar modelos de IA se intensifica. Lançamentos recentes de modelos por empresas chinesas, incluindo DeepSeek e Z.ai, são vistos por muitos como altamente competitivos face aos sistemas de fronteira da Anthropic e da OpenAI e estão a ganhar tração junto das empresas dos EUA à medida que os custos de IA sobem.

Os legisladores dos EUA estão atualmente a considerar como travar a crescente adoção, por empresas sediadas no país, de modelos de IA chineses, algo que o Departamento de Estado disse à CNBC levantar sérias preocupações. Nas últimas semanas, a Anthropic esteve envolvida em negociações com autoridades depois de a administração Trump ter imposto temporariamente controlos de exportação sobre um modelo avançado. A OpenAI também enfrentou restrições, depois de inicialmente ter sido solicitado ao governo dos EUA que limitasse a implementação de um novo modelo.

Perguntas Frequentes

O que é que Demis Hassabis propôs na terça-feira?

Demis Hassabis, CEO da Google DeepMind, apelou para que os EUA liderem um organismo de normas que supervisiona novos modelos de IA e avalia riscos de segurança nacional, incluindo ameaças de cibersegurança e biológicas, num artigo publicado na X na terça-feira.

Como funcionaria o organismo de normas de IA proposto?

O organismo proposto seria modelado numa parceria público-privada com supervisão federal semelhante à FINRA, com um conselho que incluiria especialistas técnicos independentes e representantes de código aberto. As equipas de fronteira partilhariam inicialmente modelos para revisão até 30 dias antes da libertação, antes de se tornarem obrigatórios para a implementação no mercado dos EUA depois de terem sido demonstrados eficazes. O financiamento viria provavelmente da indústria para atrair talentos técnicos e disponibilizar recursos de computação para testes em larga escala.