Anthropic acusa Alibaba de «roubar» dados do Claude, já enviou carta a funcionários da Casa Branca

Segundo a Bloomberg, que obteve uma cópia da carta em 24 de junho, a Anthropic enviou cartas a vários senadores dos EUA e funcionários da Casa Branca, acusando entidades relacionadas com o laboratório Qwen, da Alibaba, de terem, entre abril e junho, realizado cerca de 28,8 milhões de diálogos com o Claude através de quase 25 mil contas falsas, extraindo sistematicamente dados de treino relativos à engenharia de software e capacidades principais do Claude, qualificando esta ação como um "ataque de destilação adversária".

Anthropic acusa Qwen de 28,8 milhões de diálogos direcionados à engenharia de software

O padrão do ataque foi: um grande número de contas falsas fazia perguntas ao Claude, recolhia as respostas e depois usava-as para treinar os modelos da série Qwen. Na carta, a Anthropic explica que o alvo do ataque não foram consultas aleatórias, mas sim as duas capacidades mais competitivas do Claude: a engenharia de software e o raciocínio agentivo (que permite à IA planear múltiplos passos e executar tarefas complexas como um agente).

A Anthropic afirma que estas táticas são idênticas às que nomeou num artigo de blogue como sendo da DeepSeek e da MiniMax, classificando-as como ataques de destilação "sistemáticos, em grande escala e industrializados". A carta define claramente: estes ataques "roubam capacidades de IA dos laboratórios avançados dos EUA de forma ilegal, sistemática e em escala industrial, e depois reempacotam-nas como produtos próprios, sem assumir os custos de formação e desenvolvimento".

Anthropic, OpenAI e Google estabelecem partilha tripartida de informações, pedem ao governo esclarecimentos sobre orientações antitrust

A Anthropic, a OpenAI e a Google formaram uma aliança tripartida para partilhar informações sobre violações de destilação detetadas por cada uma, tendo a preocupação da indústria dos EUA passado de incidentes individuais para uma postura de defesa coletiva. Na carta, a Anthropic também pede ao governo dos EUA que ajude a esclarecer as orientações antitrust relevantes, para que as grandes empresas dos EUA possam partilhar mais livremente informações sobre ataques de destilação.

Na carta, a Anthropic admite que, ao treinar o Claude, também destilou modelos mais antigos da própria empresa. A fronteira entre "destilar a si próprio" e "destilar os outros" ainda não é clara legalmente; a destilação em si é amplamente utilizada na indústria, e a ilegalidade depende da escala e da intenção, e não da técnica em si.

Senado planeia apresentar alteração, Câmara já promove projeto de lei bipartidário

Ambas as câmaras do Congresso dos EUA já têm legisladores a agir. No Senado, o republicano Bill Hagerty e o democrata Andy Kim planeiam apresentar uma alteração exigindo a inclusão de empresas chinesas na lista negra ou sanções por destilação ilegal de resultados de IA dos EUA; na Câmara, Bill Huizenga e Sydney Kamlager-Dove já promovem um projeto de lei bipartidário semelhante. As propostas de ambas as câmaras planeiam ser incluídas na Lei de Autorização de Defesa Nacional (NDAA) anual.

Perguntas Frequentes

O que é um "ataque de destilação adversária" e como difere da destilação normal de modelos?

A destilação de modelos é uma técnica que permite a um modelo mais pequeno aprender capacidades a partir de um modelo maior, sendo amplamente utilizada na comunidade de investigação em IA. O problema reside na escala e na intenção: a ação de que a Anthropic acusa envolveu quase 25 mil contas falsas, realizando 28,8 milhões de perguntas industrializadas em três meses, visando precisamente capacidades principais competitivas, ultrapassando o âmbito permitido pelos termos de serviço dos principais laboratórios de IA.

Quais são os pedidos específicos da Anthropic na carta ao Congresso dos EUA?

Na carta, a Anthropic pede ao governo dos EUA que tome duas medidas: impor sanções ou listas negras a empresas chinesas que destilem ilegalmente resultados de IA dos EUA; e ajudar a esclarecer as orientações antitrust, para que as principais empresas de IA dos EUA possam partilhar mais livremente informações sobre ataques de destilação, de modo a estabelecer um mecanismo de defesa coletivo mais eficaz.

O estatuto legal dos ataques de destilação já está claro nos EUA?

Atualmente, ainda não está claro a nível legal. A destilação em si não é totalmente ilegal, sendo geralmente permitida na indústria em pequena escala e para desenvolvimento não concorrencial. A Anthropic também admite na carta que destilou os seus próprios modelos antigos e já pediu explicitamente ao governo dos EUA que ajude a esclarecer os limites legais relevantes.