Investigadores da Microsoft publicaram um artigo: se o ChatGPT tem consciência, as cabras do Age of Empires 2 também têm.

O cientista-chefe da Microsoft, Adrian de Wynter, no artigo académico intitulado "Se os grandes modelos de linguagem têm características humanas, então o Age of Empires II também as tem", utilizou o editor de mapas personalizados do Age of Empires II para construir um percetrão de 1 bit com cabras, relva e pontes do jogo, argumentando assim que a lógica computacional subjacente a grandes modelos de linguagem (LLM) como o ChatGPT é essencialmente a mesma do mecanismo de acionamento das cabras no jogo.

Implementação técnica da rede neural no Age of Empires II: o papel computacional da relva, pontes e cabras

(Fonte: Captura de ecrã do CryptoCity)

Wynter utilizou a funcionalidade de acionamento de cenários personalizados do Age of Empires II para construir uma porta NAND com elementos do jogo: a relva representa o número 0, as pontes representam o número 1, e as cabras atuam como bits. Quando a porta lógica é acionada, a cabra que serve como sinal de entrada é removida e uma nova cabra é gerada na via de saída.

Através deste mecanismo, Wynter implementou no jogo um percetrão de 1 bit, o bloco de construção mais básico das redes neuronais modernas. Wynter afirmou que esta rede movida a cabras é, na sua essência, exatamente igual à tecnologia subjacente que alimenta o ChatGPT, diferindo apenas em complexidade e escala.

Estatísticas de viés antropomórfico de Wynter em 300 artigos de ciência da computação

No seu artigo, Wynter analisou mais de 300 artigos de ciência da computação dos últimos dois anos e revelou os seguintes números:

· 57% dos artigos, logo no início da conceção experimental, assumiram previamente que os LLM possuem características humanas como ansiedade ou moralidade. · Nos artigos que assumiram previamente a existência dessas características, 77% acabaram por concluir que as características realmente existem. · Wynter classificou este resultado como viés de confirmação, considerando que a suposição antropomórfica inicial dos investigadores influenciou diretamente a conclusão científica final. · Wynter apelou à comunidade científica para que adote uma hipótese nula que não pressuponha características humanas nas experiências.

Discursos comerciais dos gigantes da IA e o mecanismo de mercado da antropomorfização dos LLM

Wynter sublinhou que as estratégias comerciais das empresas de IA reforçam a perceção pública de que os LLM têm consciência. Ele referiu que os consumidores tendem a pagar mais quando se identificam com um produto, um princípio que se aplica desde torradeiras até assinaturas de LLM.

No artigo, Wynter citou três casos: o CEO da OpenAI, Sam Altman, sugeriu várias vezes que construir LLM é um caminho para uma "IA divina"; o ex-cientista da OpenAI, Ilya Sutskever, falou com funcionários sobre considerar os modelos da empresa como uma "consciência divina"; o CEO da Anthropic, Dario Amodei, disse aos media que "não é possível determinar se a IA tem consciência". Todas estas afirmações foram citadas por Wynter no artigo, não sendo a interpretação pessoal dele sobre a posição dos três.

Perguntas frequentes

O que Wynter construiu no Age of Empires II é um modelo de IA completo?

O que Wynter implementou no jogo foi um percetrão de 1 bit, o bloco de construção mais básico das redes neuronais modernas, não um modelo de IA completo. O objetivo do artigo é demonstrar que a mesma lógica computacional subjacente existe tanto no mecanismo de acionamento das cabras do jogo como na tecnologia subjacente do ChatGPT, explicando assim que a perceção das pessoas sobre as características antropomórficas do ChatGPT resulta principalmente da interface textual e das expectativas psicológicas.

O que significam as estatísticas de 57% e 77%?

De acordo com a análise estatística do artigo de Wynter, dos mais de 300 artigos de ciência da computação dos últimos dois anos, 57% assumiram previamente que os LLM possuem características humanas como ansiedade ou moralidade; destes artigos, 77% acabaram por concluir que as características realmente existem. Wynter interpreta isto como viés de confirmação — a suposição inicial dos investigadores influenciou diretamente a conceção experimental e a conclusão científica final.

Como é que o escritor de ficção científica Ted Chiang descreve o problema da antropomorfização excessiva dos LLM?

Segundo a citação do artigo, Ted Chiang escreveu que acreditar cegamente que os modelos de linguagem têm consciência é como acreditar que, ao abrir um ficheiro do Microsoft Word, se despertam múltiplos indivíduos ocultos nos registos de diálogo, usando esta metáfora para explicar que a perceção antropomórfica dos LLM é uma ilusão cognitiva.