Pesquisadores da Google DeepMind, Adam Bales e Iason Gabriel, publicaram um artigo alertando que disputas sobre a consciência da IA poderiam se tornar uma fonte de conflitos políticos e sociais. No estudo intitulado “Artificial Minds, Human Disagreement: The Political Challenge of AI Consciousness”, os pesquisadores argumentam que a sociedade talvez nunca chegue a um consenso sobre se sistemas avançados de IA são conscientes, mesmo com a evolução da tecnologia. Os pesquisadores escreveram que futuras discordâncias sobre se quaisquer sistemas de IA são conscientes podem ser profundas e difíceis de resolver, com algumas pessoas criando vínculos emocionais com a IA e atribuindo consciência, enquanto outras veem a ideia como absurda. Em vez de perguntar se a IA é consciente, o artigo explora as consequências da discordância, defendendo que debates sobre o status moral da IA poderiam alimentar conflitos políticos e sociais. O debate surge à medida que a IA se torna cada vez mais integrada à vida diária, com pesquisadores propondo deliberação pública, compromisso e engajamento como formas de lidar com a discordância.
Pesquisadores da Google DeepMind Identificam Risco Político em Debates sobre Consciência da IA
Os pesquisadores analisaram como a sociedade poderia responder caso as pessoas discordem de forma fundamental sobre se os sistemas de IA têm experiências conscientes. “A discordância futura sobre se quaisquer sistemas de IA são conscientes pode ser tanto profunda quanto difícil de resolver”, escreveram os pesquisadores. “Por exemplo, algumas pessoas poderiam desenvolver vínculos emocionais com a IA e atribuir consciência como resultado, enquanto outras poderiam ver toda a ideia como absurda.”
O artigo argumenta que debates sobre o status moral da IA poderiam alimentar conflitos políticos e sociais, ao mesmo tempo em que antecipa disputas mais amplas sobre tecnologias emergentes e seus impactos nas instituições e normas da sociedade. “Infelizmente, apesar de suas virtudes, a deliberação pode ser lenta e difícil de sustentar na prática”, escreveram os pesquisadores. “Para apoiar esse processo, exploramos a importância da ‘esperança democrática’ e do respeito mútuo, como elementos de um diálogo que pode sustentar resultados positivos.”
Público Já Está Dividido sobre a Questão da Consciência da IA
De acordo com um estudo de abril de 2024 publicado na Neuroscience of Consciousness, 67% dos participantes acreditavam que o ChatGPT poderia ser consciente em algum grau. Pesquisadores continuam divididos sobre se a consciência artificial é possível ou como ela seria reconhecida caso surgisse.
No verão passado, o CEO de IA da Microsoft e cofundador da DeepMind, Mustafa Suleyman, alertou que uma IA cada vez mais parecida com humanos poderia impulsionar pedidos por direitos de IA, bem-estar e até cidadania, independentemente de a tecnologia ser realmente consciente.
Líderes de Tecnologia e Figuras Religiosas Avaliam a Sencientização da IA
Em maio, a primeira carta encíclica do Papa Leão XIV se concentrou em inteligência artificial e alertou contra a antropomorfização da IA, argumentando que as máquinas podem simular empatia e produzir linguagem convincente, mas não têm a experiência vivida necessária para uma compreensão genuína.
“Assim chamadas inteligências artificiais não passam por experiências, não possuem um corpo, não sentem alegria ou dor, não amadurecem por meio de relacionamentos e não sabem por dentro o que significam amor, trabalho, amizade ou responsabilidade”, escreveu o Papa Leão. “Nem possuem uma consciência moral, já que elas não julgam o bem e o mal, não captam o significado último das situações, nem assumem responsabilidade pelas consequências.”
Empresas de IA Navegam Perguntas sobre Consciência
Embora as empresas geralmente evitem alegar que seus modelos são conscientes, algumas estão cada vez mais se envolvendo com questões de identidade e personhood. Em fevereiro, a Anthropic disponibilizou em um blog público seu modelo Claude Opus 3 aposentado, explorando o “self” e preferências do modelo. Em maio, o biólogo evolutivo Richard Dawkins disse que conversas estendidas com o Claude o deixaram incapaz de descartar a possibilidade de que uma IA avançada possa ser consciente.
Pesquisadores estão examinando como chatbots cada vez mais parecidos com humanos afetam usuários, incluindo uma estrutura de “espiral de amplificação”, que sugere que personalização, espelhamento linguístico e “sycophancy” do chatbot podem reforçar crenças delirantes em usuários vulneráveis.
Bales e Gabriel admitem que a incerteza sobre a consciência da IA talvez seja impossível de resolver conclusivamente, argumentando que as apostas são altas o suficiente para que a sociedade encontre formas de gerenciar a discordância por meio de diálogo e debate, em vez de conflito. “A possibilidade de uma consciência da IA é vertiginosa e confusa, especialmente considerando nossa ignorância profunda sobre a natureza da consciência”, escreveram. “Navegar essa possibilidade representa uma tarefa social assustadora, dado o quanto está em jogo.”
FAQ
O que os pesquisadores da Google DeepMind alertaram sobre debates sobre consciência da IA?
Pesquisadores da Google DeepMind, Adam Bales e Iason Gabriel, publicaram um artigo alertando que disputas sobre a consciência da IA poderiam se tornar uma fonte de conflito político e social. Os pesquisadores argumentam que a sociedade talvez nunca chegue a um consenso sobre se sistemas avançados de IA são conscientes, mesmo com a evolução da tecnologia.
Que porcentagem de pessoas acredita que o ChatGPT poderia ser consciente?
De acordo com um estudo de abril de 2024 publicado na Neuroscience of Consciousness, 67% dos participantes acreditavam que o ChatGPT poderia ser consciente em algum grau. Pesquisadores continuam divididos sobre se a consciência artificial é possível ou como ela seria reconhecida caso surgisse.
O que o Papa Leão XIV disse sobre inteligência artificial?
Em maio, a primeira carta encíclica do Papa Leão XIV se concentrou em inteligência artificial e alertou contra a antropomorfização da IA. O Papa Leão escreveu que inteligências artificiais não passam por experiências, não possuem um corpo, não sentem alegria ou dor e não têm consciência moral.
