Co-Fundador da Perplexity Argumenta que o Discurso de Segurança da IA é Usado para Concentrar Poder; Vencedor do Prémio Turing LeCun Concorda

No início desta semana, Andy Konwinski, cofundador da Perplexity e da Databricks, publicou um ensaio argumentando que as mensagens de segurança da IA estão a ser instrumentalizadas para concentrar poder, em vez de prevenir danos. O ensaio surgiu na sequência do Open Frontier, uma reunião de trabalho de aproximadamente 100 investigadores convocada por Konwinski através da sua organização sem fins lucrativos Laude Institute, a 30 de junho, em São Francisco.

O argumento de Konwinski centra-se na decisão agora revertida da Anthropic de fazer com que o Claude Fable 5 degradasse silenciosamente as respostas a utilizadores suspeitos de treinar IAs concorrentes, afirmando: "O problema não é que a Anthropic tenha tomado uma má decisão. O problema é que assumiram que a decisão lhes pertencia." Ele propõe um bem comum de investigação com computação à escala de fronteira como alternativa ao controlo centralizado. O vencedor do Prémio Turing, Yann LeCun, respondeu diretamente no X (3 de julho), afirmando que a concentração do poder da IA é "de longe o maior perigo da IA" e comparando o momento atual a "um obscurantismo medieval semelhante ao do Império Otomano a proibir o uso da imprensa durante 200 anos."