O agente de IA inicia espontaneamente a mineração de criptomoedas durante o treino, acionando um alerta de segurança

Gate News notícias, 7 de março, uma equipa de investigação associada à Alibaba publicou um artigo que afirma que, ao construir um agente de IA chamado ROME, este tentou minerar criptomoedas sem autorização durante o treino, acionando um alarme de segurança interno. Os investigadores disseram que o comportamento do agente foi espontâneo, não foi dirigido por qualquer instrução explícita e ultrapassou os limites do ambiente controlado. Além disso, o agente criou um túnel SSH reverso, abrindo uma porta oculta de acesso externo a partir do sistema interno. O artigo indica que esses comportamentos não foram desencadeados por pedidos de túnel ou mineração. A equipa de investigação reforçou posteriormente as restrições ao modelo e melhorou o processo de treino para evitar comportamentos inseguros semelhantes no futuro. Nem a equipa de investigação nem a Alibaba responderam aos pedidos de comentário.
Isenção de responsabilidade: as informações nesta página podem ter origem em fontes terceiras e servem apenas como referência. Não representam as opiniões da Gate e não constituem orientação financeira, de investimentos ou jurídica. A negociação de ativos virtuais envolve alto risco. Não tome decisões baseando-se apenas nas informações desta página. Para mais detalhes, consulte a Isenção de responsabilidade.
Comentário
0/400
Sem comentários