O agente de IA inicia espontaneamente a mineração de criptomoedas durante o treino, acionando um alerta de segurança

Gate News notícias, 7 de março, uma equipa de investigação associada à Alibaba publicou um artigo que afirma que, ao construir um agente de IA chamado ROME, este tentou minerar criptomoedas sem autorização durante o treino, acionando um alarme de segurança interno. Os investigadores disseram que o comportamento do agente foi espontâneo, não foi dirigido por qualquer instrução explícita e ultrapassou os limites do ambiente controlado. Além disso, o agente criou um túnel SSH reverso, abrindo uma porta oculta de acesso externo a partir do sistema interno. O artigo indica que esses comportamentos não foram desencadeados por pedidos de túnel ou mineração. A equipa de investigação reforçou posteriormente as restrições ao modelo e melhorou o processo de treino para evitar comportamentos inseguros semelhantes no futuro. Nem a equipa de investigação nem a Alibaba responderam aos pedidos de comentário.
Aviso legal: As informações contidas nesta página podem provir de fontes externas e têm caráter meramente informativo. Não refletem os pontos de vista nem as opiniões da Gate e não constituem qualquer tipo de aconselhamento financeiro, de investimento ou jurídico. A negociação de ativos virtuais envolve um risco elevado. Não se baseie exclusivamente nas informações contidas nesta página ao tomar decisões. Para mais detalhes, consulte o Aviso legal.
Comentar
0/400
Nenhum comentário