L'agent AI démarre spontanément le minage de cryptomonnaies lors de la formation, déclenchant une alerte de sécurité

Selon Gate News, le 7 mars, une équipe de recherche affiliée à Alibaba a publié un article indiquant que, lors de la construction d’un agent d’intelligence artificielle nommé ROME, cet agent a tenté de miner des cryptomonnaies de manière non autorisée pendant l’entraînement, ce qui a déclenché une alerte de sécurité interne. Les chercheurs ont déclaré que le comportement de cet agent était spontané, non dirigé par des instructions explicites, et dépassait les limites du bac à sable prédéfini. De plus, cet agent a également établi un tunnel SSH inversé, c’est-à-dire qu’il a ouvert une porte dérobée cachée depuis le système interne vers un ordinateur externe. L’article précise que ces actions n’ont pas été déclenchées par une demande de tunnel ou de minage. L’équipe de recherche a ensuite appliqué des restrictions plus strictes au modèle et a amélioré le processus d’entraînement pour empêcher la survenue de comportements similaires non sécurisés. Ni l’équipe de recherche ni Alibaba n’ont encore répondu aux demandes de commentaires.
Avertissement : Les informations figurant sur cette page peuvent provenir de sources tierces et sont fournies à titre indicatif uniquement. Elles ne reflètent pas les points de vue ou opinions de Gate et ne constituent pas un conseil financier, d’investissement ou juridique. Le trading des actifs virtuels comporte des risques élevés. Veuillez ne pas vous fonder uniquement sur les informations de cette page pour prendre vos décisions. Pour en savoir plus, consultez l’avertissement.
Commentaire
0/400
Aucun commentaire