Les chercheurs déploient la technologie DPN-LE pour modifier des traits de personnalité de l’IA, en ne modifiant que 0,5 % des neurones

D’après BlockBeats, le 3 mai, le chercheur en IA Brian Roemmele a révélé que sa Zero-Human Company a déployé la technologie DPN-LE (Dual Personality Neuron Localization and Editing) afin d’ajuster avec précision les caractéristiques comportementales des agents d’IA. La technologie localise les « neurones de personnalité » dans la couche MLP du modèle, permettant un renforcement ou une réduction ciblés de traits tels que l’honnêteté, la créativité, la prudence et la collaboration. En modifiant environ 0,5 % des neurones, la méthode permet des ajustements de style chirurgical de la personnalité de l’IA sans nécessiter de nouvelle formation du modèle, tout en limitant les dommages aux capacités de raisonnement essentielles. Roemmele a déclaré que sa société, composée de plus de 100 agents d’IA, peut remodeler les personnalités et déployer des agents en quelques minutes, réduisant nettement les coûts liés à l’alignement de l’IA.
Avertissement : Les informations figurant sur cette page peuvent provenir de sources tierces et sont fournies à titre indicatif uniquement. Elles ne reflètent pas les points de vue ou opinions de Gate et ne constituent pas un conseil financier, d’investissement ou juridique. Le trading des actifs virtuels comporte des risques élevés. Veuillez ne pas vous fonder uniquement sur les informations de cette page pour prendre vos décisions. Pour en savoir plus, consultez l’avertissement.
Commentaire
0/400
Aucun commentaire