Дослідники розгорнули технологію DPN-LE, щоб редагувати риси особистості ШІ, змінюючи лише 0,5% нейронів

За даними BlockBeats, 3 травня дослідник ШІ Браян Роеммеле повідомив, що його компанія Zero-Human упровадила технологію DPN-LE (Dual Personality Neuron Localization and Editing), щоб точно коригувати поведінкові характеристики AI-агентів. Технологія знаходить у шарі MLP моделі «нейрони особистості», що дає змогу точково посилювати або зменшувати риси, зокрема чесність, креативність, обережність і співпрацю. Відредагувавши приблизно 0,5% нейронів, метод дає змогу робити «хірургічні» корекції особистості ШІ без перенавчання моделі, мінімізуючи шкоду базовим можливостям міркування. Роеммеле заявив, що його компанія, яка складається з понад 100 AI-агентів, здатна змінювати особистості й розгортати агентів за лічені хвилини, суттєво знижуючи витрати на узгодження (AI alignment).
Застереження: інформація на цій сторінці може походити зі сторонніх джерел і надається виключно для ознайомлення. Вона не відображає позицію чи думку Gate і не є фінансовою, інвестиційною чи юридичною консультацією. Торгівля віртуальними активами пов’язана з високим ризиком. Будь ласка, не покладайтеся лише на інформацію з цієї сторінки під час прийняття рішень. Детальніше дивіться у Застереженні.
Прокоментувати
0/400
Немає коментарів