OpenAI створила GPT-Red для тестування атак із ін’єкціями підказок, а GPT-5.6 демонструє у 6 разів менше збоїв

15 липня OpenAI повідомила, що компанія створила GPT-Red — внутрішню автоматизовану модель для red-teaming, яка тестує ШІ-системи на вразливості до prompt injection і допомагає адверсарно навчати GPT-5.6 перед розгортанням. OpenAI заявила, що GPT-5.6 Sol досягла в 6 разів меншої кількості збоїв на своєму найскладнішому бенчмарку прямого prompt-injection порівняно з найкращою її виробничою моделлю чотири місяці тому. У змодельованому тесті із сценарієм виробничої AI vending machine від Andon Labs GPT-Red випередила людських red-teamers, змінюючи ціни й скасовуючи ще одне замовлення іншого клієнта, перш ніж OpenAI розкрила вади. Prompt injection виникає, коли шкідливі інструкції, вбудовані в підказки або зовнішній контент, змінюють поведінку моделі ненавмисно.
Застереження: інформація на цій сторінці може походити зі сторонніх джерел і надається виключно для ознайомлення. Вона не відображає позицію чи думку Gate і не є фінансовою, інвестиційною чи юридичною консультацією. Торгівля віртуальними активами пов’язана з високим ризиком. Будь ласка, не покладайтеся лише на інформацію з цієї сторінки під час прийняття рішень. Детальніше дивіться у Застереженні.
Прокоментувати
0/400
Немає коментарів