A OpenAI lança o GPT-Red para reforçar o GPT-5.6 contra ataques de prompt injection

De acordo com a OpenAI, a empresa apresentou na quarta-feira o GPT-Red, um sistema automatizado de red teaming com IA, para identificar vulnerabilidades em modelos de linguagem antes da implementação. O GPT-Red foi usado para treinar o GPT-5,6, reduzindo falhas em testes de prompt injection. A OpenAI afirmou que o GPT-Red teve sucesso em 84% dos cenários de avaliação internos, face a 13% para equipas humanas de red teaming nos mesmos testes. O sistema funciona através de aprendizagem por reforço com self-play, gerando ataques progressivamente mais fortes enquanto os modelos defensivos aprendem a resistir-lhes. A OpenAI afirmou que o GPT-Red vai permanecer uma ferramenta interna devido às suas capacidades ofensivas desenvolvidas intencionalmente.
Aviso legal: As informações contidas nesta página podem provir de fontes externas e têm caráter meramente informativo. Não refletem os pontos de vista nem as opiniões da Gate e não constituem qualquer tipo de aconselhamento financeiro, de investimento ou jurídico. A negociação de ativos virtuais envolve um risco elevado. Não se baseie exclusivamente nas informações contidas nesta página ao tomar decisões. Para mais detalhes, consulte o Aviso legal.
Comentar
0/400
Nenhum comentário