OpenAI lance GPT-Red pour renforcer GPT-5 et GPT-6 contre les attaques par injection de prompts

D’après OpenAI, la société a présenté GPT-Red, un système automatisé d’IA pour le red teaming, mercredi, afin d’identifier des vulnérabilités dans les modèles de langage avant leur déploiement. GPT-Red a été utilisé pour entraîner GPT-5,6, réduisant les échecs sur des benchmarks d’injection de prompt. OpenAI a déclaré que GPT-Red a réussi dans 84 % des scénarios d’évaluation internes, contre 13 % pour des red teamers humains dans les mêmes tests. Le système fonctionne grâce à un apprentissage par renforcement par auto-jeu, générant des attaques de plus en plus puissantes tandis que les modèles de défense apprennent à y résister. OpenAI a indiqué que GPT-Red restera un outil interne en raison de ses capacités offensives développées intentionnellement.
Avertissement : Les informations figurant sur cette page peuvent provenir de sources tierces et sont fournies à titre indicatif uniquement. Elles ne reflètent pas les points de vue ou opinions de Gate et ne constituent pas un conseil financier, d’investissement ou juridique. Le trading des actifs virtuels comporte des risques élevés. Veuillez ne pas vous fonder uniquement sur les informations de cette page pour prendre vos décisions. Pour en savoir plus, consultez l’avertissement.
Commentaire
0/400
Aucun commentaire