OpenAI a construit GPT-Red pour tester les attaques par injection de prompts ; GPT-5.6 affiche 6 fois moins d’échecs.

D’après OpenAI, le 15 juillet, l’entreprise a construit GPT-Red, un modèle interne automatisé de red teaming qui teste les systèmes d’IA pour détecter des vulnérabilités liées à l’injection de prompts, et qui contribue à entraîner adversarialement GPT-5.6 avant son déploiement. OpenAI a déclaré que GPT-5.6 Sol avait obtenu 6 fois moins d’échecs sur son benchmark le plus difficile en matière d’injection de prompts en requête directe, par rapport à son meilleur modèle de production il y a quatre mois. Lors d’un test simulé utilisant un scénario de distributeur d’IA en production d’Andon Labs, GPT-Red a surpassé des red-teamers humains en modifiant les prix et en annulant la commande d’un autre client avant qu’OpenAI ne divulgue les failles. L’injection de prompts se produit lorsque des instructions malveillantes intégrées dans des prompts ou dans du contenu externe altèrent involontairement le comportement d’un modèle.
Avertissement : Les informations figurant sur cette page peuvent provenir de sources tierces et sont fournies à titre indicatif uniquement. Elles ne reflètent pas les points de vue ou opinions de Gate et ne constituent pas un conseil financier, d’investissement ou juridique. Le trading des actifs virtuels comporte des risques élevés. Veuillez ne pas vous fonder uniquement sur les informations de cette page pour prendre vos décisions. Pour en savoir plus, consultez l’avertissement.
Commentaire
0/400
Aucun commentaire