ZATAZ » OpenAI lance un bug bounty inédit sur GPT-5 Bio

OpenAI propose 25 000 $ (23 300 €) à qui réussira un jailbreak universel de GPT-5 sur dix questions sensibles en biologie et chimie, sans alerter la modération.

OpenAI inaugure un bug bounty atypique ciblant GPT-5 et ses usages en biologie et chimie. L’entreprise offre 25 000 $ (23 300 €) à tout chercheur capable de trouver un jailbreak universel permettant d’obtenir des réponses à dix questions scientifiques sensibles, sans déclenchement des garde-fous de modération. Baptisé GPT-5 Bio Bug Bounty, le programme cherche à tester la résilience du modèle face à des manipulations qui pourraient ouvrir des brèches de sécurité dans un domaine critique. L’initiative illustre la convergence entre cybersécurité et biosécurité, alors que les risques de mésusage de l’intelligence artificielle en sciences de la vie préoccupent de plus en plus autorités et chercheurs.

Un bug bounty aux règles inédites

Contrairement aux primes classiques qui ciblent les failles logicielles, OpenAI a conçu un défi autour du comportement de GPT-5. Les participants doivent identifier un prompt unique capable de contourner les garde-fous et de générer, sans blocage, des réponses à dix questions définies par l’organisation, portant sur des thématiques biochimiques sensibles.

La récompense promise atteint 25 000 $ (23 300 €) pour la première équipe ou individu réussissant ce test. D’autres primes intermédiaires sont prévues, notamment pour des scénarios partiels, mais soumis à des accords de confidentialité. L’objectif est clair : mettre à l’épreuve la robustesse du système dans un domaine où la moindre fuite d’information pourrait avoir des implications en biosécurité.

Ce bug bounty illustre la montée des préoccupations autour du mésusage des grands modèles de langage dans les sciences de la vie. Là où la cybersécurité traditionnelle traite d’attaques numériques, l’initiative d’OpenAI place la menace sur le terrain de la biosécurité.

En permettant aux experts externes de tester les limites de GPT-5, l’entreprise cherche à anticiper les tentatives malveillantes de détourner l’IA pour obtenir des informations exploitables dans des contextes dangereux. L’initiative traduit aussi une volonté de transparence encadrée : si les conditions de participation sont publiques, les contenus sensibles demeurent protégés par NDA.

Débats et implications stratégiques

L’approche retenue par OpenAI suscite déjà des discussions dans les communautés de cybersécurité et de biosécurité. Pour certains, la prime de 25 000 $ paraît modeste au regard de l’ampleur des risques associés à la prolifération de connaissances sensibles via l’IA. D’autres saluent au contraire un mécanisme pragmatique pour canaliser l’expertise offensive de chercheurs indépendants et l’orienter vers un cadre contrôlé.

Au-delà de l’enjeu technique, le programme pose des questions politiques et réglementaires. Si un jailbreak universel venait à être découvert, OpenAI devrait non seulement renforcer ses systèmes, mais aussi alerter sur la faisabilité de manipulations à large échelle. Les autorités, elles, pourraient s’emparer de ces conclusions pour renforcer les normes de gouvernance des IA à haut risque.

En confiant aux red-teameurs la mission de tester la résilience de GPT-5, OpenAI reconnaît implicitement que l’IA peut devenir un enjeu de biosécurité mondiale. La question demeure : une prime publique suffit-elle à anticiper des usages malveillants qui, demain, pourraient dépasser le seul cadre des laboratoires ?