La société de recherche en IA OpenAI a annoncé aujourd’hui le lancement d’un nouveau programme de récompense des bogues permettant aux chercheurs en sécurité enregistrés de découvrir des vulnérabilités dans sa gamme de produits et d’être rémunérés pour les avoir signalées via la plateforme de sécurité crowdsourcée Bugcrowd.
« Le programme Bug Bounty de l’OpenAI est un moyen pour nous de reconnaître et de récompenser les idées précieuses des chercheurs en sécurité qui contribuent à la sécurité de notre technologie et de notre entreprise », a déclaré l’OpenAI.
« Les problèmes de sécurité des modèles ne s’intègrent pas bien dans un programme de primes aux bogues, car il ne s’agit pas de bogues individuels et discrets qui peuvent être corrigés directement. La résolution de ces problèmes nécessite souvent des recherches approfondies et une approche plus large », a déclaré l’OpenAI.
Le mois dernier, OpenAI a révélé une fuite de données de paiement ChatGPT que l’entreprise a attribuée à un bogue dans la bibliothèque open-source Redis utilisée par sa plateforme.
« Le bogue a été découvert dans la bibliothèque open-source du client Redis, redis-py. Dès que nous avons identifié le bogue, nous avons contacté les responsables de Redis pour leur proposer un correctif afin de résoudre le problème », a déclaré OpenAI.
Bien que l’entreprise n’ait pas établi de lien entre l’annonce d’aujourd’hui et cet incident récent, le problème aurait pu être découvert plus tôt et la fuite de données aurait pu être évitée si OpenAI avait déjà mis en place un programme de récompense des bogues permettant aux chercheurs de tester ses produits pour y déceler des failles de sécurité.
