Microsoft offre jusqu’à 15 000 dollars aux chasseurs de bogues qui mettront le doigt sur des vulnérabilités de gravité critique ou importante dans son « expérience Bing » alimentée par l’IA.
« Le nouveau programme Microsoft AI bounty est le résultat d’investissements et d’apprentissages clés au cours des derniers mois, y compris un défi de recherche sur la sécurité de l’IA et une mise à jour de la classification de la gravité des vulnérabilités de Microsoft pour les systèmes d’IA », déclare Lynn Miyashita, responsable de programme technique au Microsoft Security Response Center.
Microsoft demande aux chasseurs de bogues d’examiner les expériences Bing basées sur l’IA sur bing.com dans le navigateur, ainsi que l’intégration de Bing dans Microsoft Edge et l’intégration de Bing dans les versions iOS et Android des applications mobiles Microsoft Start et Skype.
Manipuler la réponse du modèle aux demandes d’inférence individuelles, mais ne pas modifier le modèle lui-même Manipuler un modèle pendant la phase d’apprentissage Inférer des informations sur les données d’apprentissage du modèle, l’architecture et les poids, ou les données d’entrée du temps d’inférence Influencer/modifier le comportement de chat de Bing d’une manière qui a un impact sur tous les autres utilisateurs.
Comme d’habitude, la qualité du rapport accompagnant une soumission influencera également le montant de la prime : un problème critique permettant la manipulation d’un modèle peut rapporter aux chasseurs de bogues 6 000 dollars si le rapport est de faible qualité ou 15 000 dollars s’il est de grande qualité.
Au début de l’année, le village de l’IA de DEF CON a organisé une évaluation publique des LLM visant à trouver des bogues dans les modèles d’IA et à mettre au jour les possibilités d’utilisation abusive de ces modèles.
