Les effets néfastes de la technologie de l'intelligence artificielle (IA) entre les mains de criminels, permettant la création de contrefaçons et de logiciels malveillants, ont renforcé l'urgence d'agir.
OpenAI, le créateur de ChatGPT et de Dall-e, a annoncé un programme de subvention de la cybersécurité d'un million de dollars, afin d'améliorer et de mesurer l'impact des technologies de cybersécurité basées sur l'IA.
L'entreprise spécialisée dans l'IA a toujours souligné l'importance de la réglementation de l'IA pour contrecarrer les applications potentiellement malveillantes. Dans la course à l'armement numérique en cours, OpenAI semble prendre des mesures proactives pour s'assurer que les forces positives ne restent pas à la traîne.
OpenAI a présenté une gamme variée de concepts de projets, notamment la création de honeypots pour piéger les pirates, l'aide aux développeurs dans la conception de logiciels sécurisés et l'amélioration des procédures de gestion des correctifs pour une efficacité optimale.
Les objectifs du programme sont évidents, comme l'indique OpenAI dans son article publié sur son blog officiel : « Notre but est de favoriser l'avancement des capacités de cybersécurité pilotées par l'IA pour les défenseurs par le biais de subventions et d'une assistance supplémentaire. ». L'accent est mis sur l'évaluation de l'efficacité des modèles d'IA et sur la détermination de méthodes permettant d'améliorer leurs capacités de cybersécurité.
Cette initiative novatrice vise à atteindre trois objectifs clés. Tout d'abord, elle cherche à « donner du pouvoir aux défenseurs » en tirant parti des capacités de l'IA et des efforts de collaboration pour faire pencher la balance en faveur de ceux qui se consacrent à l'amélioration de la sûreté et de la sécurité en général.
Un autre objectif de l'initiative est de « mesurer les capacités ». OpenAI vise à soutenir des projets axés sur le développement de méthodes de quantification pour évaluer l'efficacité des modèles d'IA dans le domaine de la cybersécurité. En outre, OpenAI entend « élever le discours » en encourageant des discussions approfondies sur la relation complexe entre l'IA et la cybersécurité.
À lire également : Les autorités japonaises mettent en garde OpenAI contre la collecte de données !
Cette initiative bouleverse le point de vue conventionnel sur la cybersécurité. OpenAI souligne l'importance de la phrase communément entendue selon laquelle les défenseurs doivent toujours avoir raison, tandis que les pirates n'ont besoin de réussir qu'une seule fois. Cependant, l'entreprise reconnaît le pouvoir de la collaboration pour atteindre l'objectif commun d'assurer la sécurité des personnes. Elle est déterminée à démontrer qu'avec l'aide de l'IA, les défenseurs peuvent changer la dynamique et prendre le dessus.