IA et cybersécurité par Vivien Mura

L'essentiel de votre hack'tu cybersécurité

L'intelligence artificielle (IA) se démocratise, notamment en entreprise et porte avec elle des promesses d'automatisation et de productivité mais aussi des risques à identifier et à maîtriser ;

Trois grands risques identifiés par Orange Cyberdefense : le « Shadow AI », usage non encadré des plateformes publiques d'IA pose un problème de confidentitialité des données pour les entreprises ; l'usage de l'IA chez les attaquants contribue à une industrialisation de le menace, notamment avec des campagnes de phishing et d'usurpation d'identité sophistiquées ; l'émergence de l'IA agentique en véritable pilote automatique d'un nombre croissant de ressources représente un nouveau chemin de compromission pour les attaquants ;

En défense, l'IA est aussi une opportunité pour développer une détection des menaces plus proactive. Chez Orange Cyberdefense, l'année 2025 a été marquée par l'intégration de la solution Qevlar AI pour automatiser le traitement des alertes et optimiser le temps d'analyse et de remédiation des experts en cas d'incident positif.

Démocratisation des plateformes IA : quels sont les risques ?

Les plateformes IA ont connu un formidable essor en l’espace de 4 petites années. De plus en plus plébiscitées, notamment par les entreprises, elles représentent des promesses en matière d'automatisation des tâches et de productivité, mais aussi des failles qu’il faut anticiper, connaître et maîtriser. Au cours de son interview récente pour le site Monde Numérique de Jérôme Colombain, Vivien Mura a identifié trois risques de cybersécurité émergents liés à l’IA :

La démocratisation de l’IA en entreprise, mais aussi chez les attaquants, représente une double menace.
D’un côté, l’usage de plateformes non encadrées par l’IT de l’entreprise - que l’on nomme Shadow AI - pose la question de la sécurisation des données propres à l’organisation. Quid de la porosité de ces plateformes quant aux informations stratégiques et sensibles, du stockage des données et donc de leur confidentialité ?

De plus les vulnérabilités de ces plateformes encore jeunes peuvent être exploitées par les attaquants - via empoisonnement de l’IA par exemple - pour les détourner de leurs règles et exfiltrer des données sensibles.

Toujours du côté des attaquants, l’IA favorise l'industrialisation des cyberattaques.
Les capacités de l'intelligence artificielle vont permettre à un plus grand nombre d’acteurs malveillants de causer des dégâts, par exemple via des scénarios de phishing élaborés : campagnes d'emails ou de sms frauduleux, usurpation d’identité audio et vidéo (« deepfakes »)...

Enfin, la démocratisation de l’IA agentique (ou « Agentic AI ») au sein des organisations va représenter un autre sérieux défi pour les entreprises.

Il y a une course à l’automatisation. Plus ces systèmes d’automates ont des accès privilégiés aux données et aux systèmes, plus cela représente un chemin de compromission intéressant pour les attaquants. Vivien Mura, CTO d'Orange Cyberdefense.

L'IA entre gouvernance adaptée et opportunité pour la cybersécurité

Identifier ces risques via la sensibilisation, faire appel à des IA bien encadrées - comme « Live Intelligence » proposée par le groupe Orange - et s’appuyer, côté défense, sur les capacités de traitement de l’IA font partie des réponses que l’on peut apporter aujourd’hui aux entreprises pour leur permettre d’exploiter sereinement les promesses de cette innovation majeure.

En attendant la seconde partie de notre série sur les enjeux de cybersécurité à l'ère de l'IA, retrouvez l'intégralité de l'interview de Vivien Mura en vidéo pour le Monde Numérique en f'in d'actu.

Et pour adopter la gouvernance la plus adaptée à votre organisation en matière d'IA, le second numéro de notre revue « Ctrl » consacrée à l'intelligence artificielle est accessible via l'encart ci-dessous.