Cet épisode spécial est présenté en partenariat avec Box, le leader de la gestion intelligente de contenu. Et aujourd'hui, nous recevons à nouveau Guillaume Braux, ingénieur avant vente senior chez Box. Guillaume, une étude toute récente de Box mentionne que 83% des organisations expérimentent déjà les agents d'intelligence artificielle. Pourtant, vous alertez les décideurs sur une nouvelle faille critique qui paralyse ses déploiements.

Guillaume Braux : Effectivement, il y a un changement de paradigme depuis 18 à 24 mois. L'exploitation des agents en entreprise a beaucoup évolué. Aujourd'hui ces agents sont autonomes. Ils lisent, il modifient, il déplacent les données, des fichiers dans votre système d'information. Et tout ça à la vitesse de l'éclair.

ZDNET : Vous affirmez donc que le danger ne vient plus seulement des accès réseaux, mais du comportement même de ces nouveaux assistants virtuels.

Guillaume Braux : C'est tout à fait ça. On a changé la surface d'attaque. Historiquement, l'attaque se situait plutôt au niveau de l'infrastructure. Mais maintenant que j'ai des nouveaux individus dans l'entreprise qui sont ces agents qui ont accès de façon légitime au contenu, et bien c'est là que le risque devient extrêmement grand.

"Le plus insidieux, c'est l'injection de prompt"

On donne accès de façon même potentiellement légitime à de gros volumes de données sans forcément avoir une visibilité complète sur l'intégralité des actions qui sont réalisées.

ZDNET : Alors concrètement Guillaume, quels sont les risques opérationnels si on laisse ces agents opérer sans des gardes fous spécifiques.

Guillaume Braux : Le plus insidieux et peut-être le plus intéressant à explorer, c'est l'injection de prompt. C'est une technique redoutable qui consiste lorsqu'un agent va interagir avec une donnée de l'entreprise, de pouvoir y introduire des ordres illégitimes. Et un des risques de cela, c'est le sur-partage entre collaborateurs.

"Il n'y a quasiment aucun moyen d'auditer l'activité de ces agents"

L'agent aura alors accès à beaucoup d'information, et le risque de fuite de données et de propriétaire intellectuelle deviennent extrêmement important. Cela peut créer des vrais risques en terme de réputation pour l'entreprise.

ZDNET : C'est un véritable cauchemar pour la conformité, d'autant qu'on imagine mal comment tracer les actions d'une intelligence artificielle.

Guillaume Braux : Aujourd'hui, il n'y a quasiment aucun moyen d'auditer l'activité de ces agents. Donc si une fuite de données survient par l'intermédiaire d'un agent IA, ça va être extrêmement complexe de reconstituer ce qui s'est passé, de reconstituer l'incident, d'aller identifier les contenus qui ont été lus par cet agent IA.

Ce qu'il a fait avec ses données, ce qu'il a fait avec ce qu'il a lu, on ne le saura pas non plus. Et donc ça devient extrêmement compliqué d'auditer, de gouverner l'accessibilité aux données, il faut trouver des méthodologies différentes.

Le ZD Tech est sur toutes les plateformes de podcast ! Abonnez-vous !

Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.