Description

L’intelligence artificielle est partout : assistants vocaux, recommandations en ligne, outils professionnels… Elle transforme notre quotidien, nos métiers et nos recherches. Mais cette puissance comporte aussi des risques : désinformation, biais, exploitation de données sensibles ou décisions automatisées problématiques.

Dans cet épisode, découvrez comment comprendre l’IA, ses impacts éthiques et comment l’utiliser de manière responsable pour sécuriser vos données et vos usages numériques.

Un podcast réalisé par Géraldine DE VANSSAY, responsable de la sécurité des systèmes d’information à Télécom SudParis et Institut Mines-Télécom Business School.

Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.

Transcription

• Speaker #0

  Bonjour à toutes et tous, et bienvenue dans ce nouveau rendez-vous dédié à la cybersécurité. Je suis Géraldine, responsable de la sécurité des systèmes d'information, et j'ai le plaisir de partager avec vous ce podcast réalisé au sein de nos écoles, Institut MinTelecom Business School et Télécom Sud Paris. Chaque semaine du mois d'octobre, nous allons explorer ensemble des sujets concrets et essentiels pour mieux comprendre et adopter les bons réflexes numériques. Je tiens à remercier chaleureusement le collectif CyberMoi qui porte cette dynamique nationale et mobilise tout au long du mois d'octobre des initiatives de sensibilisation à la cybersécurité partout en France. Aujourd'hui, nous allons parler d'une technologie qui transforme notre quotidien, l'intelligence artificielle, ou IA. IA, en une phrase simple, c'est l'ensemble des systèmes capables de réaliser des tâches qui, normalement, nécessitent l'intelligence humaine. comme comprendre du langage, analyser des données, reconnaître des images ou prendre des décisions. Elle est partout, dans vos assistants vocaux, vos smartphones, vos services de messagerie, les recommandations sur les plateformes de streaming, mais aussi dans des outils professionnels et scientifiques qui traitent des volumes massifs de données très rapidement. L'IA nous concerne tous, car elle influence notre vie quotidienne, nos études, nos loisirs et nos métiers. Elle peut faciliter nos recherches d'informations, Nous aider à organiser nos emplois du temps, analyser des données pour prendre des décisions éclairées ou encore générer du contenu comme des images, des textes, de la musique. Mais avec ces opportunités, viennent aussi des risques. L'IA peut être utilisée pour manipuler l'information, créer de faux contenus réalistes, automatiser des attaques ou exploiter des données sensibles. Par exemple, des informations personnelles ou professionnelles pourraient être utilisées sans votre consentement si elles tombent entre de mauvaises mains. Prenons l'exemple de DeepSeek, une entreprise chinoise d'intelligence artificielle. Des investigations ont révélé que son modèle d'IA, lorsqu'il est sollicité par des utilisateurs identifiés comme étant critiques envers le régime chinois, génère intentionnellement des informations erronées ou biaisées. Par exemple, des recherches sur des sujets sensibles tels que le Tibet, Taïwan ou le Falun Gong peuvent aboutir à des réponses inexactes, voire à des refus de fournir des informations. Cette manipulation algorithmique soulève des questions éthiques majeures sur l'utilisation de l'IA pour diffuser de la désinformation ciblée et contrôler l'accès à l'information. L'IA soulève également des questions éthiques et sociales. Qui est responsable si un algorithme prend une mauvaise décision ? Comment éviter les biais qui reproduisent les discriminations existantes ? Comment protéger la vie privée lorsque des systèmes capables de reconnaître des visages ou de prédire des comportements sont déployés à grande échelle ? Ces questions... sont au cœur de l'usage responsable de l'intelligence artificielle. Pour comprendre l'impact qu'on crée, imaginez recevoir automatiquement des recommandations ou des informations personnalisées grâce à un système d'IA. Si les données utilisées pour alimenter ce système sont biaisées ou incomplètes, certaines personnes peuvent être injustement exclues ou mal informées. De même, dans le contexte professionnel ou institutionnel, un algorithme mal configuré peut provoquer des erreurs, ralentir des services, ou créer des vulnérabilités exploitables par des personnes mal intentionnées. Mais l'IA n'est pas seulement une menace, elle est aussi un outil de protection. Elle peut aider à détecter des anomalies, anticiper des problèmes, identifier des comportements suspects et prévenir des incidents avant qu'ils ne se produisent. Bien utilisée, l'IA devient un allié précieux pour sécuriser nos données, nos systèmes et même notre vie quotidienne. Enfin, il faut regarder vers l'avenir. Les IA génératives Les systèmes d'apprentissage automatiques et les modèles prédictifs continueront d'évoluer et de transformer nos habitudes, nos services et nos métiers. L'intelligence artificielle ne sera pas réservée aux experts. Chacun d'entre nous, quel que soit son âge ou son parcours, peut apprendre à comprendre ses usages, ses avantages et ses risques, et ainsi devenir acteur plutôt que simple spectateur de cette transformation. En conclusion, l'intelligence artificielle transforme profondément notre quotidien nos métiers et nos recherches. Elle offre des opportunités incroyables, mais elle comporte aussi des risques réels, notamment lorsqu'elle est utilisée pour diffuser de la désinformation ou manipuler des données sensibles. Comprendre son fonctionnement, ses limites et ses impacts éthiques est essentiel pour chacun d'entre nous, quel que soit notre âge ou notre parcours. Parce qu'au fond, la meilleure des protections, c'est la connaissance. Je vous invite à partager ce podcast avec vos amis, collègues, et ne surtout pas hésiter à vous former. Je vous remercie pour votre écoute. et à la semaine prochaine pour le dernier podcast de notre série.