Aujourd’hui, on parle de sécurité et d’intelligence artificielle avec une affaire qui fait grand bruit. La FTC, l’autorité américaine de la concurrence, accuse la société Evolv Technologies de publicité mensongère concernant ses scanners de sécurité à base d'IA.

On va voir ensemble ce que cela implique, notamment pour les établissements scolaires qui ont adopté ces technologies outre-Atlantique.

Premier point, les promesses vendues par cette société sur la performance de l'IA en matière de sécurité n'ont pas été tenues.

Détecter les armes avec l'IA

En juin 2022 l'ancien directeur général d'Evolv, Peter George, s'était vu demander si son entreprise aurait pu empêcher la tragique fusillade dans l'école d'Uvalde, au Texas, où 19 élèves et deux enseignants ont été tués.

Il avait alors répondu "Lorsque quelqu'un passe par notre système et qu'il possède une arme dissimulée ou non, nous la trouvons, un point c'est tout."

Evolv affirmait en effet que ses scanners pouvaient détecter des armes tout en ignorant les objets inoffensifs, comme des bouteilles d’eau ou des classeurs.

Lacunes et marketing

Or, la réalité s'est avérée bien différente. Non seulement les scanners ont déclenché de nombreuses fausses alarmes pour des objets banals, mais pire, dans certains cas, ils ont échoué à repérer des armes.

Et ce dans des conditions réelles. Des écoles qui avaient investi des millions de dollars dans ces équipements ont constaté des lacunes graves, mettant en question la sécurité des élèves.

Deuxième point, ces lacunes ont désormais des conséquences légales et financières importantes.

Les autorités américaines ont exigé qu’Evolv modifie ses pratiques marketing. Les écoles qui ont acheté ces systèmes entre 2022 et 2023 pourront également annuler leurs contrats.

La performance des scanners n'a jamais évolué

De plus, la société fait face à des recours collectifs d’actionnaires. Ils estiment avoir été trompés sur les capacités réelles des produits. Surtout qu'une des grandes promesses de l'IA, c'est de s'améliorer en apprenant. Ici, la performance des scanners n'a jamais évolué.

Enfin troisième point, cette affaire met en lumière une problématique plus large. Surfant sur l'effet de mode, des fournisseurs survendent les capacités de l'intelligence artificielle. Or, ils ne sont en aucun cas une solution miracle.

Méfiez-vous donc des discours commerciaux qui à domicile ou au bureau vous promettent monts et merveilles grâce à l'IA. C'est souvent survendu, et parfois, tout simplement, ça ne marche pas du tout.

Le ZD Tech est sur toutes les plateformes de podcast ! Abonnez-vous !

Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.