Aujourd'hui, nous plongeons dans les coulisses sombres de la Silicon Valley avec le dossier Tesla.

Une version bêta de son IA de conduite sur des routes réelles

Le premier point de cette affaire réside dans l'ampleur du camouflage industriel révélé par un leak gigantesque. Ce que l'on appelle désormais les Tesla Files, initiés par un lanceur d'alerte, mettent à nu une réalité glaciale. Plus de 2 400 plaintes pour des accélérations spontanées et un millier d'accidents que l'entreprise a systématiquement classés comme non résolus. Et mis aux oubliettes.

En fait, Tesla ne se contentait pas de vendre des voitures. Elle déployait en même temps une version bêta de son IA de conduite sur des routes réelles, transformant ses clients et les autres usagers en cobayes d'une expérimentation à grande échelle.

Mais au-delà du secret, c'est la faillite technologique du système qui inquiète.

Hallucinations de l'IA sur les systèmes Tesla

Concrètement, les experts parlent de véritables hallucinations de l'IA sur les systèmes Tesla.

À l'image d'un chatbot qui invente une réponse, le système de conduite autonome de Tesla a interprété de manière erronée son environnement, provoquant des freinages fantômes ou des accélérations brutales.

Plus grave encore, les données récupérées après certains crashs mortels prouvent que le système identifiait parfois l'obstacle sans déclencher la moindre manœuvre d'évitement.

Cette déconnexion entre la perception de la machine et son action corrective souligne une faille majeure dans la gestion des systèmes critiques.

Cela rappelle que l'IA, aussi avancée soit-elle, nécessite des couches de sécurité redondantes que Tesla semble avoir ignorées pour maintenir son image de pionnier infaillible.

Un tournant historique pour la responsabilité des algorithmes

Enfin, le volet juridique marque un tournant historique pour la responsabilité des algorithmes.

En août dernier, un tribunal de Floride a condamné Tesla à verser 240 millions de dollars suite à un accident mortel sous Autopilot. Et le verdict est sans appel. Tesla a été reconnue responsable aux côtés du conducteur.

La justice a notamment mis en lumière les tentatives de l'entreprise pour dissimuler les données des boîtes noires, affirmant qu'elles étaient endommagées alors que les experts ont pu prouver que Tesla connaissait la défaillance dès le soir du drame.

Et ce précédent crée un risque juridique et financier colossal pour toutes les entreprises intégrant de l'IA dans des produits physiques. Car désormais, le secret industriel ne protège plus totalement contre la responsabilité civile et pénale.

Le ZD Tech est sur toutes les plateformes de podcast ! Abonnez-vous !

Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.