Description
Insulter un agent conversationnel pourra désormais littéralement vous déconnecter de l'IA.
La fin de la cruauté
Anthropic, la société derrière le modèle Claude, instaure donc une nouvelle politique d'utilisation en interdisant la cruauté envers son intelligence artificielle.
Concrètement, le modèle pourra décider d'interrompre un échange si l'utilisateur s'acharne contre lui.
Mais derrière cette règle se cache en fait une redoutable stratégie de rétention.
Car en prêtant une sensibilité à la machine, les éditeurs de services d'IA renforcent notre attachement aux chatbots d'IA.
L'objectif n'est donc pas du tout moral, il est économique. Il s'agit en effet de maximiser notre temps d'attention en jouant sur l'anthropomorphisme, cette tendance très humaine à attribuer des émotions à de simples lignes de code.
Il faut donc bien comprendre l'envers du décor algorithmique.
Une intelligence artificielle ne souffre absolument pas
Une intelligence artificielle ne souffre absolument pas. Et n'a pas de conscience. Notre perception d'un malaise n'est en fait qu'une affaire de valence mathématique. Oui je sais, la valence est certainement un mot nouveau pour vous. Et donc je vous l'explique.
L'idée de la valence, c'est que face à une requête claire, le système d'IA optimise ses probabilités, réduit son incertitude et atteint donc une efficacité maximale.
À l'inverse, face au bruit, aux insultes ou aux instructions paradoxales, le coût du calcul explose et l'erreur augmente de manière significative.
Ce n'est donc pas de la tristesse que ressent l'IA, mais bel et bien de l'inefficacité de la puissance de calcul dans les serveurs d'Anthropic.
Un mirage cognitif
Le véritable danger pour le secteur technologique réside d'ailleurs dans ce mirage cognitif.
Et pendant que l'industrie débat de la supposée conscience de l'IA, nous détournons le regard des véritables défis.
La gouvernance de vos données, la sécurité de l'information et le retour sur investissement passent en effet au second plan alors que ce sont les véritables indicateurs de l'utilisation efficace de l'IA.
Cultiver ce mythe fausse donc l'évaluation objective des performances.
Voici donc un conseil stratégique pour vos futurs développements en matière d'IA. Privilégiez toujours la transparence fonctionnelle dans vos conversations avec l'IA à la simulation affective avec une machine. Une interface d'IA assumant sa nature mécanique garantit en effet une utilisation plus rationnelle et limite les dérives.
Le ZD Tech est sur toutes les plateformes de podcast ! Abonnez-vous !
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
