Transcription

• Speaker #0

  Et si les plus grands défis des entreprises de demain n'étaient pas technologiques mais juridiques ? On le sait, la technologie avance vite, parfois plus vite que le droit. Le numérique n'est plus seulement un terrain d'innovation technologique, il génère en permanence de nouvelles problématiques juridiques, toujours plus nombreuses et complexes, que les juristes doivent suivre et décrypter au quotidien. Qui est responsable lorsqu'une intelligence artificielle se trompe ? Comment assurer une juste rémunération des auteurs d'une œuvre lorsque l'IA s'entraîne sur des millions de contenus, parfois sans autorisation ? À partir de quel moment une mécanique de jeu devient-elle une technique de manipulation ? Et comment construire un monde numérique véritablement accessible à tous ? Je suis Angeline Doudou, journaliste chez Le Fèvre d'Aloze, et je vous propose de partir à la rencontre de celles et ceux qui décryptent ces mutations et accompagne les entreprises face à ces enjeux d'ampleur. Bienvenue dans Business et Innovation Technologique, le droit des affaires à l'ère du numérique. Aujourd'hui, je suis en compagnie de Marie-Laure Pidou, Cancel et de Chloé Hafner, collaboratrice chez Osborne Clark. Bonjour mesdames.

• Speaker #1

  Bonjour.

• Speaker #0

  Bonjour. Première question pour toi Marie-Laure. Alors aujourd'hui, on parle de gamification. On en voit partout. Nos auditeurs l'ont certainement déjà expérimenté sur certains sites et applications diverses, mais à quoi ça ressemble exactement ?

• Speaker #1

  C'est une très bonne question. La gamification, c'est une pratique qui est assez courante et assez ancienne. Elle a toujours existé. C'est une stratégie marketing. C'est le fait d'intégrer des mécaniques de jeu dans une expérience du consommateur ou de l'utilisateur, typiquement dans une expérience d'achat, dans une expérience sur les réseaux sociaux, d'utilisation de réseaux sociaux. Cette pratique est ancienne. On pense par exemple aux jeux concours, Ausha au trésor. C'est juste que l'e-commerce est un énorme accélérateur de ce phénomène de gamification. On peut parler peut-être de trois grandes familles de mécaniques pour vous donner des exemples, qui sont la première, les mécaniques de récompense, typiquement une roue virtuelle qui va vous permettre de gagner des réductions, des expériences d'achat ludiques, tu fais un quiz en ligne et puis en fonction des résultats, on va te recommander le produit qui va le mieux, qui correspond le mieux à tes attentes, ou encore des actions orientées objectifs, par exemple un programme de fidélité dans lequel en passant des achats, tu collectes des points et tu obtiens des récompenses variées.

• Speaker #0

  Est-ce que tu as un exemple récent de gamification ?

• Speaker #1

  On peut peut-être parler d'un exemple qui a été flagué par une association de consommateurs en Allemagne, qui était présente sur la plateforme Shein, que tu connais certainement, grosse plateforme de fashion. C'était un chien virtuel qui était dans une app et il exploitait la compassion des consommateurs, c'est-à-dire qu'il demandait des récompenses, qu'on lui donne à manger, etc. Et pour lui donner les dites récompenses, il fallait passer des achats. Quand on passait des achats, on découvrait qu'il y avait des conditions supplémentaires pour obtenir les récompenses promises, des achats supplémentaires, etc., qui n'avaient pas été disclosées dès le départ à l'utilisateur. Ça, ça a été considéré comme non conforme aux droits de la consommation par l'association allemande en question. On sait aussi que l'UFC Que Choisir en France, donc très grosse association de consommateurs françaises, considère que les pratiques de gamification peuvent être des dark patterns. si elles ne remplissent pas certaines conditions.

• Speaker #0

  Alors peut-être que ma question arrive en avance de phase, mais qu'est-ce qui juridiquement pose problème dans l'exemple que tu viens de donner ? Est-ce qu'on est vraiment dans l'illégal ou on est dans une zone grise ?

• Speaker #1

  Alors les deux, en réalité. Je ne sais pas si je peux me prononcer sur si c'est illégal, mais en tout cas, il y a une partie clairement dans cet exemple qui relève un peu de ce qui est aujourd'hui à travers l'éthique et qui n'est pas encore réglementé. On en parlera tout à l'heure. Et il y a une autre partie qui est déjà couverte par des règles existantes. Et Chloé, si tu veux, je te laisse les exposer.

• Speaker #2

  Oui, alors en fait, comme disait Marie-Laure tout à l'heure, la gamification, elle n'est pas interdite en soi. C'est selon comment elle va être mise en œuvre qu'elle va pouvoir tomber sous le coup de pratiques interdites par certains textes. Et les deux fondements principaux, c'est la directive sur les pratiques commerciales déloyales de 2005 et le règlement sur les services numériques de 2022. Sur le fondement de la directive sur les pratiques commerciales déloyales, La gamification peut être considérée comme trompeuse vis-à-vis d'un consommateur. Et un exemple type, c'est par exemple une plateforme qui met en place un mini-jeu pour faire gagner des réductions à un consommateur. Le consommateur va jouer, investir du temps, et à la fin, une fois qu'il aura... pour remporter sa récompense, il va découvrir qu'il y avait un montant minimum d'achat pour bénéficier en fait de cette réduction. Et ça, il va le découvrir à la fin de son parcours, une fois qu'il a joué, une fois qu'il a investi du temps. Et donc ça, on considère que c'est trompeur. Sur le fondement du règlement sur les services numériques, la gamification peut être interdite si elle constitue un dark pattern. Et un dark pattern, qu'est-ce que c'est ? C'est une interface qui va être conçue volontairement. par une entreprise pour être trompeuse ou manipulatrice et pousser les utilisateurs à prendre des décisions qu'ils n'auraient pas prises autrement. Et dans ce règlement, il y a trois exemples de dark patterns interdits. Le premier, c'est le confirm shaming. Donc ça consiste à orienter le consommateur à faire un choix en jouant soit sur ses émotions, soit sur un sentiment de honte. Donc un exemple concret. C'est lorsque une plateforme va pousser une offre à un consommateur et le consommateur va avoir deux choix, soit l'accepter, soit la refuser. Et pour la refuser, il va devoir appuyer sur un bouton qui est libellé, par exemple, non merci, je préfère payer le plein tarif. Donc ce type de pratique. On a aussi le nagging qui est interdit par le règlement. C'est une pratique qui revient à poser la même question plusieurs fois. pour forcer la décision du consommateur un peu jusqu'à ce qu'il s'épuise. Et enfin, la dernière pratique qui est visée, c'est le fait de rendre la désinscription d'un service plus compliquée que sa souscription. Et ça, c'est déjà interdit d'ailleurs en droit français par ailleurs, avec le bouton de résiliation.

• Speaker #0

  Si je comprends bien la question clé, c'est donc celle de la limite. Où se situe la frontière entre une gamification licite et une pratique interdite ? Marie-Laure, peut-être ?

• Speaker #1

  C'est exactement la bonne question. L'enjeu, c'est la qualification, c'est-à-dire est-ce que je suis dans une pratique qui peut être qualifiée de dark patterns ? Est-ce que je manipule le consommateur, je le pousse à faire un choix qu'il n'aurait pas fait autrement ? Et on voit bien la difficulté dans l'exemple que vient de donner Chloé sur le confirm shaming, par exemple. Est-ce que vraiment ce sentiment un peu de honte que ça peut créer va réellement pousser le consommateur à faire un choix qu'il n'aurait pas fait autrement ? C'est pas évident. Savoir également si c'est une pratique trompeuse, c'est-à-dire est-ce que cette pratique a... altéré le comportement du consommateur ? Est-ce que ça l'a poussé à avoir un comportement qu'il n'aurait pas adopté autrement ?

• Speaker #2

  Dans les mécaniques qui sont particulièrement surveillées aujourd'hui, par les autorités et par les associations de consommateurs, donc mis à part le nagging et le confirm timing dont on vient de parler, il y a aussi la pratique de la fausse urgence. Cette pratique, c'est un compte à rebours sur un site avec une mention « Attention, cette offre va expirer dans 10 minutes » alors qu'en fait, l'offre et perpétuellement renouvelé. Et donc un autre exemple, c'est celui de la rareté artificielle. Donc ça va être des entreprises qui vont présenter un stock comme limité, par exemple des entreprises de réservation en ligne, où le consommateur va venir pour réserver une chambre d'hôtel et il va voir qu'il n'y a plus qu'une chambre disponible, alors que ce n'est pas forcément le cas. Et donc ces techniques ont pour objectif de pousser le consommateur à prendre une décision rapide. Donc, pas forcément éclairée. Une autre pratique qui est dans le viseur des autorités et des associations de consommateurs, c'est la pratique des récompenses variables intermittentes. C'est ce dont parlait Marie-Laure au début avec l'exemple de Sheehan. Donc en fait, c'est des expériences d'achat ludique avec des roues à faire tourner pour obtenir des récompenses, mais les conditions sont floues, les résultats sont aléatoires et imprévisibles. Et très souvent dans ce type de pratique, le consommateur pense qu'il va... avoir un gain supérieur à celui qu'il va avoir au final. Et donc, elles sont très souvent spotées comme des pratiques trompeuses.

• Speaker #1

  Et il ne voit pas forcément non plus, il n'a peut-être pas forcément non plus idée de ce qu'il doit dépenser pour obtenir ses récompenses et ce qui est réellement le sujet. Et puis, un autre point d'attention, c'est lorsque la pratique vise des mineurs. Puisque notamment, si vous êtes sur une plateforme en ligne, vous avez des obligations spécifiques qui viennent du DSA sur la protection des mineurs et vous devez éviter... certaines conceptions qui sont susceptibles d'entraîner des dépenses excessives ou des comportements addictifs des mineurs. Ça paraît très vaste, mais c'est quand même un point d'attention. Il faut que vos pratiques soient très transparentes vis-à-vis des mineurs.

• Speaker #0

  Chloé, fin 2026, une première proposition d'un nouveau texte appelé le Digital Fairness Act devrait voir le jour. Est-ce qu'il va changer la donne ou plutôt clarifier ce qui existe déjà ?

• Speaker #2

  Alors l'objectif annoncé par ce texte, c'est vraiment de rationaliser le droit existant, qui manque aujourd'hui de lisibilité pour les opérateurs, et aussi d'améliorer l'effectivité des règles qu'on a déjà. Mais c'est aussi de combler les lacunes, des règles qui font défaut aujourd'hui, pour appréhender les nouvelles pratiques inventées par les professionnels. Ces lacunes, elles ont été identifiées par la Commission européenne. lors du fitness check qui a donné lieu justement à ce Digital Fairness Act, et aussi par d'autres entités comme le Parlement européen, qui a aussi insisté sur les lacunes du droit existant pour appréhender des pratiques comme le scroll infini, l'autoplay, donc la lecture automatique de vidéos, sans que le consommateur ait à faire une action positive pour que le contenu continue à défiler. Donc voilà, l'objectif est vraiment double, c'est à la fois renforcer le droit existant et combler les lacunes. Et on ne sait pas encore quelle forme prendra ce texte. Alors, est-ce que ça sera un tout nouveau règlement ou une toute nouvelle directive ? Ou est-ce que ça va être un texte qui va venir modifier le droit existant ? Ça, cette question est encore en suspens.

• Speaker #0

  Et Marie-Laure, dans le détail, quelles sont les pratiques qui seront visées ?

• Speaker #1

  Alors, du coup, on ne sait pas exactement encore. Et du coup, ça va d'autant plus être intéressant de lire ce texte qui va quand même vraiment révolutionner le droit de la consommation existant. Ce qu'on sait, par contre, c'est ce qui est sur la table. Quelles options sont sur la table ? On sait que sur la table, il y a l'option de donner plus de contrôle aux consommateurs sur la manière dont leur sont recommandés des contenus, des publicités. On sait que c'est aussi d'avoir potentiellement des paramétrages par défaut, c'est-à-dire d'avoir des fonctionnalités qui sont désactivées par défaut, notamment pour les mineurs, comme Chloé l'a dit, l'autoplay par exemple, le scrolling à l'infini peut-être, ça paraît plus compliqué, ou même certaines interdictions ciblées qui vont viser les mineurs pour plus de protection. Ça va être aussi un renforcement sur les règles des dark patterns, notamment. peut-être en en ciblant certains de manière plus spécifique et en interdisant clairement certaines pratiques.

• Speaker #0

  Concrètement, passons côté service juridique, comment est-ce qu'il doit absorber la conformité gamification aujourd'hui, Chloé ?

• Speaker #2

  La première étape, c'est vraiment d'identifier les pratiques de gamification qui sont en place, donc les pratiques qui sont licites, de fidélisation classique, et les pratiques qui peuvent être potentiellement illicites. C'est donc le rôle des juristes. Aider par les cabinets d'avocats, c'est vraiment de savoir si la pratique qui est mise en œuvre peut constituer une pratique trompeuse ou un dark pattern, ou si au contraire, elle peut tout à fait être développée par les entreprises. La question, c'est vraiment de savoir si la pratique exploite la vulnérabilité des utilisateurs, notamment pour des plateformes qui sont utilisées par des mineurs.

• Speaker #1

  Quelques bonnes pratiques à avoir en tête, par exemple, c'est de... d'éviter des sollicitations répétées des consommateurs, d'éviter des messages culpabilisants ou la mise en avant dans le design de la promotion d'options qui peuvent être considérées comme défavorables aux consommateurs, typiquement le choix de l'abonnement le plus onéreux, par exemple. C'est aussi d'être certain qu'on a des règles qui sont très claires et faciles à comprendre. Et enfin, que les consommateurs consentent de manière éclairée à la promotion, c'est-à-dire, on a parlé d'information, mais c'est-à-dire aussi qu'ils peuvent en sortir à tout moment. Ils ne sont pas prisonniers de la mécanique de jeu. Et peut-être une dernière chose, c'est quand même d'essayer de suivre et d'anticiper le DFA pour ne pas être surpris ensuite par l'arrivée de ce texte et déjà intégrer certaines de ces pratiques puisqu'elles sont quand même aujourd'hui dans le viseur déjà des autorités.

• Speaker #0

  Marie-Laure, Chloé, on arrive au terme de notre entretien. Si vous deviez donner un conseil simple aux juristes qui nous écoutent.

• Speaker #1

  Ce serait peut-être d'être associé aujourd'hui, lorsqu'il y a des promotions qui sont proposées par les équipes, d'être associé dès le départ, pas seulement à la rédaction de la documentation et des textes, des terms and conditions, mais aussi à toute la mécanique de jeu et son design, puisqu'aujourd'hui ça a vraiment une importance réelle en droit de la consommation, et qu'on sait aussi que quand ça marche, c'est répété, donc autant prendre le problème éventuel à la racine.

• Speaker #2

  Oui, un dernier conseil, comme le disait tout à l'heure Marie-Laure. En fait, il faut vraiment suivre l'actualité du Digital Fairness Act pour savoir ce qui va être mis sur la table, ce qui va être interdit et pouvoir l'anticiper dans les équipes juridiques. Notamment, on sait que tout ce qui est dark patterns, addictive design, c'est des sujets qui vont être réglementés. Et donc, c'est important de se renseigner au fur et à mesure pour pouvoir anticiper les pratiques qui seront interdites demain et anticiper les contrôles à venir sur ces sujets.

• Speaker #0

  Marie-Laure, Chloé, merci beaucoup pour cette discussion au sujet de la gamification. C'était absolument passionnant. Alors si vous le voulez bien, on peut se donner rendez-vous fin 2026 ou début 2027 pour parler du DFA.

• Speaker #1

  Avec grand plaisir et merci beaucoup de nous avoir reçus.

• Speaker #0

  Merci beaucoup et à bientôt.