Le voici enfin : l’IA Act est enfin disponible pour la lecture. Présentant 460 pages concernant les systèmes d’IA, le règlement prévoit une séparation des exigences et obligations incombant aux différents acteurs de développement et de déploiement d’IA. Cette séparation s’articule par une différenciation des risques des systèmes d’IA, en passant du risque minimal au risque inacceptable. C’est ce dernier qui nous intéresse et qui soulève un problème européen et plus généralement mondial concernant la régulation non-existante du jeu-vidéo.
A la page 180 de l’acte se trouve le chapitre III concernant les systèmes d’IA présentant des risques inacceptables. L’article 5 énonce, en son point a) :
« Les pratiques en matière d’IA suivantes sont interdites :
- la mise sur le marché, la mise en service ou l’utilisation d’un système d’IA qui a recours à des techniques subliminales, au-dessous du seuil de conscience d’une personne, ou à des techniques délibérément manipulatrices ou trompeuses, avec pour objectif ou effet d’altérer substantiellement le comportement d’une personne ou d’un groupe de personnes en portant considérablement atteinte à leur capacité à prendre une décision éclairée, amenant ainsi la personne à prendre une décision qu’elle n’aurait pas prise autrement, d’une manière qui cause ou est raisonnablement susceptible de causer un préjudice important à cette personne, à une autre personne ou à un groupe de personnes; »
On se rend donc compte, après lecture de ce point, que la manipulation du comportement des individus constitue un risque inacceptable qui se doit d’être interdit en matière d’IA.
Cependant, des pratiques d’altération substantielle du comportement d’une personne portant préjudice à leur capacité à prendre une décision éclairée se trouvent massivement dans le jeu-vidéo, à travers la psychologie.
La psychologie dans le jeu-vidéo : la manipulation des individus pour un gain financier
Le phénomène Fear Of Missing Out (peur de louper) est un phénomène psychologique ayant été introduit dans le secteur de la psychologie en 2004 pour décrire un phénomène observé sur les sites de réseaux sociaux. Le FOMO comprend deux processus : tout d’abord, la perception d’un manque, suivie d’un comportement compulsif pour maintenir ces connexions sociales.
L’application du FOMO dans les jeux consiste à créer un environnement dans lequel les joueurs se sentent obligés de continuer à jouer pour ne pas manquer des récompenses, des événements ou des interactions sociales. Cet objectif peut être atteint grâce à divers mécanismes tels que des événements à durée limitée, des récompenses exclusives ou un contenu saisonnier ; du contenu en somme très commun dans les jeux.
Le FOMO est surtout utilisé, dans le jeu-vidéo, pour vendre plus de biens virtuels tels que des cosmétiques ou des améliorations de personnage. C’est une pratique prédatrice qui vient utiliser la psychologie humaine pour manipuler les joueurs et fortement les inciter à acheter et dépenser toujours plus. Cela correspond donc à une pratique d’altération substantielle du comportement d’une personne portant préjudice à leur capacité à prendre une décision éclairée l’amenant ainsi à prendre une décision qu’elle n’aurait pas prise autrement.
On retrouve aussi l’addiction aux jeux d’argent dans le jeu-vidéo.
Autre exemple sur les lootboxes (des boites « offrant » des objets aléatoires qui coûtent fréquemment de l’argent réel) prédatrices de jeux comme FIFA (récemment appelé EAFC), ou encore les jeux mobiles gacha (jeux dont les lootboxes sont la principale source de revenus, basés sur des transactions coûteuses et nécessaires) qui incitent les joueurs à dépenser des sommes astronomiques pour un jeu de type casino, pouvant provoquer des addictions aux jeux d’argent, qui ne sont pas régulés alors que les casinos, eux, le sont. Le jeu-vidéo, lui, n’est pas interdit aux mineurs, la mention PEGI n’étant qu’une recommandation. Cela semble donc étrange que l’Union Européenne, concentrée sur la protection des mineurs (comme avec le RGPD et son article 8 portant un focus particulier sur les données personnelles des mineurs) comme l’énonçait le parlement européen le 17-11-2023 « La protection et la promotion des droits des enfants sont un objectif principal pour l’UE et le Parlement européen, inscrit dans l’article 3 du traité sur l’Union européenne et de la Charte des droits fondamentaux de l’Union européenne. »
Pourquoi interdire les IA utilisées pour manipuler les individus et influencer leurs prises de décisions mais ne pas mettre en place de régulations sur des pratiques de manipulation des individus pour les inciter à acheter, en utilisant la psychologie humaine ? Certes, l’IA et son influence peut être politique et criminelle ; et ces IA sont strictement interdites ; pourquoi considérer la protection des mineurs comme un objectif clé mais ne pas réguler leur manipulation dans les jeux-vidéo ? Il faut noter qu’il reste le plus grand secteur du divertissement numérique, rapportant plus que le secteur de la musique et du cinéma … combinés. La régulation de ces pratiques est donc nécessaire.
Sources :
https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138-FNL-COR01_FR.pdf
https://www.europarl.europa.eu/topics/fr/article/20231109STO09921/que-fait-l-ue-pour-proteger-les-enfants
https://www.cnil.fr/fr/reglement-europeen-protection-donnees/chapitre2#Article8
