Le chantier juridique des algorithmes

Email this to someoneTweet about this on TwitterShare on Facebook0Share on Google+0Share on LinkedIn12

Les algorithmes sont une liste de règles, de formules permettant d’obtenir un résultat à partir de données fournies. A l’ère du numérique, leur usage est multiple et omniprésent dans notre quotidien : ils permettent d’orienter les résultats d’un moteur de recherche comme Google ou assister un médecin dans l’établissement d’un diagnostic .

L’encadrement juridique de ces algorithmes est un véritable chantier. L’enjeu pour le législateur est important puisqu’il s’agit de protéger les utilisateurs contre d’éventuelles atteintes liberticides d’une technique en plein essor sans pour autant en limiter le développement.

Les enjeux juridiques des algorithmes 

En 2014, dans son étude annuelle portant sur le numérique et les droits fondamentaux, le Conseil d’Etat avait dénoncé les atteintes des algorithmes aux libertés fondamentales. Tout d’abord, ces techniques “enfermement de l’internaute dans une “personnalisation” dont il n’est pas maître”. En outre,  ces algorithmes, aux résultats souvent plus fiables que ceux du cerveaux humain entrainent une confiance abusive dans les résultats d’algorithmes perçus comme objectifs et infaillibles”. Enfin, ces nouveaux usages vont entraîner “de nouveaux problèmes d’équité du fait de l’exploitation toujours plus fine des données personnelles”. 

A cet égard, trois points de “vigilance” avaient été mis en exergue. Il s’agit, dans un premier temps, de veiller à l’effectivité de l’intervention humaine dans la prise de décision au moyen d’algorithme. Egalement, il recommande de mettre en place des garanties de procédure et de transparence lorsque les algorithmes sont utilisés pour prendre des décisions à l’égard d’une personne. Enfin, il souligne la nécessité de contrôler les résultats produits notamment pour détecter l’existence d’éventuelles discriminations illicites.

Le chantier juridique des algorithmes 

Les prémices de la réglementation des algorithmes ont été posé à l’occasion de la modification de la loi informatique et libertés le 6 août 2004. Le recours au “traitement automatisé de données à caractère personnel” comme fondement d’une décision de justice y est strictement encadré (article 10).

Le 7 octobre 2016, l’entrée en vigueur de la loi pour une République numérique marque la prise du conscience du législateur d’en encadrer l’usage. Ainsi, les articles 4 et  6 de ladite loi viennent réguler l’usage des traitements algorithmiques par l’administration. Mais c’est surtout l’introduction d’une obligation de délivrer une information loyale, claire et transparente pour les plateformes ayant recours à ces ces algorithmes qui marque un véritable tournant (l’article 49, article L. 111-7 du Code de la consommation). Cette obligation porte notamment sur “les conditions générales d’utilisation du service d’intermédiation qu’il propose et sur les modalités de référencement, de classement et de déréférencement des contenus, des biens ou des services auxquels ce service permet d’accéder ;”.

Cette obligation de loyauté et de transparence a été renforcée avec le décret d’application du 29 septembre 2017, qui entrera en vigueur au 1er janvier 2018.  Des précisions y sont apportées notamment quand au seuil de connexions minimal au delà desquelles les plateformes ayant recours à ses algorithmes ont l’obligation d’“élaborer et diffuser des bonnes pratiques visant à renforcer leurs obligations de loyauté, de clarté et de transparence dans les informations transmises aux consommateurs.”.

Cette exigence de transparence s’annonce difficile à mettre en oeuvre, notamment concernant les algorithmes dit “cognitifs”, c’est à dire créés sur la base d’une technique d’apprentissage massif rendant parfois même la compréhension humaine difficile sur son fonctionnement. Toutefois, comme le précise Dominique Cardon, dans le compte rendu de la consultation de la CNIL sur Les enjeux éthiques des algorithmes, “ce qui est essentiel, ce n’est pas que le code soit transparent, c’est que l’on comprenne ce qui rentre et ce qui sort de l’algorithme ainsi que son objectif.”.

Enfin, le nouveau Règlement général de protection des données (RGPD), qui entrera en vigueur le 25 mai 2018, va fortement encadrer les pratiques actuelles d’exploitation des données par ces algorithmes. Désormais, toute entreprise exploitant des données personnelles de citoyens européens sera tenue d’en contrôler la collecte et l’exploitation, un chantier qui s’annonce titanesque.

A propos de Domitille DE CASLOU

Etudiante en Master gestion et droit de l’économie numérique de l’Université de Strasbourg, je suis également diplômée du Master droit des affaires de l’Université Paris Assas. Je suis passionnée par le droit des nouvelles technologies, l’innovation et les données personnelles.

Email this to someoneTweet about this on TwitterShare on Facebook0Share on Google+0Share on LinkedIn12

Vous aimerez aussi...

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *