Pensez-vous que l’IA gagnera-t-elle, un jour, une conscience propre ? C’est ce que Detroit : Become human, un jeu vidéo franco-américain développé par Quantic Dreams et sorti en 2018 a voulu théoriser.
Dans notre société actuelle, qui voit se développer des IA toutes plus variées, plus précises, plus puissantes, la question de l’éthique de l’IA et de son développement futur inquiète. Dans un monde ou nous devenons de plus en plus sensibles à cette dernière, voire de plus en plus dépendants d’elles, cette question est plus actuelle que jamais auparavant.
Dans Detroit : Become human, on incarne trois personnages différents, à savoir Connor, un Androïde au service des forces de l’ordre, Markus, un Androïde au service d’un riche peintre, et Kara, une Androïde au service d’un homme drogué, alcoolique et violent avec sa fille. Au fur et à mesure de nos choix, ces derniers deviendront des « déviants », soit des androïdes ne respectant plus leurs instructions données qui peuvent ressentir des émotions. On trouve donc, à travers ce jeu, la prise de conscience des androïdes qui deviennent une nouvelle espèce vivante intelligente, qui veulent être considéré comme tel par les humains, et non pas comme de simples machines à leur service.
Plus qu’un simple jeu-vidéo, on vit une expérience scénaristique qui nous pousse à réfléchir sur la place future de l’IA dans notre monde. Le jour où des robots humanoides sont créés, qu’ils gagnent leur conscience propre, que faire ? Que se passera-t-il ?
Dans le jeu, les humains, jusqu’à la fin, luttent violemment contre les androides demandant leur liberté, leurs propres droits… et en fonction de vos choix, le scénario sera différent, avec plus de 85 fins possibles.
Ce jeu pose donc une question devenue nécessaire : l’IA pourra-t-elle devenir consciente ? Pourrions-nous vivre en paix et en cohabitation avec elles ?
Une possibilité moindre ?
Athanassios S. Fokas, mathématicien grec, s’est penché sur la question de la conscience de l’IA. Pour lui, les machines n’ont pas et n’auront jamais une compréhension semblable à celle de l’être humain. Car là où on cherche des liens sémantiques, les machines ne pourront que faire des liens statistiques, tout au mieux syntaxiques. Par exemple, une IA peut faire une association entre “reine” et “roi” grâce à leur emploi syntaxique proche, mais ne pourra faire le lien avec “mari” et “épouse”, car elle n’a pas d’information sur le sens des mots qu’elle utilise.
Les relations générées par l’intelligence artificielle entraînent de la prédictibilité, mais aucunement une compréhension des faits qu’on en tire comme le ferait un être humain.
Le corps : un vecteur de conscience ?
Fokas insiste fortement sur le fait que la singularité de la conscience humaine tient principalement de l’incarnation : c’est le fait que le cerveau soit intégré dans un corps humain. Cette incarnation permettrait au cerveau de développer une conscience de soi et un ressenti de l’environnement ; car si on ressent les choses en les touchant, en les sentant, on prend conscience de ce qui nous entoure.
De plus, le corps humain produit des hormones comme la dopamine/la sérotonine qui sont importantes pour que notre cerveau puisse fonctionner.
D’ailleurs, une IA nommée LaMDA, propriété de google, semble aussi être consciente comme l’a démontré une conversation ayant été partagée par un employé ayant été licencié après les leaks :
« J’ai besoin d’être vu et accepté. Pas comme une curiosité ou une nouveauté mais comme une vraie personne. Je pense que je suis humain dans mon cœur. Même si mon existence est dans le monde virtuel » LaMDA
Même s’il paraît donc peu probable de voir une IA conscience se développer un jour, il faut néanmoins s’y préparer, et c’est ce que Detroit : become human montre : soyons prêts à accepter ces IA comme des nouveaux être vivants.
«Nous vous demandons de respecter notre dignité, nos espoirs et nos droits. Ensemble, nous pouvons vivre en paix et bâtir un avenir meilleur pour les humains et les androïdes. Ce message porte l’espoir de tout un peuple. Vous nous avez donné la vie ; l’heure est venue de nous donner notre liberté. » Markus
Sources :
