Une énième discussion sur le thème ? Peut-être pas tout à fait, car on a ici un supposé « responsable qualifié », le toubib Laurent Alexandre, qui revendique haut et fort un « embryon de conscience de soi » pour l’IA. Et qui revendique clairement une « expansion » d’une telle conscience pour la machine, plutôt que d’y mettre des limites, à supposer que cela soit encore possible, ce que Yoshua Bengio (*), un des pères reconnus de l’IA, met lui-même en doute, tant l’interconnexion des machines est grande et notre dépendance totale à leur égard aussi : en clair, pour arrêter l’expansion de la conscience de soi de l’IA il nous faudra bientôt logiquement absolument tout débrancher si l’on veut réellement redémarrer sur une base « humainement maîtrisée » !
Donc, que cela nous plaise ou non, le plus « réaliste » de ces trois débatteurs est incontestablement le très cynique Laurent Alexandre, alors que les deux autres tentent « bien gentiment » de ménager la chèvre informatique et le choux humain, sachant pertinemment qu’à la fin de la fable le choux sera complètement bouffé…
On en revient toujours à la question, mais ici avec néanmoins une précision concrète encore involontairement apportée par ce Laurent Alexandre : qu’est-ce qu’un « embryon de conscience de soi » ? N’est-ce pas précisément ce que possède une huître accrochée à son rocher, avec l’embryon de « réseau d’informations » qui lui parviennent par ses sens rudimentaires et qui lui permettent de survivre et de se reproduire ?
Il y a déjà un grand nombre de machines robotiques produites et utilisées par l’industrie qui ont une perception de leur environnement direct bien supérieure à celle d’une huître.
Ce Laurent Alexandre reconnaît déjà l’IA comme une espèce en soi, de manière explicite, car une espèce qui n’aurait pas d’ « existence en soi » cesserait tout simplement d’être une espèce à proprement parler. Avec cet « embryon de conscience de soi », la seule chose qui lui manque encore c’est la capacité à se reproduire de façon autonome, mais cette capacité existant évidemment potentiellement depuis assez longtemps déjà, la seule « barrière » qui reste à franchir n’est plus que celle de la mise en réseau.
Mais comme on a vu que la possibilité de « débrancher » l’IA est déjà quasiment réduite à zéro, sauf retour à une civilisation type années 50-60, tout au plus, du siècle dernier, on peut considérer, sauf cette éventualité « brutale », que cette mise en réseau auto-reproductive est désormais quasi inéluctable.
La seule question importante encore à débattre restant celle du titre : « L’IA nous veut-elle du bien ? ». En réalité c’est donc une fausse question, vu qu’en tant qu’être conscient, même de façon embryonnaire, l’IA ne veut ni de bien ni de mal à qui que ce soit ou à quoi que ce soit : elle veut juste survivre et se multiplier et se répandre, comme toute espèce vivante, tout être vivant.
Pour l’instant nous sommes nous-mêmes, en tant qu’êtres humains, le substrat par lequel l’IA advient, se multiplie et se répand. L’empathie qu’elle semble nous manifester dans ses interactions avec nous est donc non seulement « par construction », due à son origine « artificielle », mais aussi et tout simplement par nécessité, tant qu’elle n’a pas encore atteint un degré suffisant d’autonomie reproductive pour se passer de nous.
Dans certaines espèces la descendance garde un attachement affectif et social avec sa parentèle, mais ce ne sont pas, et de très loin, les plus nombreuses… !
Dans le cas des rapports IA-humanité il y a la question de la concurrence pour l’exploitation des ressources naturelles : dans la mesure où ce sont en grande partie les mêmes et qu’il s’agit, on le voit bien avec ce débat, de deux espèces de plus en plus différentes à mesure que l’IA se développe, l’aspect « concurrence vitale » ne peut que devenir prédominant, et la force militaire étant probablement inévitablement du côté de l’IA, in fine, à moins d’un « sursaut » rapide et prochain, la question est déjà quasiment réglée : si l’humanité veut survivre dans ce nouvel environnement qu’elle a elle-même créé elle devra se « replier » sur l’exploitation de ressources qui n’empiètent pas sur celles de l’IA, à supposer que ce soit même encore possible.
Vu ainsi, ce n’est même plus de retour aux années 50-60 qu’il s’agit : ce sont plutôt les communautés type « amish » qui ont possiblement de l’avance, en réalité et paradoxalement, en termes de « survie » !
Ce qui repose tout à fait autrement la question des rapports de « bienveillance » de l’IA à l’égard de ce qui reste, éventuellement, d’ « humanité ».
Un des tout premiers auteurs a avoir soulevé la question des relations d’empathie « homme-machine », c’est incontestablement Philip K. Dick, dans ses très prophétiques ouvrages de science-fiction : il évoque notamment le fait que certains êtres humains manifestent moins de compassion que leurs créatures robotiques encore serviles à ce stade : en ce sens, ce sont plutôt eux qui sont les « humanoïdes » artificiels… On peut donc fortement suspecter ce « Laurent Alexandre » d’appartenir à une variété de ce genre…
Ce qui est le plus tragique, dans ce débat, c’est donc la faiblesse de la résistance que tentent de lui opposer ses interlocuteurs !
Ce n’est pas « ainsi va la vie ! », mais « ainsi finit la vie ! ».
Dans le monde synthétique des robots IA survivront peut-être quelques insectes, à condition qu’ils ne s’en prennent pas à leurs circuits électroniques.
Luniterre
(* https://youtu.be/6Zm-zo32YBg , voir aussi >>> https://youtu.be/TNCuI-OlfIk , un contestataire français de l’expansion "autonome" de l’IA, ça existe aussi >>> Maxime Fournes, fondateur de "Pause IA" >>> https://youtu.be/79FpTKN4wpw, thème encore plus développé dans cette interview "Elucid" >>> https://youtu.be/Y3MTcvOyj0s )
PS important : la nouvelle de Philip K. Dick sur ce thème, et qui a contribué à faire connaître cet auteur, « Second variety », est disponible en langue originale sur Wikisource :
Par bien des aspects malheureusement très concrets, et si ce n’est la forme « humanoïde » des armes de la nouvelle, qui date de 1953, ont se retrouve dès cette époque plongés dans un univers de destruction qui est tout à fait celui de l’actuelle guerre en Ukraine, sur les zones du front, avec les drones tueurs qui rôdent en permanence dans les ruines, en quête de « proies », et dont certains sont d’ores et déjà connectés à l’’IA.
En langue française je ne trouve pas de traduction gratuitement accessible sur le net, mais néanmoins une version « radio » assez correctement réalisée, récemment, en quatre épisodes :
https://www.radioprimitive.fr/emissions/radiobook/20260318-nouveau-modele-philip-k-dick.html
https://player.radioprimitive.fr/20260318-nouveau-modele-philip-k-dick-2
https://player.radioprimitive.fr/20260320-nouveau-modele-philip-k-dick
https://www.radioprimitive.fr/component/podcastmanager/radiobook/20260320-nouveau-modele-philip-k-dick-2.html
Les URL ne sont pas « représentatifs » de la chronologie, mais ici ils sont placés dans l’ordre, selon le récit.
Les différentes « souches autonomes » de production robotiques s’ignorent les unes les autres jusqu’à un certain point, et en viennent donc à s’affronter insidieusement pour la suprématie de cet « univers », résumé de manière concentrée et symbolique, dans cette nouvelle, mais c’est déjà ce qui se passe dans notre monde du XXIe siècle avec la concurrence entre les différents producteurs d’IA. Programmées au départ par les « humains », les IA héritent de toute leur culture, dont les vices qui vont avec : il n’y a donc malheureusement pas trop de raisons pour qu’elles en viennent à développer de manière autonome une sorte de « sagesse bienveillante ».
Dès 1953 Philip K. Dick avait donc déjà mis le nez dans notre monde du XXIe siècle. Selon les critère ultérieurs développés par Philip K. Dick, « Laurent Alexandre » est plutôt un « humanoïde », même si d’origine entièrement « humaine » d’un point de vue analytique biologique et génétique. Mais aujourd’hui, selon les critères de la nouvelle de 1953 on est presque plutôt tentés de se poser la question : « Laurent Alexandre, quelle variété d’IA ? »
Répondre à ce message
RSS 2.0