L’intelligence artificielle va t-elle nous dominer?

Restitution du débat du Café-philo du 28 janvier 2015 à Chevilly-Larue

Robot ASIMO de Honda

Robot ASIMO de Honda

Animateurs : Edith Deléage-Perstunski, philosophe. Guy Pannetier
Introduction : France Laruelle.
Modérateur : Marc Ellenberger.

Introduction : G Je me propose de développer le sujet en trois parties. D’abord le concept de l’intelligence artificielle, souvent définie par les initiales I. A., puis les domaines où les machines intelligentes, les robots  interviendront, et enfin, sur l’aspect positif de l’I.A. et sur les dangers potentiels liés à certaines applications.
Donc, j’ai relevé quelques domaines dans lesquels elle peut s’appliquer. On peut retenir comme concept l’I. A. dans le domaine de la robotique qui touche au domaine de l’humain en pointant du doigt certains risques dont celui de déshumanisation de l’homme et de la société dans laquelle il évolue. J’ai donc choisi d’aborder le sujet sous cet angle philosophique.
La robotique sera de plus en plus présente dans nos vies, mais son champ d’application est si vaste que je me limiterai à quelques domaines.
« En France l’un des chercheurs pionniers dans ce domaine  est Jacques Pitrat. Il est un des pères de l’I.A. qu’il a découverte comme ingénieur à l’armement et poursuivie au CNRS. Aux Etats-Unis et au japon, d’autres savants ont non seulement progressé dans ce domaine, mais mis en applications concrètes des modèles de  robots intelligents. »
Source : http://www.automatesintelligents.com/interviews/2001/nov/pitrat.html
Mais  je dois avant tout citer Jean Delumeau qui nous précise : «  L’homme a la possibilité non seulement de penser, mais encore de savoir qu’il pense ! C’est ce qui le distinguera toujours du robot le plus perfectionné. »
L’I.A., selon différentes définitions, est : toute recherche pour doter des systèmes, des robots, de capacités intellectuelles identiques ou comparables à celles des êtres humains, ceci pouvant passer par la mémorisation, par l’apprentissage, la perception visuelle comme auditive. La démarche ne va pas qu’à imiter le comportement humain, mais d’aller vers la conscience de soi. On imagine toute la complexité des objectifs ; par exemple : Comment reconnaître un visage parmi des milliers d’autres ? Comment traiter les informations captées et toutes ces informations de différences des images ? A ce jour, nous nous posons véritablement la question du possible et de l’impossible, du techniquement possible au moralement possible.  En effet, la conscience (jugement de valeur sur le bien et le mal),  qui serait le propre des organismes vivants et serait liée à la nature des systèmes biologiques, pose des conditions quant à l’évolution de l’intelligence artificielle (position principalement défendue par les philosophes, les intellectuels, les religieux).
Voici un texte trouvé sur Google : « Actuellement, les ordinateurs manipulent des symboles. Or, afin d’obtenir les nécessaires et innombrables ressemblances du cerveau humain, les savants doivent maîtriser et mettre au point des circuits électroniques spéciaux reproduisant le fonctionnement des neurones. Cette étude est déjà bien avancée, mais la pensée n’est pas encore un phénomène parfaitement calculable par les logiciels. En effet, pour passer d’une idée à l’autre, il existe une quantité et une continuité d’étapes transitoires infinies. »
Pour rendre cela possible, il y a encore du chemin à parcourir, car l’I.A. ne se limite pas seulement aux réseaux des neurones. Ainsi, des programmes comme celui nommé « Eliza » parvient à dialogue en imitant de façon grossière le comportement humain.
Des systèmes arrivent à ce jour à simuler l’intelligence, mais le système  ne répond seulement que dans le cadre d’une programmation. Le terme de reproduction de l’intelligence semble mal approprié et devrait être remplacé par celui d’imitation de l’intelligence. Alors, faut-il redouter qu’un jour ces produits relevant des recherches sur l’intelligence artificielle dominent l’homme et la société dans laquelle il vit ? Là, nous entrons dans le débat.
[Certains éléments de cette introduction sont aussi inspirés du très bon article « En compagnie des robots » du Courrier International n° 1259/1260 du 18 au 31 décembre 2014.]

Débat : G Nous sommes dans un sujet qui a fait les beaux jours de la science-fiction et de la littérature fantastique, comme Frankenstein, où la créature risque de dominer son créateur. Isaac Asimov, auteur bien connu de science-fiction, a beaucoup écrit sur les robots et a fixé les trois lois de la robotique, qui sont : 1)  Un robot ne peut porter atteinte à un être humain, ni en restant passif, permettre qu’un être humain soit exposé à un danger.
2) Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
3) Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième  loi.
L’I. A. ou les robots resteront des outils dominés par l’homme. Ensuite, tout dépend de l’utilisation, car cet outil va permettre de démultiplier la puissance humaine. Cela donne aussi de la puissance dans le domaine commercial, économique et dans le domaine militaire, avec puissance et rapidité d’action.
Alors, y a t-il des garde-fous ?  On pense à Big Brother et au risque quant à nos données privées. Heureusement, il y a la CNIL et d’autres organismes de contrôle pour surveiller cette emprise.

 

G Quelques fois, les films de science-fiction nous emmènent dans des domaines qui ne seront jamais la réalité, mais parfois ils devancent une réalité, ce qui à terme ne sera plus de la science-fiction.
Ce sujet de débat, qui laisserait à penser qu’on s’intéresserait plus à la fiction qu’à la philosophie, est en fait un des thèmes qui nécessiterait le plus de débats, et ceci à tous les niveaux de notre société. Le sujet est d’ordre social, philosophique, d’ordre axiologique, c’est-à-dire mesurant la prise en compte des valeurs morales, d’ordre métaphysique et d’ordre politique.
A ce jour, c’est surtout une certaine exaltation, un émerveillement face aux développements numériques qui nous apportent de l’aide, du confort, de formidables moyens de communication, une contraction du temps, nous donnant le sentiment qu’en vivant plus vite nous vivons plus.
Mais qui s’intéresse un peu aux dernières recherches, aux toutes récentes applications, ne peut pas ne pas être quelque peu inquiet. Nous sommes « entre espérance et inquiétude », comme disait Jean Rostand en 1962 au sujet de l’ADN.
Sans tomber dans l’alarmisme, le sujet est grave, non seulement en regard du vivre ensemble, des plus sérieux d’un point de vue philosophique, mais essentiellement grave aussi d’un point de vue politique.
En effet, si l’on consulte la liste des magnats qui financent ou qui dirigent  la recherche dans le domaine de l’intelligence artificielle, ceux qui se réclament de la philosophie transhumaniste, nous y trouvons de dangereux individus, presque tous des libertariens, qui, suivant la définition, souhaitent la suppression des États, que la liberté individuelle prime sur les libertés collectives, ce qui conduit à la suppression des diverses solidarités.
Le n° 83 d’octobre 2014 de Philosophie magazine cite des noms de personnes dirigeant de groupes, tels : Google, Amazon, Paypal, Wikipédia, liés directement ou participant au financement de laboratoires de recherches en neurosciences, en cybernétique.
Ces transhumanistes nous disent que l’intelligence artificielle nous permettra non seulement de vaincre la faim dans le monde, mais aussi de sauver la planète, vaincre la maladie et accéder à l’immortalité. Mais ils laissent à penser que ce ne sera pas forcement pour tous et qu’il faudra bien en laisser quelques-uns sur le bord de la route. Le but est de dépasser l’humain, de dépasser homo sapiens, de créer la nouvelle arborescence de l’humanité.
La crainte est aussi dans une exigence de plus en plus grande de la performance. Les entreprises, face à une concurrence redoutable, peuvent être amenées à embaucher des hommes aux capacités augmentées, dotés de puces mémorielles, de logiciels  intégrés, leur donnant des capacités supérieures et une terrible efficacité,  ou encore des cyborgs, ou robots performants que s’arracheront les entreprises. Le robot  pourra remplacer de nombreux emplois. Le robot travaille 24 heures sur 24. Selon un article paru dans le supplément du journal Le Parisien du 12 décembre 2014 : « Il peut porter jusqu’à une tonne, l’homme maximum 100 kg.  L’homme peut lire 70 pages en une heure, le robot, lui, lit et mémorise 300 millions de pages en une heure. […] Dans nos pays occidentaux, un ouvrier coûte 11,60 €/h, le robot 3 €/h. » Le robot peut même fabriquer des robots. Il n’a pas de revendications, il n’est pas  syndiqué, ne prend pas de congés maternité, il n’est pas soumis aux charges sociales et, de plus, il ne se suicide pas.

G Je me suis intéressée aux recherches tout à fait contemporaines en intelligence artificielle menées par les chercheurs de l’école transhumaniste.
La première question est : en quel sens entendre « intelligence artificielle » ?
Selon le dictionnaire d’Alain Rey, le dictionnaire historique de la langue française, le terme intelligence, issu du latin « intellegere », apparu dans la langue française au 12ème siècle, est la faculté de comprendre, et l’intelligence artificielle, calque de l’anglo-américain, prend le mot dans son sens initial (faculté de comprendre) et désigne la partie de l’informatique qui vise la simulation des facultés cognitives humaines.
Avec l’intelligence artificielle nous sommes à l’ère numérique. La question posée est donc une question spécifique de notre société industriellement développée et de notre civilisation contemporaine. Mais comme celle-ci tend à devenir le modèle dominant de toutes les sociétés,   en ce sens, la question posée est  une question anthropologique : l’être humain est-il en voie de modification radicale?  D’où une autre question : peut-on penser  le futur de l’humanité ?
C’est en 1950 qu’Alan Turing, mathématicien anglais, publie son article Computer machinery and intelligence, où il traite de l’intelligence artificielle, c’est-à-dire des machines intelligentes, des machines qui pensent ; son article se termine par cette phrase : « Nous ne savons pas où nous allons, mais il reste beaucoup de choses à faire. » Dans son article, Alan Turing proposait un test pour déterminer si une machine est intelligente ou pas. Ce test repose sur le fait que si les réponses d’une machine, qui imite un questionneur humain sont capables de tromper ce dernier sur son identité de machine, il n’y a pas de raison de refuser d’attribuer la capacité de penser à la machine. Mais ce test de Turing implique que l’intelligence artificielle peut en fait être comprise en deux sens : l’intelligence artificielle faible, selon laquelle une machine peut simuler l’intelligence et avoir un certain nombre, voire la majorité des propriétés de l’intelligence humaine, et l’intelligence artificielle forte, selon laquelle des ordinateurs programmés de manière appropriée auront réellement une intelligence, au même sens que nous. C’est cette dernière conception que mettent en oeuvre les recherches actuelles, tout à fait contemporaines, d’intelligence artificielle, les sciences cognitives et la progression fulgurante de la robotique, des ordinateurs, des biotechnologies et des sciences médicales, et ce notamment dans la Silicon valley,  au sud de San Francisco, avec des neurobiologistes, des informaticiens, des biologistes, des médecins, des philosophes.
Tous conçoivent l’être humain comme un ensemble mécanique, ce qui implique que  tous les processus mentaux, intellectuels et affectifs soient traités comme les états d’une machine. L’ordinateur est alors une réalisation parmi d’autres de « l’homme augmenté » ; on  passe de la conception de  l’homme réparé à celle de  l’homme augmenté. L’ordinateur est  une prothèse parmi d’autres possibles qui a pour avantage de pouvoir prendre en charge les facultés humaines, et alors, de pouvoir augmenter la mémoire,  augmenter la vue et l’ouie, augmenter le plaisir sensuel et sexuel, allonger la vie, voire annuler la mort. Ce ne sont plus des rêves de science-fiction ; ce sont des objectifs de recherche qui mobilisent techniciens, scientifiques et philosophes qui se reconnaissent dans le mouvement transhumaniste. Le titre de l’ouvrage que vient de publier (en août 2014) Dorian Neerdael, chercheur en philosophie à l’université libre de Bruxelles, est éloquent : Une puce dans la tête. Les interfaces cerveau-machine qui augmentent l’humain pour dépasser ses limites.
Je me réfère au n° 83 d’octobre 2014 de la revue Philosophie Magazine qui comporte un dossier  très précis sur les origines et les filiations de cette école transhumaniste, avec une enquête sur les recherches de la Silicon Valley et des entretiens entre des philosophes français contemporains, comme Martin Legros, Pierre Manent, et des philosophes américains transhumanistes, comme  Kevin Kelly et Peter Thiel.
Le projet consciemment admis par tous les transhumanistes est énoncé par le philosophe américain Kevin Kelly : «  Dans 5000 ans, il y aura des humains comme nous, mais aussi des humains modifiés génétiquement, des humains augmentés technologiquement, des hybrides, etc.  L’humanité ne sera plus une. »
D’abord, c’est là, pour moi, une affirmation inquiétante. Je ne peux admettre une inégalité radicale parmi les être humains, car cela légitime l’acceptation des entreprises génocidaires. D’autre part, je me réclame du premier article de la déclaration universelle des droits de l’homme, ici mis en question, à savoir que « Tous les êtres humains naissent libres et égaux en dignité et en droits », car je crains que ces différences, considérées comme différences radicales,  permettent  à ceux qui ont le plus, qui sont le plus augmentés, de dominer, voire d’éliminer ceux qui ont le moins.
Enfin, le présupposé de cette idéologie est un grand récit qui me lie, m’assujettit voire m’asservit à la machine. Ce grand récit,  c’est celui de la succession des différentes époques de l’univers : il y eut d’abord « l’époque de la physique et de la chimie, du Big bang jusqu’à l’apparition de la vie sur terre; celle-ci marqua l’entrée dans l’ époque de la biologie et de l’ADN », où la vie a pris son essor sur notre planète ; puis il y eut « l’ époque des cerveaux », où des organismes complexes doués de conscience ont émergé, suivie par « l’ époque de la technologie qui a commencé avec les premiers outils du néolithique ». Et nous sommes au seuil d’un 5ème stade qui débuterait vers 2045, l’époque de la fusion entre la technologie et l’intelligence humaine. Dans cette ère posthumaine, l’humain se transformera en un être mi-biologique mi-informatique connecté au web. Nous pourrons externaliser des capacités de notre cerveau sur un ordinateur et alors discuter de cerveau connecté à cerveau connecté. D’autre part, nos émotions,  nos affects, pouvant être lus par un ordinateur, ils pourront être transmis de même par l’ordinateur ; bref, neuroscience et web augmenteront nos capacités et permettront de davantage communiquer. De plus, avec les innovations médicales liées aux connaissances biologiques et neurologiques, nous pourrons vivre jusqu’à 150 ans, et enfin, nous aurons la possibilité de nous rendre immortels, en téléchargeant notre conscience sur un ordinateur. Il s’agit bien d’une nouvelle ère posthumaine, qui transforme l’être humain en mécano bionique et qui fait advenir une humanité transhumaniste. Avec ce grand récit, je ne me sens plus actrice, ni de mon histoire, ni de notre histoire.
Voila mes réserves importantes par rapport au principe et aux objectifs des recherches sur l’intelligence artificielle des membres du  mouvement transhumaniste.

G L’intelligence n’est pas artificielle. Techniquement, on peut donner la possibilité à des robots d’agir face à l’intelligence humaine. Si nous donnons la possibilité à des robots d’agir grâce aux technologies découvertes grâce à la recherche, nous pouvons alors vivre sans être dominés par la technique, puisque c’est nous qui la dirigeons et la dominons.

G Si on s’en tient aux robots, nous savons très bien que l’homme n’est pas dominé par les robots, mais nous savons aussi que ce n’est qu’une étape pour les chercheurs.

G La question que je me posais initialement, par rapport à ce  fantasme qui va de Frankenstein à Terminator, finalement, c’est le désir de domination. Car ce désir de domination est le propre de l’humain. Alors, est-ce que les robots vont acquérir de l’humain ce désir de domination ? Mais, d’un autre côté, si on clone, si on fusionne des robots avec des humains, on peut leur transmettre ce désir. On ne peut pas oublier qu’homo sapiens a été de toutes les espèces le plus destructeur, le plus grand prédateur, le pire dominateur.
La machine peut développer sa survie avec d’autres modes, comme la coopération, par exemple.

G Pour l’instant, c’est l’homme qui décide de ce qu’il fait des robots, aussi techniquement que moralement. Il y a toujours eu des savants fous, et, aujourd’hui encore, cela continue.
Dans la catégorie des robots, il y a des robots d’intelligence brute, et des intelligences artificielles qui parlent un langage particulier et qui ont la capacité d’auto-apprentissage. C’est là où tout se joue, c’est là que les humanistes peuvent avoir des craintes. C’est-à-dire qu’à partir du moment où on a été capable de générer des programmes sur des machines qui sont capables d’auto-apprentissage, on se retrouve exactement dans la même position, le même processus que celui de l’enfant qui grandit, qui découvre le monde et qui apprend. Et surtout, on peut lui faire auto-apprendre le pire et le meilleur, le pire ou le meilleur.
L’I. A, le robot, le système, sera toujours le reflet de son concepteur, tel l’enfant influencé par son milieu familial.
Quant aux transhumanistes, dont je ne partage pas non plus leurs points de vue, heureusement, ils ne sont pas les seuls à réfléchir, à travailler sur l’I. A. Il y a des gens sérieux qui cherchent comment améliorer les capacités de ce qu’on appelle d’une façon générale la cybernétique.

G Nul doute que les termes que nous utilisons aujourd’hui : robots, I. A. Systèmes, ne seront plus ceux utilisés dans trente ou cinquante ans lorsque vont véritablement émerger les applications qu’on peut envisager. Mais je me pose, et je pose la question : Pourra-t-on faire un programme, créer un algorithme pour donner à un système la notion du bien et du mal ? Je persiste à penser que penser et calculer sont des démarches bien différentes.

G Les programmes à l’heure actuelle ont des procédures d’auto-apprentissage. Je vais les résumer d’une manière simple. Quand ils agissent avec un être humain, l’humain répond systématiquement toujours de la même façon. Mais un jour, quelqu’un répond différemment, et, là, c’est enregistré ; il est dans l’apprentissage, il sait désormais qu’en fonction de contextes différents, il peut y avoir des réactions différentes. Et il va même se retrouver avec des choix impossibles en regard des trois lois d’Asimov qu’on a évoquées.

G Pour moi, un robot, un système, c’est quelque chose de déjà programmé, avec des choix préétablis. Je n’arrive pas à concevoir qu’il puisse choisir par lui-même à partir de son algorithme entre deux ordres différents : tourne à droite, tourne à gauche.

G Il va apprendre à faire tous ses choix avec l’héritage des caractéristiques des diverses situations.

G Il y a effectivement des gens autres que les transhumanistes qui travaillent sur l’I. A., et leur travail peut avoir des effets positifs. Il y a des domaines qui paraissent positifs, notamment dans le domaine de la santé. Donc, de ce point de vue, les recherches sont respectables et mêmes doivent être poursuivies, mais à condition, effectivement, que ces chercheurs n’aient pas en tête que tout ce qui est techniquement possible est permis.
Donc, je souhaite que la recherche scientifique et les innovations techniques servent à améliorer le bien-être de chacun, mais je crains que tous les problèmes de l’existence soient considérés comme de simples problèmes techniques et que l’impératif technique nous domine sans aucune interrogation éthique.
Et je ne veux pas que mes petits-enfants vivent dans une société où règne l’inégalité parmi les hommes. Je ne veux pas qu’ils connaissent le fossé entre ceux qui pourront améliorer leurs capacités, parce que riches, et ceux qui resteront comme ils sont nés, parce qu’ils n’auront pas les moyens de réparer leurs fractures, leurs lésions et, a fortiori, de compenser leurs handicaps.
Enfin, dernier point, l’industrie pharmaceutique est aujourd’hui très intéressée par la recherche scientifique et toutes les innovations technologiques. Même les géants d’Internet : Google, Paypal, Amazon, qui ont conquis le marché mondial des communications, du numérique, et qui ont acquis en quelques années des capitaux colossaux, sont en train de réinvestir dans les projets de nanotechnologie, dont le point de convergence est de prolonger l’homme.

G Maintenant, et pour reprendre l’argument comme quoi il y a des recherches en intelligence artificielle qui ne relèvent pas de cette orientation a-humaine, en me référant toujours au numéro d’octobre 2014 de la revue Philosophie Magazine, j’aborde les recherches dans le domaine de la santé.
A la question posée par le philosophe Martin Legros : « Est-ce que vous accepteriez qu’on vous implante une clé USB au milieu de la nuque ?» – «  Bien sur,  je le ferai sans hésiter ! »,  répond Christine Peterson, scientifique spécialiste des nanotechnologies. A côté d’elle, Luke Muehlhauser, expert de l’intelligence artificielle, approuve : « C’est comme l’affaire des bébés éprouvettes. Après la première fécondation in vitro, les journalistes se sont précipités sur le nouveau-né pour s’assurer qu’il était bien normal. Depuis, la pratique s’est banalisée. »  Il surenchérit : « Les résistances aux innovations tombent à chaque innovation. Ce qui vous est difficile à admettre paraîtra évident à vos enfants. » Cet argument n’est pas correct à mon sens. Ce n’est pas un argument, c’est un constat du suivisme conformiste. J’ajoute que maintenant, la PMA (procréation médicalement assistée) et la GPA (la gestation pour autrui), parce qu’elles ont été  reconnues comme  techniquement possibles, sont maintenant permises dans de nombreux pays et potentiellement en France, sans aucune réflexion sur les conséquences, alors que le chercheur biologiste Jacques Testart, qui a donné naissance en 1982 au premier bébé-éprouvette (Amandine), avait alerté sur les effets dangereux de son invention.
La perspective du corps connecté, par exemple d’avoir une puce électronique incrustée sous la peau ou des e-mails qui s’affichent en bas de ma rétine, cette perspective est aujourd’hui pour un futur proche, parce que la liste des interfaces homme-machine dressée par les chercheurs de l’intelligence artificielle fait écho à des enjeux économiques d’une actualité brûlante. Début juin 2014, Apple a annoncé le lancement d’une plateforme paramédicale dénommée « HealthKit ». Deux semaines plus tard, Google dévoilait le lancement de « Google Fit ».
En un mot, les géants du Net ont décidé de s’emparer du marché de la santé. Un nouveau secteur est en train d’émerger, la « médecine numérique » ;  les Américains parlent de « mobile health »
Mais à la question : Que va t-il se passer avec le lancement de ces plateformes de santé lancées par les géants de la technologie ?  La réponse m’a sacrément ébranlée.
Lorsqu’un chercheur en médecine transhumaniste explique, toujours dans le numéro d’octobre 2014 de Philosophie Magazine, que « l’avenir de la médecine, c’est que le médecin peut déjà collecter beaucoup d’informations sur un patient (son poids, sa pression artérielle, la composition du sang, son code génétique) – et cette quantité d’informations ne cesse d’augmenter -, mais il faut reconnaître qu’aucun médecin n’est aujourd’hui capable d’analyser ni de croiser toutes ces données : il va donc être nécessaire que des applications le fassent, et ces applications joueront un rôle prépondérant dans le traitement préventif des maladies et feront de l’aide au diagnostic»

G Effectivement, dans les recherches sur l’I.A., il y a la perspective d’immenses profits, avec des enjeux colossaux. Le problème, c’est que nos différents comités d’éthique, quels qu’ils soient, sont parfois, de par leur composition, juges et parties, et que, souvent, le temps qu’ils comprennent une technologie et ses enjeux, la recherche est déjà à cents lieues de là, bien en avant ; la réflexion des comités d’éthique n’est alors plus d’actualité.
Les entreprises de recherches, comme celles de la Silicon Valley, refusent toute réglementation, Si un Etat, disent-elles, leur impose des limites, elles peuvent s’externaliser vers des pays aux législations très souples ou même créer des îles artificielles hors les eaux territoriales pour se mettre à l’abri de toute contrainte éthique.
Par ailleurs, nous savons que la puissance des ordinateurs est exponentielle, qu’elle double tous les deux ans (en moyenne), ce qu’on appelle « la loi de Moore ». Mais les récentes découvertes de nano structures nous annoncent la suppression à court terme des actuels microprocesseurs, lesquels seront remplacés par des nanostructures, des nano conducteurs. Cette évolution dans le numérique apportera un total bouleversement, ceci quant à la capacité mémorielle, quant à la vitesse, quant à la puissance. A court terme, nous aurons tous un ordinateur portable plus puissant que l’ordinateur de la NASA vers 1990.

G Pour moi, l’I.A., ce sera plus du domaine de la robotique. Pour ce qui est des diagnostics, oui, on va pouvoir mieux gérer les traitements par rapport à un profil génétique, mais cela ne relève pas de l’I.A..
Ensuite, le fait qu’on arrive à modéliser les réactions humaines, les ressentis, ce qui abstrait, là effectivement ce serait un grand pas, et aussi, ce sera,  comme on l’a évoqué, un grand danger.

G Si l’I.A. veut nous créer une race de surhomme, cela peut faire froid dans le dos. On a déjà vu avec le nazisme ce concept de race supérieure. Si cela doit creuser des fossés entre les hommes, c’est inquiétant. Cela renvoie à la question : Quelle est la volonté réelle de faire face à ces dangers ? Il y a, comme on l’a dit, des savants fous, mais il y a aussi le terrorisme informatique, et, là, le pouvoir de nuire peut être démultiplié.
Voici le début d’un article d’un ingénieur en télécommunication, Mehdi Nemri : « Demain, l’Internet des objets », paru dans la note d’analyse n° 22 de janvier 2015 de France Stratégie (en ligne sur le site www.strategie.gouv.fr) : « Internet est devenu en quelques années le vecteur principal de l’information. Il s’est imposé dans de nombreux domaines comme une infrastructure essentielle pour les individus, les entreprises et les institutions. Toutefois, ses capacités d’extension, au-delà des seuls ordinateurs et terminaux mobiles, sont encore considérables, car il devrait permettre l’interaction d’un nombre croissant d’objets entre eux ou avec nous-mêmes. Internet se transforme progressivement en un réseau étendu, appelé «  Internet des objets », reliant plusieurs milliards d’êtres humains, mais aussi des dizaines de milliards d’objets. Des domaines encore relativement peu affectés par Internet, comme la santé, l’habitat, l’automobile, l’assurance, seront bouleversés par cette mutation du réseau : une compétition économique redoutable devrait avoir lieu dans les prochaines années, non seulement pour le maîtrise des plateformes, mais aussi pour le partage de la valeur entre acteurs économiques traditionnels et nouveaux venus issus du secteur numérique.
Cette évolution soulève de nombreuses questions relatives à la croissance économique et aux mutations sociales qu’elle entraînera, mais aussi aux libertés individuelles et à la souveraineté nationale. […] »

 

G Nous avons créé une civilisation à partir de la parole, à partir de l’écriture, puis avec les livres. Les robots n’étudieront pas, ils n’écriront pas de livres, ils ne feront que les gestes qu’on va leur inculquer, ils n’auront pas la réflexion. Toute notre culture n’est pas modélisable.

G On a dit plusieurs fois, « on subit » ; il y a ainsi des choses inadmissibles, comme d’être suivis sans cesse avec nos téléphones portables. C’est vrai, mais en même temps, notre société n’a pas su mettre en place des contre pouvoirs en face des intérêts mercantiles, qui ne recherchent, eux, que le plus grand profit à très court terme. On n’a pas été capables de donner un cadre éthique, une déontologie, à ces recherches, et de veiller à ce que se mettent en place les précautions élémentaires.
Les chercheurs, eux, ne sont pas en mesure de se dire : Est-ce que j’arrête, ou est-ce que je continue ? On n’a pas été capable d’instituer des procédures d’intervention citoyenne. Tout a été laissé aux mains des intérêts mercantiles, et, après, on dit : « on subit » !

G Finalement, les recherches en intelligence artificielle me posent question par rapport au présent de la société en laquelle nous vivons.
D’une part, je souhaite que la recherche scientifique et les innovations techniques servent à améliorer le bien-être de chacun, mais d’autre part,  je crains que tous les problèmes d’existence soient considérés comme de simples problèmes techniques et que l’impératif technique nous domine, selon lequel tout ce qui techniquement possible est permis, sans interrogation éthique.
Donc, quel sera notre futur si nous laissons les géants financiers de l’économie de marché réguler la recherche techno scientifique ? Or, les possibilités techniques sont fonction des  objectifs des maîtres de l’économie.
Alors, nous ne sommes pas dominés par l’intelligence artificielle, mais nous le sommes déjà et le serons de plus en plus par l’économie de marché qui oriente son développement. Alors, que faire lorsque des scientifiques ou des philosophes ou des citoyens nous alertent sur notre présent et donc sur notre devenir ? Dire que nous allons prendre en mains notre avenir. Oui, mais comment ? Certes, en discutant dans les cafés-philo, mais ce n’est pas suffisant.

G Il y a tout de même des scientifiques qui alertent, ceux qu’on appelle « les lanceurs d’alerte ». Mais, qui les écoute, qui les relaie, là, c’est un vrai problème. Ici, on débat, on réfléchit sur ces sujets, sur leurs évolutions dans notre société, mais que faire d’autre ? Et nous savons que nombre de scientifiques sont financièrement intéressés dans ces nouveaux développements, et qu’ils ne veulent pas ou ne peuvent pas être les relais.

G On est tous un peu des profanes dans ces domaines du numérique, de la recherche, mais cela ne nous empêche pas de porter de l’intérêt à ce sujet, de s’informer, d’informer à partir de ce qu’on a apprit, d’informer des avantages et des inconvénients, des éventuels dangers ; nous sommes une fois de plus face à ce que les grecs nommaient « le pharmakon », c’est-à-dire, quelque chose qui est tout à la fois remède et poison.

G Dans un film de science-fiction récent [sorti le 25 juin 2014],  Transcendance, l’I.A. a pris une telle puissance, qu’elle ne sait plus où s’arrêter ; elle a créé des hommes hybrides qui prennent le pouvoir sur les hommes, il ne reste qu’une solution, neutraliser Internet en propageant un virus imparable, qui détruit tous les disques durs sur terre.
Imaginons un instant que toute notre vie économique et sociale soit confiée aux ordinateurs et que survienne une panne énorme et mondiale, un bug. Alors, les avions ne peuvent plus atterrir, comme cela s’est passé récemment à Londres Heathrow (pendant une heure). Un virus qui infecterait tous les disques durs, qui ferait bugger tout le réseau, et ce sont les bateaux qui ne peuvent plus se diriger, des avions qui ne peuvent plus atterrir, plus d’électricité, plus de chauffage, plus de communication, et à court terme la queue devant les magasins d’alimentation.
Nous sommes à la limite d’une arme de guerre et d’une arme fatale aux mains du terrorisme.
A la fin du film Transcendance, tout ce qui est informatique s’est autodétruit, des smartphones sont dans les poubelles, quelqu’un a calé une porte avec un ordinateur portable. Le monde est revenu des siècles en arrière, plus de sources d’énergie, plus d’électricité ; c’est le black out total, mondial.
Maintenant, ne nous laissons pas trop abuser, restons optimistes : nulle intelligence artificielle ne prendra le pouvoir ; ce sera toujours ceux qui auront la main mise sur ces intelligences qui pourront prendre plus de pouvoir. Derrière chaque intelligence artificielle, il y a un, ou des chercheurs, des programmateurs au service d’un organisme ; nul système ne va se créer ex nihilo, ou alors, on nous refait le coup de la création.

G Pour qu’il y ait des contre pouvoirs possibles, pour qu’il y ait une prise de conscience du commun des mortels, il faut un discours moins complexe ; il faut que ce soit un peu plus vulgarisé pour que tout le monde comprenne les enjeux.

G Dans un débat sur France Culture, des philosophes nous mettent en garde sur un aspect dangereux quant à tous les nouveaux systèmes que nous utiliserons. Ceux-là vont nous donner de plus en plus d’autonomie, de plus en plus d’indépendance ; de là, nous augmentons encore plus les comportements individualistes. C’est, nous disent-ils : « le risque d’un effritement du lien social », entraînant réduction des rapports humains, de la solidarité. Ce sont eux aussi, des lanceurs d’alerte.

G Le poème de Florence :

L’intelligence artificielle va-t-elle nous dominer ?

Toi mon petit robot, en fibre de carbone
Je te voulais si fort ; je te voulais Personne
Tu joues à clignoter comme un sapin d’noël
Toi mon joli doudou, dans ma tour de Babel
Ne me laisse pas seule ou la vie m’abandonne
Moi je ne parle plus qu’avec mon téléphone
Sur Facebook, sur Twitter, où tout est indiscret
Je prends tout ce qui vient comme un divin décret

Je suis cybernétique
Je suis analgésique
La douleur est un leurre
Je suis le prescripteur

Toi mon petit robot, mon ersatz monotone
Tu es bien trop parfait et ma raison klaxonne
Il manque du pêle-mêle, il manque un peu de sel
Je ne veux pas mourir, dans ce monde irréel
Au guichet de la vie, parler dans l’hygiaphone
Je te quitte aujourd’hui, Descartes me pardonne
Je m’en vais couronner le roi de l’à peu près
Si je me trompe et tombe, et bien c’est fait exprès !

Si tu es diabolique
Je serai angélique
Je soigne mes erreurs
Et je n’ai même pas peur !

Toi mon petit robot, qui grince et qui raisonne
Tu peux toujours chanter comme un électrophone
Je vais te mettre au pas, je te le dis tel quel
Il te faudra huiler ta cervelle de nickel
Pour comprendre à mi-mot ma raison qui tâtonne
Dans tous ces sentiments que la vie nous mitonne
Moi j’ai le vague à l’âme, connais-tu le secret
Le secret des alcôves, le secret du regret

J’ai le mot alchimique
Dans mon arrière boutique
Je suis l’agitateur
Je suis le concepteur

Toi mon petit robot, Pinocchio de zircone
Tu peux toujours frotter ton sexe de silicone
En chantant les louanges du monde industriel
Tu ne pourras produire un si joli cheptel
Que celui qui s’ébat, que celui qui fredonne
Dans les marges inutiles, où rêvent les mortels
Toi il te faut du lourd, du gourd et du concret
Et ton progrès s’égare en grimpant aux agrès

Tu es antibiotique
Je suis gyroscopique
Tu es un dictateur
Je suis l’auto-stoppeur

G Je suis un peu affolée avec tout ce que j’ai entendu. Je ne pensais qu’aux robots domestiques. Vous vous rendez compte qu’on met des robots accompagnateurs pour des personnes âgées, mais où est le lien social ? Quand nous aurons des entreprises où des hôtesses robots nous recevront, que va devenir le contact humain ?

G On a dit que c’est au public de choisir ce qu’il accepte ou ce qu’il n’accepte pas des nouvelles technologies. Mais nous savons que depuis toujours, il y a des bataillons de gens qui ne se posent pas de telles questions, que très nombreux sont ceux qui sont prêts à accepter que des machines, des systèmes les commandent et décident pour eux. Ce sont ces bataillons toujours disponibles pour la « servitude volontaire ». A terme, ce n’est plus le caractère acquis qui va augmenter, c’est le programme qui va créer l’individuation, ou peut-être même des clones.
Si on observe le peu de réaction dans ce domaine des plus jeunes générations, on sent qu’ils sont déjà conquis. Alors, cette question sur l’intelligence artificielle serait-elle déjà un sujet d’arrière-garde ?

G Quand le système, le robot aura atteint son statut de surhomme, qu’il aura  franchi ce seuil que certains savants nomment « la singularité », celui-ci, tout-à-coup, se frappant le front, s’exclamera : « ça y est : cogito ergo sum ! [je pense, donc je suis], mais il faut quand même que je surveille mes batteries ! »
Et toujours dans le registre pas trop sérieux (après ce sujet d’aspect un peu trop technique), nous pouvons penser qu’un ordinateur qui aurait un enfant, l’appellerait sûrement : « ma puce ! »

Références documentaires :

Livres :
Demain les posthumains. Le futur a-t-il encore besoin de nous ? Jean-Michel Besnier. Editions Fayard 2010.
Une puce dans la tête. Les interfaces cerveau-machine qui augmentent l’humain pour dépasser ses limites. Dorian Neerdael. Editions Fyp. 2014.

Revues :
Philosophie magazine. N° 83. Octobre 2014. Article : Liberté, Inégalité, Immortalité.
Courrier International. N° 1259/1260.18 au 31 décembre 2014. Article : En compagnie des robots.

 

Films, documentaires :
Transcendance, de Wally Pfister. 2014
Her, de Spike Jonze. 2013
A.I Intelligence Artificielle, de Steven Spielberg. 2001.
Matrix, de Larry et Andy Wachowski. 1999.
Intelligence artificielle. Arte. 23 octobre 2012
L’homme amélioré. Nanotechnologies. Arte. 2 février 2012

Emissions radiophoniques :
France Culture : 27 janvier 2014. La singularité ou le monde en 2040.
http://www.franceculture.fr/emission-ce-qui-nous-arrive-sur-la-toile-la-singularite-ou-le-monde-en-2040-2014-01-27

France Culture. 5 novembre 2010. L’intelligence artificielle va-t-elle dépasser l’intelligence humaine ? (Postcast) http://www.franceculture.fr/podcast/2722881

France Culture. 6 novembre 2010. Robot Sapiens, une espèce en voie d’apparition. http://www.franceculture.fr/plateformes-des-robots-et-des-hommes-robo-sapiens-une-espece-en-voie-d%E2%80%99apparition.html

Sources Internet :
http://fr.wikipedia.org/wiki/Singularit%C3%A9_technologique

http://rue89.nouvelobs.com/2013/09/15/singularite-lideologie-silicon-valley-valait-milliards-245677

 

 

 

 

 

 

 

Cette entrée a été publiée dans Saison 2014//2015, avec comme mot(s)-clef(s) , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , . Vous pouvez la mettre en favoris avec ce permalien.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Vous pouvez utiliser ces balises et attributs HTML : <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>