Chabots sur smartphone

IA, le risque d’une humanité diminuée

Dossier : ExpressionsMagazine N°733 Mars 2018
Par Marie DAVID (X96)
Par Cédric SAUVIAT (92)

À l’an­nonce du dos­sier sur l’in­tel­li­gence arti­fi­cielle, Cédric SAUVIAT, par ailleurs créa­teur de l’Asso­cia­tion fran­çaise contre l’IA, a vou­lu faire connaître son point de vue. Il est impé­ra­tif d’a­voir un débat public pour dis­cu­ter du dan­ger poten­tiel et sur­tout évi­ter que ce soit un magni­fique outil de domi­na­tion des masses par les puissants. 

L’intel­li­gence arti­fi­cielle (ou IA) c’est « tout ce que l’ordinateur ne sait pas encore faire ». Cette défi­ni­tion en forme de bou­tade, qui cir­cule par­mi les infor­ma­ti­ciens, résume bien le carac­tère pro­téi­forme et évo­lu­tif d’une tech­no­lo­gie qui cris­tal­lise aujourd’hui les uto­pies et les espoirs. 

C’est jus­te­ment parce qu’on ne sait pas ce que l’IA pour­ra faire dans un ave­nir plus ou moins loin­tain que le débat sur ses impli­ca­tions à la fois éthiques, sociales, éco­no­miques et anthro­po­lo­giques se révèle pas­sion­nant et indispensable. 

Il n’est pas ques­tion ici de contes­ter la dimen­sion révo­lu­tion­naire de l’IA, son influence consi­dé­rable et indé­niable sur les dif­fé­rentes dimen­sions de nos exis­tences (vie pra­tique, pro­fes­sion­nelle, san­té…) mais au contraire d’en sai­sir toute la por­tée, d’aller plus loin que les titres actuels des maga­zines, les­quels balancent entre tech­no-ido­lâ­trie sans grande per­ti­nence (Le Point a com­pa­ré Mark Zucker­berg et Ray Kurz­weil à Aris­tote et Pla­ton…) et alar­misme sou­vent peu constructif. 

AI IS WATCHING YOU

Dans son remar­quable ouvrage La Sili­co­lo­ni­sa­tion du monde, le phi­lo­sophe Éric Sadin décrit nos socié­tés mar­quées par l’explosion des inter­faces digi­tales dans tous les domaines de la vie quotidienne. 


Avec les chat­bots, il sera plus facile d’interagir avec un algo­rithme dont les réponses ont été soi­gneu­se­ment cali­brées pour nous plaire, qu’avec un être humain© MAKC76

Nos faits et gestes sont ain­si recueillis et sto­ckés. Ils four­nissent une matière pré­cieuse aux algo­rithmes des géants du numé­rique. Cette récolte de don­nées et les ana­lyses qui en découlent per­mettent la créa­tion de ser­vices per­for­mants dont nous n’observons encore que les prémices. 

Ce phé­no­mène devrait en effet s’accentuer avec l’irruption annon­cée des objets connec­tés ain­si que des assis­tants per­son­nels, dont Siri ou Echo ne sont que des pré­fi­gu­ra­tions. Iden­ti­fié, enre­gis­tré, cha­cun de nous se ver­ra ain­si accom­pa­gné dans son quo­ti­dien grâce à des sug­ges­tions per­son­na­li­sées et de plus en plus précises. 

Avec quelles consé­quences sur notre liber­té de choix, et notre capa­ci­té à prendre des décisions ? 

Capables de gérer des pro­blèmes de plus en plus com­plexes, et nous offrant une assis­tance tou­jours meilleure, les machines régle­ront de plus en plus de pro­blèmes à notre place, enta­mant, par une suc­ces­sion de petits pro­grès, notre auto­no­mie, notre libre arbitre. 

DIVERTIS ET PLEINS DE MISÈRE

Aujourd’hui, l’écran est deve­nu un réflexe. Nous sommes de moins en moins capables de mener une conver­sa­tion avec un ami, sans nous pen­cher toutes les cinq minutes vers notre smart­phone. Dans Contact, le pen­seur Mat­thew Craw­ford s’inquiète des effets per­vers de la dété­rio­ra­tion de notre capa­ci­té d’attention.

Sans cesse diver­tis, sur­tout si des cap­teurs signalent que notre niveau d’attention baisse, sans cesse gui­dés, ne per­drons-nous pas jus­te­ment ce contact avec le réel, dont les aspé­ri­tés et l’imprédictibilité sont à la base de l’expérience humaine. 

ENTRETIEN AVEC UN ROBOT

Si nous ris­quons de perdre tout contact avec le réel, ce sera pire avec les autres. L’anthropologue Sher­ry Turkle a décrit, dans Seuls ensemble, notre ten­dance à anthro­po­mor­phi­ser notre rela­tion avec tout objet qui nous paraî­trait vivant et doué de conscience (et ce, même si nous savons que ce n’est pas le cas). 

De sur­croît, à lui pré­fé­rer sa com­pa­gnie plu­tôt que celle des êtres humains. Un article paru récem­ment dans The Atlan­tic a sus­ci­té un réel débat dans l’univers de la Sili­con Val­ley : le taux d’accidents vio­lents et de gros­sesses non dési­rées a for­te­ment bais­sé chez les ado­les­cents amé­ri­cains, en revanche leur taux de sui­cide a augmenté. 

La rai­son ? Ils ne fré­quentent presque plus leurs congé­nères que par le biais des réseaux sociaux. La vague qui entoure les chat­bots – la nou­velle tech­no­lo­gie de simu­la­tion de dia­logue – si elle témoigne bien sûr d’un effet de mode, signe éga­le­ment une ten­dance plus pro­fonde : à savoir qu’il sera plus facile d’interagir avec un algo­rithme dont les réponses ont été soi­gneu­se­ment cali­brées pour nous plaire, qu’avec un être humain. 

L’HOMME REMPLACÉ

Au lieu de can­ton­ner les machines dans des domaines où elles peuvent sup­pléer l’homme (per­sonne ne contes­te­ra qu’il vaille mieux lais­ser à un algo­rithme le cal­cul de la tra­jec­toire d’un satel­lite), les pro­fes­sion­nels de l’IA cherchent au contraire à l’immiscer dans tous les domaines de la vie humaine, en par­tant d’un pré­sup­po­sé jamais énon­cé : si la machine peut faire quelque chose à la place de l’homme, elle le fera mieux. 

C’est donc une com­pa­rai­son constante avec la machine que subit l’homme, ce qui ne manque pas de le pla­cer en situa­tion d’infériorité. Si, par exemple, l’ordinateur IBM Wat­son a été lan­cé pour « assis­ter » le méde­cin, il est pro­bable qu’en cas de désac­cord ce soit la machine qui tranche. 

L’HOMME REBUT DU ROBOT

Sys­té­ma­ti­que­ment infé­rieur, l’homme ne pour­rait tenir dans la socié­té qu’une place déclassée. 

Un robot amoureux ?
Des cher­cheurs tra­vaillent en ce moment sur un robot huma­noïde char­gé de sus­ci­ter amour et empa­thie, envers les machines comme envers les humains. © MAKC76

Dans un entre­tien avec Daniel Kah­ne­man sur le site Edge, l’historien Yuval Noah Hara­ri, auteur de Sapiens et Homo deus, sou­ligne que si les États modernes, à com­men­cer par la Prusse au XIXe siècle, ont mis en place des sys­tèmes mas­sifs d’éducation et de sécu­ri­té sociale, c’était bien parce qu’ils avaient besoin de bras dans les usines, et d’hommes aptes à la guerre. 

Dans un monde où les guerres se feront sans inter­ven­tion humaine, et où des robots tra­vaille­ront à notre place, y aura-t-il une moti­va­tion autre que phi­lan­thro­pique à assu­rer à cha­cun édu­ca­tion et san­té ? Et quelle édu­ca­tion choi­sir pour ses enfants dans un monde où ils ont peu de chances de tra­vailler et où il est impos­sible de savoir quels emplois exis­te­ront encore demain ? 

La réponse – un peu courte à notre sens – d’allouer un reve­nu uni­ver­sel aux per­sonnes ain­si pri­vées de tra­vail, ne semble prendre en compte que l’aspect maté­riel des choses. 

Quels liens uni­ront les hommes, quel sera le sens de la vie, quelle contri­bu­tion don­ner à la socié­té, dans un monde où les IA pour­ront nous rem­pla­cer dans n’importe quel domaine, y com­pris celui de l’empathie et des rela­tions humaines ? 

Des cher­cheurs tra­vaillent en ce moment sur un robot huma­noïde char­gé de sus­ci­ter amour et empa­thie, envers les machines comme envers les humains. 

LE POINT DE NON-RETOUR 

Le risque tech­no­lo­gique, enfin, s’il est sou­le­vé par un nombre régu­lier de pen­seurs et de scien­ti­fiques n’a tou­jours pas obte­nu de réponse claire. Com­ment être sûr que des tech­no­lo­gies par essence évo­lu­tives et qui par nature appren­dront à apprendre ne se com­por­te­ront pas un jour d’une façon auto­nome avec des buts et des objec­tifs contraires aux nôtres ? 

Ce thème cher à la science-fic­tion effraie des esprits tels que Ste­phen Haw­king ou Nick Bos­trom. Dans la Sili­con Val­ley cir­cule le mythe du « bou­ton rouge », une ultime cein­ture de sécu­ri­té qui nous per­met­trait de débran­cher les machines. 

Mais com­ment être sûr que l’IA ne nous empê­che­ra pas d’actionner ce méca­nisme ? Et que, d’ailleurs, nous aurons encore la volon­té de l’actionner ?

LA NÉCESSITÉ D’UN DÉBAT PUBLIC

On le voit, les consé­quences d’un déve­lop­pe­ment expo­nen­tiel de l’intelligence arti­fi­cielle sou­lèvent des ques­tions essen­tielles. Il semble donc capi­tal d’installer un débat démo­cra­tique qui abor­de­ra, avec trans­pa­rence et luci­di­té, toutes les consé­quences pour la société. 

Un temps de dia­logue, serein et construc­tif, pour infor­mer plei­ne­ment sur la révo­lu­tion en marche et ne pas se limi­ter aux seuls aspects économiques. 

BIBLIOGRAPHIE

  • Éric Sadin, La Silicolonisation du monde, 2016, Éditions L’échappée.
  • Matthew B. Crawford, Contact, pourquoi nous avons perdu le monde, et comment le retrouver, 2016, Éditions La Découverte.
  • Sherry Turkle, Seuls ensemble, 2015, Éditions L’échappée.
  • Have smartphones destroyed a generation ? The Atlantic, septembre 2017.
  • Death is optional, a conversation with Yuval Noah Harari and Daniel Kahneman, Edge.
  • Le papier de recherche sur l’empathie des robots est disponible sur le site ArXiv.org ou directement en pdf
  • Nick Bostrom, Superintelligence, paths, dangers, strategies, 2014, Oxford University Press.

2 Commentaires

Ajouter un commentaire

Araud Chris­tian X60répondre
12 mars 2018 à 15 h 29 min

dan­gers de l’IA

Les cama­rades David et Sau­viat lancent un cri d’a­larme au sujet de l’IA dans un numé­ro de la revue qui, glo­ba­le­ment, est plu­tôt favo­rable à l’IA. 

David et Sau­viat montrent, avec rai­son, tous les dan­gers que courre l’hu­ma­ni­té et encore plus l’hu­ma­nisme avec un déve­lop­pe­ment expo­nen­tiel de cette technologie.Ils ne parlent pas du trans­hu­ma­nisme, mais en fait cette illu­sion fas­ci­nante tourne beau­coup de têtes, y com­pris celle des poly­tech­ni­ciens consi­dé­rés en géné­ral comme des per­sonnes ayant plu­tôt la tête bien faite. 

Ces enthou­siastes oublient sim­ple­ment une chose : les limites phy­siques de la pla­nète. L’é­pa­nouis­se­ment du trans­hu­ma­nisme est impos­sible dans les condi­tions actuelles, du fait pré­ci­sé­ment de ces limites phy­siques : plus assez de pétrole, plus assez de terres rares, plus assez de nour­ri­ture, plus assez de … tout. Il y a bien sûr une pos­si­bi­li­té pour ne pas se heur­ter à ces limites phy­siques, c’est de res­treindre dras­ti­que­ment le nombre d’ha­bi­tants de la planète. 

Les pauvres ne consomment pas beau­coup, mais ils sont nom­breux, alors en éli­mi­nant la qua­si tota­li­té des per­sonnes qui ne servent pas direc­te­ment ou indi­rec­te­ment le pro­jet fou des trans­hu­ma­nistes (pour fixer les idées, en ordre de gran­deur, pas­ser rapi­de­ment de 7,5 mil­liards d’ha­bi­tants à envi­ron 2 mil­liards, dont 10% de maîtres, 20% d’auxi­liaires et 70% d’es­claves), le pro­jet est phy­si­que­ment possible. 

Qui est prêt à sous­crire un tel pro­jet ? J’es­père que personne!!!
Alors le trans­hu­ma­nisme ne réa­li­se­ra pas on pro­jet, l’IA (un élé­ment du trans­hu­ma­nisme) ne se déve­lop­pe­ra pas .
Ouf !

Jean-Phi­lippe de Lespinayrépondre
7 mai 2021 à 18 h 59 min

Mal­heu­reu­se­ment, Cédric Sau­viat ignore tout de la vraie intel­li­gence arti­fi­cielle, fran­çaise, qui rai­sonne et écrit les pro­grammes pour les uti­li­sa­teurs grand public. Celle-là est TRANSPARENTE, donc sans dan­ger, car elle fonc­tionne sur les connais­sances, incons­cientes ou non, don­nées par les uti­li­sa­teurs, dia­logue avec eux en fran­çais, explique ce qu’elle fait et com­ment elle déduit les don­nées, détecte les contra­dic­tions, per­met d’a­bor­der des thèmes inac­ces­sibles à l’in­for­ma­tique clas­sique et à la fausse IA (conver­sa­tion­nel, simu­la­tion logique, détec­tion et vali­da­tion des connais­sances incons­cientes, délé­ga­tion du pou­voir de déci­sion, etc.).

Cette IA c’est le vrai logi­ciel libre ! Celui dont les infor­ma­ti­ciens ne veulent pas. C’est pour­quoi ils n’en parlent jamais alors qu’elle est entrée dans les entre­prises dès 1986. Voyez sur le web : voyez-vous un cher­cheur, un gou­rou de l’in­for­ma­tique, un col­la­bo­ra­teur des GAFA par­ler de cette intel­li­gence arti­fi­cielle rai­son­nante fran­çaise opé­ra­tion­nelle que le monde attend ? Même pour la cri­ti­quer ? Non… Le pro­grès a pris un tiers de siècle de retard…

Répondre