cross-posted from: https://sh.itjust.works/post/23097473
Un spectre hante lâAmĂ©rique â le spectre du communisme. Cette fois, il est numĂ©rique. « Le communisme gĂ©rĂ© par intelligence artificielle pourrait-il fonctionner ? », demande Daron AcemoÄlu, Ă©conomiste au Massachusetts Institute of Technology (MIT), tandis que le capital-risqueur Marc Andreessen sâinquiĂšte de savoir si la Chine sâapprĂȘte Ă crĂ©er une intelligence artificielle (IA) communiste (1). MĂȘme le trublion rĂ©publicain Vivek Ramaswamy y va de son analyse en affirmant sur X que lâIA procommuniste constitue une menace comparable Ă celle du Covid-19.
Mais qui sait vraiment, au milieu de la panique gĂ©nĂ©rale, de quoi lâon parle ? Une intelligence artificielle communiste suivrait-elle le modĂšle chinois, avec des plates-formes calquĂ©es sur celles des grandes sociĂ©tĂ©s amĂ©ricaines et soumises Ă un Ă©troit contrĂŽle Ă©tatique, ou plutĂŽt une approche de type Ătat social Ă lâeuropĂ©enne, avec un dĂ©veloppement centralisĂ© aux mains dâinstitutions publiques ?
La seconde option prĂ©sente un certain attrait, dâautant plus que la course Ă lâIA tend aujourdâhui Ă faire passer la rapiditĂ© avant la qualitĂ© â on a pu sâen apercevoir en mai dernier lorsque la fonction AI Overviews de Google a recommandĂ© de mettre de la colle dans ses pizzas et de manger des pierres (2). Un financement public de lâIA gĂ©nĂ©rative, qui sâaccompagnerait dâune sĂ©lection rigoureuse des donnĂ©es ainsi que dâune supervision exigeante, pourrait accroĂźtre la qualitĂ© des outils et le prix facturĂ© aux entreprises clientes, garantissant ainsi une meilleure rĂ©munĂ©ration des crĂ©ateurs de contenu.
Pour autant, chercher Ă dĂ©velopper une Ă©conomie socialisĂ©e de lâintelligence artificielle, nâest-ce pas encore capituler face Ă la Silicon Valley ? Une IA « communiste » ou « socialiste » doit-elle se limiter Ă dĂ©cider qui dĂ©tient et contrĂŽle les donnĂ©es ou Ă modifier les modĂšles et les infrastructures informatiques ? Ne pourrait-elle ĂȘtre porteuse de transformations plus profondes ?
Deux exemples puisĂ©s dans lâhistoire contemporaine suggĂšrent une rĂ©ponse positive. Le premier se nomme CyberSyn, lâinitiative visionnaire du prĂ©sident chilien Salvador Allende (3). PilotĂ© par un consultant britannique charismatique du nom de Stafford Beer, ce projet aussi ambitieux quâĂ©phĂ©mĂšre (1970-1973) visait Ă inventer une maniĂšre plus efficace de gĂ©rer lâĂ©conomie en mettant Ă profit les modestes ressources informatiques du pays.
CyberSyn, souvent qualifiĂ© dâ« Internet socialiste », sâappuyait sur le rĂ©seau chilien de tĂ©lex pour faire remonter lâensemble des donnĂ©es de production des entreprises nationalisĂ©es vers un ordinateur central basĂ© Ă Santiago. Toutefois, dans le souci dâĂ©viter les Ă©cueils de la centralisation soviĂ©tique, il introduisait une forme dâapprentissage automatique avant lâheure destinĂ©e Ă donner plus de pouvoir aux salariĂ©s.
Des techniciens gouvernementaux se rendaient dans les usines et travaillaient en lien avec les ouvriers pour schĂ©matiser les processus de production et de gestion tels quâils Ă©taient appliquĂ©s sur le terrain. Ces prĂ©cieuses informations, inaccessibles aux dirigeants dans une entreprise capitaliste, Ă©taient ensuite traduites en modĂšles dâexploitation, puis surveillĂ©es Ă lâaide de logiciels de statistiques spĂ©cifiques. Les ouvriers-managers pouvaient ainsi ĂȘtre avisĂ©s presque en temps rĂ©el des problĂšmes qui se prĂ©sentaient.
Au cĆur de CyberSyn se trouvait la vision dâun systĂšme hybride dans lequel la puissance de calcul amplifiait lâintelligence humaine. Transformer des connaissances implicites en un savoir formalisĂ© et concret devait permettre aux travailleurs â la classe nouvellement arrivĂ©e aux commandes du pays â dâagir avec assurance et Ă bon escient quelle que fĂ»t leur expĂ©rience antĂ©rieure en matiĂšre de gestion ou dâĂ©conomie. Y aurait-il lĂ de quoi nous guider dans notre quĂȘte dâune IA socialiste ?
Pour explorer plus en avant la signification de cette idĂ©e singuliĂšre, il faut sâintĂ©resser aux aventures de Warren Brodey, psychiatre passĂ© Ă la cybernĂ©tique avant de devenir hippie, aujourdâhui ĂągĂ© de 100 ans. Une rationalitĂ© Ă©cologique
Ă la fin des annĂ©es 1960, grĂące aux deniers dâun riche associĂ©, M. Brodey crĂ©e Ă Boston un laboratoire expĂ©rimental baptisĂ© Environmental Ecology Lab (EEL). Quelques stations de mĂ©tro plus loin, ses amis Marvin Minsky et Seymour Papert, du MIT â une institution Ă laquelle il a Ă©tĂ© affiliĂ© un temps â, dĂ©veloppent des projets dâIA qui, selon lui, font fausse route. Minsky et Papert partent du principe que le raisonnement humain est guidĂ© par un ensemble de rĂšgles et de processus algorithmiques abstraits quâil suffirait de dĂ©nombrer puis de dĂ©chiffrer pour pouvoir doter un ordinateur dâune « intelligence artificielle ».
Ă rebours de cette vision, Brodey et ses cinq collaborateurs pensent que lâintelligence, loin dâĂȘtre enfermĂ©e dans nos cerveaux, naĂźt des interactions avec notre environnement. Câest une intelligence Ă©cologique. RĂšgles et mĂ©canismes abstraits nâont aucun sens en soi ; tout est dans le contexte. Un exemple simple leur sert Ă illustrer cette thĂ©orie : lâinjonction Ă se dĂ©shabiller ne signifie pas du tout la mĂȘme chose selon quâelle est profĂ©rĂ©e par un mĂ©decin, un amant ou un inconnu rencontrĂ© dans une ruelle sombre.
Concevoir une IA capable de saisir de façon autonome ces nuances subtiles leur paraĂźt relever de la gageure. En plus de modĂ©liser les processus mentaux humains, il faudrait demander aux ordinateurs de maĂźtriser une infinie variĂ©tĂ© de concepts, de comportements et de situations ainsi que lâensemble de leurs corrĂ©lations â autrement dit, de comprendre dans son intĂ©gralitĂ© le cadre culturel de la civilisation humaine, seul Ă mĂȘme de produire du sens.
PlutĂŽt que de sâĂ©puiser Ă poursuivre ce but en apparence inatteignable, lâĂ©quipe de Brodey rĂȘve de mettre les ordinateurs et les technologies cybernĂ©tiques au service des humains pour leur permettre dâexplorer mais aussi dâenrichir leur environnement, et surtout leur propre personne. Dans cette optique, les technologies de lâinformation sont non seulement des outils pour accomplir des tĂąches, mais des instruments pour penser le monde et interagir avec lui. Imaginez par exemple une douche cybernĂ©tique rĂ©active qui deviserait avec vous du changement climatique et de la raretĂ© des ressources en eau, ou encore une voiture qui vous parlerait de lâĂ©tat du systĂšme de transport public pendant votre trajet. Le laboratoire invente mĂȘme une combinaison qui, quand vous la revĂȘtez pour danser, modifie la musique en temps rĂ©el, mettant en Ă©vidence les liens complexes entre sons et mouvements.
LâEnvironmental Ecology Lab prend rĂ©solument le contrepied de lâĂ©cole de Francfort et de sa critique de la raison instrumentale : câest le capitalisme industriel, non pas la technologie, qui prive notre monde de sa dimension Ă©cologique et nous oblige Ă nous tourner vers la rationalitĂ© moyens-fins que dĂ©noncent Theodor Adorno, Max Horkheimer et Herbert Marcuse. Pour restaurer cette dimension perdue, il entend nous faire prendre conscience, Ă lâaide de capteurs et dâordinateurs, des complexitĂ©s cachĂ©es derriĂšre les aspects de lâexistence qui nous paraissent les plus banals.
Les idĂ©es fantasques de Brodey ont laissĂ© une empreinte profonde mais, paradoxalement, quasi invisible sur notre culture numĂ©rique. Durant sa brĂšve carriĂšre au MIT, Brodey prit sous son aile un certain Nicholas Negroponte, techno-utopiste dâavant-garde dont les travaux au sein du MIT Media Lab ont largement contribuĂ© Ă dĂ©finir les termes du dĂ©bat autour de la rĂ©volution numĂ©rique (4). Pourtant, les philosophies respectives des deux hommes diffĂ©raient du tout au tout. JPEG - 91.9 ko Laurent Millet. â De la sĂ©rie « Euclide », 2021 © Laurent Millet - www.laurent-millet.com - Galerie Binome, Paris
Brodey pensait que les appareils cybernĂ©tiques de nouvelle gĂ©nĂ©ration devaient se distinguer prioritairement par leur « rĂ©activitĂ© », un moyen de faciliter le dialogue homme-machine et dâaiguiser notre conscience Ă©cologique. Il postulait que les individus aspiraient sincĂšrement Ă Ă©voluer et concevait lâordinateur comme un alliĂ© dans cette entreprise de transformation permanente. Son poulain Negroponte rĂ©adapta le concept pour le rendre plus maniable : les machines avaient pour fonction premiĂšre de comprendre, prĂ©dire et satisfaire nos besoins immĂ©diats. En somme, Negroponte cherchait Ă crĂ©er des machines originales et excentriques quand Brodey, convaincu que les environnements intelligents â et lâintelligence tout court â ne pouvaient exister sans les gens, cherchait Ă crĂ©er des humains originaux et excentriques. La Silicon Valley adopta la vision de Negroponte.
Un autre Ă©lĂ©ment singularisait Brodey par rapport Ă ses pairs : alors que les informaticiens de lâĂ©poque voyaient dans lâIA un outil dâaugmentation de lâhumain â les machines exĂ©cutant les basses besognes pour stimuler la productivitĂ© â, lui visait lâamĂ©lioration de lâhumain â un concept qui allait bien au-delĂ de la seule efficacitĂ© (5).
La distinction entre ces deux paradigmes est subtile, mais cruciale. Lâaugmentation, câest lorsque vous utilisez le GPS de votre tĂ©lĂ©phone portable pour vous repĂ©rer en terrain inconnu : cela permet dâarriver plus vite et plus facilement Ă destination. Le gain reste toutefois Ă©phĂ©mĂšre. Que lâon vous retire cette bĂ©quille technologique, et vous vous retrouvez plus dĂ©muni encore. LâamĂ©lioration consiste Ă se servir de la technologie pour dĂ©velopper de nouvelles compĂ©tences â ici, il sâagirait dâaffiner son sens innĂ© de lâorientation en recourant Ă des techniques avancĂ©es de mĂ©morisation ou en apprenant Ă dĂ©chiffrer les signes de la nature.
En substance, lâaugmentation nous retire des capacitĂ©s au nom de lâefficacitĂ©, tandis que lâamĂ©lioration nous en fait acquĂ©rir de nouvelles et enrichit nos interactions avec le monde. De cette diffĂ©rence fondamentale dĂ©coule la maniĂšre dont nous intĂ©grons la technologie dans nos vies pour nous transformer soit en opĂ©rateurs passifs, soit en artisans crĂ©ateurs.
Brodey sâĂ©tait forgĂ© ces convictions en participant, en sa qualitĂ© de psychiatre, Ă un programme plus ou moins secret Ă©laborĂ© par la Central Intelligence Agency (CIA) au dĂ©but des annĂ©es 1960. Lâagence amĂ©ricaine avait eu la brillante idĂ©e dâenseigner le russe Ă une Ă©quipe de non-voyants triĂ©s sur le volet, puis de leur faire Ă©couter des communications soviĂ©tiques interceptĂ©es. Elle faisait lâhypothĂšse que, en raison de leur cĂ©citĂ©, leurs autres sens Ă©taient plus affĂ»tĂ©s que ceux dâanalystes dotĂ©s de la vue. AprĂšs plusieurs annĂ©es Ă travailler avec ces personnes dans le but dâidentifier les indices internes et externes â chaleur corporelle, taux dâhumiditĂ© ambiante, qualitĂ© de la lumiĂšre⊠â quâelles utilisaient pour enrichir leurs perceptions, Brodey dĂ©couvrit que leur aptitude au perfectionnement des sens Ă©tait en fait universellement partagĂ©e.
Si ce programme dâamĂ©lioration qui nous prĂȘtait Ă tous une sensibilitĂ© artistique en puissance Ă©tait rĂ©solument poĂ©tique, Brodey, en incorrigible pragmatique, le jugeait impossible Ă mettre en Ćuvre sans lâaide des ordinateurs. Lorsquâil tenta de lâimporter au MIT pour en faire un domaine de recherche officiel, il se heurta Ă une opposition farouche, et pas seulement de la part de lâĂ©lite conservatrice de lâIA. Dâautres y lurent aussi de sombres connotations nazies : Brodey ne suggĂ©rait-il pas de rĂ©aliser des expĂ©riences sur des humains ? Cette levĂ©e de boucliers lâobligea finalement Ă se tourner vers des donateurs privĂ©s.
La nuance profonde entre augmentation et amĂ©lioration de lâhumain â et ses consĂ©quences en matiĂšre dâautomatisation â nâest apparue de maniĂšre Ă©vidente que des dĂ©cennies plus tard. Lâaugmentation vise Ă crĂ©er des machines qui pensent, ressentent comme nous, faisant naĂźtre le risque de rendre nos compĂ©tences caduques. Les outils actuels fondĂ©s sur lâIA gĂ©nĂ©rative ne se proposent pas seulement dâaugmenter le travail des artistes et des auteurs, mais menacent de les remplacer purement et simplement. Ă lâinverse, les technologies intelligentes de Brodey ne devaient pas automatiser lâhumanitĂ© jusquâĂ la rendre obsolĂšte ni standardiser les existences, elles promettaient dâenrichir nos goĂ»ts et dâĂ©tendre nos facultĂ©s, autrement dit de rehausser lâexpĂ©rience humaine au lieu de lâamoindrir. LibĂ©rer les capacitĂ©s humaines en sommeil
CâĂ©tait un point de vue courageux dans le contexte de lâĂ©poque, alors que la majoritĂ© des reprĂ©sentants de la contre-culture envisageaient la technologie comme une force anonyme et sans Ăąme dont il valait mieux se mĂ©fier ou, dans les communautĂ©s prĂŽnant le « retour Ă la terre », comme un instrument dâĂ©mancipation uniquement individuelle. Lorsquâil formule ces idĂ©es au mitan des annĂ©es 1960, Brodey voit sa vie professionnelle et familiale se dĂ©liter. Ses prises de position ne cessent de le porter vers les franges les plus avant-gardistes de lâestablishment amĂ©ricain. Comme beaucoup au sein de la mouvance hippie, il ne reconnaĂźt pas la lĂ©gitimitĂ© du politique, ce qui lâempĂȘche de traduire ses thĂ©ories en revendications.
Ă lâautre bout de la planĂšte, un philosophe soviĂ©tique du nom dâEvald Ilyenkov, nĂ© comme lui en 1924, se pose des questions tout Ă fait comparables, mais Ă lâintĂ©rieur du cadre conceptuel du « marxisme crĂ©atif ». Ses travaux permettent de mieux comprendre ce que recouvre le concept dâamĂ©lioration de lâhumain dans la pensĂ©e communiste et socialiste.
Comme Brodey, Ilyenkov a beaucoup travaillĂ© avec des non-voyants. De ses Ă©tudes, il a conclu que les capacitĂ©s cognitives et sensorielles dĂ©coulent de la socialisation et des interactions avec la technologie. Pour peu que nous trouvions les bons environnements pĂ©dagogiques et technologiques, nous pouvons cultiver des compĂ©tences que nous possĂ©dons Ă lâĂ©tat latent. Le communisme vise ainsi, sous la houlette de lâĂtat, Ă libĂ©rer les capacitĂ©s humaines en sommeil afin que chacun puisse rĂ©aliser pleinement son potentiel, indĂ©pendamment des barriĂšres sociales ou naturelles.
ExcĂ©dĂ© par la fascination des bureaucrates soviĂ©tiques pour lâIA Ă lâamĂ©ricaine, Ilyenkov en propose une critique particuliĂšrement convaincante dans un article de 1968 intitulĂ© « Idoles et idĂ©aux » (6). Ă ses yeux, mettre au point une intelligence artificielle sâapparentait Ă construire une Ă©norme et ruineuse usine de sable artificiel en plein cĆur du Sahara. MĂȘme en admettant quâelle fonctionne Ă la perfection, il Ă©tait absurde de ne pas profiter plutĂŽt de la ressource naturelle disponible en abondance, au-delĂ de ses murs.
PrĂšs de soixante ans plus tard, la dĂ©nonciation dâIlyenkov nâa rien perdu de son actualitĂ©. Nous sommes toujours coincĂ©s dans ce dĂ©sert Ă dĂ©fendre le bien-fondĂ© de lâusine, sans voir que personne, hormis les Ă©tats-majors et les architectes de lâordre Ă©conomique, nâen a vraiment besoin. Brodey utilisait par ailleurs une autre image, empruntĂ©e Ă Marshall McLuhan : ses technologies Ă©cologiques avaient le pouvoir de nous dessiller, comme un poisson qui prendrait subitement conscience de lâexistence de lâeau. De la mĂȘme façon, il est temps que quelquâun rĂ©vĂšle aux obsĂ©dĂ©s de lâIA quâils sont entourĂ©s dâun gigantesque gisement dâintelligence, humaine, crĂ©ative, imprĂ©visible et poĂ©tique.
Reste la grande question : pourrons-nous nous amĂ©liorer rĂ©ellement si nous persistons Ă manier des concepts comme lâIA, qui semble contredire lâidĂ©e mĂȘme de dĂ©veloppement humain ?
Lâambition de construire une intelligence artificielle nâa pas fait quâengloutir des milliards de dollars ; pour certains, elle a aussi eu un coĂ»t sur le plan personnel. Lâintransigeance des jeunes loups qui ont prĂ©sidĂ© Ă son expansion â avec leurs levĂ©es de fonds tous azimuts et leur dĂ©finition rigide des frontiĂšres de la discipline â a ainsi conduit Ă marginaliser des penseurs visionnaires comme Stafford Beer et Warren Brodey, que lâĂ©tiquette « intelligence artificielle » a toujours mis mal Ă lâaise.
Les deux hommes, qui eurent lâoccasion de se rencontrer peu de temps avant la mort du premier en 2002, Ă©taient issus de milieux diamĂ©tralement opposĂ©s. Ancien chef dâentreprise, Beer Ă©tait membre du trĂšs Ă©litiste Club Athenaeum britannique ; Brodey avait grandi Ă Toronto dans une famille juive de classe moyenne. Cela ne les empĂȘchait pas de vouer un mĂȘme mĂ©pris Ă lâIA en tant que discipline scientifique et au dogmatisme de ses praticiens. Ils partageaient aussi un pĂšre spirituel : Warren McCulloch, gĂ©ant de la cybernĂ©tique.
La cybernĂ©tique Ă©tait nĂ©e juste aprĂšs la seconde guerre mondiale sous les auspices du mathĂ©maticien Norbert Wiener. De nombreux chercheurs, pionniers dans leurs champs respectifs (mathĂ©matiques, neurophysiologie, ingĂ©nierie, biologie, anthropologieâŠ), sâĂ©taient aperçus dâune difficultĂ© commune : tous se heurtaient Ă des processus complexes et non linĂ©aires dans lesquels il devenait impossible de distinguer les causes des effets â lâeffet apparent dâun processus naturel ou social donnĂ© pouvant se rĂ©vĂ©ler simultanĂ©ment liĂ© Ă un autre.
ArticulĂ©e autour de cette idĂ©e de causalitĂ© mutuelle et dâimbrication entre des phĂ©nomĂšnes apparemment indĂ©pendants, la cybernĂ©tique Ă©tait moins une discipline scientifique quâune philosophie. Ses grands penseurs nâabandonnaient pas leur domaine de recherche initial, mais enrichissaient leurs analyses dâune perspective nouvelle. Lâapproche interdisciplinaire permettait dâapprĂ©hender les processus Ă lâĆuvre dans les machines, les cerveaux humains et les sociĂ©tĂ©s au moyen dâun mĂȘme ensemble de concepts.
Quand lâintelligence artificielle fit son apparition au milieu des annĂ©es 1950, elle se posa comme une Ă©manation naturelle de la cybernĂ©tique ; en rĂ©alitĂ©, elle marquait plutĂŽt une rĂ©gression. La cybernĂ©tique avait voulu sâinspirer des machines pour mieux comprendre lâintelligence humaine, et non pour la reproduire. DĂ©complexĂ©e, la discipline Ă©mergente de lâIA entreprit dâouvrir une nouvelle voie en fabriquant des machines capables de « penser » comme nous. Lâobjectif nâĂ©tait pas de percer les mystĂšres de la cognition humaine, mais de satisfaire les exigences de son principal client : lâarmĂ©e. La recherche fut immĂ©diatement dictĂ©e par les impĂ©ratifs de dĂ©fense, ce qui allait se rĂ©vĂ©ler dĂ©terminant pour son Ă©volution future.
Ainsi, certains des projets initiaux inspirĂ©s par la philosophie cybernĂ©tique, comme la tentative de fabriquer des rĂ©seaux de neurones artificiels, furent rapidement rĂ©orientĂ©s vers des fins militaires. Soudains ces rĂ©seaux ne viseraient plus Ă dĂ©mĂȘler les intrications de la pensĂ©e mais Ă analyser des images aĂ©riennes pour localiser des navires ennemis ou des pĂ©troliers. La quĂȘte ambitieuse dâune intelligence artificielle a ainsi fini par recouvrir dâun vernis de prestige scientifique des contrats militaires banals.
Dans ce contexte, lâinterdisciplinaritĂ© nâĂ©tait pas de mise. LâIA Ă©tait dominĂ©e par de jeunes et brillants mathĂ©maticiens ou informaticiens qui trouvaient la cybernĂ©tique trop abstraite, trop philosophique et surtout potentiellement subversive. Il faut dire quâentre-temps Norbert Wiener sâĂ©tait mis Ă soutenir les luttes syndicales et Ă critiquer lâarmĂ©e, ce qui nâĂ©tait pas de nature Ă attirer les financements du Pentagone. JPEG - 89.4 ko Laurent Millet. â De la sĂ©rie « Euclide », 2021 © Laurent Millet - www.laurent-millet.com - Galerie Binome, Paris
Lâintelligence artificielle, qui promettait dâ« augmenter » les opĂ©rateurs humains et dâĂ©laborer des armes autonomes, ne souffrait pas dâun tel problĂšme dâimage. Elle fut dâemblĂ©e une discipline scientifique Ă part. Alors que les sciences traditionnelles cherchent Ă comprendre le monde, en sâaidant parfois de la modĂ©lisation, les pionniers de lâIA dĂ©cidĂšrent de construire des modĂšles simplifiĂ©s dâun phĂ©nomĂšne du monde rĂ©el â lâintelligence â, puis de nous convaincre que rien ne diffĂ©renciait les premiers du second. Un peu comme si des gĂ©ographes renĂ©gats crĂ©aient une nouvelle discipline, le « territoire artificiel », en essayant de faire croire quâavec les avancĂ©es de la technologie carte et territoire ne seraient bientĂŽt plus quâune seule et mĂȘme chose.
Ă de nombreux Ă©gards, la trajectoire â et la tragĂ©die â de lâIA durant la guerre froide ressemble Ă celle de la science Ă©conomique, en particulier amĂ©ricaine. LâĂ©conomie aux Ătats-Unis avait fait lâobjet dâune pensĂ©e bouillonnante, plurielle, en phase avec les dynamiques du monde rĂ©el, consciente que le pouvoir et les institutions (allant des syndicats Ă la RĂ©serve fĂ©dĂ©rale) avaient une influence sur la production ou la croissance. Les prioritĂ©s de la guerre froide en firent une discipline obsĂ©dĂ©e par des modĂšles abstraits â optimisation, Ă©quilibre, thĂ©orie des jeux⊠â dont la pertinence dans la vraie vie nâavait quâune importance secondaire. MĂȘme si certaines applications numĂ©riques, comme la publicitĂ© en ligne ou les services de voitures de transport avec chauffeur (VTC), sâappuient aujourdâhui sur ces constructions mathĂ©matiques, la validitĂ© ponctuelle dâune approche biaisĂ©e ne suffit pas Ă la racheter. Le fait est que lâĂ©conomie orthodoxe moderne nâa pas grand-chose Ă proposer pour rĂ©gler des problĂšmes tels que les inĂ©galitĂ©s ou le changement climatique, si ce nâest des solutions fondĂ©es sur le marchĂ©.
Lâanalyse vaut aussi pour lâintelligence artificielle, qui, bien que dĂ©crite comme un triomphe technologique, est souvent un euphĂ©misme pour militarisme ou capitalisme. Ses hĂ©rauts ont beau reconnaĂźtre la nĂ©cessitĂ© dâinstaurer un minimum de contrĂŽle et de rĂ©glementation, ils peinent Ă imaginer un futur dans lequel notre conception de lâintelligence ne serait pas dominĂ©e par lâIA. DĂšs le dĂ©part, celle-ci a moins Ă©tĂ© une science â qui se caractĂ©rise par des objectifs finaux non prĂ©dĂ©terminĂ©s â quâun hybride de religion et dâingĂ©nierie. Son dessein ultime Ă©tait de crĂ©er un systĂšme informatique universel capable dâaccomplir tout type de tĂąches sans y avoir Ă©tĂ© explicitement entraĂźnĂ© â une dĂ©cision que lâon connaĂźt dĂ©sormais sous le nom dâintelligence artificielle gĂ©nĂ©rale (IAG).
Ici intervient un autre parallĂšle avec lâĂ©conomie : durant la guerre froide, lâIAG fut envisagĂ©e de la maniĂšre dont les Ă©conomistes concevaient le libre marchĂ©, câest-Ă -dire comme une force autonome, autorĂ©gulatrice, Ă laquelle lâhumanitĂ© serait bien forcĂ©e de sâadapter. Dâun cĂŽtĂ©, la pensĂ©e Ă©conomique escamote le rĂŽle quâont jouĂ© la violence coloniale, le patriarcat et le racisme dans lâexpansion du capitalisme, comme si se prolongeait naturellement lâinclination humaine « à trafiquer [et] Ă faire des trocs et des Ă©changes dâune chose pour une autre » (7), selon la cĂ©lĂšbre formule dâAdam Smith. De lâautre, le rĂ©cit traditionnel des origines de lâIA reconnaĂźt les apports de la cybernĂ©tique, des mathĂ©matiques, de la logique, mais reste muet concernant le contexte historique ou gĂ©opolitique. Comme si lâon qualifiait simplement lâeugĂ©nisme et la phrĂ©nologie de branches de la gĂ©nĂ©tique et de la biologie, sans rien dire de leur dimension raciste. Nâoublions pas, souligne Yarden Katz dans son remarquable essai Artificial Whiteness(7), que lâintelligence artificielle nâaurait jamais existĂ© sans le militarisme, le corporatisme et le patriotisme exacerbĂ© de la guerre froide.
Un concept Ă ce point perverti pourra-t-il un jour ĂȘtre remis au service dâambitions progressistes ? Nâest-il pas aussi vain dâappeler Ă une « intelligence artificielle communiste » que de rĂȘver dâateliers clandestins Ă visage humain ou dâinstruments de torture dĂ©licieux ?
Les expĂ©riences de Stafford Beer et de Warren Brodey suggĂšrent que nous ferions mieux de renoncer au fantasme de lâintelligence artificielle socialiste et de nous concentrer sur la dĂ©finition dâune politique technologique socialiste post-IA. PlutĂŽt que dâessayer dâhumaniser les produits existants en leur imaginant des applications de gauche ou en inventant de nouveaux modĂšles de propriĂ©tĂ© Ă©conomique, nous devons ouvrir Ă tous, sans considĂ©ration de classe, dâethnicitĂ© ni de genre, lâaccĂšs Ă des institutions, infrastructures et technologies qui favorisent lâautonomie crĂ©atrice et permettent de rĂ©aliser pleinement ses capacitĂ©s. En dâautres termes, nous devons amorcer la transition de lâhumain augmentĂ© Ă lâhumain amĂ©liorĂ©.
Vivre dans un ballon, pas dans une bulle
Une telle politique sâappuierait sur les composantes de lâĂtat-providence qui sont le plus Ă©loignĂ©es des mots dâordre conservateurs du capitalisme : lâĂ©ducation et la culture, les bibliothĂšques, les universitĂ©s et les diffuseurs publics. Elle ouvrirait ainsi la voie Ă une politique Ă©ducative et culturelle socialiste, au lieu de renforcer lâĂ©conomie nĂ©olibĂ©rale comme le fait lâapproche actuelle.
Brodey comprit lui-mĂȘme assez rapidement quâil ne pouvait y avoir dâIA socialiste sans socialisme. DĂšs le dĂ©but des annĂ©es 1970, il reconnut que le contexte de la guerre froide aux Ătats-Unis vidait de tout sens sa quĂȘte dâ« amĂ©lioration humaine » et de « technologie Ă©cologique » â sans compter quâil mettait un point dâhonneur Ă refuser lâargent du Pentagone, et mĂȘme dâinstitutions comme le MIT, pour marquer son opposition Ă la guerre du Vietnam.
Ă en croire Negroponte, Brodey ne voulut en effet jamais entendre parler dâune titularisation au MIT. Le confort ne lâintĂ©ressait pas. Il prĂ©fĂ©ra aller se construire une maison Ă base de mousse et de ballons en pleine forĂȘt, dans le New Hampshire. Un environnement « rĂ©actif et intelligent » qui lui convenait. Mais cela allait trop loin, mĂȘme pour ses admirateurs. « Tout le monde nâaspire pas Ă vivre dans un ballon », ironisa Negroponte Ă lâĂ©poque.
La pensĂ©e de Brodey Ă©tait imprĂ©gnĂ©e dâutopisme. Lui et son plus proche collĂšgue, Avery Johnson, nourrissaient lâespoir que lâindustrie amĂ©ricaine adopterait leur vision â des produits rĂ©actifs et interactifs propres Ă faire naĂźtre de nouveaux goĂ»ts et centres dâintĂ©rĂȘt chez lâutilisateur plutĂŽt quâĂ surfer sur son dĂ©sir consumĂ©riste. Mais les entreprises optĂšrent pour la version plus conservatrice de Negroponte, dans laquelle lâinteractivitĂ© permet surtout aux machines dâidentifier nos angoisses et de nous faire acheter davantage.
En 1973, dĂ©sabusĂ©, Brodey partit sâinstaller en NorvĂšge. Il y ressurgit en maoĂŻste, membre actif du Parti communiste des travailleurs, et se rendit mĂȘme en Chine afin dâĂ©changer avec des ingĂ©nieurs Ă propos de son concept de « technologies rĂ©actives ». Pour un homme qui avait Ă©tĂ© Ă©troitement impliquĂ© dans des projets de lâarmĂ©e, de la National Aeronautics and Space Administration (NASA) et de la CIA pendant la guerre froide, ce nâĂ©tait pas un revirement anodin.
DâaprĂšs les longues conversations que jâai pu avoir avec lui ces dix derniĂšres annĂ©es en NorvĂšge, oĂč il vit encore, Brodey incarne toujours Ă merveille le projet dâĂ©volution ouverte quâil dĂ©fendait dans les annĂ©es 1960. Ă lâĂ©vidence, lâamĂ©lioration de lâhumain a fonctionnĂ© pour lui. Cela signifie quâelle pourrait peut-ĂȘtre fonctionner pour nous tous â Ă condition que nous choisissions les technologies adĂ©quates et que nous cultivions une bonne dose de scepticisme Ă lâĂ©gard de lâintelligence artificielle, communiste ou non.
(Traduit de lâamĂ©ricain par Ălise Roy.)
Evgeny Morozov