L’analyse du discours des superstars de la Silicon Valley me paraît plus que jamais nécessaire, si l’on souhaite conserver ou réhabiliter le primat de la pensée sur nos actions et convictions en matière technologique. C’est pourquoi, j’aimerais m’arrêter un instant sur l’affirmation péremptoire de Musk selon laquelle nous serions déjà des cyborgs. Derrière cette « petite phrase » se cache une conception très « siliconienne » de la technique ou, pour le dire autrement, très solutionniste. Après avoir rapidement éclairci la notion de cyborg, nous verrons, que la déclaration de Musk s’inscrit dans le registre du fait avéré alors que notre nature cyborganique n’a rien d’une évidence. Nous tenterons ensuite d’expliquer en quoi il peut être fallacieux mais aussi dangereux d’invoquer des technologies existantes comme alibi pour le développement d’autres artefacts. Plus généralement, cette critique sera pour moi l’occasion de revenir sur un certain nombre d’apports de la philosophie des techniques permettant de comprendre que nos artefacts ne se réduisent pas, loin s’en faut, à leur seule dimension instrumentale.
Qu’est-ce qu’un cyborg ?
La première utilisation du terme cyborg est attribuée au neuropsychologue Manfred Clynes, dans les années 60. Contraction de l’anglais « cybernetic organism », le terme désigne une entité mi humaine mi machine telle que le célèbre RoboCop. Au sens propre, un cyborg est donc un être humain techniquement modifié dont la biologie fusionne –ou, au moins, s’accorde- avec des implants technologiques de natures diverses. On peut, cependant, concevoir le terme au sens figuré. Un cyborg devient alors un être dont les capacités d’action sur le monde et, plus largement, le mode d’être au monde sont médiatisés technologiquement. Il est vrai que, dans ce second sens, l’homme a toujours été un cyborg, l’hominisation étant consubstantielle au développement des premiers outils. La formule n’en demeure pas moins métaphorique.
Du cyborg métaphorique au cyborg authentique
La pirouette argumentative de Musk –volontaire ou non- consiste à faire passer le cyborg métaphorique pour un cyborg authentique et ainsi, faire comme si la nature de son projet d’implant cérébral, ne se démarquait en rien de ce qui, techniquement, se fait déjà et s’est toujours fait. La chose n’est pas anodine puisqu’elle instaure un simulacre de continuité entre des technologies comme l’ordinateur et le futur implant cérébral de Neuralink. Le cyborg métaphorique sert ici à instaurer une pseudo-logique des faits justifiant le passage au cyborg authentique, c’est-à-dire d’une techno-extension [1] à une techno-fusion [2].
De la nécessaire analyse empirique des techniques
Ce relativisme de commodité passe un peu trop rapidement sur une question cruciale en la matière : entre l’utilisation d’un téléphone portable et la greffe d’un implant cérébral d’augmentation, y a-t-il une différence de nature ou de degré ? Si on laisse, pour aujourd’hui, l’analyse d’ontologie génétique proposée par Simondon, la réponse à cette question tient en grande partie dans l’étude du couplage entre les humains et leurs artefacts : quel(s) rapport(s) au monde, ce couplage entraine-t-il ? Entre une technologie A et une technologie B relavant, apparemment, de la même logique pratique et/ou technique, y a-t-il promotion du même rapport au monde ? Si oui, ce rapport varie-t-il en intensité ? Et, enfin, une variation de degré considérable n’est-elle pas, au final, similaire à une variation de nature ? En pratique, ces questions sont souvent ignorées au profit du discours simpliste aux accents technoprophétique de la « flèche du progrès » : notre avenir technologique sera forcément meilleur que notre présent qui lui-même est meilleur que notre passé. Mais, encore une fois, meilleur selon quels critères ? Le smartphone n’est pas simplement un téléphone amélioré. Les conséquences – sociales, par exemple – du couplage qu’il propose sont bien différentes de celles de son soi disant ancêtre non intelligent. En somme, le rapport au monde qu’il co-génère est d’une autre nature, bien que les deux deux technologies partagent indéniablement des points communs, à commencer par la possibilité de téléphoner. Un discours sérieux sur les artefacts ne peut donc pas faire l’économie de leur étude empirique.
Heidegger, dans sa Question de la technique, propose une analyse à la fois passionnante et pertinente de la relation mondaine dévoilée par la technique moderne. Selon lui, l’essence de la technique n’a rien de technique, mais réside dans un rapport au monde qu’il nomme arraisonnement (Gestell en allemand, parfois également traduit par dispositif en Français). Dans l’arraisonnement, le monde nous est révélé comme « fonds disponible ». Autrement dit, il s’agit d’un rapport de domination, de prédation où la nature est mise en demeure par l’homme de se plier à sa volonté. De nombreux exemples abondent dans ce sens (OGM et autres manipulations génétiques, extraction – irraisonnée – des ressources, géoingénierie, projet transhumaniste etc.). Toutefois, si la théorie de l’arraisonnement propose une ontologie puissante et pertinente, elle doit absolument être complétée d’une analyse ontique, c’est-à-dire, encore une fois, d’une étude empirique et casuistique des étants que sont les artefacts.
Mais par quel(s) processus les objets techniques participent-il au tissage de nos relations mondaines ?
L’intentionnalité technologique
Tout d’abord, en structurant notre accès perceptif au monde. Le philosophe des techniques américain Don Ihde et, à sa suite, Peter-Paul Verbeek, expliquent qu’il existe une intentionnalité technologique, c’est-à-dire une capacité des technologies à médiatiser (au sens de truchement) notre intentionnalité. En phénoménologie [3], l’intentionnalité est un concept fondateur permettant d’expliquer les relations entre l’humain et le monde [4]. Il stipule que toute conscience ou perception est toujours conscience ou perception de quelque chose [5]. Comme l’exprime très clairement Verbeek : « Au lieu de séparer l’être humain du monde, le concept d’intentionnalité dévoile les liens inextricables qui les unissent. Du fait de la structure intentionnelle de l’expérience humaine, l’Homme ne peut être compris indépendamment de la réalité dans laquelle il vit. Celui-ci est toujours dirigé vers le réel. Il ne peut pas simplement « penser », mais pense toujours quelque chose ; il ne peut pas simplement « voir », mais voit toujours quelque chose ; il ne peut pas simplement « ressentir », mais ressent toujours quelque chose. En tant qu’être d’expérience, l’humain ne peut échapper à ce lien permanent avec les entités qui constituent son monde. En conséquence, parler du monde « en soi » n’a pas réellement de sens. De la même façon que les êtres humains ne peuvent être compris indépendamment de leurs relations avec la réalité, le réel ne peut qu’être compris à partir des relations que ces derniers ont avec lui. Le monde « en soi » est inaccessible par définition puisque toute tentative pour le saisir fait de lui un « monde pour nous »[6]. Le concept d’intentionnalité peut être très simplement schématisé sous la forme d’une flèche nous unissant au monde :
Moi –> Monde
Toutefois, ce schéma est uniquement applicable dans le cas des perceptions im-médiates. Dans nos sociétés hypertechniques, nos perceptions et conscience du monde sont constamment médiatisées par nos artefacts, c’est-à-dire passent à travers eux. Le concept d’intentionnalité technologique nait de ce constat relativement simple et fait des objets techniques des médiateurs de nos relations au monde. Le schéma intentionnel générique devient alors celui-ci :
Moi – Artefact –> Monde
Dans Technology and the Lifeworld, Don Ihde établi une typologie des relations mondaines qu’engendrent les artefacts en médiatisant notre perception. Il s’agit des relations 1) d’incarnation (embodiment), 2) d’altérité (alterity), 3) herméneutiques (hermeneutic) et 4) d’arrière-plan (background). Chacune d’entre elle représente une façon particulière d’être en contact avec le monde par le biais des objets techniques. En voici une rapide présentation :
Les relations d’incarnation sont produites par des artefacts « portés » ou « incorporés » (au sens superficiel) par l’Homme. Les lunettes fournissent un bon exemple de ce type de relation : elles donnent à voir le monde à travers elle, sans être explicitement remarquées.
(Moi-Artefact) –> Monde
Les relations d’altérité sont celles où monde et artefact se confondent. Notre intentionnalité est à la fois médiatisée par, et destinée à l’objet technique, de sorte que celui-ci devient un quasi-autre. Les distributeurs de billet ou encore les ordinateurs sont de bons représentants de ces relations.
Moi –> Artefact (-Monde)
Les relations herméneutiques donnent accès au monde sous la forme d’une interprétation (en grec, hermeneutikè signifie « art d’interpréter ») comme par exemple avec les radios, IRM, scanners, sismographes et autres thermomètres.
Moi –> (Artefact-Monde)
Enfin, les relations d’arrière-plan ne nous confrontent pas directement à l’objet technique mais à ses effets sur l’environnement. Ici, l’artefact façonne le contexte de notre expérience sans que l’on s’en rende compte, comme avec le thermostat par exemple.
Moi (- Artefact – Monde)
Ces précisions ne sont pas purement théoriques ou descriptives. La médiatisation de notre intentionnalité par les artefacts n’est pas une opération neutre : c’est la qualité de notre expérience du monde qui s’y joue ; car l’intentionnalité n’est pas non plus une opération « chimiquement pure ». L’isolement du processus intentionnel qui nous unit au monde est purement analytique. Empiriquement, la mise en relation qu’est l’intentionnalité s’accompagne toujours d’une interprétation. Notre perception est une mécanique duale qui comporte un versant perceptif et un versant herméneutique. Pour le dire comme Don Ihde, nos microperceptions, c’est-à-dire nos sensations physiologiques issues des cinq sens, sont indissociables du prisme culturel et axiologique qui les « formatent » a priori. Percevoir, c’est toujours aussi interpréter. Dès lors, on comprend que nous ne sommes pas seuls dans la façon dont nous interprétons le monde, et, par conséquent, y agissons. Les relations humain-artefacts sont d’ordre partenarial, et comme dans tout partenariat, chaque partie apporte ses particularités au résultat de leur association.
On commence alors à comprendre le caractère périlleux de l’allégation de Musk. La confusion entre cyborg authentique et métaphorique n’est pas seulement formelle, mais aussi conceptuelle. L’impact des technologies sur notre perception, nos interprétations du monde et, en dernière instance, nos actions étant propre à chacune d’entre elles (cela n’exclue aucunement l’existence de similitude d’un artefact à l’autre), il est sommes toutes malavisé, voire malhonnête d’invoquer les unes pour justifier les autres sans examen approfondi.
Umwelt phénoménotechnique
Outre ce « pouvoir » d’intentionnalité technologique, les artefacts sont également des entités cosmogènes : ils participent à la création/expansion permanente du monde humain. Cette cosmogénèse n’est pas physique comme le Big Bang, mais phénoménale. Autrement dit, les techniques génèrent des phénomènes [7] qui participent au monde auquel nous avons accès par les sens et la conscience. Par exemple, avant l’invention du téléphone, le monde phénoménal téléphonique n’existait pas. La présence sonore d’autrui dans son absence physique – une présence désincarnée donc- était alors inconnue, et le monde humain était phénoménalement moins « riche ». L’exemple de Skype relève de la même logique, mais augmente la présence désincarnée d’une représentation visuelle de l’interlocuteur. La cosmogénèse artefactuelle est donc une phénoménogénèse : le monde humain (cf. note 4), s’enrichit constamment des phénomènes que les artefacts génèrent.
Là encore, ce constat n’est pas uniquement descriptif. En tant qu’il accroit le champ des perceptions et représentations possibles, l’enrichissement phénoménal du monde par les artefacts élargit l’éventail des actions possibles en son sein. Si ce que je perçois conditionne en partie ma capacité d’agir, alors plus je perçois, plus ma capacité d’agir s’accroît. Les artefacts étendent ce que le biologiste et philosophe allemand Jakob von Uexküll appelait l’Umwelt. Traduit par « monde propre » en Français, l’Umwelt désigne l’environnement spécifique d’une espèce. Spécifique, car il ne s’agit pas d’un milieu indifférencié, commun à tous les êtres vivants. Chaque organisme biologique co-construit le monde qu’il habite. Ses perceptions sont issues d’un processus de sélection des stimuli auxquels il réagit ; un stimulus n’étant pas stimulus en lui-même, mais pour et par quelque-chose d’autre que lui-même. Chaque espèce vit donc dans un Umwelt qui lui est propre et qu’il ne partage pas autrement qu’en apparence avec les autres. Uexküll cite l’exemple, désormais célèbre, de la tique. Ce petit parasite se caractérise par l’extrême pauvreté de son Umwelt. En effet, la tique ne perçoit que trois « signes perceptifs » auxquels correspondent trois actions déterminées :
- Elle perçoit les émanations d’acide butyrique des follicules sébacés des mammifères et se laisse alors tomber sur l’animal ;
- sa perception de la température prend ensuite le relai : la chaleur corporelle de sa proie indique à la tique qu’elle touche au but ;
- elle se fraie alors un chemin sur le mammifère, se fiant à son sens du toucher pour trouver un endroit dépourvu au maximum de poils et perforer l’épiderme de son hôte.
Contrairement à la tique, l’humain s’épanouit dans un Umwelt riche et évolutif, en très grande partie grâce aux artefacts. Comme nous l’avons vu, ceux-ci accroissent le nombre de phénomènes mondains, mais permettent également à l’Homme d’avoir des perceptions non sélectionnables par ses appareils sensoriels biologiques. C’est le cas, par exemple des technologies infrarouges, échographiques ou encore de résonnance magnétique. Les artefacts peuvent phénoménaliser ce qui est originellement invisible pour nous. Toutefois, ils ne permettent pas (encore ?) de modifier les sélections opérées par nos cellules perceptives. Ils ne modifient donc pas notre Umwelt au sens propre, mais accroissent les possibilités de perceptions/actions en son sein.
Ici, une question émerge : est-on certain que les technologies cyborganiques telles que l’implant cérébral de Neuralink n’aboutiront pas à une modification réelle de notre Umwelt ? Quel(s) impact(s) l’augmentation humaine aurait sur notre perception du monde et nos manières d’agir ? L’exploration métaphysique, et, bien entendu, scientifique à laquelle nous invite cette question n’est pas un appel à l’interdiction a priori des recherches en la matière, mais plutôt une invitation à prendre le temps de la pensée sur ces sujets que je n’hésiterai pas à qualifier d’existentiels. Les déclarations à l’emporte-pièce, telles que celle de Musk, ne favorisent pas cette attitude et cette temporalité indispensables, surtout lorsqu’elles sont soutenues par des millions voire des milliards de dollars. L’utilité et la vertu sociales des techniques que nous développons n’est pas uniquement fonction de leur utilité économique ou technologique, et ne peut être décrétée par un seul individu, quand bien même serait-il un génie absolu. Ceci est d’autant plus vrai que les artefacts, outre les capacités de médiations évoquées plus haut, participent également à l’introduction et à la sédimentation de valeurs morales dans nos vies quotidiennes. Ce sera notre dernier point.
Les médiations éthiques des artefacts
Le pouvoir médiateur des artefacts est également éthique en ce que 1) ils incitent l’humain à agir d’une certaine façon, et 2) ils incarnent et véhiculent des valeurs.
Comme l’explique un récent article de Mais où va le Web ? dédié à Gilbert Simondon, il y a de l’humain de nos objets techniques. Cette « humanité » des artefacts se retrouve dans les savoir-faire, les gestes et les connaissances nécessaires à leur conception, mais également dans les valeurs, points de vue sur le monde et autres biais culturels (conscients ou non) que toute création humaine implique. Contrairement à une idée largement répandue dans la sphère économique, la technologie n’est pas neutre ! L’idée que les seuls les usages déterminent la « moralité technicienne » est pourtant disqualifiée depuis longtemps, et pas uniquement sous la plume de Jacques Ellul (mais peut-être cette idée peine-t-elle encore à s’évader du milieu académique ?).
L’action hybride : scripts et multélie techniques
Les travaux de Bruno Latour ont contribué à répandre l’idée selon laquelle nos artefacts ne sont pas de simples instruments passifs. La philosophie a longtemps fait l’erreur de délaisser l’analyse des moyens au profit des fins, négligeant un constat décisif : les moyens influencent les fins. Comme le dit Latour, dans « Morale et technique : la fin des moyens », « [celui] qui croit que les outils sont de simples ustensiles n’a jamais tenu un marteau en main, et n’a jamais laissé courir jusqu’à sa conscience le flux de possibles qu’il se sent soudainement capables de trier ». L’action dite humaine est très souvent le résultat d’une hybridation entre notre « programme d’action » et celui ou ceux permis par les artefacts. En d’autres termes, ceux que nous qualifions trop rapidement de purs moyens participent à l’élaboration des fins que nous nous fixons. Ceci est dû à la téléologie initiale de l’artefact, celle imaginée par les concepteurs lors de sa production, et que Madeleine Akrich nomme script technique, mais aussi à la nécessaire multitélie des technologies, c’est-à-dire leur tendance, une fois couplées avec leurs utilisateurs humains, à déborder les usages pour lesquels elles ont été conçues et à co-générer de nouvelles finalités. On peut citer, parmi des milliers d’autres, l’exemple de l’aspirine. Initialement développée pour ses effets antalgiques, son action fluidifiante sur le sang justifie aujourd’hui un usage alternatif du médicament à celui de base : prévenir la formation de caillots sanguins. En augmentant techniquement nos capacités cognitives, Musk n’ouvrirait-il pas une boite de Pandore tant la multélie de ses implants serait vertigineuse ? Qui peut prévoir les effets d’une reconfiguration/augmentation technique de l’intelligence ? Comment anticiper l’éthos technique d’un humain supérieurement intelligent ? Les voies du transhumain sont-elles pénétrables ?
La promotion des valeurs par la technique
Enfin, les artefacts sont porteurs de valeurs. Tout objet technologique est action cristallisée dans la matière. En tant que telle, ils participent à la promotion des valeurs inscrites dans les actions qu’ils rendent possibles. Quand il s’agit d’une chaise, l’intérêt de l’analyse est limité, j’en conviens ; mais lorsqu’il s’agit d’un airbag, par exemple, l’idée devient subitement plus stimulante. En effet, l’airbag promeut la valeur de sécurité, pour laquelle la préservation de la vie humaine est une priorité. L’exemple prend tout son sens quand on sait que cette technologie est restée plusieurs années au placard pour des questions de rentabilité.
De quelles valeurs l’implant cérébral est-il l’émissaire ? De l’émancipation et du progrès humain diront ses prescripteurs. Ils auront peut-être raison, qui sait ? Personnellement, j’y vois un peu (beaucoup) de cette hubris technoéconomique dont les prétentions cosmiques feront bientôt notre réputation sur Mars ! J’y vois aussi une consécration de valeurs très en vogue aujourd’hui dans le monde économique, à savoir la performance et la vitesse [8].
Pour conclure
Je ne doute pas de la sincérité d’Elon Musk –bien que la question soit légitime-, je cherche simplement à comprendre le raisonnement. Si on laisse de côté le postulat singulitariste dont relève la crainte du patron de Tesla, pour admettre le réalisme d’un tel scénario, alors la logique est la suivante : pour ne pas être dépassés et, éventuellement, menacés par l’IA, la fusionnons avec elle ! Comme je l’ai dit en introduction, le solutionnisme est ici à son comble. Le politique est relégué au rôle qui est trop souvent le sien désormais : celui de marionnette de l’économique et du technologique. Pourtant, pour éviter qu’une IA hostile nous domine, on pourrait d’abord croire que la solution serait de ne pas développer une telle IA.
Quoi qu’il en soit, je ne pense pas que nous soyons déjà des cyborgs, du moins pas au sens authentique. Je suis en revanche convaincu que la confusion entre le sens propre et le sens figuré a un effet performatif considérable pouvant conduire à une logique telle que « puisque nous sommes déjà des cyborgs, autant persévérer dans notre être cyborganique » ; le risque étant, ici, de déterminer (promouvoir ?) un futur sur la base d’une prémisse erronée.
P.S. Mais convenons qu’il est difficile pour Elon Musk de se battre pour la limitation de l’IA alors qu’il en a besoin dans le cadre de ses activités chez Tesla pour la production de véhicules électriques réellement autonomes.
P.S.2. Pour rappel, tenter de penser la technique n’est pas nécessairement un acte technophobe. Ni philia ni phobia, juste sophia, pourrait-on dire pour définir une technosophie.
Julien De Sanctis
Ce texte publié sur spoon.ai est une version modifiée d’un article initialement paru sur Mais où va le web ?
[1] Nous définissons la techno-extension comme l’un des principes essentiels de toute technologie : l’accroissement des capacités humaines d’actions, qu’elles soient spatiales, temporelles, physiques, intellectuelles etc. Contrairement à la techno-fusion, la techno-extension reste extérieure au corps humain.
[2] La techno-fusion correspond à l’incorporation au sens propre de la techno-extension : la technique franchit la barrière charnelle. Elle se couple au biologique sur le mode de l’interaction et non du simple « support » comme ce pourrait être le cas d’une broche orthopédique, par exemple.
[3] La phénoménologie est la branche de la philosophie qui étudie les phénomènes, l’expérience vécue et les contenus de conscience.
[4] Le monde est ici défini comme l’ensemble des phénomènes apparaissant aux sens et à la conscience.
[5] Le mot d’intentionnalité vient du latin intendere, « orienter », « donner une direction ».
[6] Peter-Paul Verbeek, « Cyborg intentionality – Rethinking the phenomenology of human-technology relations » (notre traduction).
[7] Le phénomène est défini comme « Ce qui apparaît, ce qui se manifeste aux sens ou à la conscience, tant dans l’ordre physique que dans l’ordre psychique, et qui peut devenir l’objet d’un savoir » (CNRTL).
[8] Pour une lecture passionnante sur ce point, voir Hartmut Rosa, Accélération. Une critique sociale du temps chez La Découverte.