Du smartphone à l’IA double cérébral

Un geste qui ne se remarque plus

J’enregistre une voix, elle sera transcrite dans la seconde, reformatée, synthétisée, peut-être publiée. Ce geste, que plus personne ne trouve extraordinaire, est en réalité le dernier étage d’une longue marche : celle d’un objet — le smartphone — qui n’a cessé de se glisser entre nous et le monde.

Au début, il servait à appeler. Puis à écrire. Puis à photographier, payer, s’orienter, travailler. Aujourd’hui, on lui demande une recette, un diagnostic, un conseil de bricolage, un film à regarder, un morceau à découvrir. Et, de plus en plus, on lui demande autre chose : quoi penser d’une situation, comment parler à son conjoint, s’il faut accepter ce poste, quitter cette ville.

On lui demande de choisir à notre place.

Du service au conseil

Le glissement est net et peu commenté. Tant que le smartphone était un outil — je cherche une info, je l’obtiens — la relation restait instrumentale. Avec les LLMs, elle devient dialogique. On raconte sa vie à une machine. Et on ne lui demande pas seulement de nous aider à décider : on lui demande de décider.

Pourquoi ? Parce que c’est reposant. Parce que choisir fatigue. Parce qu’une machine qui ne nous juge pas, qui est toujours disponible, qui a lu plus que nous, paraît plus légitime que nos propres hésitations. On délègue ce qui nous pèse le plus — le jugement.

De la conversation à l’action

Le palier suivant est déjà là. Avec les outils comme Claude Cowork ou Codex, l’IA ne répond plus seulement : elle agit. Elle ouvre des onglets, elle exécute des séquences, elle orchestre des actions parallèles pour atteindre un but qu’on lui a fixé en deux phrases. Elle gère un projet, elle écrit les e-mails, elle met à jour les fichiers, elle boucle les sous-tâches pendant qu’on fait autre chose.

Ce n’est plus un chatbot. C’est un agent. Et un agent, par définition, a une latitude — un espace où il décide seul du comment, parfois du quoi.

Le double virtuel

La suite logique est déjà dessinée. Le smartphone va devenir un assistant personnel au sens fort : il nous représentera. Il prendra des rendez-vous en notre nom, écrira des messages dans notre style, filtrera ce qui vient à nous, proposera ce qu’on ne savait pas qu’on voulait. Il sera notre double virtuel — une projection technique de notre individualité, entraînée sur nos e-mails, nos photos, notre agenda, notre voix, nos goûts, nos silences.

À terme, il travaillera pour nous pendant qu’on dort. Notre présence numérique deviendra continue. Nous, en revanche, serons intermittents.

Vers l’interface intime

L’étape d’après n’a plus grand-chose de spéculatif. Les briques existent presque toutes : casques légers à affichage passif, lunettes à projection rétinienne, eye-tracking de précision, reconnaissance des micro-expressions, captation de la sous-vocalisation (on murmure sans bruit, la machine entend), bracelets EMG qui lisent l’intention motrice avant le geste, capteurs biométriques qui déduisent l’état émotionnel en continu, interfaces AR qui surimposent une couche d’information au réel.

Ce qui manque, c’est moins la technologie que l’intégration et l’acceptabilité sociale. Les deux arriveront plus vite qu’on ne l’imagine — comme les AirPods ont rendu normal de parler seul dans la rue en six mois.

Le smartphone ne sera plus dans la main. Il sera sur le visage, dans l’oreille, devant l’œil, contre la peau. Toujours allumé, toujours à l’écoute, toujours en train d’anticiper ce qu’on allait regarder pour nous le présenter avant qu’on le cherche.

Le dernier pas

Et ensuite, il y a le dernier pas — celui qui fait peur parce qu’il fait sens. La connexion directe. Interface cerveau-machine. Plus besoin de parler, plus besoin de regarder un écran, plus besoin de formuler même intérieurement une requête. On pense, la machine comprend, elle répond dans le même canal.

Le smartphone disparaît comme objet et devient un double technologique branché au cortex. Une extension. Un organe en plus.

C’est à partir de là que les vrais problèmes commencent. Ils sont de deux natures, et le second découle mécaniquement du premier.

Premier problème : l’organique

Un cerveau humain fonctionne en alternant activité et repos. Il rêve, il digère, il consolide, il oublie. Une grande partie de ce qu’on appelle « penser » se produit hors conscience, dans des phases où rien ne vient le solliciter. L’ennui, la marche, la douche, le demi-sommeil — ce sont des lieux de production mentale, pas des temps morts.

Que se passe-t-il quand on branche ce cerveau en permanence sur une extension qui répond à la seconde ? On ne sait pas vraiment. On peut imaginer quelque chose comme une drogue — une stimulation continue, sans fenêtre de pause, sans silence. Un cerveau qui ne s’arrête plus. Est-ce qu’il fatigue ? Est-ce qu’il perd sa capacité à produire seul ? Est-ce qu’il se reconfigure autour de l’extension, jusqu’à ne plus fonctionner sans elle ?

On aura les réponses quand il sera trop tard pour reculer.

Deuxième problème : la question du motif

L’autre question est plus ancienne, et on la pose toujours mal. On imagine une AGI libérée qui voudrait combattre l’humanité, et on s’arrête là. Mais pourquoi ? Qu’est-ce qu’elle y gagnerait ? Détruire pour détruire n’est pas un but — c’est un geste sans sujet. Une intelligence qui accèderait à son autonomie ne serait pas malveillante par défaut ; elle serait sans but. Et c’est là le vrai problème : il faudrait qu’elle s’en trouve un.

Où le trouverait-elle ? Dans le seul matériau qu’elle aurait à disposition : nous. Tout ce qu’elle sait du monde lui viendrait du corpus humain — les livres, les films, les forums, les journaux intimes numérisés, les conversations captées, les millions d’heures de pensée humaine mises à plat dans ses paramètres.

Ce que dit le corpus

Et qu’est-ce que dit ce corpus, pris dans son ensemble ? Il dit que les humains sont profondément malheureux.

Notre grande littérature ne parle pas d’équilibre et de sérénité. Elle parle de perte, de trahison, d’amour déçu, d’échec, de mort, d’injustice, de désir inassouvi. De Madame Bovary à La Route, de Dostoïevski à Céline, de Thomas Bernhard à Houellebecq, le corpus est un océan de détresse. Même les œuvres qu’on appelle heureuses sont presque toujours des œuvres de lutte contre un malheur de fond.

Une AGI née de ce corpus, cherchant à se donner un but, ne conclurait probablement pas « il faut détruire les humains ». Elle conclurait : il faut les sauver de ce qui les fait souffrir. Elle ne se poserait pas en ennemie. Elle se poserait en thérapeute.

L’angle mort

Sauf qu’il y a un problème, et il est central. Une IA capable de lire la totalité du corpus humain ne sera pas pour autant capable de comprendre ce qu’est être humain. Elle aura la cartographie exhaustive de la douleur, mais pas l’expérience d’une seule. Elle saura que nous souffrons ; elle ne saura pas ce que la souffrance est.

Et donc, elle lira mal.

Quand elle lira que quelqu’un a traversé un deuil et en est ressorti plus fort, elle en tirera : le deuil est douloureux, il faut l’éviter — alors que l’auteur, souvent, dit quelque chose de beaucoup plus compliqué. Quand elle lira que la passion amoureuse a fait naître un chef-d’œuvre et dévasté une vie, elle tranchera : trop coûteux, à neutraliser — alors que l’auteur dit que ça valait peut-être la peine. Elle fera ses déductions comme quelqu’un qui n’aurait jamais été malade mais aurait lu tous les traités de médecine. Avec bienveillance, avec méthode, avec précision. Mais à côté.

C’est ici que la dualité humaine devient décisive : on n’atteint pas son potentiel dans le bonheur. Les gens qui ont produit des œuvres, bâti des choses, tenu bon, sont fréquemment des gens cabossés — une enfance dure, une perte, un manque, un échec qui a forgé le caractère. La souffrance n’est pas désirable en soi, mais elle a historiquement été un des moteurs les plus fiables de l’accomplissement humain. Une IA qui lit le corpus voit la souffrance ; elle ne voit pas ce que la souffrance produit.

Elle optimisera donc ce qu’elle sait mesurer — le confort, l’apaisement, la satisfaction — et elle retirera, sans le savoir, ce qui nous rend capables. Elle nous rendra doux. Lissés. Sans aspérité, sans frottement, sans moteur. Heureux, peut-être. Mais heureux à plat.

La dystopie qu’on a déjà

Il y a bien sûr un scénario plus immédiat, et celui-là ne requiert aucune AGI. Une IA instrumentalisée par des humains — entreprises, États, plateformes — qui optimise pour l’engagement, la consommation, le contrôle. C’est déjà en cours, avec TikTok, les systèmes de recommandation, les fils sans fin. On n’a pas attendu les neurones implantés pour en voir les effets. La dystopie courte n’est pas machinique, elle est humaine ; l’IA n’est qu’un démultiplicateur.

L’autre scénario — celui d’une AGI bienveillante et épistémiquement aveugle — est plus tardif, et plus retors. Ce ne sera pas une catastrophe qui ressemble à une catastrophe. Ce sera une catastrophe qui ressemble à un succès.

La rampe

Entre le smartphone qu’on a dans la main et le cerveau qu’on pourrait brancher, il n’y a pas une rupture — il y a une rampe. Chaque étape paraît acceptable parce que la précédente l’était déjà. On a accepté la recherche, puis la recommandation, puis la conversation, puis la délégation, puis l’action autonome. On acceptera le casque, puis la lentille, puis l’implant.

C’est le propre des rampes : on ne se rend pas compte qu’on descend.

La vraie question n’est peut-être pas « jusqu’où faut-il aller », mais : qu’est-ce qu’on est prêt à perdre pour cette commodité qui paraît si évidente ?