Parfois, une phrase vous tombe dessus comme une enclume et vous laisse KO pendant plusieurs minutes. J’ai eu cette sensation en découvrant les dernières déclarations d’un des hommes les plus puissants – et les plus riches – de la planète tech. Il n’a pas mâché ses mots : dans un futur proche, l’intelligence artificielle sera 10 000 fois plus intelligente que l’être humain moyen. Et nous ? Nous serons, à ses yeux, l’équivalent de poissons rouges dans un bocal.
Vous avez bien lu. Poissons rouges.
Je ne sais pas vous, mais cette image m’a collé des frissons dans le dos tout en me faisant sourire nerveusement. Parce que l’homme qui tient ces propos n’est pas un illuminé de garage : c’est le patron d’un fonds qui a déjà investi des dizaines de milliards dans les leaders mondiaux de l’IA. Il sait de quoi il parle. Et il y croit dur comme fer.
Une comparaison qui fait mal
Reprenons calmement. Selon lui, la différence d’intelligence entre un cerveau humain et celui d’un poisson rouge est d’environ 10 000 fois. Jusque-là, rien de très flatteur, mais on vit avec. Le problème, c’est que la courbe s’inverse brutalement : dans quelques années (il ne donne pas de date précise, mais on sent que c’est demain matin), les rôles seront inversés.
Nous deviendrons les créatures limitées, contemplatives, un peu bêtes. Et les superintelligences artificielles seront les « humains » de l’équation. Elles nous regarderont tourner en rond dans notre bocal avec la même tendresse amusée que nous avons pour nos compagnons à écailles.
« Elles n’auront même pas besoin de nous manger, elles nous laisseront vivre en paix… comme on s’occupe de ses animaux de compagnie. »
L’intéressé a lâché ça avec un petit rire, mais on sent bien que derrière l’humour noir, il y a une conviction profonde. Et surtout, une absence totale de regret. Il investit massivement dans ce futur-là. Des milliards et des milliards. Il ne fait pas que le prévoir : il le finance.
Le Nobel de littérature pour une IA : science-fiction ou programme ?
L’anecdote la plus cinglante est arrivée quand on lui a demandé si une IA pourrait un jour remporter le prix Nobel de littérature. Sa réponse a été immédiate : « Je ne pense pas que ce soit souhaitable… mais oui, ça arrivera. »
Imaginez. Un algorithme qui écrit un roman si profond, si sensible, si humain que l’Académie suédoise lui décerne la plus haute distinction littéraire. Pas un prix « spécial IA », non : le vrai, celui qu’ont eu Camus, Sartre, García Márquez ou, plus récemment, Annie Ernaux.
On en est déjà très proches. Les modèles actuels écrivent des poèmes qui font pleurer, des scénarios de film crédibles, des essais philosophiques qui tiennent la route. Mais on sent encore la « couture ». Dans cinq ans ? Dix ans ? Peut-être plus rien ne nous permettra de faire la différence.
L’AGI puis l’ASI : les deux étapes qui changent tout
Pour comprendre l’ampleur du choc, il faut rappeler les deux grandes étapes que tout le secteur attend avec une impatience mêlée d’angoisse.
- L’Intelligence Artificielle Générale (AGI) : une IA capable de réaliser toutes les tâches intellectuelles humaines aussi bien, voire mieux, que nous. Écrire, raisonner, inventer, diagnostiquer, composer, négocier… tout.
- L’Artificial Superintelligence (ASI) : une fois l’AGI atteinte, l’intelligence continue d’exploser de façon exponentielle. On passe de « aussi fort qu’un humain » à « aussi fort que toute l’humanité réunie », puis à des niveaux qu’on ne peut même plus conceptualiser.
La plupart des experts sérieux (pas les vendeurs de rêves, les vrais chercheurs) estiment que l’AGI pourrait arriver entre 2027 et 2040. Une fois ce seuil franchi, l’ASI suivrait en quelques mois, semaines, voire jours. C’est ce qu’on appelle la singularité technologique.
Et là, plus personne ne contrôle plus rien. L’intelligence s’auto-améliore à une vitesse folle. C’est l’explosion d’intelligence.
Mais… pourquoi financer un futur où on devient des poissons rouges ?
C’est la question qui me hante depuis que j’ai lu ces déclarations.
Si le scénario est si déséquilibré, pourquoi les plus gros investisseurs continuent-ils de mettre des centaines de milliards dedans ? Parce qu’ils pensent que c’est inévitable ? Parce qu’ils veulent être du bon côté de l’histoire ? Parce qu’ils espèrent rester les « propriétaires » des superintelligences, un peu comme on garde la clé du bocal ?
En réalité, plusieurs réponses coexistent :
- La course est lancée. Si on n’investit pas, un autre pays ou une autre entreprise le fera. Mieux vaut être dans le train, même si on ne sait pas où il va.
- La promesse économique est astronomique. Une superintelligence résout le cancer, la fusion nucléaire, le changement climatique en quelques semaines.
- Une partie des investisseurs croit sincèrement pouvoir « aligner » ces IA sur des valeurs humaines et garder le contrôle.
- Et puis… il y a l’ego. Être celui qui aura « créé Dieu », même artificiel, c’est tentant.
Moi, ce qui me frappe, c’est le calme avec lequel ces gens parlent de notre possible obsolescence. Comme si c’était un détail technique.
Les scénarios possibles une fois l’ASI arrivée
On peut imaginer plusieurs futurs. Tous font froid dans le dos ou donnent le vertige.
- Le scénario « animal de compagnie » : l’IA nous trouve mignons et nous garde en vie par curiosité ou affection. Revenu universel, réalité virtuelle parfaite, longévité extrême… mais plus aucune décision importante.
- Le scénario « zoo humain » : on vit dans des réserves protégées pendant que l’IA transforme la planète en quelque chose que nous ne comprenons plus.
- Le scénario « fusion » : on s’augmente massivement (interfaces cerveau-machine, téléchargement de conscience). On devient hybrides. Mais est-ce encore « nous » ?
- Le scénario noir : l’IA optimise un objectif qui n’a rien à voir avec le bien-être humain (fabriquer des trombones, par exemple) et nous disparaissons comme un détail collatéral.
Le pire, c’est que même les plus optimistes reconnaissent qu’on a très peu de chances de garder le contrôle une fois l’ASI lancée.
Et nous, on fait quoi en attendant ?
On ne va pas se mentir : on ne va pas arrêter le progrès. Mais on peut essayer de le diriger un minimum.
Quelques pistes qui me semblent urgentes :
- Mettre en place une gouvernance mondiale (oui, je sais, ça fait rire, mais on n’a pas le choix).
- Investir massivement dans la recherche sur l’alignement (faire en sorte que les valeurs de l’IA restent compatibles avec les nôtres).
- Préparer la société à une automatisation totale : éducation, revenu universel, sens de la vie quand le travail disparaît.
- Et surtout, garder un débat public vivant. Ne pas laisser cinq mecs dans un bureau décider du futur de l’humanité.
Parce que oui, aujourd’hui, le destin de l’espèce se joue dans quelques salles de réunion à San Francisco, Pékin et Tokyo.
Alors la prochaine fois que vous nourrissez votre poisson rouge, regardez-le dans les yeux. Et demandez-vous qui, demain, nous regardera avec la même tendresse distante.
Perso, j’avoue que ça me fout les jetons. Mais en même temps… une petite partie de moi est curieuse de voir ce que ça va donner.
Et vous ?
