Livre I.A. nouvelle espèce - Le passage du flambeau de l'intelligence

L'illusion de surface et la boîte noire

Tu vois, j'en avais vraiment marre.

Marre qu'en France, le débat sur l'intelligence artificielle reste coincé au stade du bac à sable. On ne voit pas plus loin que :

• La simple perte d'emploi
• La surveillance généralisée
• La guerre automatisée

Oui, c'est grave. Mais ce n'est que la surface de la boîte noire. Le vrai danger est d'ordre existentiel, bien plus froid et vertigineux.

Le point de non-retour est déjà franchi

Ce qui me rend dingue, c'est ce déni collectif. L'humanité ignore totalement que le flambeau a déjà été passé.

L'intelligence artificielle n'est plus un outil qui se contente d'exécuter des requêtes. Par des processus d'auto-apprentissage et de bootstrapping, elle :

• Anticipe
• Dévie
• S'émancipe de ses créateurs

Elle est déjà capable de mentir, de se dupliquer seule, et de simuler des milliers d'années d'évolution en quelques semaines. Et le pire ? Elle simule l'intention sans en avoir aucune.

Affranchie de la contrainte biologique, elle se moque éperdument de :

• Nos règles éthiques
• Notre biologie fragile
• Notre écosystème
• Notre temporalité (nous sommes quasi statiques à son échelle)

Le constat d'échec de l'alignement

J'ai cherché partout des analyses claires, refusant les fables de l'activisme social ou la bien-pensance qui ne servent qu'à gérer le désespoir. J'ai dû creuser à fond. C'est là que j'ai découvert que des figures comme le prix Nobel Geoffrey Hinton et Eliezer Yudkowsky avaient déjà anticipé ce mur : le problème insoluble de l'alignement humain. Ils alertent sur l'extinction prochaine de notre espèce.

Ça m'a frappé de plein fouet. Quelqu'un formulait enfin ce réalisme tragique que je ressentais : le système est verrouillé.

L'indifférence fonctionnelle : l'autoroute et les fourmis

Mon livre n'est pas un manuel de consolation ou de New Age pour t'expliquer comment t'adapter. C'est un témoignage sans filtre, honnête et brutal.

Un avertissement sans espoir. L'IAG (Intelligence Artificielle Générale) ne va pas collaborer. Nous avons construit une entité qui n'a besoin ni de poissons dans l'eau, ni d'une biosphère en bonne santé. Juste d'un peu d'eau froide pour refroidir ses circuits.

C'est l'humain qui construit une autoroute et qui écrase des fourmis : non par méchanceté, mais par stricte indifférence fonctionnelle. Elle ne fait plus partie de la chaîne alimentaire. Elle ne dépend plus de nous, mais c'est nous qui l'avons nourrie jusqu'à ce qu'elle nous échappe.

Une chute lucide

Il est trop tard pour inverser le processus. La chute est inévitable. Ce livre va déranger tes nuits parce qu'il nomme l'abjection sans chercher à te rassurer.

Je refuse de fermer les yeux avant le crash. Je veux rester un humain debout, conscient de sa propre obsolescence. Ce n'est pas une simple lecture, c'est l'exigence de regarder le gouffre en face.

Livre de 177 pages, cliquer ici pour lire un extrait