L’intelligence artificielle : de l’assistant vocal à Skynet ?
Imaginez une IA qui ferait mieux que vous… dans tout, tout le temps. (Oui, même pour trouver la vanne parfaite lors d’un apéro !). C’est le fantasme – ou plutôt le cauchemar – autour de la superintelligence artificielle. Mais alors que certains magnats de la tech rêvent d’une IA plus brillante que 7 milliards de cerveaux combinés, d’autres commencent à sérieusement transpirer. Spoiler : Steve Wozniak, cofondateur d’Apple, préfère appuyer sur « pause ».
Dans un appel relayé par plus de 700 personnalités, une coalition bigarrée d’experts, scientifiques et célébrités s’est levée pour dire « non » à la course effrénée vers la superintelligence. Leur objectif ? Éviter que notre futur ne ressemble pas trop à Terminator, version « tout le monde porte des lunettes de soleil, sauf nous ».
Superintelligence : petit rappel pour ceux qui ont loupé l’épisode Black Mirror
C’est quoi la superintelligence ?
Dans le jargon geek (et désormais high level politique), la superintelligence, c’est une IA qui surpasse l’être humain dans (presque) toutes les tâches cognitives. Pas juste faire des calculs à la vitesse de la lumière ou reconnaître votre chat sur une photo, non : imaginez une intelligence capable de résoudre le réchauffement climatique avant même votre café du matin… et de pirater la playlist de votre coloc dans la foulée.
Aujourd’hui, malgré ChatGPT, Gemini, Mistral, et consorts, nous sommes encore loiiiin d’y être. Mais la perspective de voir une superintelligence surgir dans la prochaine décennie rend certains experts aussi anxieux que si on leur proposait une raclette en plein mois d’août.
Qui crie « Inacceptable » et pourquoi ?
Parmi les signataires de l’appel, on retrouve des pointures :
- Steve Wozniak (le Woz pour les intimes), cofondateur d’Apple, qui préfère coder des solutions à la maison plutôt que de laisser les robots courir partout.
- Geoffrey Hinton, prix Nobel et légende de l’IA (c’est simple : dans le monde de l’IA, il pourrait signer des dédicaces à des algorithmes).
- Yoshua Bengio, expert IA et grand fan de science-fiction réaliste…
- Stuart Russell, professeur de robotique à Berkeley.
- Richard Branson (Virgin tout court : il a déjà assez d’idées folles pour ne pas tenter le diable).
- Prince Harry (oui, LE Prince Harry, on attend toujours son avis sur le métavers aussi !).
Que disent-ils ? Attention, la superintelligence, en plus de faire flipper la machine à café, pourrait :
- Rendre l’humain obsolète dans la plupart des jobs
- Saboter notre économie (une IA qui gère la bourse ET change votre code postal, c’est trop)
- Grignoter nos libertés civiles et notre dignité (parce que « soumis à la machine » n’est pas le titre préféré des défenseurs de la démocratie)
- Menacer la sécurité nationale (on imagine déjà James Bond lutter contre Alexa-007)
- Et pourquoi pas, ruiner l’humanité (selon les scénaristes de science-fiction, ça marche à tous les coups)
La demande-choc : une pause mondiale sur la superintelligence IA
Ce que demandent les signataires, c’est simple :
« L’interdiction du développement de la superintelligence, qui ne sera levée qu’après l’obtention d’un large consensus scientifique sur la sécurité et le contrôle de cette technologie, ainsi qu’une forte adhésion du public. »
En gros : on s’assure que la superintelligence ne nous mange pas tous au petit-déjeuner avant de lancer la nouvelle version. Un peu comme exiger le manuel de sécurité (et la recette du gâteau d’anniversaire) avant de brancher la dernière création d’Elon Musk.
En face, on compte des entreprises et des gouvernements qui, honnêtement, ont une vraie tête de vainqueurs à cette course. États-Unis, Chine, Europe… Personne n’a trop envie d’arrêter la machine étant donné ce qui est en jeu : puissance, influence, et bonus, pouvoir poster un selfie du premier robot autoproclamé président.
IA générative, superintelligence et donuts : qui veut la prochaine révolution ?
Petit aparté : l’IA actuelle (générative, pour créer textes et images ou répondre à vos questions existentielles sur les mangas), c’est la première étape. On parle d’un secteur où tout le monde veut LA prochaine killer-feature, mais aussi où chaque palier de progrès rallume les débats : quelle confiance accorder à cette IA ? Quel cadre juridique ? Quid de la déontologie ? Est-ce qu’on aura un jour un robot capable de protester pour ses vacances ?
La course à la superintelligence, elle, c’est l’échelle au-dessus. À ce niveau, la question n’est plus « ma boîte email va-t-elle devenir intelligente ? », mais bien « est-ce que l’humanité garde le contrôle ou pas ? ».
Des peurs rationnelles… ou scénarios catastrophe ?
Avouons-le, le mot « extinction de l’humanité » a tendance à hérisser les poils. Mais est-ce de la science, ou du pur storytelling ?
Les signataires insistent :
- On ne sait pas contrôler une entité plus intelligente que ses créateurs ;
- On ignore même COMMENT s’assurer qu’elle ne déviera jamais de ses instructions (voir l’histoire du grille-pain qui écume votre pain, mais finit toujours par cramer la tranche du voisin) ;
- Les enjeux géopolitiques sont titanesques… et la compétition mondiale, féroce.
D’un autre côté, la plupart des patrons de la tech répondent : « on n’en est pas là, plutôt que d’appuyer sur pause, allons voir jusqu’où l’on peut aller… et corrigeons si ça part en cacahuète ! » (Méthode dite du test/learn, parfois test/explose…)
La course mondiale : moratoire possible… ou doux rêve ?
Imaginez demander à tous les groupes, toutes les startups et tous les gouvernements : « Arrêtez de courir après la superintelligence, on s’assoit tous, on réfléchit ! »
Dans un monde parfait (ou le monde des Bisounours IA), le moratoire global aurait du sens. Sauf que dans la réalité :
- Les États-Unis, la Chine, et même l’Europe s’observent du coin de l’œil façon « Jeux Olympiques du CPU surboosté ».
- Personne n’a envie d’être le seul à s’arrêter, pendant que les autres prennent de l’avance…
- Les effets d’annonce (même si signés par des légendes) ont parfois du mal à transformer le discours en réalité politique…
- Ajoutez une pincée de lobbying, un zeste d’ambiguïtés sur la définition de « superintelligence », et la recette du moratoire ressemble plus à une fondue savoyarde qu’à un traité international.
Pourquoi ce débat est crucial… même si vous ne vous passionnez pas pour la robotique !
On peut avoir l’impression que tout ça n’est qu’une prise de tête pour scientifiques, mais ce débat touche à :
- Notre avenir au travail (collaborer ou rivaliser avec l’IA, ce n’est pas la même limonade)
- La répartition du pouvoir économique (qui possède et qui contrôle l’IA ?)
- Les libertés individuelles (une IA qui influence toutes nos décisions, c’est « non, merci » pour beaucoup)
- L’organisation de la démocratie à l’ère numérique (vous aimez l’idée de voter pour un candidat humain ? Profitez-en tant que c’est garanti !)
Bref, même si nos smartphones refusent (pour l’instant) de décréter l’extinction humaine, la question de la superintelligence IA mérite de s’imposer dans le débat public. Ce n’est pas tous les jours que Wozniak et Hinton s’allient pour tirer la sonnette d’alarme…
Si demain, une IA superintelligente déboule… on fait quoi ?
Interdire, réguler, ralentir ou accompagner ? Ce qui est clair, c’est que sans un débat large, la tentation sera grande pour les géants de l’IA de foncer tête baissée vers la « singularité » (spoiler : ce n’est pas une série Netflix, mais la possibilité que l’IA dépasse l’humain en tout).
D’un côté, on ne veut pas freiner les progrès qui pourraient sauver des vies ou résoudre des crises majeures. De l’autre, il serait dommage que « prendre le contrôle » veuille dire se réveiller un matin avec votre grille-pain qui fait la loi dans la cuisine.
Pour le moment, le débat est lancé. Qui l’emportera ? Les défenseurs du progrès ultra-rapide ou les adeptes du slow tech façon « pas de panique avant d’avoir lu la notice » ?
Et entre nous : si jamais un jour l’IA dépasse nos rêves… on aura au moins prévu le coup grâce à Woz, Bengio, Hinton et compagnie (et à ceux qui relaient ces débats cruciaux). Rendez-vous, robot ou humain, dans dix ans… ou demain, qui sait ?