La superintelligence, c’est inacceptable ? Quand les experts sonnent le tocsin

Accrochez vos ceintures, fans de science-fiction et allergiques à Skynet ! L’idée d’une superintelligence artificielle (IA) dépassant l’homme ne relève plus du seul scénario hollywoodien : elle inquiète désormais une frange sérieuse de la planète Tech, des scientifiques, des prix Nobel… et même le cofondateur d’Apple en personne. Alors, sommes-nous vraiment à deux doigts de remettre les rênes du monde à une super IA prête à dicter sa loi ? Ou est-ce juste un épisode de « Black Mirror » qui s’est trop incrusté dans nos fils d’actu ? On fait le point sur ce moratoire qui fait jaser la planète Tech…

Une superintelligence sur le banc des accusés

L’expression « superintelligence » fait déjà frissonner tout amateur de films dystopiques. Mais de quoi parle-t-on exactement ? Ici, on vise un stade de développement de l’intelligence artificielle qui dépasserait l’humain dans pratiquement toutes les tâches cognitives. Oui, vous avez bien lu : plus personne ne pourrait espérer battre son assistant vocal au Trivial Pursuit (ni même à la belote).

Plus de 700 scientifiques, entrepreneurs, experts en IA et quelques célébrités médiatiques ont signé ce 22 octobre un appel solennel pour stopper net la course à cette technologie. Leur objectif ? Provoquer un large débat sur les risques… et pourquoi pas, obtenir un moratoire mondial sur le développement de la superintelligence tant qu’on n’a pas sécurisé la chose. Steve Wozniak, le complice de la première heure de Steve Jobs, est de la partie. Autant dire que le message ne pouvait pas être plus clair : « C’est inacceptable ! ».

Qui sont les signataires ? (Et non, ce n’est pas la nouvelle série Netflix)

Le texte, aussi court qu’efficace (et idéal pour un passage éclair sur LinkedIn), a de quoi faire tourner la tête à plus d’un développeur en herbe :

• Geoffrey Hinton – prix Nobel de physique 2024 (pas de panique, il maîtrise aussi parfaitement l’IA)
• Stuart Russell – professeur d’informatique à l’Université de Berkeley, expert reconnu en IA
• Yoshua Bengio – passant sa vie à imaginer le futur des machines à Montréal
• Richard Bronson – entrepreneur audacieux
• Prince Harry – la touche « couronne » pour médiatiser le débat
• Steve Wozniak – cofondateur d’Apple, celui qui transforme tout ce qu’il touche en une icône de la tech

Sans oublier des centaines d’autres scientifiques, entrepreneurs et politiques.

Pourquoi cet appel à l’interdiction de la superintelligence IA ?

Les signataires le crient haut et fort : « Trop, c’est trop ! ». Selon l’appel, si la superintelligence peut garantir santé et prospérité inédites, elle pose aussi une volée de questions existentielles — et franchement flippantes :

• Obsolescence et perte de pouvoir économique pour les humains (vous aviez aimé le chômage ? Attendez la version « AI Saga »)
• Menace sur les libertés civiles (voilà qui ferait pâlir George Orwell)
• Dignité humaine en péril (un robot peut-il vraiment faire de meilleurs petits plats que votre mamie ?)
• Sécurité nationale prise en otage (place à l’espionnage 4.0)
• Risque (même jugé très faible) d’extinction pure et simple de l’humanité (qu’on résume facilement par « game over »)

Bref, nos experts sonnent l’alerte : sans garde-fou, la machine pourrait vite appuyer sur le bouton « reset » de l’espèce humaine !

Superintelligence, fantasme ou danger bien réel ?

Vous vous dites sûrement que tout cela relève encore de la science-fiction. Certes, aucune IA à ce jour ne fait tourner le monde… mais la course est bel et bien lancée ! Les géants du secteur (coucou OpenAI, Google DeepMind, Meta AI et consorts) rêvent d’être les premiers à mettre au point une intelligence générale – autrement dit un cerveau numérique surpassant tous les cerveaux humains combinés.

Côté Hollywood, on pencherait pour « Terminator ». Mais côté Tech, l’engouement est bien réel : ambitions démesurées, levées de fonds faramineuses, brevets à la pelle et déclarations enflammées. Les prédictions des chercheurs restent prudentes, mais l’obsession existe bel et bien.

Qui va vraiment appuyer sur pause ? Le casse-tête du moratoire

C’est là où les choses se corsent. Imaginez réunir les États-Unis, la Chine, l’Europe autour d’une table… et leur demander de stopper net leurs investissements dans le Saint Graal techno du XXIe siècle. Autant dire qu’on a plus de chances de voir Elon Musk se lancer dans la pâtisserie vegan.

Entre rivalités géopolitiques, compétitions économiques irrépressibles et intérêts privés qui flairent la poule aux œufs d’or, les chances d’imposer un moratoire global paraissent minces, pour ne pas dire nulles. Pourtant, l’appel n’a rien d’anodin : il met le sujet sur la table et pousse gouvernements et citoyens à se demander si l’on ne fait pas fausse route. Car comme le rappellent les chercheurs : cette fois, si on se plante, le bug pourrait être définitif.

Faut-il réguler l’intelligence artificielle ?

On entend souvent dire que « la technologie n’est ni bonne ni mauvaise — tout dépend ce qu’on en fait ». On pourrait aussi dire ça des couteaux suisses… mais la superintelligence, elle, rendrait jalouse la totalité des MacGyver réunis !

Face à cette montée en puissance, certains prônent la régulation, la transparence et le débat public (bref, tout ce qu’on oublie de faire jusqu’à ce qu’il soit trop tard). L’Europe a déjà dégainé ses premiers règlements, la Chine avance ses propres standards et les États-Unis hésitent encore. Mais le danger, c’est que la technologie a déjà une (large) longueur d’avance sur les politiques. « Arrêtez tout, on veut discuter ! » demandent les experts. Facile à dire…

Et pour le grand public : doit-on s’inquiéter ou s’enthousiasmer ?

Voilà la vraie question ! Si la superintelligence IA réalise certains rêves (fin des maladies, prospérité pour tous, innovation à foison…), elle rappelle aussi que progresser plus vite que notre capacité à nous adapter… c’est prendre le risque de finir en figurants dans notre propre histoire !

Imaginez : une IA médicale qui diagnostique les cancers mieux que tous les médecins réunis – mais qui vous fait aussi une ordonnance en esperanto… Ou une IA éducative qui comprend chaque élève, mais fait la grève si on ne la laisse pas choisir les vacances scolaires !

Côté positif, la réglementation – si elle arrive un jour – pourrait obliger à penser l’éthique, la sécurité et l’humain dès la phase de code. Reste à espérer que les « bonnes pratiques » ne resteront pas coincées dans des comités (ou dans les spams de la Commission Européenne).

Le débat est lancé… et il va faire du bruit !

Cet appel n’enterrera sans doute pas demain la course à la superintelligence. Mais il sème une graine : peut-on confier notre avenir à des algorithmes avant d’avoir tiré les leçons du passé (pfiou, on a déjà oublié les scandales Facebook/Cambridge Analytica ?) ?

Parce qu’au fond, personne ne dit qu’il faut revenir à la lampe à huile et au pigeon voyageur… mais tous les experts s’accordent sur un point : l’innovation doit rester un gain pour la société, pas une partie de roulette russe XXL.

À retenir (et à méditer autour du café)

• La superintelligence IA – capable de surpasser l’humain dans toutes les tâches cognitives – n’est plus du domaine du mythe.
• Plus de 700 experts et personnalités, Steve Wozniak en tête, demandent un moratoire sur son développement.
• Les risques avancés vont de la simple disparition d’emplois à l’extinction de l’humanité. Oui, rien que ça !
• L’idée d’un moratoire global fait débat, mais relance la question de la régulation et de l’éthique tech.
• Le débat est plus que jamais lancé. Et vous, êtes-vous prêt.e à discuter avec (ou contre) une super IA ?

Une chose est sûre : la prochaine fois que vous direz « OK Google » ou « Dis Siri », prenez garde… un jour, c’est peut-être eux qui décideront s’ils répondent (ou s’ils refont le monde pendant qu’on a le dos tourné) !

Pour ne rien manquer sur les évolutions de l’IA et les débats qui agitent la tech, restez branchés. Prochain épisode… bientôt sur vos écrans — ou dans votre frigo, si votre smart home s’en mêle !

Source : Presse-citron