The Prague Post - Technologies apocalyptiques: l'IA pourrait-elle tous nous tuer ?

- Quel est le pire des scénarios? -

En 2023, des centaines d'experts de l'intelligence artificielle et de responsables du secteur, dont les dirigeants des principaux laboratoires de recherche américains, ont signé une "déclaration sur le risque d'extinction lié à l'IA", appelant à traiter ce sujet aussi sérieusement que les pandémies ou les armes nucléaires.

Si une future IA, devenue incontrôlable, estime que les humains entravent ses objectifs, elle pourrait utiliser des robots pour "synthétiser et diffuser de nouveaux agents pathogènes", a déclaré Stuart Russell, professeur d'informatique à l'Université de Californie, à Berkeley.

Ou elle pourrait "convaincre des personnes de déclencher une guerre nucléaire, notamment en piratant les systèmes d'alerte précoce", a expliqué à l'AFP ce spécialiste éminent dans les débats sur la sécurité de l'IA.

Selon lui, de telles craintes ne concernent pas les systèmes actuels. Mais à mesure que la technologie progresse, elle pourrait mener des actions létales, allant au-delà de notre compréhension, comme retirer l'oxygène de l'atmosphère. "Nous sommes moins intelligents qu'une IA superintelligente", a-t-il argué.

Le danger immédiat, selon lui, ne vient toutefois pas de là: "dans l'année ou les deux années à venir, je pense que le risque le plus élevé vient d'un mauvais usage par des humains", par exemple pour une attaque terroriste.

- Pourquoi ne pas arrêter le développement? -

"Les enjeux sont bien compris", a écrit cette semaine sur le réseau social X un chercheur de 27 ans, Jacob Coxon, en annonçant sa démission de la start-up américaine Anthropic.

Mais les laboratoires "sont enfermés dans une course pour être les premiers", a-t-il déploré, expliquant qu'Anthropic "croit que personne d'autre n'agira de manière responsable, donc elle doit le faire elle-même".

L'entreprise a, cette année, supprimé de sa charte de sécurité un engagement à stopper le développement de ses modèles d'IA si elle n'arrivait pas à en contrôler les risques.

Anthropic a fait valoir que si elle suspendait ses travaux, des concurrents moins prudents s'imposeraient dans le secteur.

"Les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie", a averti Jacob Coxon, qui auparavant travaillait chez OpenAI, le créateur de ChatGPT.

Il a accusé les deux entreprises de "jouer avec nos vies", en s'efforçant de développer des modèles d'IA capables de s'auto-améliorer.

Les craintes face à une IA incontrôlée se sont accrues après qu'une technologie d'OpenAI, opérant hors de toute supervision humaine, a piraté Hugging Face, un dépôt de modèles d'IA.

"Nous croyons vraiment que l'IA pourrait tuer tous les humains!", a renchéri sur X Evan Hubinger, responsable de la sécurité chez Anthropic.

- Ralentir avant de perdre le contrôle? -

"La situation est encore contrôlable et peut être gérée", a pour sa part déclaré à l'AFP Hussein Abbass, professeur d'informatique à l'université de Nouvelle-Galles du Sud (UNSW) de Canberra.

Mais les gouvernements ne peuvent rester les bras croisés en matière de régulation, a-t-il ajouté, recommandant une approche "agile" à mesure que le développement de l'IA s'accélère.

En juillet, plus de 1.000 employés du secteur, dont le PDG d'Anthropic, ont appelé Washington à soutenir un ralentissement coordonné du développement des systèmes d'IA les plus avancés.

Anthropic et OpenAI devraient entrer en Bourse prochainement.

Pour certains, les alertes anxiogènes donnent à l'IA une apparence de puissance, qui incite à investir dans le secteur.

Selon d'autres, elles détournent l'attention de problèmes plus urgents induits par l'IA, qu'il s'agisse de suppressions d'emplois ou de machines discriminant les minorités.

- Que faut-il pour réglementer? -

Jusqu'ici, les États-Unis se sont fermement opposés à une régulation mondiale, qui pourrait décourager l'innovation.

Mais les capacités de piratage des modèles les plus avancés d'IA ont fait réfléchir Washington, les dernières versions d'Anthropic et d'OpenAI ayant été retardées pour des raisons de sécurité nationale.

Toutefois, "nous ne voulons pas les brider au point de nous retrouver soudain derrière la Chine", a déclaré le président Donald Trump.

"Il faudra peut-être une catastrophe de l'ampleur de Tchernobyl pour que les gouvernements se décident à agir", a regretté Stuart Russell, exhortant à créer des licences pour l'IA, comme pour l'aviation ou la médecine.

burs-kaf/lga/fpp/am

U.Ptacek--TPP