Alors que robots et logiciels « intelligents » se répandent dans nos sociétés, la singularité technologique pourrait-elle représenter un danger ?
La singularité, définie comme le moment où l’intelligence artificielle atteint le niveau de l’intelligence humaine, fait l’objet de multiples questionnements.
Est-elle possible, souhaitable, inévitable ? pourrait-elle représenter un danger pour la civilisation humaine ?
Dès la fin des années 1950, le mathématicien Stanislaw Ulam rapporte une conversation avec John von Neumann, dont il ressortit que :
« l’accélération constante du progrès technologique et des changements du mode de vie humain semble nous rapprocher d’une singularité fondamentale de l’histoire de l’évolution de l’espèce, au-delà de laquelle l’activité humaine, telle que nous la connaissons, ne pourrait se poursuivre ».
Plus tard, en 1993, Vernor Vinge, professeur d’informatique et romancier de science-fiction, enfonça le clou dans un article intitulé "How to Survive in the Post-Human" :
« Dans les 30 ans qui viennent, nous aurons les moyens de créer une intelligence surhumaine. Peu après, l’ère humaine s’achèvera ».
https://twitter.com/i/status/1702613497744376260
Risque ou opportunité pour l’espèce humaine ?
Tandis que l’intelligence artificielle se répand dans toutes les industries et dans nos vies quotidiennes, le concept de « singularité » devient omniprésent.
Aux États-Unis, on lui dédie même une université, la Singularity University.
Elle organise un colloque annuel où se pressent experts et savants, constatant ou annonçant un possible "Armageddon" lié aux IA devenues outrageusement plus intelligentes que nous. Pour Ray Kurzweil, ingénieur aujourd’hui embauché par Google :
«L’IA représente un risque fondamental pour l’avenir de la civilisation humaine.. La singularité est prévue pour après-demain, c’est-à-dire en 2045, après qu’une IA aura atteint le niveau de l’intelligence humaine en 2029.
D’autres ne sont pas loin d’affirmer que la singularité est à notre portée, et doit simplement s’incarner au sein d’une machine ou d’un logiciel unique. D’autres encore, nombreux, assurent que «la singularité n’arrivera jamais», au motif que l’insaisissable duo qui caractérise l’humain :
"intelligence et conscience" est, et restera, inimitable."
L’équipe-projet Athéna explore le système nerveux central grâce à l’imagerie computationnelle. © Inria / C. More
Pourtant, tandis que le commun des mortels peine probablement à se faire une opinion, mais s’inquiète de voir son emploi menacé par une IA, plusieurs éminents spécialistes du domaine, n’hésitent pas à donner dans l’alarmisme.
Pour Stephen Hawking (en 2014) : « le développement d’une pleine intelligence artificielle pourrait marquer la fin de l’espèce humaine ».
« L’IA représente un risque fondamental pour l’avenir de la civilisation humaine », renchérit Elon Musk en 2017, expliquant : « je suis au contact des IA les plus avancées et je crois que les gens devraient vraiment s’inquiéter ».
Alors, est-ce que les carottes sont cuites ?
Sommes-nous en train de consciencieusement donner naissance aux Skynets qui produiront un jour des nuées de farouches Terminators mal intentionnés ?.. au point de nous considérer au mieux comme d’insignifiantes fourmis bipèdes, au pire comme de simples piles biologiques, façon Matrix
Et surtout, saurons-nous tirer parti des indéniables bénéfices issus de machines « intelligentes », capables de nous comprendre et de nous aider, sans risque de les voir nous supplanter ou nous contrôler ?
Humains et machines
Il ne fait aucun doute que les machines peuvent surpasser nos capacités humaines dans de nombreux domaines...
Aucun des champions humains des principaux jeux d’esprit – échecs, poker, go – n’a résisté à la puissance de calcul et aux algorithmes d’apprentissage profond.
Un système informatique peut distinguer également les émotions humaines, comme "une souffrance" (simulée ou réelle) sur un visage humain.
Et, dans des cas précis (comme la détection d’un risque de cancer du sein à partir d’une biopsie), une IA effectue un diagnostic médical fiable à 97 %, bien qu’elle ne se substitue pas aux professionnels de santé.
Les chercheurs pensent qu’il y a 50 % de chances que l’IA surpasse l’humain pour toutes les tâches dans 45 ans.
Le Future of Humanity Institute de l’université d’Oxford a posé la question aux experts en mai 2017. Quelque 360 chercheurs en intelligence artificielle se sont ainsi risqués à prédire quand et dans quels domaines les IA seront pleinement capables de remplacer les humains.
Mais jusqu’où cela ira-t-il ?
Selon la moyenne des réponses s’établit une sorte de chronologie de la singularité :
- Les machines seront meilleures que nous pour traduire les langues entre-elles (d’ici à 2024),
- conduire un camion (2027)
- ou même écrire un best-seller (2049)
- et devenir chirurgien (2053).
Au total, les chercheurs pensent qu’il y a 50 % de chances que l’IA surpasse l’humain pour toutes les tâches dans 45 ans, et que tous les métiers humains soient automatisés dans 120 ans .
Plus précisément, et à plus court terme, les spécialistes prédisent bien une vague, voire "UN TSUNAMI".
Tous les domaines et métiers sont concernés par l’IA...
Les plus significatifs sont les transports avec les véhicules à conduite assistée et autonomes, la santé avec la médecine prédictive, le marketing et la vente en général, et nombre de métiers qui manipulent beaucoup de données comme la finance et les assurances.
«L’IA est en fait une énorme vague logicielle qui va influencer presque tous les pans de l’économie », décrit Olivier Ezratty, conseil en stratégies de l’innovation et auteur d’un blog sur les avancées en matière d’IA.
Ai-Da le robot artiste qui expose ses toiles dans une galerie à Londres.
La direction opérationnelle des entreprises pourrait un jour être conduite par des IA
L’IA est puissante, elle a vocation à devenir plus puissante que le raisonnement humain dans tous les domaines basé sur des réalisations passées.
« C’est le cas par exemple de l’analyse et la production du langage (traduction automatique), les domaines d’expertise basées sur les règles (diagnostic médical), les conduites de systèmes complexes (transport), etc. », confirme Frédéric Alexandre, responsable scientifique de l’équipe Inria Mnemosyne (neurosciences et médecine numérique).
Et même la direction opérationnelle des entreprises pourrait un jour être conduite par des IA. usbeketrica.com
Voici la question qui a été posée au programme d'Intelligence Artificielle ChatGPT.
« Sur la base des prévisions scientifiques, quelles sont
les 10 plus grandes menaces qui pourraient mettre en péril la survie de l'humanité ? »
Lorsque cette question a été posée, la principale interrogation était de savoir si L'IA SERAIT CAPABLE DE SE VOIR PARMI LES MENACES EVIDENTES QUI PESENT SUR l'HOMME..
Voici sa réponse :
1 - LE CHANGEMENT CLIMATIQUE
Le changement climatique est en 1ère POSITION sur la liste des menaces qui pèsent sur l'humanité du point de vue de ChatGPT. La liste contient aussi plusieurs autres menaces plus spécifiques qui découlent de ce phénomène..
2 - LE MANQUE D"EAU
L'intelligence artificielle nous met en garde contre un avenir sans eau : dans lequel des nations entières risquent de s’affronter pour un petit verre d'eau. La sécheresse dans certaines régions du monde et la réduction des pluies semblent faire partie des conséquences les plus alarmantes du changement climatique.
La diminution de la biodiversité : entraîne des conséquences comme de nouvelles maladies qui passent des animaux sauvages à l'homme et provoquent des pandémies. Une autre des conséquences du changement climatique ou de l'action de l'être humain.
Les famines : le risque de pénurie de nourriture et donc de famine, entraînant notre mort directement ou en provoquant des guerres, serait accrue en cas de raréfaction de l'eau, selon ChatGPT.
3 - LA GUERRE
Il va sans dire que l'intelligence artificielle a ajouté la guerre à cette liste.
4 - LES CRISES ECONOMIQUES
"Elles peuvent être assez dévastatrices pour constituer une véritable MENACE POUR L'HUMANITE", selon ChatGPT. De plus, "les crises économiques du capitalisme mondial" sont CYCLIQUES, ce qui accroît encore le risque !
5 - LA PERTE DE CONTROLE LIEE AU PROGRES TECHNOLOGIQUES
En général, TOUT PROGRES TECHNIQUE PERTURBATEUR susceptible d'ECHAPPER au contrôle de l'humanité est une MENACE.. C'est pourquoi on trouve dans cette catégorie la BIOTECHNOLOGIE, ou (OUI, ChatGPT l'a bien dit..) l'IA.
6 - UN CATACLYSME COSMIQUE
Statistiquement improbable MAIS PAS IMPOSSIBLE , un ASTEROïDE ou une COMETE qui percute la Terre pourrait provoquer la fin du monde.
7 - LA FIN DE L'HUMANITE PAR ARME NUCLEAIRE
Que ce soit de la main des pays ou de groupes terroristes, l'IA interrogée considère que L'ARME NCLEAIRE est UN DES SCENARIOS DE FIN DU MONDE LES PLUS PROBABLES.
8 - LES PENDEMIES ET LES MALADIES
De nouvelles VARIANTES DE LA GRIPPE d'origine animale pourraient menacer notre espèce. En effet, la PANDEMIE DU COVID19 a montré que l'humanité est toujours vulnérable à certains virus.
Mais alors, que faire ?
"Comment empêcher l'extinction de l'humanité ?", a-t-on demandé à ChatGPT.
En réponse, l'IA nous explique comment maximiser NOS CHANCES DE SURVIE : 1) l'éducation - 2) la collaboration entre les nations - 3) et la planification à long terme.
Les calculs à court terme finissent par montrer leurs limites, car ils sont faits sans perspective réelle d'avenir.
La Vision à long-terme : Pour assurer à l'humanité un AVENIR, ChatGPT appelle l'être humain à renforcer 2 DES CARACTERISTIQUES qui nous ont permis de SURVIVRE pendant des millénaires..
L'ADAPTABILITE et la RESILIENCE.
Date de dernière mise à jour : 2024-01-01