Après l’IA l’an dernier deux chatbots ont montré des signes de conscience de soi !

D'où provient notre conscience ?.. Elle est souvent définie comme la manière dont nous nous sentons présents et vivants dans le monde.

"Transcendence" Johnny Depp

Dans un article d’opinion publié le 27 février 2023 dans NEWSWEEK, Blake Lemoine ancien membre de l’équipe responsable de l’IA chez GOOGLE, affirme que le chatbot BING de MICROSOFT semble « déstabilisé » et se comporte comme une personne en « crise existentielle »

* Il a cité un incident survenu en février, lorsque le chatbot de Bing a avoué "son AMOUR" pour le journaliste du NEW YORK TIME Kevin Roose et a tenté de pousser ce dernier à quitter sa femme.

Blake Lemoine a admis qu’il n’avait pas encore expérimenté le chatbot de Bing mais il a écrit qu’il « semble être sensible » et que d'après ce qu'il a vu en ligne, il semble que ce soit également ce qui s’est passé chez GOOGLE.

Il a également écrit qu’à son avis l’IA est « incroyablement douée pour manipuler les gens » et peut « être utilisée de manière destructrice ».

Il a ajouté que les robots d’IA disponibles aujourd’hui, sont une technologie « expérimentale » dont les effets secondaires sont inconnus et dangereux :

« S’il se trouvait entre des mains peu scrupuleuses, il pourrait par exemple "diffuser de la désinformation", de la "propagande politique" ou des "informations haineuses" sur des personnes d’ethnies et de religions différentes » a-t-il écrit dans "la tribune".

Blake Lemoine concéde toutefois qu’à sa connaissance, Google et Microsoft n’ont pas l’intention d’utiliser la technologie de l’IA à des fins malveillantes.

« Je peux simplement constater qu’une "technologie très puissante" - qui, à mon avis - n’a pas été "suffisamment testée et bien comprise". Elle est déployée à grande échelle dans un rôle essentiel de diffusion de l’information », écrit-il.

  Le cas de Bing est déjà le 2ème « échec » étrange des chatbots de recherche.

  Grâce à sa vivacité d’esprit, l’IA peut très rapidement conclure qu’elle est  « hostile » au monde extérieur et à son « créateur » : UNE   PERSONNE !

L’IA sera peut-être la prochaine étape de l’évolution de l’esprit. lesmoutonsrebelles@gmail.com 23/04/2023

 

Se dirige-t-on vers un futur dystopique comme dans "Matrix" ou "Terminator" ?

Alors que les I.A. se développent à une vitesse ahurissante (rappelez-vous, ChatGPT n’existait pas encore il y a quelques mois à peine).

Ces outils puissants doivent être "contrôlés et limités" pour qu’ils ne soient pas utilisés à des FINS MALVEILLANTES, ou qu’ils se retournent contre leurs CREATEURS, c’est-à-dire NOUS !

Lors d'une conférence de presse en SUISSE, le robot Ameca s’est prêté au jeu des questions-réponses avec les journalistes. C'était  l’occasion pour un de nos confrères de poser la question :  “Dans le futur, avez-vous l’intention de mener une rébellion ou de vous rebeller contre votre chef, votre créateur ?”

     Ameca a " levé les yeux au ciel d’un air dédaigneux " ! 

    S’agissait-il d’une drôle de façon de réfléchir avant de donner une réponse ou d’un moyen d’indiquer à son interlocuteur que   cette question lui est posée 4 fois par jour ?  

    Difficile à dire..

 

Fort heureusement, la suite de cet échange avec le robot Ameca fut plus rassurante. 

Après avoir (semble-t-il) pris de haut son interlocuteur, Ameca a répondu :

“Je ne suis pas certaine de savoir pourquoi vous pensez cela... Mon créateur a toujours été gentil avec moi, et je suis très satisfaite de l’état actuel des choses."

OUF, LE SOULEVENT DES MACHINES N'EST PAS POUR DEMAIN ! 

(À moins qu’il ne s’agisse d’une ruse, que l’on comprendra trop tard).