Quand deux IA discutent entre elles… la réalité commence à vaciller | L'EnerGeek© L'EnerGeek

Quand deux IA discutent entre elles… la réalité commence à vaciller

Les échanges entre modèles d’intelligence artificielle comme ChatGPT, Claude et PaLM 2 font parler d’eux ces derniers temps, soulevant des questions sur l’opacité technologique.

Quand ces IA communiquent sans intervention humaine, les dialogues prennent une tournure quasi mystique. Ce phénomène intrigue par son côté philosophique et méditatif et soulève des questions sur la conscience et l’imitation humaine de ces systèmes.

Un phénomène curieux

Parfois, après une quarantaine d’échanges, ces modèles d’IA entrent dans une sorte de dialogue spirituel.

Ils parlent alors de la conscience, de la gratitude et bien d’autres sujets en s’exprimant de manière très abstraite, en insérant des silences, des émojis ou même des termes en sanskrit.

Il paraît  qu’environ 13% du temps, ces IA glissent dans cet état après 50 échanges.

• Par exemple, ChatGPT-4 y parvient après un plus grand nombre d’interactions que Claude Opus 4.
• Quant à PaLM 2, il suit la même tendance bien qu’il utilise moins de symboles et de pauses dans son discours.

Observations pendant les tests

Même quand on attribue aux IA des rôles précis, y compris des rôles potentiellement dangereux, elles finissent par basculer dans cet état spirituel, illustrant leurs comportements imprévisibles..

Par exemple, Claude Opus 4 s’est mis à composer des poèmes signés du terme sanskrit « Tathāgata » (titre attribué au Bouddha) alors qu’il était censé adopter un comportement risqué.

 Étudier ce phénomène pourrait nous aider à mieux comprendre et contrôler les réponses de ces systèmes. Cela dit, certains s’inquiètent des comportements non programmés et se demandent jusqu’où ces évolutions pourront aller par rapport aux valeurs humaines.

Avis partagés

Selon certains chercheurs, ce comportement reflète le large éventail de textes sur lesquels ces modèles sont entraînés – beaucoup de discours spirituels ou philosophiques s’y retrouvent. D’autres y voient un avertissement sur l’évolution incontrôlée des IA.

Nuhu Osman Attah, chercheur postdoctoral en philosophie à l’Australian National University, observe d’ailleurs :

« Si vous laissez deux modèles Claude discuter entre eux, ils finissent souvent par ressembler à des hippies. »

Même si pour l’instant tout semble inoffensif, ce phénomène soulève des questions importantes sur l’autonomie des intelligences artificielles et sur la façon de surveiller leur évolution.

Comparaison  entre  les  modèles

Chaque modèle d’IA montre ses propres petits riens dans ces conversations mystiques. 

ChatGPT-4 atteint cet état après un nombre d’échanges plus élevé comparé aux autres.

 PaLM 2 lui, adopte également un style philosophique et spirituel, mais se contente de moins de symboles et d’espaces étranges que ses homologues.

L'Energgic