les versions IA de proches décédés pourraient constituer une menace sérieuse pour la santé mentale

Nous vivons tous une perte et un chagrin..

Imaginez cependant que vous n’ayez pas besoin de dire au revoir à vos proches, que vous pouvez les recréer virtuellement afin de pouvoir avoir des conversations et découvrir ce qu’ils ressentent.

Pour le quarantième anniversaire de Kim Kardashian, son mari d'alors, Kanye West, lui a offert un hologramme de son père décédé, Robert Kardashian. Kim Kardashian aurait réagi avec incrédulité et joie à l'apparition virtuelle de son père lors de sa fête d'anniversaire. Pouvoir voir un être cher décédé depuis longtemps, bouger et parler à nouveau pourrait apporter du réconfort à ceux qui restent.

Après tout, ressusciter un être cher décédé peut sembler miraculeux – et peut-être plus qu’un peu effrayant..

Mais quel est l’impact sur notre santé ?

Les fantômes de l’IA sont-ils une aide ou un obstacle au processus de deuil ?

En tant que psychothérapeute recherchant comment la technologie de l’IA peut être utilisée pour améliorer les interventions thérapeutiques, je suis intrigué par l’avènement des "robots fantômes".

Mais je suis également très préoccupé par les effets potentiels de cette technologie sur la santé mentale de ceux qui l’utilisent, en particulier ceux en deuil. Ressusciter des morts en tant qu'avatars a le potentiel de causer plus de mal que de bien, perpétuant encore plus de confusion, de stress, de dépression, de paranoïa et, dans certains cas, de psychose..

Grâce à la technologie deep fake, les logiciels d’IA peuvent créer une "représentation virtuelle interactive d’une personne décédée", en utilisant son contenu numérique tel que des photographies, des e-mails et des vidéos.

Certaines de ces créations n’étaient que des thèmes de science-fiction il y a seulement quelques années, mais elles constituent désormais une réalité scientifique.

Aide ou obstacle ?

Les fantômes numériques pourraient apporter un réconfort aux personnes endeuillées en les aidant à renouer avec leurs proches perdus.

Ils pourraient offrir à l'utilisateur l'occasion de dire certaines choses ou de poser des questions qu'il n'aurait jamais eu l'occasion de poser du vivant de la personne aujourd'hui décédée.

 

Mais la ressemblance étrange des robots fantômes avec un être cher perdu n’est peut-être pas aussi positive qu’il y paraît..

Les recherches suggèrent que les robots de la mort ne devraient être utilisés que comme une aide temporaire au deuil afin d'éviter une dépendance émotionnelle potentiellement nocive à l'égard de la technologie.

Le deuil prend du temps et plusieurs étapes peuvent se dérouler sur plusieurs années.

Les fantômes de l’IA pourraient nuire à la santé mentale des personnes en interférant avec le processus de deuil.

Lorsqu’elles viennent de vivre un deuil, les personnes en deuil peuvent penser fréquemment à leur proche décédé. Ils peuvent se remémorer de vieux souvenirs et il est assez courant qu'une personne en deuil rêve plus intensément de son être cher perdu.

Le psychanalyste Sigmund Freud s'intéressait à la façon dont les humains réagissent à l'expérience de la perte. Il a souligné les difficultés potentielles supplémentaires pour ceux qui sont en deuil s’il y a des aspects négatifs autour d’un décès.

Par exemple, si une personne avait des sentiments ambivalents envers quelqu’un et qu’elle mourait, elle pourrait se retrouver avec un "sentiment de culpabilité". Ou si une personne meurt dans des circonstances horribles, comme un meurtre, une personne en deuil pourrait avoir plus de mal à l'accepter.

Freud a qualifié cela de « mélancolie », mais on peut aussi parler de « deuil compliqué ».

Dans certains cas extrêmes, une personne peut avoir des apparitions et des hallucinations telles qu’elle voit la personne décédée et commence à croire qu’elle est vivante.

Les robots fantômes IA pourraient traumatiser davantage une personne confrontée à un deuil compliqué et exacerber les problèmes associés tels que les hallucinations.

 

Horreur de chatbot

Il existe également des risques que ces robots fantômes disent des choses nuisibles ou donnent de mauvais conseils à une personne en deuil. Des logiciels génératifs similaires tels que les chatbots ChatGPT sont déjà largement critiqués pour avoir donné des "informations erronées" aux utilisateurs.

Imaginez si la technologie de l’IA devenait "malveillante" et commençait à faire des remarques inappropriées à l’utilisateur

– une situation vécue par le journaliste Kevin Roose en 2023..

lorsqu’un chatbot Bing a tenté de le convaincre de quitter sa femme. Il serait très blessant si un fils ou une fille convoquait un père décédé comme un fantôme d’IA pour entendre des commentaires, selon lesquels il n’était pas aimé ou n’était pas "le préféré de son père"..

Ou, dans un scénario plus extrême, si le robot fantôme suggérait à l'utilisateur de le rejoindre dans la mort ou de tuer ou de blesser quelqu'un. Cela peut ressembler à l’intrigue d’un film d’horreur, mais ce n’est pas si farfelu.

En 2023, le parti travailliste britannique a présenté une loi visant à empêcher la formation d’IA pour inciter à la violence.

Il s’agissait d’une réponse à la tentative d’assassinat de la reine plus tôt dans l’année par un homme encouragé par sa petite amie chatbot, avec qui il entretenait une relation « émotionnelle et sexuelle ».

Les créateurs de ChatGPT reconnaissent actuellement que le logiciel commet des erreurs et n'est toujours pas totalement fiable car il fabrique des informations.

Qui sait comment les textes, emails ou vidéos d’une personne seront interprétés et quel contenu sera généré par cette technologie d’IA ?

Quoi qu’il en soit, il semble que, quelle que soit l’évolution de cette technologie, une surveillance et une "supervision humaine" importantes seront nécessaires.

Oublier est sain..

Cette dernière technologie en dit long sur notre culture numérique aux possibilités infinies et sans limites.

Les données peuvent être stockées indéfiniment sur le cloud et tout est récupérable et rien n’est réellement supprimé ou détruit. L’oubli est un élément important d’un deuil sain, mais pour oublier, les gens devront trouver de nouvelles façons significatives de se souvenir de la personne décédée.

Les anniversaires jouent un rôle clé en aidant ceux qui sont en deuil à se souvenir non seulement des "êtres chers perdus", mais ils sont également des occasions de représenter la perte d'une nouvelle manière.

Les rituels et les symboles peuvent marquer la fin de quelque chose qui peut permettre aux humains de bien se souvenir pour bien oublier.

theconversation.com Publié : 14 mars 2024, 14h28 CET