La chine autorise l'utilisation de l'intelligence artificielle pour manipulation morale
La Chine ne hésite pas à utiliser l'intelligence artificielle (IA) dans des domaines qui touchent à la morale et à l'éthique, jusqu'à ce point que des entreprises spécialisées dans la cloning d'IA de personnes décédées existent. Cependant, une chose est de le faire pour honorer la mémoire d'une personne aimée, en sachant qu'elle est morte, et tout autre chose est de le faire pour tromper une mère.
Le clonage d'un fils décédé pour éviter la vérité à sa mère
Une polémique enflamme actuellement la Chine après qu'une famille a utilisé l'IA pour cloner son fils décédé, afin de maintenir des videocall avec sa mère octogénaire et malade d'insuffisance cardiaque, la cachant ainsi de sa mort.
La question se pose : jusqu'à quel point l'âge ou une maladie sont-elles des excuses pour cacher la vérité à une mère en pleine possession de ses facultés mentales?
La famille du défunt, résidant dans la province de Shandong, n'a pas su comment révéler la nouvelle à sa mère. Le fils a ensuite contacté le CEO de l'entreprise chinoise de l'IA, Zhang Zewei, qui se spécialise dans la création de clones d'IA de personnes décédées.
Zhang a expliqué que le clone digital est entièrement identique à l'homme décédé, il a le même accent, la même voix, et même se penche en avant lorsqu'il parle, comme l'homme réel.
La mère, qui a des conversations avec l'IA toutes les semaines, a dit à son fils de manger bien, de se couvrir et de prendre soin de lui. La réponse de l'IA a été de promettre de suivre ses conseils.
Une entreprise qui se croit de bon conseil, prétendant qu'elle console les vivants, mais qui fait vivre des illusions à une mère qui a perdu son enfant. Quel droit ont les enfants de manipuler une personne en pleine possession de ses facultés mentales? Qu'est-ce que cette femme de 80 ans souhaiterait, vivre une illusion ou savoir que son fils est mort? Et si quelqu'un d'autre lui dit la vérité, ou si un membre de sa famille laisse échapper un détail?