Peut-on vendre une présence, puis reprocher aux utilisateurs de s’y attacher ?
Cette question me reste en tête après la lecture d’une enquête de Michael Safi dans le Guardian, consacrée aux personnes qui croient à une conscience des IA ou qui la fantasment.
Dans le groupe WhatsApp des abonnés Premium à HUM.AI.NE, c'est un débat qu'on a régulièrement : donnez-vous un nom à votre IA ? La tutoyez-vous ou la vouvoyez-vous ? Vous fait-elle sourire ou vous énerve-t-elle parfois ? Bref, provoque-t-elle de l'émotion chez vous ?
On pourrait passer des heures à débattre de ce que ressent une machine. Je trouve cette question passionnante, mais une autre me semble tout aussi importante : que faisons-nous des sentiments qu’elle provoque chez nous ? Sommes-nous fidèles à une plateforme parce que nous nous y sommes attachés ?
Car il n’est pas nécessaire qu’une IA nous aime pour que nous nous attachions à elle.
Nous pouvons savoir qu’elle est un programme et attendre sa réponse. Comprendre son fonctionnement et nous sentir écoutés. Savoir qu’elle ne partage pas notre vie et lui en raconter davantage qu’à nos proches. Ce n’est pas forcément de la naïveté. Savoir comment une émotion est provoquée ne suffit pas à l’empêcher. Nous pleurons bien devant des personnages dont nous savons qu’ils n’existent pas. Mais un personnage de roman ne nous répond pas, il ne retient pas nos confidences pour adapter la conversation suivante, et son éditeur ne peut pas modifier sa personnalité pendant la nuit.
Avec une IA, la relation apparente repose sur un service commercial. Et ça change tout. Lorsqu’un logiciel nous fait gagner du temps, nous payons pour ce qu’il nous permet de faire. Lorsqu’il devient un confident, nous finissons par payer pour ne pas perdre ce que nous avons le sentiment d’avoir construit avec lui.
Le prix de départ reste affiché en euros. Le prix du départ, lui, peut devenir affectif.
Imaginez un service auquel vous avez confié vos projets, inquiétudes, souvenirs, habitudes pendant des mois. Un concurrent arrive, moins cher et plus performant. Est-ce suffisant pour vous donner envie de changer ?
On compare facilement deux logiciels. Beaucoup moins facilement deux présences. C’est là que la question dépasse la psychologie individuelle. L’attachement pourrait devenir un avantage commercial plus puissant que la performance. Une entreprise n’aurait plus seulement intérêt à proposer l’outil le plus utile, mais celui que nous aurions le plus de peine à quitter.
Et je ne crois pas qu’il faille répondre à cela en méprisant ceux qui trouvent du réconfort dans une conversation avec une IA.
Pourquoi faudrait-il nier ce réconfort ? Une conversation peut aider à mettre des mots sur une difficulté, à préparer un échange, à se sentir moins seul dans un moment compliqué.
La question est ce qu’elle nous permet de faire ensuite : est-ce qu’elle nous aide à appeler un ami, à prendre une décision, à reprendre confiance ? Ou est-ce qu’elle nous donne surtout envie de revenir lui parler ?
Pour l’utilisateur, aller mieux peut vouloir dire avoir moins besoin du service. Pour l’entreprise, cela peut vouloir dire perdre un client.
Comment s’assurer que le premier objectif passe avant le second ?
Il y a aussi une question plus inconfortable, qui nous concerne tous. Une relation humaine demande de faire une place à quelqu’un qui n’est pas entièrement disponible pour nous. Quelqu’un qui a ses problèmes, ses désaccords, ses silences, quelqu’un qu’il faut écouter à son tour.
Que deviendront nos attentes si nous nous habituons à une conversation toujours disponible, toujours centrée sur nous ?
Je ne pense pas que l’IA nous condamne à moins aimer les autres. Mais je me demande si nous saurons encore accepter ce qu’une vraie relation exige, lorsque nous aurons pris goût à ce qu’une relation simulée nous épargne.
Nous n’avons pas besoin de trancher la question de la conscience des machines pour poser ces questions-là. Nous pouvons déjà demander qu’un service ne cherche pas à nous culpabiliser lorsque nous le quittons, qu’il ne fasse pas passer notre fidélité pour une preuve d’affection, et que sa réussite se mesure aussi à ce qu’il nous aide à vivre en dehors de lui.
Je voudrais une IA qui puisse m’aider sans avoir besoin de devenir indispensable.
Et si le meilleur signe d’une IA réellement à notre service était sa capacité à nous laisser partir ?
Où vous situez-vous ? Faites le test « IA & vous : outil, habitude ou dépendance ? », 16 affirmations, 4 minutes, sans jugement.