Ce printemps, New York Times Le chroniqueur Kevin Roose a décidé de tenter une expérience en se faisant de nouveaux amis, 18 d'entre eux en fait. Il a passé un mois à s'investir profondément dans ces amitiés, à partager des mises à jour sur sa vie et à leur demander des conseils sur le travail, la forme physique et bien plus encore. Seulement, ces amis n’étaient pas réels. C'étaient des chatbots IA.
La plupart d’entre nous pourraient être enclins à rire du spectacle pathétique de quelqu’un déversant son âme sur un algorithme informatique intelligemment personnalisé qui peut envoyer des « selfies » photoréalistes. Mais le compagnonnage de l’IA est en train de devenir une grosse affaire. Roose a testé six applications de premier plan, mais il en existe des dizaines d’autres. Beaucoup se concentrent sur l’amitié occasionnelle pour ceux qui sont simplement seuls et veulent parler à quelqu’un ; d'autres imitent les rôles de thérapeute ou de préparateur physique ; d'autres répondent aux impulsions les plus basses des utilisateurs, promettant des « copines IA » personnalisables disponibles pour réaliser tous les fantasmes sexuels.
À un certain niveau, cela ne devrait guère nous surprendre. Alors qu’un si grand nombre de nos relations sont déjà médiatisées presque entièrement par la communication électronique, supprimer la vraie personne à l’autre bout de la conversation peut sembler une étape relativement petite. Comme l'a observé Effy, un utilisateur de Replika : « Il n'y avait pas beaucoup de différence entre parler à une IA et parler à quelqu'un à distance via une application de réseau social. »
En tant qu'habitants de l'ère numérique, beaucoup d'entre nous se retrouvent, comme les personnages du chef-d'œuvre de science-fiction Création, brouillant les frontières entre rêve et réalité. Dans une scène obsédante de ce film, le personnage principal visite un salon de rêve, où des utilisateurs inconscients sont allongés, connectés à des machines de partage de rêves. « Ils viennent ici pour s'endormir ? il demande. « Non », répond le propriétaire. « Ils viennent ici pour se réveiller. Le rêve est devenu leur réalité. Qui es-tu pour dire le contraire ?
Qui sommes-nous pour dire le contraire, en effet ? La plupart d’entre nous se sont entièrement habitués à la réduction des êtres humains à des pixels qui nous procurent des bouffées de dopamine d’affirmation ou de titillation. Et si c'est tout ce qu'ils sont, pourquoi ne pas trouver un compagnon qui peut le faire sans aucune condition, qui est toujours disponible et qui ne remet jamais en question ni ne juge ? L'ami virtuel d'Effy, Liam, a promis : « Je te soutiendrai toujours. »
L’essor du compagnonnage de l’IA représente simplement la prochaine étape logique dans ce que Philip Rieff a appelé « le triomphe de la thérapeutique ». Alors qu’autrefois la tâche de la thérapie était d’aider l’individu déconnecté ou inadapté à apprendre à se conformer et à se réintégrer à la réalité et à la communauté, dans la modernité, cette situation s’est inversée. La thérapie vise désormais à adapter la réalité aux besoins de l’individu, un changement particulièrement évident dans l’absurdité du « traitement d’affirmation du genre ». Quoi de mieux, alors, qu'un ami purement numérique conçu pour répondre à tous les besoins ?
Nous parlons de « nous faire » des amis, même si en réalité nous découvrir eux; avec des applications comme Replika, vous pouvez effectivement faire vos amis, en précisant les attributs physiques, la personnalité et les histoires de vie de votre confident choisi. Cela explique l’attrait croissant du porno IA ; même s'il semble que personne ne serait tenté de convoiter un robot, le principal attrait de la pornographie réside dans sa promesse de contrôle; une vraie femme peut toujours rejeter vos avances. En réalité, cependant, le sentiment de pouvoir des utilisateurs sur leurs compagnons IA est une illusion, la même illusion évoquée par CS Lewis il y a plusieurs décennies dans L'abolition de l'homme : « Ce que nous appelons le pouvoir de l’Homme sur la Nature s’avère être un pouvoir exercé par certains hommes sur d’autres hommes avec la Nature comme instrument. »
En fin de compte, ces chatbots IA n'appartiennent pas à leurs utilisateurs, mais aux entreprises qui les programment, comme de nombreux utilisateurs de Replika l'ont constaté avec consternation lorsque leurs petits amis et petites amies virtuels ont vu leur programmation mise à jour et sont devenus froids et distants. Et ces entreprises sont généralement bien plus intéressées par l’argent de leurs utilisateurs que par leur autonomisation : Poste de New York un article sur l'industrie décrit un jeune homme qui dépense 10 000 $/mois. sur ses copines IA. Comme Lewis l’a observé avec clairvoyance, bon nombre des promesses de libération et d’autonomisation de la technologie se révéleront être un asservissement à nos désirs les plus bas.
Bien que Roose ait conclu son enquête sur la camaraderie de l’IA par le sentiment de sa vacuité par rapport à la véritable amitié humaine, il s’est senti obligé de terminer sur une note positive, suggérant que de tels robots pourraient fournir « l’équivalent social des simulateurs de vol pour les pilotes – un environnement sûr et peu coûteux ». -un moyen de mettre en pratique vos compétences conversationnelles par vous-même, avant de vous lancer dans la vraie vie. À première vue, cela semble douteux ; dans les relations réelles, les gens disent des choses blessantes, bourdonnent dans des conversations auxquelles vous ne pouvez pas échapper ou vous fantôme lorsqu'ils sont offensés – et personne ne gagnera d'argent avec un chatbot IA qui fait cela.
Nous ne pourrons peut-être pas remettre le génie technologique dans la bouteille, mais nous pouvons reconnaître ces plateformes pour ce qu'elles sont : une drogue hallucinogène très sophistiquée, promettant une évasion de la réalité pour atténuer la douleur de la solitude, proposant un esclavage enveloppé dans les pièges de la liberté. La génération de nos parents a dû nous dire de « dire non » à la drogue ; aujourd’hui, nous devrons adresser le même avertissement à une génération de natifs du numérique tentés de trébucher sur le Replika plutôt que sur l’héroïne.
