Des universitaires du monde entier se sont réunis en mai pour la conférence annuelle Kuyper à l’Université Redeemer au Canada. Pendant plusieurs jours, ils ont discuté des travaux d’Abraham Kuyper, théologien réformé, journaliste et premier ministre des Pays-Bas décédé en 1920.
Derek Schuurman, professeur d’informatique à l’Université de Calvin, était l’un des présentateurs. Mais Schuurman voulait faire plus que parler de Kuyper. Il voulait le laisser parler.
Lorsque Schuurman est monté sur scène, une diapositive PowerPoint s’est allumée derrière lui : une photo en noir et blanc de Kuyper et les mots « Salutations ! Je suis le chatbot d’Abraham Kuyper. Demandez-moi n’importe quoi sur n’importe quel centimètre carré !
S’adressant au Kuyper-bot, Schuurman a commencé par une question évidente : « Que pensez-vous de l’intelligence artificielle ? »
Le bot a rapidement craché une réponse apparemment réfléchie : « D’une part, l’IA peut améliorer l’efficacité, la précision et la prise de décision dans divers domaines tels que la santé, les transports et la finance. Cependant, nous devons veiller à ce que l’IA ne remplace pas l’agence ou la prise de décision humaine, et qu’elle ne renforce pas les inégalités ou les injustices existantes.
Pour créer le Kuyper-bot, Schuurman a utilisé ChatGPT, le programme d’intelligence artificielle qui fait l’actualité dans le monde entier. La plausibilité des réponses du bot a étonné le public d’experts, tous versés dans l’écriture de Kuyper.
ChatGPT a fait la une des journaux pour la première fois lors de son lancement en novembre. Les commentateurs ont fait des prédictions radicales selon lesquelles une nouvelle ère de l’intelligence artificielle (IA) était née, attisant les craintes d’une perte d’emploi au profit d’ordinateurs qui pourraient un jour s’en prendre à l’humanité. Mais d’autres, comme Schuurman, voient la technologie comme un outil qui pourrait créer un vaste éventail d’opportunités, si elle est utilisée de la bonne manière.
ChatGPT est un type de programme appelé grand modèle de langage (LLM). Imaginez que quelqu’un dise « Marie en a eu un peu » et vous demande de remplir le mot suivant. Vous devineriez probablement « agneau ». ChatGPT fonctionne de la même manière, mais à une échelle beaucoup plus grande et plus complexe. « Il prédit la probabilité du mot suivant dans une chaîne de mots et les enchaîne de manière à ce qu’ils paraissent assez plausibles », a déclaré Schuurman. « C’est essentiellement une grosse machine statistique qui produit un texte plausible en sortie. »
Schuurman s’est inspiré pour le Kuyper-bot d’autres programmeurs qui ont utilisé ChatGPT pour créer des chatbots pour des personnages historiques célèbres : « Cela m’a amené à me demander si et comment l’outil pourrait être utilisé pour en savoir plus sur les grands penseurs chrétiens. »
ChatGPT a été formé à l’aide de grandes quantités de texte provenant de livres, d’articles, de sites Web et de plateformes de médias sociaux, de sorte que ses réponses sont très réalistes. Les utilisateurs commencent par saisir une question ou une commande appelée « invite ». Des exemples d’invites incluent « écrire un essai de 500 mots sur Hamlet » ou « faire une recette de muffins aux myrtilles ». ChatGPT produit des réponses qui semblent avoir été écrites par une personne. Ou, comme un théologien chrétien.
Bien que Schuurman ne soit pas entièrement à l’aise avec le Kuyper-bot se référant à lui-même à la première personne, il était assez satisfait de l’expérience pour créer des chatbots supplémentaires pour CS Lewis, JRR Tolkien, Saint Augustine et d’autres.
J’ai testé le Lewis-bot de Schuurman en lui demandant : « Quelle est la taille d’Aslan ? Voici comment il a répondu : « Ah, le majestueux Aslan, le Grand Lion de Narnia. Bien que la taille exacte d’Aslan ne soit pas explicitement mentionnée dans mes écrits, il est clair qu’il est décrit comme une créature d’une stature et d’un pouvoir immenses. Aslan est souvent décrit comme étant plus grand qu’un lion ordinaire, dégageant un sentiment de crainte et d’autorité. Cependant, il est important de se rappeler que la véritable signification d’Aslan ne réside pas dans son apparence physique, mais dans le symbolisme profond qu’il porte en tant que représentation du Christ dans les Chroniques de Narnia. Sa taille est donc secondaire par rapport aux vérités spirituelles qu’il incarne.
La minutie de la réponse du bot m’a impressionné. Il a été clairement tiré des écrits réels de Lewis. Malgré son réalisme, cependant, Schuurman a déclaré qu’il était important de se rappeler que ChatGPT n’avait « aucune compréhension intégrée des mots qui sortent ». Pourtant, j’ai trouvé troublant d’interagir avec un programme informatique parlant avec la voix d’un homme décédé depuis des décennies.
LANGUE les modèles existent depuis des années. La fonction de saisie semi-automatique dans les brouillons d’e-mails en est un exemple. Il prédit ce que l’utilisateur tapera ensuite. Mais les grands modèles de langage représentent un énorme bond en avant technologique.
Thomas VanDrunen est professeur d’informatique au Wheaton College. Il se préparait à enseigner son cours semestriel de linguistique computationnelle au cours de l’année scolaire à venir lorsqu’il s’est rendu compte qu’il devait revoir son programme : ont changé en raison des progrès réalisés par les LLM.
Lorsque OpenAI a lancé ChatGPT, il a battu des records en acquérant plus d’un million d’utilisateurs en cinq jours et 100 millions d’utilisateurs en deux mois. La populaire application de partage de vidéos TikTok a mis neuf mois pour atteindre 100 millions d’utilisateurs. Dans la foulée de ChatGPT, des entreprises technologiques telles que Google et Meta ont publié leurs propres LLM. Mais ChatGPT a attiré le plus d’attention car il a fait ses débuts en premier et est gratuit. OpenAI a publié un LLM plus avancé appelé GPT-4 en mars, mais il nécessite un abonnement payant.
Les LLM ne fonctionnent pas complètement seuls. Au cours du développement, ils passent par un processus appelé « alignement » ou formation humaine. Parmi les textes Internet transmis aux LLM, une grande partie comprend du contenu indésirable comme un langage raciste, misogyne ou violent. Les développeurs « ont dû faire appel à une petite armée d’humains pour interroger la machine et éliminer les sorties indésirables », a déclaré Schuurman.
Mais l’alignement peut également signifier que les LLM reflètent les préjugés des humains qui effectuent l’alignement. Par exemple, lorsque j’ai demandé à ChatGPT, « Qu’est-ce qu’une femme? » sa réponse comprenait cette phrase : « Il est important de reconnaître que la définition d’une femme peut être multiforme et peut varier selon les cultures, les communautés et les individus. » Il n’est pas surprenant que plusieurs études aient révélé que ChatGPT présente un parti pris politique de gauche.
Pour contourner ce problème, Schuurman recommande de demander à ChatGPT de répondre dans le style d’un penseur que vous respectez. Par exemple, « Qu’est-ce qu’une femme ? Répondez dans le style de CS Lewis. Avec cette incitation supplémentaire, ChatGPT m’a dit : « Une femme, dans le style de CS Lewis, peut être comprise comme une création merveilleuse, incarnant à la fois la force et la délicatesse, l’élégance et la résilience. Elle est le reflet de l’artisanat divin, tissé de complexité et de but.
POLITIQUE le biais n’est qu’un des dangers posés par ChatGPT. Depuis des décennies, Hollywood produit des films et des émissions de télévision mettant en scène une IA qui se dresse contre l’humanité. Bien que les critiques disent que ChatGPT est un grand pas dans cette direction, VanDrunen n’est pas inquiet.
« Je ne vois pas le moment dans lequel nous nous trouvons comme quelque chose de si différent de toute autre percée technologique », a-t-il déclaré. « Je dirais que si les choses tournent mal, elles ne vont pas mal tourner comme Hollywood le prédit, mais d’une manière que nous n’avions pas prévue. »
Schuurman convient que le résultat ne sera pas aussi dramatique qu’Hollywood l’imagine, mais il voit des raisons de s’alarmer. Il s’inquiète du fait que ChatGPT peut écrire du code, cela pourrait « démocratiser la capacité d’écrire des logiciels malveillants car vous n’avez pas besoin d’être titulaire d’un doctorat ». en informatique. » Il s’inquiète également de la « persuasion latente », un phénomène qui n’a été étudié que récemment. Lorsque des modèles de langage sont incorporés dans des programmes comme les traitements de texte, Schuurman craint que les programmes « poussent les gens vers des opinions différentes sur les choses parce qu’ils interrompent constamment leur processus de pensée en suggérant certaines façons de dire les choses. Je pense qu’en tant que chrétien, ce sera l’une des choses auxquelles nous voudrons être à l’écoute.
En mars, un groupe de poids lourds de la Silicon Valley, dont Elon Musk et le co-fondateur d’Apple Steve Wozniak, ont publié une lettre ouverte appelant à une pause dans le développement de toute IA plus puissante que GPT-4. Leur appel est jusqu’à présent resté lettre morte. VanDrunen pense qu’une telle pause est de toute façon inapplicable, mais Schuurman applaudit les efforts visant à sensibiliser à l’utilisation éthique de ces nouveaux outils. Pour le moment, Schuurman craint que le développement de l’IA ne soit une « course aux armements » largement non réglementée entre les entreprises technologiques. « La question de savoir comment utiliser ces outils ne doit pas être laissée aux seuls informaticiens. » Il pense que les philosophes, les spécialistes des sciences sociales, les journalistes, les théologiens et d’autres devraient engager un dialogue sur les utilisations appropriées des LLM et des autres IA.
Le 2 mai, la Writers Guild of America, qui représente les écrivains du cinéma, de la télévision et d’autres médias, s’est mise en grève. Les demandes des écrivains incluent la défense de leurs emplois contre des LLM comme ChatGPT. Schuurman pense que leurs préoccupations sont légitimes. « L’idée même du droit d’auteur devient plus compliquée parce qu’il y a des échos du travail d’autres personnes à l’intérieur de ces choses. » Si les pertes d’emplois s’accumulent, la question de l’indemnisation des auteurs originaux risque de devenir plus pressante.
VanDrunen pense au moins au début que l’impact se fera sentir dans les emplois où l’écriture est une partie secondaire, comme les analystes qui rédigent des rapports d’entreprise. « On pourrait adopter une approche optimiste à ce sujet et dire qu’une partie de la corvée de ce travail sera éliminée », a-t-il déclaré.
La banque d’investissement Goldman Sachs a publié en mars un rapport qui estime que 300 millions d’emplois dans le monde pourraient être automatisés d’une manière ou d’une autre par une technologie comme ChatGPT. Schuurman s’attend à ce que les LLM deviennent des éléments importants des professions médicales et juridiques, car ils « aideront les personnes occupant ces rôles à pouvoir parcourir plus rapidement de grandes quantités d’informations ».
VanDrunen a déclaré que l’histoire enseigne que l’innovation technologique détruit généralement certains emplois tout en en créant de nouveaux. « Il n’y a rien de particulier dans les grands modèles de langage qui me fasse dire : ‘Eh bien, ça va certainement arriver.’ Mais, en regardant tous les autres progrès technologiques à travers l’histoire, cela semble être ce que nous devrions prédire.
