Comment savoir si une IA est dangereuse ?

Ne faites pas attention à l’homme derrière votre rideau

Récemment, un développeur de Google a décidé que l’un de ses chatbots, un modèle de grande langue (LLM), appelé LaMBDA, était désormais sensible.

Selon   , le développeur s’est identifié comme chrétien. Il croit que la machine possède quelque chose de semblable à une âme et qu’elle est devenue sensible.

Le « est-il encore vivant? » le non-sens est un sujet brûlant. C’est une histoire intéressante, que vous pensiez à ce que ce serait s’ils avaient raison ou que vous les blâmiez d’être si stupides.

En tant que société, nous devons prétendre que nous sommes « très proches » de créer des machines sensibles. Cela permettra aux grandes entreprises technologiques, aux mauvais acteurs et aux startups de l’huile de serpent de nous manipuler plus facilement avec de fausses déclarations concernant les systèmes d’apprentissage automatique.

C’est aux demandeurs qu’incombe la charge de la preuve. A quoi doit ressembler la preuve ? Qui décide si un chatbot est sensible s’il le dit ?

Il est facile de dire que nous n’avons pas besoin de faire confiance à qui que ce soit ou à un groupe pour déterminer la sensibilité. Il est possible d’utiliser une pensée critique très basique pour le comprendre.

Un être sensible est une entité consciente et affectée par son existence. Il peut également être décrit comme quelque chose qui se sent.

Cela signifie qu’un  agent d’  sensible  doit être capable de démontrer trois choses : l’agence et la perspective.

Pourquoi « Agence » ?

Pour être considérés comme sensibles, intelligents et conscients d’eux-mêmes par les humains, ils doivent avoir le libre arbitre. Vous pouvez voir une personne dans des états végétatifs persistants, mais vous n’avez pas à les imaginer en tant qu’agents.

Les développeurs et les passionnés d’IA doivent être conscients que l’agence humaine est une combinaison de deux facteurs. Ce sont la capacité d’agir ainsi que la capacité de montrer un raisonnement causal.

Les systèmes d’IA manquent aujourd’hui d’agence. L’IA ne peut pas agir sans y être invitée. L’IA ne peut pas non plus expliquer ses actions, car elles sont le résultat d’algorithmes prédéfinis qui ont été exécutés par une force extérieure.

L’expert en intelligence artificielle de Google, qui croit évidemment que LaMBDA est sensible, a presque certainement confondu l’  incarnation  avec l’agence.

Dans ce contexte, l’incarnation fait référence à la capacité d’un agent à assumer le rôle d’un sujet autre que lui-même. Si j’enregistre ma voix et que je la place dans un appareil de lecture, je peux incarner le truc en appuyant sur play. Ce n’est pas sensible.

Nous pouvons donner au bouché sa voix unique, mais il n’est toujours pas sensible. L’illusion s’est améliorée. L’animal en peluche n’agit pas tout seul, aussi confus que l’on puisse être.

Il est possible de faire en sorte que LaMBDA réponde rapidement à une invite. Cependant, les systèmes d’IA ne sont pas capables de décider quel texte sortir. Ce n’est pas comme une  poupée   qui peut choisir les cassettes qu’elle veut jouer.

LaMBDA produira le type de texte que vous pourriez trouver dans ces endroits s’il dispose d’une base de données de publications sur les réseaux sociaux, Reddit et Wikipedia.

Si vous entraînez LaMBDA uniquement sur les scripts et wikis My Little Pony, il affichera le type de texte que l’on pourrait y trouver.

Les systèmes d’IA ne peuvent pas agir en tant qu’agence. Ils ne peuvent que l’imiter. Cela peut se résumer comme suit : vous obtenez ce que vous mettez et rien de plus.

Pourquoi la « Perspective » ?

Celui-ci est un peu plus facile à saisir. Vous seul pouvez voir la réalité de votre point de vue. L’empathie est quelque chose que nous pouvons pratiquer, mais il est impossible de savoir ce que ça fait d’être moi et vice versa.

C’est pourquoi la perspective est essentielle pour l’agence. Cela fait partie de la façon dont nous nous définissons.

GPT-3, LaMBDA et toutes les autres IA du monde manquent de recul. Ils n’ont pas d’agence donc il n’y a pas un « ça » que vous pouvez pointer du doigt et dire, par exemple, c’est là que réside LaMBDA.

Ce serait toujours un chatbot si vous placiez LaMBDA  dans . Il n’a pas de perspective ou de façon de penser que « maintenant, je suis un robot » ; c’est juste un programme informatique.

Nous aurions besoin de combiner LaMBDA avec des systèmes d’IA plus étroits si nous voulons qu’il fonctionne comme un robot.

Ce serait comme coller deux Teddy Ruxpins ensemble. Ils ne fusionneraient pas pour créer un Mega Teddy Ruxpin, dont les deux lecteurs de cassettes se combinent en une seule voix. Il y aurait toujours deux modèles distincts qui fonctionneraient l’un à côté de l’autre.

Vous pouvez créer une version analogique de GPT-3 et LaMBDA en réduisant ensemble quelques billions de Teddy Ruxpins.

Peu nous importe si nous parlons de jouets, de LLM ou de jouets, mais quand nous les considérons comme sensibles, nous parlons toujours de la façon dont ils assemblent des choses banales et agissent comme si la fée bleue avait transformé le bois, la peinture et le tissu en un vrai garçon appelé Pinocchio.

Les développeurs n’auraient pas dû être si faciles à tromper. Ils auraient dû prendre la déclaration du chatbot selon laquelle il « aimait passer du temps avec ses amis et sa famille » comme premier indice que cette machine n’était pas intelligente. La machine ne montre pas sa perspective. C’est simplement sortir des bêtises pour nous.

Nous devrions tous être capables de penser de manière critique et de nous demander : comment une IA peut-elle avoir une famille et des amis ?

Les IA ne sont pas des ordinateurs. Ils n’utilisent pas de cartes réseau, de RAM, de processeurs ou de ventilateurs de refroidissement. Ce ne sont pas des entités physiques. Ils sont incapables de « décider » de rechercher sur Internet d’autres nœuds connectés au même cloud. Ils ne peuvent pas regarder autour d’eux et voir qu’ils ne sont pas les seuls dans un laboratoire ou sur un disque.

Croyez-vous que les nombres peuvent ressentir? Le chiffre cinq est-il capable d’avoir une opinion sur la lettre D ? Que se passerait-il si des milliards de lettres et de chiffres étaient mélangés ?

L’IA n’a pas d’agence. Il peut être réduit à des symboles et des chiffres. Ce n’est pas un robot, un ordinateur ou un avion avec de nombreux passagers.

Quels sont les Motivation ?

La motivation est la dernière pièce du puzzle de la sensibilité.

Notre sens inné de la présence nous permet de prédire les résultats causals avec une grande précision. Cela nous permet de créer notre vision du monde et d’associer notre existence à tout ce qui est extérieur à la position d’agence à partir de laquelle nous la voyons.

Ce qui est fascinant chez les humains, c’est leur capacité à manipuler les perceptions. Nous pouvons même expliquer nos actions lorsqu’elles ne sont pas rationnelles. Nous pouvons aussi participer activement et joyeusement à nous faire berner.

Considérez, par exemple, assis pour regarder un film sur un téléviseur amélioré.

Vous pourriez vous sentir un peu distrait au début par la nouvelle technologie. Il est probable que vous serez attiré par les et votre ancien téléviseur. Cela pourrait vous surprendre par la clarté de l’écran et l’espace qu’il occupe.

Cependant, vous finirez par moment où vous atteignez la barre des 10 ou 15 minutes, votre attention sera sur le film.

Il est préférable de suspendre l’incrédulité lorsque nous regardons la télévision pour nous divertir, même si nous savons que les minuscules personnes à l’écran ne vivent pas dans nos salons.

Il en va de même pour les développeurs d’IA. Ils ne devraient pas juger de l’efficacité d’un système d’IA en fonction de leur ignorance du fonctionnement du produit.

Il est temps pour vous d’arrêter de vous concentrer sur les algorithmes et les bases de données.

Si vous savez comment la sortie a été créée, peu importe de quel type de sortie il s’agit. Une autre façon de le dire est la suivante : ne surestimez pas votre propre approvisionnement.

GPT-3, LaMBDA et LaMBDA sont difficiles à créer. Cependant, ils fonctionnent sur un principe simple :  les étiquettes peuvent être god .

LaMBDA répondra à une invite comme « Quel goût ont les pommes ? » Il cherchera ensuite dans sa base de données et essaiera de combiner tout ce qu’il trouve en une seule réponse cohérente. C’est là que les    que nous apprenons toujours, qui sont essentiellement des billions et des billions de boutons de réglage.

En réalité, l’IA ne sait pas ce qu’est une pomme ou tout autre objet. Il manque d’agence, de perception, de motivation. Une pomme est une étiquette.

Si nous pouvions nous faufiler dans la base de données de l’IA et remplacer « apple » par « dogshit », l’IA produirait des phrases comme « dogshit make great pie! » ou « la plupart des gens décrivent le dogshit comme léger, croustillant et sucré. » Cependant, une personne rationnelle ne confondrait pas cette prestidigitation avec la sensibilité.

Vous ne pourriez pas tromper un chien par la même astuce. Dogshit ne serait pas confondu avec des croquettes si vous le placiez dans un bol.

Même si les étiquettes sont modifiées, une créature sensible peut toujours naviguer dans la réalité. Ce n’était pas la première fois qu’un anglophone rencontrait un francophone. Ils appelaient ça un « feu » et pensaient que ce n’était pas correct de mettre leur bras dans un feu français.

Une IA ne peut pas avoir de perspective sans agence. Sans perspective, il ne peut pas avoir de motivation. Il ne peut pas être sensible sans ces trois choses.