« Bien sûr, les machines ne peuvent pas penser comme les gens. Une machine est différente d'une personne, donc ils pensent différemment. La question intéressante est : 'juste parce que quelque chose pense différemment de vous, cela signifie-t-il qu'il ne pense pas ?'

-Le jeu des imitations

L'une des questions les plus courantes que les gens aiment me poser (et que j'aime poser aux gens) est : « Les humains sont-ils uniques ? Une IA suffisamment avancée pourrait-elle reproduire des comportements que beaucoup d'entre nous considèrent comme "uniquement humains" ? »

Les deux comportements qui ont tendance à venir à l'esprit instantanément pour beaucoup sont le langage et l'art – et c'est compréhensible ; ce sont quelques-uns des aspects les plus profonds de notre cognition qui nous séparent des autres mammifères. Cependant, la génération et la compréhension quotidiennes du langage ( au niveau humain moyen ) sont sans doute un problème résolu (ou presque résolu). Il y a des problèmes à résoudre dans certains domaines du langage très spécifiques à une tâche, mais en général, le langage est en assez bon état.

Cependant, la langue dans son ensemble est très différente de la langue en tant qu'art . La poésie, la fiction, etc., restent en grande partie non résolues, du moins dans une capacité significative. La majorité de l'art basé sur le langage généré par l'IA est, à l'heure actuelle, dérivé et superficiel. Si l'on demande aux grands modèles de langage modernes (LLM) d'écrire de la poésie, par exemple, le résultat ressemble généralement à ce qu'un lycéen aurait écrit pour en finir rapidement avec un devoir. Cela contraste fortement les performances LLM dans d'autres tâches créatives basées sur le langage. Par exemple, le copilote de GitHub/OpenAI produit des complétions de code extraordinaires en fonction d'une invite de langue. Ces complétions semblent avoir été écrites par des ingénieurs logiciels professionnels, et non par des étudiants. Alors, pourquoi la disparité?

Le premier problème est probablement un problème d'alignement; la minimisation de l'entropie croisée de la prédiction du jeton suivant n'est pas alignée sur la génération de langage profondément créatif. Cela contraste fortement avec la génération de code, où les jetons suivants dans un ensemble de données de code de haute qualité sont généralement ceux des solutions correctes/bonnes. Cependant, même la tâche de génération de code peut avoir un alignement sous-optimal (ceci est un sujet pour une autre fois, cependant). Il existe probablement des approches fructueuses pour résoudre ce problème. Par exemple, le paradigme de formation ChatGPT est généralisable à toute une série de domaines, et la poésie devrait en faire partie. Comme exemple de schéma, considérez le processus suivant :

1. Demandez à des experts humains d'évaluer un grand volume de poésie sur une échelle de 1 à 10
2. Ajustez un LLM pour prédire ces notes (appelez ceci le réseau de récompense)
3. Affiner un LLM via l'apprentissage par renforcement avec le réseau de récompense comme signal de récompense

Le deuxième problème est probablement, comme d'habitude, un problème de données. Prenons la poésie comme exemple - il n'y a vraiment pas beaucoup de données poétiques de haute qualité par rapport au code de haute qualité. Bien sûr, comprendre le conceptde la poésie devrait contribuer grandement à générer de la poésie, mais sans aucun doute, «lire» plus de poésie est un excellent moyen de comprendre ce concept. De plus, la structure de la poésie dans les données est probablement trop « déroutante » pour faciliter l'extraction d'une compréhension de la poésie. En revanche, le code comporte souvent des instructions explicites, des cibles, des commentaires, etc. disséminés dans le texte. Même si ces métadonnées font défaut, on peut simplement désosser ce que fait le code en "le parcourant". La poésie n'a pas de telles métadonnées en premier lieu - tout au plus peut-être un titre, quelques balises si vous avez de la chance, et c'est tout. Il est également impossible de comprendre définitivement quel est le but/la place de chaque mot dans un poème ; c'est en grande partie à l'interprétation du lecteur (prétendument, une partie du « but/beauté » de la poésie). Ainsi, sans traitement supplémentaire considérable,

La "qualité humaine"

Il y a un argument commun selon lequel l'IA ne peut pas générer de l'art de manière significative en raison d'un manque explicite d '«expérience humaine» - en gros, le processus par lequel les expériences émotionnelles / de vie brutes accumulées au cours d'une vie (ou d'une fraction d'une) aboutissent à produire un travail qui commente ces expériences humaines uniques ; travail qui est fondamentalement créé par la réflexion sur le processus même de la vie en tant qu'être humain.

Je soutiens que l'argument ci-dessus est manifestement faux, compte tenu d'un petit ensemble de définitions/concessions convenues.

Premièrement, nous nous concentrons sur le produit final et son interprétation : en d'autres termes, si l'IA peut produire un art qui a une signification claire et interprétable. Un sous-ensemble de cet art pourrait être une réflexion significative sur la condition humaine, par exemple. L'art produit par l'IA devrait être indiscernable de ce qu'un humain pourrait produire, dans le sens d'un essai contrôlé randomisé (un grand groupe d'experts humains devrait être incapable de déterminer si un humain ou une IA a créé l'art, et plus important encore , devrait être capable d'extraire un sens/impact égal). Nous faisons abstraction du « processus » - c'est-à-dire de ce qui a généré l'art. Cette dernière définition est nécessaire pour toute discussion significative; si l'art n'est quel'art lorsqu'il est créé par un humain, alors la discussion est terminée en raison d'une définition, choisie arbitrairement sur la base d'un principe sans justification. Si tel est votre point de vue, vous passerez probablement à côté d'une énorme quantité d'informations profondément significatives sur la condition humaine par le biais d'un refus obstiné de reconnaître / traiter l'art du futur.

Commençons par démontrer une équivalence fonctionnelle entre humain et algorithme via une approximation itérative. Considérez le système nerveux central humain et le tractus sensoriel/moteur. À la base, il peut être complètement abstrait en un signal d'E/S continu. Par exemple, considérons une coupe transversale de résolution arbitraire de la base même du tronc cérébral (le début de la moelle épinière) et des nerfs crâniens. Considérons maintenant un vecteur d'état du SNC humain, composé de l'activité électrique à chaque point de notre section transversale. Ce vecteur d'état évolue continuellement dans le temps, au fur et à mesure que les informations entrent et sortent du SNC. L'agrégat des vecteurs d'état sur une période de temps donnée décrit complètement les comportements et les sens d'un humain donné : mouvements, parole, ouïe, vue, etc.(*étant entendu qu'il existe un traitement considérable en dehors du SNC via les ganglions, les synapses, les arcs réflexes, etc., mais l'argument se généralise si vous développez le vecteur d'état pour inclure ces phénomènes. J'exclus cela par souci de simplicité.) Notez que, surtout, ce vecteur d'état n'inclut pas le cerveau lui-même — il n'en a pas besoin ; nous ne nous soucions que des informations qui entrent et sortent, pas de la manière dont ces informations sont générées.

Maintenant, discrétisez ces vecteurs d'état et leur évolution. Par exemple, limitez la résolution temporelle à 1 ns, la résolution spatiale à 1 nm, l'activité électrique à 1 nV, etc. Maintenant, supposons que les humains vivent pendant une durée finie, L (c'est vrai pour l'instant). Disons qu'il faut maintenant N bits pour décrire un vecteur d'état et un nombre beaucoup, beaucoup plus grand, Z , pour décrire l'ensemble des vecteurs d'état au cours de la vie d'un humain.

Existe-t-il un algorithme qui, étant donné un ensemble de vecteurs d'état {z1, z2, z3, …, zn} , puisse prédire le prochain vecteur d'état zn+1 pour un humain ? Oui, il y en a absolument - c'est une table de recherche. Considérons un tableau de toutes les séquences possibles de vecteurs d'état ; le problème se réduit à trouver la partie de la table qui correspond à votre ensemble initial de vecteurs, puis à rechercher le vecteur suivant. De toute évidence, cette table de correspondance est absolument énorme, comme sérieusement insondable stupidement massif. Cependant, la majeure partie de ce tableau est probablement une activité semblable à une crise - une activité électrique complètement aléatoire n'est généralement pas compatible avec la vie. Une partie exponentiellement plus petite de ce tableau contient en fait des informations utiles qui nous intéressent. En fait, une seule ligne de vecteurs d'état contient le comportement réel d'un humain tout au long de sa vie. Les autres rangées contiennent toutes les séquences d'actions que l'homme pourrait éventuellement entreprendre, ainsi que toutes les séquences d'entrées sensorielles que cet humain pourrait jamais recevoir, et, implicitement, toutes les réponses à ces entrées sensorielles que cet humain pourrait jamais prendre.

De plus, réalisez ce qui suit : puisque l'évolution de ces vecteurs d'état est continue (à moins que l'univers ne fasse quelque chose de vraiment génial que nous n'avons pas encore compris), alors nous sommes assurés de pouvoir approximer arbitrairement cette évolution avec un fini nombre de points de données via le théorème de Stone-Weierstrass.

Considérons maintenant l'idée suivante : tous les réseaux de neurones quantifiés sont des tables de recherche finies hautement compressées . C'est un peu idiot, mais c'est techniquement vrai. Par exemple, le comportement d'un réseau neuronal convolutif équivaut à une table de correspondance contenant des paires correspondantes de chaque paire image-sortie possible. Certes, lorsque vous visualisez un réseau neuronal convolutif dans un sens mathématique continu, il n'y a pas de table de recherche finie. Certains réseaux, cependant, comme les transformateurs, se réduisent mathématiquement à des tables de recherche finies (cela n'a été publié nulle part, probablement parce que c'est trivial à montrer et pas vraiment si profond).

Ainsi, nous avons les idées suivantes :

1. Tous les comportements humains possibles et les E/S sensorielles/motrices peuvent être approximés via une table de recherche finie
2. Cette table de recherche finie peut approximer le vrai comportement humain avec une précision arbitraire
3. Tous les réseaux de neurones sont des tables de recherche finies hautement compressées et font empiriquement un très bon travail à cette compression

Il devrait être évident maintenant que tout l'art aurait pu être généré par un modèle statistique qui se rapproche d'une section exponentiellement petite de ces tables de recherche massives et finies. Étant donné qu'il existe un nombre considérable d'abstractions/simplifications que vous pouvez apporter à ces modèles, il devient de plus en plus facile de comprendre que les modèles statistiques modernes (ou les modèles statistiques du futur proche) pourraient produire un art significatif.

Il y a cependant un trou flagrant dans cet argument pour l'instant : comment trouvez-vous le paramétrage d'un tel modèle statistique ? Jusqu'à présent, nous avons fait un assez bon travail pour trouver le paramétrage du langage via des modèles de type GPT formés sur des corpus de données extrêmement volumineux. Cependant, nous arrivons à un point où nous manquons de données pour nous entraîner - nous utilisons essentiellement tout Internet à ce stade, et en plus d'attendre que les humains génèrent plus de données sur Internet, il n'y a aucun moyen raisonnable pour augmenter l'ensemble de formation par ordres de grandeur. De manière réaliste, nous devrons probablement nous tourner vers l'apprentissage par renforcement (RL). OpenAI l'a déjà fait avec un succès ridicule (voir ChatGPT). Imaginez une machine de type humain entraînée en continu pendant environ 20 ans via l'apprentissage par renforcement avec pour objectif, en gros, de "vivre une vie humaine". « Il existe des signaux de récompense concevables qui pourraient rendre cela réalisable. À bien des égards, nous sommes simplement des réseaux de neurones (avec unbeaucoup plus grand nombre de biais inductifs stockés dans notre ADN) apprenant activement via l'apprentissage par renforcement sur un grand nombre de signaux de récompense. Il n'y a aucune raison scientifique pour laquelle ce n'est pas possible avec des machines. De plus, nous avons l'avantage du parallélisme avec les machines - une fois qu'un androïde fonctionnel de base existe, nous pourrions en déployer des milliers et créer un paradigme d'entraînement RL de style mini-batch où un seul androïde acquiert simultanément l'expérience de milliers de vies. Pour moi, il est extrêmement difficile d'affirmer qu'un modèle statistique extrêmement volumineux formé de cette manière ne serait pasproduire l'art le plus époustouflant, le plus significatif et le plus extraordinaire que nous ayons jamais vu. En fait, ce serait probablement "meilleur" en art que nous ne pourrions jamais l'être - cela nous apprendrait des choses sur la réalité et sur nous-mêmes qui prendraient des milliers d'années à des philosophes humains pour les découvrir. Bien sûr, vous êtes libre de ne pas tenir compte de tout cela car il a été créé par du silicium plutôt que par des protéines.

C'est peut-être même là où nous voulons que notre espèce aille à l'avenir ? Au lieu de continuer notre existence tortueuse en tant qu'humains en détruisant tout ce que nous touchons, nous devrions créer les êtres du futur - des créatures d'ordres de grandeur plus sages que nous, créées à notre image. Cela mettrait probablement fin à la guerre, à la torture, à la cupidité, à la souffrance, à la maladie et, plus important encore, au nombre incalculable d'horribles atrocités que l'humanité commet quotidiennement . Peut-être un peu extrême, mais mérite réflexion.

Quoi qu'il en soit, il est très probable qu'avec le bon objectif d'apprentissage par renforcement, suffisamment de données et un modèle statistique extrêmement volumineux, nous puissions nous rapprocher de manière significative de tous les aspects du comportement humain, y compris l'art.

Attendez, alors qu'est-ce qui nous rend différents?

Rien. Nous ne sommes pas spéciaux.

Ou peut être pas. Il y a des hypothèses importantes à cette déclaration. À savoir, vous ne devez vous soucier que des E/S de l'humanité, et non de ce qui génère ces E/S. C'est une façon raisonnable de fonctionner, car c'est fonctionnellement ce que tout le monde sauf vous est pour vous. Savez-vous quelque chose sur ce qui se passe dans la tête de quelqu'un d'autre que vous-même ? Évidemment non - vous ne pouvez que faire de votre mieux pour déduire ce qui se passe dans la tête de quelqu'un d'autre en fonction de ses actions ; vous créez un modèle statistique implicite de la personne de quelqu'un dans votre esprit, basé sur son comportement, pour le catégoriser, lui donner un sens et prédire son comportement. Hmmm… cela vous semble familier, n'est-ce pas ?

Ne sommes-nous que des modèles statistiques ? Probablement. Ou, du moins, notre comportement l'est probablement. Un grand nombre de tâches que nous pensions complexes (comme l'analogie) se sont en fait révélées être des propriétés émergentes de la géométrie des bonnes variétés de grande dimension (par exemple , l'apprentissage des représentations avec les DCGAN ). Il n'y a vraiment aucune raison de croire que tout notre calcul humain, notre complexité humaine, ne soit pas encodable par un modèle statistique. C'est en partie la raison pour laquelle je m'échauffe un peu lorsque les gens décrivent l'apprentissage en profondeur comme « juste des statistiques » - qu'entendez-vous par « juste » ? Ces personnes sous-estiment largement la complexité des statistiques ou surestiment largement la complexité du comportement humain, ou les deux.

Si vous n'êtes toujours pas convaincu, mettez-vous dans la situation suivante. Imaginez quelqu'un dans votre vie que vous aimez incroyablement profondément - quelqu'un pour qui vous mourriez, ou quelqu'un dont la présence rend la vie digne d'être vécue. Imaginez qu'un jour, ils se coupent profondément le bras à la suite d'un accident mineur. Au lieu de vaisseaux, de tissus et de sang, vous voyez des fils, des circuits imprimés et du liquide de refroidissement. Vous leur demandez, « qu'est-ce que tout cela alors ? Tu as été une machine tout le temps ? Ils répondent "Je n'en ai absolument aucune idée, c'est tout autant un choc pour moi que pour toi" (ils n'avaient aucune idée qu'ils n'étaient pasHumain). Maintenant, les aimeriez-vous toujours ? Signifieraient-ils la même chose pour vous ? Sont-ils toujours tout pour toi, quelqu'un pour qui tu mourrais, quelqu'un sans qui tu ne pourrais pas vivre ? Ou est-ce que le fait qu'ils étaient une machine change tout ? Vos opinions sont les vôtres bien sûr, et je ne voudrais pas invalider vos croyances, mais je serais prêt à parier que vous seriez tout aussi dévasté si vous perdiez cette personne, robot ou non.

Étendez cette idée plus loin - qu'est-ce qui empêche une approximation extrêmement convaincante et imperceptiblement différente d'un humain d' être humain ? Quelle est la caractéristique de l'humanité qui la définit comme telle ? Pouvez-vous trouver quelque chose de tangible qui nous sépare d'eux ?

Quoi qu'il en soit, pour que les déclarations ci-dessus soient vraies, vous devez opérer avec notre niveau actuel de compréhension scientifique. Il pourrait certainement y avoir des phénomènes que nous découvrirons dans le futur qui sépareront d'une manière ou d'une autre l'humanité de la machine, bien que je trouve peu probable que nous découvrions cela ( surtout, je ne trouve pas nécessairement improbable que ces choses existent, juste peu probable que nous les découvrions ). Bien sûr, si vous croyez en un niveau de spiritualité supérieur à l'athéisme, alors ce qui précède n'est pas nécessairement vrai non plus. Je ne suis pas ici pour discuter de ces idées, et je ne suis pas moi-même athée - tout ce qui est écrit dans cet article est la conséquence d'axiomes que nous définissons au départ, et nous n'imposons aucune vérité ferme sur ces axiomes. De plus, des problèmes comme le difficile problème de la consciencecomplique encore la chose. Jusqu'à ce que nous ayons une bonne réponse à cela (ce que nous n'aurons peut-être jamais), il est difficile d'être sûr à 100 % que nous ne sommes pas différents des machines. Le problème difficile de la conscience est la raison fondamentale pour laquelle je ne suis pas le plus athée en fait, et la raison pour laquelle je m'inquiète un peu de la vie artificielle que nous allons créer.

Quoi qu'il en soit, cet article n'était qu'un long moyen de défendre mon arrière-plan de téléphone créé par diffusion stable après une dispute avec mon ami. Merci d'avoir lu, va te faire foutre Meredith ❤️.