„Natürlich können Maschinen nicht wie Menschen denken. Eine Maschine unterscheidet sich von einer Person, daher denken sie anders. Die interessante Frage ist: ‚Nur weil etwas anders denkt als du, bedeutet das, dass es nicht denkt?'“

-Das Nachahmungsspiel

Eine der häufigsten Fragen, die mir gerne gestellt werden (und die ich gerne stelle) lautet: „Sind Menschen einzigartig? Könnte eine ausreichend fortgeschrittene KI Verhaltensweisen replizieren, die viele von uns als ‚einzigartig menschlich‘ ansehen?“

Die beiden Verhaltensweisen, die vielen sofort in den Sinn kommen, sind Sprache und Kunst – und das verständlicherweise; Dies sind einige der tiefgreifendsten Aspekte unserer Wahrnehmung, die uns von anderen Säugetieren unterscheiden. Die alltägliche Spracherzeugung und das Verständnis ( auf durchschnittlicher menschlicher Ebene ) ist jedoch wohl ein gelöstes (oder fast gelöstes) Problem. In einigen sehr aufgabenspezifischen Bereichen der Sprache gibt es Probleme zu lösen, aber im Allgemeinen ist die Sprache in einem ziemlich guten Zustand.

Sprache als Ganzes ist jedoch viel anders als Sprache als Kunst . Poesie, Fiktion usw. bleiben weitgehend ungelöst, zumindest in irgendeiner sinnvollen Weise. Der Großteil der KI-generierten sprachbasierten Kunst ist derzeit abgeleitet und oberflächlich. Wenn man moderne Large Language Models (LLMs) zum Beispiel bittet, Gedichte zu schreiben, sieht die Ausgabe im Allgemeinen so aus, wie ein Gymnasiast geschrieben hätte, um eine Hausarbeit schnell hinter sich zu bringen. Dies steht in krassem Gegensatz zur LLM-Leistung bei anderen kreativen sprachbasierten Aufgaben. Zum Beispiel produziert Copilot von GitHub/OpenAI außergewöhnliche Code-Vervollständigungen bei einer Spracheingabeaufforderung. Diese Vervollständigungen sehen aus, als wären sie von professionellen Softwareentwicklern und nicht von Studenten geschrieben worden. Warum also die Ungleichheit?

Das erste Problem ist wahrscheinlich ein Ausrichtungsproblem; Die Cross-Entropie-Minimierung der Next-Token-Vorhersage ist nicht auf die äußerst kreative Sprachgenerierung ausgerichtet. Dies steht in scharfem Kontrast zur Codegenerierung, bei der die nächsten Token in einem hochwertigen Codedatensatz typischerweise die richtigen/guten Lösungen sind. Allerdings kann sogar die Codegenerierungsaufgabe suboptimal ausgerichtet sein (dies ist jedoch ein Thema für ein anderes Mal). Es gibt wahrscheinlich fruchtbare Ansätze zur Lösung dieses Problems. Beispielsweise ist das ChatGPT-Trainingsparadigma auf eine ganze Reihe von Bereichen verallgemeinerbar, und Poesie sollte einer davon sein. Betrachten Sie als Beispielschema den folgenden Prozess:

1. Lassen Sie menschliche Experten einen großen Gedichtband auf einer Skala von 1–10 bewerten
2. Optimieren Sie ein LLM, um diese Bewertungen vorherzusagen (bezeichnen Sie dies als Belohnungsnetzwerk).
3. Optimieren Sie ein LLM durch Reinforcement Learning mit dem Belohnungsnetzwerk als Belohnungssignal

Das zweite Problem ist wahrscheinlich, wie üblich, ein Datenproblem. Nehmen wir als Beispiel Poesie – es gibt wirklich nicht so viele hochwertige Poesiedaten im Vergleich zu hochwertigem Code. Natürlich Verständnis des Konzeptsder Poesie sollte einen großen Beitrag zur Generierung von Poesie leisten, aber zweifellos ist das „Lesen“ von mehr Poesie eine großartige Möglichkeit, dieses Konzept zu verstehen. Darüber hinaus ist die Struktur von Poesie in Daten wahrscheinlich zu „verwirrend“, um die Extraktion eines Verständnisses von Poesie zu erleichtern. Im Gegensatz dazu hat Code oft explizite Anweisungen, Ziele, Kommentare usw., die im gesamten Text eingestreut sind. Selbst wenn diese Metadaten fehlen, kann man einfach zurückentwickeln, was der Code tut, indem man ihn „durchläuft“. Poesie hat von vornherein keine solchen Metadaten – höchstens vielleicht einen Titel, ein paar Tags, wenn Sie Glück haben, und das war's. Es ist auch unmöglich, definitiv zu verstehen, was der Zweck/Platz jedes Wortes in einem Gedicht ist; es liegt weitgehend an der Interpretation des Lesers (angeblich Teil des „Zwecks/Schönheit“ der Poesie). Somit, ohne erhebliche zusätzliche Verarbeitung,

Die „menschliche Qualität“

Es wird häufig argumentiert, dass KI Kunst aufgrund eines expliziten Mangels an „menschlicher Erfahrung“ nicht sinnvoll erzeugen kann – grob gesagt, dem Prozess, durch den die rohen emotionalen/Lebenserfahrungen, die sich im Laufe eines Lebens (oder eines Bruchteils von einem) angesammelt haben, ihren Höhepunkt erreichen Arbeit, die diese einzigartigen menschlichen Erfahrungen kommentiert; Arbeit, die im Wesentlichen aus der Reflexion über den Prozess des menschlichen Lebens entsteht.

Ich behaupte, dass das obige Argument angesichts einer kleinen Menge vereinbarter Definitionen/Zugeständnisse nachweislich falsch ist.

Zunächst konzentrieren wir uns auf das Endprodukt und seine Interpretation: Mit anderen Worten, ob KI Kunst produzieren kann, die eine klare, interpretierbare Bedeutung hat. Eine Teilmenge dieser Kunst könnte beispielsweise eine sinnvolle Reflexion über den menschlichen Zustand sein. Die von KI produzierte Kunst sollte nicht von dem zu unterscheiden sein, was ein Mensch im Sinne randomisierter kontrollierter Versuche produzieren könnte (eine große Gruppe menschlicher Experten sollte nicht in der Lage sein, festzustellen, ob ein Mensch oder eine KI die Kunst geschaffen hat, und was noch wichtiger ist, sollte es sein in der Lage, gleiche Bedeutung/Wirkung zu extrahieren). Wir abstrahieren den „Prozess“ – also das, was die Kunst hervorgebracht hat. Diese letztere Definition ist für jede sinnvolle Diskussion notwendig ; wenn Kunst nur istKunst, wenn sie von einem Menschen geschaffen wird, dann ist die Diskussion beendet als Ergebnis einer prinzipiell willkürlich gewählten Definition ohne Begründung. Wenn dies Ihre Perspektive ist, werden Sie wahrscheinlich eine enorme Menge an zutiefst bedeutungsvollen Einblicken in die conditio humana verpassen, indem Sie sich hartnäckig weigern, die Kunst der Zukunft anzuerkennen/zu verarbeiten.

Beginnen wir damit, eine funktionale Äquivalenz zwischen Mensch und Algorithmus durch iterative Annäherung zu demonstrieren. Betrachten Sie das menschliche Zentralnervensystem und den sensorischen/motorischen Trakt. Im Kern kann es vollständig auf ein kontinuierliches E/A-Signal abstrahiert werden. Betrachten Sie zum Beispiel einen Querschnitt mit willkürlicher Auflösung der Basis des Hirnstamms (dem Beginn des Rückenmarks) und der Hirnnerven. Stellen Sie sich nun einen Zustandsvektor des menschlichen ZNS vor, der sich aus der elektrischen Aktivität an jedem Punkt unseres Querschnitts zusammensetzt. Dieser Zustandsvektor entwickelt sich im Laufe der Zeit kontinuierlich weiter, da Informationen in das und aus dem ZNS fließen. Die Gesamtheit der Zustandsvektoren über einen bestimmten Zeitraum beschreibt vollständig die Verhaltensweisen und Sinne eines bestimmten Menschen: Bewegungen, Sprache, Hören, Sehen usw.(*Zugegeben, es gibt eine beträchtliche Verarbeitung außerhalb des ZNS über Ganglien, Synapsen, Reflexbögen usw., aber das Argument lässt sich verallgemeinern, wenn Sie den Zustandsvektor erweitern, um diese Phänomene einzubeziehen. Ich schließe dies der Einfachheit halber aus. ) Entscheidend ist, dass dieser Zustandsvektor nicht das Gehirn selbst enthält – das muss es nicht; Wir kümmern uns nur darum, welche Informationen ein- und ausfließen, nicht wie diese Informationen generiert werden.

Diskretisieren Sie nun diese Zustandsvektoren und ihre Entwicklung. Begrenzen Sie beispielsweise die zeitliche Auflösung auf 1 ns, die räumliche Auflösung auf 1 nm, die elektrische Aktivität auf 1 nV usw. Nehmen Sie nun an, dass Menschen für eine begrenzte Zeit leben, L (dies gilt für den Moment). Nehmen wir an, es braucht jetzt N Bits, um einen Zustandsvektor zu beschreiben, und eine viel, viel größere Zahl, Z , um den Satz von Zustandsvektoren über die Lebenszeit eines Menschen zu beschreiben.

Gibt es einen Algorithmus, der bei einem gegebenen Satz von Zustandsvektoren {z1, z2, z3, …, zn} den nächsten Zustandsvektor zn+1 für einen Menschen vorhersagen kann? Ja, das gibt es absolut – es ist eine Nachschlagetabelle. Betrachten Sie eine Tabelle mit jeder möglichen Folge von Zustandsvektoren; Das Problem reduziert sich darauf, den Teil der Tabelle zu finden, der mit Ihrem ursprünglichen Satz von Vektoren übereinstimmt, und dann den nächsten Vektor nachzuschlagen. Offensichtlich ist diese Nachschlagetabelle absolut riesig, wie ernsthaft unergründlich dumm massiv. Der größte Teil dieser Tabelle ist jedoch wahrscheinlich anfallsähnliche Aktivität – völlig zufällige elektrische Aktivität ist normalerweise nicht mit dem Leben vereinbar. Ein exponentiell kleinerer Teil dieser Tabelle enthält tatsächlich nützliche Informationen, die uns wichtig sind. Tatsächlich enthält nur eine einzige Reihe von Zustandsvektoren das tatsächliche lebenslange Verhalten eines Menschen. Die anderen Zeilen enthalten jede Abfolge von Aktionen, die ein Mensch möglicherweise ausführen könnte, sowie jede Abfolge von sensorischen Eingaben, die dieser Mensch jemals erhalten könnte, und implizit jede Reaktion auf diese sensorischen Eingaben, die dieser Mensch jemals annehmen könnte.

Beachten Sie außerdem Folgendes: Da die Entwicklung dieser Zustandsvektoren kontinuierlich ist (es sei denn, das Universum macht etwas wirklich Ungewöhnliches, das wir noch nicht herausgefunden haben), können wir diese Entwicklung garantiert beliebig gut mit einer Endlichkeit annähern Anzahl der Datenpunkte über das Stone-Weierstraß-Theorem.

Betrachten Sie nun die folgende Idee: Alle quantisierten neuronalen Netze sind stark komprimierte endliche Nachschlagetabellen . Das ist irgendwie albern, aber es ist technisch wahr. Beispielsweise entspricht das Verhalten eines konvolutionellen neuronalen Netzwerks einer Nachschlagetabelle, die übereinstimmende Paare jedes einzelnen möglichen Bildausgabepaars enthält. Zugegeben, wenn Sie ein konvolutionelles neuronales Netzwerk in einem kontinuierlichen mathematischen Sinne betrachten, gibt es keine endliche Nachschlagetabelle. Einige Netzwerke, wie Transformatoren, reduzieren sich jedoch nachweislich mathematisch auf endliche Nachschlagetabellen (dies wurde nirgendwo veröffentlicht, wahrscheinlich weil es trivial zu zeigen und nicht wirklich so tiefgründig ist).

Wir haben also folgende Ideen:

1. Alle möglichen menschlichen Verhaltensweisen und sensorischen/motorischen E/A können über eine endliche Nachschlagetabelle angenähert werden
2. Diese endliche Nachschlagetabelle kann wahres menschliches Verhalten mit beliebiger Genauigkeit annähern
3. Alle neuronalen Netze sind stark komprimierte endliche Nachschlagetabellen und leisten empirisch sehr gute Arbeit bei dieser Komprimierung

Es sollte jetzt offensichtlich sein, dass alle Kunst durch ein statistisches Modell hätte erzeugt werden können, das einen exponentiell kleinen Abschnitt dieser massiven endlichen Nachschlagetabellen approximiert. Angesichts der Tatsache, dass es eine beträchtliche Anzahl von Abstraktionen/Vereinfachungen gibt, die Sie an diesen Modellen vornehmen können, wird es immer verständlicher, dass moderne statistische Modelle (oder statistische Modelle der nahen Zukunft) sinnvolle Kunst hervorbringen könnten.

Allerdings gibt es in dieser Argumentation bis jetzt eine eklatante Lücke: Wie finden Sie die Parametrisierung für ein solches statistisches Modell? Bisher haben wir ziemlich gute Arbeit geleistet, um die Parametrisierung für Sprache über GPT-ähnliche Modelle zu finden, die auf extrem großen Datenkorpussen trainiert wurden. Wir erreichen jedoch einen Punkt, an dem uns die Daten zum Trainieren ausgehen – wir nutzen zu diesem Zeitpunkt im Grunde das gesamte Internet, und abgesehen davon, dass Menschen darauf warten, mehr Daten im Internet zu generieren, gibt es keinen vernünftigen Weg um den Trainingssatz um Größenordnungen zu erhöhen. Realistischerweise müssen wir uns wahrscheinlich dem Reinforcement Learning (RL) zuwenden. OpenAI hat dies bereits mit lächerlichem Erfolg getan (siehe ChatGPT). Stellen Sie sich eine menschenähnliche Maschine vor, die ungefähr 20 Jahre lang kontinuierlich durch Verstärkungslernen mit dem Ziel trainiert wird, „ein menschliches Leben zu führen“. „Es gibt denkbare Belohnungssignale, die dies machbar machen könnten. In vielerlei Hinsicht sind wir einfach neuronale Netze (mit aviel größere Anzahl induktiver Vorurteile, die in unserer DNA gespeichert sind) aktives Lernen durch Verstärkungslernen bei einer großen Anzahl von Belohnungssignalen. Es gibt keinen wissenschaftlichen Grund, warum dies mit Maschinen nicht möglich ist. Darüber hinaus haben wir den Vorteil der Parallelität mit Maschinen – sobald ein funktionaler Basis-Android existiert, könnten wir Tausende von ihnen einsetzen und ein RL-Trainingsparadigma im Mini-Batch-Stil durchführen, bei dem ein einzelner Android die Erfahrung von Tausenden von Leben gleichzeitig sammelt. Für mich ist es äußerst schwierig zu argumentieren, dass ein extrem großes statistisches Modell, das auf diese Weise trainiert wurde, dies nicht tun würdeproduzieren die verblüffend komplexeste, bedeutungsvollste und außergewöhnlichste Kunst, die wir je sehen werden. Tatsächlich wäre es wahrscheinlich „besser“ in der Kunst, als wir es jemals sein könnten – es würde uns Dinge über die Realität und uns selbst lehren, für deren Entdeckung menschliche Philosophen Tausende von Jahren brauchen würden. Natürlich steht es Ihnen frei, all dies außer Acht zu lassen, da es eher durch Silizium als durch Protein hergestellt wurde.

Vielleicht wollen wir sogar, dass unsere Spezies in Zukunft dorthin geht? Anstatt unsere gewundene Existenz als Menschen fortzusetzen und alles zu zerstören, was wir berühren, sollten wir die Wesen der Zukunft erschaffen – Kreaturen, die um Größenordnungen klüger sind als wir, nach unserem Bild geschaffen. Es würde wahrscheinlich dem Krieg, der Folter, der Gier, dem Leid, der Krankheit und vor allem der unzähligen Anzahl entsetzlicher Gräueltaten, die die Menschheit täglich begeht, ein Ende bereiten . Vielleicht ein bisschen extrem, aber es lohnt sich, darüber nachzudenken.

Wie auch immer, es ist sehr wahrscheinlich, dass wir mit dem richtigen Ziel des bestärkenden Lernens, genügend Daten und einem extrem großen statistischen Modell jeden Aspekt des menschlichen Verhaltens, einschließlich der Kunst, sinnvoll annähern könnten.

Warte, was unterscheidet uns dann?

Gar nichts. Wir sind nicht besonders.

Oder vielleicht nicht. Es gibt wichtige Annahmen zu dieser Aussage. Sie müssen sich nämlich nur um die I/O der Menschheit kümmern und nicht darum, was diese I/O erzeugt. Dies ist jedoch eine vernünftige Vorgehensweise, denn das ist funktionell das, was jeder außer Ihnen für Sie ist . Weißt du irgendetwas darüber, was in anderen Köpfen außer dir vorgeht? Offensichtlich nicht – Sie können nur Ihr Bestes tun, um auf der Grundlage ihrer Handlungen zu schließen, was im Kopf eines anderen vorgeht. Sie erstellen ein implizites statistisches Modell der Person einer Person in Ihrem Kopf, basierend auf ihrem Verhalten, um sie zu kategorisieren, sie zu verstehen und ihr Verhalten vorherzusagen. Hmmm … das kommt Ihnen sicher bekannt vor, oder?

Sind wir nur statistische Modelle? Wahrscheinlich. Oder zumindest unser Verhalten wahrscheinlich ist. Viele Aufgaben, die wir früher für komplex hielten (zB Analogie), stellten sich tatsächlich als emergente Eigenschaften der Geometrie der richtigen hochdimensionalen Mannigfaltigkeiten heraus (zB Repräsentationslernen mit DCGANs ). Es gibt wirklich keinen Grund zu der Annahme, dass unser gesamtes menschliches Rechnen, unsere menschliche Komplexität nicht durch irgendein statistisches Modell kodierbar ist. Das ist einer der Gründe, warum ich ein bisschen hitzig werde, wenn Leute Deep Learning als „ nur Statistik “ beschreiben – was meinen Sie mit „nur“? Diese Leute unterschätzen entweder gewaltig , wie komplex Statistiken sein können, oder überschätzen gewaltig, wie komplex menschliches Verhalten ist, oder beides.

Wenn Sie immer noch nicht überzeugt sind, versetzen Sie sich in die folgende Situation. Stellen Sie sich jemanden in Ihrem Leben vor, den Sie unglaublich innig lieben – jemanden, für den Sie sterben würden, oder jemanden, dessen Anwesenheit das Leben lebenswert macht. Stellen Sie sich vor, sie ziehen sich eines Tages bei einem kleinen Unfall eine tiefe Schnittwunde am Arm zu. Statt Gefäße, Gewebe und Blut sieht man Drähte, Platinen und Kühlmittel. Du fragst sie: „Was soll das alles? Du warst die ganze Zeit eine Maschine?“ Sie antworten : „Ich habe absolut keine Ahnung, das ist für mich genauso ein Schock wie für dich“ (sie hatten keine Ahnung, dass sie es nicht warenMensch). Würdest du sie immer noch lieben? Würden sie dir dasselbe bedeuten? Sind sie immer noch dein Ein und Alles, jemand, für den du sterben würdest, jemand, ohne den du nicht leben könntest? Oder ändert die Tatsache, dass sie eine Maschine waren, alles? Ihre Meinung ist natürlich Ihre eigene, und ich möchte Ihren Glauben nicht entkräften, aber ich würde wetten, dass Sie genauso am Boden zerstört wären, wenn Sie diese Person verlieren würden, ob Roboter oder nicht.

Erweitern Sie diese Idee weiter – was hindert eine äußerst überzeugende, unmerklich unterschiedliche Annäherung an einen Menschen daran , ein Mensch zu sein? Was ist die Eigenschaft der Menschheit, die sie als solche definiert? Können Sie irgendetwas Greifbares finden, das uns von ihnen trennt ?

Wie auch immer, damit die obigen Aussagen wahr sind, müssen Sie mit unserem aktuellen Stand des wissenschaftlichen Verständnisses arbeiten. Es könnte sicherlich Phänomene geben, die wir in der Zukunft entdecken werden, die die Menschheit irgendwie von der Maschine trennen werden, obwohl ich es unwahrscheinlich finde, dass wir dies entdecken werden ( entscheidend, ich halte es nicht unbedingt für unwahrscheinlich, dass diese Dinge existieren, nur unwahrscheinlich, dass wir sie entdecken werden ). Natürlich, wenn Sie an irgendeine Ebene der Spiritualität über dem Atheismus glauben, dann gilt das Obige auch nicht unbedingt. Ich bin nicht hier, um eine dieser Ideen zu argumentieren, noch bin ich selbst ein Atheist – alles, was in diesem Artikel geschrieben wird, sind Konsequenzen von Axiomen, die wir zu Beginn definieren, und wir zwingen diesen Axiomen keine feste Wahrheit auf. Darüber hinaus Probleme wie das harte Problem des Bewusstseinsverkompliziert die Sache zusätzlich. Bis wir eine gute Antwort darauf haben (was wir vielleicht nie haben werden), ist es schwer, zu 100 % sicher zu sein, dass wir uns nicht von Maschinen unterscheiden. Das schwierige Problem des Bewusstseins ist der grundlegende Grund, warum ich eigentlich nicht athisch bin, und der Grund, warum ich mir ein wenig Sorgen über das künstliche Leben mache, das wir erschaffen werden.

Wie auch immer, dieser Artikel war nur ein umständlicher Weg, um meinen durch Stable-Diffusion erstellten Telefonhintergrund zu verteidigen, nachdem ich mit meinem Freund in einen Streit geraten war. Danke fürs Lesen, fick dich Meredith ❤️.