“Por supuesto que las máquinas no pueden pensar como lo hacen las personas. Una máquina es diferente de una persona, por lo tanto, piensan de manera diferente. La pregunta interesante es: 'solo porque algo piensa diferente a ti, ¿significa que no está pensando?'”

-El juego de la imitación

Una de las preguntas más comunes que a la gente le gusta hacerme (y una que me gusta preguntarle a la gente) es: “¿Son los humanos únicos? ¿Podría una IA lo suficientemente avanzada replicar comportamientos que muchos de nosotros vemos como 'exclusivamente humanos'?

Los dos comportamientos que tienden a venir a la mente instantáneamente para muchos son el lenguaje y el arte, y es comprensible que así sea; estos son algunos de los aspectos más profundos de nuestra cognición que nos separan de otros mamíferos. Sin embargo, podría decirse que la generación y la comprensión cotidianas del lenguaje ( al nivel humano promedio ) es un problema resuelto (o casi resuelto). Hay problemas para resolver en algunas áreas del lenguaje muy específicas de la tarea, pero en general, el lenguaje está en muy buena forma.

Sin embargo, el lenguaje como un todo es muy diferente al lenguaje como arte . La poesía, la ficción, etc., permanecen en gran parte sin resolver, al menos en cualquier capacidad significativa. La mayoría del arte basado en lenguaje generado por IA es, en este momento, derivado y superficial. Si uno le pide a los modelos modernos de lenguaje grande (LLM) que escriban poesía, por ejemplo, el resultado generalmente se parece a lo que un estudiante de secundaria habría escrito para terminar rápidamente una tarea. Esto contrasta marcadamente con el rendimiento de LLM en otras tareas creativas basadas en el lenguaje. Por ejemplo, Copilot de GitHub/OpenAI produce terminaciones de código extraordinarias con una indicación de idioma. Parece que estas finalizaciones fueron escritas por ingenieros de software profesionales, no por estudiantes. Entonces, ¿por qué la disparidad?

El primer problema es probablemente un problema de alineación; la minimización de la entropía cruzada de la predicción del siguiente token no está alineada con la generación de lenguaje profundamente creativo. Esto contrasta marcadamente con la generación de código, donde los siguientes tokens en un conjunto de datos de código de alta calidad suelen ser los de soluciones correctas/buenas. Sin embargo, incluso la tarea de generación de código puede tener una alineación subóptima (aunque este es un tema para otro momento). Es probable que haya enfoques fructíferos para resolver este problema. Por ejemplo, el paradigma de entrenamiento de ChatGPT se puede generalizar a una gran cantidad de dominios, y la poesía debería ser uno de ellos. Solo como un esquema de muestra, considere el siguiente proceso:

1. Haga que expertos humanos califiquen un gran volumen de poesía en una escala del 1 al 10
2. Ajuste un LLM para predecir estas calificaciones (llámese a esto la red de recompensas)
3. Ajuste un LLM a través del aprendizaje por refuerzo con la red de recompensas como señal de recompensa

El segundo problema es probablemente, como de costumbre, un problema de datos. Tomemos la poesía como ejemplo: realmente no hay muchos datos de poesía de alta calidad en comparación con el código de alta calidad. Por supuesto, entendiendo el conceptode poesía debería contribuir en gran medida a generar poesía, pero, sin duda, "leer" más poesía es una excelente manera de entender este concepto. Además, la estructura de la poesía en los datos probablemente sea demasiado "confusa" para facilitar la extracción de una comprensión de la poesía. Por el contrario, el código suele tener instrucciones, objetivos, comentarios, etc. explícitos intercalados a lo largo del texto. Incluso si faltan estos metadatos, uno puede simplemente aplicar ingeniería inversa a lo que hace el código "ejecutándolo". En primer lugar, la poesía no tiene tales metadatos; como mucho, tal vez un título, algunas etiquetas si tienes suerte, y eso es todo. También es imposible entender definitivamente cuál es el propósito/lugar de cada palabra en un poema; depende en gran medida de la interpretación del lector (supuestamente, parte del "propósito/belleza" de la poesía). Por lo tanto, sin un procesamiento adicional considerable,

La “Calidad Humana”

Hay un argumento común de que la IA no puede generar arte de manera significativa debido a una falta explícita de la "experiencia humana"; en términos generales, el proceso por el cual las experiencias emocionales/de vida sin procesar acumuladas durante una vida (o una fracción de una) culminan para producir obra que comenta aquellas experiencias únicamente humanas; obra que fundamentalmente se crea a partir de la reflexión sobre el proceso mismo de vivir como ser humano.

Argumento que el argumento anterior es probablemente falso, dado un pequeño conjunto de definiciones/concesiones acordadas.

En primer lugar, nos centramos en el producto final y su interpretación: en otras palabras, si la IA puede producir arte que tenga un significado claro e interpretable. Un subconjunto de este arte podría ser una reflexión significativa sobre la condición humana, por ejemplo. El arte producido por la IA debería ser indistinguible de lo que podría producir un humano, en el sentido de un ensayo controlado aleatorio (un gran grupo de expertos humanos no debería poder determinar si un humano o una IA crearon el arte y, lo que es más importante , debería ser capaz de extraer el mismo significado/impacto). Abstraemos el “proceso”, es decir, lo que generó el arte. Esta última definición es necesaria para cualquier discusión significativa; si el arte es soloel arte cuando es creado por un humano, entonces la discusión termina como resultado de una definición, elegida arbitrariamente sobre la base de un principio sin justificación. Si esta es su perspectiva, entonces probablemente se perderá una gran cantidad de información profundamente significativa sobre la condición humana por medio de su obstinada negativa a reconocer/procesar el arte del futuro.

Comencemos demostrando una equivalencia funcional entre humanos y algoritmos a través de una aproximación iterativa. Considere el sistema nervioso central humano y el tracto sensorial/motor. En esencia, puede abstraerse completamente a una señal de E/S continua. Por ejemplo, considere una sección transversal de resolución arbitraria de la base misma del tronco encefálico (el comienzo de la médula espinal) y los nervios craneales. Ahora, considere un vector de estado del SNC humano, compuesto por la actividad eléctrica en cada punto de nuestra sección transversal. Este vector de estado evoluciona continuamente a través del tiempo, a medida que la información entra y sale del SNC. El agregado de vectores de estado durante un período de tiempo dado describe completamente los comportamientos y sentidos de un ser humano dado: movimientos, habla, oído, vista, etc.(*concedido que hay un procesamiento considerable fuera del SNC a través de ganglios, sinapsis, arcos reflejos, etc., pero el argumento se generaliza si expande el vector de estado para incluir estos fenómenos. Excluyo esto por simplicidad). Tenga en cuenta que, crucialmente, este vector de estado no incluye el cerebro en sí mismo, no es necesario; solo nos importa qué información fluye hacia adentro y hacia afuera, no cómo se genera esa información.

Ahora, discretice estos vectores de estado y su evolución. Por ejemplo, limite la resolución temporal a 1 ns, la resolución espacial a 1 nm, la actividad eléctrica a 1 nV, etc. Ahora, suponga que los humanos viven una cantidad finita de tiempo, L (esto es cierto por ahora). Digamos que ahora se necesitan N bits para describir un vector de estado y un número mucho, mucho mayor, Z , para describir el conjunto de vectores de estado durante la vida de un ser humano.

¿Existe algún algoritmo que, dado un conjunto de vectores de estado {z1, z2, z3, …, zn} , pueda predecir el próximo vector de estado zn+1 para algún ser humano? Sí, absolutamente lo hay: es una tabla de búsqueda. Considere una tabla de cada secuencia posible de vectores de estado; el problema se reduce a encontrar la parte de la tabla que coincida con su conjunto inicial de vectores y luego buscar el siguiente vector. Obviamente, esta tabla de búsqueda es absolutamente enorme, como seriamente insondable estúpidamente masivo. Sin embargo, la mayor parte de esta tabla es probablemente una actividad similar a una convulsión: la actividad eléctrica completamente aleatoria generalmente no es compatible con la vida. Una porción exponencialmente más pequeña de esta tabla en realidad contiene información útil que nos interesa. De hecho, solo una sola fila de vectores de estado contiene el comportamiento real de por vida de un ser humano. Las otras filas contienen cada secuencia de acciones que un ser humano podría realizar, así como cada secuencia de entradas sensoriales que ese humano podría recibir e, implícitamente, cada respuesta a esas entradas sensoriales que ese humano podría tomar.

Además, tenga en cuenta lo siguiente: dado que la evolución de estos vectores de estado es continua (a menos que el universo esté haciendo algo realmente extraño que aún no hayamos descubierto), entonces tenemos la garantía de poder aproximar esta evolución arbitrariamente bien con un finito número de puntos de datos a través del teorema de Stone-Weierstrass.

Ahora, considere la siguiente idea: todas las redes neuronales cuantificadas son tablas de búsqueda finitas altamente comprimidas . Esto es un poco tonto, pero es técnicamente cierto. Por ejemplo, el comportamiento de una red neuronal convolucional es equivalente a una tabla de búsqueda que contiene pares coincidentes de cada posible par de salida de imagen. Por supuesto, cuando ve una red neuronal convolucional en un sentido matemático continuo, no hay una tabla de búsqueda finita. Sin embargo, algunas redes, como los transformadores, probablemente se reducen matemáticamente a tablas de búsqueda finitas (esto no se ha publicado en ninguna parte, probablemente porque es trivial de mostrar y no tan profundo).

Entonces, tenemos las siguientes ideas:

1. Todo el comportamiento humano posible y la E/S sensorial/motora se pueden aproximar a través de una tabla de búsqueda finita
2. Esta tabla de búsqueda finita puede aproximar el comportamiento humano real con precisión arbitraria
3. Todas las redes neuronales son tablas de búsqueda finitas altamente comprimidas y, empíricamente, hacen un trabajo extremadamente bueno en esta compresión.

Debería ser evidente ahora que todo el arte podría haber sido generado por un modelo estadístico que se aproxima a una sección exponencialmente pequeña de estas tablas de búsqueda finitas masivas. Dado que hay un número considerable de abstracciones/simplificaciones que puede hacer a estos modelos, se vuelve cada vez más manejable que los modelos estadísticos modernos (o modelos estadísticos del futuro cercano) podrían producir arte significativo.

Sin embargo, hay un agujero evidente en este argumento a partir de ahora: ¿cómo encuentra la parametrización para un modelo estadístico de este tipo? Hasta ahora, hemos hecho un trabajo bastante bueno al encontrar la parametrización del lenguaje a través de modelos similares a GPT entrenados en corpus de datos extremadamente grandes. Sin embargo, estamos llegando a un punto en el que nos estamos quedando sin datos para entrenar; básicamente estamos usando todo Internet en este momento, y además de esperar a que los humanos generen más datos en Internet, no hay una manera razonable. aumentar el conjunto de entrenamiento por órdenes de magnitud. Siendo realistas, probablemente tendremos que recurrir al aprendizaje por refuerzo (RL). OpenAI ya hizo esto con un éxito ridículo (ver ChatGPT). Imagine una máquina similar a un humano entrenada continuamente durante ~ 20 años a través del aprendizaje por refuerzo con el objetivo, más o menos, de "vivir una vida humana". Hay señales de recompensa concebibles que podrían hacer que esto sea factible. En muchos sentidos, somos simplemente redes neuronales (con unnúmero mucho mayor de sesgos inductivos almacenados en nuestro ADN) aprendiendo activamente a través del aprendizaje por refuerzo en una gran cantidad de señales de recompensa. No hay ninguna razón científica por la que esto no sea posible con las máquinas. Además, tenemos la ventaja del paralelismo con las máquinas: una vez que existe un androide funcional básico, podemos implementar miles de ellos y hacer un paradigma de entrenamiento RL de estilo mini-lote donde un solo androide obtiene la experiencia de miles de vidas simultáneamente. Para mí, es extremadamente difícil argumentar que un modelo estadístico extremadamente grande entrenado de esta manera noproducir el arte más alucinantemente complejo, significativo y extraordinario que jamás hayamos visto. De hecho, probablemente sería "mejor" en el arte de lo que jamás podríamos ser: nos enseñaría cosas sobre la realidad y sobre nosotros mismos que los filósofos humanos tardarían miles de años en descubrir. Por supuesto, puede descartar todo esto porque fue creado por silicio en lugar de proteína.

¿Quizás es aquí donde queremos que vaya nuestra especie en el futuro? En lugar de continuar con nuestra tortuosa existencia como seres humanos destruyendo todo lo que tocamos, deberíamos crear los seres del futuro: criaturas muchísimo más sabias que nosotros, creadas a nuestra imagen y semejanza. Probablemente pondría fin a la guerra, la tortura, la codicia, el sufrimiento, la enfermedad y, lo que es más importante, la incontable cantidad de horrendas atrocidades que la humanidad comete a diario . Tal vez un poco extremo, pero vale la pena pensar en ello.

De todos modos, es muy probable que con el objetivo correcto de aprendizaje por refuerzo, suficientes datos y un modelo estadístico extremadamente grande, podamos aproximarnos significativamente a todos los aspectos del comportamiento humano, incluido el arte.

Espera, ¿entonces qué nos hace diferentes?

Nada. No somos especiales.

O tal vez no. Hay suposiciones importantes en esta declaración. Es decir, debe preocuparse solo por la E/S de la humanidad, y no por lo que genera esta E/S. Sin embargo, esta es una forma razonable de operar, porque eso es funcionalmente lo que todos menos usted son para usted. ¿Sabes algo sobre lo que está pasando en la cabeza de alguien además de ti mismo? Obviamente no, solo puedes hacer tu mejor esfuerzo para inferir lo que sucede en la cabeza de otra persona en función de sus acciones; creas un modelo estadístico implícito de la persona de alguien en tu mente, basado en su comportamiento, para categorizarlos, darles sentido y predecir su comportamiento. Hmmm... seguro que suena familiar, ¿no?

¿Somos solo modelos estadísticos? Probablemente. O, al menos, nuestro comportamiento probablemente lo sea. Muchas tareas que solíamos pensar que eran complejas (como la analogía) en realidad resultaron ser propiedades emergentes de la geometría de las variedades correctas de alta dimensión (por ejemplo , aprendizaje de representación con DCGAN ). Realmente no hay razón para creer que toda nuestra computación humana, nuestra complejidad humana, no es codificable por algún modelo estadístico. Esta es parte de la razón por la que me acaloro un poco cuando las personas describen el aprendizaje profundo como " solo estadísticas ". ¿Qué quiere decir con "solo"? Estas personas subestiman enormemente cuán complejas pueden ser las estadísticas, o sobrestiman cuán complejo es el comportamiento humano, o ambas cosas.

Si aún no estás convencido, ponte en la siguiente situación. Imagina a alguien en tu vida a quien amas increíblemente, alguien por quien morirías o alguien cuya presencia hace que la vida valga la pena. Imagínese, un día, se hacen un corte profundo en el brazo por algún tipo de accidente menor. En lugar de vasos, tejidos y sangre, ve cables, placas de circuitos y refrigerante. Les preguntas: “¿Qué es todo esto entonces? ¿Has sido una máquina todo el tiempo? Responden "No tengo absolutamente ninguna idea, esto es tan impactante para mí como para ti" (no tenían idea de que no estabanhumano). Ahora, ¿los seguirías amando? ¿Significarían lo mismo para ti? ¿Siguen siendo tu todo, alguien por quien morirías, alguien sin quien no podrías vivir? ¿O el hecho de que fueran una máquina lo cambia todo? Tus opiniones son tuyas, por supuesto, y no quisiera invalidar ninguna creencia que tengas, pero estaría dispuesto a apostar que estarías igualmente devastado si perdieras a esa persona, robot o no.

Amplíe esta idea aún más: ¿qué detiene una aproximación extremadamente convincente e imperceptiblemente diferente de un humano de ser humano? ¿Cuál es la característica de la humanidad que la define como tal? ¿Puedes encontrar algo tangible que nos separe de ellos ?

De todos modos, para que las afirmaciones anteriores sean ciertas, debe operar con nuestro nivel actual de comprensión científica. Ciertamente podría haber fenómenos que descubramos en el futuro que de alguna manera separarán a la humanidad de la máquina, aunque me parece poco probable que descubramos esto (lo que es más importante, no creo necesariamente que sea poco probable que existan estas cosas, solo es poco probable que las descubramos ). Por supuesto, si crees en algún nivel de espiritualidad por encima del ateísmo, entonces lo anterior tampoco es necesariamente cierto. No estoy aquí para discutir ninguna de estas ideas, ni tampoco soy un ateo: todo lo escrito en este artículo son consecuencias de los axiomas que definimos al principio, y no imponemos ninguna verdad firme sobre estos axiomas. Además, problemas como el difícil problema de la concienciacomplica aún más el asunto. Hasta que tengamos una buena respuesta para esto (que puede que nunca tengamos), es difícil estar 100% seguro de que no somos diferentes a las máquinas. El difícil problema de la conciencia es la razón fundamental por la que en realidad no soy más ateo, y la razón por la que me preocupo un poco por la vida artificial que crearemos.

De todos modos, este artículo fue solo una forma prolija de defender mi fondo de teléfono creado con difusión estable después de que tuve una discusión con mi amigo. Gracias por leer, vete a la mierda Meredith ❤️.