Creatividad marginal máxima

En 1998, Jaime Carbonell y Jade Goldstein propusieron la máxima relevancia marginal (MMR) como forma de equilibrar las preocupaciones de relevancia y diversidad. Esta medida es ciertamente útil en el contexto de la diversidad de resultados de búsqueda . Pero creo que también nos ayuda a pensar en la creatividad en una era de IA generativa .

La gente está preocupada por ChatGPT y otras herramientas generativas de IA por una variedad de razones. Temen la información errónea en forma de texto, imágenes, audio y video falsificados de manera convincente. Temen cómo la automatización alterará el mercado laboral global, dejando a las personas sin trabajo y dejando obsoletas sus habilidades. Algunas personas incluso temen un apocalipsis impulsado por Skynet .

Quizás la preocupación más grande e inmediata es que la IA generativa amenaza el sustento de los creadores e incluso la creatividad misma. Escritores y artistas en una variedad de medios temen y se oponen a que su arte o estilo sea copiado o imitado por modelos generativos de IA entrenados en su trabajo. Los creadores cuyo sustento depende del pago por su trabajo tienen buenas razones para rechazar la mercantilización. Algunos creadores incluso están tomando acciones legales para tratar de evitar que la IA generativa use su trabajo como datos de entrenamiento.

Simpatizo con estos creadores, pero también soy escéptico con los enfoques que buscan prohibir aprender de las creaciones, en lugar de copiarlas. Toda automatización, remontándonos a la revolución industrial, es una forma de entrenar máquinas basadas en los resultados del esfuerzo humano. La automatización literalmente ha abaratado muchas formas de trabajo humano, muchas de las cuales ya no pensamos en el trabajo que las personas deberían realizar. Quizás el impacto potencial de la IA generativa sea cualitativamente diferente, pero soy cauteloso a la hora de negar un principio que ha sido clave para el progreso de la humanidad durante siglos.

Carbonell y Goldstein definieron la relevancia marginal de un resultado de búsqueda como una combinación de su relevancia para la consulta y su distinción de otros resultados. Su definición formaliza la intuición de que los duplicados y casi duplicados de resultados relevantes no son útiles para los buscadores.

¿Podemos aplicar el mismo principio a la creatividad? Claramente, una copia literal de una obra no aporta ningún valor adicional y, por lo tanto, no aporta creatividad marginal. De manera similar, un trabajo altamente derivado no aporta mucho valor y, por lo tanto, demuestra poca creatividad marginal.

Algunos creadores podrían celebrar tal estándar como una demostración del valor de la creatividad humana en comparación con lo que puede producir la IA generativa. Pero yo no sería tan rápido para saltar a esa conclusión. Después de todo, muchas personas recurren a la copia oa la producción de obras altamente derivadas. Por el contrario, la IA generativa se ha mostrado capaz de producir resultados novedosos que no son, al menos de forma obvia, muy derivados de los trabajos existentes.

Por supuesto, todo trabajo creativo es derivado en el sentido de que se basa en lo que se ha creado antes. Sospecho que ni siquiera Eclesiastés fue el primero en señalar que “ no hay nada nuevo bajo el sol ”. La cuestión no es si una obra nueva es derivada, sino cuánta novedad añade a la totalidad de la obra anterior.

Considere el siguiente experimento mental: si un modelo de IA generativa no tuviera acceso a una parte particular de los datos de entrenamiento, ¿cuánto limitaría esa falta de acceso o afectaría su salida? ¿Qué pasaría si no tuviera acceso a nada producido por un autor o artista en particular? Este tipo de análisis de sensibilidad podría ayudarnos a cuantificar la diferencia entre copiar datos y aprender de los datos, y llegar a una noción de creatividad marginal. Después de todo, si la salida de un modelo de IA generativa depende tan críticamente de esa entrada o autor, podemos concluir razonablemente que el modelo se apoya tanto en esa entrada o autor como para agregar un mínimo de creatividad propia.

Admito que medir la creatividad marginal es aún más difícil que medir la relevancia marginal, ¡lo cual ya es bastante difícil! — y no espero que este experimento mental sea fácil de poner en práctica. Aún así, sospecho que tendremos que seguir este camino para lograr una definición de creatividad que ofrezca igualdad de condiciones para los humanos y la IA generativa.

Mientras tanto, espero que mis propios pensamientos derivados sigan siendo lo suficientemente informativos, perspicaces y entretenidos como para no ser reemplazado por una IA generativa en el corto plazo.