Demandas de AI: ¡Son simplemente TONTAS!

En los últimos días, hemos visto caer un par de demandas de dos grupos completamente separados que acusan al arte generado por IA como MidJourney y Dall-E de infracción de derechos de autor.

Los dos casos fueron presentados por entidades radicalmente diferentes y es probable que tengan resultados igualmente diferentes, pero ambos son inherentemente defectuosos y alegan cosas que, francamente, no podrían haber sucedido.

La primera es una demanda colectiva y, sinceramente, parece un robo de efectivo de algunos abogados turbios que se están aprovechando del hecho de que el arte de la IA no se entiende muy bien.

Lea sobre esto aquí: https://www.theverge.com/2023/1/16/23557098/generative-ai-art-copyright-legal-lawsuit-stable-diffusion-midjourney-deviantart

Getty Images presentó la segunda demanda contra Stable AI, creadores de Stable Diffusion. Vale la pena señalar que Getty está demandando a Stable AI en el Reino Unido frente a los EE. UU.

Más información: https://www.theverge.com/2023/1/17/23558516/ai-art-copyright-stable-diffusion-getty-images-lawsuit

Ninguno de estos palos parece probable que gane por mérito, aunque para ser justos, ese podría no ser su objetivo. Realmente no hay evidencia de que estas herramientas cometan violaciones de derechos de autor, aunque sí, puedes ver extrañas marcas de agua distorsionadas de Getty en imágenes en Stable Diffusion como la que se muestra a continuación. Explicaré por qué eso no es una violación de derechos de autor un poco más adelante.

Entonces… analicemos los problemas.

Primero, explicaremos cómo funciona realmente el arte de la IA. Mucha gente parece pensar que mira el arte existente y de alguna manera lo cambia un poco, y luego publica una nueva imagen basada en un trabajo específico o dos que se ingresaron en su conjunto de datos que se ajustan a la descripción del mensaje de texto.

Eso no es en absoluto lo que sucede en los generadores de arte de IA.

La IA genera arte a través de procesos de aprendizaje automático que utilizan lo que se llama una red neuronal , que es un sistema informático diseñado para imitar el cerebro humano.

Las Redes Neuronales (tanto biológicas como computarizadas) están formadas por un gran número de unidades de procesamiento simples, llamadas neuronas, que están conectadas entre sí y trabajan juntas para resolver un problema.

Cada neurona recibe información de otras neuronas, procesa esa entrada y luego envía la salida a otras neuronas. Al hacer esto, la red neuronal puede aprender a reconocer patrones y hacer predicciones basadas en la información que recibe.

Imagina un grupo de personas tratando de adivinar el peso de un objeto donde cada persona tiene un enfoque diferente. Algunos pueden usar tamaño, color, forma, etc. pero cada persona lo maneja a su manera.

En esta metáfora, cada persona es una "neurona" y puede o no llegar a la respuesta correcta, pero si observa todos sus datos en conjunto, pueden adivinar el peso con mayor precisión de lo que podría hacerlo una sola persona.

Este tipo de tecnología se usa a menudo en el reconocimiento de imágenes, la comprensión del lenguaje y muchos otros campos. Es una herramienta poderosa que puede ayudar a las computadoras a aprender y tomar decisiones como lo hacen los humanos, pero a una escala mucho mayor y más rápida. También se hace sin que un ser humano tenga que “programar” comportamientos paso a paso como lo hacen en las aplicaciones de software tradicionales.

Es importante tener en cuenta que ningún ser humano puede articular exactamente por qué una red neuronal toma las decisiones que toma, más de lo que podemos explicar el gusto por el arte de una persona individual. Así es como esa red funcionó con ese conjunto particular de datos.

Aplicaciones como MidJourney y Dall-E funcionan entrenando una red neuronal en un conjunto de datos de imágenes. Para hacer eso, "raspan" imágenes de la web y las cargan en la red neuronal para su análisis.

En la práctica, la red neuronal no escanea ni mira el arte, sino que encuentra patrones en el arte y guarda los datos alrededor de esos patrones. Por ejemplo, si doy a una red neuronal 50 000 imágenes de sillas y luego le pido que me dibuje una silla, encontraría los elementos en común de esas sillas y generaría algo completamente nuevo a partir de esos elementos.

Así que... vamos a pedirle a MidJourney que me dé algunas fotos de una silla. Eso es agradable y no controversial.

Cuando entré en el aviso de una silla, MidJourney revisó su base de datos a partir de miles de imágenes identificadas como una silla y creó algo completamente nuevo que no se deriva de ninguna obra de arte en particular, sino de los patrones que encontró comunes a todos. de ellos.

Ahora entremos audazmente en la frontera de las obras protegidas por derechos de autor: le pediré que genere una silla desde el puente del USS Enterprise en Star Trek the Next Generation.

Como una persona que ha consumido todos los medios de comunicación de Star Trek producidos en los últimos 50 años, puedo afirmar con confianza que si bien estas imágenes parecen pertenecer a un episodio de Star Trek, ninguna de ellas realmente lo ha sido.

¿Por qué? Porque en lugar de mirar las sillas reales del espectáculo, como estas:

Observó CADA silla que conoce, y luego CADA imagen de los muebles de Star Trek que conoce, y luego creó algo completamente nuevo a partir de ellos en función de su comprensión del lenguaje y los patrones comunes que encontró en el material de origen relevante.

¿Dónde está la violación de derechos de autor allí? No hay uno. Es arte nuevo inspirado en el arte anterior, como todo arte.

Eso significa que si tiene un montón de Getty Images con marcas de agua en sus datos de entrenamiento, la IA no es lo suficientemente inteligente como para reconocer que la marca de agua no es una parte legítima de la imagen. No está copiando ninguna imagen específica con derechos de autor, solo cree que la marca de agua pertenece allí porque aparece muchas veces en el conjunto de datos. (Tenga en cuenta también que no reproduce fielmente la marca de agua, la aproxima porque en realidad no entiende qué es. De nuevo... no hay problema de derechos de autor).

Ahora que hemos analizado cómo funciona la red neuronal e interactúa con el conjunto de datos de entrenamiento, entremos en un tema un poco más delicado y quizás un poco más subjetivo: ¿Qué pasa si le pido a MidJourney que cree una silla de Star Trek al estilo de ¿El arte callejero de Banksy?

OK... eso no es 100% lo que había imaginado cuando ingresé el aviso, pero es interesante, único y absolutamente no está cubierto por derechos de autor. Todavía es completamente nuevo y no puede relacionarlo con ninguna imagen existente.

Entonces, ahora que lo hemos hecho, entremos en imágenes que SÍ claramente se derivan del arte existente. ¿Qué tal si le pedimos a MidJourney que haga “Mr. ¿Spock se combinó con Marilyn Monroe al estilo del protegido de Banksy, Mr. Brainwash?

Bien... finalmente tenemos algo que parece tener elementos de imágenes con derechos de autor. Ese es claramente Leonard Nimoy y el cabello, el color de fondo y el maquillaje de lo que parece el retrato de Marilyn de Andy Warhol.

Ahora estamos en un territorio en el que parece que tenemos una obra de arte que se creó directamente mediante la combinación de obras de arte preexistentes.

Supongo que es una foto de prensa del Sr. Spock de una de las películas protagonizadas por el elenco original. Parece que podría ser este volteado horizontalmente con el uniforme un poco recortado.

Entonces echemos un vistazo al retrato de Andy Warhol Marilyn.

Así que sí, esas dos imágenes probablemente se combinaron directamente para crear la tercera de arriba.

Uh oh... ¿Me he arrinconado aquí con mis declaraciones anteriores sobre la frivolidad de estas demandas? Ni siquiera lo más mínimo. Dejame explicar.

Lo primero que debo mencionar es que la imagen de arriba de Spock combinada con Marilyn no fue generada por IA, es una pieza real de Mr. Brainwash que un tipo en Dubai está vendiendo por $ 4,500 en Ebay.

Sí, en serio: Enlace

Aquí hay una muestra de lo que realmente obtuve de MidJourney con intentos repetidos usando diferentes indicaciones para tratar de estafar a Mr. Brainwash.

La parte superior izquierda es mi favorita porque parece Dexter Morgan con una rubia Elizabeth Taylor como Edith Keeler en el episodio clásico de Trek "La ciudad al borde de la eternidad", el primer episodio transmitido por NBC, luego debajo está Sean Connery con la enfermera Capilla. Luego tenemos a Jerry Lewis, de cabello azul, con Joan Rivers, y finalmente, John Mulaney, con resaca, con Marilyn real.

Creó arte nuevo y completamente original que claramente no se inspiró directamente en obras existentes que se ajustaban al mensaje que se le dio. Esto realmente no se ve muy bien para las demandas.

Además de generar imágenes desde cero, otra cosa que MidJourney te permite hacer es combinar imágenes existentes. Probemos eso. Subiré las dos imágenes que el Sr. Lavado de cerebro combinó para crear la foto a la venta en Ebay y le diré que salga con su estilo.

De nuevo… arte nuevo, totalmente original. Definitivamente no es una violación de derechos de autor de cualquier forma que lo mires.

Incluso después de haber identificado las imágenes de origen e intentar usarlas específicamente para generar una violación de derechos de autor, no pude lograr que MidJourney lo hiciera. Créeme, lo intenté.

¿Por qué? La violación de los derechos de autor no es para lo que fue diseñada esta máquina, ni es lo que realmente hace. Crea nuevo arte basado en su comprensión del lenguaje después de haber sido entrenado en un gran conjunto de imágenes. El resultado es francamente mucho menos derivado que mucho arte creado por humanos.

Si fuera la máquina de estafa que estos trajes afirman que es, habríamos obtenido algo que se pareciera vagamente al arte humano real del Sr. Brainwash. (En cambio, obtuvimos una foto de Paul McCartney, ya sea Rick Wright de Pink Floyd o Che Guevara debajo de él, una mujer que se parece más a Emma Stone que a Marilyn, y lo que parece ser Kiefer Sutherland con el sombrero de Gene Kelly de Cantando bajo la lluvia. )

Así que… ahora entremos en la legalidad de todo esto, en lo que la ley realmente dice y los argumentos que estos abogados podrían presentar.

¿Van a argumentar estos abogados que si bien está bien que un artista de carne y hueso como el Sr. Brainwash combine dos piezas de arte fácilmente identificables en una nueva obra de la que dicho artista posee los derechos de autor y de la que se beneficia directamente, de alguna manera no está bien para un programa de computadora para generar obras de arte completamente nuevas sin siquiera venderlas? (No olvide que lo que hizo el artista humano ni siquiera se acerca a lo que realmente hace el programa de computadora).

Cuando lo pones así, realmente no parece que la demanda colectiva en particular tenga mucho caso. Luego, cuando lo sigue con preguntas como "¿Qué imágenes de IA específicamente afirma que violan la ley de derechos de autor?" o "Demostrar cómo usar esta herramienta para crear contenido que viole los derechos de autor", el argumento se desmorona muy rápido. Por eso no creo que llegue a juicio.

Entonces, ¿qué pasa con el "cargo" de que rasparon la web e incluyeron todo este arte en los modelos de aprendizaje automático sin permiso?

ACTUALIZACIÓN: Me ha llamado la atención que el siguiente párrafo no es tan sencillo como creía.

En el tiempo transcurrido desde ese segundo fallo del Noveno Circuito, el tribunal inferior revocó su decisión y el caso terminó resolviéndose fuera de los tribunales.

El caso es un poco confuso, pero parece que el fallo se revirtió porque HiQ mintió rotundamente sobre lo que estaba haciendo.

Parece que eso deja bastante seguro el estado legal del raspado real, ya que hay otra jurisprudencia sobre esto (me viene a la mente el fallo de Google News), pero es una pregunta mucho más abierta de lo que creía cuando escribí esto.

Eso es completamente legal en los EE. UU. con mucha jurisprudencia detrás, incluidos dos fallos del Noveno Circuito. https://techcrunch.com/2022/04/18/web-scraping-legal-court/

Además... al menos en el caso de StableAI, ni siquiera extrajeron los datos ellos mismos. Lo obtuvieron de un tercero sin fines de lucro . Si eso fuera ilegal (que enfáticamente no lo es), la demanda debería dirigirse a ese grupo, que en particular no tiene su sede en los EE. UU .

La violación de los TOS de un sitio tampoco es un delito, aunque aún puede buscar remedios civiles (hablaré sobre cómo eso no ayudará a la demanda colectiva un poco más adelante). https://www.eff.org/deeplinks/2018/01/ninth-circuit-doubles-down-violating-websites-terms-service-not-crime

Salvo un caso de la Corte Suprema o una nueva legislación, este statu quo no cambiará.

Admitiré que esta encarnación particular de la Corte Suprema no parece muy interesada en precedentes y <tos> un poco inclinada hacia los intereses corporativos, así que supongo que no podemos descartarlo, pero en términos de una demanda civil en el mundo actual. es tan difícil argumentar que las firmas de inteligencia artificial violaron intencionalmente la ley tal como están las cosas.

Luego está el uso legítimo. La razón por la cual Mr. Brainwash puede “Remezclar” a Marilyn Monroe y Spock de Andy Warhol es debido a la Disposición de Uso Justo de la Ley de Derechos de Autor .

Entre otras cosas, esa disposición establece que si una obra es lo suficientemente "transformadora", puede considerarse una obra completamente nueva con los derechos de autor asignados al creador, incluso si el contenido original ya tenía derechos de autor. (Estoy seguro de que la elección de darle la vuelta al Sr. Spock y cambiar el fondo a Púrpura se hizo teniendo en cuenta esa disposición específica de uso justo).

Entonces, con todo eso, esto es lo que sabemos que es cierto:

Extraer contenido web es legal*.

Los Términos de servicio del sitio web no son legalmente vinculantes.

El proceso de generación de imágenes de IA no implica "estafar" a ningún artista u obra de arte en particular, ni tampoco se almacenan o referencian directamente las obras de artistas individuales. También es muy difícil en la práctica, si no imposible, lograr que los generadores de arte de IA emulen directamente el trabajo existente sin transformarlo significativamente.

Entonces, ¿qué queda por discutir? Los trajes parecen bastante cortados y secos desde un punto de vista legal. No estoy seguro de qué es exactamente lo que pretenden reclamar estos abogados, pero en la superficie estas demandas parecen tontas, si no completamente estúpidas, al menos bajo la ley estadounidense.

Es muy probable que la demanda colectiva termine abruptamente con la derrota de los demandantes, si no con un despido total si llega a juicio. Simplemente no hay forma de que demuestren que se han producido violaciones de derechos de autor, y es muy fácil demostrar que no lo hicieron, como hice anteriormente.

Dejando a un lado los problemas tecnológicos, la legalidad del artículo de Mr. Brainwash no se ha cuestionado desde que se produjo hace casi una década, por lo que parece bastante difícil insistir ahora en que lo mismo es una infracción solo porque lo hizo una máquina, especialmente cuando la máquina ni siquiera hizo nada de eso.

Dicho todo esto, los abogados involucrados dan bastante miedo y la mayoría de los acusados ​​son empresas jóvenes sin mucha experiencia en litigios, por lo que pueden llegar a un acuerdo independientemente de los méritos del caso. Tendremos que ver.

Todavía no tenemos los detalles completos de la demanda de Getty, pero parece que también están demandando por un incumplimiento de los términos de servicio con respecto al raspado del sitio web de Getty frente a solo una violación de derechos de autor. Honestamente, no conozco los detalles de las leyes de derechos de autor del Reino Unido ni qué tan serio es el Reino Unido para hacer cumplir los TOS en la web, pero el hecho de que se trajo allí en comparación con los EE. UU. Junto con el hecho de que el Reino Unido tiene algunos mecanismos para castigar a las empresas que traen demandas frívolas, puede haber algunos dientes en esta demanda.

No me refiero a los dientes en el sentido de que es probable que Getty gane la demanda en base a un caso legal sólido, pero dado que Getty se encuentra entre las empresas más litigiosas en el espacio de los derechos de autor con bolsillos muy profundos y parece comprender las ramificaciones de la IA. generación de imágenes para su negocio, es probable que terminen con lo que vinieron a buscar: las regalías pagadas por las empresas de inteligencia artificial para raspar "éticamente" sus imágenes.

Eso no es una especulación de mi parte, en realidad es el objetivo declarado de su director ejecutivo frente a demandar por daños o tratar de detener el arte de la IA como concepto y supongo que eso es... ¿bueno? De todos modos, es mejor que la respuesta de las discográficas a Napster. Aún así, Getty no es la entidad que me gustaría que estableciera una política de derechos de autor en Internet.

Entonces, ahora que hemos establecido cuán defectuosas son estas demandas, hablemos un poco sobre las cosas reales por las que la gente está molesta, las preguntas éticas y prácticas muy reales que rodean a algunas de ellas, y lo que podría tener sentido como un camino a seguir.

La gente está molesta porque las máquinas están creando arte desde cero que es tan bueno o mejor que el arte que pueden crear los humanos.

Toca un punto espiritual. Nos gusta pensar que estamos “por encima” del resto de la naturaleza si no hemos sido creados con algún tipo de chispa divina y, en general, consideramos las actividades creativas como el arte como prueba A para demostrarlo.

Las máquinas creadas por humanos ahora pueden hacer efectivamente lo mismo, pero más rápido, más barato y, en muchos casos, objetivamente mejor. Desde un punto de vista puramente emocional que incomoda a mucha gente porque de repente los humanos no parecen tan especiales, y es fácil entender por qué tenemos esa reacción.

Si eso no fuera suficiente, esta nueva tecnología tiene el potencial de diezmar por completo a todo un sector de la fuerza laboral. ¿Por qué el dueño de un negocio le pagaría a un artista cuando solo puede usar un mensaje de texto para obtener lo que necesita?

Los artistas ahora se unen a los trabajadores de la línea de montaje, los editores de música, los taxistas y muchos otros tipos de trabajadores cuyo flujo de ingresos ha sido interrumpido o destruido por la tecnología en las últimas décadas.

Los dos problemas anteriores son muy reales y es probable que necesiten cambios sociales profundos para resolverlos, pero ninguno de ellos se solucionará mediante demandas por derechos de autor mal concebidas. No solo eso, la discusión y la desinformación provocada por las propias demandas desvían la atención de hablar sobre los problemas reales o las soluciones reales.

Con todo lo anterior en mente, podemos llegar a escenarios en los que estas herramientas podrían usarse para violar la ética y posiblemente incluso infringir la ley, y por qué, incluso en esos casos, estas demandas son tontas y las empresas que fabrican el software no pueden. ser responsable si sucede.

Comencemos con el caso de Greg Rutkowski . Es un artista muy conocido en el género de fantasía que ha trabajado para Dungeons and Dragons, varios videojuegos y portadas de libros, y muchos otros.

Su nombre apareció como uno de los más populares en las indicaciones de arte de IA, y no está entusiasmado con eso. Su preocupación específica es que su trabajo real sea eclipsado por el arte generado por IA indistinguible de su propio estilo en el que no tuvo nada que ver. Es una preocupación muy válida, pero no es un escenario para el que la iteración actual de la ley esté preparada.

Luego tenemos a Kris Kashtanova . Hizo una novela gráfica completamente usando arte de IA y la Oficina de Derechos de Autor de EE. UU. le otorgó derechos de autor. ACTUALIZACIÓN: De hecho, eso ahora está en duda, con un procedimiento en curso para determinar si los derechos de autor se aplican principalmente debido al problema de tipo "mono" al que me refiero a continuación.

La cuestión es que el personaje principal se parece a Zendaya, que no tuvo nada que ver con el proyecto. También está la cuestión de quién realmente "creó" esta obra de arte. Si el autor no lo hizo, no puede ser elegible para los derechos de autor, como aquella vez que un mono tomó selfies y el fotógrafo propietario de la cámara no pudo reclamar los derechos de autor sobre ellos. (Sí, eso realmente sucedió y los abogados reales pasaron tiempo discutiéndolo en la corte: Enlace )

Así que... de nuevo tenemos un escenario que nuestra ley actual no tiene absolutamente ningún método para tratar. Simplemente no pensaron en eso cuando se escribió la ley.

Digamos que Zendaya decide demandar por "derechos de semejanza" o algo así. Digamos que Greg Rutkowski quiere perseguir a alguien que vende camisetas que se parecen a su trabajo pero no lo son, y el propietario del sitio hizo un SEO con el nombre de Greg en la tienda web.

En esos casos, cualquier intento de demandar a las empresas que fabrican las herramientas de IA sería rechazado por una disposición de la Ley de Decencia en las Comunicaciones que ha estado bastante en las noticias últimamente, la Sección 230.

Esa ley protege a un proveedor de servicios de ser considerado responsable por las acciones de sus usuarios. Ya sea que se trate de un doble del arte de la IA o de alguien que hace afirmaciones falsas sobre un restaurante en Yelp, el proveedor de servicios en cuestión tiene un escudo casi impenetrable desde el punto de vista legal, al menos en los EE. UU.

Sería como si el gobierno de EE. UU. demandara a Adobe porque alguien usó Photoshop para hacer dinero falso. El acto delictivo y/o acción dañina fue realizado por el usuario, no por el fabricante del software.

(De hecho, hay jurisprudencia que hace excepciones a la Sección 230 en el caso de software diseñado específicamente para eludir los derechos de autor, pero creo que hemos demostrado que las plataformas de IA no entran en esa categoría).

Entonces, ¿cuál es el camino a seguir? Desafortunadamente, las personas que redactarán estas leyes son en gran medida las mismas que no hicieron preguntas significativas a Mark Zuckerberg cuando lo tuvieron en una audiencia, además de ahora George Santos, quien al menos fundó Google y se sentó en la Corte Suprema durante la Administración Carter.

Tanto los demócratas como los republicanos han indicado su deseo de "frenar" a la gran tecnología en esta sesión legislativa, y existen serios problemas con ambos enfoques, en gran parte debido a la falta de comprensión de los problemas. Una vez que los cabilderos se pongan manos a la obra, será aún peor.

Sería genial si alguien pudiera incluso articular una plataforma en torno a esto, pero hasta ahora eso no ha sido posible.

Ideas como "Los modelos de capacitación deben ser opcionales o no", "El arte de la IA debe estar claramente etiquetado y separado del arte humano" o "Los nombres de artistas vivos no se pueden usar en indicaciones sin su permiso" parecen una buena opción. lugar para iniciar la discusión, pero no tengo muchas esperanzas de que nuestro gobierno vaya por ese camino.

El único remedio inmediato es que las propias empresas de IA decidan que quieren actuar en nombre de los artistas. OpenAI y StableAI parecen querer hacerlo, al menos por ahora.

La cuestión es que, en este momento, estamos en una fase temprana y las empresas que hacen esto son en gran medida impulsadas por la tecnología frente a las ganancias. Una vez que eso cambie, espere voces mucho más fuertes y demandas mucho más tontas.

Microsoft acaba de anunciar un acuerdo con OpenAI ayer, y no me sorprendería ver jugadores como MidJourney engullidos por gigantes como Adobe o incluso Getty Images. Una vez que las empresas tienen que mostrar un crecimiento de los ingresos trimestrales completamente irreal o ser brutalizadas por Wall Street, los ideales elevados tienden a desaparecer.

Para resumir, si bien hay muchas cosas importantes que resolver sobre la ética y la ley que rodean el arte de la IA, espero que en este punto quede claro que estas demandas en particular no son viables de ninguna manera desde un punto de vista legal ni le harán nada a nadie. pero los abogados no sirven si de alguna manera tienen éxito.

Al igual que todas las demás tecnologías disruptivas, nuestra sociedad tiene un enfoque de "Dispara primero, pregunta después". Ese método tiene beneficios a medida que el progreso tecnológico se ha disparado durante los últimos 200 años, pero terminamos con problemas como este.

Además de eso, la ciencia ficción está llena de historias de advertencia sobre lo que sucede cuando la tecnología se comporta de manera inesperada. Tal vez haga que ChatGPT me escriba algunos nuevos.