Venceremos a los bots

¿Cuál de estas reacciones has tenido con ChatGPT?

• Agitando los brazos, gritando: “IA está aquí. La IA está aquí.
• “¿Qué significa siquiera ser humano? ¿Cuál es el punto de cualquier cosa si las máquinas pueden hacer lo que yo puedo hacer?
• "¡Vamos a usarlo!"
• Evítalo. De hecho, prohibirlo. O tal vez controlarlo al menos”.
• “Tengo algo de respeto por mí mismo. ¡No lo estoy usando!”
• “Es sólo otra moda pasajera. Pasará.

Mientras me sumerjo con cautela en esta nueva tecnología, lo mejor que puedo hacer es hacer preguntas, un montón de ellas. Aquí estoy documentando parcialmente mi proceso de exploración. Aprendo mientras escribo y escribo mientras aprendo.

Hay un océano de información, ideas, pensamientos y opiniones (en su mayoría generados por humanos) sobre este tema, y ​​me encantaría que me dirijan a más preguntas o algunas respuestas.

P regunta 1: ¿Qué alfabetizaciones necesitamos desarrollar para poder utilizar bien la IA?

Según Duri Long, un investigador de IA centrado en el ser humano,

“La alfabetización en IA es un conjunto de competencias que permite a las personas evaluar críticamente las tecnologías de IA, comunicarse y colaborar de manera efectiva con la IA, y usar la IA como una herramienta en línea, en el hogar y en el lugar de trabajo”.

Ella divide las alfabetizaciones de IA en cinco preguntas de alto nivel:

• ¿Qué es la IA?
• ¿Qué puede hacer la IA?
• ¿Cómo funciona la IA?
• ¿Cómo perciben las personas la IA?

Esto es lo que estoy estudiando para desarrollar la alfabetización en IA:

Para aprovechar al máximo las tecnologías de IA, la ingeniería rápida es un campo que vale la pena explorar. De hecho, creo que pronto se compartirá rápidamente.

¿La ingeniería rápida es el arte? y la ciencia de hablar con herramientas basadas en IA para que hagan lo que usted quiere que hagan. Las indicaciones pueden variar de básicas a avanzadas. Y nos hará bien aprender indicaciones avanzadas.

Un ejemplo de una indicación básica es la indicación de funciones, que consiste en asignar una función a la herramienta de IA diciendo algo como: 'Eres un diseñador de planes de estudios'. O bien, un mensaje de Zero Shot Chain of Thought en el que le pide a la IA que piense paso a paso agregando esto al final de una pregunta: "Pensemos paso a paso", y nos explica su pensamiento.

La ingeniería rápida es un campo que desconocía hasta hace un mes. Pero evolucionar nos mantendrá relevantes a los humanos, así que aquí hay un enlace a un curso que estoy tomando:https://learnprompting.org/docs/intro

Para hacer un uso informado de la IA, es importante entender cómo funciona.

Saber cómo funciona la IA nos permite comprender sus limitaciones. Por ejemplo, en algunas conversaciones sobre IA, he escuchado esto a menudo: "La IA no tiene sentido de la veracidad" o "es solo una máquina de predicción de palabras". ChatGPT no es inteligente, y le damos significado a su salida al interpretarlo. Saber esto nos dice que miremos la salida con precaución. Por lo tanto, aprender sobre el funcionamiento de la IA y sus limitaciones inherentes es fundamental.

Según el Dr. Long, la IA es un vasto campo que abarca las ciencias cognitivas, el aprendizaje automático y la robótica. Actualmente estoy captando esta bestia desde el final de las preguntas, tales como: qué es el procesamiento del lenguaje natural (NLP), qué son los modelos de lenguaje grande (LLM), cómo funcionan y bajo qué roca estaba viviendo cuando todo esto fue desarrollando a mi alrededor?

El artículo de Stephen Wolfram, "¿Qué está haciendo ChatGPT... y por qué funciona?" es una lectura completa que comienza con lo básico. Recomiendo leer este artículo con lápiz y papel en la mano para tomar notas y dibujar diagramas esquemáticos. En una primera lectura, terminé reuniendo algunas ideas nebulosas:https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/

La conciencia de las preocupaciones éticas en torno a las tecnologías de IA puede ser un paso clave hacia su uso educado.

“Sobre los peligros de los loros estocásticos: ¿Pueden los modelos de lenguaje ser demasiado grandes?” es un documento que plantea cuestiones éticas en torno a la IA, incluido el sesgo en los datos , la equidad y el impacto ambiental . Si bien no se trata de ChatGPT (cubre hasta GPT-3), las inquietudes planteadas son relevantes para ChatGPT y otras herramientas de IA.

P regunta 2: ¿ Con qué tipo de datos se están entrenando estos modelos de lenguaje (LM) y de dónde obtienen estos datos? ¿Cuáles son los límites de estos datos?

En un nivel muy básico, entiendo que ChatGPT utiliza un corpus de datos llamado WebText, que consiste en datos generados por humanos disponibles en Internet. Además, WebText es una base de datos estática: una instantánea de los datos disponibles en Internet en un momento determinado. Vale la pena señalar que los datos de entrenamiento de ChatGPT están limitados a 2021.

Por ejemplo, le pregunté a ChatGPT sobre el reciente terremoto en Turquía y Siria y se refiere a otro terremoto que ocurrió en 2020. La respuesta genérica que sigue es plausible incluso en el escenario actual, que también nos muestra cómo asignamos significado al contenido.

En “Sobre los peligros de los loros estocásticos”, los autores advierten sobre los daños de los datos estáticos en un mundo con visiones sociales cambiantes. Dicen que los últimos movimientos sociales no aparecerán en la narrativa generada por herramientas como ChatGPT.

P regunta 3: ¿Qué tipo de sesgos tienen los modelos de lenguaje (LM)? ¿Y cómo filtran el contenido?

Internet no es representativa de toda nuestra sociedad. Sufre de desigualdad de acceso, supresión activa de voces por parte de los sitios de redes sociales, barreras del idioma, etc. Esto podría crear sesgos en los conjuntos de datos utilizados para entrenar herramientas como ChatGPT. Y los autores del artículo, "Sobre los peligros de los loros estocásticos: ¿Pueden los modelos de lenguaje ser demasiado grandes?" confirmar que los conjuntos de datos podrían potencialmente codificar sesgos contra las poblaciones marginadas.

“Existe el peligro de que los conjuntos de datos representen en exceso los puntos de vista hegemónicos y codifiquen sesgos potencialmente dañinos para las poblaciones marginadas…”

Dicen que los modelos de lenguaje no realizan la comprensión del lenguaje natural (NLU), sino que en su mayoría solo manipulan la forma lingüística. Si bien esto parece inofensivo en la superficie, puede ser malo ya que los humanos inevitablemente tomaremos el texto sintético como significativo.

Si los datos nos arrojan contenido sesgado, quién sabe cómo lo procesaremos, ¿qué puntos de control implementaremos?

P regunta 4: ¿El contenido que genera un motor de IA como resultado de mi indicación es legalmente mío o pertenece a ChatGPT? ¿Qué sucede con los problemas de derechos de autor en un mundo donde todos usan una herramienta de IA para escribir cosas?

P regunta 5: Por el contrario, ¿no deberíamos idear otro tipo de derechos de autor mediante el cual tengamos la opción activa de evitar que el contenido que generamos sea utilizado por conjuntos de datos de IA? ¿Y cómo afectarán tales reglas al campo?

Si bien pegué estas preguntas en ChatGPT para ver qué dice, no tengo comienzo de ninguna respuesta a estas preguntas. Estaré encantado de leer más sobre esto, por lo que todos los recursos son bienvenidos.

Pregunta 6: ¿Qué? ¿Existe un impacto ambiental significativo al ejecutar estos sistemas de aprendizaje profundo?

Aparentemente, hay un impacto ambiental al operar estos sistemas, y es significativo. Margaret Mitchell* y otros investigadores en su artículo se refieren a este hecho y dicen que mientras las sociedades marginadas se benefician poco de tal innovación, pagan altos costos ambientales.

Sobre los peligros de los loros estocásticos: ¿Pueden los modelos de lenguaje ser demasiado grandes?: Si bien el ser humano promedio es responsable de un estimado de 5t CO2e por año, los autores Strubell et. Alabama. entrenó un modelo Transformer (grande) con búsqueda de arquitectura neuronal y estimó que el procedimiento de entrenamiento emitió 284 t de CO2e.

P regunta 7: ¿A qué tipo de problemas de equidad conducen estas herramientas basadas en IA?

Herramientas como ChatGPT ya están detrás del muro de pago. La brecha existente debido a la falta de alfabetización, el acceso desigual a dispositivos informáticos/Internet y la alfabetización digital solo se verá exacerbada por estas tecnologías.

P regunta 8: ¿Cómo afectarán las herramientas de IA la generación y el análisis de datos de aprendizaje? ¿Qué tipo de impulso obtendrá la investigación de datos cualitativos?

Será interesante observar el espacio de las analíticas de aprendizaje para ver qué surge.

A nivel personal, mientras ejecutamos MOOC tradicionales en mi lugar de trabajo, codificamos datos cualitativos y categorizamos manualmente las respuestas para analizar los datos. Podríamos simplemente proporcionar los códigos y ejemplos a ChatGPT y recuperar datos categorizados. No puedo comenzar a preguntarme cómo estas herramientas podrían cambiar procesos como estos y posiblemente cambiar incluso las preguntas que hacemos.

P regunta 9: Pasando al tema que preocupa a la mayoría de los diseñadores de instrucción, maestros y universidades: ¿cómo impactará ChatGPT en la educación?

Si bien esta es una pregunta amplia con amplias posibilidades que requiere un análisis cuidadoso, algunas preguntas más estrechas que se deben tener en cuenta son:

• ¿Cómo impactará ChatGPT en la evaluación?
• ¿Qué hacemos si los estudiantes “hacen trampa”? ¿Deberíamos usar un software de detección de IA para evitar que los estudiantes lo usen?
• ¿Cómo podemos utilizar herramientas basadas en IA para una ayuda de aprendizaje más personalizada?
• ¿Las herramientas basadas en IA eliminarán la necesidad de generar cursos desde cero?
• ¿Eliminará el uso de herramientas basadas en IA la necesidad de pensar críticamente?

La pregunta de evaluación

Estoy seguro de que surgirán muchas estrategias para hacer frente a las evaluaciones. Aquí hay uno que me gustó especialmente. La Dra. Aneesha Bakharia dice que crear indicaciones adecuadas para generar el contenido adecuado requiere conocimientos, habilidades de razonamiento y habilidades de orientación. Por lo tanto, pedirles a los estudiantes que compartan su historial de avisos de IA es un enfoque. También compartió esta herramienta para rastrear, guardar y compartir el historial de avisos de IA:https://sharegpt.com/

No sé qué derechos otorgarán los estudiantes al aceptar usar estas herramientas relacionadas con la IA. Entonces, al igual que con cualquier otra herramienta tecnológica, creo que esta será una pregunta que muchos educadores explorarán a medida que comiencen a incorporar estas tecnologías en sus aulas habituales.

La pregunta del engaño

En algunas conferencias, escuché al Dr. Bakharia dar dos puntos muy interesantes sobre esta cuestión. Ella dice que hacer trampa no significará que los estudiantes usen IA para escribir respuestas, sino que usen indicaciones creadas previamente para generar respuestas. Eso es ver trampas desde una lente de IA.

Otro punto que señala es que probablemente no se pueda vencer a la tecnología con tecnología. Los maestros están hablando sobre el uso de herramientas para identificar el texto creado por IA. Pero los estudiantes ya están usando herramientas para parafrasear texto creado por IA para vencer al software de detección de IA. Entonces, esta persecución del gato y el ratón realmente no terminará bien.

La idea es creer en los estudiantes, enseñar por motivación intrínseca e incorporar tecnología de inteligencia artificial en la enseñanza.

La cuestión de la personalización

Creo que las herramientas de IA se convertirán en nuestra mejor guía de soporte en el trabajo. Microsoft está tratando de incorporar IA dentro de Teams. Probablemente tendremos IA en el flujo de trabajo que nos indicará y dirigirá (aunque las preocupaciones por la seguridad/privacidad/derechos de autor de los datos pueden ser altas en el uso empresarial de la tecnología en su forma actual).

Pero la pregunta es: ¿ la IA interrumpirá el aprendizaje en línea lo suficiente como para alejarnos de los modelos tradicionales centrados en el maestro o se convertirá en una ayuda en el modelo tradicional de enseñanza?

Por ejemplo, mientras investigaba los foros de discusión en el espacio MOOC tradicional, vi que están diseñados de tal manera que los instructores no necesitan responder al chat que ocurre en los foros de discusión. Los alumnos interactúan entre sí y reciben las respuestas "ideales" a través de videos pregrabados, soluciones preescritas o en forma de comentarios genéricos. En los MOOC tradicionales y lineales, ¿la IA nos permitirá ampliar nuestro alcance?

La cuestión de la redundancia

La IA ciertamente ayudará en el proceso de diseño de cursos en línea; es posible que no haga que los diseñadores de instrucción sean redundantes, pero liberará nuestro tiempo para hacer un diseño más crítico centrado en el alumno, ya que la IA ayudará a la generación de contenido. No estoy seguro, pero eso es mi conjetura, de todos modos.

Aquí hay un ejemplo alucinante de la Dra. Aneesha Bakharia que hizo que ChatGPT desempeñara el papel de un experto en la materia, un diseñador de aprendizaje y un programador (usando Liascript) para generar un curso que incluye su navegación, una función de búsqueda e interactividades. Y esa es la salida:https://liascript.github.io/course/?https://raw.githubusercontent.com/aneesha/chatgpt_grammar_course/main/README.md

La pregunta del pensamiento crítico

Los motores de búsqueda nos han proporcionado algo sin precedentes en la historia de la existencia humana. Nos han brindado la capacidad de buscar fuentes de datos, filtrarlas, identificar fuentes que parecen confiables, conectarnos con colegas en el campo de todo el mundo, escuchar diversos procesos de pensamiento y luego asimilar nueva información o formar nuevos conocimientos en un tema. En la superficie, parece que las herramientas basadas en IA nos servirán comida cocinada y eliminarán la necesidad de este proceso de exploración. Si bien eso puede ser cierto hasta cierto punto, no creo que las herramientas vayan demasiado lejos sin la intervención humana. Para que podamos utilizar bien esta tecnología, necesitaremos explorar, aprender, investigar y luego volver a interactuar con la tecnología.

Búsqueda aleatoria, exploración y conversación con compañeros: el tipo de investigación que conduce a lo que Daniel Pink llama la "colisión de ideas", es esencial para la producción creativa. Por lo tanto, creo que tendremos que usar herramientas basadas en IA de manera que no nos encasillemos activamente en los patrones de pensamiento o en la estructuración de ideas que arrojan estas herramientas. Será una práctica activa que necesitaremos continuar conscientemente .

Pregunta 10: Chat GPT, DALL-E son dos herramientas que he explorado hasta ahora. ¿Cuáles son las otras herramientas de IA disponibles que podemos comenzar a explorar?

Próximos pasos

La gente ha hecho un gráfico de efectos de Dunning Kruger para ChatGPT (herramientas basadas en IA), y supongo que lo he atravesado sin darme cuenta a través de esta publicación.

Explorar las formas en que se puede usar ChatGPT para aprender a diseñar sería lo siguiente en mi lista de cosas. Por supuesto, para hacer eso, también necesito aprender habilidades de indicación más avanzadas, que tal vez documentaré en otra publicación.

Con todo, seguiremos siendo los maestros de las máquinas, siempre y cuando sigamos aplicándonos y trabajando juntos. Entonces, ayúdenme a corregir estas preguntas, encontrar respuestas y compartir recursos interesantes para desarrollar más preguntas sobre el tema. ¡Juntos venceremos a los bots!

Recursos:

• *Bender, EM, Gebru, T., McMillan-Major, A. y Mitchell, M. (2021). Sobre los peligros de los loros estocásticos: ¿Pueden los modelos de lenguaje ser demasiado grandes?https://dl.acm.org/doi/pdf/10.1145/3442188.3445922
• *Datos de 2017, dehttps://ourworldindata.org/co2-emissions
• Wolfram S. ¿Qué es Chat-GPT y por qué funciona?https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/
• Bakharia A. Actuar como diseñador de aprendizaje: hacer que ChatGPT genere un módulo en línea:https://aneesha./act-as-a-learning-designer-getting-chatgpt-to-generate-an-online-module-8a16a2813bd6