¿Se puede confiar en las herramientas de IA como ChatGPT como un narrador preciso de la realidad? ¿Como compañero de trabajo? ¿Como una herramienta de trabajo?

Hola a todos. Soy Terrence Doyle, editor sénior aquí en Codeword, y se me ha asignado la responsabilidad de administrar a Aiden, nuestro pasante editorial de IA. Antes de entrar en detalles sobre mi investigación hasta este punto o el programa en general, quiero dejar en claro que no soy un desarrollador o ingeniero de IA de ningún tipo (es decir, no soy un experto en IA ). Soy escritor y periodista, así que, naturalmente, soy más un escéptico de la IA.

Creo que mi escepticismo está bien fundado, y estoy seguro de que muchos de los que leen este artículo lo comparten. Para este experimento (que explicamos aquí ), estamos utilizando modelos de lenguaje grandes como ChatGPT y software de arte generativo como Midjourney para realizar tareas de nivel interno. Análisis de voz y tono, investigación de noticias y tendencias, generación de texturas, manipulación básica de fotografías... cosas así. Pero las herramientas de IA son tan buenas como los datos que reciben, lo que significa que pueden adoptar las tendencias humanas más desagradables, como el racismo (ver aquí , aquí , aquí , aquí , aquí , la lista, deprimente, continúa) y una miríada de otros sesgos .

Además de eso, muchas aplicaciones de IA del consumidor funcionan con datos sin procesar: ¡los suyos y los míos y los de su tía y su dentista! - que puede presentar preocupaciones de privacidad y seguridad. Y luego están las preocupaciones éticas más profundas , como hasta qué punto se debe confiar en la IA para tomar decisiones previamente reservadas para la cognición humana.

Creo que es importante reconocer en voz alta todos esos sesgos, ansiedades y dilemas éticos bien documentados (y que aún existen), y nombrarlos por lo que son: evidencia de que no se puede confiar en las herramientas de IA como ChatGPT y Midjounrey como precisas. narradores de la realidad. Al menos no todavía.

Tal vez todo eso sea un poco pesado para algunos, ¡o incluso un poco elemental! Pero creo que es un contexto crítico a tener en cuenta, y haremos todo lo posible para hacerlo mientras intentamos integrar grandes modelos de lenguaje, en este caso, Aiden, en nuestros flujos de trabajo editoriales durante los próximos meses.

Entonces, ¿por qué estamos haciendo este experimento?

Como editor y ex periodista independiente, estoy profundamente preocupado (¿aterrorizado por?) por la capacidad creativa y despiadadamente productiva de los grandes modelos de lenguaje como ChatGPT. Llegar a fin de mes como profesional editorial, o en cualquier campo creativo, ya es bastante difícil, especialmente para los trabajadores independientes. No hace falta ser un científico informático para entender que una herramienta capaz de producir críticas literarias de nivel de posgrado en cuestión de segundos podría representar otra amenaza para los medios de subsistencia ya en peligro de los escritores y editores de carne y hueso.

Y esa amenaza no existe en un futuro lejano: está aquí ahora. Los editores como CNET ya están utilizando modelos de lenguaje grandes para producir contenido de blog . Resulta que esas publicaciones de blog están llenas de plagio (¡haz sonar la alarma del dilema ético!), pero aún es pronto, y los ChatGPT del mundo seguirán mejorando para ocultar su material de origen.

Entonces, si bien admito que estoy aterrorizado de que la IA me quite la comida de la mesa (inserte Terminator.gif, solo que en lugar de sacar una escopeta de una caja de rosas, está robando mi perrito caliente), también estoy bastante seguro de que la IA no irá a ninguna parte. cualquiera. El trabajo ahora es descubrir todas las formas en que la IA puede ser útil para las creatividades, pero lo que es más importante, todas las formas en que la IA no puede reemplazar las creatividades.

¿Alguna buena idea sobre este punto?

El trabajo que hago requiere que lea una gran cantidad de guiones largos, densos (y, a veces, difíciles de manejar), a veces hablamos de decenas de miles de palabras, para destilar y transformar información técnica en publicaciones de blog ordenadas, o incluso más ordenadas. Hilos de Twitter. No estoy diciendo que ChatGPT sea un reemplazo para la lectura profunda, pero me impresionó su capacidad para analizar este tipo de documentos extensos y proporcionar resúmenes concisos y coherentes.

En esta etapa, no me sentiría cómodo sustituyendo mi propia comprensión de lectura por la de Aiden, al menos no para el trabajo de cara al cliente. Pero hay alguna utilidad allí para fines internos, y planeamos aprovechar la capacidad de Aiden para analizar y refinar grandes bloques de texto pidiéndoles que produzcan resúmenes semanales que capturen el tenor de nuestras sesiones creativas de intercambio de ideas. Más por venir allí.

También hemos estado experimentando con algunos trabajos de voz y tono, aunque de una manera algo tonta: pidiéndole a Aiden que escriba cuentos al estilo de autores famosos, como Ernest Hemingway y Cormac McCarthy.

Al diablo con las preocupaciones de plagio, supongo, porque hasta este punto, Aiden ha sido lamentablemente inepto para recrear las vibraciones de The Sun Also Rises o Blood Meridian . (Proporcionaría un texto de muestra a continuación, pero ChatGPT está experimentando mucho tráfico en este momento, lo que significa que está inactivo y, por lo tanto, es incapaz de cargar chats anteriores. Confíe en mi palabra: Aiden no tiene un Pulitzer en su futuro.)

¿Que sigue?

Más retoques y más filosofía también. Tengo algunas ideas sobre el determinismo tecnológico , Marx y “ La ideología de California ” que planeo explorar en las próximas publicaciones de mi blog. También entraré en algunas cosas más (y con suerte más técnicas) del proceso. Tal vez el cerebro de Aiden se habrá cargado para entonces.