Los primeros días de Youtube estaban llenos de lindos videos de gatos. Por otro lado, solo en su primer trimestre, ChatGPT superó los exámenes médicos y obtuvo un MBA . Afortunadamente, reprobó el examen de contabilidad y demostró de una vez por todas que equilibrar los libros es una ficción que incluso un modelo de IA bastante avanzado tiene dificultades para comprender (prueba A: FTX).

En una nota más seria, las posibilidades son inmensas con un modelo de IA conversacional. Pero ChatGPT no es solo un modelo de IA de conversación, es decir, el bot de chat amigable que ves en los sitios web en estos días. Es mucho más que eso. Y sus amplias capacidades me hacen preguntarme acerca de las implicaciones de privacidad asociadas a las mismas.

DATOS | INFORMACIÓN | ACTIVO

Para apreciar completamente las implicaciones de privacidad, primero comprendamos la estructura en la que los datos, cualquier dato, aumenta su utilidad. En resumen, la utilidad aumenta en las funciones escalonadas a medida que los datos se procesan y sintetizan en información contextual. Además, cuando se reúnen diferentes tipos de información (una actividad que requiere cierto nivel de inteligencia), el resultado es un activo. Los estados financieros, los informes comerciales trimestrales, los informes de diagnóstico médico, los casos comerciales, los documentos de arquitectura, etc., son ejemplos de activos: contienen datos e información reunidos en un contexto que hace que el todo sea mayor que la suma de sus partes (piezas individuales de datos e información).

Buscamos en Google información sobre temas particulares todo el tiempo. Por ejemplo, si busco saber el número de aeropuertos comerciales en los EE. UU., eso es algo con lo que Google puede ayudarme. Sin embargo, si quiero preparar una carta para mi congresista solicitándole que reconsidere la ubicación de un aeropuerto por razones cívicas, Google puede ayudarme con cartas similares escritas en el pasado. ChatGPT, por otro lado, puede escribirme una carta. Se produce un activo real que luego se puede enviar al congresista. Dicho de otra manera, mientras que la búsqueda de Google te da todos los ingredientes para preparar tu correo electrónico, ChatGPT te da la comida. No es de extrañar que haya muchas nuevas empresas que descubren formas innovadorasusar ChatGPT para proporcionar un servicio. Sin embargo, la pregunta es cuando construyes un servicio sobre ChatGPT, ¿eres responsable de los resultados?

Por supuesto, el punto de vista purista sobre la privacidad puede ser que todo lo que está realmente en Internet abierto es público por definición. Por lo tanto, un motor de búsqueda o un modelo de lenguaje gigantesco que utilice esos datos para presentar información no debe considerarse una violación de la privacidad. Y desde un punto de vista purista, pueden tener razón. Sin embargo, y esto es bastante aplicable, no es un recurso en sí mismo sino el uso de ese recurso lo que crea externalidades. Caso en cuestión: los combustibles fósiles son un recurso. Estuvieron dentro de la tierra durante milenios y tuvieron poco impacto en el medio ambiente. Sin embargo, en el momento en que comenzamos a usarlos (impulsando gran parte del desarrollo moderno), fue entonces cuando comenzaron a aparecer las externalidades. Y las externalidades no son divertidas.

“Hola ChatGPT, ¿puedes preparar un artículo sobre las externalidades del uso de combustibles fósiles?”

“Bueno, lo siento, me estoy quedando sin capacidad ahora. Pero déjame buscar en Google las externalidades por ti”.

Ahí radica la gran diferencia entre usar la Búsqueda de Google y ChatGPT. Uno está sentado encima de un recurso y hace todo lo posible para responder las preguntas que plantea. Es tu abuela: vas a hacer una pregunta y ella dice: "bueno, ¿cuánto tiempo tienes para entender lo que puedes o no estar preguntando?". El otro es un consultor demasiado entusiasta. Su objetivo no es solo brindarte información, sino brindarte un activo que puedas utilizar directamente. Es como decir "Alexa, crea mi informe comercial trimestral utilizando datos de Salesforce". He aquí, el informe trimestral está aquí, listo para enviárselo a su jefe.

ChatGPT (o avatares similares de Large Language Models) es así de poderoso. Pero espera, ¿qué pasa con esa pequeña y molesta cosa llamada privacidad? ¿Cómo considera las implicaciones de privacidad de algunos casos de uso populares de ChatGPT? Veamos dos de los casos de uso:

1. Preguntas y respuestas junto a la chimenea con ChatGPT
2. ChatGPT impulsando nuevas aplicaciones

¿Existe la posibilidad de que un modelo de IA conversacional que parezca semi-sensible para las personas normales que interactúan con él comience a pisotear la privacidad? Hmmm, consideremos un escenario totalmente inocuo. Imagine que se han violado los datos de una organización y, como parte de la violación, se robaron datos personales pertenecientes a millones de personas. En realidad, lo siento, no tienes que imaginar esto en absoluto, esto sucede a intervalos regulares. De hecho, hay organizaciones que han expuesto los datos confidenciales de sus clientes no una o dos veces, sino casi como un ritual anual.

Bien, aparte de eso, por un segundo pensemos en lo que sucede con estos datos violados. Se vende a tantos postores como sea posible. Al igual que el software, cada comprador obtiene un derecho no exclusivo para usar esos datos personales. Inevitablemente, durante un período de tiempo, algunos o todos esos datos estarán disponibles en la web. Así es como muchas aplicaciones de contraseñas lo empujan a cambiar sus contraseñas con advertencias como "esta contraseña puede haber sido comprometida como parte de una violación de datos".

Ahora, nuestro ChatGPT, al ser el conocedor de todo el conocimiento que existe, se encuentra con este tesoro oculto de información y felizmente/con avidez aprende de él (bueno, es IA después de todo). La pregunta es qué tipo de controles tiene implementados para filtrar y eliminar cualquier información personal del contenido del que está aprendiendo. No es una pregunta baladí porque sí quieres que la modelo aprenda sobre personajes famosos.(¿Will Smith?) pero no sobre individuos regulares (¿Greg Smith?). Incluso para Will Smith, probablemente no quieras que ChatGPT conozca sus direcciones físicas. Lo más probable es que los poderes de Open AI hayan modificado sus algoritmos para abordar este problema con seguridad... Es solo que los modelos de IA tienen esta capacidad de autoaprendizaje (de lo contrario, se vuelven obsoletos muy rápido). Entonces, si hace un trabajo demasiado bueno controlando exactamente de qué fuentes está aprendiendo un modelo de IA que tiene acceso a Internet, podría frustrar todo el propósito de un modelo de lenguaje grande.

Entonces, ¿dónde nos deja eso? Bueno, por un lado, usted y yo no tenemos forma de conocer las fuentes de las que están aprendiendo los modelos impulsados ​​​​por IA. Por lo tanto, es posible que tengamos que suponer que parte de su salida puede contener información que es privadamente pública ("su SSN filtrado que no conoce y que no debería ser público"). Lo que significa que necesita una forma de escanear toda la salida de ChatGPT en busca de PII/información protegida/sensible, ya sea manualmente o usando otro modelo de IA (tos, tos - www.lightbeam.ai - OK, este es mi único complemento, lo prometo).

ChatGPT POTENCIANDO NUEVAS APLICACIONES: Y el molesto dilema de la privacidad

La siguiente pregunta es la implicación de usar ChatGPT para crear nuevos servicios y aplicaciones. Debo decir que estoy muy entusiasmado con las posibilidades que ChatGPT podría generar en la comunidad emprendedora para crear soluciones innovadoras. Realmente puede poner a ChatGPT al nivel de Linux, algo que puede generar millones de aplicaciones útiles. Sin embargo, aquí también, recuerde que ChatGPT no solo le brinda las respuestas o la información. Le está dando el activo listo para consumir. No usa ChatGPT solo para obtener algunos ejemplos de un correo electrónico que envía a su equipo sobre el excelente último trimestre y el camino a seguir. Literalmente obtienes tu correo electrónico listo para ser enviado. A medida que las aplicaciones aprovechan ChatGPT para automatizar lo mundano y ayudar al proceso creativo,

Mi conjetura es tan buena como la tuya (que básicamente es que podría seguir siendo el salvaje oeste hasta la primera oleada de demandas). Después de eso, sospecho que ChatGPT tendrá un modo de privacidad estricto para sus respuestas que sería menos divertido y menos informativo. Para los valientes, pueden tener el modo normal "Me importa un carajo", al menos para uso privado/de investigación (con suerte, el uso comercial siempre será el modo de privacidad).

Adelante los valientes de la privacidad. No tenemos idea de hacia dónde se dirige el barco. Todo lo que podemos esperar es un viaje emocionante (y, con suerte, menos papeleo/llenado de formularios aprovechando la automatización impulsada por IA).