Les débuts de Youtube étaient remplis de vidéos de chats mignons. D'autre part, juste au cours de son premier trimestre, ChatGPT a réussi les examens médicaux et a obtenu un MBA . Heureusement, il a échoué à l' examen de comptabilité prouvant une fois pour toutes que l'équilibre des livres est une fiction, même un modèle d'IA assez avancé a du mal à comprendre (pièce A : FTX).

Plus sérieusement, les possibilités sont immenses avec un modèle d'IA conversationnelle. Mais ChatGPT n'est pas seulement un modèle d'IA de conversation, c'est-à-dire votre chat bot convivial que vous voyez sur les sites Web de nos jours. C'est bien plus que ça. Et ses capacités étendues me font m'interroger sur les implications en matière de confidentialité qui y sont associées.

DONNÉES | INFORMATIONS | ACTIF

Pour apprécier pleinement les implications sur la vie privée, comprenons d'abord la structure dans laquelle les données, toutes les données, augmentent leur utilité. En bref, l'utilité augmente dans les fonctions d'étape à mesure que les données sont traitées et synthétisées en informations contextuelles. De plus, lorsque différents types d'informations sont rassemblés (une activité nécessitant un certain niveau d'intelligence), le résultat est un atout. Les états financiers, les rapports d'activité trimestriels, les rapports de diagnostic médical, les analyses de rentabilisation, les documents d'architecture, etc. sont tous des exemples d'actifs - ils contiennent des données et des informations rassemblées dans un contexte qui rend le tout supérieur à la somme de ses parties (éléments individuels de données et informations).

Nous recherchons constamment des informations sur des sujets particuliers sur Google. Par exemple, si je cherche à connaître le nombre d'aéroports commerciaux aux États-Unis, Google peut m'aider. Cependant, si je veux préparer une lettre à mon membre du Congrès lui demandant de reconsidérer l'emplacement d'un aéroport pour des raisons civiques, tout ce que Google peut m'aider est peut-être des lettres similaires écrites dans le passé. ChatGPT, d'autre part, peut réellement écrire une lettre pour moi. Il y a un actif réel qui est produit et qui peut ensuite être envoyé au membre du Congrès. En d'autres termes, alors que la recherche Google vous donne tous les ingrédients pour préparer votre e-mail, ChatGPT vous donne le repas. Pas étonnant que de nombreuses startups trouvent des moyens innovantsutiliser ChatGPT pour fournir un service. La question est cependant, lors de la création d'un service sur ChatGPT, êtes-vous responsable des résultats ?

Bien sûr, le point de vue puriste sur la vie privée peut être que tout ce qui se trouve réellement sur Internet ouvert est public par définition. Par conséquent, un moteur de recherche ou un gigantesque modèle de langage utilisant ces données pour présenter des informations ne doit pas être considéré comme une violation de la vie privée. Et d'un point de vue puriste, ils ont peut-être raison. Cependant, et cela est assez largement applicable, ce n'est pas une ressource elle-même mais l'usage de cette ressource qui crée des externalités. Par exemple, les combustibles fossiles sont une ressource. Ils étaient à l'intérieur de la terre depuis des millénaires et avaient peu d'impact sur l'environnement. Au moment où nous avons commencé à les utiliser (alimentant une grande partie du développement moderne), eh bien, c'est à ce moment-là que les externalités ont commencé à apparaître. Et les externalités ne sont pas amusantes.

"Hey ChatGPT, pouvez-vous préparer un article sur les externalités de l'utilisation des combustibles fossiles"

"Eh bien, désolé, je manque de capacité maintenant. Mais laissez-moi chercher sur Google les externalités pour vous.

C'est là que réside la grande différence entre l'utilisation de la recherche Google et ChatGPT. L'un est assis au-dessus d'une ressource et fait de son mieux pour répondre aux questions que vous posez. C'est votre grand-mère - vous allez poser une question, et elle dit, "eh bien, combien de temps avez-vous pour comprendre ce que vous pouvez ou ne pouvez pas demander". L'autre est un consultant trop zélé. Son objectif n'est pas seulement de vous donner des informations, mais de vous fournir un atout que vous pouvez directement utiliser. C'est comme dire "Alexa, crée mon rapport d'activité trimestriel en utilisant les données de Salesforce". Et voilà, le rapport trimestriel est là, prêt à être envoyé à votre patron.

ChatGPT (ou des avatars similaires de Large Language Models) est si puissant. Mais attendez, qu'en est-il de la petite chose embêtante appelée confidentialité ? Comment considérez-vous les implications en matière de confidentialité de quelques cas d'utilisation populaires de ChatGPT ? Examinons deux des cas d'utilisation :

1. Questions-réponses au coin du feu avec ChatGPT
2. ChatGPT alimente de nouvelles applications

Y a-t-il une chance qu'un modèle d'IA conversationnel qui semble semi-sensible aux personnes ordinaires qui interagissent avec lui commence à empiéter sur la vie privée ? Hmmm, considérons un scénario totalement anodin. Imaginez que les données d'une organisation ont été violées et que, dans le cadre de la violation, des données personnelles appartenant à des millions de personnes ont été volées. En fait, désolé, vous n'avez pas du tout à imaginer cela - cela se produit à intervalles réguliers. En fait, certaines organisations ont exposé les données sensibles de leurs clients non pas une ou deux fois, mais presque comme un rituel annuel.

OK, cette diatribe mise à part, réfléchissons une seconde à ce qu'il advient de ces données piratées. Il est vendu à autant d'enchérisseurs que possible. Tout comme les logiciels, chaque acheteur obtient un droit non exclusif d'utiliser ces données personnelles. Inévitablement, au fil du temps, une partie ou la totalité de ces données devient disponible sur le Web. C'est ainsi que de nombreuses applications de mot de passe vous poussent à changer vos mots de passe avec des avertissements comme "ce mot de passe peut avoir été compromis dans le cadre d'une violation de données".

Maintenant, notre ChatGPT, étant le connaisseur de toutes les connaissances existantes, tombe sur ce trésor d'informations et en apprend joyeusement / avidement (hé, c'est l'IA après tout). La question est de savoir quel type de contrôles a-t-il mis en place pour passer au crible et supprimer toute information personnelle du contenu dont il apprend ? Ce n'est pas une question triviale car vous voulez que le modèle en apprenne sur les personnes célèbres(Will Smith ?) mais pas sur des individus ordinaires (Greg Smith ?). Même pour Will Smith, vous ne voulez probablement pas que ChatGPT connaisse ses adresses physiques. Les pouvoirs d'Open AI ont très certainement modifié leurs algorithmes pour résoudre ce problème très probablement… C'est juste que les modèles d'IA ont cette capacité à s'auto-apprendre (sinon ils deviennent obsolètes très rapidement). Et donc, si vous faites un trop bon travail en contrôlant exactement quelles sources un modèle d'IA qui a accès à Internet apprend, cela pourrait bien aller à l'encontre de l'objectif d'un grand modèle de langage.

Alors, où en sommes-nous? Eh bien, pour commencer, vous et moi n'avons aucun moyen de connaître les sources à partir desquelles les modèles alimentés par l'IA apprennent. Ainsi, nous devrons peut-être supposer que certaines de ses sorties peuvent contenir des informations qui sont publiques en privé ("votre SSN divulgué que vous ne connaissez pas et ne devrait pas être public"). Ce qui signifie que vous avez besoin d'un moyen d'analyser toutes les sorties ChatGPT pour les informations PII/protégées/sensibles, soit manuellement, soit en utilisant un autre modèle d'IA (toux, toux - www.lightbeam.ai - OK , c'est ma seule prise, je le promets).

ChatGPT ALIMENTE DE NOUVELLES APPLICATIONS : et la fâcheuse situation de confidentialité

La question suivante est l'implication de l'utilisation de ChatGPT pour créer de nouveaux services et applications. Je dois dire que je suis très enthousiasmé par les possibilités que ChatGPT pourrait offrir à la communauté des entrepreneurs pour créer des solutions innovantes. Il peut vraiment mettre ChatGPT au niveau de Linux - quelque chose qui peut générer des millions d'applications utiles. Cependant, ici aussi, rappelez-vous que ChatGPT ne se contente pas de vous donner les réponses ou les informations. Il vous donne l'actif prêt à consommer. Vous n'utilisez pas ChatGPT uniquement pour obtenir quelques exemples d'e-mails que vous envoyez à votre équipe lors du dernier trimestre et la voie à suivre. Vous obtenez littéralement votre e-mail écrit prêt à être envoyé. Alors que les applications exploitent ChatGPT pour automatiser le banal et faciliter le processus de création,

Ma supposition est aussi bonne que la vôtre (qui est essentiellement qu'il pourrait rester le Far West jusqu'à la première vague de poursuites). Après cela, je soupçonne ChatGPT d'avoir un mode de confidentialité strict pour ses réponses qui serait moins amusant et moins informatif. Pour les braves, ils peuvent avoir le mode normal "Je m'en fous", au moins pour un usage privé/recherche (espérons que l'usage commercial sera toujours le mode de confidentialité).

En avant les bravehearts de la vie privée. Nous n'avons aucune idée de la destination du navire. Tout ce à quoi nous pouvons nous attendre, c'est un voyage passionnant (et, espérons-le, moins de paperasse / remplissage de formulaires grâce à une automatisation alimentée par l'IA).