Libérer l'IA sécurisée
Comment Zero Knowledge Proofs permettra la prochaine vague d'applications d'IA
Les problèmes de confidentialité ont longtemps été un obstacle à l'exploitation complète du potentiel de l'IA dans les industries sensibles.
L'ajout de technologies de protection de la vie privée aux systèmes d'IA libérera le plus grand potentiel de l'algorithme génératif pour l'humanité.
Introduction
Dans cet article de blog, nous soulignons l'IA dans les soins de santé comme un exemple continu pour esquisser la future synergie entre l'IA et les Zero Knowledge Proofs (ZKP).
En particulier, nous supposons que la sécurité de l'IA deviendra une nouvelle frontière, à la fois pour la protection contre les attaquants ayant quelque chose à gagner en ciblant les systèmes d'IA critiques et sensibles, et pour les utilisateurs réglementés et les dépositaires de données privées.
Pour les deux, ZK sera la clé du progrès. Dans cet article, nous mettons en avant deux domaines de l'IA/ML dans lesquels l'incorporation de ZKP semble inévitable :
- Apprentissage fédéré
- Apprentissage automatique en tant que service (MLaaS)
La ligne de base d'aujourd'hui
Une réalité des systèmes d'IA est qu'ils ne sont aussi bons que les ensembles de données sur lesquels ils sont formés et les algorithmes utilisés pour traiter ces données.
Cela n'est pas préoccupant lorsque l'on demande à ChatGPT d'écrire une chanson sur l'inflation dans le style de Snoop Dogg, ou lors de la création d'une image d'un robot humanoïde avec Midjourney, mais c'est une préoccupation lorsque les IA ont besoin de données privées ou confidentielles afin de fournir des informations personnalisées et critiques. prestations de service.
Une industrie qui bénéficierait grandement d'une IA préservant la vie privée est celle de la médecine et des soins de santé .
Aujourd'hui, les dossiers médicaux sont conservés dans des organisations de santé cloisonnées, des hôpitaux aux agences d'assurance, chacune avec son propre ensemble de protocoles de sécurité.
Cela entraîne des problèmes pour les patients qui reçoivent des soins de plusieurs fournisseurs de soins de santé et de la frustration pour les chercheurs en médecine qui ne peuvent pas accéder à des données dispersées.
Il interdit également l'utilisation de cette précieuse entrée du monde réel pour les ensembles de données d'apprentissage automatique.
Entrez dans les technologies de protection de la vie privée
Les Zero Knowledge Proofs (ZKP) sont des protocoles permettant de prouver la véracité des informations, sans rien révéler sur ces informations.
Le cryptage entièrement homomorphe (FHE) est un type de cryptage qui permet de traiter les données tout en restant cryptées.
Dans le contexte des soins de santé, les ZKP et les FHE peuvent être utilisés pour libérer des données médicales tout en préservant la vie privée des patients.
À l'aide de FHE, les données médicales cryptées hébergées sur des serveurs sécurisés pourraient être utilisées pour développer des modèles d'apprentissage automatique, ainsi que des inférences à partir des modèles par les parties intéressées.
Zero Knowledge Proofs pourrait être utilisé pour authentifier qu'un modèle ou un ensemble de données revendiqué a bien été utilisé pour la formation ou les prédictions du modèle.
Les parties intéressées pourraient soumettre des requêtes aux données sans réellement voir les informations sous-jacentes. Le serveur renverrait uniquement les résultats de la requête, plutôt que les données sous-jacentes elles-mêmes.
Un ZKP pourrait également être utilisé pour prouver que les requêtes ont été utilisées pour fournir des données à partir d'un ensemble de données spécifique avec un engagement public.
Ce sont des exemples de Privacy Preserving Machine Learning (PPML), un sous-ensemble de Machine Learning mettant l'accent sur la préservation de la vie privée et la confidentialité des données.
PPML atténuerait les problèmes de confidentialité, mais qu'en est-il du problème de la dispersion des données dans divers référentiels protégés ?
Apprentissage fédéré avec ZKP
L'apprentissage fédéré est une méthodologie d'apprentissage automatique pour entraîner un algorithme sur des informations décentralisées. Il permet à plusieurs parties de créer un modèle sans partager de données.
Aujourd'hui, Federated Learning s'accompagne de préoccupations concernant la fiabilité des données fournies par chaque membre contributeur. Comment les équipes distribuées peuvent-elles être sûres à 100 % que des données précises sont fournies par les autres parties ?
À l'aide d'un ZKP, chaque équipe pouvait apporter ses données au modèle global, ainsi qu'une preuve que les informations fournies avaient été collectées et traitées en utilisant les paramètres convenus, sans rien révéler sur les données elles-mêmes.
De plus, un ZKP pourrait prouver que le modèle de chaque équipe n'a pas été falsifié par des tiers.
En tirant parti de ZK Federated Learning, les ingénieurs ML ont pu former un modèle « Doctor AI » en utilisant les dossiers des patients de l'ensemble du paysage des données médicales, en sachant que les données de formation de chaque équipe ont été fournies conformément au cadre convenu.
Apprentissage automatique en tant que service (MLaaS)
Aujourd'hui, les fournisseurs d'apprentissage automatique en tant que service incluent OpenAI, Microsoft, Google, AWS et d'autres. Cela ouvre la porte à des questions sur la protection des consommateurs. Comment les clients peuvent-ils vérifier que leurs entrées sont réellement traitées par les modèles MLaaS, et non acheminées via des tiers ou des systèmes compromis ? Les clients sensibles à la confidentialité peuvent également vouloir une garantie que leurs entrées et sorties ne sont pas divulguées à des tiers.
À l'aide de Zero-Knowledge Proofs, il est possible de vérifier en toute confiance les prédictions des modèles , tout en s'assurant que les requêtes sont passées par les modèles annoncés. Cela protège également les fournisseurs MLaaS de révéler les poids de leurs modèles.
Un ZKP pourrait vérifier que les entrées et les sorties sont arrivées uniquement à leurs destinations prévues et que le modèle est inviolable.
L'émergence de l'IA générative confidentielle et vérifiable
La combinaison de FHE et ZKP changera la donne pour l'apprentissage automatique préservant la confidentialité (PPML).
FHE signifie que les ensembles de données peuvent être analysés sans décryptage. Il garantit la confidentialité des entrées dans les modèles d'IA et de ML, car les données fournies sont cryptées à la source.
En combinant FHE et ZKP, les utilisateurs peuvent être sûrs que leurs invites restent privées et sécurisées tout au long de l'interaction avec l'IA.
Un fournisseur MLaaS médical pourrait utiliser ZK pour garantir la véracité des modèles ainsi que FHE pour protéger les invites privées, et que les requêtes restent cryptées même lorsqu'elles sont traitées par le serveur. Le même ZK pourrait prouver que les données chiffrées ont été exécutées de manière homomorphe sur le modèle engagé.
ZK Proofs peut également valider que l'origine des données provient de l'IA, garantissant que ces informations sont prises en compte et que les résultats peuvent ne pas être totalement exacts.
Un avenir avec une IA préservant la confidentialité
Imaginez la visite d'un médecin dans un avenir proche. À son arrivée, le médecin accède à votre historique médical complet, extrait d'une base de données universelle rendue possible par ZK Federated Learning. Chaque douleur documentée depuis le moment de la naissance jusqu'à ce moment est récupérable.
À l'aide d'une invite privée activée par FHE, une IA formée sur les dossiers de millions de personnes ayant des profils, des antécédents médicaux et des résultats de traitement similaires traite l'entrée. En utilisant ZK ML, il exécute ensuite des analyses prédictives et personnalise un plan de traitement sans jamais accéder aux données privées.
Les informations renvoyées ainsi que l'invite restent cryptées à chaque étape du processus, décryptées uniquement lors de leur retour au point d'origine. Les preuves ZK garantissent que chaque requête a été traitée et exécutée par l'algorithme d'apprentissage automatique prévu.
À mesure que l'IA continue d'évoluer, l'intégration de technologies préservant la vie privée sera cruciale pour maximiser ses avantages dans la médecine et les soins de santé, ainsi qu'un éventail d'autres cas d'utilisation sensibles.
Suivre Ingonyama
Twitter:https://twitter.com/Ingo_zk
Github :https://github.com/ingonyama-zk
Youtube:https://www.youtube.com/@ingo_zk
LinkedIn :https://www.linkedin.com/company/ingonyama
Rejoignez-nous:https://www.ingonyama.com/careers
![Qu'est-ce qu'une liste liée, de toute façon? [Partie 1]](https://post.nghiatu.com/assets/images/m/max/724/1*Xokk6XOjWyIGCBujkJsCzQ.jpeg)
