Iniziamo con un esempio; supponiamo che il tuo datore di lavoro utilizzi un sistema di intelligenza artificiale per analizzare i dati dei dipendenti e prendere decisioni su assunzioni e promozioni. In tal caso, c'è la possibilità che possa usare la tua razza o il tuo genere come uno dei suoi criteri per prendere quelle decisioni. Se ciò accade a tua insaputa o senza il tuo consenso, soprattutto se non sei d'accordo con il modo in cui vengono utilizzati, potrebbero esserci implicazioni legali sia per l'azienda che per i dipendenti. Questo problema è stato risolto almeno in parte limitando l'accesso a determinati tipi di informazioni sensibili come volti e sesso, pur consentendo l'accesso attraverso altri canali come termini di ricerca di testo o coordinate GPS. Tuttavia, queste soluzioni non risolvono ancora completamente tutti i problemi di privacy poiché ci saranno sempre dei modi per aggirarli.

Questo problema è stato risolto almeno in parte limitando l'accesso a determinati tipi di informazioni sensibili come volti e sesso, pur consentendo l'accesso attraverso altri canali come termini di ricerca di testo o coordinate GPS, ma queste soluzioni non risolvono ancora completamente tutti i problemi di privacy poiché ci saranno sempre modi per aggirarli; qualcuno non potrebbe scattare foto senza includere alcun volto.

Perchè importa

Immaginate ora se Facebook avesse potuto utilizzare un software di riconoscimento facciale su tutte quelle foto caricate negli anni; potrebbero facilmente creare un vasto database contenente migliaia e migliaia di volti senza mai chiedere il permesso a nessun utente. Allo stesso modo, un'agenzia governativa o una società potrebbe utilizzare un sistema di intelligenza artificiale come questo negli aeroporti o nei posti di blocco senza chiedere il permesso a chiunque possa passare attraverso quei posti di blocco o considerando quante volte abbiamo visto aziende come Facebook chiederci l'accesso in modo che "il nostro amici” possono vedere cosa stiamo facendo (e viceversa). Ciò è particolarmente preoccupante perché molte applicazioni in cui gli utenti possono condividere i propri dati con amici e familiari. In questi casi,

Cosa si può fare?

Le soluzioni di intelligenza artificiale dovrebbero essere progettate in modo tale da poter apprendere senza essere in grado di identificare le persone per nome o altri identificatori diretti. Questo è importante perché garantisce che i tuoi dati rimangano anonimi e privati ​​consentendo al tempo stesso all'algoritmo di apprendimento automatico di fare previsioni accurate. Un esempio di questo tipo di sistema di intelligenza artificiale è quello che prevede se a qualcuno verrà diagnosticata una malattia specifica in futuro sulla base dei dati della sequenza del genoma. In questo caso, prima di fare qualsiasi previsione sulla probabilità di un individuo di sviluppare il cancro o il morbo di Alzheimer in base al suo corredo genetico, tutte le informazioni personali dovrebbero essere rimosse dal set di dati (ad es. nomi, religione, nazionalità e così via). Ciò consente ai ricercatori di studiare le tendenze in vaste popolazioni senza compromettere la privacy di nessuno. Questi tipi di sistemi sono chiamati "non identificati", nel senso che qualsiasi informazione sulle persone nel set di dati viene rimossa prima di essere utilizzata. Si tratta di una misura di protezione della privacy che consente ai ricercatori e ad altri individui con accesso a set di dati anonimi di analizzare le informazioni senza compromettere la privacy di coloro che vi sono rappresentati. Ora, la de-identificazione non è la stessa cosa dell'anonimizzazione dei dati: i set di dati resi anonimi possono ancora contenere identificatori indiretti come codici postali, date di nascita o numeri di telefono, che potrebbero essere utilizzati per identificare le persone se fossero collegati insieme ad altre fonti (come i record di censimento ). Ad esempio, il tuo numero di cellulare a 10 cifre potrebbe essere modificato con un diverso set di cifre, ma questo sarebbe comunque lo stesso in tutto il set di dati. " significa che qualsiasi informazione sulle persone nel set di dati viene rimossa prima di essere utilizzata. Si tratta di una misura di protezione della privacy che consente ai ricercatori e ad altri individui con accesso a set di dati anonimi di analizzare le informazioni senza compromettere la privacy di coloro che vi sono rappresentati. Ora, la de-identificazione non è la stessa cosa dell'anonimizzazione dei dati: i set di dati resi anonimi possono ancora contenere identificatori indiretti come codici postali, date di nascita o numeri di telefono, che potrebbero essere utilizzati per identificare le persone se fossero collegati insieme ad altre fonti (come i record di censimento ). Ad esempio, il tuo numero di cellulare a 10 cifre potrebbe essere modificato con un diverso set di cifre, ma questo sarebbe comunque lo stesso in tutto il set di dati. " significa che qualsiasi informazione sulle persone nel set di dati viene rimossa prima di essere utilizzata. Si tratta di una misura di protezione della privacy che consente ai ricercatori e ad altri individui con accesso a set di dati anonimi di analizzare le informazioni senza compromettere la privacy di coloro che vi sono rappresentati. Ora, la de-identificazione non è la stessa cosa dell'anonimizzazione dei dati: i set di dati resi anonimi possono ancora contenere identificatori indiretti come codici postali, date di nascita o numeri di telefono, che potrebbero essere utilizzati per identificare le persone se fossero collegati insieme ad altre fonti (come i record di censimento ). Ad esempio, il tuo numero di cellulare a 10 cifre potrebbe essere modificato con un diverso set di cifre, ma questo sarebbe comunque lo stesso in tutto il set di dati. Si tratta di una misura di protezione della privacy che consente ai ricercatori e ad altri individui con accesso a set di dati anonimi di analizzare le informazioni senza compromettere la privacy di coloro che vi sono rappresentati. Ora, la de-identificazione non è la stessa cosa dell'anonimizzazione dei dati: i set di dati resi anonimi possono ancora contenere identificatori indiretti come codici postali, date di nascita o numeri di telefono, che potrebbero essere utilizzati per identificare le persone se fossero collegati insieme ad altre fonti (come i record di censimento ). Ad esempio, il tuo numero di cellulare a 10 cifre potrebbe essere modificato con un diverso set di cifre, ma questo sarebbe comunque lo stesso in tutto il set di dati. Si tratta di una misura di protezione della privacy che consente ai ricercatori e ad altri individui con accesso a set di dati anonimi di analizzare le informazioni senza compromettere la privacy di coloro che vi sono rappresentati. Ora, la de-identificazione non è la stessa cosa dell'anonimizzazione dei dati: i set di dati resi anonimi possono ancora contenere identificatori indiretti come codici postali, date di nascita o numeri di telefono, che potrebbero essere utilizzati per identificare le persone se fossero collegati insieme ad altre fonti (come i record di censimento ). Ad esempio, il tuo numero di cellulare a 10 cifre potrebbe essere modificato con un diverso set di cifre, ma questo sarebbe comunque lo stesso in tutto il set di dati. i set di dati resi anonimi possono ancora contenere identificatori indiretti come codici postali, date di nascita o numeri di telefono, che potrebbero essere utilizzati per identificare le persone se fossero collegati ad altre fonti (come i record di censimento). Ad esempio, il tuo numero di cellulare a 10 cifre potrebbe essere modificato con un diverso set di cifre, ma questo sarebbe comunque lo stesso in tutto il set di dati. i set di dati resi anonimi possono ancora contenere identificatori indiretti come codici postali, date di nascita o numeri di telefono, che potrebbero essere utilizzati per identificare le persone se fossero collegati ad altre fonti (come i record di censimento). Ad esempio, il tuo numero di cellulare a 10 cifre potrebbe essere modificato con un diverso set di cifre, ma questo sarebbe comunque lo stesso in tutto il set di dati.

Approcci per rendere l'IA più privata e sicura

Privacy differenziale

La privacy differenziale è una tecnica ampiamente utilizzata per preservare la privacy ML. L'obiettivo della privacy differenziale è proteggere la privacy dei singoli punti dati in un set di dati aggiungendo rumore ai dati. Il rumore viene aggiunto per garantire che l'output del modello ML non sia influenzato in modo significativo. Implica l'aggiunta di una quantità di rumore accuratamente calibrata ai dati, rendendo difficile l'identificazione dei dati di un individuo. La quantità di rumore aggiunta ai dati è determinata da un parametro chiamato epsilon. Maggiore è il valore epsilon, maggiore è il rumore aggiunto ai dati e maggiore è la protezione della privacy. Tuttavia, all'aumentare del numero di rumore, la precisione del modello ML diminuisce. Pertanto, trovare un valore ottimale per epsilon è fondamentale per raggiungere un equilibrio tra privacy e accuratezza.

Apprendimento federato

Diverse applicazioni hanno utilizzato l'apprendimento federato, inclusi l'elaborazione del linguaggio naturale, la classificazione delle immagini e i sistemi di raccomandazione. Inoltre, l'apprendimento federato può essere utilizzato in situazioni in cui la privacy dei dati è fondamentale e può essere utilizzato anche in situazioni in cui i dati non sono facilmente trasferibili a una posizione centrale. Ad esempio, può essere utilizzato per addestrare modelli ML su dispositivi mobili, dove gli utenti potrebbero non voler condividere i propri dati con un server centrale.

Crittografia omomorfa

La crittografia omomorfica consente al sistema di eseguire operazioni sui dati crittografati senza decrittografarli. Questa tecnica può essere utilizzata per addestrare modelli ML su dati crittografati, garantendo che i dati rimangano privati. La crittografia omomorfica può essere applicata a vari modelli ML, tra cui regressione lineare, alberi decisionali e reti neurali. La crittografia comporta l'utilizzo di operazioni matematiche su dati crittografati senza decrittografarli. Questa tecnica è particolarmente utile quando si lavora con dati sensibili che non possono essere condivisi, come cartelle cliniche o dati finanziari. Tuttavia, la crittografia omomorfica è computazionalmente costosa, il che la rende meno pratica per alcune applicazioni.

Biblioteche per costruire modelli di tutela della privacy

• Privacy differenziale in Tensorflow
• Apprendimento federato in PyTorch
• MPC in Tensorflow

La privacy sta diventando una preoccupazione sempre più importante nel campo dell'IA. Fortunatamente, sono disponibili diverse tecniche per lo sviluppo di modelli di tutela della privacy. La privacy differenziale, l'apprendimento federato e la crittografia omomorfica sono solo alcuni esempi di queste tecniche. Con il giusto approccio, possiamo continuare a fare progressi nel campo dell'apprendimento automatico affrontando anche i problemi di privacy.

Spero che questo articolo ti dia una migliore comprensione del motivo per cui è essenziale disporre di sistemi di tutela della privacy e di come possiamo proteggere al meglio la privacy individuale mentre sviluppiamo un sistema di intelligenza artificiale più robusto e avanzato.

✍️ Vuoi connetterti?

Mohamed Fayaz è un consulente di dati e intelligenza artificiale e un blogger tecnico che scrive e parla di argomenti come l'ingegneria del software , l'analisi dei big data e l'ingegneria del cloud . Connettiti con lui su LinkedIn o seguilo su Twitter per gli aggiornamenti.