Implizite Datenschutzrisiken von Chatbots/Natürlichen Sprachabfragen

Einführung

Mit ChatGPT erleben wir ein Wiederaufleben von Chatbots. Ich habe zuvor über die Unternehmensanwendungen von ChatGPT und ähnlichen Large Language Models (LLMS) geschrieben – Artikel .

Wir können nur erwarten, dass diese Akzeptanz in verschiedenen Branchen zunimmt, z. B. im Kundensupport, im Gesundheitswesen, im Bankwesen und bei Dating; Dies führt unweigerlich dazu, dass von Benutzern gestellte Anfragen als „Quelle personenbezogener Daten“ für Werbe-, Phishing- und andere Szenarien genutzt werden.

Während sich die meisten Benutzer der Datenschutzrisiken hinreichend bewusst sind, um keine expliziten personenbezogenen Daten (PII) weiterzugeben, z. B. Kreditkartennummern, Bankkontodaten, Gesundheitszustand;

Es sind eher die impliziten Datenschutzrisiken von Abfragen in natürlicher Sprache (im Sinne von Seitenkanalangriffen), die wir in diesem Artikel hervorheben.

Wir schlagen eine Lösung in Form eines Benutzermoduls (Chat-Client) vor, das die Benutzeranfrage (natürliche Sprache) abfängt und das gleiche „generative Modell“ von ChatGPT nutzt, um eine datenschutzwahrende Variante der ursprünglichen Benutzeranfrage zu generieren.

Datenschutzrisiken

Betrachten wir beispielsweise die beiden folgenden Anwendungsfälle, um die Bedeutung solcher impliziter Datenschutzrisiken zu verstehen:

Anwendungsfall 1 . Die Stimmungsanalyse ist im Grunde eine NLP-Klassifizierungsaufgabe, die es dem Chatbot ermöglicht, die (aktuelle) Stimmung des Benutzers basierend auf seinen Chat-Antworten zu bestimmen (z. B. in Kundendienst-Bots verwendet), sodass der Bot seine Antwort basierend auf der Stimmung des Benutzers anpassen kann .

Obwohl dies für einen „guten“ Zweck geschieht, betrachten wir nun ihren Einsatz in einem E-Commerce-Szenario. Bei der dynamischen Preisgestaltung kann der Bot einen höheren Preis anbieten, basierend auf einer sehr „begeisterten“ Anfrage eines Benutzers.

Zum Beispiel: „Wow, dieses Kleid sieht toll aus! Wie hoch ist der Preis?“ könnte zu einem höheren Preisangebot führen als eine neutralere Anfrage: „Dieses Kleid entspricht meinen Anforderungen.“ Wie hoch ist der Preis?“

Anwendungsfall 2 . Standortabfragen: Betrachten wir die Datenschutzrisiken, die offene Abfragen in Bezug auf den Standort des Benutzers mit sich bringen. Die meisten Chatbots werden normalerweise für bestimmte Regionen entwickelt/bereitgestellt. Beispielsweise könnte ein HR-Info-Bot für die Standorte konzipiert werden, an denen das Unternehmen Niederlassungen hat. Ebenso würde ein E-Commerce-Bot nur in den Ländern eingesetzt, in denen der Anbieter seine Produkte derzeit versendet. Vor diesem Hintergrund kann eine Anfrage wie „Hallo, ich bin derzeit in Genf. Wie hoch sind die Versandkosten nach Genf?“ gibt unnötigerweise den Standort des Nutzers preis, da der Anbieter nicht in die Schweiz liefert.

Im organisatorischen Kontext mit einem HR-Chatbot, der von einem ausgelagerten Anbieter (auf einer Cloud-Plattform) verwaltet und in Genf und Krakau eingesetzt wird; Häufige Mitarbeiteranfragen der Form: „Wo ist das Restaurant in unserem Mailänder Büro?“ könnte dem Verkäufer verraten, dass die Mitarbeiter des Unternehmens in letzter Zeit viel zum Mailänder Büro gereist sind.

Hypothese

Mit ChatGPT erleben wir einen Wandel von der schlüsselwortbasierten Suche hin zu Abfragen in natürlicher Sprache.

Die Hypothese hier ist also, dass viele Benutzer mit Chatbots/Suchmaschinen wie mit einem Menschen interagieren. Anstatt direkte Fragen zu stellen, beginnen sie ihre Fragen damit, dass sie zunächst einen Kontext bereitstellen.

Nachfolgend finden Sie einige Beispielabfragen:

„Hilfe, mein mobiler Ausblick hängt wieder. Wo zum Teufel ist der Helpdesk?“

„Ich bin nach meinem X. Treffen so gestresst. Was ist die Speisekarte im Restaurant Y?“

„Hallo, ich komme aus dem Büro in Jakarta. Wo befindet sich in diesem Gebäude das Postamt?“

„Sind die Fitnesskurse hier die gleichen wie in London?“

Es erübrigt sich zu erwähnen, dass die ersten beiden Abfragen aus der Perspektive des psychischen Zustands der Mitarbeiter (HR) sensibel sind – sie offenbaren die Stimmung der Mitarbeiter in Bezug auf Stress und Stress. Die letzten beiden Abfragen geben unnötigerweise den Basisstandort des Mitarbeiters preis.

Lösungsübersicht

Wir schlagen die Lösung in Form eines Privacy Preserving Chat Module (PPCM) vor – einem Benutzermodul (Chat-Client), das die ursprüngliche Benutzeranfrage (natürliche Sprache) abfängt und eine Mischung aus Techniken zur Wahrung der Privatsphäre auf der Grundlage von Filterung und Transformation anwendet, um das Problem zu beheben Datenschutzbedenken.

• Filterung: Für Anwendungsfall 2 verwendet PPCM unter Bezugnahme auf die Benutzerabfrage „Wo ist das Restaurant in unserem Büro in Mailand?“ Textextraktionstechniken, um daraus zu schließen, dass „Mailand“ ein Wert des Entitätstyps „Standort“ ist. Anschließend wird die Abfrage so gefiltert/gelöscht, dass sie nicht an die Backend-NLP-Engine gesendet wird, wobei eine entsprechende Nachricht an den Benutzer weitergeleitet wird.
• Transformation: Um dem in Anwendungsfall 1 hervorgehobenen Preisnachteil entgegenzuwirken, muss das PPCM die ursprüngliche Benutzeranfrage an eine „neutralere“ Antwort mit derselben Semantik anpassen. Eine Transformation in Form einer Abstraktion kann auch für den Entitätstyp „Standort“ in Anwendungsfall 2 angewendet werden, bei dem „Mailand“ zu „irgendwo in Europa“ abstrahiert wird – um den Datenschutzbedenken des Benutzerchats Rechnung zu tragen. Dies impliziert die Verwendung des „generativen Modells“ von ChatGPT, um die datenschutzerhaltende Variante der Benutzeranfrage zu generieren.

D. Biswas. Privatsphäre wahrende Chatbot-Konversation . 34. Gemeinsamer NeurIPS-Workshop zum datenschutzschonenden maschinellen Lernen ( PPML ), 2020. ( pdf ).

Abonnieren Sie DDIntel hier .

Besuchen Sie unsere Website hier:https://www.datadriveninvestor.com

Treten Sie hier unserem Netzwerk bei:https://datadriveninvestor.com/collaborate