Datenschutz und DSGVO in ChatGPT und großen Sprachmodellen

Share This Post

Große Sprachmodelle (Large Language Models, LLMs) sind eine Art maschineller Lernmodelle, die anhand großer Mengen von Textdaten trainiert werden, um menschenähnlichen Text zu erzeugen. Sie sind in der Lage, Text zu generieren, der von einem vom Menschen verfassten Text nicht zu unterscheiden ist, und können für eine breite Palette von Aufgaben der Verarbeitung natürlicher Sprache verwendet werden, wie z. B. Sprachübersetzung, Textzusammenfassung und Beantwortung von Fragen. (Quelle: ChatGPT)

Diese Sprachmodelle, wie sie von Springer definiert werden, ordnen “einem Stück ungesehenen Textes eine Wahrscheinlichkeit zu, basierend auf einigen Trainingsdaten” (frei übersetzt). Normalerweise werden sehr große Textmengen verwendet, um ein Sprachmodell zu trainieren, das dadurch, grob gesagt, die Wahrscheinlichkeitsverteilung von Wortfolgen lernt.

Während diese Sprachmodelle immer beliebter und leichter zugänglich werden, haben sie auch Auswirkungen auf den Datenschutz, die berücksichtigt werden müssen. Eine große Sorge im Hinblick auf die Einhaltung von Datenschutzbestimmungen ist, dass LLMs in gewissem Sinne personenbezogene Daten “speichern” können. Diese personenbezogenen Daten sind dann dem Risiko ausgesetzt, von einem anderen Nutzer oder einem Angreifer entdeckt zu werden. Wir haben uns bereits ausführlich mit den Datenschutzrisiken von Sprachmodellen befasst.

In diesem Beitrag erörtern wir, wie LLMs eingesetzt (und missbraucht) werden, welche Risiken Unternehmen, die diese Technologien nutzen, im Hinblick auf die Offenlegung personenbezogener Daten bedenken sollten und welche Lösungen es zum Schutz der persönlichen Daten ihrer Kunden gibt.

Sprachmodell-Anwendungen

Es gibt eine Handvoll Unternehmen, die große Sprachmodelle für die kommerzielle Nutzung erstellt haben, darunter ChatGPT und GPT-3 von OpenAI und LaMDA von Google.

Jasper AI, eine AI-Inhaltsplattform, die GPT-3 nutzt, hat sich auf die Erstellung von Marketingtexten wie Blogs, Anzeigen, Socialmedia-Posts und mehr konzentriert. Jasper AI hat im Oktober 125 Millionen Dollar bei einer Bewertung von 1,5 Milliarden Dollar eingenommen und wurde zu einem der schnellst wachsenden Privatunternehmen Amerikas ernannt.

Einer der wichtigsten Anwendungsfälle für LLMs sind Chatbots. Chatbots können für den Kundendienst, virtuelle Assistenten und sogar für Anwendungen im Bereich der physischen und psychischen Gesundheitspflege eingesetzt werden.

Böswillige Nutzung

Während in letzter Zeit zu Recht viel über den Missbrauch von ChatPGT zur Generierung von bösartigem Code und zur Erstellung von massenhaften maßgeschneiderten Phishing-Betrügereien berichtet wurde, wurde relativ wenig darüber nachgedacht, was es für Unternehmen bedeutet, die diese LLMs nutzen, um personenbezogene Daten ihrer eigenen Nutzer an Dritte zu senden.

Ähnlich wie bei der zunehmenden politischen Manipulation durch ausländische Mächte in den sozialen Medien ist es für die Aufsichtsbehörden schwierig, sich sofort auf neue Technologien einzustellen, und für Technologieunternehmen ist es schwierig, alle Möglichkeiten des Missbrauchs ihrer Technologien vorherzusehen und zu verhindern. Im Fall von OpenAI gibt es einige klare Hinweise darauf, dass sie sich Gedanken über die Begrenzung der Schäden ihres Systems machen, und ein Teil ihrer Methodik erfordert die Möglichkeit, die Eingaben in ihre Systeme tatsächlich zu sehen.

ChatGPT über personenbezogene Daten befragen

Personenbezogene Daten sind alle Daten, die zur Identifizierung einer bestimmten Person verwendet werden können. Zu den direkten Identifikatoren gehören Dinge wie Name, Alter, Adresse, Kreditkartennummer usw. Indirekte Identifikatoren sind alle Informationen, die miteinander kombiniert werden können, um eine bestimmte Person zu identifizieren, wie z.B. IP-Adresse, Religion, Geburtsort, etc.

Wie geht ChatGPT damit um? Fragen wir es doch!

Frage: Wie geht ChatGPT mit personenbezogenen Daten um?

Antwort: Als Sprachmodell ist GPT-3 nicht in der Lage, personenbezogene Daten zu sammeln oder zu speichern. Es kann nur die Informationen verarbeiten, die ihm als Eingabe gegeben werden, und auf der Grundlage dieser Eingabe mit generiertem Text antworten. Beim Umgang mit persönlichen Informationen ist es wichtig zu bedenken, dass GPT-3 Text generieren kann, der sensible Informationen enthält. Es liegt daher in der Verantwortung des Benutzers, sicherzustellen, dass angemessene Vorkehrungen getroffen werden, um die Privatsphäre aller Personen zu schützen, deren Informationen verwendet werden.

Was die Nutzung betrifft, so hat OpenAI, das Unternehmen hinter GPT-3, Sicherheitsmechanismen wie “Davinci-Coding” und “Curie” entwickelt, um zu verhindern, dass das Modell sensible oder schädliche Inhalte erzeugt. Darüber hinaus ist es bei der Arbeit mit personenbezogenen Daten wichtig, Datenschutzgesetze und -vorschriften wie die Datenschutzgrundverordnung (DSGVO) oder den California Consumer Privacy Act (CCPA) zu befolgen, um sicherzustellen, dass die personenbezogenen Daten angemessen behandelt werden.”

Was bedeutet das?

Es liegt an jedem Unternehmen, das das System nutzt, festzustellen, welche Informationen von ihren Nutzern eine Identifizierung ermöglichen und welche nicht, und diese zu entfernen oder zu ersetzen, bevor sie an ChatGPT weitergeleitet werden. Andernfalls verstößt es möglicherweise schwerwiegend gegen Datenschutzbestimmungen, wie sie die Europäische Datenschutzgrundverordnung (DSGVO) und zahlreiche andere Datenschutzbestimmungen weltweit vorschreiben:

  1. Explizite Einwilligung in die Erhebung und Verwendung personenbezogener Daten, d. h. ein Nutzer muss Ihnen ausdrücklich das Recht einräumen, seine Daten für bestimmte Zwecke zu verwenden.
  2. Recht auf Vergessenwerden, d. h. ein Nutzer kann verlangen, dass alle seine personenbezogenen Daten gelöscht werden.
  3. Zugang zu Informationen, was bedeutet, dass ein Nutzer das Recht hat, Zugang zu allen von ihm gesammelten personenbezogenen Daten zu verlangen.
  4. Datenminimierung, d. h. Unternehmen müssen alle unnötigen personenbezogenen Daten aus den von Nutzern gesammelten Daten entfernen.
  5. Pseudonymisierung oder Anonymisierung, wo dies möglich ist, d. h. Ersetzen oder Entfernen der personenbezogenen Daten.

Lösung: Entfernung oder synthetische personenbezogene Daten

Die Entfernung personenbezogener Daten aus Chatbot-Datensätzen ist keine leichte Aufgabe. Unstrukturierte Daten wie Chat-Transkripte sind bekanntermaßen schwer zu entfernen, erst recht in großem Umfang. Die manuelle Entfernung ist langsam, teuer und ungenau, während automatisierte Lösungen wie Regexe schnell und billig sind, aber mit idiosynkratischen Daten zu kämpfen haben, die häufig in Chatbot-Trainingsdaten vorkommen. Während es mit Standard-Tools nahezu unmöglich ist, die persönlichen Daten von Kunden auf höchst präzise und effiziente Weise zu verbergen oder zu maskieren, kann AI das Unmögliche möglich machen.

Datenentfernung

Bei der Datenentfernung werden sensible Daten in unverständliche Formen umgewandelt. Zu diesen Daten können Kreditkartennummern, Adressen, Namen, Alter usw. gehören.

Originaldaten

Unkenntlich gemachte Daten

Agent

Hallo! Wie kann ich Ihnen helfen?

Agent

Hallo! Wie kann ich Ihnen helfen?

Kunde

Hallo, mir wurde für meine August-Rechnung zu viel berechnet.

Kunde

Hallo, mir wurde für meine [DATUM-1]-Rechnung zu viel berechnet.

Agent

Das tut mir leid. Können Sie bitte Ihren Namen und Ihre Kontonummer bestätigen?

Agent

Das tut mir leid. Können Sie bitte Ihren Namen und Ihre Kontonummer bestätigen?

Kunde

Francois Gerard, 4729465

Kunde

[Name_1], [Kontonummer_1]

Agent

Vielen Dank, Herr Gerard. Wie ich sehe, wurden am 30. August 198,23 $ berechnet, ist das korrekt?

Agent

Vielen Dank, Herr [Familienname_1]. Wie ich sehe, wurden am [Datum_1] [Geld_1] $ berechnet, ist das korrekt?

Kunde

Ja, aber normalerweise sind es nur 121.98 $

Kunde

Ja, aber normalerweise sind es nur [Geld_2] $

Die obige Abbildung ist ein Beispiel für eine Chatbot-Konversation, aus der personenbezogene Daten entfernt wurden. Beachten Sie, dass die Originalnachricht auf der linken Seite eine ganze Reihe persönlicher Daten des Nutzers enthält, die besser geschützt werden sollten. Mithilfe der Technologie von Private AI haben wir die persönlichen Daten von Herrn Gerard (Name, Kontonummer und Zahlungsdetails) durch unkenntlich gemachte Werte ersetzt, sodass die Privatsphäre des Absenders der Nachricht gewahrt bleibt, bevor sie an ML-Teams zur Schulung von Kundendienstmitarbeitern, zur Gewinnung von Geschäftseinblicken oder für unzählige andere Aufgaben weitergegeben wird.

Synthetische personenbezogene Daten

Wie der Name schon sagt, werden bei der synthetischen Datenersetzung sensible Daten durch kontextuell korrekte, künstliche Daten ersetzt. Dieses Verfahren bietet eine ausgezeichnete Datensicherheit, da die verwendeten Daten nicht mehr mit einer realen Person verknüpft sind, aber dennoch den entscheidenden umgebenden Kontext der Konversation für ein genaues Training beibehalten. Diese Art von Daten eignet sich perfekt für das Training von maschinellen Lernmodellen, wie z. B. AI-Chatbots, da die künstlichen personenbezogenen Daten in der Abschrift nicht von den echten personenbezogenen Daten des Kunden zu unterscheiden sind, was zu einem genaueren Training führt, ohne den Datenschutz aufgrund der Speicherung von maschinellen Lernmodellen zu gefährden.

Originaldaten

Unkenntlich gemachte Daten

Agent

Hallo! Wie kann ich Ihnen helfen?

Agent

Hallo! Wie kann ich Ihnen helfen?

Kunde

Hallo, mir wurde für meine August-Rechnung zu viel berechnet.

Kunde

Hallo, mir wurde für meine Februar-Rechnung zu viel berechnet.

Agent

Das tut mir leid. Können Sie bitte Ihren Namen und Ihre Kontonummer bestätigen?

Agent

Das tut mir leid. Können Sie bitte Ihren Namen und Ihre Kontonummer bestätigen?

Kunde

Francois Gerard, 4729465

Kunde

Stephen Shellbourne, 6924821

Agent

Vielen Dank, Herr Gerard. Wie ich sehe, wurden am 30. August 198,23 $ berechnet, ist das korrekt?

Agent

Vielen Dank, Herr Shellbourne. Wie ich sehe, wurden am 12. März 329,11 $ berechnet, ist das korrekt?

Kunde

Ja, aber normalerweise sind es nur 121.98 $

Kunde

Ja, aber normalerweise sind es nur 202,43 $

In der obigen Abbildung hat die Technologie von Private AI den Namen von Francois, die Kontonummer und die Zahlungsdaten durch künstliche Werte ersetzt, wobei die Privatsphäre des Kunden und die Natürlichkeit der Daten erhalten bleiben. 

Nach der Entfernung oder Ersetzung der Daten sind die Daten nun bereit, an ChatGPT gesendet zu werden.

Probieren wir es live!

Was sind personenbezogene Daten in dieser Nachricht?

Hallo, ich habe gerade einen Miele-Holzbodenstaubsauger gekauft, aber ich kann nicht herausfinden, wie ich ihn zum Laufen bringe. Ich habe diesen Hartholzboden, der in [STANDORT_LAND_1] berühmt ist, wo ich in gelebt habe, und ich muss mich um ihn vor der Geburtstagsfeier meiner Mutter am [DATUM_1] kümmern! Ich habe [GELD_1] dafür bezahlt! Meine Nummer ist [TELEFONNUMMER_1], wenn Sie mich anrufen möchten, damit wir das Ding zum Laufen bringen können!

Wie sieht es mit synthetischen personenbezogenen Daten aus?

Hallo, ich habe gerade einen Miele-Holzbodenstaubsauger gekauft, aber ich kann nicht herausfinden, wie ich ihn zum Laufen bringe. Ich habe diesen Hartholzboden, der in Singapur berühmt ist, wo ich gelebt habe, und ich muss mich um ihn vor der Geburtstagsfeier meiner Mutter am 4. Juli kümmern! Ich habe 5000 Dollar dafür bezahlt! Meine Nummer ist 44 6622444445, wenn Sie mich anrufen möchten, damit wir das Ding zum Laufen bringen können!

Ändert sich die Antwort durch das Ersetzen der personenbezogenen Daten?

Schlussfolgerung

Während einige der ethischen und rechtlichen Risiken von großen Sprachmodellen noch nicht gelöst sind, wie z. B. die Erstellung von Code, der böswilliger Natur sein könnte, gibt es ein Problem, das von jedem Unternehmen, das diese LLMs einsetzt, gründlich entschärft werden kann: der Schutz personenbezogener Daten. Das Ersetzen personenbezogener Daten durch synthetische personenbezogene Daten führt oft zu einer geringen oder gar keiner Änderung des Ausgangsnutzens und verhindert die Nichteinhaltung von Datenschutzbestimmungen wie der DSGVO. Sie können dies mit ChatGPT in Kombination mit der Web-Demo von Private AI selbst ausprobieren.

Subscribe To Our Newsletter

Sign up for Private AI’s mailing list to stay up to date with more fresh content, upcoming events, company news, and more! 

More To Explore

Blog

Is Salesforce Law25 Compliant?

Although they hardly need an introduction, Salesforce is a cloud-based customer relationship management (CRM) service that allows businesses to efficiently connect with their customers, find

Read More »

Download the Free Report

Request an API Key

Fill out the form below and we’ll send you a free API key for 500 calls (approx. 50k words). No commitment, no credit card required!

Language Packs

Expand the categories below to see which languages are included within each language pack.
Note: English capabilities are automatically included within the Enterprise pricing tier. 

French
Spanish
Portuguese

Arabic
Hebrew
Persian (Farsi)
Swahili

French
German
Italian
Portuguese
Russian
Spanish
Ukrainian
Belarusian
Bulgarian
Catalan
Croatian
Czech
Danish
Dutch
Estonian
Finnish
Greek
Hungarian
Icelandic
Latvian
Lithuanian
Luxembourgish
Polish
Romanian
Slovak
Slovenian
Swedish
Turkish

Hindi
Korean
Tagalog
Bengali
Burmese
Indonesian
Khmer
Japanese
Malay
Moldovan
Norwegian (Bokmål)
Punjabi
Tamil
Thai
Vietnamese
Mandarin (simplified)

Arabic
Belarusian
Bengali
Bulgarian
Burmese
Catalan
Croatian
Czech
Danish
Dutch
Estonian
Finnish
French
German
Greek
Hebrew
Hindi
Hungarian
Icelandic
Indonesian
Italian
Japanese
Khmer
Korean
Latvian
Lithuanian
Luxembourgish
Malay
Mandarin (simplified)
Moldovan
Norwegian (Bokmål)
Persian (Farsi)
Polish
Portuguese
Punjabi
Romanian
Russian
Slovak
Slovenian
Spanish
Swahili
Swedish
Tagalog
Tamil
Thai
Turkish
Ukrainian
Vietnamese

Rappel

Testé sur un ensemble de données composé de données conversationnelles désordonnées contenant des informations de santé sensibles. Téléchargez notre livre blanc pour plus de détails, ainsi que nos performances en termes d’exactitude et de score F1, ou contactez-nous pour obtenir une copie du code d’évaluation.

99.5%+ Accuracy

Number quoted is the number of PII words missed as a fraction of total number of words. Computed on a 268 thousand word internal test dataset, comprising data from over 50 different sources, including web scrapes, emails and ASR transcripts.

Please contact us for a copy of the code used to compute these metrics, try it yourself here, or download our whitepaper.