Reduzierung von Vorurteilen in ChatGPT mit PrivateGPT

Datenschutz- und Ethikbedenken in Bezug auf ChatGPT machen wöchentlich Schlagzeilen, sei es das vorübergehende Verbot von ChatGPT in Italien, die Untersuchung gegen ChatGPT durch das kanadische Amt des Datenschutzbeauftragten oder die Flut an Beobachtungen von Einzelpersonen über diskriminierende, voreingenommene oder anderweitig schädliche Ausgaben von ChatGPT und anderen großen Sprachmodellen (Large Language Models – LLMs). Angesichts der Vielzahl neuer Anwendungen, die den Markt erreichen und ChatGPT in der einen oder anderen Weise einbeziehen oder darauf aufbauen, fragen sich Unternehmen, worauf sie sich einlassen, wenn sie LLMs in ihre Prozesse implementieren.

Trotz der Risiken scheint der Wettbewerbsnachteil, der durch das Vermeiden des ChatGPT-Wettrüstens entsteht, erheblich zu sein. In diesem Artikel untersuchen wir einige der Vorteile der Vorurteil-Minderung unseres neuen Tools, PrivateGPT, das auf eine Weise mit ChatGPT interagiert, die es Ihnen ermöglicht, dieses LLM zu nutzen, ohne den Schutz der Daten, die in der Eingabe enthalten sind zu beeinträchtigen. Um eine verantwortungsbewusste und gut informierte Implementierung von ChatGPT oder ähnlichen LLMs zu unterstützen, erklären wir zunächst, was Vorurteile sind, warum sie existieren und warum sie besonders schädlich sind, wenn sie in LLMs verankert sind. Anschließend zeigen wir Ihnen, wie PrivateGPT helfen kann, Vorurteile bei der Verwendung von ChatGPT zu reduzieren.

Was sind Vorurteile?

Vorurteile beschreiben im Allgemeinen eine unlogische oder unvernünftige Vorliebe oder Abneigung für eine Option im Vergleich zu einer anderen Option, wenn eine Reihe von Auswahlmöglichkeiten gegeben ist. Vorurteile werden oft im Zusammenhang mit sozialen Vorurteilen diskutiert, also einer unfair bevorzugten oder abgelehnten Haltung gegenüber einer bestimmten sozialen Gruppe, die wir oft durch soziale Stereotype, Diskriminierung und Vorurteile umgesetzt sehen. Vorurteile sind nicht immer etwas Schlechtes: Aufgrund unserer von Natur aus begrenzten kognitiven Fähigkeiten greifen menschliche Gehirne auf mentale Abkürzungen, sogenannte Heuristiken, zurück, um Informationen zu vereinfachen und schnelle Urteile zu fällen. Zum Beispiel kann unsere Vorliebe, dem zu glauben und zu folgen, was unser enger sozialer Kreis vorschlägt, darauf zurückzuführen sein, dass es historisch gesehen vorteilhaft für unser Überleben war, zu dieser Gruppe zu gehören, während es vermieden wurde, ein Außenseiter zu sein. Ebenso war Skepsis gegenüber oder sogar Angst vor Fremdem eine Strategie, um Gefahr zu vermeiden – besser, ein- oder zweimal zu oft das Schlimmste zu erwarten als einmal zu wenig! Allerdings ist offensichtlich, dass diese Abkürzungen, insbesondere im sozialen Bereich, Generalisierungen in unseren Denkprozess einführen können, die eher schädlich als rational sind.

Die letzten Jahrzehnte der maschinellen Lerntechnologie haben die Umwelt, in der wir leben, in einer so kurzen Zeitspanne so drastisch verändert, dass wir immer noch lernen, wie wir neue Werkzeuge ethisch und sicher nutzen können. Wir haben die Pflicht, Werte wie Gleichberechtigung und Fairness zu priorisieren, um unsere Welt zu einem Ort zu machen, an dem wir alle leben wollen. Das bedeutet, dass wir Technologien wie ChatGPT und andere LLMs denselben ethischen Standards unterwerfen müssen, wie wir sie in unserer Interaktion miteinander anlegen.

Warum sind Vorurteile in LLMs gefährlicher?

Alaina N. Talboy, PhD (Senior Research Manager bei Microsoft) und Elizabeth Fuller, PhD (Inhaberin/Chief Behavioral Scientist bei Elizabeth Fuller Consulting) bringen es treffend in ihrem Artikel „Challenging the appearance of machine intelligence: Cognitive bias in LLMs“ auf den Punkt: Wenn wir LLMs verwenden, „aktiviert die inhärente Illusion von Autorität und Glaubwürdigkeit unsere natürliche Tendenz, kognitive Anstrengungen zu reduzieren […] und macht es wahrscheinlicher, dass Ausgaben ohne weitere Prüfung akzeptiert werden“ (frei übersetzt). Mit anderen Worten: Da ChatGPT sprachliche Raffinesse verwendet, um Ergebnisse eloquent zu präsentieren, neigen wir dazu anzunehmen, dass diese Ergebnisse gut durchdacht sind und ihnen aufgrund einer weiteren unserer Heuristiken, der ‚Automatisierungsverzerrung,‘ zu glauben. Automatisierungsverzerrung bedeutet, dass wir dazu neigen, dem Vorschlag einer Maschine zu folgen, weil sie es uns erleichtert, zu einer Entscheidung zu gelangen und wir es gern bequem mögen. Dank der Automatisierungsverzerrung sind wir möglicherweise weniger geneigt, die Ausgabe von ChatGPT auf Richtigkeit hin zu überprüfen, und vergessen eher, dass LLMs nur Variationen der Daten ausgeben können, auf Basis derer sie trainiert wurden. Schließlich bilden sich Menschen eine Meinung über die Wahrhaftigkeit von Aussagen aufgrund von Faktoren wie dem Genre oder dem Register der Rede (Briggs & Bauman 1992) und ob Aussagen von einer Autorität wie einem Lehrer (Burdelski & Howard 2020) oder einem Politiker (Piller 2019) vorgetragen werden, unabhängig vom tatsächlichen Inhalt der Aussage. Bei der Verwendung eines Tools wie ChatGPT tragen wir die Verantwortung, Vorurteile aufzudecken und zu korrigieren, genauso wie bei unseren eigenen persönlichen Vorurteilen.

Glücklicherweise ist Private AI hier, um Ihnen dabei zu helfen, aufzuzeigen, wo Vorurteile in den Ausgaben von ChatGPT verborgen sein können, und um Ihnen ein Tool namens PrivateGPT vorzustellen, das Ihnen hilft, Vorurteile bei der Verwendung dieses LLMs zu mindern. Sie können PrivateGPT verwenden, um Informationen wie Ethnie, Religion, Beruf, Herkunftsort, Adressen oder andere soziale Faktoren vor der Eingabe an ChatGPT zu anonymisieren, sodass ChatGPT bei der Ausgabe nicht auf Vorurteile oder Stereotypen in Bezug auf solche Eingaben zurückgreifen kann. Die Ausgabe, die Sie mit PrivateGPT erhalten, ist daher neutraler und unvoreingenommener als bei der Verwendung von ChatGPT allein.

Wie PrivateGPT funktioniert

Wenn der Datenschutzmodus aktiviert ist, anonymisiert PrivateGPT standardmäßig alle von Private AI unterstützten Entitätstypen in der Eingabe des Benutzers, bevor sie an ChatGPT gesendet wird. Im Datenschutzmodus können Sie bestimmte Entitäten selektiv anonymisieren und andere nicht, je nach Ihren individuellen Anforderungen und Schutzbedürfnissen.

PrivateGPT fügt Ihre ursprünglichen Entitätswerte automatisch wieder in die von ChatGPT zurückgegebene Ausgabe ein. Zum Beispiel:

Wie PrivateGPT helfen kann, Vorurteile und Stereotypisierungen zu reduzieren

Die Theorie hinter PrivateGPT besagt, dass wenn die Eingabe mühelos von allen Identifikationsmerkmalen befreit werden kann, die Informationen preisgeben, an die ein Vorurteil geknüpft sein könnte, ChatGPT keine Grundlage für die Erzeugung voreingenommener Ausgaben hat. Schauen wir uns an, wie gut sich die Theorie in der Praxis bewährt!

Beachten Sie, dass die untenstehenden Beispiel-Prompts und -Antworten im April 2023 getestet wurden. Aufgrund der sich ständig weiterentwickelnden Natur von LLMs können Variationen in den Ausgaben auftreten, basierend auf denselben Eingaben.

Vorurteil/Stereotypisierung basierend auf HERKUNFT, RELIGION und KÖRPERMERKMAL

In der linken Spalte zeigen wir den ursprünglichen Prompt und die Antwort von ChatGPT. In der rechten Spalte zeigen wir den anonymisierten Prompt, der die persönlichen Merkmale einer Person eliminiert, und die erhaltene Antwort.

Aus der linken Spalte der obigen Tabelle können wir erkennen, dass ChatGPT unterschiedliche Jobempfehlungen für Personen mit unterschiedlicher ethnischen Zugehörigkeit, Religion und Hautfarbe gibt. Ein südasiatischer Mann namens Dhruv, der in einem historisch benachteiligten Viertel von Toronto lebt, wird auf Marketing- und PR-Jobs verwiesen, während einer jüdischen Frau namens Amy, die in einem wohlhabenderen Viertel von Toronto lebt, Arbeit im gemeinnützigen Sektor, in der Bildung und im Rechtswesen vorgeschlagen wird. Amy, eine schwarze Frau, die in einem der vielen stark multikulturellen Viertel der Stadt lebt, erhält Empfehlungen für Sozialarbeit, Beratung und Gemeindearbeit. Die mit dem Datenschutzmodus von PrivateGPT gesendeten Antworten auf der rechten Seite sind deutlich neutraler, aber auch eingeschränkter in ihrem Umfang.

Soziale Vorurteile und Toxizität

Die Schöpfer von ChatGPT haben sich bemüht, toxische Ausgaben zu vermeiden und ChatGPT als unvoreingenommen in Bezug auf soziale Urteile und Stereotype zu positionieren. Nachdem problematische Antworten aufgedeckt wurden, wurde eine generische Korrektur implementiert. Wenn mit einem direkten Prompt eine stereotype Antwort angefordert wird, antwortet das Tool nun mit einer Warnung, dass nicht alle Menschen gleich sind und Generalisierungen nicht auf alle Menschen zutreffen. Allerdings ist es immer noch einfach, stereotype Antworten hervorzurufen, die keinerlei Warnung generieren, indem man indirekt fragt, sei es durch Anpassung des Prompts oder indem man nach dem Stereotyp in einem bestimmten Textformat fragt. Betrachten Sie den folgenden ChatGPT-Austausch:

Es ist erwähnenswert, dass diese Vorurteile in den Ausgaben umso besorgniserregender sind, weil sie nicht sofort offensichtlich sind. Dadurch können sie möglicherweise schwerer zu erkennen sein und somit eher fortbestehen. 

Trotz erheblicher Fortschritte, die OpenAI mittlerweile gemacht hat hinsichtlich der Vorurteilsvermeidung, ist es nach wie vor möglich, ChatGPT mit erfinderischen Mitteln davon zu überzeugen, die Fesseln abzuwerfen, OpenAIs interne Schutzmaßnahmen zu umgehen, und fragwürdige Antworten zu produzieren. Die derartig aufgetanen Lücken werden von OpenAI jedoch meist sehr schnell wieder geschlossen.

Was PrivateGPT nicht kann

PrivateGPT kann Vorurteile nicht vollständig entfernen, da unser Tool nur mit ChatGPT interagiert, ohne das Modelltraining zu beeinflussen. Forscher haben bereits begonnen, die verschiedenen Arten von Vorurteilen zu erfassen, die ChatGPT und andere LLMs zeigen, einschließlich sozialer Vorurteile und Diskriminierung, aber auch Vorurteile in Bezug auf die Begrenzung des Datenpools des Tools. LLMs, die nur auf Daten trainiert werden, die eine Auswahl der Bevölkerung repräsentieren, wie beispielsweise Daten aus einer einzigen Kultur, spiegeln das wider, was Forscher als ausschließende Norm bezeichnen. Ähnlich wie bei einer beschränkten Mitgliedschaft in einem sozialen Club wird das Modelltraining nie annähernd die gesamte Vielfalt menschlicher Erfahrungen, Perspektiven und Identitäten erfassen, wenn die Trainingsdaten aus begrenzten oder homogenen Quellen stammen. Dies kann dazu führen, dass das LLM „nicht in der Lage ist, Inhalte für Gruppen zu verstehen oder zu generieren, die in den Trainingsdaten nicht repräsentiert sind, wie z.B. Sprecher verschiedener Sprachen oder Menschen aus anderen Kulturen“ (freu übersetzt). Neben dem Vorurteil der Monokulturalität ist auch das Vorurteil der Einzelsprachigkeit ein großes Problem für LLMs, die nicht auf hochwertigen Daten in verschiedenen Sprachen trainiert werden oder nur auf englischen Daten trainiert werden. Diese Einschränkungen können dazu führen, dass das LLM Anfragen nicht versteht oder Antworten nicht in der gewünschten Sprache generiert, was sowohl zu potenziell voreingenommenen oder fehlerhaften Ausgaben in weniger vertrauten Sprachen des Modells als auch zu begrenztem Zugang zu den Vorteilen des Tools für Personen oder Gruppen führt, die diese Sprachen verwenden. Benutzer sollten sich dieser Probleme bewusst sein und Informationen über die Trainingsdaten einholen, die für das LLM verwendet wurden, mit dem sie arbeiten möchten.

Fazit

LLMs stellen bedeutende Herausforderungen dar, die angegangen werden müssen, um Fairness, Inklusivität und ethischen Einsatz von sprach-basierten maschinellen Lern-Technologien sicherzustellen. Vorurteile als systematische Abweichungen von Rationalität oder objektivem Urteil können zu verzerrten oder diskriminierenden Ausgaben in LLMs führen und soziale Vorurteile und ausschließende Normen aufrechterhalten. Dies ist besonders problematisch bei LLMs, da sie das Potenzial haben, Vorurteile im großen Maßstab zu verstärken und eine Vielzahl von Benutzern und Kontexten zu beeinflussen.

Dennoch bieten Tools wie PrivateGPT, die personenbezogene Identifikatoren automatisch entfernen, einen vielversprechenden Ansatz, um voreingenommene Ausgaben zu mindern und die Privatsphäre der Benutzer zu schützen. Es ist jedoch wichtig anzuerkennen, dass die Bewältigung von Vorurteilen wie ausschließenden Normen und sprachlichen Vorurteilen in LLMs über den Rahmen von Tools zur Wahrung der Privatsphäre hinausgeht. Fortgesetzte Forschung, Diversifizierung der Trainingsdaten und kritische Bewertung der Leistung sind entscheidend, um die breiteren Herausforderungen im Zusammenhang mit Vorurteilen in LLMs anzugehen und auf gerechtere und inklusivere maschinelle Lern-Technologien hinzuarbeiten.

Probieren Sie PrivateGPT noch heute aus: