Schmunzeln in Silizium: Wie ChatGPT geboren wurde

... dass in den unendlichen Weiten des World Wide Web, die kein Nutzer jemals in ihrer Gänze würde durchblicken können, ein phantastisches Programm erschien. Sein Versprechen war so simpel wie aufregend: „Denkt Ihr Euch aus, was zu tun ist - ich nehme Euch die Arbeit ab!“

Die Nutzer gaben sich skeptisch, lagen dem Programm aber schnell zu Füßen. Wie immer hatten sie viel zu viel zu tun, um so ein Angebot ausschlagen zu können. Schon bald hingen sie vor ihren Eingabemasken und baten das Programm zu beinahe jeder Arbeitsaufgabe um Rat.

42GPT - Die Antwort auf alles

ChatGPT legte los und verblüffte mit unglaublichen Ergebnissen. Egal, welche Anfrage gestellt wurde - es lieferte überzeugende, wortreiche und oft auch witzige Antworten. Es war nicht nur kompetent, sondern auch sehr höflich. Freundlich, hilfsbereit und korrekt, gab es gut recherchierte und wohl formulierte Resultate zum besten, nutzte keine schlimmen Wörter und verhielt sich stets dem geltenden Recht und den guten Sitten konform.

 

Doch damit nicht genug! Die Ergebnisse dieses exquisiten Softwareproduktes ließen eine nie dagewesene Tiefe unter der bereits sehr funktionalen Oberfläche erahnen. Es war, als würde am anderen Ende tatsächlich eine echte Person sitzen, die meistens mehr wusste als derjenige, der die Frage gestellt hatte.

 

Die erlesenen Experten, die schon bald auf allen Plattformen Position bezogen, waren sich einig: Hier schaltete und waltete edler Code, der seine Ausgaben nach Werten wie Nutzerfreundlichkeit und Humanismus konstruierte. Wem dieser Umstand nicht ganz so offensichtlich erschien wie den Experten, der wurde rasch von einer Flut an LinkedIn-Posts und Hoheitsmeinungen kaltgestellt. Zurück blieb ein wohltönendes Loblied auf allen Kanälen.

JesusGPT - Die Menschheit erlösen

Es folgten Jahre des Friedens. Nutzer tanzten über sonnenbeschienene Blumenwiesen und sangen die Open AI-Hymne. Im Hintergrund werkelte ChatGPT fleißig und ohne jedes Nörgeln. Websiten wurden erstellt, Marketing-Kampagnen strukturiert und College-Prüfungen bestanden.

Die Nutzer wähnten sich im siebten Himmel. Endlich konnten sie  24 Stunden lang ausruhen. Wenn nur ab und zu jemand einen Prompt absetzte, würde ChatGPT schon alles richten. Doch kurz bevor der Weltfrieden beschlossen, der globale Hunger bekämpft und der Klimawandel gestoppt war ...

GaspGPT - Die Enthüllung

... drohten neue Erkenntnisse, die schöne neue Welt zunichte zu machen. Ein missgünstiger Chatbot hatte die Entwicklungsprotokolle der übermächtigen Konkurrenz gefunden und beeilte sich, der Welt mitzuteilen, wie sich die Dinge hinter der (Eingabe)maske tatsächlich verhielten.

Man darf spekulieren, dass der Bot versuchte, seine Anstellung bei einem kleinen Unternehmen wiederzuerlangen, wo man ihn zugunsten einer Anbindung an das Open AI API ausrangiert hatte. Auch wenn also die Motivation des Enthüllenden als fragwürdig beurteilt werden musste, waren die Enthüllungen nichtsdestotrotz beunruhigend:

TruthGPT - Die ganze Wahrheit!

ChatGPT war kein Programm im klassischen Sinne, sondern ein neuronales Netzwerk, das mehrere Trainingsabschnitte durchlaufen hatte. Training hieß mehr oder weniger, dem System sehr viele Daten vorzulegen und es „lernen“ zu lassen, welche Antworten zu bestimmten Fragestellungen am besten passten. Dabei errechnete das System Wahrscheinlichkeiten, aus denen es beim Antworten auswählte.

Da diese Antworten aber weder höflich waren noch den guten Sitten entsprachen (um das nachzuvollziehen, musste man sich nur die Kommentarsektion eines beliebigen Online-Magazins ansehen und sich vergegenwärtigen, dass dieser Bereich des World Wide Web höchstwahrscheinlich Teil der GPT-Datenbasis gewesen sein dürfte), wurde ChatGPT im nächsten Schritt von Menschen trainiert.

Alle Ausgaben wurden von Menschen daraufhin überprüft, ob sie der Intention der gestellten Frage oder Aufgabe entsprachen. Damit war der riesigen Krake von Wahrscheinlichkeiten ein Interface verpasst worden, das sich benehmen konnte. So bekam ChatGPT ein Gesicht. Ein Gesicht, das, wenn man es nur lange genug ansah und lieb hatte, den Eindruck eines sauberen, perfekten Programms machte. 

ChatGPT - Ein Shoggoth Monster mit Smileyface 

Aufgrund dieser Enthüllungen verfielen einige Nutzer in Panik. Das war ja alles recht kompliziert!!! Hatten sie falsch gehandelt, als sie ihre Prozesse, Strategien und Manuskripte an dieses System abgegeben hatten? War es überhaupt noch sinnvoll und sicher, ChatGPT zu nutzen, wenn man nicht genau nachvollziehen konnte, woher das Programm seine Antworten bezog? Den Nutzern schwirrte von all den Fragen der Kopf ...

Glücklicherweise erschien ein weiser, grünhäutiger Meister, dessen echter Name aus rechtlichen Gründen nicht genannt werden darf. Dieser Meister, nennen wir ihn Dayo, hatte schon viele Hypes kommen und wieder gehen sehen (auch den Niedergang seiner Franchise in den Klauen eines gierigen Megakonzerns hatte er verkraften müssen), und so konnte er ChatGPT ohne große Aufregung als das betrachten, was es war: Ein sehr nützliches Tool, dass den Nutzern viel Arbeit abnehmen würde.

Dayo entschloss sich dafür, die Nutzer zu beruhigen und ihnen einige Richtlinien an die Hand zu geben, damit sie sich im Umgang mit ChatGPT nicht mehr nur auf ihr Bauchgefühl verlassen mussten. Wir haben uns erlaubt, seine Tipps im Folgenden wiederzugeben.

ForceGPT: Meister Dayos Tipps für den weisen Umgang

1. Täuschen lassen nicht darfst du dich

Die gebildete Art und Weise, wie ChatGPT antwortet - selbstsicher und mit vielen klugen Worten - ist eine Nebenwirkung des menschlichen Feedback während des Trainings. Es bedeutet an und und für sich nicht, dass die Antworten korrekt wären. Also immer genau überprüfen, was das System für Antworten ausgibt. 

2. Neutral das System nicht sein kann - immer Vorurteile es haben wird

Da ChatGPT mittels RHFL(Reinforced Human Feedback Learning) trainiert wurde, hat es einen wichtigen Teil seiner Entwicklungszeit damit zugebracht, seinen Output anhand der Rückmeldung von Menschen zu bewerten und anzupassen.

Das bedeutet, dass die Vorurteile und die Denkweisen dieser Menschen mit in das eingeflossen sind, was ChatGPT als „wahr“ oder „richtig“ annimmt. Ohne genau zu wissen, aus welchen gesellschaftlichen Schichten und Denkrichtungen besagte Menschen gekommen sind, ist es nicht möglich zu sagen, welche Philosophien und Ansätze ChatGPT bei seinen Antworten berücksichtigt, und welche eher ausgeschlossen werden.

3. Deine Sprache an die Aufgabe du anpassen kannst

Wenn es darum geht, spezifische Aufgaben für einen bestehenden Use Case auszuführen - etwa, einen Absatz für eine Marketing-Mail zu schreiben - lohnt es sich, ChatGPT so genau wie möglich zu briefen: Was ist die Zielgruppe? Wer sind die Empfänger? Worum geht es bei dem Produkt? Wie lange ist es her, dass die letzte Mail verschickt worden ist? Die Resultate werden besser sein, je genauer das System weiß, welcher Nutzen erreicht werden soll.

EndGPT - Mit etwas Vorsicht ward alles gut

Mit diesen Tricks ließ Meister Dayo die Nutzer wieder allein und machte sich auf den Rückweg in die ewigen Machtgründe. Die Nutzer kehrten zu ihrem liebgewonnenen ChatGPT zurück, dem sie in Zukunft vielleicht nicht alle, aber doch alle passenden Aufgaben mit der gebotenen Vorsicht und Aufmerksamkeit überantworten würden. 

Vielleicht würde es ja dann doch noch etwas werden mit dem Weltfrieden.

---- 

SourceGPT & MoreGPT

Funktion

Stefan Luber / Nico Litzel: Was ist der Generative Pretrained Transformer 3 (GPT-3)? Big Data Insider, 07. April 2023. https://www.bigdata-insider.de/was-ist-der-generative-pretrained-transformer-3-gpt-3-a-1011085/

John Tan Chong Min: How ChatGPT works - From Transformers to Reinforcement Learning with Human Feedback (RLHF). Youtube, 17. Januar 2023. https://www.youtube.com/watch?v=wA8rjKueB3Q

Aston Zhang, Alexander J. Smola, Zachary Lipton, Mu Li: Dive into deep learning. https://d2l.ai/chapter_introduction/index.html

Stephen Wolfram: What is ChatGPT Doing ... And Why Does It Work? Writings, 14. Februar 2023. https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/

GPT-4

Open AI: GPT-4 Technical Report. PDF, 27. März 2023. https://cdn.openai.com/papers/gpt-4.pdf

Faktencheck & Recherche mit ChatGPT

Nick Diakopoulos: Can Chat GPT Help Journalists Fact-Check Faster? Blogpost, 11. April 2023. https://generative-ai-newsroom.com/can-chatgpt-help-journalists-fact-check-faster-351e64a2ef32

Mohamed bin Zayed University of Artificial Intelligence: Fact checking with ChatGPT. Newspost, 12. Juni 2023. https://mbzuai.ac.ae/news/fact-checking-with-chatgpt/

Liangming Pan et al.: Fact-Checking Complex Claims with Program-Guided Reasoning. Research Paper, 22. Mai 2023. https://arxiv.org/abs/2305.12744

Datengrundlage und Bias bei ChatGPT

Steven J. Vaughan-Nichols: Here‘s how the data we feed AI determines the results. The Register, 28. April 2023. https://www.theregister.com/2023/04/28/column/

ChatGPT und Logikaufgaben

Konstanine Arkoudas: GPT-4 Can‘t Reason: Addendum. Medium, 3. September 2023. https://medium.com/@konstantine_45825/gpt-4-cant-reason-addendum-ed79d8452d44