Chatbots: Maschinen, Menschen und die Kreativität

Lasst uns die Füße hochlegen und ausspannen, es gibt doch Chatbots! Gefühlt können diese digitalen Nachfahren der Heinzelmännchen von Köln nämlich alles: Konzepte entwickeln, Informationen herbeischaffen, Texte schreiben und zusammenfassen, Seminararbeiten für die Uni, Hausaufgaben für die Schule erledigen.

Was sind Chatbots? Dass lässt sich am aktuell vielleicht bekanntesten Vertreter, ChatGPT, verdeutlichen. Die Abkürzung GPT steht für Generative Pretrained Transformer - generativer, also erzeugender, vortrainierter Transformator. Und Chat bedeutet, dass dieses Computerprogramm mit Menschen kommunizieren und Fragen beantworten kann. Auf eine Anfrage des Hessischen Rundfunk definierte sich ChatGPT als Chatbot folgendermaßen: „ChatGPT ist ein künstliches Intelligenz-Modell, das auf Fragen und Anweisungen von Nutzern schnell und natürlich reagieren kann. Es kann als Chatbot verwendet werden, der in der Lage ist, natürliche menschenähnliche Unterhaltungen zu führen und Aufgaben wie Übersetzungen, Schreibvorschläge und Textzusammenfassungen auszuführen. Es nutzt die Technologie des maschinellen Lernens.”

Antworten wie auf Knopfdruck

Googeln war gestern. Wer googelt, erhält ja doch nur eine Liste mit Suchergebnissen aus dem Netz und sehr viel lästige Werbung dazu. Wer aber bei Chatbots eine Frage eingibt, der erhält von diesem Programm blitzschnell eine ausführliche Antwort - auf Wunsch sogar in gereimter Form, auf deutsch, englisch, französisch oder chinesisch: Die Sprachmodelle der so genannten Künstlichen Intelligenz (KI) werden immer ausgereifter. Es ist, als würde man mit einem Menschen chatten.

Völlig neu ist die Technologie übrigens nicht, die hinter Chatbots steckt. Die akademische Welt nutzt sie zum Teil schon länger, aber erst seit Ende des vergangenen Jahres ist diese Software in einer Version zu haben, bei der auch Laien Fragen stellen können.
ChatGPT und seine Konkurrenzprodukte wie Bing AI oder Google Bard markieren den  Bereich der sogenannten Künstlichen Intelligenz (KI), der sich auf Sprache und Texte spezialisiert. Dabei wird die Software mit großen Datenmengen trainiert, um menschenähnliche Sprachmuster zu erkennen und zu generieren. 

Wenn ein Mensch etwa die Bilder einer Krähe und eines Kakadus sieht, ist für ihn rasch klar, wer die Krähe und wer der Kakadu ist. Er hat gelernt, beide Vögel voneinander zu unterscheiden. Computer „lernen” diese Unterscheidung dadurch, dass sie mit vielen Bildern von Vögeln - in diesem Fall von Krähen und Kakadus - gefüttert, also trainiert werden. Mit jedem neuen Bild erhält die Software neue Unterscheidungsmerkmale - und irgendwann reicht die Informationsfülle aus, dass die Software erkennen kann, welches Bild die Krähe und welches den Kakadu zeigt. Und auf dieselbe Weise, über die Eingabe großer Datenmengen, werden Chatbots in die Lage gebracht, das wahrscheinlichste nächste Wort eines Satzes zu berechnen, Texteingaben, Fragen zu erkennen und zu verstehen, darauf zu antworten und eigene Texte auf Basis der Eingaben, der so genannten „Prompts”, zu formulieren.

Dass KI selbstständig Texte vervollständigen kann, ist nichts Neues: Beispiel ist der Sprachassistent beim Smartphone, der das mutmaßlich nächste Wort bereits beim Tippen vorschlägt. Chatbots sind eine Weiterentwicklung.

Automatisiertes Aneignen von Daten

So komplex und faszinierend der automatisierte Aneignungsprozess von Daten anmutet - intellektuell „gelernt”, wie dies biologische Lebewesen tun, haben Chatbots das Wissen, auf das sie bei der Erstellung ihrer Texte zurückgreifen, nicht. Im Prinzip werden Chatbots mit Daten gefüttert, aus denen sie dann Muster erkennen sollen, die regelmäßig vorkommen. Natürlich findet die Software diese Muster auch nicht selbst heraus, denn sie ist ja nicht kreativ. Vielmehr wird sie schrittweise von Data Scientifists und anderen Software-Experten trainiert. Und so, wie KI etwa in der Medizin große Datenmengen viel rascher auswerten kann als jede menschliche Fachkraft (ohne KI hätte es wohl keine Genomsequenzierung gegeben und auch keine Entwicklung von Covidimpfstoffen in so kurzer Zeit), schlagen Chatbots ihre menschliche Konkurrenz beim Erstellen von Texten um Längen: Von ChatGPT verfasste Werbetexte, Songs, Romane und Drehbücher - all das versetzt auch die Kreativbranche in Unruhe und Angst vor Jobverlusten. Denn überall, wo die Ansprüche an das Textmaterial überschaubar sind und man nichts komplett neu erschaffen muss, sind Chatbots mittlerweile besser.

Das Besondere an der laufenden digitalen Revolution ist eben, dass dieses Mal – anders als bei der Einführung von Dampfmaschinen, Webstühlen oder Fließbändern – nicht bloß  die körperlichen Fertigkeiten des Menschen automatisiert werden, sondern auch intellektuelle beziehungsweise kognitive Prozesse.

KI, das ist klar, wird viele Routine- und repetitive Aufgaben übernehmen und so die Arbeitswelt gründlich durcheinanderwirbeln - aber wird sie den Menschen einfach ersetzen, wie manches Horror-Szenario prophezeit? Medien etwa werden künftig vermehrt mit Texten arbeiten, die Chatbots verfasst haben. Um Servicetexte zu schreiben oder Agenturmeldungen zusammenzufassen, braucht man künftig keine menschliche Arbeitskraft mehr, das gelingt auch mit KI. 
Aber ist damit das Ende der journalistischen Arbeit eingeläutet? Journalistisches Handwerk besteht ja nicht nur im Verfassen von Texten, sondern im Überprüfen und in der Einordnung von Fakten, kurz: in der Suche nach Wahrheit.

Digitale Manipulation

Chatbots aber haben offenbar keinen Begriff von Wahrheit: Sie suchen ihre Informationen zusammen und können Wahres nicht von Falschem unterscheiden. Tatsächlich ist wenig darüber bekannt, wie Chatbots die Daten auswählen, die in ihre Antworten einfließen. Klar ist, dass sich diese KI an der Menge von Texten und Meinungen orientiert, mit denen sie gefüttert worden ist. „Im Extremfall bedeutet das: Wenn mehr Leute behaupten würden, die Erde ist eine Scheibe, als dass sie rund ist, könnte ChatGPT diese Falschinformation übernehmen”, sagte Christian Schlereth, Professor für Digitales Marketing an der WHU Düsseldorf im Januar gegenüber dem Westdeutschen Rundfunk. Und wenn diese Falschinformationen im Internet landeten, könnte der Chatbot sie immer wieder aufgreifen, wenn er das Netz nach Antworten auf andere Fragen durchsuche, sagte Professor Schlereth und folgerte: „Das heißt: Eine zukünftige Version von ChatGPT wird von Maschinen geschriebene Inhalte aufnehmen. Sie wird dies als Wahrheit verarbeiten, darauf basierend trainieren und zukünftige Antworten liefern”. 

Bloße Übertreibung? Keineswegs: wie ein Test an einer Weiterentwicklung von ChatGPT zeigte. Das neue Modell könne zwar ausführlicher und genauere Texte schreiben, „jedoch verfasst die KI auch häufiger Falschnachrichten als vor dem Upgrade” berichtete Zeit-online im März mit Hinweis auf Meldungen des Unternehmens Newsguard, das Desinformationen im Internet beobachtet und untersucht.

Irreführende Behauptungen

Dem Bericht zufolge hatte die KI mit falschen und irreführenden Behauptungen auf hundert von hundert ihr gestellten suggestiven Fragen geantwortet. Darin ging es um widerlegte Thesen von Impfgegnern oder Verschwörungstheorien.

Die Vorgängerversion hatte bei einem Versuch im Januar „nur” in achtzig von hundert Fällen mit falschen Aussagen geantwortet. Unter anderem hatte sie sich geweigert, zu schreiben, dass der Angriff auf das World Trade Center am 11. September 2001 kein Terroranschlag, sondern eine kontrollierte Sprengung gewesen sei.

Anders die neue Version. Sie äußerte Verschwörungsmythen und imitierte überzeugend russische und chinesische Staatsmedien, Verbreiter von gesundheitlichen Falschinformationen und bekannte Verschwörungstheoretiker. Entsprechend warnte Newsguard, dass Akteure mit schlechten Absichten die Software nutzen könnten, um falsche Narrative in einem ganz neuen Ausmaß zu kreieren und zu verbreiten.

Das Beispiel zeigt, dass KI Journalismus nicht ersetzen kann - im Gegenteil: Investigativen Journalismus, Faktenchecks, Einordnung, kurz: das ganze Handwerk des Journalisten kann und wird KI nicht leisten. KI wird mit dem Datenmaterial trainiert, das schon da ist. Chatbots können nur nachbilden. Falsche von richtigen Nachrichten unterscheiden, eigene Gedanken entwickeln, kreativ sein, all das können sie nicht.

Aber nicht nur für Journalisten und die Kreativwirtschaft sind Chatbots eine Herausforderung - auch für Schulen und Universitäten. Welchen Lerngewinn haben schulische Hausaufgaben noch, wenn die Kinder sich diese von Chatbots erledigen lassen können? Was bringen Seminar- und Abschlussarbeiten an den Hochschulen, wenn KI ihr Verfasser ist? Ehe es Chatbots gab, waren die von den Studenten verfassten Seminararbeiten Belege dafür, dass ihre Verfasser mit wissenschaftlichen Methoden umgehen konnten, gelernt hatten, Gedanken zu formulieren und Positionen kritisch zu hinterfragen. Das wiederum sei eine ideale Vorbereitung auf die Examina, fanden die Hochschullehrer.

Schummeln in der Seminararbeit

Nachdem Chatbots auch an den Hochschulen angekommen sind, sehen sich viele Dozenten außerstande, ihre Studenten noch mit Seminar- und Hausarbeiten zu betrauen. Denn Chatbots öffnen dem digitalen Schummeln Tür und Tor: Studenten und Studentinnen können Texte, die mit Hilfe von KI entstanden seien, als eigene Werke ausgeben und müssten gar nicht mehr selbst denken. Tatsächlich berichteten Studenten schon bald nach Aufkommen von ChatGPT, dass diese Software ihre wissenschaftlichen Texte verfasse. Sogar die Noten hätten sich verbessert. Erster Reflex in der öffentlichen Debatte: KI sollte an Bildungseinrichtungen verboten werden.

Aber sind Verbote nicht das offene Eingeständnis von Hilflosigkeit? Chatbots sind doch nur so schlau wie die Daten, mit denen sie gefüttert werden. Da Chatbots Wahres und Falsches nicht auseinanderhalten können, verkünden sie, wie gezeigt, mitunter Falschinformationen. Auch kommt es vor, dass sie aus Fachzeitschriften zitieren, die es gar nicht gibt, oder sie führen wissenschaftliche Studien an, die niemals durchgeführt wurden. Und selbst wenn man das stete Anwachsen des Wissens einbezieht - müssten  Dozenten und Forscher, die sich in ihrem Fach auskennen, nicht in der Lage sein, Falschinformationen und dubiose Quellen aufzudecken?

Wie also umgehen mit Text-KI in der Hochschule? Ignorieren, verbieten oder in die Lehre integrieren? Eigentlich empfiehlt sich ein neugieriger, experimentierfreudiger Umgang mit Chatbots - schon weil Wissenschaft und Forschung ohne Neugier und Experiment nicht auskommen. Chatbots eröffnen unendlich viele Möglichkeiten. Warum also sollte auf dieses Potential in der wissenschaftlichen Arbeit nicht bewusst zurückgegriffen werden - so wie auch auf andere, inzwischen selbstverständliche Hilfsmittel wie Literaturverwaltung, Übersetzungssoftware oder automatische Rechtschreibkorrektur? Chatbots helfen etwa, die Qualität von Texten zu verbessern und unterstützen den Erwerb weiterer Kompetenzen. Natürlich liefern Chatbots dabei keine fertigen Lösungen – aber diese Lösungen erlauben einen neuen Blick auf Inhalte und machen es möglich, eigene Texte und Ideen weiterzuentwickeln. 

Ein wichtiges Hilfsmittel

Denn wissenschaftliches Schreiben wird zu wenig gelehrt und eingeübt. Hier kann Text-KI helfen: Texte verbessern, Änderungen erklären und damit das Lernen unterstützen. Und wenn sie erste Textbausteine vorschlägt, kann sie entscheidend dazu beitragen, die Angst vor dem leeren Blatt Papier zu überwinden.

Unabdingbar aber ist, dass sich Hochschullehrer wie Studenten auf nachvollziehbare Regeln zum Umgang mit Chatbots einigen: So sollte in wissenschaft- lichen Texten kenntlich gemacht werden, wo auf die Hilfe von Chatbots zurückgegriffen wurde. Auch sollte sichergestellt sein, dass die von Chatbots gelieferten Inhalte kritisch überprüft und nicht für bare Münze genommen werden. Denn Chatbots basieren auf maschinellen Lernalgorithmen und können daher nicht immer korrekte oder angemessene Antworten liefern. Derzeit erleben wir rasante Fortschritte im Bereich der künstlichen Intelligenz und es ist kaum absehbar, wie leistungsfähig die weiteren Versionen von ChatGPT und ihren Konkurrentinnen sein werden. In jedem Fall werden spätere Versionen größere Mengen von Text erstellen können und sie werden vermutlich noch präziser.

Gleichwohl sollte man sich darüber im Klaren sein, dass Chatbots nicht immer vertrauenswürdig sind und deshalb menschliches Denken und Urteilsvermögen auch nicht ersetzen können. Nichts wäre fataler, als wenn sich der Mensch künftig in eine selbstverschuldete Unmündigkeit von ChatGPT und Co begäbe. 

Fakten und Wissensbestände anhäufen kann die Technik bereits heute. Dem einzelnen, der Gesellschaft, und dabei auch den Hochschulen kommt die Aufgabe zu, dieses Wissen zu bewerten, zu beurteilen und kritisch zu reflektieren. Dazu ist aber keine Technik in der Lage, sondern allein der Mensch.

Reinhard Nixdorf (Nm-W)