Künstliche Intelligenz

Von Sprachassistenten, automatisierten Fabriken bis hin zu selbstfahrenden Autos - die Einsatzmöglichkeiten der Künstlichen Intelligenz (KI) scheinen unbegrenzt zu sein. Doch mit der fortschreitenden Technologie stellt sich auch die Frage nach den Auswirkungen auf unsere Gesellschaft und unser Zusammenleben. Kann Künstliche Intelligenz bald alles besser übersehen und entscheiden als der Mensch? Welche Möglichkeiten bietet KI, welche Gefahren birgt sie? Wie können wir sicherstellen, dass sie ethisch verantwortungsvoll eingesetzt wird? „K.o. durch KI? Künstliche Intelligenz kontrovers” - Unter diesem Leitwort wurde auf den 53. KV-Tagen in Fulda über die Risiken und Chancen der Künstlichen Intelligenz diskutiert.

Der Papst im stylischen Daunenmantel, Bundeskanzlerin a. D. Angela Merkel, die sich zusammen mit Ex-US-Präsident Obama am Strand ein Eis schmecken lässt, Russlands Präsident Wladimir Putin, der vor dem chinesischen Präsidenten Xi Jinping auf die Knie fällt: Fotos, die für Aufsehen gesorgt haben. Denn erst im Nachhinein stellte sich heraus, dass es Fake-Bilder waren, die von Künstlicher Intelligenz (KI) geschaffen wurden - Bilder, die nicht echt waren, sondern höchstens verblüffend realistisch wirkten. Die Aufregung war groß, zeigte sich doch an diesen Fake-Bildern, wie leicht sich mithilfe der Künstlichen Intelligenz manipulieren und desinformieren lässt und Dinge konstruiert werden können, die nichts mit der Realität zu tun haben. KI ist in der Lage, Vertrauen zu erschüttern, demokratische Prozesse mit Fake-News zu unterhöhlen, Gesellschaften zu überwachen und zur Beute totalitärer Systeme zu machen - wie es in China mit dem Social-Scoring-System bereits bittere Realität ist. 

Ein anderes Risiko: Schon jetzt übernimmt KI immer mehr Arbeiten, die bisher vom Menschen ausgeführt wurden, so dass sich die Frage stellt, ob KI nicht mit steigender Leistungsfähigkeit der Systeme Menschen als Arbeitskräfte ganz und gar überflüssig machen und Regierungen sowie Unternehmen eine riesige Machtfülle bescheren könnte. Die Menschen würden dann nur noch ein Schattendasein fristen oder von KI ganz abgeschafft werden. „Wenn wir nicht lernen, wie wir uns auf die potenziellen Risiken vorbereiten und sie vermeiden können, könnte die künstliche Intelligenz das schlimmste Ereignis in der Geschichte unserer Zivilisation sein. Sie bringt Gefahren mit sich, wie zum Beispiel mächtige autonome Waffen oder neue Wege für die Wenigen, um die Vielen zu unterdrücken. Sie könnte große Störungen unserer Wirtschaft verursachen”, warnte das inzwischen verstorbene Jahrhundertgenie Stephen Hawking 2017. Ebenso forderte Elon Musk, Begründer des Online-Bezahlsystems Paypal, mehr Kontrolle über KI. „Künstliche Intelligenz erweist sich als weitaus gefährlicher als Atomwaffen”, sagte er 2018 - um dann nochmals zu betonen: „Weitaus. Warum haben wir also keine Regierungsaufsicht?”

Doch neben dem Risikopotenzial steht eben auch eine Fülle von Chancen, die Künstliche Intelligenz für die Menschheit bereithält. Künstliche Intelligenz kann Menschen bei vielen Tätigkeiten von Routinen entlasten und hat für zahlreiche Branchen das Potenzial, den eklatanten Fachkräftemangel zu kompensieren. Sie kann mit Assistenzsystemen Menschen mit Behinderung ein selbstbestimmteres Leben ermöglichen. Sie kann bei Menschen, die in anderer Weise benachteiligt sind, für Ausgleich sorgen: Der Spracherwerb ist da nur ein Beispiel. Sie kann dabei helfen, wissenschaftliche Daten besser auszuwerten, schafft datengestützte Dia-gnosehilfen in der Medizin und Entlastung in der Pflege. Sie ist Grundlage für intelligente Stromnetze und hilft auf diese Weise dabei, wertvolle Energie zu sparen. Auch kann KI helfen, den Straßenverkehr besser zu regeln, die Landwirtschaft ökologischer und ressourcenschonender zu organisieren. „Und vielleicht”, schrieb die Wissenschaftsjournalistin Manuela Lenzen, die auch bei den KV-Tagen als Referentin sprach, „ist die intelligente Technik sogar die einzige Möglichkeit, mit Herausforderungen wie dem Klimawandel, der Organisation von Megacitys und der Ernährung der wachsenden Weltbevölkerung zurecht zu kommen.”

Und Künstliche Intelligenz ist längst Realität. Wir nutzen Korrekturprogramme und Übersetzungshilfen. Wir sprechen in Telefon-Hotlines mit Robotern, die menschliche Stimmen perfekt simulieren. Wir lassen uns von Streamingdiensten Musik und Filme empfehlen und nutzen personalisierte Informationen von Suchmaschinen. Wir sichern unsere Smartphones mit Gesichtserkennung und lassen uns von unserem Navigationsgerät um Staus herumführen. Dass die Debatte um Künstliche Intelligenz gerade im vergangenen Jahr so viel Fahrt aufgenommen und für mediale Aufmerksamkeit gesorgt hat, liegt an Chatbots wie Chat-GPT - dem Sprachroboter, der automatisiert ganze Texte erstellt. Autoren fürchten um ihre Existenz und pochen zu Recht auf ihre Urheberrechte. Manche sehen schon das Ende des Journalismus gekommen.

Sowohl die Chancen wie die Risiken der sogenannten Künstlichen Intelligenz sind also immens. Daher komme es darauf an, diese Technologie richtig einzuschätzen, betonte die Wissenschaftsjournalistin Manuela Lenzen in ihrem Vortrag „Heikle Helfer - ChatGPT & Co”: Man dürfe sich weder von Bedrohungsszenarios aus Science-Fiction-Storys von menschenähnlichen Automaten, die ihrem Schöpfer über den Kopf wachsen, blenden lassen, noch sich Allmachtsphantasien hingeben.

Die KI-Forschung habe mächtige Werkzeuge entwickelt, die die Fähigkeiten des Menschen in manchen Bereichen längst überträfen. Doch es könne keine Rede davon sein, dass hier eine Technologie auf dem Weg sei, die menschliche Intelligenz nachzubilden. Gerade die Forschung der zurückliegenden Jahrzehnte habe herausgefunden, wie vielschichtig die menschliche Intelligenz sei und dass sie neben kognitiven auch emotionale und soziale Aspekte umfasse. Es gehe der KI-Forschung eben nicht darum, das menschliche Gehirn nachzubilden, sondern darum, Prinzipien oder Regeln zu finden, die es erlauben, kognitive Prozesse durch Berechnungsprozesse nachzubilden, die ein Computer ausführen kann. Und so mache es auch einen Unterschied, sich einer, wenn auch künstlichen, „Intelligenz” gegenüberzusehen oder bloß einem System, das den Menschen in seinen Entscheidungen unterstützt und hilft. 

Künstliche Intelligenz zu überschätzen könne bewirken, dass Systeme in Bereichen eingesetzt würden, wo sie überfordert sind und Schaden anrichten, betonte Manuela Lenzen. Es könne aber auch dazu führen, dass übertriebene Erwartungen in KI eine - ebenso übertriebene - Enttäuschung auslösten. „In der Geschichte der Künstlichen Intelligenz sind solche Phasen als KI-Winter bekannt”, berichtete die Journalistin. KI-Winter seien Zeiten, in denen Forschungsgelder massiv gekürzt wurden, weil es eben nicht möglich gewesen sei, die mit KI verknüpften Versprechungen einzuhalten. Bei einem erneuten KI-Wintereinbruch könnten wichtige Entscheidungen ausgebremst und Chancen vergeben werden. KI zu unterschätzen, bedeute dagegen, die rasanten Veränderungen, die durch diese Technologie auf den Menschen zukommen, nicht ernst zu nehmen und ihre Gestaltung und Regulierung zu vernachlässigen.  

Im März 2023 hat der deutsche Ethikrat, ein unabhängiges Gremium, das sich mit ethischen Fragen und Herausforderungen in Naturwissenschaft, Medizin und Gesundheitsversorgung befasst, in der Stellungnahme „Mensch und Maschine - Herausforderungen durch Künstliche Intelligenz” die ethische Verantwortbarkeit von KI in den Blick genommen. „Der Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern”, sagte Prof. Dr. Alena Buyx, die Vorsitzende des Deutschen Ethikrates, bei der Vorstellung der Stellungnahme. „KI darf den Menschen nicht ersetzen.” Was dies  bedeutet, erläuterte der Andreas Lob-Hüdepohl, Professor an der Katholischen Hochschule für Sozialwesen in Berlin, der als Mitglied des Ethikrats die Stellungnahme mit ausgearbeitet hat.

Segen oder Fluch von KI zeige sich in sehr konkreten Lebens- und Anwendungsgebieten, sagte Professor Lob-Hüdepohl. Der Ethikrat habe vier Anwendungsfelder gewählt, „die exemplarisch für die große Bandbreite stehen, in denen heute KI zum Einsatz kommt und sehr verschiedene Konsequenzen hat, positive wie negative”. Wenn sich etwa Sachbearbeiter in der öffentlichen Verwaltung in Entscheidungsverfahren blindlings von den Vorgaben der KI leiten ließen, statt sie als Vorschläge für eigene Entscheidungen zu prüfen, sei dies ein schleichender Verlust der Autorschaft des Menschen. Und das sei hochgefährlich, habe es doch Auswirkungen auf die Betroffenen der jeweiligen Entscheidung.

Als Beispiel führte der Ethiker den Fall an, dass das Jugendamt nach Paragraph 8a SGB VIII im Fall von gemeldeten Hinweisen das Risiko einer Kindeswohlgefährdung in einer Familie abschätzen wolle. Bisher geschehe dies auf der Basis des persönlichen Erfahrungswissens des Sachbearbeiters. Doch sei aus empirischen Quellen bekannt, so Professor Lob-Hüdepohl, „dass Muster erkennende statistische Einschätzungen in der Regel präziser sind.”

Hier komme KI ins Spiel, weil sie auf der Basis von Tausenden von Falldokumentationen Muster potenzieller Gefährdungen ermittle und dem Sachbearbeiter wichtige Hinweise für ihre Risikoeinschätzung liefern könne. Wenn das System aber, so Professor Lob-Hüdepohl, „mit tendenziösen Datensätzen trainiert wurde; wenn die fallführende Fachkraft allzu grobschlächtig ihren Fall den vorgegebenen Rastern einpasst; und wenn sie dann der Entscheidungsempfehlung der KI blindlings folgt, ohne nochmals die individuelle und möglicherweise sehr spezielle Konstellation des Falles in Augenschein zu nehmen”, sei eine kritische Grenze überschritten und die algorithmische Entscheidungshilfe zum automatischen Entscheid geworden. Dies müsse unbedingt ausgeschlossen werden, forderte der Ethiker - „und zwar mindestens im Interesse der betroffenen Familie und des Kindes.” Stets müsse gesichert sein, dass Entscheidungsprozesse nachvollzogen werden können. 
Betroffenen müsse es möglich sein, Widerspruch gegen eine Entscheidung einzulegen. Und die Mitarbeiter der Verwaltung müssten immer zur Prüfung in der Lage sein, einem Widerspruch abzuhelfen oder nicht. „Niemals darf ihre Antwort sein: Die KI war’s, wir sind nicht verantwortlich.”    
Aber was ist geboten, wenn die Zeit fehlt, um den Rat der algorithmischen Entscheidungshilfe zu überprüfen? Was ist zu tun, wenn in Sekundenschnelle Maßnahmen getroffen werden müssen, die vielleicht sogar über Leben und Tod entscheiden? Diese Frage stellt sich bei den Streitkräften. Angesichts verschärfter Bedrohungslagen, man denke an den Ukraine-Krieg, wird KI dort immer wichtiger: KI kann Soldaten riskante Aufgaben abnehmen, kann Daten sortieren, Bilder zur Lage vergleichen und Risiken abschätzen. Registrieren beispielsweise Militär-Satelliten, Sensoren am Meeresboden oder Kameras an Land ungewöhnliche Bewegungen gegnerischer Mächte und schicken die Informationen an eine KI, kann diese anhand der Daten rasch die Lage klären. Denn der Faktor Zeit wird in Gefechtssituationen immer entscheidender. 

Dr. Ansgar Rieks, Generalleutnant a. D. und zuletzt Stellvertreter des Generalinspekteurs der Luftwaffe, plädierte in seinen beiden Vorträgen daher für einen Einsatz von KI bei den Streitkräften. „Wir werden dadurch präzisier, wir haben dadurch ein klareres Lagebild, wir können dadurch die Daten besser aufarbeiten und wir haben viele Vorteile, insbesondere auch bei der Nutzung künstlicher Intelligenz im Zusammenwirken der Teilstreitkräfte.” 

Vor dem Ukraine-Krieg hätten nicht wenige aus ethischen Gründen ein generelles Verbot von KI im militärischen Bereich gefordert. Angesichts der gegenwärtigen Bedrohungslagen - und um verteidigungsfähig zu bleiben - wandte sich Dr. Rieks dagegen. Ethisch gebe es augenblicklich mehr Fragen als Antworten. Wer entscheide in Gefechtssituationen? Der Mensch oder die Maschine? Es komme darauf an, meinte Dr. Rieks. Pauschale Antworten seien nicht hilfreich. KI könne gerade im Zusammenwirken der Teilstreitkräfte eine große Rolle spielen - „und nur so werden wir in Zukunft auch bestehen können.” Auch seien die ethischen Fragen nicht zuletzt deswegen schwierig zu beantworten, weil die Verbündeten unterschiedliche ethische Wertvorstellungen hätten.

Grundsätzlich gilt, dass Künstliche Intelligenz den Menschen nicht ersetzen kann. Der Mensch trägt die exklusive Verantwortung für den Einsatz der Künstlichen Intelligenz und für die Qualität datenbasierter Systeme. Das bedeutet aber auch: KI kann nur so gut sein wie das Datenmaterial, das ihr zur Verfügung steht und mit dem sie „trainiert” wird. Das machten die weiteren Vorträge zu Autonomem Fahren durch Kb Ludger Mimberg (Wk), wie zum Einsatz von ChatGPT im Unterricht durch Kb Marco Ramón (Ost, Fr-S+Ebg, Smn, Osg) deutlich.

Wenn KI entscheidende Funktionen übernimmt

Kb Ludger Mimberg arbeitet als Ingenieur für ein Unternehmen, das Elektroniken zur Steuerung von Fahrzeugen baut. Es gebe heute sechs verschiedene Levels des Einsatzes von KI bei der Autosteuerung, führte er in seinem Vortrag „Autonomes Fahren” aus: von „Null-Autonomie” bis zu dem Level, bei dem das Auto völlig selbstständig fährt. „Doch selbst in den Bereichen, wo der Fahrer noch aktiv ist, finden wir erste Ansätze zu künstlichen Maschinen.”  

Das heißt: Je mehr KI die bloße Assistentenfunktion verlässt und entscheidende Funktionen übernimmt, je „selbstfahrender” das Fahrzeug ist,desto entscheidender wird die Leistung der KI, die über am Auto angebrachte Videokameras, über Radar- und Lidarsensoren und über das GPS-System aktuelle Daten ermittelt, die zeigen, wo das Fahrzeug gerade steckt, welche Objekte sich in der Umgebung befinden, wie diese Objekte miteinander interagieren und wie das Fahrzeug selbst auf diese Objekte reagieren soll. 

Für jeden, der nicht mehr in der Lage ist, Auto zu fahren, ist ein von KI gesteuertes Fahrzeug ein Gewinn an Mobilität und Lebensqualität - wenn KI das Fahrzeug mindestens ebenso gut oder besser als ein normaler menschlicher Autofahrer steuern kann. Automatisiertes Fahren ist ethisch nur vertretbar, wenn dadurch weniger Unfälle geschehen als durch Fahrzeuge, die von Menschen gesteuert werden. Mit anderen Worten: Die Risikobilanz automatisierter Systeme muss deutlich positiv ausfallen, der Schutz des Menschen Vorrang haben. Das erfordert eine besonders sorgfältige Programmierung der KI für den Fall der so genannten Dilemma-Situationen, bei denen der Mensch geschützt, aber Tier- oder Sachschäden in Kauf zu nehmen sind. Diese Fragen werden sich künftig immer eindringlicher stellen. Denn nach einer vom ADAC in Auftrag gegebenen Studie des Prognos Forschungsinstituts wird der Anteil von Fahrzeugen, die auf Autobahnen autonom unterwegs sind, bis 2050 auf 70 Prozent steigen.

Für Furore hat 2023 die Textverarbeitungstechnologie ChatGPT gesorgt. Wie vielfältig sich dieses Programm einsetzen lässt, zeigte Kb Marco Ramón (Ost, Fr-S+Ebg, Smn, Osg), Lehrer für Mathematik und Informatik, eindrucksvoll in praktischen Vorführungen. ChatGPT kann ein nützliches Werkzeug für das Verständnis des Lehrmaterials und für das Erstellen von Berichten sein. Doch die Befürchtung ist groß,  dass diese Technologie Plagiate fördern und das geistige Verarbeiten der Lernstoffe verhindern könnte und so bewirkt, dass kritisches Denken, Forschung und kreative Problemlösung vernachlässigt werden. Nötig sind daher klare Richtlinien für den Einsatz von KI im Unterricht. Auch sollten Schüler und Studenten darin geschult werden, KI-Systeme kritisch zu hinterfragen und verantwortungsvoll einzusetzen.

Fazit der Tagung: Angst ist ein schlechter Ratgeber, und auch für den Umgang mit Künstlicher Intelligenz ungeeignet - ebensowenig wie Naivität. Wir sollten KI nutzen, wo sie unser Leben vereinfacht und müssen sie bannen, wo sie die Freiheit des Menschen gefährdet. Um das eine vom anderen zu unterscheiden, ist tiefes Wissen und breite Aufklärung über Chancen und Risiken gefragt.

Reinhard Nixdorf (Nm-W)