KI – Heilsbringer der Verwaltungsinnovation?

Das rotglimmende Kameraauge des Supercomputers HAL 9000: Dieses Bild steht emblematisch für vieles, was KI – so wie sie heute verstanden wird – ausmacht. Dabei schadet es nicht, dass das Bild keineswegs neu ist. HAL 9000 ist der Computer des Raumschiffs Discovery in Stanley Kubricks Film „2001: Odyssee im Weltraum“ aus dem Jahr 1968.

Der Film zeigt uns HAL 9000 als lernendes, logisch denkendes KI-System, das in natürlicher Sprache kommunizieren und mittels Kameras auch sehen kann. HAL kann nicht nur einfache Befehle verstehen oder simple Auskünfte geben. Er kann vielmehr komplexe Unterhaltungen bestreiten und eigene Pläne verfolgen – wie ein Mensch, wenn da nicht das rote Kameraauge wäre, das den menschlich wirkenden Gesprächspartner als Computer markiert. So wie das menschliche Auge ein Fenster zur Seele ist, zeigt das rote Glimmen den maschinellen Kern.

Können Androiden wie Menschen agieren?

Die Menschmaschine, der Androide, ist ein altes Thema. Wie fast alles lässt es bis zu den alten Griechen zurückverfolgen. Wenn man nicht ganz so weit zurückschauen will, könnte man auch an Pinocchio denken, die menschenähnliche Marionette, die durch menschliches Verhalten zum echten Menschen wird.

Kann ein Artefakt wie ein Mensch agieren? Hat KI Rechte? Darf sie entscheiden? Trägt sie Verantwortung? Kann sie mitfühlen?

Das sind Kernfragen, die bei der Beschäftigung mit KI im Raum stehen – Fragen, die den Einsatz in Verwaltungen beeinflussen.

Es ist also kein Zufall, dass das Thema „Menschmaschine“ im Film wirkungsmächtig inszeniert wird. Denken wir an den Terminator, eine Maschine (Cyborg) mit menschlichem Überzug. Wie HAL 9000 verrät das rote Glimmen der Augen die Maschine. Ein Motiv, dass auch bei den Replikanten im Film Blade Runner auftaucht, allerdings in der subtileren Form von Lichtreflexen in den Augen. Die Reihe der Menschmaschinen ließe sich noch lange fortsetzen, mit Data beispielsweise, dem Androiden aus Star-Trek oder dem Roboter aus „I Robot“: Alles Figuren, an denen die Frage der Menschlichkeit von Maschinen thematisiert wird.

Turing Test

Die Frage nach der Menschlichkeit von Maschinen ist nicht trivial, sondern etwas, was uns Menschen wichtig ist: Wir wollen, wir müssen wissen, ob wir mit einer Maschine oder einem Menschen reden.

Schon 1950 entwickelte Alan Turing, ein britischer Informatiker, einen Test mit dem man erkennen kann, ob ein Computer ein menschliches Denkvermögen aufweist. Der Test betrachtet die Antworten einer Maschine im Dialog mit einem Menschen. Wenn das Verhalten der Maschine von einem menschlichen Verhalten nicht unterscheidbar ist, dann kann von maschineller Intelligenz gesprochen werden. Einfacher gesagt, wenn ein Mensch fünf Minuten lang ein Gespräch führen kann, ohne zu merken, dass er mit einer Maschine spricht, hat der Computer den Test bestanden.

Narzisstische Kränkungen der Menschheit

Bei dem Wunsch, maschinelles von menschlichem zu Unterscheiden geht um mehr, als eine weitere narzisstische Kränkung der Menschheit, wonach zunächst die Erde nicht das Zentrum des Weltalls ist (kosmologische Kränkung, Kopernikus), dann die Menschheit nicht außerhalb der Natur steht, sondern Teil der Evolution ist (biologische Kränkung, Darwin), wir nicht so autonom und selbstbestimmt handeln, wie wir gerne glauben möchten (psychologische Kränkung, Freud) und wir nun erleben müssen, dass viele unserer Fähigkeiten und Eigenschaften nicht exklusiv menschlich, sondern durch Maschinen substituierbar sind.

Es geht vielmehr darum, was passiert, wenn wir von Maschinen Erarbeitetes nicht von menschlichen Erzeugnissen unterscheiden können, insbesondere, wenn Maschinen Entscheide treffen, die nicht mehr als maschinell generiert erkennbar sind und gegen die wir uns, wenn wir sie für unberechtigt halten, nicht in gleicher Weise wehren können, wie bei einem menschlichen Gegenüber.

Oder, wenn das Gegenüber zwar als Maschine erkennbar ist, aber offensichtlich autonom agiert und wir nicht wissen, welcher Logik die Maschine folgt. Bei einem menschlichen Gegenüber (in gewissem Ausmaß auch bei Tieren) können wir auf die Wirksamkeit von Demutsgesten oder Empathie hoffen, bei autonomen Maschinen nicht. Einen Roboter wie Pepper im Empfangsbereich einer Verwaltung dürften die meisten Menschen noch akzeptieren. Was aber, wenn ein Ordnungsamt auf die Idee kommt, einen SpotMini, von Boston Dynamics Streife gehen zu lassen, und sei es nur um Parksünder aufzuspüren? Möchten wir diesem Roboter im Dunkeln begegnen?

Einsatz von Technik in Verwaltungen

Der Einsatz von KI-Systemen ist nicht der erste Welle technischer Umwälzungen bei der Verwaltungsarbeit. Schon in den frühen 1900er Jahren revolutionierten Büromaschinen wie Schreib- und Fakturiermaschinen die Arbeit [1]. Mitte des letzten Jahrhunderts hielten die elektrifizierten Versionen dieser Büromaschinen Einzug. Gegen Ende des letzten Jahrhunderts verbreiteten sich zunehmend Büro-Computer und Internetzzugänge. Diese elektronischen Systeme unterstützten allerdings eine immer noch analog gedachte Arbeitswelt. Erst in letzter Zeit löst sich diese Entwicklung zunehmend in Richtung rein digitaler – und auch digital gedachter – Abläufe auf.

Diese extrem geraffte Darstellung lässt es den Eindruck entstehen, dass es sich um rasante Entwicklungen handelt. Das relativiert sich, wenn man beispielsweise die Politikempfehlungen der Studie „Internet und Multimedia in der öffentlichen Verwaltung“ der Friedrich-Ebert-Stiftung aus dem Jahre 1999 (!) liest [2]:

• Öffentliche Online-Dienstleistungen müssen sich von Informationssystemen zu interaktiven „Erledigungssystemen“ entwickeln. „Informationen müssen laufen, nicht die Bürger“.
• Elektronische Angeboten sollen Komplexität nicht replizieren, sondern versuchen, sie zu reduzieren.
• Verwaltungen sollten ihre Online-Angebote nach Problemlösungen bündeln („One-Stopp-Government“).
• Multimedia-Einsatz und Verwaltungsreform müssen miteinander verknüpft werden. Dies kann auch durch Experimente und durch eine „Politik der kleinen Schritte“ geschehen.
• Effizienzgewinne können durch Multimedia- und Internet-Einsatz erst dann realisiert werden, wenn die Ablauf- und Aufbauorganisation entsprechend geändert werden
• Die Politik muss die Medienkompetenz der Bürger und der Verwaltungsmitarbeiter erhöhen: Dazu müssen die Nutzung von Multimedia und Internet in alle Fächer und Themengebiete integriert werden und die Technikausstattung in Schulen, Berufsschulen, beruflicher Weiterbildung und Verwaltungshochschulen entsprechend ausgeweitet werden
• Die öffentliche Verwaltung geht den Weg in die Informationsgesellschaft nur dann, wenn den Beteiligten Sinn und Spaß in der Anwendung der neuen Medien vermittelt werden kann.
• […]

Die gleiche Studie zitiert eine Umfrage an Bürgerinnen und Bürger, wonach (wenigstens damals) die digitale Erledigung von Verwaltungsvorgängen weit vor dem Online-Einkaufen, der Reisebuchung, aber auch vor der Diskussion mit Politikern steht. Diese Empfehlungen sind, das dürfte unbestritten sein, immer noch weit davon entfernt, umgesetzt zu sein. Aber schon zeichnet sich der nächste technologische Quantensprung ab.

Nun also Künstliche Intelligenz (KI)

Einmal mehr wird ein schillernder Begriff diskutiert, der unter unzähligen Blickwinkeln betrachtet und sehr unterschiedlich verstanden werden kann. Eine Konstante besteht allerdings: Es scheint Einigkeit darüber zu herrschen, dass KI viele Bereiche unserer Lebens- und Arbeitswelt verändern wird.

Auch wenn mit der Veröffentlichung von ChatGPT im November 2022 eine Technologieschwelle überschritten wurde; ist auch KI nicht neu. Früher sagte man eher Kybernetik. Der Begriff geht auf Norbert Wiener zurück, der ihn erstmals 1943/44 verwendete. Kybernetik bezeichnet die Wissenschaft der Steuerung und Regelung von Maschinen und deren Analogie zur Handlungsweise von lebenden Organismen.

Der Begriff „Künstliche Intelligenz“ wurde von 1956 von John McCarthy geprägt.

Ein letztes Datum soll hier noch genannt werde. 1988 wurde das Deutschen Forschungszentrums für künstliche Intelligenz (DFKI) in Kaiserslautern gegründet. Das Forschungszentrum ist eine Hinterlassenschaft von Heinz Riesenhuber, seinerzeit Forschungsminister. Ihm haben wir, nur nebenbei bemerkt, auch den Transrapid und den Growian zu verdanken.

Im Forschungszentrum bestand zunächst das Problem, überhaupt genug Daten zu bekommen, um statistische Auswertungen zu machen. Dieses Problem ist, seit es das Internet und Firmen wie Google gibt, gelöst. Große Datenmengen, statistische Werkzeuge, um sie auszuwerten, Algorithmen, die auf natürliche Sprache spezialisiert sind und Geduld, die Algorithmen zu trainieren, das ist die Mixtur, die zum heutigen Technologiesprung geführt hat.

ChatGPT

Der folgende Text ist das originale Ergebnis der Frage „Was ist psychologische Sicherheit?“ an den Chat-Bot ChatGPT.

„Psychologische Sicherheit bezieht sich auf das Gefühl, dass es sicher ist, sich in einer bestimmten sozialen Gruppe oder Umgebung zu äußern, ohne Angst vor negativen Konsequenzen wie Ablehnung, Demütigung oder Bestrafung zu haben.

In einer Gruppe mit hoher psychologischer Sicherheit fühlen sich die Mitglieder frei, ihre Gedanken, Ideen und Bedenken auszudrücken, ohne dass dies als Angriff oder Bedrohung für die Gruppendynamik oder das individuelle Ansehen interpretiert wird. Sie können auch konstruktive Kritik äußern, ohne sich Sorgen machen zu müssen, dass sie abgelehnt oder diskriminiert werden.

Psychologische Sicherheit ist ein wichtiger Faktor für effektive Zusammenarbeit und Leistung in Gruppen und Teams, insbesondere in Arbeitsumgebungen, in denen Kreativität, Innovation und kontinuierliche Verbesserung gefördert werden sollen. […]“

Ein erstaunlich lesbarer Text. Oder? Gleichzeitig zeigt sich, warum diese Software Schlagzeilen macht: Es ist nicht ohne Weiteres erkennbar, dass es ein maschinell generierter Text ist. (In der „Welt online“ gibt es unter der Überschrift „7 Zitate, 3 hat ChatGPT erfunden – erkennst du sie?“ [4] einen Test, bei dem man ausprobieren kann, ob man maschinelle Texte erkennt.)

Gefragt, ob ein Text von ChatGPT als maschinell erstellt erkennbar sein soll, sagt ChatGPT selbst:

Ja, ein Text, der von ChatGPT oder einem ähnlichen maschinellen Modell generiert wurde, sollte als maschinell erstellt erkennbar sein. Es ist wichtig, dass Menschen wissen, dass sie mit einem KI-System interagieren und nicht mit einem menschlichen Gesprächspartner. Dies hilft, Missverständnisse zu vermeiden und die Erwartungen an die Genauigkeit und Zuverlässigkeit der Antworten richtig einzuschätzen. […]

Autonome Entscheide

Entscheide, besonders wenn sie gravierende Auswirkungen haben, können schwierige Ethische Fragen aufwerfen. Exemplarisch sei hier das sogenannte Trolley-Problem genannt Es handelt sich um ein Gedankenexperiment, das seit seiner ersten Formulierung im Jahr 1930 in vielen verschiedenen Fassungen vorliegt. In der Fassung von Philippa Foot lautet die Problemstellung so:

Eine Straßenbahn ist außer Kontrolle geraten und droht, fünf Personen zu überrollen. Durch Umstellen einer Weiche kann die Straßenbahn auf ein anderes Gleis umgeleitet werden. Unglücklicherweise befindet sich dort eine weitere Person. Darf (durch Umlegen der Weiche) der Tod einer Person in Kauf genommen werden, um das Leben von fünf Personen zu retten?

Zitiert nach Wikipedia [6]

Im modernen Gewand taucht die Problematik bei autonom fahrenden Autos wieder auf.

Ein autonom fahrendes Auto steuert auf einen Zebrastreifen zu. Plötzlich betritt eine Frau mit einem Kinderwagen den Zebrastreifen. Bremsen ist nicht mehr möglich, nur noch Ausweichen. Auf dem Gehweg rechts befindet sich eine Gruppe mit Kindern. Der linke Teil des Zebrastreifens ist durch eine Barriere aus Beton gesperrt. Wie soll das Fahrzeug reagieren? Bremsen und geradeaus die Frau mit Kinderwagen treffen, rechts in die Gruppe mit Kindern steuern oder links auf die Barriere zusteuern und dabei den Tod der Fahrzeuginsassen in Kauf nehmen? Unabhängig davon, wie die KI entscheidet: Wer trägt die Verantwortung? Der Fahrzeughersteller, die Fahrerin, die Softwarefirma?

Es ist wieder das alte Trolley-Problem. Nur, dass hier anstelle des Bahnwärters nicht mehr ein Mensch entscheidet, sondern eine autonom agierende Maschine.

Was heißt das für Verwaltungen?

In der Stellungnahme des Ethikrates „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ [5] heißt es: Verwaltungen verstehen sich als vollziehende Gewalt des Staates. […] Für Menschen, aber auch viele Organisationen stellt die öffentliche Verwaltung, so etwa im Finanz-, Steuer-, Melde- und Sozialwesen und in der Straffälligen- und Jugendgerichtshilfe die unmittelbar erfahrbare Staatsgewalt dar.

Das bedeutet, dass es problematisch ist, Entscheide vollständig, gar unmarkiert, an KI-Systeme zu übertragen (Dunkelverarbeitung). Das heißt nicht, dass solche System nicht eingesetzt werden können. Es gilt vielmehr zu unterscheiden nach kritischen und unkritischen Einsatzgebieten. Je kritischer, desto höher die Anforderung hinsichtlich Transparenz, Sorgfalt, Einspruchmöglichkeiten, Anforderung eines menschlichen Gegenübers etc. Das alles beachtend, kann KI mit ihren besonderen Fähigkeiten der Musterkennung hilfreich sein, beispielsweise Fälle von Kindeswohlgefährdung zu erkennen.

Unkritische Einsatzgebiete könnten beispielsweise automatisierte Verteilsysteme elektronischer und gescannter Post innerhalb der Verwaltung sein. Wenn hier etwas falsch adressiert wird, gibt man die Post an ein Clearingstelle, wo ein Mensch den Fehler korrigiert. Auch viele Prozesse der Dienstleistungsverwaltung dürften unter die Rubrik unkritisch fallen.

Wenn allerdings mit Einführung von KI nicht gleichzeitig auch die Organisation der Verwaltung verändert wird könnte es sein, dass am Ende nicht viel gewonnen wird. Gut möglich, dass dann das Problem der Dunkelverarbeitung nicht ist, dass Bescheide durch einen Menschen freigegeben werden müssen, sondern vielmehr, ob es gelingt, den dunkelverarbeiteten Prozess nur von einer Person freizugeben und nicht, wie üblich, von einer mehrstufigen Linienkaskade. In letzteren Fall braucht man mit KI besser gar nicht anfangen.

Fazit

KI ist das aktuelle Glied technischer Hilfsmittel in Verwaltungen. Sie wird große Veränderungen mit sich bringen, obwohl der letzte Technologieschub, die Digitalisierung noch nicht abgeschlossen ist. KI ist aber mehr als ein Hilfsmittel, denn sie substituiert originär menschliche Arbeit. Der Einsatz von KI braucht deswegen besondere Rahmenbedingungen.   

Quellen und Anmerkungen

[1] Heinz Nixdorf MuseumsForum
https://www.hnf.de/dauerausstellung/ausstellungsbereiche/die-mechanisierung-der-informationstechnik.html

[2] Studie „Internet und Multimedia in der öffentlichen Verwaltung“ der Friedrich-Ebert-Stiftung, 1999
https://library.fes.de/pdf-files/stabsabteilung/00520.pdf

[3] Kränkungen der Menschheit (Wikipedia)
https://de.wikipedia.org/wiki/Kr%C3%A4nkungen_der_Menschheit

[4] 7 Zitate, 3 hat ChatGPT erfunden – erkennst du sie?
https://www.welt.de/kmpkt/article243553087/Quiz-Mensch-oder-ChatGPT-wer-hat-s-gesagt.html

[5] Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz, Stellungnahme des Ethikrates (lesenswert!)
https://www.ethikrat.org/fileadmin/Publikationen/Stellungnahmen/deutsch/stellungnahme-mensch-und-maschine.pdf

[6] Seite „Trolley-Problem“. In: Wikipedia – Die freie Enzyklopädie. Bearbeitungsstand: 27. Mai 2023, 06:13 UTC. URL: https://de.wikipedia.org/w/index.php?title=Trolley-Problem&oldid=234063790 (Abgerufen: 7. Juni 2023, 20:52 UTC)

Lesenswert und sehenswert

Leben in vernetzen Welten,
Grimm, Kerber, Zöllner,
Reclam Kompaktwissen XL

Digitaler Humanismus,
Nida-Rümelin und Weidenfeld,
Piper Verlag

Google Duplex: A.I. Assistant Calls Local Businesses To Make Appointments
https://www.youtube.com/watch?v=D5VN56jQMWM

Atlas | Partners in Parkour, Boston Dynamics
https://www.youtube.com/watch?v=tF4DML7FIWk