Vollautomatische Bescheiderstellung: Visionen einer durchverwalteten Welt

Das Fraunhofer-Institut für offene Kommunikationssysteme (FOKUS) in Berlin hat ein Papier veröffentlicht, in dem es die vollautomatische Ausführung von Gesetzen durch Algorithmen fordert /Anmerkung 1/. Voraussetzung sei allerdings, dass künftig Gesetze „maschinenverständlich“ formuliert würden. Das heißt z. B. klare „Wenn-Dann-Regeln“ anstelle von Ermessenspielräumen des Entscheiders. Damit könne man viel Geld sparen. Was sagen unsere agilen Werte zu solch einem Konzept?

Klarstellung zu Beginn

Es geht hier nicht darum, die Autoren des FOKUS in irgendeiner Weise persönlich anzugreifen. Ich komme selbst aus der IT und weiß, wie fesselnd Machbarkeitsideen sein können. Das ist alles nachvollziehbar. Wenn ich mich kritisch äußere, dann zu bestimmten Haltungen, die vielfach verbreitet werden – durchaus nicht nur vom FOKUS, sondern auch von anderen Autoren /Anmerkung 2/. Und diese Haltung bedeutet: der Faszination des Tuns soweit erliegen, dass man die menschlichen Ziele und die sie fundierenden Werte darüber vergisst.

Für mich geht es um erste Gedanken in statu nascendi. Und deshalb würde ich mich über Diskussionsbeiträge der Kolleg*innen des FOKUS sehr freuen.

Voraussetzung für Algorithmen: Abschaffung von Ermessensspielräumen

Die FOKUS-Autoren fordern:

„Klare Entscheidungsregeln nach dem Muster »Wenn… dann…« sind für Maschinen verständlich. Hierfür müssen die rechtlichen (Tatbestands-)Voraussetzungen nach Möglichkeit mit eindeutigen Merkmalen versehen werden.“ (Seite 5)

Algorithmen benötigen – im Unterschied zu Verfahren der KI – klare Wenn-Dann-Regeln.

Die Abbildung zeigt ein Beispiel – von den FOKUS-Autoren gewählt -, in dem ein Algorithmus über die Gewährung von Elterngeld automatisch entscheidet. Dabei wird der Ermessensspielraum, den ein menschlicher Sachbearbeiter in der Regel besitzt, in zweierlei Richtung beschnitten:

1. Die Frage, ob eine Wenn-Bedingung erfüllt ist, wird ersetzt durch eine automatische Abfrage seitens des Algorithmus in behördlichen Registern (wie z. B. Melderegister oder Ausländerzentralregister).
2. Die Frage, ob die Wenn-Dann-Verknüpfung selbst- also das Regelwerk – in einem konkreten Fall vielleicht gegen die Lebenswirklichkeit verstößt, könnte von einem Menschen bejaht werden. Für einen Algorithmus liegt das definitionsgemäß außerhalb jeglicher reflektiver Reichweite.

Zu A: Immer wieder kommt es vor, dass ich als antragstellender Bürger gegenüber einem Sachbearbeiter Informationen geltend machen möchte, die im amtlichen Register nicht oder noch nicht oder unklar abgebildet werden. Es gibt einen Haufen Gerichtsprozesse um die Gewährung von Elterngeld (ich bin kein Experte in diesem Bereich, ich habe einfach „Zweifelsfälle Gewährung Elterngeld“ gegoogelt und kam auf 5.790 Ergebnisse).

Zu B: Menschen können Gesetze verbiegen, kreativ „interpretieren“, schlicht und einfach bewusst gegen sie verstoßen. Das ist ein wichtiger Teil des Verwaltungsprozesses. Sachbearbeiter wollen Menschen helfen, und gerade viele Mitarbeiter im ÖD sind extrem erfinderisch. Ich erlebe immer wieder in den Pausen meiner Seminare, wie Mitarbeiter berichten, wie sie jenem Jugendlichen geholfen haben jenseits der Vorschriften des SGB oder diesem Asylbewerber usw. Besinnen wir uns auf die deutsche Tradition der Aufklärung! Der kategorische Imperativ Kants bezieht sich in Sondersituationen explizit auf die Fähigkeit des Menschen, dem geltenden Recht bewusst zuwiderzuhandeln.

„Interaktionen wichtiger als Prozesse“

Die fundamentale Vorstellung der FOKUS-Autoren bedeutet demgegenüber: Wir eliminieren aus einem Prozess alle Störungen und Sonderfälle. Schon das Agile Manifest (aus 2001) war skeptisch gegenüber solchen Visionen. Es notierte unter anderem:

„Wir erschließen bessere Wege, Dienstleistungen zu entwickeln, indem wir es selbst tun und anderen dabei helfen.

Durch diese Tätigkeit haben wir diese Werte zu schätzen gelernt:

• Individuen und Interaktionen mehr als Prozesse und Werkzeuge …“ /Anmerkung 3/

Zwischen beiden Seiten dieser Gegenüberstellung gibt es einen Gegensatz. Es gibt Prozesse – durch ihre Konzeptionierung werden Abläufe normiert und reguliert. Und es gibt immer wieder Fälle, in denen ein Prozess einer konkreten Situation nicht gerecht wird.

Keine der beiden Seite soll völlig der anderen geopfert werden – so das Denkangebot des Manifests. Nur im Zweifelsfall soll die linke Seite wichtiger sein als die rechte.

Das FOKUS-Konzept beinhaltet ziemlich genau den Gegenstandpunkt: „Wir eliminieren aus einem Prozess alle Zweifelsfälle, die in einer konkreten Situation eine schablonenhafte Exekution der Prozessregeln in Frage stellen könnten.“

Man könnte den FOKUS-Standpunkt auch so formulieren: „Die Umsetzung des Gesetzes xy programmieren wir so, dass niemals eine Situation oder ein Individuum noch die Chance erhält, das Abspulen des abstrakten Algorithmus zu stören.“ Aber ist das 1. realistisch und 2. wünschenswert?

Gibt es Prozesse ohne Ermessensspielräume?

Gibt es überhaupt Prozesse ohne Unklarheiten, also ohne Einzelfälle, die eine Bewertung durch einen Menschen (unkünstliche Intelligenz) erfordern? Und „Bewertung“ heißt ja immer „Ermessensspielraum“.

Das würde ich glattweg leugnen. Ich habe in einem Post mal das Beispiel eines Senioren-Wohnprojekts gebracht /Anmerkung 4/. In der Baugenehmigung wurde den Senioren 55+ vom Landratsamt Rastatt die Auflage erteilt, einen Kinderspielplatz mit Schaukel auf ihrem Grundstück anzulegen. Das entsprach natürlich dem Buchstaben der Landesbauordnung, hatte aber mit gesundem Menschenverstand nicht viel zu tun.

Kein Algorithmus wäre in diesem Beispiel darauf gekommen, dass die Landesbauordnung zwar glasklare Regeln definiert („Mehrfamilienhaus mit mehr als 9 Wohneinheiten“) , dass die hirnlose Anwendung dieser Regeln aber zu den konkreten Umständen der Lebenswelt – also den „Individuen und Interaktionen“ – in Widerspruch gerät. Dass aber das Gesetz den Menschen dienen soll und nicht die Menschen dem Gesetz, hat schon Apostel Paulus gewusst. Ein Algorithmus weiß von alledem nichts – nichts von Hirn, nichts von einer Situation, überhaupt nichts von Aposteln. /Anmerkung 5/

Einen solchen heil-losen Algorithmus gab es übrigens schon mal. Er hieß (und heißt immer noch) Hans-Georg Maaßen. Wisst ihr noch, liebe Leser, welche Tat das Karrieresprungbrett des Herrn Maaßen darstellte? Das war der Fall des Guantanamo-Häftlings Murat Kurnaz. Die USA hatten den offenbar unschuldig inhaftierten Muslim 2002 freilassen wollen, doch die Bundesregierung wollte ihn nicht wieder einreisen lassen. Maaßen, damals Referatsleiter im Innenministerium, entwickelte dafür eine juristische Begründung: Der Bremer Türke habe sich länger als die vom Gesetz erlaubten sechs Monate im Ausland aufgehalten; damit habe er sein Aufenthaltsrecht in Deutschland verwirkt.

Eine Argumentation, die sich am „Buchstaben des  Gesetzes“ und an „Registereinträgen“ der Meldebehörde orientierte und deshalb eines Algorithmus würdig war. Aber natürlich an Herzlosigkeit und technokratischer Kälte nicht zu übertreffen: es war ja gerade die Inhaftierung in Guantanamo gewesen, die Kurnaz am Aufenthalt in Deutschland gehindert hatte. Die kafkaeske Selbstverwandlung des Beamten Maaßen in einen Algorithmus zeigte seinen Vorgesetzten, dass er zu Höherem berufen sei.

Aus agiler Sicht würde die Lage im Land gerade das Gegenteil derartiger Verhaltensweisen erfordern: Die Verwaltungsarbeit wo immer möglich mit Herz betreiben und umstellen in Richtung „Einbeziehung der Betroffenen“. Die Politik hat – aus welchen Gründen auch immer – in den letzten Jahren zunehmend die Fähigkeit eingebüßt, die anstehenden drängenden Fragen der Gesellschaft konstruktiv zu behandeln. Das hat meiner Meinung nach zur Folge, dass neben der Judikative (die dafür immer mehr in Anspruch genommen wird) auch die Verwaltung aktiv und selbstbewusst diese Lücke ausfüllen muss. Das bedeutet also gerade nicht eine zunehmende „Entscheidung von oben über die Bürgeranliegen“ (und Algorithmen als Entscheider führen zur Wiedergeburt einer Art von Obrigkeitsstaat – nur ohne Obrigkeit, gegen die man früher immerhin noch demonstrieren konnte). Sondern eine Verhandlung auf Augenhöhe und dafür sogar eine Ausweitung der Ermessenspielräume der Sachbearbeiter, damit Verhandlungen „auf Augenhöhe“ Sinn machen und Gewicht gewinnen.

Wollen wir gesellschaftliche Werte der Effizienz opfern?

Der Ansatz der FOKUS-Autoren stößt auch und gerade bei vielen fortschrittlichen Verwaltungsmitarbeitern auf spontane Zustimmung. Die Unproduktivität der dort herrschenden Arbeitsmethoden bringt eine gigantische Verschwendung von Steuergeldern mit sich, die dringend woanders gebraucht werden. Die Blockaden – auch z.B. bei der Umsetzung des OZG – bringen diese Kollegen richtig zur Weißglut.

Aber soll man deshalb in eine Richtung gehen, die die Entscheidungsfindung in Dialogform eliminiert? Mein Standpunkt besagt überhaupt nicht, dass wir auf effiziente Workflows verzichten müssen. Aber wir als Agilisten sollten auf Standards bei der Anwendung von Algorithmen drängen. Also zum Beispiel:

• Dass jedem Antragstellenden transparent gemacht wird, wenn ein Algorithmus über sein Anliegen entscheiden wird.
• Dass die Regeln, die einer automatischen Entscheidung zugrundliegen, im jeweiligen Einzelfall nachvollziehbar dargelegt werden.
• Dass jeder Antragstellende die Mitwirkung eines Menschen verlangen kann.

Und was in der aktuellen Diskussion überhaupt nicht vorkommt, sind die Möglichkeiten der KI. Künstliche Intelligenz könnte, unter der Voraussetzung einer entsprechenden Entscheidungsdatenbank, in Zweifelsfällen alle ähnlich gelagerten Fälle von Erziehungsgeld per Mustererkennung auflisten und dem Sachbearbeiter als Entscheidungsunterstützung anbieten. Dann unterstützen wir indirekt den Wissensaustausch zwischen Sachbearbeitern, also Menschen, statt sie gleich alle zu eliminieren.

Anmerkungen

/1/ Download unter https://www.oeffentliche-it.de/documents/10181/14412/Recht+Digital+-+Maschinenverst%C3%A4ndlich+und+automatisierbar

/2/ Vgl. Johann Herzberg: „Wird die Bedeutung der eAkte für die Digitalisierung der öffentlichen Verwaltung überschätzt?“, in: Verwaltung und Management, Heft 2/2018, S. 96-99. Insofern ist der FOKUS-Artikel einfach ein konkreter Text, den ich zitieren kann (es hätte auch einer anderer unter vielen sein können).

/3/ Das Manifest stellte gleichzeitig klar, dass es nicht darum gehe, die Prozesse und Werkzeuge über Bord zu werfen: „Das heißt, obwohl wir die Werte auf der rechten Seite wichtig finden, schätzen wir die Werte auf der linken Seite höher ein.“ Vgl. https://agilemanifesto.org/iso/de/manifesto.html

/4/ Siehe https://agile-verwaltung.org/2019/06/24/juergen-habermas-und-die-verwaltete-welt/ Dort findet sich ein anderes Beispiel, das ich dem Buch von Seibel „Verwaltung verstehen“ entnommen hatte. Dort verschleppt ein Amtsarzt die Erstellung eines Gutachtens über die Dienstunfähigkeit einer jungen Beamtin so lange, bis es keinen menschlichen Schaden mehr anrichten kann.