Vollautomatische Bescheiderstellung: Visionen einer durchverwalteten Welt

Das Fraunhofer-Institut für offene Kommunikationssysteme (FOKUS) in Berlin hat ein Papier veröffentlicht, in dem es die vollautomatische Ausführung von Gesetzen durch Algorithmen fordert /Anmerkung 1/. Voraussetzung sei allerdings, dass künftig Gesetze „maschinenverständlich“ formuliert würden. Das heißt z. B. klare „Wenn-Dann-Regeln“ anstelle von Ermessenspielräumen des Entscheiders. Damit könne man viel Geld sparen. Was sagen unsere agilen Werte zu solch einem Konzept?

Klarstellung zu Beginn

Es geht hier nicht darum, die Autoren des FOKUS in irgendeiner Weise persönlich anzugreifen. Ich komme selbst aus der IT und weiß, wie fesselnd Machbarkeitsideen sein können. Das ist alles nachvollziehbar. Wenn ich mich kritisch äußere, dann zu bestimmten Haltungen, die vielfach verbreitet werden – durchaus nicht nur vom FOKUS, sondern auch von anderen Autoren /Anmerkung 2/. Und diese Haltung bedeutet: der Faszination des Tuns soweit erliegen, dass man die menschlichen Ziele und die sie fundierenden Werte darüber vergisst.

Für mich geht es um erste Gedanken in statu nascendi. Und deshalb würde ich mich über Diskussionsbeiträge der Kolleg*innen des FOKUS sehr freuen.

Voraussetzung für Algorithmen: Abschaffung von Ermessensspielräumen

Die FOKUS-Autoren fordern:

„Klare Entscheidungsregeln nach dem Muster »Wenn… dann…« sind für Maschinen verständlich. Hierfür müssen die rechtlichen (Tatbestands-)Voraussetzungen nach Möglichkeit mit eindeutigen Merkmalen versehen werden.“ (Seite 5)

Algorithmen benötigen – im Unterschied zu Verfahren der KI – klare Wenn-Dann-Regeln.

Die Abbildung zeigt ein Beispiel – von den FOKUS-Autoren gewählt -, in dem ein Algorithmus über die Gewährung von Elterngeld automatisch entscheidet. Dabei wird der Ermessensspielraum, den ein menschlicher Sachbearbeiter in der Regel besitzt, in zweierlei Richtung beschnitten:

  1. Die Frage, ob eine Wenn-Bedingung erfüllt ist, wird ersetzt durch eine automatische Abfrage seitens des Algorithmus in behördlichen Registern (wie z. B. Melderegister oder Ausländerzentralregister).
  2. Die Frage, ob die Wenn-Dann-Verknüpfung selbst- also das Regelwerk – in einem konkreten Fall vielleicht gegen die Lebenswirklichkeit verstößt, könnte von einem Menschen bejaht werden. Für einen Algorithmus liegt das definitionsgemäß außerhalb jeglicher reflektiver Reichweite.

Zu A: Immer wieder kommt es vor, dass ich als antragstellender Bürger gegenüber einem Sachbearbeiter Informationen geltend machen möchte, die im amtlichen Register nicht oder noch nicht oder unklar abgebildet werden. Es gibt einen Haufen Gerichtsprozesse um die Gewährung von Elterngeld (ich bin kein Experte in diesem Bereich, ich habe einfach „Zweifelsfälle Gewährung Elterngeld“ gegoogelt und kam auf 5.790 Ergebnisse).

Zu B: Menschen können Gesetze verbiegen, kreativ „interpretieren“, schlicht und einfach bewusst gegen sie verstoßen. Das ist ein wichtiger Teil des Verwaltungsprozesses. Sachbearbeiter wollen Menschen helfen, und gerade viele Mitarbeiter im ÖD sind extrem erfinderisch. Ich erlebe immer wieder in den Pausen meiner Seminare, wie Mitarbeiter berichten, wie sie jenem Jugendlichen geholfen haben jenseits der Vorschriften des SGB oder diesem Asylbewerber usw. Besinnen wir uns auf die deutsche Tradition der Aufklärung! Der kategorische Imperativ Kants bezieht sich in Sondersituationen explizit auf die Fähigkeit des Menschen, dem geltenden Recht bewusst zuwiderzuhandeln.

„Interaktionen wichtiger als Prozesse“

Die fundamentale Vorstellung der FOKUS-Autoren bedeutet demgegenüber: Wir eliminieren aus einem Prozess alle Störungen und Sonderfälle. Schon das Agile Manifest (aus 2001) war skeptisch gegenüber solchen Visionen. Es notierte unter anderem:

„Wir erschließen bessere Wege, Dienstleistungen zu entwickeln, indem wir es selbst tun und anderen dabei helfen.

Durch diese Tätigkeit haben wir diese Werte zu schätzen gelernt:

  • Individuen und Interaktionen mehr als Prozesse und Werkzeuge …“ /Anmerkung 3/

Zwischen beiden Seiten dieser Gegenüberstellung gibt es einen Gegensatz. Es gibt Prozesse – durch ihre Konzeptionierung werden Abläufe normiert und reguliert. Und es gibt immer wieder Fälle, in denen ein Prozess einer konkreten Situation nicht gerecht wird.

Keine der beiden Seite soll völlig der anderen geopfert werden – so das Denkangebot des Manifests. Nur im Zweifelsfall soll die linke Seite wichtiger sein als die rechte.

Das FOKUS-Konzept beinhaltet ziemlich genau den Gegenstandpunkt: „Wir eliminieren aus einem Prozess alle Zweifelsfälle, die in einer konkreten Situation eine schablonenhafte Exekution der Prozessregeln in Frage stellen könnten.“

Man könnte den FOKUS-Standpunkt auch so formulieren: „Die Umsetzung des Gesetzes xy programmieren wir so, dass niemals eine Situation oder ein Individuum noch die Chance erhält, das Abspulen des abstrakten Algorithmus zu stören.“ Aber ist das 1. realistisch und 2. wünschenswert?

Gibt es Prozesse ohne Ermessensspielräume?

Gibt es überhaupt Prozesse ohne Unklarheiten, also ohne Einzelfälle, die eine Bewertung durch einen Menschen (unkünstliche Intelligenz) erfordern? Und „Bewertung“ heißt ja immer „Ermessensspielraum“.

Das würde ich glattweg leugnen. Ich habe in einem Post mal das Beispiel eines Senioren-Wohnprojekts gebracht /Anmerkung 4/. In der Baugenehmigung wurde den Senioren 55+ vom Landratsamt Rastatt die Auflage erteilt, einen Kinderspielplatz mit Schaukel auf ihrem Grundstück anzulegen. Das entsprach natürlich dem Buchstaben der Landesbauordnung, hatte aber mit gesundem Menschenverstand nicht viel zu tun.

Kein Algorithmus wäre in diesem Beispiel darauf gekommen, dass die Landesbauordnung zwar glasklare Regeln definiert („Mehrfamilienhaus mit mehr als 9 Wohneinheiten“) , dass die hirnlose Anwendung dieser Regeln aber zu den konkreten Umständen der Lebenswelt – also den „Individuen und Interaktionen“ – in Widerspruch gerät. Dass aber das Gesetz den Menschen dienen soll und nicht die Menschen dem Gesetz, hat schon Apostel Paulus gewusst. Ein Algorithmus weiß von alledem nichts – nichts von Hirn, nichts von einer Situation, überhaupt nichts von Aposteln. /Anmerkung 5/

Einen solchen heil-losen Algorithmus gab es übrigens schon mal. Er hieß (und heißt immer noch) Hans-Georg Maaßen. Wisst ihr noch, liebe Leser, welche Tat das Karrieresprungbrett des Herrn Maaßen darstellte? Das war der Fall des Guantanamo-Häftlings Murat Kurnaz. Die USA hatten den offenbar unschuldig inhaftierten Muslim 2002 freilassen wollen, doch die Bundesregierung wollte ihn nicht wieder einreisen lassen. Maaßen, damals Referatsleiter im Innenministerium, entwickelte dafür eine juristische Begründung: Der Bremer Türke habe sich länger als die vom Gesetz erlaubten sechs Monate im Ausland aufgehalten; damit habe er sein Aufenthaltsrecht in Deutschland verwirkt.

Eine Argumentation, die sich am „Buchstaben des  Gesetzes“ und an „Registereinträgen“ der Meldebehörde orientierte und deshalb eines Algorithmus würdig war. Aber natürlich an Herzlosigkeit und technokratischer Kälte nicht zu übertreffen: es war ja gerade die Inhaftierung in Guantanamo gewesen, die Kurnaz am Aufenthalt in Deutschland gehindert hatte. Die kafkaeske Selbstverwandlung des Beamten Maaßen in einen Algorithmus zeigte seinen Vorgesetzten, dass er zu Höherem berufen sei.

Aus agiler Sicht würde die Lage im Land gerade das Gegenteil derartiger Verhaltensweisen erfordern: Die Verwaltungsarbeit wo immer möglich mit Herz betreiben und umstellen in Richtung „Einbeziehung der Betroffenen“. Die Politik hat – aus welchen Gründen auch immer – in den letzten Jahren zunehmend die Fähigkeit eingebüßt, die anstehenden drängenden Fragen der Gesellschaft konstruktiv zu behandeln. Das hat meiner Meinung nach zur Folge, dass neben der Judikative (die dafür immer mehr in Anspruch genommen wird) auch die Verwaltung aktiv und selbstbewusst diese Lücke ausfüllen muss. Das bedeutet also gerade nicht eine zunehmende „Entscheidung von oben über die Bürgeranliegen“ (und Algorithmen als Entscheider führen zur Wiedergeburt einer Art von Obrigkeitsstaat – nur ohne Obrigkeit, gegen die man früher immerhin noch demonstrieren konnte). Sondern eine Verhandlung auf Augenhöhe und dafür sogar eine Ausweitung der Ermessenspielräume der Sachbearbeiter, damit Verhandlungen „auf Augenhöhe“ Sinn machen und Gewicht gewinnen.

Wollen wir gesellschaftliche Werte der Effizienz opfern?

Der Ansatz der FOKUS-Autoren stößt auch und gerade bei vielen fortschrittlichen Verwaltungsmitarbeitern auf spontane Zustimmung. Die Unproduktivität der dort herrschenden Arbeitsmethoden bringt eine gigantische Verschwendung von Steuergeldern mit sich, die dringend woanders gebraucht werden. Die Blockaden – auch z.B. bei der Umsetzung des OZG – bringen diese Kollegen richtig zur Weißglut.

Aber soll man deshalb in eine Richtung gehen, die die Entscheidungsfindung in Dialogform eliminiert? Mein Standpunkt besagt überhaupt nicht, dass wir auf effiziente Workflows verzichten müssen. Aber wir als Agilisten sollten auf Standards bei der Anwendung von Algorithmen drängen. Also zum Beispiel:

  • Dass jedem Antragstellenden transparent gemacht wird, wenn ein Algorithmus über sein Anliegen entscheiden wird.
  • Dass die Regeln, die einer automatischen Entscheidung zugrundliegen, im jeweiligen Einzelfall nachvollziehbar dargelegt werden.
  • Dass jeder Antragstellende die Mitwirkung eines Menschen verlangen kann.

Und was in der aktuellen Diskussion überhaupt nicht vorkommt, sind die Möglichkeiten der KI. Künstliche Intelligenz könnte, unter der Voraussetzung einer entsprechenden Entscheidungsdatenbank, in Zweifelsfällen alle ähnlich gelagerten Fälle von Erziehungsgeld per Mustererkennung auflisten und dem Sachbearbeiter als Entscheidungsunterstützung anbieten. Dann unterstützen wir indirekt den Wissensaustausch zwischen Sachbearbeitern, also Menschen, statt sie gleich alle zu eliminieren.

Anmerkungen

/1/ Download unter https://www.oeffentliche-it.de/documents/10181/14412/Recht+Digital+-+Maschinenverst%C3%A4ndlich+und+automatisierbar

/2/ Vgl. Johann Herzberg: „Wird die Bedeutung der eAkte für die Digitalisierung der öffentlichen Verwaltung überschätzt?“, in: Verwaltung und Management, Heft 2/2018, S. 96-99. Insofern ist der FOKUS-Artikel einfach ein konkreter Text, den ich zitieren kann (es hätte auch einer anderer unter vielen sein können).

/3/ Das Manifest stellte gleichzeitig klar, dass es nicht darum gehe, die Prozesse und Werkzeuge über Bord zu werfen: „Das heißt, obwohl wir die Werte auf der rechten Seite wichtig finden, schätzen wir die Werte auf der linken Seite höher ein.“ Vgl. https://agilemanifesto.org/iso/de/manifesto.html

/4/ Siehe https://agile-verwaltung.org/2019/06/24/juergen-habermas-und-die-verwaltete-welt/ Dort findet sich ein anderes Beispiel, das ich dem Buch von Seibel „Verwaltung verstehen“ entnommen hatte. Dort verschleppt ein Amtsarzt die Erstellung eines Gutachtens über die Dienstunfähigkeit einer jungen Beamtin so lange, bis es keinen menschlichen Schaden mehr anrichten kann.

Autor: Wolf Steinbrecher

Volkswirt und Informatiker. Zuerst als Anwendungsentwickler in Krankenhäusern und Systemhäusern tätig. Dann von 1995 bis 2008 Sachgebietsleiter für Organisation und Controlling in einem baden-württembergischen Landkreis (1.050 MA). Seitdem Berater für Teamarbeit und Dokumentenmanagement. Teilhaber der Common Sense Team GmbH Karlsruhe, www.commonsenseteam.de. Blogger bei www.teamworkblog.de.

3 Kommentare zu „Vollautomatische Bescheiderstellung: Visionen einer durchverwalteten Welt“

  1. Danke Dir, Wolf.

    Die Fantasie des automatischen Vollzugs existierte schon als sie noch „Phantasie“ war.
    Ich erinnere mich an ein Buch dazu, das ich als Schüler in der Universitätsbibliothek in Bremen fand.
    Es handelte davon, wie Computer den menschlichen Richter ersetzen können.

    Diese Vorstellungen begegneten mir seither noch oft.
    Und mittlerweile habe ich eine andere EInstellung zu dem entwickelt, was geschrieben steht.
    Vielleicht auch, weil ich seit damals viel mehr Erfahrung mit dem Prozess der Schriftsetzung habe.

    ‚Der Prozess‘ erfordert eine Gleichheit (vor dem Gesetz), um ablaufen zu können.
    Es benötigt also Kriterien, anhand derer das wesentlich Gleiche vom wesentlich Ungleichen (Art 3 GG) unterschieden werden kann.
    Was dabei nicht Herangezogen werden darf steht in den Absätzen II und III.

    Interessant: ein werdender Vater fühlt sich diskriminiert und reklamiert „Mutterschutz“ für sich? 😉

    Zurück zur Bescheiderstellung.
    Die Automation wird voran schreiten.
    Daran gibt es nicht den geringsten Zweifel in der Welt von Stein-Hardenberg 2.0

    Es tut dem Rechtsfrieden sogar gut, wenn die Entscheidung willkürfrei, transparent und jederzeit wiederholbar gleich gefällt wird.
    Die menschliche Komponente verlagert sich gleichzeitig in die Phase davor.
    Was gar nicht erst als Datum erkannt wird, kann auch keinen Einfluss auf die Entscheidung nehmen.

    Das ist der Erkenntnistheoretische Anteil in dem Buch, das Tobias und ich geschrieben haben.
    Es handelt von all dem, was passiert, BEVOR der Algorithmus entsteht.
    http://leanpub.com/kdz/c/zahl_was_es_Dir_wert_ist

    Das, was danach entsteht ist Gleichförmigkeit und Ordnung.
    Das mag einige beruhigen, de facto ist ein Thema dann tot.
    Sobald etwas jederzeit und gleichermaßen herbeigeführt werden kann, ist der Fortschritt vollendet.

    Liken

    1. Alexander Gerber: „…wie Computer den menschlichen Richter ersetzen können.“

      Betrachten wir die Entwicklung mit rußgeschwärzter Brille, 😎 kann man sagen: Mit der Einführung des Richters und seinen Paragraphen, bei gleichzeitiger Abschaffung des „Ältesten“ hat man sich – zumindest im Bereich der Befriedung – von der Weisheit verabschiedet.

      Diese Entwicklung schreitet mit der Abschaffung des Richters weiter fort. Denn es gibt weder eine „künstliche Intelligenz“, noch gibt es eine „künstliche Weisheit“.

      Nehmen wir die dunkle Brille wieder ab, können wir fragen: Was hindert uns daran, trotz aller äußeren Entwicklung, die Intelligenz zu nutzen und uns wieder in allen möglichen Facetten der Weisheit zu öffnen?

      Komfort schließt Weisheit
      keinesfalls prinzipiell aus.

      Schönes Wochenende!
      – Nirmalo

      Liken

  2. Hallo Wolf,

    soo viel Text. Ich antworte mal auf den Anfang:

    Wolf: „Es geht hier nicht darum, die Autoren des FOKUS in irgendeiner Weise persönlich anzugreifen.“

    Keine Sorge, niemand kann den FOCUS „persönlich angreifen“, weil es sich bei ihm nicht um eine menschliche Person handelt.

    Hinter dem Namen stehen einzelne Journalisten, die natürlicherweise vorrangig ihr Einkommen im Blick haben und daraus folgend das Interesse des Verlegers.

    Dem FOCUS gebührt nicht mehr Achtung als der BILD. Die Menschen hinter den Blättern unterscheiden sich allenfalls marginal. Die Journalisten beider Gruppen passen sich ihrer Klientel und den Erwartungen ihrer Chefs an, andernfalls verlören sie ihren Job.

    Zu den Bedenken:

    1. Alles, was digitalisiert oder automatisiert werden kann, wird digitalisiert oder automatisiert werden. Ob wir davon begeistert sind, oder nicht.

    2. Wir werden erstaunt sein, was alles digitalisiert und automatisiert werden kann. (Weil uns unser Vorstellungsvermögen in Tateinheit mit unserer Abneigung gegen gravierende Veränderungen gerne Streiche spielt.)

    3. Alle Übergangs- und Umbau-Phasen im menschlichen Organisieren rumpeln ein bißchen.

    4. Anfangs (!) wird es noch vergleichsweise viele Menschen brauchen, welche „die Ermessensspielräume bearbeiten“. Das selbe gilt für die gerichtlichen Auseinandersetzungen.

    5. Zum Erfahrung-Sammeln kann man mit den einfachen (konfliktfreien) Dienstleistungen, wie KFZ-Anmeldung usw. beginnen.

    Wolf: „Menschen können Gesetze verbiegen, kreativ „interpretieren“…“

    Das ist jetzt auch schon so.

    6. Es wird immer genug Herausforderungen für unsere Bereitschaft zu intelligentem Denken und Handeln geben – zu dem keine Maschine jemals fähig sein wird.

    Wolf: „es gibt immer wieder Fälle, in denen ein Prozess einer konkreten Situation nicht gerecht wird.“

    Ja, es muß an anderer Stelle und in der Gesellschaft geklärt werden, ob wir in einer menschlichen oder in einer rein maschinell funktionierenden Gemeinschaft leben wollen.

    Diese Frage wird in vielen Nuancen immer offen bleiben, immer relevant sein.

    Lieben Gruß.
    – Nirmalo

    Liken

Kommentar verfassen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden /  Ändern )

Google Foto

Du kommentierst mit Deinem Google-Konto. Abmelden /  Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden /  Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden /  Ändern )

Verbinde mit %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.