Rezension: Human-Robot-Agent von Jurgen Appelo und Jean-Christophe Conticello
Human-Robot-Agent: Das ist der Titel eines neuen Buchs von Jurgen Appelo (Autor) und Jean-Christophe Conticello (Einführung). Und der Titel ist gleich die erste Herausforderung: Was bedeutet „Human-Robot-Agent“? Nach 350 Seiten Lektüre würde ich sagen, es geht um ein System, bei dem Menschen und Künstliche Intelligenzen (KI) zusammenarbeiten. Und zwar auf „Augenhöhe“; Menschen und KI bewältigen Aufgaben gemeinsam und bringen sich dabei mit ihren jeweiligen Stärken ein. Das ist revolutionär. KI ist nicht mehr – wie noch die Computer – ein Werkzeug, sondern etwas Eigenständiges.
Worum geht es im Buch?
Doch worum geht es in dem Buch genau?
Kurze Antwort: Das Buch skizziert ein künftiges Management 4.0 (für die vierte industrielle Revolution im Zeichen der KI). Es geht dabei an vielen Stellen von bekannten Konzepten aus, beispielsweise Agilität und Lean. Wie die KI unsere künftigen Arbeitsweisen verändert, und wie die bestehenden Konzepte geändert und erweitert werden müssen, um Wandel und Transformation zu bewältigen, wird in fünf Abschnitten dargestellt (nun kommt die lange Antwort).
Teil 1
Die Reise startet mit einem Abschnitt, der aufzeigt, wie umfassend sich unsere Arbeit durch KI ändert. Die Frage ist (einmal mehr), wie man sich dazu verhält; will man weggespült werden oder die Welle sein? Neben diesen grundsätzlichen Fragen wird dargestellt, was KI ist, was Begriffe wie Deep Learning oder Generative KI bedeuten. Des Weiteren zeigt Appelo 20 Anwendungsfälle (Use Cases) für KI auf, darunter Use Cases wie Erzeugung von Inhalten, Visualisierung von Daten oder Prozess-Automatisierung.
Welche Auswirkung hat das auf die individuelle Arbeit? Bisher ist man mit T-Qualifikationen gut gefahren, d.h. man ist Experte oder Expertin in einem Thema. Mit KI kann man sich Richtung Generalist*in entwickeln, sogenannte π-, M- oder Kamm-Qualifikationen. Dabei kann das eigene Wissen mithilfe von KI vertieft oder ergänzt werden.

Wenn das Wissen explodiert, wird es gleichzeitig wichtig, Dinge zu vergessen, zu ent-lernen und unwichtiges beiseitezuschieben.
KI wirkt sich nicht nur auf die Individuen, sondern auch auf die Arbeit im Team und auch auf Ebene der gesamten Organisation aus. „Heißt die KI als Teammitglied willkommen“, sagt Appelo. Und „stoppt Besprechungen, beginnt mit (echter) Zusammenarbeit“. „Vergesst dabei nicht, auch die Entscheidungsfindung zu beschleunigen“. Für das alles gibt es Werkzeuge, die im Buch aufgezeigt werden. Mit ihnen ist es auch möglich Managementaufgaben zu automatisieren.
Bei allen Vorteilen muss man aber auch aufpassen, sich über die KI keine kognitiven Verzerrungen einzukaufen. Vereinfacht: Wenn KI menschliches Verhalten nachahmt, kann sie dann auch vorurteilsbeladen, narzisstisch oder psychopatisch sein?
KI kann viele – und zukünftig noch viel mehr – Dinge besser als Menschen. Andererseits gibt es viele Dinge, die Menschen auf unabsehbare Zeit besser können. Es kommt also darauf an, auf allen Ebenen – Individuum, Team, Organisation – die jeweiligen Stärken gut zu kombinieren.
Teil 2
Wie sieht nun die künftige Arbeitswelt im Zeichen der KI aus? Wie werden wir Veränderung, Transformation und die Zeit nach „Agile“ bewältigen? Damit beschäftigt sich der zweite Abschnitt. Die Arbeitswelt – so die These – wird nicht mehr „Agil“ sein – oder nicht mehr so „Agil“, wie Agilität heute gelebt wird. Selbst wenn man die ganzen Frameworks und Methoden, die Debatten um die richtige Agilität beiseiteschiebt und sagt, die Agilen Prinzipien sind doch gut, bleibt, dass diese fast 25 Jahre alt sind. Die Welt hat sich seitdem geändert, eine Revision, eine Modernisierung ist nötig. Das wird im Buch anhand von Change-Stories belegt.
Change, Transformation, Wandel, Anpassung, egal, wie man es nennt, ist immer – besser: immer wieder – nötig. Drei Wege damit umzugehen, gibt es. Der erste ist, die Situation zu akzeptieren (take it). Der zweite, Entwicklungen zurückzuweise (leave it). Und schließlich der Weg der Aktion (change it). Appelo empfiehlt, den Agilen-Sumpf zu verlassen, und sich den neuen Realitäten zu stellen, die die Welt umgestalten. Also, die Digitale Revolution zu umarmen, nicht Produkte zu entwickeln, sondern Erlebnisse, nicht nur Ergebnisse, sondern (positive) Wirkungen zur erzielen und schließlich eine sentientistische Haltung zu verfolgen.
Das Paradebeispiel für letzteres ist eine Installation im Guggenheim Museum aus dem Jahr 2016 mit dem Namen „Can’t Help Myself„. Die chinesischen Künstler Sun Yuan und Peng Yu installierten eine Roboter-Arm, der „verzweifelt“ und zunehmend vergeblich versuchte, aus ihm auslaufende Flüssigkeit aufzuwischen. Kann eine Maschine „verzweifelt“ sein, das ist die Frage.
Teil 3
Wie soll man nun mit einer Welt umgehen, in der die Aufgaben immer komplexer und vertrackter werden (wicked Problems)? Das ist die Frage, mit der sich Teil 3 beschäftigt. Es geht dabei nicht um exotische Aufgaben und Probleme, sondern um Themen wie strategische Geschäftsentscheidungen, digitale Transformation, Management globaler Lieferketten oder Fragen der Diversität und Inklusion – nicht zuletzt ethische Fragen beim Einsatz von KI. Alles sehr präsente Probleme also.
Das MARVIS-Framework könnte ein Schlüsselkonzept sein, welches hilft, mit zunehmender Volatilität und Komplexität zurechtzukommen. Anders als VUCA, Cynefin oder BANI wird hier nicht nur festgestellt, dass etwas – beispielweise -volatil ist, sondern welcher Grad an Volatilität vorliegt. Das hilft, die Themen gezielter anzugehen.
Teil 4
Im vierten Abschnitt schwenkt der Fokus auf Methoden, Werkzeuge und Frameworks für das KI-Zeitalter. Anders als bei den bisherigen Werkzeugen und Methoden – so die Kritik am Bestehenden – wird man im künftigen Management 4.0 dezidierte Zweck- und Wirkungsbestimmung benötigen und gleichzeitig Werte und Prinzipien zugrunde legen müssen. Auch sollte man allzu spezialisierte Werkzeuge vermeiden. In einer Küche – so das Beispiel – kann man viele Kochutensilien haben. Aber je spezialisierter sie sind, desto weniger benutzt man sie und desto weniger nützlich erscheinen sie. Könnte man nicht, ähnlich wie Christopher Alexander es in seinem Buch „A Pattern Language“ für Architektur und Städtebau dargestellt hat, kombinierbare, modulare Toolkits entwickeln? Wie so etwas aussehen könnte, wird im Buch an verschiedenen Stellen aufgezeigt.
Von Werten und Prinzipien im Management 4.0 war schon die Rede. Für Appelo sind es die folgenden 10 Prinzipien (S. 279 ff.):
- Watch the Interconnected Environment
- Focus on Sustainable Improvements
- Prepare for the Unexpected with Agility
- Challenge Mental Models with Diversity
- Seek Feedback and Learn Continuously
- Balance Innovation with Execution
- Take Small Steps from Where You Are
- Push for Decentralized Decision-Making
- Grow Resilience and Anti-fragility
- Scale Out with a Networked Structure
Weitere vorgestellte Werkzeuge sind eine 4-stufige Matrix – sie hilft, inkrementelles und iteratives Vorgehen und gleichzeitig die Art der Lieferung (kulminiert bzw. Big Bang versus seriell) zu unterscheiden, und eine sogenannte Innovations-Spirale (Innovation Vortex), – sie illustriert die Facetten KI-getriebener Innovation.
Teil 5
Der letzte Abschnitt stellt das bisher gesagte unter der Überschrift „Neues Management im Zeitalter der KI“ zusammen.
Anhand von einigen Beispielen wird klar: Selbstorganisation ist weder Allheilmittel noch tatsächlich Selbstorganisation. Es braucht immer Rahmung und Steuerung – auch künftig. Gleichzeitig werden aber auch keine selbstherrlichen „Leader*innen“ gebraucht. Der Unterscheidung zwischen Management und Leadership – ohnehin fragwürdig – wird nicht mehr benötigt, es braucht beides.
Nötig ist ein Zusammenwirken aller Ebenen (nach dem Motto „Alle sind Manager“; Management ist zu wichtig, um es alleine der Führung zu überlassen) auf Basis einer klaren Aushandlung der Delegationsebenen.
Für Unternehmen ist es wichtig nicht entweder die Shareholder oder die Stakeholder zu bevorzugen, sondern eine gute Interessenbalance zu finden.
Immer wichtiger wird das „Warum“ (Purpose). Wenn Purpose (ernsthaft) als Nordstern dient: gut! Schlecht, wenn es nicht ernst gemeint ist, wenn es sich um leere Phrasen handelt, als Grund für unbezahlte Überstunden „für einen höheren Zweck“ beispielsweise.
Purpose ist ein Versprechen – und Versprechen müssen gehalten werden.
Zuletzt: Welche Werte sollte man im Umgang mit KI zugrunde legen? Microsoft hat unter dem Begriff „Responsible AI“ fünf Standards für den eigenen verantwortungsvollen Umgang mit künstlicher Intelligenz (KI) vorgelegt. Appelo ergänzt diese um 5 weitere.
Das Buch schließt mit einem Hinweis auf Stockdales Paradox. Wichtig ist ein realistischer Blick auf die Zukunft. Nicht übertrieben optimistisch oder zu pessimistisch – sondern mit dem Willen, von Tag zu Tag etwas zum Guten zu entwickeln.
Fazit
Die Zusammenfassung zeigt: Viel Stoff zum Lesen und Nachdenken. Selten habe ich so viel gelernt und mitgenommen. Und selten musste ich so viel nachschlagen: Was bedeutet Management by Objectives (MBO) genau“. Oder: Worum geht es im Buch „Making Sense of Chaos“ von J. Doy Farmer. VUCA kannte ich, aber BANI noch nicht. Was hat Henrik Kniberg in „Agile in the Age of AI“ geschrieben? Und was ist Hofstadters Gesetz? Nur einige Beispiele. Ein noch: Den Begriff HiPPOs (Highest Paid Person’s Opinions) kannte ich nicht. Aber der war wenigstens selbsterklärend und hat mich zum Schmunzeln gebracht.
Die Spannweite der Beispiele zeigt, dass das Buch einen sehr weiten Bogen schlägt – sehr weit! So interessant und so verständlich auch das Interesse des Autors am Management 4.0 ist (er ist auch Autor des Buchs „Management 3.0“), dachte ich manchmal: Bitte „back on track“. Wo bleibt der rote Faden, wo bleibt das Thema KI oder das Human-Robot-Agent-Modell?
Möglicherweise sind diese Ausschweifungen der Entstehungsweise geschuldet. Das Buch ist nämlich explizit mit Hilfe von KI geschrieben worden. Jedes der 25 Kapitel ist von einem Dialog mit einer helfenden KI namens Zed gerahmt. Und zu jedem Kapitel gibt es auf eine Webseite eine Fülle von zusätzlichen Infos (die bei der Recherche zu den oben genannten Punkten sehr hilfreich waren). Der massive Einsatz von KI hat, wie der Autor sagt, beim Schreiben und Korrigieren enorm geholfen, gleichzeitig ahnt man, wieviel mit Hilfe der KI recherchiert und dann auch ins Buch aufgenommen wurde. Manchmal wäre vielleicht weniger mehr gewesen. Ob die extreme Verkürzung des Schreibprozesses wirklich (und generell) eine Qualität darstellt, ist meiner Ansicht fraglich. Nichts gegen schnelles Schreiben. Aber ein Text muss auch reifen können. Das gilt – finde ich – nicht nur für Literatur, sondern auch für Fachtexte.
Die Bilder. Dazu gibt es auch etwas zu sagen. Alle Bilder oder Grafiken sind KI generiert. Zugegeben, auch ich habe anfänglich begeistert mit solchen Bildern herumexperimentiert (auch das Beitragbild für diesen Artikel ist so entstanden, richtig zufrieden bin ich damit nicht). Schon nach kurzer Zeit kann ich viele dieser Grafiken aber schon nicht mehr sehen. Meistens sind sie übervoll, stilistisch irgendwie immer gleich, oft seltsam humorlos – so wirken sie auf mich. Ob das nur mir so geht? Wenn ich an die Illustrationen in Büchen denke, wie in „Gemeinsam denken. Wirksam verändern“ von Stephanie Borgert, „Werte wirken“, von Martin Permantier et al. oder „Value Proposition Design“ von Alex Osterwalder et al., sehe ich einen großen Unterschied. Professionelles Design macht sich bezahlt, finde ich.
Management 4.0. Was das nun genau bedeutet, weiß ich zwar immer noch nicht genau. Was dazu im Buch dazu umrissen wurde, finde ich aber sehr spannend und anregend. Mich überzeugt, dass nicht etwas gänzlich Neues entworfen wird, sondern bestehendes fortgeschrieben, im Lichte umfassender KI sozusagen modernisiert und erweitert wird.
Ganz am Ende ist das Modell Management 4.0 und auch der Human-Robot-Agent nicht. Einmal mehr werden bei den (sehr spannenden) Beispielen nur große Firmen gezeigt. Was ist aber mit den vielen, vielen KMUs. Sie weisen sehr oft ganz andere Strukturen auf, sind aber gleichermaßen von KI betroffen. Oder wie sieht es in Verwaltungen aus. Sie sind zwar nicht Industrie 4.0, aber ein Management 4.0 oder das Konzept des Human-Robot-Agent könnte auch für sie interessant sein.
KI, sie ist da und wird sich weiter verbreiten und entwickeln. Bleibt uns nur – wie im Buch aufgezeigt – fortgespült werden oder die Welle reiten? ich sehe noch andere Möglichkeiten: Nämlich gestalten. Bei der eigenen Arbeit, im Team, vor allem aber in der Politk. Wie schädlich es ist, wenn weltweit agierende Großunternehmen und Konzerne unsere Lebenswirklichkeit gestalten, sehen wir gerade (2025). Wollen wir sie machen lassen oder wollen wir ihnen ein Rahmen setzen, gerne auch vorweg und nicht immer erst mühsam nachregulieren. In Europa ist das keine Frage. Oder?
Muss man das Buch lesen?
Unbedingt!
KI ist etwas, womit man sich auf jeden Fall beschäftigen muss. Gute Promts zu entwickeln ist zu wenig. Wenn wir nicht dabei stehen bleiben wollen, Aufgaben in eine Black Box einzugeben und zu schauen, was dabei herauskommt, müssen wir mehr tun.

Die 10 Werte im Schlusskapitel sind sicher ein richtiger Weg einen guten Rahmen für ein Zusammenwirken von Menschen und KI zu schaffen.
Das Buch
Human Robot Agent: New Fundamentals for AI-Driven Leadership with Algorithmic Management
Jurgen Appelo (Autor)
Jean-Christophe Conticello (Einführung)
Herausgeber: Jojo Ventures (2. März 2025)
Sprache: Englisch
Gebundene Ausgabe: 432 Seiten
ISBN: 978-90-834236-5-4.
Peter Bauer: „Werkzeuge … Mit ihnen ist es auch möglich Managementaufgaben zu automatisieren.“
Alles, was nach Außerhalb von uns verlagert werden kann, wird von uns weg verlagert.
Alles, was effizienter werden kann, wird effizienter „gehandhabt“ werden.
Alles, was automatisiert werden kann, wird automatisiert werden.
Aber einerlei, wie oft es wiederholt und nachgeplappert wird:
Es gibt keine „künstliche Intelligenz“.
🌱
Peters Frage: „Wenn KI menschliches Verhalten nachahmt, kann sie dann auch vorurteilsbeladen, narzisstisch oder psychopatisch sein?“
Wie lautet deine Antwort, Peter? 😎
Aussehen, Text, Stimme, Habitus, Geste…, alles was Schauspieler tun: Ahmen, vorahmen, nachahmen, Arbeiten verrichten…, kann irgendwann auch eine Maschine.
Kann die Maschine einen eigenen (!) Willen haben?
🌱
Peter Bauer: „KI kann viele – und zukünftig noch viel mehr – Dinge besser als Menschen.“
Jede kleine Rechenmaschine kann besser, exakter und schneller rechnen als ich.
Jede Maschine, auch die mit den ausgefuchsesten Algorithmen ist eine Anfügung, eine Prothese. Intelligent gestaltete Prothesen sind nützliche Erweiterungen des Menschen. Selbst wenn es fast nicht mehr erkennbar sein wird, auch dann: Es bleiben Werkzeuge.
🌱
Peter Bauer: „Andererseits gibt es viele Dinge, die Menschen auf unabsehbare Zeit besser können.“
Das Wort „absehbar“ deutet darauf hin, dass du wohl daran glaubst, „irgendwann“ könnten sie auch das besser? 🤗
Maschinen (egal welche, egal wann) haben keinen Zugang zur Intelligenz, keinen zur Weisheit, keine zum Vertrauen, keine zum Mitgefühl, keine zur Freude und letztlich auch keine zur Kreativität.
Der Mensch als solcher ist sehr naiv.
Man kann ihm schnell etwas vormachen,
er neigt dazu, es für bare Münze zu nehmen.
Alle (!) Maschinen liegen an der Leine des Menschen.
Er entscheidet, ob sie für uns ackert oder massakriert.
Der Mensch ist verantwortlich, er
entscheidet über Wohl und Wehe.
🌟 Maschinen funktionieren. 🌟
Maschinen kennen keine Verantwortung.
Auch dann nicht, wenn sie in die Lage versetzt wurden, uns das glauben zu machen. Und in der Täuschung werden sie immer besser… (gebaut) werden.
Über „Geistige Reife“ können sie plappern,
verstehen können sie davon nichts.
Menschen können reifen ― Maschinen nicht.
🌱
Peter Bauer: „Selbstorganisation ist weder Allheilmittel noch tatsächlich Selbstorganisation. Es braucht immer Rahmung und Steuerung – auch künftig. Gleichzeitig werden aber auch keine selbstherrlichen „Leader*innen“ gebraucht.“
…ist eine Frage der Reife der Mitarbeitenden.
Je reifer, desto weniger Leitung.
Aber der Rahmen bleibt selbstverständlich.
🌱
Einen zauberhaft
schönen Frühling 🌷
wünscht Nirmalo
Vielen Dank für die tollen Anmerkungen! Ich denke es wäre sehr spannend, das Ganze einmal online (oder wenn es sich ergibt, in Präsenz) zu diskutieren. Ich finde, jede Diskussion, die über das richtige promten hinausgeht, ist lohnenswert.
Lieber Peter Bauer,
ganz herzlichen Dank für deine sehr besondere Rezension dieses aktuellen Buchs, …
… weil du die Linien des Inhalts nachvollziehbar nachzeichnest und mich dadurch gut einstimmst auf das Buch,
… weil du im letzten Teil auch ausführlich deine eigenen Gedanken schilderst, die bei mir auf Resonanz stoßen (z.B. die Frage nach den kleineren Unternehmen und der Verwaltung und deren Entwicklung unter Nutzung von KI)
… weil du das Buch“paket“ und seinen Erstellungsprozess genau auf Basis des Buchthemas kritisch reflektierst
… und mit all dem sehr neugierig machst!
Gruß aus dem „Pott“ – Doro Herrmann
P.S.: Danke auch an Nirmalo für die Weiter-Gedanken!
Liebe Doro,
vielen Dank für Deinen Kommentar! Das ist eine tolle Ermutigung, sich bei Bloggen Mühe zu geben (und nicht eine KI die Arbeit machen zu lassen 🙂 Ich lese im Übrigen mit Genuss und Gewinn euren Blog mit!
Vielen Dank, Peter, für deine ausführliche Zusammenfassung des Buchs von Jurgen Appelo und ChatGPT. Und sie gibt mir Sicherheit bei meiner Entscheidung: Dieses Buch werde ich niemals lesen. Es gibt keinen Bedarf dafür im Universum.
Ich kann Nirmalo nur zustimmen: Es gibt keine künstliche Intelligenz. KI hat keine Augen, nicht mal Hühneraugen. Wie klein muss ich mich also machen, um „auf Augenhöhe“ mit KI zu kooperieren?
KI ist teilweise ein sehr gutes Recherche-Instrument. Aber auch generative KI ist beschränkt auf: „Mehr vom Gleichen.“ Sie kann mir sagen, was der Mainstream im Internet so von einem Problem hält – aber nichts anderes. Appelo scheint mit Management 4.0 genauso wenig selbst kreativ zu sein wie mit seiner Vorversion 3.0. Mir von der KI zu 325 Themen und Buzzwords alle möglichen Textschnipsel zusammensuchen zu lassen und die dann zu einem bunten Strauß zusammenzubinden und dann noch durch ein paar „provokante“ Thesen zu ergänzen – das mag verkaufsfördernd sein. Aber ein ernsthaftes Angebot zum gemeinsamen Nachdenken – zum Beispiel über KI – ist es offenbar nicht.
Vielen Dank für Deinen Kommentar, Wolf!
„Es gibt keine künstliche Intelligenz“ ?. Ich habe zu der Feststellung ein Fragezeichen hinzugefügt, weil ich das Thema hochinteressant finde.
Vorweg: Eigentlich finde ich es schwierig über KI pauschal zu sprechen. Viel zu breit und ausdifferenziert ist die Palette der Anwendungsfälle. Die Hochschule für angewandtes Management hat ein KI-Glossar zusammengestellt, das mir den Blick dafür erheblich geweitet hat.
Zurück zu Deiner Feststellung, Wolf, dass es so etwas wie künstliche Intelligenz nicht gibt. Und, ich ergänze das, ob sie, wenn man diese Frage anders, also positiv beantworten würde, etwas den Menschen Ebenbürtiges wäre.
Das ist keine neue Frage; sie wird und wurde schon an vielen Stellen diskutiert. Sehr bildgewaltig im Film, beschäftigenswert aber auch aus der Perspektive „Ethik“; beispielsweise in der (wie ich finde, lesenswerten) Stellungnahme des Deutschen Ethikrats zur KI. Interessant ist auch, dass der Turing-Test, der dazu dient festzustellen, ob eine maschinelle Intelligenz von einer menschlichen Intelligenz überhaupt zu unterscheiden ist, immerhin schon in den 50er Jahren des letzten Jahrhunderts entwickelt – und im Film Blade Runner wunderschön illustriert – wurde.
Nicht zu leugnen ist aus meiner Sicht, dass die Systeme, die unter KI subsummiert werden, bestimmte Dinge (zunehmend) sehr gut und viel besser können als Menschen. Wo das ein Ende finden wird, ist heute noch nicht absehbar. Das Rechnen gehört dazu, wie Nirmalo richtig sagt. Auch die Recherche im Internet, wie du sagst, Wolf. Aber auch die Melanom-Erkennung beim Hautkrebsscreening. (Den Menschen, die davon profitieren, dürfte die Diskussion, ob es sich bei KI um echte Intelligenz handelt oder nicht, wohl ziemlich egal sein.)
Vielleicht ist es der Begriff „Intelligenz“ und das, was wir darunter verstehen, was Anstoß erregt. „Maschinen“ Intelligenz zuzugestehen hat etwas von einer (weiteren) narzisstischen Kränkung. Das lässt aber, wie ich finde, außer Acht, dass immer von „künstlicher“ Intelligenz die Rede ist. KI ist also schon begrifflich als Artefakt ausgewiesen – eine menschliche Leistung. Sie ist Teil unserer Entwicklung und nicht die Evolution einer irgendwie gearteten technologischen Spezies. Cum grano salis könnte man sagen, es handele sich um die erste „hausgemachte“ narzisstische Kränkung. Insofern denke ich, ja, es gibt künstliche Intelligenz.
Ich meine aber auch, dass vielleicht das Bild, hier die intelligenten Menschen und dort die künstliche (Maschinen-)Intelligenz, wie eben schon angedeutet, wohl nicht stimmt. Die KI-Anwendungen, die aktuell Furore machen, Du hast ChatGPT genannt, Wolf, werden – wie man hört – mit von Menschen generierten Daten trainiert. Die Technologie vollzieht also auf menschlich generierter Datenbasis eine sehr gute Mustererkennung, und ist in der Lage, daraus etwas Neues zu kombinieren und zu aggregieren. (Mehr noch, wir können unsere Aufträge in natürlicher Sprache benennen und erhalten sie ebenso leicht verständlich zurück; was einer der Hauptgründe für den Hype sein dürfte.) Grundlage sind aber Daten, Erkenntnisse, Ideen, die Menschen beziehungsweise die menschliche Intelligenz hervorgebracht haben. Steht uns Nutzerinnen und Nutzern dann nicht so etwas wie die versammelte menschliche Intelligenz gegenüber? Für meinen Teil habe ich nicht das Gefühl, dass ich mich da klein machen muss. Ich bin vielmehr froh, dass ich mir auf so einfache Weise das Weltwissen erschließen kann. (Kein Grund natürlich, deswegen das eigene Denken auszuschalten und sich blind darauf zu verlassen.)
Was mich bei KI allerdings viel mehr beschäftigt, als das oben diskutierte, sind die Fragen nach der Autonomie und nach den Werten, die der KI zugrunde liegen. Einerlei, ob es sich nun um künstliche Intelligenz oder um ausgetüftelte technische Systeme handelt, stellt sich doch in vielen Anwendungsfällen die Frage, ob diese Systeme Entscheide treffen sollen; automatische Entscheide, ohne die explizite Freigabe durch einen Menschen. Beispielsweise: Dürfen KI-gesteuerte Drohnen im Kampfeinsatz selbsttägig Menschen töten (und damit das Leben der eigenen Truppe schützen)? Eine Nummer kleiner gefällig? Dürfen Bescheide in der Leistungsverwaltung ohne Freigabe durch einen Menschen verschickt werden? Wie sieht es bei Parkausweisen aus? Oder bei der Postverteilung einer Scanstrecke?
KI-Systeme sind Expertensysteme. Außer denen, die sich professionell damit beschäftigen, dürfte kaum jemandem im Detail klar sein, wie die Systeme, die Programmierungen nun genau funktionieren. Vor meinen Augen steht das Bild einer schwarzen Box, in die ich auf der einen Seite etwas hineingebe und auf Knopfdruck auf der anderen Seite etwas herauskommt. Ich hätte gerne, vereinfacht gesagt, vorne auf den Box Regler, mit denen ich die Programmierung beeinflussen kann (ohne selbst Programmierer werden zu müssen).
Wie ich höre, stehen wir in den Verwaltungen an der Schwelle zur Einführung von Robotic Process Automation. Solange diese nur anwendungsübergreifend Mausklicks automatisiert, gut. Wenn aber, und das wird sicher kommen, auch Entscheide produziert werden, brauchen wir eine qualifizierte Diskussion über die Grundlagen der Entscheide und die Frage der Weiterverarbeitung. Beim der eingangs genannten Melanom-Erkennung pochen viele Dermatologen (meines Erachtens berechtigter Weise) darauf, dass man die Entscheidungen der Algorithmen nachvollziehen können muss.
Und damit kann ich nun auch Deine interessante Frage beantworten, Nirmalo, nämlich nach meiner Meinung zu der (zugegenen spitz formulierten) Frage „Wenn KI menschliches Verhalten nachahmt, kann sie dann auch vorurteilsbeladen, narzisstisch oder psychopatisch sein?“. Sie lautet: Genau das darf nicht passieren! Leider wird es uns als Laien einiges abverlangen, damit wir mit den Expertinnen und Experten konstruktiv darüber diskutieren können. Und: Diese Diskussion gehört meiner Meinung nach in den öffentlichen Raum.