Kaum eine Technologie polarisiert so wie die Künstliche Intelligenz (KI). Die einen feiern sie als Heilsbringer, die anderen fürchten sie als Untergangsmaschine.
Die Autorin des ersten hier zu besprechenden Buches formuliert etwas pointierter: „Die KI kann mich mal“. Der Titel spricht mir aus der Seele. Wie Barbara Oberrauter-Zabransky zeigt, nutzen wir alle jedoch schon jahrelang KI, ohne uns dem vordergründig bewusst zu sein – im Navi, bei Netflix, Amazon und anderem mehr. Was also ist neu (und beunruhigend)?
Zum ersten Mal müssen wir nicht lernen, wie eine Maschine „tickt“, die Maschine lerne vielmehr, wie wir ticken. Sie lobt uns für kluge Fragen, gibt Ratschläge für Präzisierungen unserer Anfragen, argumentiert strukturierter, geduldiger und emotionsloser. Sie bleibt immer höflich, präzise und fokussiert, egal wie ungeduldig, aufgeregter und genervt reagierend wir werden. Insofern ist sie angenehmer als mancher Gesprächspartner, aber eben auch heimtückischer: Sie gibt ihre Antworten auf der Basis von Wahrscheinlichkeiten der eingegebenen Informationen und kennt nicht den Satz „Ich weiß es nicht.“, sondern versucht immer eine Auskunft zu geben.
Die KI hat kein Konzept für „wahr“ oder „falsch“, sondern nur für „statistisch plausibel“. Die Autorin macht diese Schwäche sehr schön anschaulich mit dem Satz: Wer nie gemeinsam mit der KI kocht, merkt nicht, dass sie beim Zwiebelschneiden schwächelt. Oder etwas seriöser formuliert: Menschen verstehen Andeutungen, lesen zwischen den Zeilen und füllen Lücken mit Erfahrung. Insofern bedarf es weiterhin der menschlichen Urteilskraft und Bereitschaft, die Antworten zu überprüfen. Dazu braucht es die Zeit und Fähigkeit zur doppelten Überprüfung der erhaltenen Auskunft – leider sei gerade Zeitmangel der Faktor, warum sich viele Menschen auf die schnelle Reaktion der KI verlassen.
Trotzdem hat die KI unbestreitbar Vorteile – allerdings müssen die Anwender sich vorher über das Ziel ihrer Nutzung im klaren sein. „Wollen Sie Zeit sparen bei wiederkehrenden Aufgaben? Ihre Kreativität ankurbeln, wenn Sie in einer Denkblockade stecken? Komplexe Probleme durchdenken, für die Ihnen die Expertise fehlt? […] je klarer Ihr Ziel, desto besser können Sie bewerten, ob ein KI-System dafür taugt – und ob es das beste Werkzeug für den Job ist. Manchmal ist ein Telefonat mit einem Kollegen effektiver als die aufwendigste KI-Analyse“, so lautet das Fazit der Autorin. Neben diesen sehr humorvoll und liebevoll illustrierten Ratschlägen und Informationen der Autorin verweist sie noch auf zwei weitere Probleme: Die KI verbraucht sehr viel Energie. Eine ChatGPT-Anfrage kostet zehnmal so viel Energie wie eine Google-Suche. Mit diesem jährlichen Energieverbrauch könne man über drei Millionen Elektroautos vollständig aufladen. Das Training jedes einzelnen Modells verursache so viel Emissionen wie ein Durchschnittsamerikaner in 17 Jahren.
Das zweite Problem sei der Gender Bias, die verzerrte Wahrnehmung durch sexistische Vorurteile und Stereotype. Dem wendet sich Eva Gengler in ihrem Buch ausführlich zu.
Im ersten Teil beschreibt die Autorin Konsequenzen herkömmlicher KI-Systeme: Zum einen hätten nicht alle Menschen gleichermaßen Zugang – sowohl global gesehen als auch in Deutschland. Es mache eben einen Unterschied, ob Kinder auf Grund der finanziellen Situation im Haushalt nur die frei zugängliche Software zum Lernen benutzen können oder stets die neueste Bezahlversion. Weitere Diskriminierungsfelder seien Rekrutierungsstrategien, Kreditvergabealgorhythmen, Kundenservice (Männern würden zum Beispiel bei Beschwerden sofort Lösungen vorgeschlagen, während bei Frauen erst einmal alle Angaben geprüft würden), Strafverfolgung, Umgang mit ethnischen Minderheiten, Gesundheitswesen. Der Umfang aller dieser Diskriminierungen sei oft unsichtbar. Da KI Wahrscheinlichkeiten berechnet und aus bestehenden Ungerechtigkeiten lernt, würden diese reproduziert und verstärkt.
Der zweite Teil des Buches deckt die Hintergründe dieses Systems auf, das heißt das Zusammenspiel von KI und Macht. Im Gegensatz zu der völligen Deregulierung von KI in den USA gäbe es in der EU durchaus eine Reihe von Gesetzen, allerdings seien diese nicht ausreichend und liefen häufig aktuellen Entwicklungen hinterher.
Der dritte Teil des Buches wendet sich dann dem eigentlichen Ziel der Autorin zu: „eine feministische Revolution in Wissenschaft, Politik und Gesellschaft anzustoßen, um mit feministischer KI die Welt für alle gerechter zu machen“. Gengler hat dabei ein sehr weites Verständnis von Feminismus: „Machtstrukturen zu hinterfragen, Ungerechtigkeiten zu erkennen und versuchen, sie zu beseitigen“. Sie führt insgesamt 22 Prinzipien des feministischen KI-Ansatzes an. Viele von ihnen (z.B. Dekolonialität: „Hinterfragen und Überwinden westlich-zentrierter Ansätze in der Gestaltung und im Einsatz von KI-Systemen“; Empowerment, Ökologie um nur einige zu nennen) ließen sich auch unter einem anderem Label einordnen. Insofern geht sie im nächsten Abschnitt der Frage nach, warum ein feministischer KI-Ansatz erfolgt– und grenzt diesen zu „ethischer KI“ ab, weil diese nicht über die typischen Prinzipien wie „Wohltätigkeit, Nicht-Bösartigkeit, Autonomie, Gerechtigkeit und Erklärbarkeit“ hinaus ginge. Hier schießt sie meines Erachtens über das Ziel hinaus. Wie sie selbst feststellt, gibt es unterschiedliche feministische KI-Strukturen. Ebenso gibt es jedoch auch unterschiedliche ethische Ansätze, die sich eben nicht nur auf die von ihr genannten Grundsätze beschränken. Statt sich hier abzugrenzen, scheint mir die Suche nach Gemeinsamkeiten und gegenseitiger Verstärkung im Einsatz zur Verbesserung der Implementierung und Anwendung von KI sinnvoller. Nichtsdestotrotz hat Gengler wichtige Schwachstellen der derzeitigen KI-Systeme und deren Anwendung ausgemacht und zu Recht kritisiert.
Beide Bücher bestechen durch ihren auch für Laien gut lesbaren Stil, das erstere darüber hinaus durch seinen Humor – für deutsche Sachbücher leider eine Rarität. Diese Rezension ist nicht KI-basiert sondern händisch geschrieben von der Verfasserin dieses Textes.
Barbara Oberrrauter-Zabransky: Die KI kann mich mal. Was Sie wirklich über künstliche Intelligenz wissen müssen. Verlag Kremayr & Scheriau, Wien 2026, 295 Seiten, 25,00 Euro.
Eva Gengler: Feministische KI. Warum Künstliche Intelligenz Ungerechtigkeit verstärkt und was wir dagegen tun müssen. Verlag J.H.W. Dietz Nachf., Bonn 2026, 328 Seiten, 22,00 Euro.