Seit tausenden von Jahren machen wir die Erfahrung, dass unser Tun, nicht immer das bewirkt, was wir wollten und erwartet hatten. Das kennt jeder, sei es vom Zubereiten einer Torte, beim Stecken von Tulpenzwiebeln oder bei Geldanlagen. Gerade deshalb streben wir nach immer präziseren Abschätzungen von Folgewirkungen unserer Entscheidungen. Die Ofentemperatur können wir digital immer besser regulieren, die Tulpen können wir für unterschiedliche Habitate immer differenzierter züchten, die variablen Wirkungsfaktoren sind immer besser steuerbarer. Wo ist also das Problem?
Ein Blick auf Geldanlagen, mit unbestimmten Märkten, lassen schon mehr Zweifel und Unsicherheit aufkommen. Es gilt offensichtlich, dass je mehr unsere Entscheidungen in komplexe Systeme eingreifen, desto weniger übersehen wir ihre Folgen. Das beunruhigt. Zumal falsche Folgeabschätzungen schon immer auch existentiell sein konnten. Zu den Gefahren der natürlichen Lebenswirklichkeit kommen nun auch noch die die Unbestimmtheiten der Folgen unseres eigenen Tuns. Die von den Menschen kreierte Wirklichkeit (Artefakts), wie Atomenergie, Genmanipulation, Geo-Engineering und neuerdings die Künstliche Intelligenz, haben Langzeit-Folgen, die nur sehr begrenzt überschaubar sind. Bislang waren Fehlkalkulationen durch die Gemeinschaft noch immer korrigierbar, solange sie nicht irreversibel waren.
Der Astrophysiker Stephen Hawking formulierte den Gedanken 2016 sehr plastisch, als er davon sprach: „Als wir das Feuer erfunden haben, haben die Menschen damit auch eine Weile Mist gebaut. Aber irgendwann haben wir den Feuerlöscher erfunden.“ Heute drohen wir, auf neuartige Erfindungen nicht mehr mit Feuerlöscher reagieren zu können. Es droht, dass wir den Geist der „Pandora“ nicht mehr in die Flasche bekommen, oder dem „Hexenbesen“ keinen Einhalt mehr bieten können. In der entwickelten Welt erklingt der Chor: „Herr, die Not ist groß! Die ich rief, die Geister Werd‘ ich nun nicht los.“
In diesen Chor stimmt auch der Weltbestseller Autor Yuval Noha Harari ein, mit seinem neusten Buch „Nexus“. Bereits auf der zweiten Seite seines Prologs verweist er auf die griechische Erzählung Phaetons und auf den „Zauberlehrling“ von J. W. von Goethe. Zurecht warnt er davor, Mächte herbeizurufen, die du nicht beherrschen kannst. Allein, wie seine Warnung ausfällt, lässt Zweifel am Erfolg aufkomme. Erstens entwickelt er den Gedanken, dass die Geschichte der Menschheit vor allem in der Abfolge immer mächtigerer Informationssysteme, besteht. Wie diese entstehen, das erschließ sich dem Leser nicht. Die Dialektik von Geist und Wirklichkeit wird aufgerissen. So wie die Wirklichkeit zu bestimmten Gedanken drängt, so drängen die Gedanken zur Verwirklichung.
Auch die Informationsnetzwerke, angefangen von den mythischen Erzählungen am Lagerfeuer, den Büchern der Religionen, den Fiktionen der Massenmedien, bis hin zu den Selbstdarstellungen in den sozialen Medien, entstehen nicht im luftleeren Raum. Sie sind keineswegs frei von ökonomischen-politischen Zwängen, Möglichkeiten und Machtinteressen. Einer Determiniertheit der Informationssysteme wird bei „Nexus“ nicht nachgegangen.
Urplötzlich, wie aus dem „Nichts“, tauchen immer neue Informationsnetzwerke auf. Es erinnert in fataler Weise an die „deus ex machina“, einer Bühnenmaschine des antiken Theaters, die immer dann zum Einsatz kam, wenn urplötzlich ein übermächtiger Gott eine Lösung anzubieten hatte. „Das Garn“ der Netzwerke sind laut Harari Informationen. Hieraus ergibt sich ein zweiter nur schwer zu verstehender Kunstgriff. Die Informationsnetzwerke basieren nur zum Teil auf dem Versuch der Wahrheits-Suche, sondern vor allem auf Fiktionen, Illusionen, in der Form von Mythen, Märchen, Erzählungen, religiöse Texten etc., um die Mitglieder der Gemeinschaft an sich zu binden und „für Ordnung“ zu sorgen. In den gesamten Ausführungen von NEXUS wird, die „bindende“ und nicht die „erklärende“ Funktion favorisiert.
Das würde bedeuten, um die eingangs genutzter Beispiele nochmals aufzurufen, dass das entscheidende beim Backen der Torte nicht die Auswahl der Zutaten und die Dauer des Backprozesses sind, sondern der Zusammenschluss und die „Ordnung“ der Kuchenbäcker. Ohne Zweifel ein interessantes und zu beachtendes Element. Wie lange aber mag „die Ordnung“ der Bäcker aufrecht zu erhalten sein, wenn eine Torte nach der anderen misslingt, da ja die Suche nach der Wahrheit nicht so wichtig ist.
Unverständlicherweise nimmt Harari keinen Bezug auf das anerkannte Wissen der Kommunikationstheorie, wonach im Akt der Kommunikation immer „vier Ohren“ eine Rolle spielen und nicht nur die zwei der Beziehungs- und Appell-Ebene, die vor allem dann nötig werden, wenn es um das „Verbindende“ geht. Auch in der Erkenntnistheorie geht es nie nur um die Pragmatik, sondern immer auch um Semantik, um Bedeutung und Wahrheit. Der Nutzen des Torte Backens, einschließlich des „Ordnung“ stiftenden Moments, sie zum Beispiel gemeinschaftlich an einer Kaffeetafel zu genießen, kann nicht entkoppelt werden von der Rezeptur und der Backanleitung.
Harari bedient sich eines dritten „Kunstgriffes“, um das dämonische und das „Fiktionale“ der Informationsnetzwerke unterstreichen zu können. Den Netzwerken wird kurzerhand ein Eigenleben zugestanden, so als ob sie nicht von Interessen geleiteten Menschen erzeugt, gepflegt und am Leben gehalten werden. Bei der Künstlichen Intelligenz (KI) wird das Eigenleben auf die Spitze getrieben. Dann verkündet er: „KI ist kein Werkzeug, KI ist ein Akteur“. Oder an andere Stelle: Der wahre Held der Menschheitsgeschichte war schon immer die Information und nicht der Homo sapiens. Damit wird der „Hexenbesen“, den der Lehrling nicht zähmen kann, selbst zum Akteur der Weltgeschichte. Diese Sichtweise kommt der Beseelung der Natur, dem historisch bekannten Animismus schon sehr nah.
Zuerst werden die Interessen der geschichtlichen Akteure ausgeklammert und danach die „vermenschlichten“ Aktivitäten der Avatare eingeführt. Voilá, damit ist das Zauberstück vollbracht. Das „dämonische“, das „anorganische“, das nicht kalkulierbare „Raubtier“ ist geboren und der Homo sapiens ist von seiner Verantwortung befreit.
Wer programmiert die Algorithmen? Wer stellt die Sprachmodelle bereit? Wer bezahlt die Programmierstunde? Wer stellt den enormen Energiebedarf bereit? Wer „füttert“ den Baby-Algorithmus mit Daten? Wer stellt welche der Daten bereit? Wenn das Essay Hararis eingelesen werden sollte durch die KI, wie wird sie auf die im Text immer wieder erfolgte Gleichsetzung des Terrors des Stalinismus mit dem Nationalsozialismus reagieren, der eine industriell betriebenen Auslöschung des jüdischen Volkes und einem Vernichtungsfeldzug gegenüber der Sowjetunion zum Ziel hatte? Wer interpretiert die Daten? Wer trainiert die KI überhaupt zu werten? KI ist schon heute ein Meister der Mustererkennung und damit dem Menschen weit überlegen. Was aber wenn es gerade darum geht Muster zu überwinden und Paradigmenwechsel einzuleiten und den Echoraum zu verlassen? Die KI ist und bleibt ein menschliches Produkt. Nur dem Lehrling war der entfesselte Besen fremd, weil er nicht im Besitz des Wissens um die Rückruf-Aktion war. Dieses Wissen muss demokratisch geteilt sein und nicht das „heilige“ Geschäftsgeheimnis privater Unternehmungen oder des „Meisters“ allein.
Wer den „Hexenbesen“ zähmen will, muss klare Aussagen zum Lehrling und seinem Umfeld treffen. Darum mogeln sich die Vertreter der herrschenden Ordnung gerne herum. Harari spricht von einem „Silicon Curtain“ als einem Siliziumvorhang zwischen den Menschen und seinen künstlich intelligenten Herrschern. Kann es nicht vielmehr sein, dass nicht der „Hexenbesen“ außer Kontrolle gerät als vielmehr der „Lehrling“ selbst? Ist es nicht die Unfähigkeit, die Gesetze eigenen Handelns zu überblicken, und ist es nicht die „blinde Hand hinter dem Rücken“, die sich als dämonische Kraft entpuppt? Wenn der Gedanke der Entfremdung menschlicher Arbeit jemals zutraf, dann in den Folgewirkungen der KI. In der Geschichte kam es immer wieder vor, das neue Produktivkräfte, wie die mechanischen Webstühle, die Dampfmaschinen oder Eisenbahnen, dämonisiert wurden und als untrügliche Zeichen des Untergangs wahrgenommen wurden. Nicht selten waren es auch Vorboten des Untergangs, aber nicht der Welt, sondern nur der vorherrschenden Machtverhältnisse.
Das die KI als eine produktive weltumspannende Kraft nach anderen gesellschaftlichen Eigentums-Verhältnissen verlangt als den privaten Besitz durch eine Handvoll Tech-Milliardäre, das kommt vielen KI- Analytikern nicht in den Sinn. So wie Google allein 98% der Suchanfragen an das Weltwissen monopolisiert, so können durchaus monopolisierte KI- Anwendungen den Echoraum in einen „Hexensabbat“ verwandeln. Allein eine solche Frage stellt sich der Historiker von Weltrang nicht.
Yuval Noah Harari: Nexus. Eine kurze Geschichte der Informationsnetzwerke von der Steinzeit bis zur künstlichen Intelligenz. Penguin Verlag, München 2024, 656 Seiten, 28,00 Euro.
Schlagwörter: Künstliche Intelligenz, Michael Geiger, Nexus, Yuval Harari
