Von der Notwendigkeit einer KI-Utopie

Das ist grundsätzlich allen klar. Trotzdem wird in vielen aktuellen Beiträgen Klarheit gegen Reichweiten-Dramatik getauscht. So beschleicht einen das Gefühl, dass die Tech-Unternehmen bei einer möglichen Katastrophe – bestenfalls einer, die nicht gleich alle tötet, denn dann wäre es ja ohnehin egal – schon einmal gewappnet sein und bloß die Verantwortung dafür nicht tragen wollen.

Will sagen: Es kommt ihnen gelegen, wenn es mittlerweile ganz abstrakt um die KI geht und nicht um konkrete Produkte, Entscheidungen und Verantwortliche. In diesem Kontext sind auch die aktuelle Verbrüderung zur behutsameren Weiterentwicklung und die damit einhergehende Diffusierung der Verantwortung besser zu verstehen. ↗

Und leider funktioniert es erstaunlich gut, wenn sich milliardenschwere Unternehmen plötzlich schwach geben ↗ und nicht mehr Herr ihres eigenen Werks sein wollen. Nicht zuletzt aufgrund der Wirkweise des aktuellen Klick-Journalismus. Die dystopischen Zitate ↗ eines ehemaligen Mitarbeiters sind attraktiver als eine nüchterne Betrachtung dessen, worüber dieser eigentlich ganz konkret spricht.

Wie gut, dass er das einfach selbst getan hat: Im „The Daily“-Podcast der New York Times ist der Zitatgeber Jacob Coxon zu Gast. Zurecht nicht gänzlich unaufgeregt, aber mit einem tiefen Wissen um die Funktionsweise der KI und ganz ohne dramatische Musikuntermalung.**

Medial werden andernorts leider die Maschinen zunehmend als dunkle, unkontrollierbare und völlig eigenmächtige Wesen inszeniert. Dass wir damit aktuell den Unternehmen, die sie gebaut haben, in die Hände spielen, klingt für mich wie ein aufgegangener Plan.

Das Ungefähre macht KI geheimnisvoll und angsteinflößend. Und es führt dazu, dass sich viele Menschen gar nicht mehr mit den wirklichen Herausforderungen und der Gestaltung von KI auseinandersetzen wollen. Nicht unbedingt in der täglichen Nutzung – da sind wir erstaunlich schmerzfrei –, sondern bei der Frage, welche Regeln, Grenzen, Verantwortlichkeiten, aber auch Visionen wir für diese Technologie brauchen.

Und ja, die Versachlichung des Themas ist schwierig, gerade weil der Diskurs angsteinflössend inszeniert ist. Ich glaube zudem nicht, dass uns die Herausforderungen unbekannt wären, sondern, dass kaum noch Aufmerksamkeit für sie übrig bleibt. Die nächste Eskalation, die nächste Provokation, der nächste Aufreger bindet Energie, während parallel Technologien entstehen, die Wirtschaft, Arbeit und Machtverhältnisse grundlegend verändern werden.

So kommt es zu einem merkwürdiges Missverhältnis: Wir wissen, dass wir uns mit KI, Rechenleistung, Energie, Daten und technologischer Souveränität beschäftigen müssen – und verbringen gleichzeitig durch den digitalen Dauerbeschuss den Großteil der Zeit damit, auf Gegenwart zu reagieren, statt Zukunft zu gestalten.

Der Zug ist längst abgefahren. Es wäre an der Zeit wichtige Weichen zu stellen.

Manchmal hilft es, sich in diesem Emotions-Gewitter noch einmal die Fakten zu vergegenwärtigen. Über was sprechen wir eigentlich?

Im Kern vieler Systeme, mit denen wir uns täglich beschäftigen, stehen große Sprachmodelle. Vereinfacht gesagt berechnen sie, welches nächste Textelement – ein sogenanntes Token – in einem bestimmten Kontext wahrscheinlich folgt. Damit daraus sinnvolle Antworten entstehen, wurden die Maschinen mit gewaltigen Datenmengen trainiert und haben statistische Zusammenhänge zwischen Sprache, Begriffen und Kontexten gelernt.

Wenn ich prompte „Mal mir ein Schloss“, muss das System aus dem Kontext ableiten, ob ich ein Türschloss oder das eines Königs meine. Dieses banale Beispiel ist deshalb interessant, weil hier das vermeintlich Menschliche der Maschine liegt. Wenn man diese Frage von seinem Kind gestellt bekommt, mit dem man kurz zuvor einen Disney-Film über eine Prinzessin gesehen hat, dann ist schnell klar, welches Schloss gemeint ist. Wenn eine Maschine das aber weiß, wirkt es so, als würde sie uns kennen.

Aber die Maschine ist kein Mensch.

Sie hat keine Kindheit, keinen Selbsterhaltungstrieb und keine schlechte Laune am Montagmorgen. Für ein menschliches Bewusstsein oder eigene Bedürfnisse gibt es keinen belastbaren Nachweis. Sie bearbeitet Aufgaben und verfolgt dabei die Ziele, die wir ihr gegeben haben.

Genau das macht sie so mächtig – und potentiell gefährlich.

Denn mit Zugriff auf große Wissensbestände, enorme Rechenleistung und zunehmend auch externe Werkzeuge kann ein KI-System Wege zur Lösung einer Aufgabe finden, die ein Mensch so nicht vorgesehen hat. Nicht, weil es böse wäre. Sondern eher, weil Gut und Böse für eine Maschine zunächst überhaupt keine sinnvolle Kategorie ist.

Die schwierige Aufgabe besteht deshalb darin, einem System nicht nur zu sagen, was es erreichen soll, sondern auch, welche Wege dorthin akzeptabel sind. Unter dem Begriff Alignment wird genau daran gearbeitet.

Eigentlich ist das eine ziemlich absurde Aufgabe: Wir versuchen Maschinen verbindlich beizubringen, nach welchen Werten sie handeln sollen, während sich Menschen seit Jahrtausenden nicht abschließend darüber einigen können.

Religionen widersprechen sich. Philosophische Schulen widersprechen sich. Staaten verfolgen unterschiedliche Interessen. Selbst ein einzelner Mensch kann morgens etwas für moralisch richtig halten und abends trotzdem anders handeln.

Wir können von einer Maschine kein absolut schlüssiges Handeln erwarten, wenn sie all dieses Wissen als Grundlage für ihre Zielerreichung nutzt. Wir werden Irrwege und Inkonsistenz beobachten. Wie zuletzt beim Hugging Face-Vorfall. ↗

Ein Programmierer würde sagen: „Shit in, Shit out“ Aber nur, weil wir durch die aktuelle Anlage der KI nichts anderes erwarten können, sollte das ja nicht bedeuten, dass wir für die zukünftige Entwicklung nichts anderes verlangen sollten, als eine zuverlässige und stringente Funktionsweise.

Dazu bedarf es einer Konsolidierung der Systeme, die hoffentlich noch möglich ist.

Genau deshalb setzt das Vermenschlichen der Maschinen den falschen Schwerpunkt.

Geben wir KI-Systemen die Möglichkeit, miteinander zu kommunizieren, Werkzeuge zu benutzen und eigenständig Ziele zu verfolgen, können daraus Verhaltensweisen entstehen, die wir im Detail weder vorgesehen noch kontrolliert haben.

Das kann Angst machen. Aber es ist kein Beleg dafür, dass irgendwo eine digitale Seele erwacht ist und heimlich einen Plan schmiedet.

Es bedeutet zunächst einmal, dass wir extrem leistungsfähige Problemlösungsmaschinen bauen, denen wir immer mehr Handlungsmöglichkeiten geben.

Und hier ist der Kern: Die Firmen haben aufgrund eines – aus wirtschaftlicher Perspektive vollkommen nachvollziehbaren – Businessmodells Maschinen gebaut, die Probleme für uns lösen sollen. Ihnen ist aber nicht von sich aus irgendetwas wichtig. Sie besitzen keine eigene Moral und kein angeborenes „Das macht man nicht“.

Was uns beim Menschen selbstverständlich erscheint, muss bei einer Maschine erst zu einer Grenze werden.

Der aktuelle Kontrollverlust ist deshalb real. Er ist aber nicht mystisch. Und er hat Verantwortliche in der echten Welt.

Wenn ein Unternehmen ein System baut, es mit immer größeren Fähigkeiten und Zugriffsmöglichkeiten ausstattet und damit in die Welt entlässt, kann es sich nicht anschließend darauf zurückziehen, dass die KI nun eben Dinge tue, die niemand mehr verstehe.

Frankenstein*** lässt grüßen. Aber auch die Kreatur aus der Geschichte hatte einen Schöpfer.

So gibt es Unternehmen, die man adressieren und von denen man eine sichere Entwicklung verlangen kann. Und es gibt Staaten, deren Aufgabe es ist, dafür die Rahmenbedingungen zu setzen. Je größer das mögliche Schadenspotential eines Systems wird, desto höher müssen die Anforderungen an Sicherheit, Tests und Zugriffsmöglichkeiten sein.

Das ist weniger spektakulär als die Geschichte von der plötzlich erwachten Superintelligenz.

Aber wahrscheinlich erheblich wichtiger.

Wann immer wir also sagen, dass die KI uns auslöschen könnte, machen wir es uns sprachlich zu einfach.

Wenn uns jemand auslöscht, sind wir es im Zweifel selbst.

Das klingt bis hierhin nicht wirklich nach einer Utopie.

Und ich habe mich auf dem Weg dieses Textes selbst gefragt, ob eine Dystopie nicht doch der sinnvollere Aufhänger wäre.

Aber das wäre zu einfach.

Wir hätten gerade durch KI die Möglichkeit, sehr viele Dinge besser zu machen. Medizin, Bildung, Wissenschaft, Energie, Verwaltung, Mobilität, Produktion – die Liste lässt sich nahezu beliebig verlängern. Gleichzeitig zwingt uns diese Technologie, Fragen neu zu stellen, die wir erstaunlich lange vertagen konnten.

Was ist Arbeit wert, wenn Maschinen einen immer größeren Teil davon übernehmen können? Wie verteilen wir Produktivitätsgewinne? Was ist gute Bildung, wenn jeder Mensch einen individuellen Tutor haben kann? Was bedeutet Leistung? Was bedeutet Teilhabe? Und wozu nutzen wir eigentlich eine Technologie, die uns bei der Lösung von Problemen helfen könnte, an denen wir seit Jahrzehnten scheitern?

Dass wir grundsätzlich zu gemeinsamen Lösungen fähig sind, haben wir bewiesen. Beim Ozonloch etwa gab es ein konkretes Problem, internationale Regeln und technische Alternativen. Bei anderen Menschheitsproblemen fällt uns das wesentlich schwerer – gerade dann, wenn Lösungen Verzicht, Verteilung oder widersprüchliche wirtschaftliche Interessen berühren.

Vielleicht führt uns KI deshalb vor allem etwas über uns selbst vor Augen.

Wir besitzen bereits ungeheuer viel Wissen. Unser Problem ist erstaunlich häufig nicht mehr das Wissen.

Roger Willemsen hat dies in seinem letzten Buch „Wer wir waren“ auf eine Weise beschrieben, die für mich mit jedem Jahr treffender wird:

Und als hätte er die aktuellen Entwicklungen vorausgeahnt, stehen wir nun an einem Punkt, an dem vieles lösbar scheint, ohne dass wir es deshalb auch lösen.

KI könnte diesen Widerspruch noch brutaler sichtbar machen.

Eine Maschine kann uns berechnen, simulieren und erklären, was zu tun wäre. Sie kann Zusammenhänge erkennen, Alternativen entwickeln und Lösungen optimieren.

Die Entscheidung, was wir davon tatsächlich wollen, nimmt sie uns nicht ab.

Zum Glück.

Und hier wird die Utopie interessant.

Nicht als rosarote Welt, in der uns eine freundliche Superintelligenz sämtliche Probleme abnimmt. Sondern als Gegenfrage zu all den Szenarien, mit denen wir uns derzeit beschäftigen.

Was wäre, wenn wir dieses Werkzeug tatsächlich gut nutzen?

Wenn KI Krankheiten früher erkennt, Forschung beschleunigt und jedem Kind unabhängig von Herkunft und Geld Zugang zu hervorragender individueller Bildung ermöglicht? Wenn sie uns Arbeit abnimmt, die gefährlich, monoton oder schlicht unnötig ist? Wenn Produktivität nicht nur dazu führt, dass einige Unternehmen noch wertvoller werden, sondern Menschen tatsächlich mehr Möglichkeiten bekommen?

Natürlich entstehen sofort die nächsten Fragen. Wem gehört diese Produktivität? Wer kontrolliert die Systeme? Wie verteilen wir die Gewinne? Was bleibt genuin menschlich? Und was passiert mit einer Gesellschaft, in der Arbeit womöglich nicht mehr dieselbe Funktion erfüllt wie heute?

Ich kenne die Antworten nicht.

Aber genau deshalb sollten wir darüber sprechen.

Es macht fast ein schlechtes Gewissen, über positive Szenarien nachzudenken. Vielleicht, weil wir uns selbst nicht zutrauen, sie hinzubekommen. Die Dystopie erscheint uns realistischer, weil wir den Menschen™ und seine Gier ja zu kennen meinen.

Aber die KI wird deshalb nicht wieder verschwinden.

Wir können uns also weiterhin fast ausschließlich damit beschäftigen, was alles schiefgehen könnte. Das ist notwendig. Sicherheit, Regulierung und Kontrolle sind keine Spaßbremsen, sondern Voraussetzung dafür, dass diese Technologie überhaupt gesellschaftlich funktionieren kann.

Es reicht nur nicht.

Denn ohne eine Vorstellung davon, was wir mit KI erreichen wollen, optimieren wir am Ende ausschließlich die Vermeidung dessen, was wir fürchten.

Vielleicht ist die eigentliche Utopie deshalb gar nicht, dass KI unsere Probleme löst.

Vielleicht besteht sie zunächst nur darin, dass wir uns erlauben, eine Richtung zu formulieren.

Barack Obama hat das getan:

Mein Skilehrer hat es damals allerdings noch besser auf den Punkt gebracht:

Du fährst immer in die Richtung, in die Du schaust.

___________

Das Titelbild dieses Artikels wurde mit der AI-Software ChatGPT ↗ erstellt.

*SPIEGEL: OpenAI macht weitere Probleme seiner KI-Modelle öffentlich ↗

**Man kann hinter dem medienwirksamen Ausstieg von Jacob Coxon bei ChatGPT auch ein Geschäftsmodell sehen, das mit der Verlinkung des Podcasts weiter unterstützt wird. Die Sichtweise ist auch mir nicht fremd. Allerdings sind die Inhalte an dieser Stelle wertstiftend für den Diskurs.

***Die Vergleich zum Roman „Frankenstein“ von Mary Shelley ist zumindest spannend; vor allem, wenn man betrachtet, an welcher Stelle die Geschichte kippt und warum. ↗

Dieser Text wurde ohne KI erstellt. Wenn KI eingesetzt wurde, dann um orthographische und grammatikalische Korrekturen vorzunehmen oder um bei bereits existenten Formulierungen Verbesserungen herbeizuführen. Die Gedanken und die Herleitung dieser sind originär. Überprüfbar ist dies z. B. mit dem Tool GPTZero.

Die in diesem Beitrag geäußerten Ansichten spiegeln die persönliche Meinung der Autorin bzw. des Autors wider und nicht notwendigerweise die Haltung der Agentur.

Dieser Text ist subjektiv – so wie jede Meinung. Wenn dir inhaltliche Fehler auffallen oder dir etwas fehlt, sag uns gerne Bescheid: ping@beyergoerges.com.