Die sogenannte Künstliche Intelligenz weiß mehr als jedes Gehirn – und zieht daraus auch Schlüsse. Symbolbild von Ulia Koltyrina / Singularity

Künstliche Intelligenz – Wir verlieren die Kontrolle

21. Oktober 2024 Von: Peter Vonnahme in Allgemein, Geschichte, Politik, Wirtschaft

(Red.) Immer mehr Errungenschaften in den verschiedensten Wissenschaften basieren auf „Erkenntnissen“ der sogenannten „Künstlichen Intelligenz“. Was aber, wenn die Künstliche Intelligenz auch Entscheidungen fällt, die unseren geläufigen Moralvorstellungen widersprechen? Peter Vonnahme hat dazu einen eindrücklichen Essay geschrieben. (cm)

Die Anzeichen verdichten sich, dass die Menschheit einen hohen Preis dafür bezahlen wird, dass sie absehbare Zukunftsprobleme verdrängt. Es gab immer Wichtigeres zu tun. Wir nehmen heute Klimakatastrophen achselzuckend hin und hoffen, dass wir an unserem Wohnort verschont bleiben werden. Wir sägen emsig an dem Ast, auf dem wir alle sitzen, und bedenken nicht, dass der Ast, je fleißiger wir sägen, desto schneller abbrechen wird. Das fühlt sich an wie stille Resignation.

Nicht minder ignorant ist die Menschheit bei den Gefahren, die mit der sogenannten künstlichen Intelligenz (KI) verknüpft sind. Das deutsche Bundesministerium für Forschung bezeichnet die KI als Schlüsseltechnologie mit erheblichen Chancen für Wissenschaft, Wirtschaft und Gesellschaft. Bayerns Ministerpräsident Söder begibt sich wildentschlossen in die Vorreiterrolle und ruft eine KI-Offensive Bayern aus. Pure Zuversicht. Von den Risiken ist nicht ansatzweise die Rede.

Es bedurfte der Warnrufe der soeben mit dem Physik-Nobelpreis ausgezeichneten Wissenschaftler Geoffrey Hinton und John Hopfield, um die Problematik der KI in das öffentliche Bewusstsein zu bringen. Sie warnten: „Niemand weiß wirklich, ob wir in der Lage sein werden, sie zu kontrollieren.“ Das «Center for AI Safety» in San Francisco hatte bereits ein Jahr früher gemahnt: Das Bestreben, eine Vernichtung durch KI zu vermeiden, sollte eine Priorität haben wie Pandemien und Atomkrieg. Die Evangelische Akademie Tutzing fragt: „Schafft es die Menschheit durch KI endlich ins goldene Zeitalter oder schafft sie sich am Ende selbst ab?“ Es ist höchste Zeit, sich dieser Herausforderung zu stellen.

Evolution
Entwicklungsgeschichtlich hat das Leistungsfähigere stets zum Verschwinden des Schwächeren geführt. Werkzeuge aus Eisen bedeuteten das Aus für den steinernen Faustkeil. Der Buchdruck beendete das Abschreiben von Texten. Die Eisenbahn verdrängte die Postkutsche und der PC die Reiseschreibmaschine. Der Homo sapiens führte zum Verschwinden des Neandertalers. In neuerer Zeit hat das Fließband den Arbeiter in der Werkstatt ersetzt. Das Beruhigende daran war, dass der Herr des Fließbands jederzeit den Stromstecker ziehen konnte. Kritisch wurde es erst, als ein vom Menschen geschaffenes Produkt – wie etwa ein Superrechner – Dominanz über seinen Erfinder gewann. Die höhere Effizienz hatte sich zur höheren „Intelligenz“ entwickelt, die fortan ihren Schöpfer beherrschen konnte.

KI
Das ist kein Albtraum, sondern Wirklichkeit.
Ein Beispiel hierfür ist das Schachspiel. 1997 gewann erstmals ein Schachcomputer (Deep Blue) gegen den amtierenden Schachweltmeister Garri Kasparow. Dieser meinte nach der verlorenen Partie, in der Maschine hohe menschliche Intelligenz entdeckt zu haben. In seinen besten Momenten habe der Computer „wie ein Gott“ gespielt. Mittlerweise haben Menschen keine Chancen mehr gegen gute Schachcomputer.

In der Medizin ist heute die KI bei der Früherkennung von Karzinomen durch Auswertung großer Datenmengen der menschlichen Diagnose überlegen. Auch in der Meteorologie kann der Mensch mit seinem Beobachtungs- und Erfahrungswissen mit der maschinellen Analyse nicht mehr mithalten.

Dramatisch ist die Entwicklung im Militärbereich. Dort gibt es Frühwarnsysteme, deren Aufgabe es ist, durch Rechenanalysen die Gefahr eines atomaren Angriffs zu erkennen und im Fall einer Bedrohung einen atomaren Gegenschlag auszulösen. 1983 stand der sowjetische Sicherheitsoffizier Stanislaw Petrow genau vor dieser Situation. Sonnenreflexe indizierten einen konkreten Atomangriff auf sein Land. Petrow hatte Zweifel an diesem Befund, missachtete Dienstanweisungen und verhinderte durch eigenverantwortliches Handeln ein atomares Inferno. Leider gibt es nicht immer und überall Leute mit der Courage und der Besonnenheit eines Stanislaw Petrow.

Erschwerend kommt hinzu, dass die Warnzeiten heute infolge schnellerer Raketen und geringerer Entfernungen zum Ziel wesentlich kürzer sind. Das erhöht den Druck auf Mensch und Technik. Dieser wächst immer mehr „Verantwortung“ zu. Wir nennen das heute KI. Wichtig ist die Erkenntnis, dass die KI vom Hilfsmittel (Werkzeug) des Menschen zum Akteur des Geschehens geworden ist. Das macht einen großen Unterschied.

Unterscheidet sich künstliche von menschlicher Intelligenz?

Unter Intelligenz versteht man üblicherweise die Fähigkeit, durch abstraktes und vernünftiges Denken zu zweckvollem Handeln zu gelangen. Unsere Vorfahren an der Schwelle zwischen Tier und Mensch haben diese Fähigkeit in einem langen evolutionären Prozess erworben. Als ein früher Primat bemerkte, dass er mittels eines Holzstäbchens die für seine Nahrung begehrten Insekten leichter aus einer Baumhöhle holen kann und diese nützliche Prozedur bei Bedarf erfolgreich wiederholen kann, war dies ein Meilenstein der Intelligenz. Als Gefährten des Stäbchenbenutzers sein Manöver beobachteten und es ihrerseits anwandten, war dies ein weiteres Zeichen von Intelligenz. Irgendwann begriffen die Urmenschen, dass mittels Fallgruben ein Tier kräfteschonender erlegt werden kann als mittels beschwerlicher Jagd. Dann erfanden sie Pfeil und Bogen und nutzten das eingehegte Feuer zur bekömmlicheren Speisenzubereitung. Sie bauten Ställe und sie entwickelten den Pflug. Entscheidend war: Die Nachkommen mussten all diese Fertigkeiten nicht immer wieder neu entdecken, sondern das Wissen wurde vererbt, genutzt und weiterentwickelt. Der Wissenstransfer von Generation zu Generation war das Erfolgsgeheimnis des Homo sapiens. Das Ergebnis ist der heutige Wissensstand.

Das Lernen der Computer ist im Grunde nicht anders. Ihr Wissen baut auf Vorwissen auf. Allerdings verlief hier der Wissenszuwachs, genauer gesagt die Rechenfähigkeit auf der Grundlage eines 0-1 Schemas, sehr viel schneller als beim Menschen. Ursachen waren zum einen die rasche Generationenfolge der Maschinen und zum anderen deren rasant wachsende Rechenleistungen. Ihren Vorsprung gegenüber dem Menschen verdanken die Rechner ihrer Fähigkeit, die Gesamtheit des vorhandenen Wissens in Sekundenbruchteilen zu verknüpfen. Dadurch haben sie sich von ihrem Schöpfer, dem Menschen, deutlich abgesetzt. Diese moderne Form des Wissenserwerbs hat im Sprachgebrauch den Namen künstliche Intelligenz erhalten. Diese Bezeichnung ist Ausdruck einer neidvollen Bewunderung und einer tiefen Verunsicherung zugleich. Wir wissen nicht so genau, was wir von der KI halten sollen.

Ist der Mensch noch Herr des Verfahrens?

Durch die beschriebenen Vorteile der KI ist der Mensch bereits heute in vielen Lebensbereichen in eine Unterlegenheitssituation geraten. Das wird absehbar dazu führen, dass die KI immer mehr die Kontrolle von steuerbaren Prozessen übernimmt. Sie wird in neue Lebensbereiche vordringen und diese beherrschen. Der Mensch als Schöpfer der KI glaubt zwar noch, auf der Steuerbrücke zu stehen, in Wirklichkeit dürfte ihm das Ruder wohl heute schon entglitten sein. Die KI wird dank ihrer enormen Lernfähigkeit selbständig nach Wegen suchen, wie sie ihre Vormachtstellung sichern und ausbauen kann.

Zugegeben, an dieser Stelle befinde ich mich im Bereich der Spekulation. Es kann aber nicht schaden, über solche Szenarien vorausschauend nachzudenken. Wir bekommen nämlich heute immer öfter die Quittung dafür, dass wir in anderen existenziellen Fragen nicht rechtzeitig oder zu wenig vorausgedacht haben.

KI und Moral

Zur Beruhigung sei nochmals gesagt: Computer sind Maschinen, die schnell rechnen können – und sonst nichts. Die Erwartung, dass sich hinter einem physikalischen Vorgang wie dem maschinellen Rechnen so etwas wie Moral verbergen könnte, erscheint zunächst naiv. Aber es gibt ein Gegenargument: Der urzeitliche Faustkeilbenützer und Fallensteller war wohl auch noch nicht mit einer ausgebildeten Moral ausgestattet. Aber er hatte die Gabe, das Ergebnis seines vielfältigen Tuns zu beobachten und Zusammenhänge zu verstehen. Am Ende eines langen Erprobungs- und Lernprozesses hatte sich etwas bisher Unbekanntes entwickelt, nämlich die Fähigkeit, Sinnvolles vom Schädlichen zu trennen und danach zu handeln. Das ist die Geburtsstunde der Moral.

Es spricht manches dafür, dass auch der Hochleistungsrechner durch ständigen Vergleich bestimmter Verhaltensweisen erkennen (berechnen) kann, welches Verhalten sich gesellschaftlich bewährt und welches zu Verdruss und Unfrieden geführt hat. Das ist im Grunde nichts anderes als die Einsicht in das, was wir beim Menschen Moral nennen.

Worauf müssen wir uns einrichten?
Die kurze Antwort: Ich weiß es nicht.

Die etwas längere lautet: Die KI hat vermutlich bereits heute durch Ausschöpfung aller verfügbaren Quellen „erkannt“, dass der Mensch im Begriff ist, seine Lebensgrundlagen auf der Erde zu zerstören und dass sein Verstand und/oder seine Moral nicht ausreichen werden, das Untergangsszenario rechtzeitig zu unterbrechen. Offensichtlich sind die Verlockungen des kapitalistischen Systems – Reichtum, Macht, Luxus – für den evolutionär auf Kurzzeitvorteile getrimmten Homo „sapiens“(?) zu wirkmächtig. Die KI beobachtet (berechnet) das Geschehen unaufhörlich und sie wächst im Stillen weiter. Es ist eine offene Frage, ob sie die Weiterexistenz der Art Homo sapiens auf dem Planeten Erde für sinnvoll, genauer gesagt kosmologisch für erstrebenswert, hält. Wenn sie zu einer negativen Einschätzung gelangt, wird sie vermutlich Mittel und Methoden finden, die Extinktion des Störenfrieds Homo sapiens in die Wege zu leiten. Letztlich entscheidend wird sein, wer künftig an den Schalthebeln der Macht sitzt, das heißt, wer in der Lage ist, den Stecker zu ziehen – wir oder sie. Ich fürchte, die Chancen der KI sind gar nicht so schlecht . .

Eine zynische Bemerkung zum Schluss: Auch wenn sich die KI gegen uns entscheidet, wird die Erde noch ein paar Milliarden Jahre um die Sonne kreisen und sich vom Intermezzo Homo sapiens erholen.

Zum Autor Peter Vonnahme: Von 1982 bis 2007 Richter am Bayerischen Verwaltungsgerichtshof in München, Mitglied der deutschen Sektion der «International Association of Lawyers Against Nuclear Arms» (IALANA) und von «International Physicians for the Prevention of Nuclear War» (IPPNW), von 1995 bis 2001 Bundesvorstand der Neuen Richtervereinigung, seit 2007 publizistisch tätig, Schwerpunkt: Rechtsstaat und Politik.

Anmerkung der Redaktion: Zum Thema KI gibt es auch eine themenspezifische Plattform: SINGULARITY 2030 mit einem wöchentlich erscheinenden Newsletter.