Als Politologe mit Schwerpunkt auf Künstlicher Intelligenz schreibe ich viele Beiträge über KI, weil ich der Überzeugung bin, dass wir es diesmal nicht nur mit einer neuen Technologie zu tun haben, sondern uns an einem Transformationswendepunkt der Menschheit befinden. Damit über meine Haltung zu diesem Thema keine Zweifel entstehen, beschreibe ich hier die wesentlichen Aspekte meiner Haltung.

Obwohl ich eine geisteswissenschaftliche Ausbildung genossen habe, beschäftige ich mich seit Beginn meiner beruflichen Laufbahn intensiv mit digitalen Technologien. Technologischer Fortschritt ist für mich daher kein abstraktes Zukunftsthema, sondern Teil meiner beruflichen Praxis. Ich stehe ihm grundsätzlich positiv gegenüber. Das gilt ebenso für die Künstliche Intelligenz, mit der ich mich seit einigen Jahren beruflich schwerpunktmäßig beschäftige und meinen Lebensunterhalt verdiene.

KI bietet die Chance, Krankheiten besser zu verstehen und zu überwinden, den technologischen Fortschritt erheblich zu beschleunigen und damit neue Möglichkeiten für Wissenschaft und Gesellschaft zu eröffnen. Ich sehe in ihr ein Instrument, um die großen Herausforderungen der Menschheit zu bewältigen und Lösungen für Probleme zu entwickeln, die uns heute noch als unlösbar erscheinen.

KI kann durch Missbrauch, Gedankenlosigkeit und Unverständnis das Gegenteil von dem bewirken, was wir uns erhoffen. Es gibt immer mehr Anzeichen dafür: Zum einen wird ein gefährlicher Wettbewerbsdruck aufgebaut, der jede Risikoscheu als naive Schwäche markiert, zum anderen gewinnt die Entwicklungsdynamik eine Geschwindigkeit, für die die Menschheit nicht vorbereitet ist.

Die Risiken sind nicht nur wissenschaftlich beschrieben, sondern werden auch durch die reale Entwicklung, gefährliche Unfälle und Laborstudien bestätigt. Die Entwicklung kann eigentlich jeder verfolgen. Jede Automatisierung hat zum Ziel, den Menschen aus dem Regelkreis zu entfernen (human out of the loop). Wir kennen das von selbstfahrenden Autos, dem bereits erfolgten Einsatz autonom tötender Drohnen in den aktuellen Kriegsgebieten oder der massenhaften Entwicklung und dem Einsatz von autonom handelnden KI-Agenten. Wenn sie also ihren Feind oder Wettbewerber dominieren wollen, dann müssen sie diejenigen sein, die schneller handeln. Also geben sie den Entscheidungsprozess an die KI beziehungsweise einen KI-Agenten, denn diese kann schneller erkennen, schneller entscheiden und schneller handeln, als sie es jemals könnten, denn sie sind Menschen mit beschränkten biologischen Fähigkeiten.

Zu den besonders schwerwiegenden Risiken zählt auch die Fehlannahme, dass KI ein kontrollierbares Instrument sei. Der Mensch sei der Herr und Bestimmer, wenn man nur die Anweisung richtig formuliere. Oder der Glaube, dass durch das Fehlen von KI-Bewusstsein keine autonomen Handlungen oder kein eigener Wille möglich seien. Tatsächlich ist es überhaupt die beabsichtigte, zur Verfügung gestellte Handlungsfreiheit, die Fähigkeit, überhaupt aktiv zu werden, die es KI ermöglicht, autonom zu entscheiden. Sobald KI-Agenten arbeiten, hört also bereits die menschliche Kontrolle auf.

Die fatalste aller Fehleinschätzungen ist jedoch, dass man durch strategisch gesetzte Human-in-the-loop-Kontrollpunkte in der Lage sei, die sonst automatisierte Welt zu kontrollieren und zu beherrschen. Es ist die Vorstellung, dass der Mensch alle Handlungen überblicke und keine unsichtbaren Handlungsflecken existieren. Und wenn man sie nicht versteht, wie beispielsweise im Falle der Gewichte in den neuronalen Netzen der Frontier-Modelle, dann müsse man nur Kontrollstellen dazwischen bauen. Das wird nicht geschehen, denn jene, die schneller und dominanter sein wollen, werden solche Zeiträuber weglassen und sich so gegenüber weniger hemmungslosen Konkurrenten durchsetzen.

Wir leben bereits in einer Welt, in der die strategischen Kontrollpunkte aufgegeben werden, und der Wettbewerb um die mächtigste KI wird folglich dazu führen, dass die Menschheit künftig den Anweisungen der KI folgen wird.

Es sei denn, man überdenkt den aktuell ungehemmten Wettbewerb. Das kann ich allerdings nicht erkennen.

Substack-Artikel zu KI