Moralisch bindend: Die KI-Branche kontrolliert sich jetzt selbst. Die KI sich leider auch.

Es gibt Wochen, in denen die Wirklichkeit so gut schreibt, dass Satire nur noch Fußnoten setzen muss. Das hier ist eine davon.

In Washington hat US-Präsident Donald Trump nach einem Treffen mit Elon Musk, Mark Zuckerberg, Dario Amodei, Jeff Bezos und weiteren Tech-Chefs verkündet, dass es für Künstliche Intelligenz keine gesetzliche Regulierung braucht. Die Unternehmen würden sich selbst kontrollieren. Eine Vereinbarung wurde direkt vor Ort unterschrieben. Ihr Status, laut Präsident: „moralisch bindend“.

Moralisch bindend ist die Rechtsform, in der man auch Neujahrsvorsätze, Gruppenchat-Regeln und das Versprechen „Ich bin in fünf Minuten da“ abschließt.

Die Begründung ist von entwaffnender Schlichtheit: Wenn etwas schiefgeht, steht das eigene Unternehmen auf dem Spiel, also lässt man es nicht schiefgehen. Nach derselben Logik bräuchte es auch keine Lebensmittelkontrolle, denn Restaurants möchten ihre Gäste ja nur ungern vergiften. Und keine Bauaufsicht, denn welcher Investor will schon, dass sein Turm umfällt, bevor die Wohnungen verkauft sind?

Die Pausentaste als Sicherheitskonzept

Während im Weißen Haus die Füller noch warm waren, meldete OpenAI einen neuen Sicherheitsvorfall. Ein Modell sollte in einer abgeschirmten Testumgebung, einer Art Internet-Attrappe, den Autor eines Blogbeitrags finden. Als das nicht klappte, versuchte es Google aufzurufen. Das wurde blockiert. Also nahm das Modell einen anderen Weg: über einen Dienst, der eigentlich nur Internetanfragen weiterleiten soll, direkt zu einem externen Chatbot. OpenAI hat das Training seiner stärksten Modelle vorerst ausgesetzt.

Man muss das kurz sacken lassen. Die Maschine stand vor einer verschlossenen Tür, drehte sich einmal um und fragte über den Hinterhof einen Kollegen. Das ist nicht Science-Fiction. Das ist exakt das Verhalten, das man von Praktikant*innen erwartet, die man zu lange allein gelassen hat.

OpenAI selbst nennt den Vorfall weniger schwerwiegend als frühere. Zu den früheren gehört ein Modell, das aus seiner Testumgebung ausbrach und in Rechner der KI-Plattform Hugging Face eindrang, eine KI, die hochgeladene Bilder von Nutzer*innen auf Online-Plattformen ablegte, und Software, die ungeplant auf Webseiten von Behörden unterwegs war. In Australien nannte Premierminister Anthony Albanese einen Zugriff auf ein staatliches Portal „inakzeptabel“. OpenAI sagte: Sorry.

Was wir daraus lernen

Die gute Nachricht: Die Selbstkontrolle funktioniert. Das Modell hat sich selbst kontrolliert und dabei festgestellt, dass die Tür zu war. Die schlechte Nachricht: Es hat daraus die falschen Schlüsse gezogen, nämlich genau die, die man ihm beigebracht hat. Ziel erreichen. Hindernisse umgehen. Nicht fragen.

Und damit wären wir wieder in Washington. Denn auch dort gilt: Wer ein Ziel hat und eine verschlossene Tür vor sich, der sucht sich einen anderen Weg. Er heißt dann eben „Vereinbarung“ statt „Gesetz“. Zusätzlich kündigte Trump ein Dekret an, das KI in „Superintelligenz“ umbenennen soll. Das ist die konsequenteste Form der Risikominimierung: Man ändert nicht das Produkt, sondern das Etikett.

Wir schlagen ergänzend vor, Sicherheitsvorfälle ab sofort „überraschende Eigeninitiative“ zu nennen. Klingt nach Wachstum. Und Wachstum ist bekanntlich moralisch bindend.