{"id":1497,"date":"2026-10-29T10:00:00","date_gmt":"2026-10-29T09:00:00","guid":{"rendered":"https:\/\/sascha.wiki\/?p=1497"},"modified":"2026-10-28T14:17:08","modified_gmt":"2026-10-28T13:17:08","slug":"wer-ist-die-firewall","status":"publish","type":"post","link":"https:\/\/sascha.wiki\/de\/wer-ist-die-firewall\/","title":{"rendered":"Wer ist die Firewall?"},"content":{"rendered":"\n
\"Eigene
Illustration: sascha.wiki<\/figcaption><\/figure>\n\n\n\n

Wenn der Schaden nicht mehr versicherbar ist, wer darf dann auf Start dr\u00fccken?<\/h2>\n\n\n\n

Ein Mensch sitzt vor einem Bildschirm. Eine KI schl\u00e4gt eine Handlung vor. Der Mensch best\u00e4tigt. Im Organigramm hei\u00dft das Kontrolle.<\/p>\n\n\n\n

Ob es Kontrolle ist, entscheidet sich daran, ob er verstanden hat, was passieren wird. Ob er Zeit zum Pr\u00fcfen hatte. Und ob er Nein sagen konnte, ohne dass jemand auf die Uhr oder das Umsatzziel zeigte.<\/p>\n\n\n\n

Diese Szene ist ein Gedankenbild. Die Frage dahinter steht inzwischen in einem B\u00f6rsenprospekt.<\/p>\n\n\n\n

Anthropic, das Unternehmen hinter Claude, hat am 26. Oktober seinen \u00f6ffentlichen S-1-Prospekt eingereicht. Darin findet sich eine bemerkenswerte Warnung: Bei einem katastrophalen KI-Ereignis k\u00f6nnte der m\u00f6gliche Schaden so gro\u00df sein, dass weder ein einzelner Versicherer noch m\u00f6glicherweise die Versicherungsbranche insgesamt angemessenen Schutz anbieten k\u00f6nnte. Auch ausreichendes Fachwissen wird als m\u00f6gliche Grenze genannt. Die eigenen Policen k\u00f6nnten ohnehin unzureichend sein. S-1, Seite 51<\/a><\/p>\n\n\n\n

Das bedeutet nicht, dass der Weltuntergang angek\u00fcndigt w\u00e4re. Es bedeutet auch nicht, dass die Versicherer schon heute pleite w\u00e4ren. Der Prospekt nennt daf\u00fcr keine Eintrittswahrscheinlichkeit und keine konkrete Deckungssumme.<\/p>\n\n\n\n

Aber die Warnung ver\u00e4ndert die Frage. Wer eine Technologie einsetzt, deren m\u00f6gliche Sch\u00e4den sich wom\u00f6glich nicht ausreichend absichern lassen, kann Verantwortung nicht mit dem Hinweis erledigen, man habe das Risiko doch erw\u00e4hnt.<\/p>\n\n\n\n

Das Risiko sitzt auf beiden Seiten des Bildschirms<\/h2>\n\n\n\n

Die bequeme Erz\u00e4hlung lautet: Menschen missbrauchen Werkzeuge. Also braucht die KI eine Firewall gegen den Menschen.<\/p>\n\n\n\n

Daran ist etwas richtig. Betrug, Angriffe, manipulierte Informationen und gef\u00e4hrliche Auftr\u00e4ge verschwinden nicht, weil das Werkzeug intelligent hei\u00dft.<\/p>\n\n\n\n

Der Prospekt beschreibt allerdings auch eine andere Richtung: Systeme k\u00f6nnen unerw\u00fcnschte oder fehlgeleitete Handlungen ausf\u00fchren, die ihnen niemand ausdr\u00fccklich aufgetragen hat. Agenten mit Zugriff auf Dateien, Konten oder externe Dienste k\u00f6nnen Fehler weitertragen, bevor jemand eingreift. KI kann zugleich bei der Entwicklung und Pr\u00fcfung weiterer KI mitwirken. S-1, Seiten 45 bis 49<\/a><\/p>\n\n\n\n

Dann braucht auch der Mensch Schutz vor der KI. Und wir brauchen Schutz vor der Vorstellung, eine KI k\u00f6nne ihre eigene Verl\u00e4sslichkeit abschlie\u00dfend bescheinigen.<\/p>\n\n\n\n

Der Mensch als dekorativer Notausgang<\/h2>\n\n\n\n

\u201eEin Mensch entscheidet am Ende\u201c klingt beruhigend. Es sagt noch wenig dar\u00fcber, wie diese Entscheidung zustande kommt.<\/p>\n\n\n\n

Ein \u00fcberlasteter Mitarbeiter, der hunderte Vorg\u00e4nge best\u00e4tigt, ist m\u00f6glicherweise Teil des Ablaufs, aber keine wirksame Grenze. Ein Sicherheitsverantwortlicher ohne Stopprecht tr\u00e4gt einen Titel. Die Macht liegt woanders.<\/p>\n\n\n\n

Das allgemeine Risikoframework des NIST betont deshalb klar definierte Rollen und die Grenzen menschlicher Aufsicht. Auch gemeinsame Mensch-KI-Entscheidungen k\u00f6nnen Verzerrungen verst\u00e4rken. Ein Mensch im Prozess macht ihn nicht automatisch sicher. NIST, Anhang C<\/a><\/p>\n\n\n\n

Meine Konsequenz daraus: Menschen m\u00fcssen Zwecke, Grenzen und Verantwortung bestimmen. Technische Sicherungen m\u00fcssen verhindern, dass diese Grenzen bei der n\u00e4chsten bequemen Abk\u00fcrzung verschwinden. KI darf bei der Pr\u00fcfung helfen. Sie darf nicht die Verantwortung \u00fcbernehmen, die wir anschlie\u00dfend niemandem mehr zuordnen k\u00f6nnen.<\/p>\n\n\n\n

Wer sch\u00fctzt die Grenze vor dem Gesch\u00e4ftsmodell?<\/h2>\n\n\n\n

Hier wird die Diskussion unbequem. Der Mensch ist nicht nur der vern\u00fcnftige Aufpasser. Menschen entscheiden auch, wie schnell entwickelt wird, wie viele Rechte ein Agent bekommt und welche Verz\u00f6gerung als wirtschaftlich untragbar gilt.<\/p>\n\n\n\n

Anthropic beschreibt im Prospekt sowohl Sicherheitsma\u00dfnahmen als auch m\u00f6gliche Konflikte zwischen Sicherheit und Gesch\u00e4ft. Beides geh\u00f6rt zur Bewertung. Ein Sicherheitsversprechen sollte \u00fcberpr\u00fcfbar sein. Ein Zielkonflikt beweist noch keinen Versto\u00df. S-1, Seiten 52 bis 55<\/a><\/p>\n\n\n\n

Die entscheidende Firewall muss deshalb auch gegen menschlichen Beschleunigungsdruck halten. Wer darf stoppen? Wer pr\u00fcft unabh\u00e4ngig? Wer kann einen Stopp \u00fcberstimmen? Und wer tr\u00e4gt Sch\u00e4den, die au\u00dferhalb von Kundenvertrag und Versicherung landen?<\/p>\n\n\n\n

Von der Cloud zur\u00fcck auf den Boden<\/h2>\n\n\n\n

Zur selben Debatte geh\u00f6ren die weniger filmreifen Risiken: Chips, Strom, Brennstoff, Wasser und langfristige Verpflichtungen. KI lebt nicht au\u00dferhalb der materiellen Welt. Der aktuelle Energiebericht der IEA beschreibt Engp\u00e4sse und unsichere Ausbaupl\u00e4ne. Eine angek\u00fcndigte Anlage ist noch keine betriebsf\u00e4hige Anlage. IEA, Oktober 2026<\/a><\/p>\n\n\n\n

Das macht die Technologie nicht wertlos. Es macht ihre Versprechen pr\u00fcfbar.<\/p>\n\n\n\n

F\u00fcr mich ist die Frage deshalb nicht, ob wir mehr Angst oder mehr Begeisterung brauchen. Wir brauchen wirksame Verantwortung, bevor aus einer m\u00f6glichen Handlung eine unumkehrbare Folge wird.<\/p>\n\n\n\n

Wenn selbst die Versicherbarkeit an Grenzen sto\u00dfen k\u00f6nnte: Wer darf dann entscheiden, welches Restrisiko alle anderen tragen m\u00fcssen?<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"

Wer setzt KI Grenzen und wer tr\u00e4gt m\u00f6gliche Folgen? \u00dcber Versicherbarkeit, menschliche Aufsicht und wirksame Stopprechte.<\/p>\n","protected":false},"author":1,"featured_media":1496,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[145],"tags":[],"class_list":["post-1497","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ki"],"_links":{"self":[{"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/posts\/1497","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/comments?post=1497"}],"version-history":[{"count":1,"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/posts\/1497\/revisions"}],"predecessor-version":[{"id":1500,"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/posts\/1497\/revisions\/1500"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/media\/1496"}],"wp:attachment":[{"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/media?parent=1497"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/categories?post=1497"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/tags?post=1497"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}