Kalifornien ordnet KI-Notausschalter an, Microsofts KI-Verfassung & INTERPOL identifiziert 126 Kämpfer

Anna: Willkommen bei The State of Tech DE, Samstag, der neunzehnte September 2026. Ich bin Anna Hoffmann.

Klaus: Und ich bin Klaus Bergmann. Heute: Kalifornien zieht die Notbremse für die mächtigsten KI-Modelle. Microsoft veröffentlicht eine Art Grundgesetz für seine eigene KI. INTERPOL identifiziert mit KI 126 mutmaßliche Terrorkämpfer aus Propaganda-Videos. Google, Nvidia und Anthropic schmieden ein Bündnis, damit KI-Rechenzentren die Stromnetze nicht sprengen. Dazu zwei Sachen zum Ausprobieren: der freie Passwortmanager Buttercup und der europäische Routenplaner BRouter. Fangen wir an.

Kalifornien ordnet unabhängige Aufsicht und einen Notausschalter für die stärksten KI-Modelle an.

Anna: Kaliforniens Gouverneur Gavin Newsom hat eine Verordnung unterschrieben, die den Bundesstaat mitten ins Herz der KI-Regulierung katapultiert. Landesbehörden sollen Regeln für eine unabhängige Aufsicht über die großen KI-Firmen ausarbeiten. Und sie sollen die technische Grundlage für einen sogenannten Kill Switch entwickeln, also einen Mechanismus, mit dem sich ein KI-Modell abschalten lässt, wenn es ernsthaften Schaden anrichtet. Pikant daran: mehrere dieser Punkte standen schon in einem Gesetz, das Newsom vor zwei Jahren per Veto gestoppt hatte. Das ist also eine ausdrückliche Kehrtwende.

Klaus: Und die Begründung ist bemerkenswert deutlich. Newsom spricht explizit von katastrophischen Risiken: KI, die beim Design von Biowaffen hilft, oder Angriffe auf das Stromnetz. Die Verordnung verlangt externe Sicherheitsprüfer und eine unabhängige Verifikation der Sicherheitsberichte, die die Labore bisher selbst veröffentlichen. Auf gut Deutsch: die eigene Hausaufgabe benoten sich die Firmen nicht mehr allein. Kalifornien fordert Washington außerdem auf, dieselben Standards national zu übernehmen. Da OpenAI, Anthropic und Google alle im Bundesstaat sitzen, wiegt das für die gesamte Branche schwer.

Anna: Der springende Punkt ist die schiere Größe. Kalifornien wäre als eigenes Land eine der größten Volkswirtschaften weltweit, und dort sitzen die meisten Spitzenlabore. Eine Verordnung des Gouverneurs wird damit faktisch zu einer weltweiten Mindestanforderung. Jeder Anbieter, der seine Modelle in Kalifornien ausliefert, muss künftig über unabhängige Audits und einen Abschaltmechanismus nachdenken. Das ist ernsthafte Ingenieursarbeit und juristische Vorsorge, keine Pressemitteilung. Wie so ein Kill Switch technisch aussehen soll, ist übrigens offen. Ein Modell abzuschalten, das schon millionenfach im Umlauf ist, ist keineswegs trivial.

Klaus: Für den DACH-Raum ist der Zeitpunkt interessant, weil hier der AI Act der EU gerade in die harte Umsetzungsphase geht. Die europäischen Regeln setzen ebenfalls auf externe Bewertungen für Hochrisiko-Systeme, gehen aber weniger direkt in Richtung Notausschalter. Jetzt kommt aus Kalifornien ein ähnliches Signal, und deutsche, österreichische und schweizerische Aufsichtsbehörden bekommen zusätzliche Rückendeckung, wenn sie ähnliches verlangen. Für europäische Unternehmen, die KI-Modelle aus den USA einkaufen, bedeutet das mittelfristig: die Compliance-Anforderungen der Anbieter dürften sich angleichen.

Anna: Bleibt die Frage, wie schnell die kalifornische Verordnung wirklich zu greifbaren Regeln wird. Die Behörden müssen die Details erst ausarbeiten, und die Labore werden mit an den Tisch wollen. Kritiker aus der Industrie warnen bereits, ein zu enger Rahmen könnte die Entwicklung in andere Bundesstaaten oder ins Ausland verlagern. Sicherheitsexperten halten dagegen, dass gerade die größten Modelle bisher weitgehend ohne verpflichtende externe Kontrolle laufen. In dieser Spannung entscheidet sich, ob aus dem Symbol echte Aufsicht wird.

Microsoft veröffentlicht einen Verhaltenskodex, der den Menschen fest in die Verantwortung nimmt.

Klaus: Microsoft hat einen Entwurf für einen Verhaltenskodex seiner KI-Systeme vorgelegt, und die Sprache ist bewusst hart. Die Modelle sollen Korrekturen akzeptieren, Abschaltanfragen befolgen und klar mitteilen, was sie gerade tun und warum. Mustafa Suleyman, der Chef von Microsoft AI, nennt das eine Verfassung für künftige Modelle, aufgebaut auf den sogenannten Humanist-AI-Prinzipien des Konzerns. Im Klartext: der Mensch bleibt am Steuer, das Modell ist Beifahrer.

Anna: Der Zeitpunkt ist kein Zufall. Der Entwurf kommt in derselben Woche wie Kaliforniens Verordnung, und aus der Branche selbst mehren sich Stimmen, die zur Vorsicht mahnen. Microsoft versucht, die Bedingungen dieser Debatte mitzugestalten. Statt vager Werte gibt es konkrete Verhaltensregeln, an denen sich der Konzern von Kunden, Regulierern und Wettbewerbern messen lassen kann. Unternehmen, die überlegen, welche KI sie in kritische Prozesse einbauen, haben damit ein Dokument, auf das sie in Ausschreibungen zeigen können.

Klaus: Die kommerzielle Logik dahinter ist ziemlich klar. Große Kunden werden zunehmend nervös bei KI-Agenten, die eigenständig handeln, sich möglicherweise nicht mehr stoppen lassen oder Aktionen verschleiern. Ein Kodex, der zusichert, dass das Modell eine Abschaltung immer akzeptiert, zielt exakt auf diese Sorge. Ob die technische Umsetzung diesem Versprechen standhält, ist eine andere Frage. Und damit sind wir wieder bei dem Thema, das Kalifornien gerade fordert: unabhängige Verifikation, denn ohne externe Prüfung bleibt so ein Kodex Marketing.

Anna: Für Organisationen im DACH-Raum passt das gut zum AI Act. Der verlangt für Hochrisiko-Systeme unter anderem menschliche Aufsicht, Transparenz und die Möglichkeit, das System zu übersteuern. Microsofts Formulierungen lesen sich fast wie eine Vorlage für die entsprechenden Nachweise. Datenschutzbeauftragte und IT-Leiter bei deutschen Behörden, Versicherern oder Krankenhäusern bekommen damit einen Bezugstext, den sie in Verträge einbauen können. Der Bitkom hat bereits mehrfach betont, dass gerade der Mittelstand solche verbindlichen Zusagen braucht.

Klaus: Die Kritik aus der Wissenschaft ist trotzdem hörbar. Ein Konzern schreibt sich hier selbst die Hausordnung, in einem Bereich, in dem er zu den mächtigsten Anbietern gehört. Solange niemand von außen prüft, ob die Modelle sich tatsächlich so verhalten, bleibt das eine Selbstverpflichtung. Zusammen mit Kaliforniens Verordnung könnte daraus aber ein Muster werden: Der Anbieter beschreibt die Regeln, der Staat lässt sie unabhängig überprüfen. Ob Microsoft am Ende beim Wort genommen wird, entscheidet sich in den ersten größeren Streitfällen.

Anna: Kurze Unterbrechung. Wenn du The State of Tech DE regelmäßig hörst, drück auf Like und abonniere den Podcast, so verpasst du keine Folge. Weiter geht's.

INTERPOL identifiziert mit KI 126 mutmaßliche ausländische Kämpfer aus dschihadistischen Online-Inhalten.

Klaus: INTERPOL hat die Ergebnisse der Operation Shams II veröffentlicht, einer internationalen Anti-Terror-Aktion, koordiniert aus Tunis mit 28 Spezialisten aus mehreren Ländern. Mit KI-Werkzeugen wurden mehr als 108.000 Gesichtsbilder aus dschihadistischem Online-Material analysiert. Automatisierte Skripte übernahmen die Datensammlung, entfernten Duplikate und filterten nach Bildqualität. Übrig blieben 6.362 einzigartige, brauchbare Gesichter für die Gesichtserkennung.

Anna: Aus diesem gefilterten Bestand hat die Operation dann 126 mutmaßliche ausländische Terrorkämpfer identifiziert. Diese Treffer wurden von geschulten Beamten überprüft, bevor sie in die Ermittlungsakten wanderten. INTERPOL betont ausdrücklich, dass die KI den Heuhaufen verkleinert hat, die Nadeln aber Menschen bestätigt haben. Diese Unterscheidung ist wichtig, denn Gesichtserkennung auf Bildern aus Propagandavideos ist bekanntermaßen fehleranfällig. Ein falscher Treffer im Anti-Terror-Kontext hat für die betroffene Person sehr ernste Folgen.

Klaus: Der operative Nutzen ist trotzdem beträchtlich. Sechsstellige Bildmengen manuell durchzugehen ist für ein Team dieser Größe praktisch unmöglich, jedenfalls in einem sinnvollen Zeitfenster. KI macht daraus eine Aufgabe von Tagen statt Monaten. Was INTERPOL hier zeigt, ist im Grunde eine Schablone: Maschinelles Lernen für die Massenarbeit, Menschen für die entscheidenden Urteile, und eine dokumentierte Kette, damit Erkenntnisse grenzüberschreitend teilbar sind, ohne rechtlich sofort zu zerbrechen.

Anna: Genau an dieser Grenze wird es für den DACH-Raum heikel. Das Bundeskriminalamt und die Bundespolizei nutzen Gesichtserkennung bereits in bestimmten Fällen, aber die Rechtsgrundlagen sind eng gefasst und werden im Rahmen des AI Acts weiter verschärft. Gesichtserkennung im öffentlichen Raum in Echtzeit ist in Europa grundsätzlich stark beschränkt. Die INTERPOL-Operation läuft auf einer anderen Ebene, nämlich mit bereits vorhandenem Ermittlungsmaterial, aber die Debatte, wie viel Automatisierung in solchen Verfahren zulässig ist, wird deutsche und österreichische Datenschützer noch beschäftigen.

Klaus: Bürgerrechtsorganisationen wie die Gesellschaft für Freiheitsrechte weisen darauf hin, dass gerade der Kontext Terror die Latte für Fehler senkt, obwohl er sie eigentlich anheben müsste. Auf der anderen Seite argumentieren Sicherheitsbehörden, dass ohne KI ein großer Teil des Materials schlicht ungeprüft bliebe. Der Kompromiss, den INTERPOL vorführt, mit Mensch als letzter Entscheidungsinstanz, dürfte für die kommenden Jahre die Referenz in Europa sein.

Google, Nvidia und Anthropic bauen ein Bündnis, damit KI-Rechenzentren die Stromnetze nicht sprengen.

Anna: Google, Nvidia und Anthropic starten zusammen mit mehreren Stromversorgern eine sogenannte AI Energy Management Alliance. Das Ziel ist eines der unangenehmsten Probleme des KI-Booms: die Rechenzentren sind hungrig, und die Netze kommen nicht hinterher. Die Allianz setzt auf Demand-Response-Technologie. Vereinfacht gesagt sollen KI-Aufgaben zeitweise gedrosselt oder verschoben werden können, wenn das Netz unter Druck steht, damit anderswo Kapazität frei wird.

Klaus: Die Kernzahl ist beeindruckend. Laut der Allianz ließen sich so bis zu 100 Gigawatt zusätzliche Rechenzentrumskapazität ans Netz bringen, Kapazität, die sonst jahrelang auf neue Leitungen warten müsste. Die Idee ist, dass nicht jeder KI-Trainingslauf ausgerechnet an einem heißen Sommer-Nachmittag zur Spitzenlast stattfinden muss. Manche Jobs lassen sich pausieren, andere an einen anderen Standort verlagern, wieder andere warten, bis Wind- und Solarstrom reichlich verfügbar sind.

Anna: Hinter dem eleganten Konzept steckt allerdings eine harte technische Frage. KI-Training gilt oft als Job, den man nicht einfach anhalten kann, weil Tausende Chips im Gleichtakt arbeiten müssen. Workloads wirklich flexibel zu machen, verlangt Änderungen an Schedulern, an Speichersystemen und teilweise an den Modellarchitekturen selbst. Deshalb ist es kein Detail, dass Nvidia mit am Tisch sitzt, denn Hardware und Software müssen zusammenspielen. Und die Versorger bekommen einen seltenen Platz dort, wo KI-Infrastruktur entworfen wird.

Klaus: Für Europa ist der Zeitpunkt heikel. Irland, die Niederlande und Teile Deutschlands haben bereits Moratorien oder harte Auflagen für neue Rechenzentren erlassen, weil das Netz überlastet ist. In Frankfurt am Main, dem größten Datenknoten Europas, warnt der Netzbetreiber Mainova seit Monaten vor Engpässen. Ein Modell, bei dem Rechenzentren automatisch zurückfahren, wenn die Netzfrequenz kippt, könnte dort einen echten Unterschied machen. Die Bundesnetzagentur beobachtet solche Ansätze aufmerksam.

Anna: Kritiker halten dagegen, dass die Allianz vor allem den Ausbau weiter beschleunigen soll, jetzt mit einem grüneren Anstrich. Ohne verbindliche Zusagen, welche Anteile der Last tatsächlich flexibel sind, bleibt vieles Ankündigung. Für den DACH-Raum wäre entscheidend, dass solche Modelle nicht nur als Pilot laufen, sondern in Netzanschlussverträge einfließen. Dann würde aus einer Pressemitteilung tatsächlich Infrastrukturpolitik.

Der freie Passwortmanager Buttercup gibt dir einen Tresor über alle Geräte, ohne Abo.

Klaus: Zum Abschluss zwei Sachen, mit denen du heute konkret etwas anfangen kannst. Der erste Tipp ist Buttercup, ein freier Open-Source-Passwortmanager. Er läuft auf Windows, macOS, Linux, iOS und Android, und dazu gibt es Browser-Erweiterungen für Chrome und Firefox. Die Passwörter landen in einem verschlüsselten Tresor, den du selbst ablegen kannst: auf dem eigenen Rechner, in deinem eigenen Cloud-Speicher oder auf einem privaten Server. Es gibt keinen erzwungenen Account beim Hersteller und keine Abo-Stufe, die dich einsperrt.

Anna: Was Buttercup gegenüber den großen Namen interessant macht, ist genau diese Flexibilität, wo der Tresor liegt. Wer Geräte synchronisieren will, richtet die App einfach auf einen bestehenden Cloud-Ordner. Für alle, die noch dieselben drei Passwörter überall benutzen oder sie in einer Notiz-App speichern, ist der Einstieg in etwa fünfzehn Minuten erledigt: App installieren, ein starkes Hauptpasswort setzen, Passwörter aus dem Browser importieren und die Erweiterung einrichten, damit sich Logins automatisch ausfüllen.

Klaus: Ein paar praktische Punkte gehören dazu. Weil Buttercup keinen eigenen Sync-Dienst betreibt, bist du für Sicherungen des Tresors selbst verantwortlich. Also mindestens eine Kopie an einem sicheren Ort. Das Hauptpasswort lässt sich nicht wiederherstellen, wenn du es vergisst. Das ist der Preis für echte Ende-zu-Ende-Verschlüsselung. In Nutzerbewertungen wird die App als schlank und übersichtlich gelobt, die Oberfläche ist funktional, nicht so poliert wie die kommerziellen Suiten.

Anna: Für Nutzer im DACH-Raum ist besonders interessant, dass sich Buttercup sauber mit europäischen Cloud-Diensten kombinieren lässt, etwa mit deutschen Nextcloud-Anbietern oder Schweizer Anbietern wie kdrive von Infomaniak. Damit bleiben die verschlüsselten Passwort-Tresore innerhalb des europäischen Rechtsraums. Und der übergreifende Punkt ist einfach: ein Passwortmanager ist immer noch die wirksamste einzelne Sicherheitsmaßnahme, die Privatpersonen und kleine Betriebe an einem Samstagnachmittag umsetzen können.

Der freie europäische Routenplaner BRouter baut Rad- und Wanderrouten, die andere Apps schlicht ignorieren.

Klaus: Der zweite Tipp ist BRouter, ein freier Open-Source-Routenplaner aus Deutschland, auf Basis von OpenStreetMap-Daten. Es gibt eine Android-App, und über brouter.de lässt sich der Dienst auch direkt im Browser nutzen. Der Clou: BRouter plant Routen entlang dessen, was du wirklich willst. Ruhige Radwege, Waldpfade, Schotterstrecken, oder die möglichst flache Linie durch hügeliges Gelände.

Anna: Der Trick sind die sogenannten Profile. Statt eines einzigen Fahrrad- oder Wandermodus wählst du ein Profil, das auf Rennradfahren, Trekking, Mountainbiking, Wandern oder auf Barrierefreiheit abgestimmt ist. Jedes Profil gewichtet Straßentypen anders, ein Rennradprofil bleibt auf Asphalt, ein Gravelprofil sucht Schotterwege. Fortgeschrittene können die Profile selbst bearbeiten, aber die Voreinstellungen sind stark genug, dass die meisten Nutzer gar nicht eingreifen müssen.

Klaus: Sobald die Kartenabschnitte für die eigene Region heruntergeladen sind, funktioniert BRouter offline. Für europäische Nutzer heißt das echte Navigation dort, wo Mobilfunk knapp ist: Alpen, ländliches Frankreich, schottisches Hochland, skandinavische Nebenstraßen. Kein Konto nötig, keine Werbung, keine Aufzeichnung deiner Touren. Die Oberfläche ist funktional statt hübsch, aber die Routen sind für Wochenendausfahrten oder Fernwanderungen oft spürbar besser als bei den bekannten Apps.

Anna: Ein praktischer Hinweis: Viele populäre Rad- und Wander-Apps in Europa nutzen BRouter ohnehin unter der Haube. Wer den Dienst direkt anspricht, spart sich also nicht nur den Datenabfluss an ein Werbenetzwerk, sondern kommt oft näher an die Ursprungsqualität heran. Für den DACH-Raum spannend: Der ADFC und mehrere Alpenvereine empfehlen OpenStreetMap-basierte Werkzeuge seit Jahren, weil die Daten von der Community gepflegt werden. Die Kombination aus Buttercup und BRouter ist damit auch eine kleine Erinnerung, was europäische Open-Source-Werkzeuge im Alltag leisten können.

Klaus: Heute ging es um...

Anna: Heute ging es um Kaliforniens Notausschalter für KI-Modelle, um Microsofts Verhaltenskodex für die eigenen Systeme, um INTERPOLs KI-Fahndung nach 126 mutmaßlichen Terrorkämpfern, um das Energie-Bündnis von Google, Nvidia und Anthropic für die Stromnetze, um den freien Passwortmanager Buttercup und um den europäischen Routenplaner BRouter.

Klaus: Mehr wissen oder Feedback geben? Besuche stateoftech.de oder schreib uns an info@doorzetters.net.

Klaus: State of Tech, die Tech-Welt in 15 Minuten.