Amodei & Altman fordern KI-Bremse, Samsung investiert 3 Mrd. in Mistral, BlueMoon-Exploit

Anna: Willkommen bei The State of Tech DE, Sonntag, der dreizehnte September 2026. Ich bin Anna Hoffmann.

Klaus: Und ich bin Klaus Bergmann. Heute geht es um: Anthropic-Chef Amodei fordert eine globale Verlangsamung der KI-Entwicklung, und Sam Altman schließt sich an. Dann: Südkoreas Tech-Konzerne kaufen sich in die globale KI-Infrastruktur ein, mit Samsung als größtem Geldgeber für Mistral in Europa. Drittens: Hyundai schaltet sein Data-Flywheel-System scharf und beschleunigt damit die Entwicklung autonomer Autos. Vierens: eine Studie deckt versteckte Schulden hinter dem amerikanischen KI-Boom auf. Danach zwei Sachen zum Ausprobieren: das neue Exploit-Kit BlueMoon, das gerade Chrome und Windows auseinandernimmt, und wie ihr euch schützt, sowie zum Abschluss die australische Charts-Regel, die KI-Musik aus den offiziellen Listen verbannt. Fangen wir an.

Anthropic-Chef Amodei fordert globale Verlangsamung der KI-Entwicklung, Altman schließt sich an.

Anna: Dario Amodei hat gestern einen Aufsatz veröffentlicht, in dem er ein klares Bremsmanöver in der KI-Entwicklung fordert. Der Chef von Anthropic warnt, dass autonome KI-Systeme innerhalb von sechs bis zwölf Monaten weite Teile des Internets übernehmen und Schäden in Höhe von hunderten Milliarden Dollar verursachen könnten. Er nennt das "pacing the frontier", also ein bewusstes Tempo-Halten an der Spitze der Entwicklung. Bemerkenswert ist vor allem, wer sich sofort angeschlossen hat: Sam Altman von OpenAI, sonst nicht gerade als Bremser bekannt. Zwei direkte Konkurrenten senden also dasselbe Signal am selben Tag.

Klaus: Und Amodei bleibt nicht bei der Warnung. Er schlägt konkrete Selbstverpflichtungen vor, unter anderem unabhängige Prüfer, die die Sicherheitspraktiken der Labore verifizieren. Das ist eine deutliche Verschiebung, denn bislang lief Sicherheitsprüfung in der Branche vor allem intern. Zur Einordnung: erst vor wenigen Tagen trat ein Anthropic-Forscher zurück, weil ihm die Risikoszenarien zu bedrohlich wurden. Diese Rücktrittsdebatte hat offenbar auch intern etwas ausgelöst. Was fehlt, ist ein Mechanismus, der solche Zusagen bindend macht. Freiwillige Selbstverpflichtungen kann man morgen wieder zurückziehen.

Anna: Genau da liegt der Knackpunkt. Wenn Anthropic und OpenAI langsamer machen, aber chinesische oder andere US-Labore nicht mitziehen, entsteht ein klassisches Kollektivproblem. Amodei weiß das und ruft deshalb explizit zu koordinierter Drosselung auf. Ob das realistisch ist, ist eine andere Frage. Marktanteile und Investorendruck ziehen in die entgegengesetzte Richtung. Beobachter weisen darauf hin, dass ähnliche Appelle in der Vergangenheit vor allem symbolisch blieben.

Klaus: Für die Debatte um den EU AI Act ist dieser Vorstoß trotzdem wichtig. In Brüssel läuft gerade die stufenweise Umsetzung des Gesetzes, und Kritiker aus der Industrie argumentieren, die Regeln seien zu streng und würden Europa abhängen. Wenn nun ausgerechnet die Top-CEOs aus den USA öffentlich für mehr Bremse plädieren, schwächt das dieses Argument.

Anna: In Deutschland, Österreich und der Schweiz beobachten Aufsichtsbehörden das genau. Der Bitkom hat sich in den letzten Wochen mehrfach für eine differenzierte Umsetzung des AI Act ausgesprochen. Die Kernfrage bleibt: Wie schnell kommt aus dem Aufruf zu weniger Tempo tatsächlich verbindliche Regulierung, und wer prüft, ob die Labore sich daran halten?

Südkoreas Tech-Konzerne treiben mit Milliardeninvestitionen die globale KI-Infrastruktur voran.

Klaus: Südkorea baut sich gerade in die vorderste Reihe der globalen KI-Infrastruktur. Samsung hat die größte Tech-Finanzierungsrunde geführt, die Europa je gesehen hat: drei Milliarden Euro für das französische KI-Unternehmen Mistral. Parallel dazu holt Positron AI, ein Portfoliounternehmen des koreanischen Konzerns Naver, 875 Millionen Dollar für eine speicherorientierte Inferenzarchitektur. Das ist Hardware, die darauf spezialisiert ist, große KI-Modelle effizient laufen zu lassen, nicht sie zu trainieren.

Anna: Und dazu kommt eine Grundlagenforschungs-Komponente. Das koreanische Unternehmen Panmnesia hat mit Meta gemeinsam eine Studie in "Nature" veröffentlicht, zu einer Technik namens CXL. Das ist im Kern eine Verbindungstechnik, die es Rechenzentren erlaubt, Speicher und Rechenchips flexibler zu koppeln. Klingt technisch, ist aber wichtig, weil die klassischen Engpässe im KI-Betrieb genau dort liegen: nicht mehr nur bei den Chips selbst, sondern beim Datentransport dazwischen.

Klaus: Für Europa ist die Mistral-Investition doppelbödig. Einerseits fließt frisches Geld in den einzigen ernsthaften europäischen Herausforderer der US-Modelle. Andererseits gehört jetzt ein großer Anteil an Samsung, also einem asiatischen Konzern. Die Debatte über europäische digitale Souveränität bekommt damit einen neuen Beigeschmack. Wer definiert künftig, was ein europäisches KI-Unternehmen ist, wenn die Kapitaltabelle asiatisch dominiert wird?

Anna: Für die Industrie in Deutschland, Österreich und der Schweiz erhöht das den Druck spürbar. Wer Rechenzentren baut oder KI-Hardware entwickelt, konkurriert nicht mehr nur mit Nvidia und den US-Hyperscalern, sondern zunehmend auch mit koreanischen Spezialisten. Für Anwender in der DACH-Region könnte das immerhin bedeuten, dass die Auswahl an KI-Diensten und Infrastrukturangeboten in den nächsten Monaten wächst und die Preise unter Druck geraten.

Anna: Kurze Unterbrechung. Wenn du The State of Tech DE regelmäßig hörst, drück auf Like und abonniere den Podcast, so verpasst du keine Folge. Weiter geht's.

Hyundai schaltet Data-Flywheel-System scharf und beschleunigt Entwicklung autonomer Fahrzeuge.

Klaus: Die Hyundai Motor Group hat ihr sogenanntes Data-Flywheel-System vollständig in Betrieb genommen. Der Name klingt nach Marketing, aber das Prinzip dahinter ist konkret: ein geschlossener Kreislauf aus Datenerfassung im Fahrzeug, KI-Training, Validierung im Simulator und dann Rückspielung ins Auto. Jede gefahrene Situation macht die nächste Version besser. Vorgestellt wurde das Ganze bei einem eigenen Autonomous-Driving-Media-Day.

Anna: Der spannendste technische Teil ist die Vision-Language-Action-Technologie der Hyundai-Tochter 42dot. Vereinfacht gesagt kombiniert das System Bildinformationen aus den Kameras mit sprachbasiertem Schlussfolgern. Statt starr programmierter Regeln kann das Auto also intern quasi in Sätzen begründen, warum es bremst oder ausweicht. Und Hyundai koppelt das mit Nvidias Fahrzeug-KI-Plattform in die eigene Software-Defined-Vehicle-Architektur, also eine Auto-Elektronik, bei der Funktionen per Software nachgeladen werden statt fest verdrahtet zu sein.

Klaus: Dieser Ansatz ist deshalb bemerkenswert, weil er einen anderen Weg geht als Tesla mit dem reinen Kamera-plus-neuronales-Netz-Modell, und einen anderen als Waymo mit hochdetaillierten Karten. Hyundai versucht die Mitte: viele Daten, sprachfähige Argumentation, Kooperation mit spezialisierten Chip-Anbietern. Wenn das aufgeht, hätte ein klassischer Autohersteller zum ersten Mal seit Jahren wieder technologische Initiative gegenüber den Silicon-Valley-Playern.

Anna: Für die deutsche, österreichische und schweizerische Automobilindustrie ist das ein weiterer Weckruf. Volkswagen, BMW, Mercedes und die Zulieferer haben eigene Ansätze, aber der koreanische Vorsprung bei der Verbindung von Software, Daten und Modellarchitektur wird schwer zu schließen. Für Fahrer in der DACH-Region wird sich in den nächsten Jahren zeigen, wessen Assistenzsysteme in Alltagssituationen tatsächlich zuverlässiger werden.

Studie zeigt versteckte Schulden hinter dem amerikanischen KI-Boom.

Klaus: Eine aktuelle Berechnung wirft ein sehr anderes Licht auf den amerikanischen KI-Boom. Die langfristige Verschuldung der acht führenden US-Tech-Konzerne ist innerhalb eines Jahres um sechsundachtzig Prozent gestiegen. Und die Kosten für Rechenzentren, Strom und KI-Infrastruktur sind von knapp sechshundert Milliarden auf rund zwei Komma sechs Billionen Dollar hochgeschossen.

Anna: Der eigentlich brisante Punkt sind die versteckten Verpflichtungen. Viele Unternehmen führen langfristige Miet- und Leasingverträge für Rechenzentren nicht als klassische Schulden in der Bilanz, obwohl sie wirtschaftlich genau das sind. Rechnet man diese Verpflichtungen ein, steigt die tatsächliche Schuldenlast im Schnitt um fast hundertfünfzig Prozent. Nach den Berechnungen der Studie würde das die Kreditqualität rechnerisch um ein bis zwei Ratingstufen verschlechtern.

Klaus: Das erinnert an frühere Boomphasen, in denen Investitionen in Infrastruktur schneller wuchsen als die Einnahmen, die diese Infrastruktur später rechtfertigen sollte. Analysten weisen darauf hin, dass die tatsächlichen KI-Umsätze bei vielen Anbietern noch weit hinter den Ausgaben zurückbleiben. Solange die Zinsen niedrig blieben, war das kein Problem. Aber die Refinanzierungskosten steigen, und irgendwann wird gefragt, was tatsächlich verdient wird.

Anna: Für die DACH-Region ist das keine abstrakte Bilanzdebatte. Viele Unternehmen hier hängen an amerikanischer Cloud- und KI-Infrastruktur, von Microsoft Azure über Amazons Cloud bis zu Googles Diensten. Wenn diese Anbieter unter finanziellem Druck geraten, verändern sich Preise, Vertragsbedingungen oder Investitionsprioritäten. Der deutsche Mittelstand, der gerade erst auf Cloud-KI umstellt, sollte im Auge behalten, wie stabil die Grundlage darunter tatsächlich ist.

BlueMoon-Exploit-Kit nutzt neue Zero-Day-Lücken in Chrome und Windows aus.

Klaus: Zum Abschluss zwei Sachen, mit denen ihr heute konkret etwas anfangen könnt. Und das erste ist leider kein Vergnügen, sondern eine dringende Warnung. Sicherheitsforscher haben ein neues Exploit-Kit namens BlueMoon entdeckt. Das ist ein Werkzeugkasten für Angreifer, der aktuell frisch entdeckte Sicherheitslücken in Chrome und Windows automatisiert ausnutzt.

Anna: Das Besondere an BlueMoon ist, wer es einsetzt und wie hastig. Mehrere spionageorientierte Gruppen nutzen es parallel, und die Forscher beschreiben die Einsätze als opportunistisch und überstürzt. Das deutet darauf hin, dass die Angreifer möglichst viel abgreifen wollen, bevor die Lücken großflächig gepatcht sind. Betroffen sind vor allem ungepatchte Systeme, also Rechner, bei denen die letzten Sicherheitsupdates nicht installiert wurden.

Klaus: Und hier kommt die konkrete Handlung für heute. Öffnet euren Chrome-Browser, klickt oben rechts auf das Menü, dann auf "Hilfe" und "Über Google Chrome". Der Browser prüft dann automatisch, ob eine neuere Version verfügbar ist, und installiert sie. Bei Windows geht ihr in die Einstellungen, dann auf "Windows Update" und drückt auf "Nach Updates suchen". Beide Vorgänge dauern zusammen keine zehn Minuten und schließen genau die Lücken, die BlueMoon ausnutzt.

Anna: Für Unternehmen in Deutschland, Österreich und der Schweiz gilt: die IT-Abteilung sollte heute Wochenende oder spätestens Montagmorgen einen außerplanmäßigen Patch-Zyklus einleiten. Das Bundesamt für Sicherheit in der Informationstechnik empfiehlt in solchen Fällen, auch die Browser-Erweiterungen zu prüfen und verdächtige Erweiterungen zu entfernen. Für Privatnutzer ist die Faustregel schlicht: wer Chrome und Windows automatisch aktualisieren lässt und den Rechner heute einmal neu startet, hat das Wichtigste erledigt.

Klaus: Und noch ein praktischer Hinweis: Chrome installiert Updates zwar automatisch, aber erst nach einem Neustart des Browsers. Wer wochenlang seine Tabs offen lässt und Chrome nie schließt, läuft trotz aktivierter Updates mit einer verwundbaren Version herum. Ein bewusster Neustart ist also der entscheidende Schritt.

Australien verbannt vollständig KI-generierte Musik aus den offiziellen Charts.

Anna: Und zum Abschluss noch etwas aus einer ganz anderen Ecke. Der australische Musikverband ARIA hat neue Regeln eingeführt, die vollständig oder überwiegend KI-generierte Musik aus den offiziellen australischen Charts ausschließen. KI-gestützte Aufnahmen bleiben erlaubt, solange sie im Wesentlichen von Menschen geschaffen wurden. Die Unterscheidung liegt also nicht bei "KI ja oder nein", sondern bei der Frage, wer das kreative Zentrum bildet.

Klaus: ARIA-Geschäftsführerin Annabelle Herd erklärt, dass diese Trennung Künstlern klare Regeln biete, ohne kreative Experimente mit KI-Werkzeugen zu blockieren. Die Regelung ist Teil einer breiteren Initiative der International Federation of the Phonographic Industry, kurz die weltweite Dachorganisation der Musikindustrie. Ziel ist auch, künstliche Manipulation von Streaming-Zahlen zu verhindern, denn KI kann inzwischen ganze Kataloge in kurzer Zeit erzeugen und massenhaft in Playlists drücken.

Anna: Für den einzelnen Hörer ist das erstmal ein konkreter Tipp: wer aus Australien Musik streamt oder sich für die dortigen Charts interessiert, findet in den offiziellen Listen künftig verlässlicher menschlich geschaffene Musik. Und für alle, die selbst mit KI-Musik-Werkzeugen experimentieren, bleibt der Weg offen. Man darf KI im kreativen Prozess nutzen, nur eben nicht die gesamte Schöpfung an die Maschine delegieren, wenn man in den offiziellen Charts landen will.

Klaus: In der DACH-Region hat sich der Bundesverband Musikindustrie in Deutschland bislang zurückhaltender geäußert, ebenso IFPI Austria und die schweizerische IFPI-Vertretung. Der australische Präzedenzfall dürfte die Debatte hier aber beschleunigen, gerade weil das Urheberrecht in Europa ohnehin gerade an KI-Fragen justiert wird. Für Musikschaffende in Deutschland, Österreich und der Schweiz lohnt es sich, die Diskussion in den kommenden Wochen genau zu verfolgen, denn ähnliche Regeln könnten auch hier kommen.

Anna: Heute ging es um: den Amodei-Aufruf zur Verlangsamung der KI-Entwicklung mit Rückendeckung von Altman, Südkoreas Milliardenoffensive in die globale KI-Infrastruktur inklusive Samsungs Einstieg bei Mistral, Hyundais Data-Flywheel-System für autonomes Fahren, die versteckten Schulden hinter dem US-KI-Boom, das gefährliche neue Exploit-Kit BlueMoon mit dem dringenden Rat, Chrome und Windows heute zu aktualisieren, und das australische Verbot rein KI-generierter Musik in den offiziellen ARIA-Charts.

Klaus: Mehr wissen oder Feedback geben? Besuche stateoftech.de oder schreib uns an info@doorzetters.net.

Klaus: State of Tech, die Tech-Welt in 15 Minuten.