Notschalter für KI: Kalifornien lässt schärfere Sicherheitsgesetze ausarbeiten
Kalifornien geht in der Debatte um die Sicherheit künstlicher Intelligenz voran: Gouverneur Gavin Newsom hat per Dekret eine Expertengruppe eingesetzt, die innerhalb von zwei Monaten Vorschläge für schärfere KI-Sicherheitsgesetze vorlegen soll. Geprüft wird unter anderem ein gesetzlich vorgeschriebener Notschalter, der ein KI-System bei Gefahr stoppt oder isoliert. Anlass sind auch bekannt gewordene eigenständige Hackerangriffe durch KI-Software in den vergangenen Wochen.
Bis Mitte November sollen Newsom Vorschläge vorliegen; neben dem Notschalter geht es um unabhängige Beobachter in großen KI-Laboren und strengere Meldepflichten für Sicherheitsvorfälle. Kalifornien ist mit OpenAI, Anthropic und Google der wichtigste Entwicklungsstandort und hätte als Regulierer erhebliches Gewicht. Teile der Branche bewegen sich bereits: Dutzende Fachleute, darunter Physik-Nobelpreisträger Geoffrey Hinton, fordern in einem offenen Brief unabhängige Aufsicht in den KI-Laboren. Anthropic-Chef Dario Amodei plädiert für ein langsameres Entwicklungstempo, OpenAI-Chef Sam Altman unterstützt das; als ersten externen Aufsichtspartner hat Anthropic die Accenture-Tochter Faculty benannt.
Ob sich eine Notabschaltung technisch überhaupt umsetzen lässt, ist ungeklärt. Die Expertengruppe kann zudem nur Empfehlungen aussprechen – ob daraus ein Gesetz wird, ist offen, zumal Newsoms Amtszeit Anfang kommenden Jahres endet. Auf Bundesebene fehlt der Rückhalt: Präsident Trump lehnt eine KI-Regulierung ab, ein Vorstoß im Kongress für eine Notabschaltung scheiterte in dieser Woche.
Die Empfehlungen sollen Mitte November vorliegen; danach entscheidet die kalifornische Politik über eine Gesetzesinitiative. Newsoms zweite Amtszeit endet Anfang kommenden Jahres – ob ein Nachfolger den Kurs fortführt, ist offen.
Der Text beschreibt konkrete Regulierungsschritte, belegt sie mit Namen und Fristen und benennt offen technische wie politische Unsicherheiten.
Statt nur vor Risiken der künstlichen Intelligenz zu warnen, zeigt der Beitrag konkrete Ansätze: eine Expertengruppe, einen möglichen Notschalter, unabhängige Beobachter und Meldepflichten. Er nennt Fristen, Unternehmen und handelnde Personen und macht damit nachvollziehbar, wovon die Rede ist. Zugleich wird ehrlich gesagt, dass die technische Umsetzbarkeit ungeklärt ist, die Gruppe nur Empfehlungen geben kann und der politische Rückhalt fehlt. Mehr Gewicht bekäme der Text durch Stimmen von Kritikern der Regulierung und durch Hinweise, wie ähnliche Aufsichtsmodelle anderswo bisher gewirkt haben.
KI-Einschätzung nach festen Kriterien. So bewerten wir →