Der Gouverneur von Kalifornien, Gavin Newsom, legte sein Veto gegen den Safe and Secure Innovation for Border Artificial Intelligence Models Act (SB 1047) ein.
Es hätte für abgedeckte KI-Unternehmen gelten sollen, die in Kalifornien mit einem Modell tätig sind, dessen Schulung mehr als 100 Millionen US-Dollar bzw. mehr als 10 Millionen US-Dollar für die Verfeinerung kostet, und hätte Anforderungen hinzugefügt, dass Entwickler Schutzmaßnahmen wie einen „Kill-Switch“ implementieren und Testprotokolle zur Reduzierung einrichten müssen das Risiko katastrophaler Ereignisse wie eines Cyberangriffs oder einer Pandemie. Der Text sieht außerdem Schutzmaßnahmen für Whistleblower bei der Meldung von Verstößen vor und ermöglicht es der AG, durch Sicherheitsvorfälle verursachte Schäden einzuklagen.
Zu den Änderungen seit seiner Einführung gehörte die Streichung von Vorschlägen zur Schaffung einer neuen Regulierungsbehörde und die Ermächtigung des Generalstaatsanwalts, Entwickler wegen möglicher Vorfälle zu verklagen, bevor sie auftreten. Die meisten der unter das Gesetz fallenden Unternehmen lehnten das Gesetz ab, obwohl einige ihre Kritik nach diesen Änderungen abschwächten.
Auch die Chamber of Progress, eine Koalition, die Amazon, Meta und Google vertritt, warnte, dass das Gesetz „Innovationen lähmen“ würde.
Zu den Gegnern des Gesetzentwurfs gehören die ehemalige Sprecherin des Repräsentantenhauses, Nancy Pelosi, der Bürgermeister von San Francisco, London Breed, und acht kalifornische Kongressabgeordnete. Zu den lautstarken Unterstützern auf der anderen Seite zählen Elon Musk, prominente Hollywood-Namen wie Mark Hamill, Alyssa Milano, Shonda Rhimes und JJ Abrams sowie Gewerkschaften wie SAG-AFTRA und SEIU.
Auch die Bundesregierung prüft Möglichkeiten zur Regulierung der KI. Im Mai schlug der Senat einen 32-Milliarden-Dollar-Fahrplan vor, der mehrere Bereiche abdeckt, mit denen sich der Gesetzgeber befassen sollte, darunter die Auswirkungen von KI auf Wahlen, die nationale Sicherheit, den Autor urheberrechtlich geschützter Inhalte usw.