Der Gouverneur von Kalifornien, Gavin Newsom, legt sein Veto gegen das KI-Sicherheitsgesetz SB 1047 unter Berufung auf unnötige Einschränkungen der Innovation ein

JEREWAN (CoinChapter.com) – Am 30. September legte der Gouverneur von Kalifornien, Gavin Newsom, sein Veto gegen SB 1047 ein, ein viel diskutiertes Gesetz zur KI-Sicherheit.

California Governor Gavin Newsom has vetoed a bill that aimed to regulate artificial intelligence (AI) safety in the state, following strong opposition from major tech companies.

Der Gouverneur von Kalifornien, Gavin Newsom, hat gegen einen Gesetzentwurf, der die Sicherheit künstlicher Intelligenz (KI) im Bundesstaat regeln soll, sein Veto eingelegt, nachdem große Technologieunternehmen heftigen Widerstand geleistet hatten.

The bill, SB 1047, was titled the Safe and Secure Innovation for Frontier Artificial Intelligence Models Act. It faced significant opposition from the tech industry in Silicon Valley, which argued that the bill's regulations would hinder AI development in California and ultimately harm innovation.

Der Gesetzentwurf, SB 1047, trug den Titel „Safe and Secure Innovation for Frontier Artificial Intelligence Models Act“. Es stieß auf erheblichen Widerstand seitens der Technologiebranche im Silicon Valley, die argumentierte, dass die Vorschriften des Gesetzentwurfs die KI-Entwicklung in Kalifornien behindern und letztlich der Innovation schaden würden.

In a statement on Sep. 29, Newsom said that the bill had good intentions but focused too heavily on regulating existing AI firms. He added that the bill failed to address the real risks posed by evolving AI technologies and instead imposed unnecessary restrictions on even basic AI functions.

In einer Erklärung vom 29. September sagte Newsom, dass der Gesetzentwurf gute Absichten habe, sich aber zu stark auf die Regulierung bestehender KI-Firmen konzentriere. Er fügte hinzu, dass der Gesetzentwurf die tatsächlichen Risiken der sich entwickelnden KI-Technologien nicht berücksichtigt und stattdessen selbst grundlegende KI-Funktionen unnötig einschränkt.

"This bill largely applies retroactively to a small number of existing technologies and does not advance our goal of ensuring the safe development of future AI models," Newsom said in his veto message.

„Dieser Gesetzentwurf gilt größtenteils rückwirkend für eine kleine Anzahl bestehender Technologien und bringt unser Ziel, die sichere Entwicklung zukünftiger KI-Modelle zu gewährleisten, nicht voran“, sagte Newsom in seiner Vetobotschaft.

The bill proposed mandatory safety tests for AI models and required developers to implement a "kill switch" for their AI systems, which could be used by the state to deactivate the models in case of extreme risks. It also stated that AI developers could face legal action from the state attorney general if their models posed a threat, such as taking control of critical infrastructure.

Der Gesetzentwurf sah obligatorische Sicherheitstests für KI-Modelle vor und verlangte von Entwicklern die Implementierung eines „Kill-Schalters“ für ihre KI-Systeme, mit dem der Staat die Modelle bei extremen Risiken deaktivieren könnte. Darin heißt es außerdem, dass KI-Entwicklern mit rechtlichen Schritten des Generalstaatsanwalts drohen könnten, wenn ihre Modelle eine Bedrohung darstellten, etwa die Übernahme der Kontrolle über kritische Infrastrukturen.

The bill targeted large-scale AI models that cost over $100 million to develop, which raised concerns from industry experts. Neil Chilson, head of AI policy at the Abundance Institute, told CoinChapter that the bill's scope could eventually expand to cover smaller developers as well.

Der Gesetzentwurf zielte auf groß angelegte KI-Modelle ab, deren Entwicklung über 100 Millionen US-Dollar kostete, was bei Branchenexperten Bedenken hervorrief. Neil Chilson, Leiter der KI-Politik beim Abundance Institute, sagte gegenüber CoinChapter, dass der Geltungsbereich des Gesetzentwurfs schließlich auch auf kleinere Entwickler ausgeweitet werden könnte.

"The bill is poorly drafted and could be interpreted to apply to any company using AI models, even small startups," Chilson said.

„Der Gesetzentwurf ist schlecht formuliert und könnte so ausgelegt werden, dass er für jedes Unternehmen gilt, das KI-Modelle verwendet, sogar für kleine Startups“, sagte Chilson.

Governor Newsom mentioned that he had consulted with AI safety experts and emphasized the need for "workable guardrails" based on scientific analysis. He ordered state agencies to continue evaluating the potential risks posed by advanced AI models.

Gouverneur Newsom erwähnte, dass er sich mit KI-Sicherheitsexperten beraten habe und betonte die Notwendigkeit „funktionsfähiger Leitplanken“ auf der Grundlage wissenschaftlicher Analysen. Er wies die staatlichen Behörden an, die potenziellen Risiken, die von fortschrittlichen KI-Modellen ausgehen, weiterhin zu bewerten.

"While I am vetoing this bill today, I want to be clear that I fully support the Legislature's efforts to evaluate the risks and benefits of advanced AI models and to put in place strong safety measures," Newsom said.

„Obwohl ich heute mein Veto gegen diesen Gesetzentwurf einlege, möchte ich klarstellen, dass ich die Bemühungen des Gesetzgebers, die Risiken und Vorteile fortschrittlicher KI-Modelle zu bewerten und strenge Sicherheitsmaßnahmen einzuführen, voll und ganz unterstütze“, sagte Newsom.

Several lawmakers, including former House Speaker Nancy Pelosi, opposed SB 1047, arguing that the bill would hinder AI innovation, which is crucial to California's economy. Major tech firms also expressed concerns that the bill would limit AI development and growth.

Mehrere Gesetzgeber, darunter die ehemalige Sprecherin des Repräsentantenhauses Nancy Pelosi, lehnten SB 1047 ab und argumentierten, dass der Gesetzentwurf die KI-Innovation behindern würde, die für die kalifornische Wirtschaft von entscheidender Bedeutung ist. Große Technologieunternehmen äußerten auch Bedenken, dass der Gesetzentwurf die Entwicklung und das Wachstum von KI einschränken würde.

In contrast, Elon Musk supported the bill and broader AI regulations. On Aug. 26, Musk posted on X, saying that

Im Gegensatz dazu unterstützte Elon Musk den Gesetzentwurf und umfassendere KI-Vorschriften. Am 26. August postete Musk dies auf X

"California should probably pass the SB 1047 AI safety bill,"

„Kalifornien sollte wahrscheinlich das KI-Sicherheitsgesetz SB 1047 verabschieden“

though he acknowledged that it was a difficult decision.

obwohl er zugab, dass es eine schwierige Entscheidung war.

Despite his veto, Newsom stressed the importance of adopting strong AI safety measures, citing that his administration had passed over 18 AI-related bills in the past 30 days.

Trotz seines Vetos betonte Newsom, wie wichtig es sei, strenge KI-Sicherheitsmaßnahmen zu ergreifen, und verwies darauf, dass seine Regierung in den letzten 30 Tagen über 18 KI-bezogene Gesetzesentwürfe verabschiedet habe.