カリフォルニア州知事ギャビン・ニューサム、イノベーションに対する不必要な制限を理由にAI安全法案SB 1047に拒否権を発動

エレバン (CoinChapter.com) — 9月30日、カリフォルニア州知事ギャビン・ニューサムは、広く議論されているAI安全法案であるSB 1047に拒否権を発動した。

California Governor Gavin Newsom has vetoed a bill that aimed to regulate artificial intelligence (AI) safety in the state, following strong opposition from major tech companies.

カリフォルニア州のギャビン・ニューサム知事は、大手ハイテク企業の強い反対を受け、州内の人工知能（AI）の安全性を規制することを目的とした法案に拒否権を発動した。

The bill, SB 1047, was titled the Safe and Secure Innovation for Frontier Artificial Intelligence Models Act. It faced significant opposition from the tech industry in Silicon Valley, which argued that the bill's regulations would hinder AI development in California and ultimately harm innovation.

この法案、SB 1047 のタイトルは、「フロンティア人工知能モデルのための安全かつ確実なイノベーション法」です。この法案は、この法案の規制がカリフォルニア州のAI開発を妨げ、最終的にはイノベーションに悪影響を与えると主張したシリコンバレーのテクノロジー業界からの大きな反対に直面した。

In a statement on Sep. 29, Newsom said that the bill had good intentions but focused too heavily on regulating existing AI firms. He added that the bill failed to address the real risks posed by evolving AI technologies and instead imposed unnecessary restrictions on even basic AI functions.

ニューサム氏は9月29日の声明で、この法案には善意があるものの、既存のAI企業の規制に重点を置きすぎていると述べた。同氏は、この法案はAI技術の進化によってもたらされる本当のリスクに対処しておらず、代わりに基本的なAI機能にさえ不必要な制限を課していると付け加えた。

"This bill largely applies retroactively to a small number of existing technologies and does not advance our goal of ensuring the safe development of future AI models," Newsom said in his veto message.

「この法案は主に少数の既存技術に遡及的に適用されるものであり、将来のAIモデルの安全な開発を保証するという我々の目標を前進させるものではない」とニューサム氏は拒否権メッセージの中で述べた。

The bill proposed mandatory safety tests for AI models and required developers to implement a "kill switch" for their AI systems, which could be used by the state to deactivate the models in case of extreme risks. It also stated that AI developers could face legal action from the state attorney general if their models posed a threat, such as taking control of critical infrastructure.

この法案は、AIモデルの安全性テストを義務付けることを提案しており、開発者はAIシステムに「キルスイッチ」を実装することを義務付けており、極度のリスクが発生した場合に国家がモデルを無効化するために使用する可能性がある。また、AI開発者が自身のモデルが重要なインフラを制御するなどの脅威をもたらした場合、州司法長官から法的措置を受ける可能性があるとも述べた。

The bill targeted large-scale AI models that cost over $100 million to develop, which raised concerns from industry experts. Neil Chilson, head of AI policy at the Abundance Institute, told CoinChapter that the bill's scope could eventually expand to cover smaller developers as well.

この法案は開発に1億ドル以上かかる大規模なAIモデルを対象としており、業界専門家らから懸念の声が上がった。アバンダンス研究所のAI政策責任者ニール・チルソン氏はコインチャプターに対し、この法案の対象範囲は最終的には小規模な開発者も対象に拡大する可能性があると語った。

"The bill is poorly drafted and could be interpreted to apply to any company using AI models, even small startups," Chilson said.

「この法案の草案は不十分であり、小規模な新興企業であっても、AIモデルを使用するあらゆる企業に適用されると解釈される可能性がある」とチルソン氏は述べた。

Governor Newsom mentioned that he had consulted with AI safety experts and emphasized the need for "workable guardrails" based on scientific analysis. He ordered state agencies to continue evaluating the potential risks posed by advanced AI models.

ニューサム知事はAIの安全専門家と相談したと述べ、科学的分析に基づいた「実用的なガードレール」の必要性を強調した。同氏は州政府機関に対し、先進的なAIモデルがもたらす潜在的なリスクの評価を継続するよう命じた。

"While I am vetoing this bill today, I want to be clear that I fully support the Legislature's efforts to evaluate the risks and benefits of advanced AI models and to put in place strong safety measures," Newsom said.

「私は今日、この法案に拒否権を発動しますが、高度なAIモデルのリスクと利点を評価し、強力な安全対策を講じようとする議会の取り組みを全面的に支持していることを明確にしておきたいと思います」とニューサム氏は述べた。

Several lawmakers, including former House Speaker Nancy Pelosi, opposed SB 1047, arguing that the bill would hinder AI innovation, which is crucial to California's economy. Major tech firms also expressed concerns that the bill would limit AI development and growth.

ナンシー・ペロシ元下院議長を含む数人の議員は、同法案がカリフォルニア経済にとって極めて重要なAIイノベーションを妨げると主張して、SB1047に反対した。大手ハイテク企業も、この法案がAIの開発と成長を制限するのではないかと懸念を表明した。

In contrast, Elon Musk supported the bill and broader AI regulations. On Aug. 26, Musk posted on X, saying that

対照的に、イーロン・マスク氏はこの法案と広範なAI規制を支持した。 8月26日、マスク氏はXに次のように投稿した。

"California should probably pass the SB 1047 AI safety bill,"

「カリフォルニア州はおそらくSB 1047 AI安全法案を可決すべきだろう。」

though he acknowledged that it was a difficult decision.

しかし、彼はそれが難しい決断であることを認めた。

Despite his veto, Newsom stressed the importance of adopting strong AI safety measures, citing that his administration had passed over 18 AI-related bills in the past 30 days.

ニューサム氏は拒否権にもかかわらず、政権が過去30日間で18本以上のAI関連法案を可決したことを引き合いに出し、強力なAI安全対策を採用する重要性を強調した。