一部の業界リーダーが人工知能技術の危険性を警告し、政府によるさらなる規制を求める中、イーロン・マスク氏は大手人工知能企業に対し、一般公開前に協力して互いのモデルをテストするよう呼び掛けた。

月曜日にロサンゼルスで開催されたオールインサミットで講演した。 スペースX CEOはSpaceXのxAI事業について、 OpenAI、 人間的な、 グーグル、 ゴール そして「中国の大手企業３～４社」は、ライバル企業が自社モデルの安全性を評価するために「利用をテスト」できるようにすべきだ。

「つまり、自分自身のタスクを採点するのではなく、少なくとも競合他社にあなたのタスクを採点してもらい、懸念がある場合は警告を発することになります」とマスク氏は述べた。

Anthropic、OpenAI、その他の AI 企業のリーダーたちが週末をかけてテクノロジーの害について警告し、モデル開発のペースを緩めるよう呼びかけたことで、AI をどのように規制するかをめぐる議論が激化した。マスク氏とOpenAI CEOのサム・アルトマン氏は、Anthropic CEOのダリオ・アモデイ氏の減速提案を支持したテクノロジーリーダーの一人であり、まれに見る団結を示した。

AIのトップリーダーらによるこの動きは、アンスロピック社の職を辞すると発表したジェイコブ・コクソン氏の投稿をきっかけに、先週AI研究者らが人類の運命について警鐘を鳴らし、人類の運命に対する広範な警告の中で行われた。

OpenAIにも取り組んだコクソン氏は、大手AI研究所が「我々の生活をもてあそんでいる」と書いた。研究者らはすぐに意見を取り入れ、アンスロピック社のアライメントリーダーであるエヴァン・ヒュービンガー氏もコクソン氏の主張を支持した。

「ジェイコブはここにいる。我々は本当に正直に、AIが全人類を殺す可能性があると信じている！個人的には、今後10年でその割合は10％を超えると思う」とヒュービンガー氏は書いた。

トランプ政権はAIを制限するよう求めるハイテク指導者らの呼びかけを拒否した。ドナルド・トランプ大統領は月曜日、ソーシャル・トゥルースに関する一連の投稿を開始し、AIに対する懸念を「デマ」や「詐欺」だと言及した。

国家経済会議のケビン・ハセット長官は火曜日、CNBCに対し、AIに関する懸念に対処するには民間部門が「適切な場所」であると述べた。同氏は、政府は引き続き業界を監視しており、「企業が責任ある行動をとっているかどうかを確認するために、必要に応じて法執行機関を活用する」と述べた。

マスク氏は月曜日、自身の査読方法は完璧な解決策ではないかもしれないが、「問題を発見する確率は劇的に高くなる」と付け加えた。

スペースXは2月にマスク氏のxAI人工知能事業を買収し、8月には人工知能コード生成スタートアップのカーソル社の買収を600億ドルで完了した。統合された組織は、OpenAI、Anthropic、Google の競合製品と並行して、SpaceXAI の Grok モデルとツールを開発者にとってより適切なものにするために取り組んでいます。

マスク氏は、ライバルのAI研究所が競争していることを認めた スペースX 彼の提案を受け入れませんでした。アモデイ氏はエッセイの中で、AI研究所はセキュリティ慣行を検証する「組み込み評価者」からのサードパーティ技術評価を受け入れることができると示唆した。

トランプ大統領は、AI開発を加速させようとすれば、中国が技術開発で優位に立つことになると示唆した。アモデイ氏は週末も同様の懸念を表明し、それを「難しいジレンマ」と呼んだ。

マスク氏は業界の自主規制を主張しているが、同氏の会社はAIを管理する州法の阻止を求めている。たとえば、xAI は、AI トレーニング データ透明性法 (AB 2013) を否定しようとしてカリフォルニア州を訴え、州内でのいわゆるヌードアプリを禁止する法律をめぐってミネソタ州を訴えました。

スペースXの人工知能部門は、同社のGrok画像ジェネレーターが、児童への性的虐待や、同意していない本物の成人の写真やビデオに基づいた親密な画像を描いた、いわゆるディープフェイクポルノの作成と配布に使用された後、数え切れないほどの調査と訴訟に直面している。

AIのリスクと規制に関する全国的な議論のなか、スペースXの株価は火曜日に3.15％下落して取引を終えた。

ロイター通信が掲載した同氏の発言の英訳によると、中国外務省報道官は月曜日、人工知能企業による推進を「恐ろしい」減速だと述べた。

「私がここで言いたいのは、これは正しい方向への一歩であり、我々は迅速に実行すべきだということだ」とマスク氏は語った。 「それはおそらく中国も同意するだろうと思います。」

— CNBCのローラ・コロドニー氏がリポートに寄稿