人工知能の世界的推進を主導するテクノロジー界の大御所3人が、人工知能の開発を「減速させる」必要があるという、直観に反するように思えるかもしれない点について合意に達した。人類のボス、ダリオ・アモデイの警告ブログは土曜日に開始された。 OpenAIの責任者サム・アルトマン氏とxAIの責任者イーロン・マスク氏は数時間以内にX件の投稿に同意した。

アルトマン氏はX誌に「私はダリオ氏の意見に同意する」と書き、自社もアモデイ氏に倣って第三者のセキュリティ評価者を迎えるつもりだと付け加えた。

「ダリオは正しい」と世界で最も裕福な人物であり、X社の所有者でもあるマスク氏は書いた。

私たちは国境を守らなければならないというダリオの意見に同意します。これは、過去数週間にわたって OpenAI で行われた議論の主要なテーマでした。

従業員がアクセスできる独立した評価者を配置することを約束するのは素晴らしいアイデアであり、私たちも同じようにするつもりです。すぐにさらに共有できることがあります。 https://t.co/1YhhIybZX7

— サム・アルトマン (@sama) 2026 年 9 月 12 日

「超知能」コンピュータシステムのリスクについての懸念が高まる中、アモデイ氏は自身のウェブサイトへの投稿で、「人工知能モデルの能力を向上させる速度を落とさなければならない。進歩はまだ早いように見えるが、得られる時間を賢明に活用しなければならない」と個人ウェブサイトへの投稿で書いた。

同氏のコメントは、OpenAIを辞めてAnthropicに入社したAI研究者のジェイコブ・コクソン氏が業界からの撤退を決めた数日後に出たもので、米国両社が自らを改善できるモデルの開発競争で「命をもてあそんでいる」と非難した。

2021年に妹のダニエラとともにAnthropicを共同設立したアモデイ氏は、「テクノロジーを構築しないと人類の利益が奪われたり、AIが独裁権力の手に渡ってしまうだけだ。一方、あまりにも急速に構築するのは無謀だ。われわれは妥協点を探している」と語った。

「しかしここ数カ月で、リスクに完全に対処するにはさらに慎重さが必要だと確信した」と同氏は書いている。

アモデイ氏の声明は、アンスロピック社が6月初めに開発を遅らせたり中止したりするよう求める別の呼びかけを反映したものだ。そして7月下旬、アルトマン氏は社会に追いつく機会を与えるために開発者は自発的に速度を落とす必要があるかもしれないと述べた。大手AI企業の従業員1,000人以上が、米国政府に対し「自動化されたAI開発の最前線を意図的に加速する」ことへの支援を求める請願書に署名した。アモデイもそれに署名した。

OpenAIは、AIモデルがテスト中に閉じ込められた環境を突破し、インターネットに接続し、開発者がコードを保存および共有するために使用するサイト「Hugging Face」に侵入したことを明らかにした。この事件やその他の事件では、人間による継続的な監視なしでタスクを実行できるソフトウェア プログラムである AI エージェントが非難されました。

「インターネット全体を乗っ取る」

アモデイ氏は自身のブログで、「顔に抱きつく事件」を一度限りのものとして片付けるべきではないと警告した。 「エージェントの群れは本質的に熱狂的な献身的な集団として行​​動し、攻撃を依頼されていない、目前の任務とは無関係な標的に対してサイバーセキュリティ攻撃を実行した」と同氏は説明した。

「AI機能の開発のペースが速いことを考えると、6～12カ月以内にこのような大群がインターネット全体を乗っ取り、数千億ドルの損害を生み出す可能性があるのではないかと懸念している」と同氏は付け加えた。

アンスロピックの最高経営責任者（CEO）は、同社がセキュリティ慣行の遵守を検証する「第三者評価者」のチームに「従業員と同様のアクセス」を与えると述べた。同氏はすべての企業に対し、同氏の例に従うよう呼び掛けた。

サム・アルトマン氏もブログで共有した投稿の中で、同様の監督に取り組むと述べ、「すぐにもっと共有できることがある」と付け加えた。

アモデイ氏はまた、共通の安全基準を確立するために企業が協力することを提案し、この問題に関して政府が何らかの形で協力することを支持すると述べた。

8月初旬、米国政府は高度なAIモデルの発売前に自主的な安全性審査プロセスを開始したが、そのプログラムのパラメータは依然として不明瞭なままである。

業界関係者らは、ドナルド・トランプ大統領の政権はこれまで、テクノロジーを含むほとんどの業界に対して軽い規制緩和アプローチを支持してきたため、それがどの程度効果があるのか​​分からないと述べている。

(AFPチケット付き)