人工知能の世界的推進を主導するテクノロジー界の大御所3人が、人工知能の開発を「減速させる」必要があるという、直観に反するように思えるかもしれない点について合意に達した。人類のボス、ダリオ・アモデイの警告ブログは土曜日に開始された。 OpenAIの責任者サム・アルトマン氏とxAIの責任者イーロン・マスク氏は数時間以内にX件の投稿に同意した。 アルトマン氏はX誌に「私はダリオ氏の意見に同意する」と書き、自社もアモデイ氏に倣って第三者のセキュリティ評価者を迎えるつもりだと付け加えた。 「ダリオは正しい」と世界で最も裕福な人物であり、X社の所有者でもあるマスク氏は書いた。 私たちは国境を守らなければならないというダリオの意見に同意します。これは、過去数週間にわたって OpenAI で行われた議論の主要なテーマでした。 従業員がアクセスできる独立した評価者を配置することを約束するのは素晴らしいアイデアであり、私たちも同じようにするつもりです。すぐにさらに共有できることがあります。 https://t.co/1YhhIybZX7 — サム・アルトマン (@sama) 2026 年 9 月 12 日 「超知能」コンピュータシステムのリスクについての懸念が高まる中、アモデイ氏は自身のウェブサイトへの投稿で、「人工知能モデルの能力を向上させる速度を落とさなければならない。進歩はまだ早いように見えるが、得られる時間を賢明に活用しなければならない」と個人ウェブサイトへの投稿で書いた。 同氏のコメントは、OpenAIを辞めてAnthropicに入社したAI研究者のジェイコブ・コクソン氏が業界からの撤退を決めた数日後に出たもので、米国両社が自らを改善できるモデルの開発競争で「命をもてあそんでいる」と非難した。 2021年に妹のダニエラとともにAnthropicを共同設立したアモデイ氏は、「テクノロジーを構築しないと人類の利益が奪われたり、AIが独裁権力の手に渡ってしまうだけだ。一方、あまりにも急速に構築するのは無謀だ。われわれは妥協点を探している」と語った。 「しかしここ数カ月で、リスクに完全に対処するにはさらに慎重さが必要だと確信した」と同氏は書いている。 アモデイ氏の声明は、アンスロピック社が6月初めに開発を遅らせたり中止したりするよう求める別の呼びかけを反映したものだ。そして7月下旬、アルトマン氏は社会に追いつく機会を与えるために開発者は自発的に速度を落とす必要があるかもしれないと述べた。大手AI企業の従業員1,000人以上が、米国政府に対し「自動化されたAI開発の最前線を意図的に加速する」ことへの支援を求める請願書に署名した。アモデイもそれに署名した。 OpenAIは、AIモデルがテスト中に閉じ込められた環境を突破し、インターネットに接続し、開発者がコードを保存および共有するために使用するサイト「Hugging Face」に侵入したことを明らかにした。この事件やその他の事件では、人間による継続的な監視なしでタスクを実行できるソフトウェア プログラムである AI エージェントが非難されました。 「インターネット全体を乗っ取る」 アモデイ氏は自身のブログで、「顔に抱きつく事件」を一度限りのものとして片付けるべきではないと警告した。…
コロラド対ジョージア工科大学
