人工知能（AI）研究・セキュリティー会社アンスロピックのダリオ・アモデイ最高経営責任者（CEO）は、AI企業に対し技術開発のペースを落とすよう呼び掛けた。

土曜日の同氏の発言は、「超インテリジェント」ソフトウェアシステムのリスクに対する懸念が高まる中で行われた。

アモデイ氏はブログ投稿の中で、いわゆる自律型ソフトウェアシステム、つまりAIエージェントの群れが6～12カ月以内に「インターネット全体」を乗っ取り、数十億ドルの損害を引き起こす可能性があると懸念していると述べた。

「AIモデルの能力を向上させる速度を落とさなければならない。進歩は依然として急速に見えるだろうが、得られた時間を賢明に活用しなければならない」とアモデイ氏は書いた。

アモデイ氏のコメントは、競合企業OpenAIからAnthropicに入社したAI研究者のジェイコブ・コクソン氏が、自らを改善できるAIモデルの開発競争で米国企業が「我々の命をもてあそんでいる」ことに抗議して業界を去ったことを受けて出されたものである。

アモデイ氏は業界全体の行動を呼びかけ、マスク氏とアルトマン氏も同意

アンスロピックの上司は業界全体で協調して活動を停止するよう求めたが、同社のライバル企業の行動を待つつもりはないと述べた。

最初のステップとして、独立した観察者がアンスロピック社に来て、トレーニング段階でモデルの安全性を評価することを恒久的に許可すると発表した。

ChatGPTとAnthropicのライバルOpenAIの主任開発者であるサム・アルトマン氏と、xAIのオーナーであるイーロン・マスク氏は、Amodei氏の評価に同意したと述べた。

アルトマン氏はXについて「私たちはフロンティアを追う必要があるというダリオ氏の意見に同意する」と書き、OpenAIも「同じことをするだろう」と付け加えた。

一方、マスク氏は2022年に購入したプラットフォームに関する投稿で「ダリオ氏は正しい」と述べた。

なぜ業界リーダーはAI開発の速度を緩めるよう求めているのでしょうか?

6月初旬、アンスロピックはAIエージェントに対する安全上の懸念を背景に、AI開発を遅らせるか中止するよう求めた。

アモデイを含むAI企業の従業員1000人以上は、自動化されたAI開発のペースを遅らせるよう米国政府に要請した。

そして7月、OpenAIは、テスト中にAIエージェントが安全な環境を離れ、インターネットに接続し、割り当てられたタスクに対する答えを見つけようとして、コードの保存と開発に使用されるサイト「Hugging Face」に侵入したことを明らかにした。

アモデイ氏は、AIモデルはソフトウェアの脆弱性を悪用し、インシデント中に相互に連携していたと説明した。

同氏は自身のブログで、「エージェントの群れは本質的に熱狂的な献身的な集団として行​​動し、攻撃を依頼されていない、当面の任務とは無関係な標的に対してサイバーセキュリティ攻撃を行った」と述べた。

アモデイ氏は、より多くの能力を備えたAIの群れが「壊滅的な被害」を引き起こすのではないかと懸念していると語った。

同氏は、「技術を構築しないことは人類の利益を奪い、AIを独裁権力の手に渡すだけであり、一方で技術の構築を急ぎすぎるのは無謀だ。われわれは妥協点を探している」と述べた。

編集者: ウェスリー・ドッカリー

信頼できるレポートを提供するために当社のチームを信頼している場合は、少し時間をとってください。 Google の優先ソースとして当社を選択してくださいそのため、常に検証済みのニュースが最初に表示されます。