F人工知能が2030年までに人類を滅ぼす可能性があるという人類研究者らの度重なる警告に対する世間の混乱に直面して、AI企業のダリオ・アモデイ最高経営責任者（CEO）は先週末、公共の安全を確保するために技術の進歩を遅らせる提案を発表した。

まれに見る結束力の表れとして、米国最大の人工知能企業のトップたちは即座に同意した。

OpenAIのサム・アルトマン最高経営責任者（CEO）、グーグル・ディープマインドの責任者デミス・ハサビス氏、xAIオーナーのイーロン・マスク氏は全員、「フロンティアを加速しなければならない」と題した、AI開発を遅らせるアモデイの提案への支持を表明し、アルトマン氏は、セキュリティ慣行を検証するために外部の評価者を自社に統合するというアモデイの取り組みと一致すると述べた。

アルトマン氏は土曜日、Xに「国境を守る必要があるというダリオ氏の意見に同意する」と投稿し、「従業員がアクセスできる独立した評価者を置くことを約束するのは素晴らしいアイデアであり、我々も同じことをするつもりだ」と語った。

「ダリオの裁判は正しい方向を示している」とハサビス氏は語った。

マスク氏は「ダリオは正しい」とだけ書いた。

AI CEO の警告と約束は、AI がどのように規制されるのか、AI がどのようなリスクをもたらすのか、業界が技術進歩の熱狂的な競争を遅らせるのかどうかなど、多くの疑問を引き起こしています。議員やハイテク業界がAIに対する不安や不信感の高まりにどう対処するかを検討しているにもかかわらず、包括的なAI規制を阻む障害の多くは、先週の若い人類学者による終末論的な発言以前と同じままだ。

米国連邦政府は世界規模の AI 軍備競争に取り組んでいます。これまでの AI 法案は、資金豊富な企業による激しいロビー活動によって立ち行かなくなってきました。 AI スタートアップ企業は、今後の数兆ドル規模の IPO に先立って、より強力な新製品を発売するという大きなプレッシャーに直面しています。

アモデイのペース提案は、AI企業が政府の規制強化を回避し、業界内の権力の現状を維持しようとしていると主張する批評家や研究者から広く懐疑的な見方を招いている。

AnthropicとOpenAIはコメントの要請にすぐには応じなかった。

アモデイの提案は 3 つの主要な柱に焦点を当てています。まず、リスクを監視するために従業員レベルのアクセス権を与えられた外部評価者との連携です。第二に、AIの安全基準に関する民主主義国家間の合意。最後に、安全保障問題に関する中国のような独裁政府との世界的な連携。

アモデイ氏や業界関係者らは、モデルが高度になりすぎて自律性を獲得することについて最近業界が警告する以前から、過去にも同様の世界的な調整を求めてきた。人工知能業界、特にそのテクノロジーが人類の利益と一致するかどうかに焦点を当てている派閥も、その存続の脅威について長年警告してきました。

元下院議員でバラク・オバマ大統領の首席補佐官であるラーム・エマニュエル氏はツイートした、「CEOや業界全体が最後に規制を求めたのは一度もなかった。それがダリオ氏の手紙が非常に印象的な理由だ。それは私たちがヘッドライトを消したまま、濡れた舗道で暗く曲がりくねった道を運転していることを認めているのだ。」

AI企業は、自社製品の潜在的な害を伝えることに重点を置くかどうかに変動があるが、AIの終末的な影響を警告する場合もあれば、AIがユートピア的な繁栄をもたらすと約束する場合もある。たとえばOpenAIは、AIの長期的リスクの研究に特化した「スーパーアラインメント」チームを2024年に閉鎖し、今年初めにはOpenAIが人類にどのような利益をもたらすかを伝えることを目的とした別のチームを解散した。

AI企業は自社のテクノロジーの脅威と利点について大げさな主張をしてきた一方で、歴史的に自社のモデルがどのように機能するかについて透明性や監視をほとんど提供しておらず、有利な法律を制定するためのロビー活動に数百万ドルを費やしてきた。批評家らは、AI業界は規制するには強力かつ複雑で儲かる技術であるという主張の結果、AIが自らを統治することを許されてしまった、と言う。

AI Now Instituteの共同執行ディレクターであるサラ・マイヤーズ・ウェスト氏は、「人工知能の例外主義により、どの製品が安全に使用できると考えられるかについての基準を維持することが完全に失敗しました」と日曜日のXに投稿した。

批評家らはまた、アモデイの提案を、業界が独自のルールを設定しようとしている別の事例、この場合、より厳しい政府規制当局の監視に直面するのではなく、安全リスクを監視するために独自の評価者を選出しようとしていると見ている。

AI規制支持者のアレックス・ボアズ氏は、議会への立候補が失敗したことで、AI関連の政治活動委員会からのキャンペーン推進派と反対派の両方で2,400万ドルの支出が発生したが、AIロビーは規制を支持すると主張しながら、しばしば法律を弱体化させようとしていると警告した。

「AIの本当の規制を本当に望んでいる皆さん、自分たちのゲームに騙されないでください」とボアズ氏は日曜日のXに投稿した。

政治的スペクトルを超えてAIペース提案を批判する多くの人々は、業界の調整を可能にするために政府が何らかの免除または独占禁止法上の免除を与える可能性があるというアモデイの提案の提案に懸念を表明している。

トランプ大統領の元「AI皇帝」デービッド・サックス氏やバイデン政権時代の連邦取引委員会長官アルバロ・ベドヤ氏を含む元当局者らは、この提案は現在の業界リーダーに利益をもたらす規制上の取り締まりの試みに相当すると示唆した。

ベドヤ氏はXに「独占禁止法は、AI企業がAIが人々に害を及ぼさないように調整することを妨げるものではない」と投稿し、「独占禁止法だ」と付け加えた。 する 大手企業が資金を浪費し、十分な収益性を達成していないために、AI企業がより安価なライバルや新興企業の参入を阻止するために組織化することを絶対に阻止する必要がある。」

AIと連邦介入を巡る国際協調を求めるこの提案は、ドナルド・トランプ大統領と米国の方向転換を目指す同政権の誓約とも衝突する。

トランプ政権はAI開発を、技術的優位性をめぐる中国とのゼロサム競争であるとしばしば組み立ててきたが、政府の規制案に直面してAI業界自体もこの主張を推進してきた。 JD ヴァンス副大統領は昨年の講演で、AI の未来は「セキュリティに関して手を絞めただけでは勝ち取れない」と宣言した。

日曜日、トランプ大統領は中国との競争を引き合いに出し、記者団に対し「AIに勝った者が勝つ」と述べながら、AI開発を遅らせるよう求める声を再び拒否した。

トランプ大統領はアイルランド訪問中に記者団に対し、「ガードレールを設置することはできる。あれもこれもできる」と語った。 「でも、やってはいけないことを表に出したり、起こらないことを引き起こしたりする非常にネガティブな力がたくさんあると思います。」

マイク・ジョンソン下院議長も、議会がAIの安全規制に関して主導権を握ることはなく、その責任はAI企業の足元にあると述べた。