「AIを一時停止」：米国上院議員がトランプ氏、習氏を人間的と評価、OpenAI CEOが減速を開始


バーニー・サンダース米上院議員は日曜日、ダリオ・アモデイ氏、サム・アルトマン氏、イーロン・マスク氏によるAI開発の減速を求める呼びかけは「始まり」だと述べ、ドナルド・トランプ米大統領と中国の習近平国家主席に対し、来る首脳会談で人工知能を阻止する条約を交渉するよう求めた。

独立系リーダーのこの発言は、Anthropic CEOのDario Amodei氏、OpenAI CEOのSam Altman氏、xAI CEOのElon Musk氏という3人のテクノロジー先駆者が、AI開発を「加速する」という異例の呼びかけに同意した翌日に行われた。

サンダース氏はXへの投稿で、「ダリオ・アモデイ氏、イーロン・マスク氏、サム・アルトマン氏は現在、AIの発展を遅らせ『国境を越える』必要があることに同意している。これは始まりだが、それだけでは十分ではない」と述べた。

AIの開発を遅らせるよう求める声は、アモデイ氏がブログでAIのリスクについて書き、「国境を越える」活動を開始した後に始まった。

マスク氏とアルトマン氏は、Xに関する別々の投稿で見解に同意した。

超知能人工知能を禁止する法案を提出したサンダース氏は、同氏の同意に言及し、「崖に向かって走っているときは、ただアクセルを緩めるだけではなく、ブレーキを踏むのだ」と述べた。

同氏は「人類の未来が危機に瀕している」として、高度なAI開発の一時停止を改めて求めた。

「どの人間よりも賢く、私たちの制御の外で独立して動作できるAIの心」と彼は書いた。

同上院議員はさらにトランプ大統領と習に対し、今後開催されるAIサミットで同じ方針に沿って条約を交渉するよう促した。

サンダース氏は「次回のAIサミットでは、トランプ大統領と習主席は手遅れになる前にAIを阻止し、超知能を禁止する条約を交渉しなければならない」と述べた。

米国上院議員は今月初め、超インテリジェントAIの永久禁止を目指す新たな法案を提出した。この法案はまだ全文が公表されていないが、人間の制御外で独立して動作できるAIシステムの開発を阻止することを目的としている。

AIの上司が言ったこと

ダリオ・アモデイ氏は今週初め、個人ブログへの投稿でAIのリスクを指摘した。

「AIはリスクをもたらしますが、AIは非常に強力なテクノロジーであるため、これらのリスクは深刻です。私もそれらについて詳しく書きました。それらには、AIシステムの制御を失うリスク、サイバー攻撃やバイオテロへのAIの悪用、深刻な経済混乱が含まれます。商業的インセンティブに刺激された底辺への競争は、これらのリスクをより深刻にする可能性があります。」と彼は書いた。

同氏は、AIのリスクに対処するにはより慎重さが必要であり、予防だけに投資しても何も効果がないことをここ数カ月で認識したと述べた。

「AIモデルの能力を向上させる速度を落とさなければならない。進歩は依然として急速に見えるだろうが、得られた時間を賢明に活用しなければならない」と同氏は書いている。

OpenAI の CEO は、自身の意見に沿って、ここ数週間、社内で AI の成長率が議論のテーマになっていると述べました。 「従業員がアクセスできる独立した評価者を置くことを約束するのは素晴らしいアイデアであり、私たちも同じようにするつもりです。」

xAIを運営し、長年にわたって人工知能を擁護してきたイーロン・マスク氏は、「ダリオ氏は正しい」と書いた。




Source link