ダリオ・アモデイ – コロラド対ジョージア工科大学

「AIを一時停止」：米国上院議員がトランプ氏、習氏を人間的と評価、OpenAI CEOが減速を開始

バーニー・サンダース米上院議員は日曜日、ダリオ・アモデイ氏、サム・アルトマン氏、イーロン・マスク氏によるAI開発の減速を求める呼びかけは「始まり」だと述べ、ドナルド・トランプ米大統領と中国の習近平国家主席に対し、来る首脳会談で人工知能を阻止する条約を交渉するよう求めた。独立系リーダーのこの発言は、Anthropic CEOのDario Amodei氏、OpenAI CEOのSam Altman氏、xAI CEOのElon Musk氏という3人のテクノロジー先駆者が、AI開発を「加速する」という異例の呼びかけに同意した翌日に行われた。サンダース氏はXへの投稿で、「ダリオ・アモデイ氏、イーロン・マスク氏、サム・アルトマン氏は現在、AIの発展を遅らせ『国境を越える』必要があることに同意している。これは始まりだが、それだけでは十分ではない」と述べた。ダリオ・アモデイ氏、イーロン・マスク氏、サム・アルトマン氏は現在、AIの開発を遅らせて「国境を越えるべき」という点で同意している。それは始まりですが、それだけでは十分ではありません。崖に向かって走っているとき、ただアクセルを緩めるだけではありません。ブレーキを踏んでください。いつかの未来は… — バーニー・サンダース上院議員 (@SenSanders) 2026 年 9 月 12 日 AIの開発を遅らせるよう求める声は、アモデイ氏がブログでAIのリスクについて書き、「国境を越える」活動を開始した後に始まった。マスク氏とアルトマン氏は、Xに関する別々の投稿で見解に同意した。超知能人工知能を禁止する法案を提出したサンダース氏は、同氏の同意に言及し、「崖に向かって走っているときは、ただアクセルを緩めるだけではなく、ブレーキを踏むのだ」と述べた。同氏は「人類の未来が危機に瀕している」として、高度なAI開発の一時停止を改めて求めた。「どの人間よりも賢く、私たちの制御の外で独立して動作できるAIの心」と彼は書いた。同上院議員はさらにトランプ大統領と習に対し、今後開催されるAIサミットで同じ方針に沿って条約を交渉するよう促した。サンダース氏は「次回のAIサミットでは、トランプ大統領と習主席は手遅れになる前にAIを阻止し、超知能を禁止する条約を交渉しなければならない」と述べた。米国上院議員は今月初め、超インテリジェントAIの永久禁止を目指す新たな法案を提出した。この法案はまだ全文が公表されていないが、人間の制御外で独立して動作できるAIシステムの開発を阻止することを目的としている。…

Künstliche Intelligenz: Führende Tech-Unternehmer fordern langmere Entwicklung von KI

大手 KI 企業 3 社の CEO は、高いセキュリティリスクと人工知能開発の遅れに直面しています。ダリオ・アモデイ、シェフ・デ・コンツェルン人間的なインターネットの安全性を保証するために、KI-Agenten と Rief zu einer Gerigeren Geschwindigkeit bei der Entwicklung auf を警告します。「KI-Modellen besserningen の学部は、テンポ・ドロッセルンの役割を果たしている」と、アモデイ氏は自身のホームページに掲載されたエッセイの中でこう書いている。 Der Fortschritt würde sich dann immer noch…

Anthropic CEO のダリオ・アモデイ氏は AI 開発の一時停止を呼びかけています。

AI開発者たちがAIが人類全体を滅ぼす可能性があると暴言を吐いてからさらに1週間が経ち、Anthropic CEOのダリオ・アモデイ氏の主張は一理ある。「少しペースを落としましょう」というものだ。 Aのアモデイ土曜日のブログ記事同氏は、AIが「人類を高揚させ、高揚させてきた技術的驚異の長い歴史の最新のもの」になるだろうと楽観的な見方をしているが、AI詐欺、犯罪やテロへの利用、経済的混乱などのリスクがあるため、研究者は「限界を押し広げる」必要があると述べた。アモデイ氏は、「過去数カ月にわたり、あらゆるリスクに対処するには、リスク予防への投資だけでなく、リスク予防に十分な時間を確保できる能力開発のペースについても、より一層の注意が必要であると確信した」と述べた。同氏は「AIモデルの機能を向上させるペースを落とす必要がある」と述べた。「進歩はまだ早いようですが、限られた時間を賢く使う必要があります。」アモデイの提案した計画は 3 つの段階から構成されており、どの段階もそれ自体としては遅すぎるものではありません。同氏はAI企業に対し、内部の第三者による評価を許可すること、安全基準に関して相互および各国政府と調整すること、そして米国政府に対してはAIセキュリティに関する世界的な調整（中国やロシアなどの「権威主義政府」との調整を含む）を求めることを求めている。こうした措置自体はAI開発のペースを遅らせるものではないため、アモデイ氏は「課題を増やすために」さまざまな取引の可能性を示唆した。これらには、生物兵器などの明らかに悪意のあるAIの使用を禁止する限定的な合意、「深刻な脅威」を与える前にモデルをテストする広範な国際合意、再帰的な改善のための「速度制限」、政府間のAI開発の「完全な凍結または『一時停止』」が含まれる。アモデウスは執筆中、後者の選択肢を支持したが、実際にはその可能性は低いと示唆した。彼にとってはとても都合が良いですよね？ Anthropic の CEO は、今夏の OpenAI ボットの群れが特別な予防策から競合他社の Hugging Face を攻撃した事件を挙げた。アントロピック自身がこう言っていました許可するだろう第三者評価者らは今週報告書が発表された後、同社のモデルが他社をハッキングしたり、少なくとも4回脆弱性を悪用したりしていたことを認めた。アモデウスの手紙はこう続く辞任人類学研究者のジェイコブ・コクソン氏はソーシャルメディアへの投稿で、AI企業は「自己強化型知能を目指して真っ直ぐ走っている」と述べた。同氏は、業界のリーダーらは「10年末までに我々全員が死亡する可能性があると本気で信じている」と付け加えた。これにより、今週 AI ドメリズムはある種の最高潮に達し、次のような叫び声が上がりました。開発者、科学者、政治家…

Anthropic CEOのダリオ・アモデイ氏、AIモデルに警告「スピードを緩めなければならない」

アンスロピックのダリオ・アモデイ最高経営責任者（CEO）は土曜日、「超知能」コンピューターシステムのリスクに対する懸念のなか、人工知能（AI）企業に対し、新モデルの開発ペースを落とすよう促した。ダリオ・アモデイ氏はAIがもたらすリスクに完全に対処するために「さらなる慎重さ」を求めた（AFP通信）同氏は個人ウェブサイトへの投稿で、「AIモデルの能力を向上させる速度を落とさなければならない。進歩は依然として早いように見えるが、得られた時間を賢明に活用しなければならない」と述べた。アモデイ氏は人工知能の利点を強調し、人工知能によって「今後5～10年でほとんどの主要な病気」が治癒し、「民主主義と自由の復活」を示しながら経済成長を大幅に加速できる可能性があると述べた。しかし、アンスロピックのCEOは、AIもそれ以前の多くのテクノロジーと同様に「深刻な」リスクをもたらすと述べた。これらには、システムの制御不能、サイバー攻撃やバイオテロへのAIの悪用、深刻な経済混乱などが含まれると同氏は述べた。こちらもお読みください |生物兵器の研究、選挙介入、イエメンに拠点を置くミサイル部隊：クロードの数々の悪用の試み「AI の構築を急ぎすぎるのは無謀です」: アモデイアモデイ氏は投稿の中で、AIを開発しなければ人類からその恩恵を奪うことになるが、「AIの構築が早すぎるのは無謀だ」と述べた。同氏は、AIによってもたらされるリスクに完全に対処するために「さらなる慎重さ」を求め、それには「リスク予防に投資するだけでなく、リスク予防が持続できるよう能力向上のペースを加速する」ことが含まれるだろう。アモデイ氏は、このペースがモデルのトレーニングや技術の進歩を止めることを意味するものではないと明言しながらも、企業は時間をかけてモデルを調整し、保護するために第三者の評価者がプロセスを検証する必要があると述べた。アモデイ氏は、「減速によってモデルの性能が臨界レベルに達するまでに1～2年余分に時間を稼ぎ、その時間を調整を進めるために使えば、何かひどい問題が起きるリスクを大幅に軽減できると思う」と述べた。こちらもお読みください |アメリカの偉大な AI の暴走が始まったアモデイは「再帰的な自己克服」について警告する。 OpenAIによる顔ハグ事件について言及アモデイ氏は、AIの開発はここ数カ月で急激に加速しており、その一因として、次世代の構築を支援するAIの能力が高まっていると述べた。しかし同氏は、「再帰的自己強化」については、AIシステムを理解し制御する人類の能力を超える可能性があると警告した。 Anthropic の CEO はさらに、OpenAI-Hugging Face (OAI-HF) 事件について懸念を表明しました。この中で、OpenAI は内部で AI…