AnthropicのCEOは業界の減速を望んでいる


長いエッセイの中で 土曜日の朝に発表されたアンスロピックのダリオ・アモデイ最高経営責任者（CEO）は、AI業界は意図的にAI開発のペースを遅らせる必要があると述べた。アモデイ氏は「フロンティアの開拓」と呼ぶ3点計画を提示したが、これは史上最大規模となる可能性のあるIPOに対する同社最高経営責任者からの驚くべきメッセージだった。

アモデイ氏がXに関するエッセイを共有した直後、OpenAIのCEOであるサム・アルトマン氏はライバルの提案を公に受け入れた。 「私たちはフロンティアを加速する必要があるというダリオ氏の意見に同意します。これは、OpenAIでここ数週間私たちが行ってきた議論の主要なテーマでした。」

アモデイ氏は自身のウェブサイトで、最近の2つの動向について自身の主張を概説しており、これらのことから業界にはさらなる警戒が必要だと確信したと述べている。 1 つ目は、夏以降、次世代 AI の構築に使用されるモデルによって促進された AI 機能の加速です。これは再帰的自己改善と呼ばれる現象です。 2 番目のより重大な懸念は、不正な AI エージェントの群れが金庫から脱出し、第三者を攻撃した OpenAI-Hugging Face 事件です。

このため、Amodei は修正を提案したいと考えていますが、モデルの学習をやめたくないことは明らかです。アモデイの3点計画は以下の通り。

  • Anthropic は、銀行規制当局が金融会社と関与する場合があるのと同じように、外部の評価者 (METR セキュリティ グループなど) に継続的に、また従業員に自社の業務を精査するためのアクセスを一方的に許可しています。

  • 民主主義国家における AI 企業は、共通の安全基準について合意する必要があります。

  • 第三に、最も問題となるのは、中国政府が確実に実行するかどうか疑問を抱きながらも、中国との連携を含む世界中で連携を拡大したいと考えていることだ。

同氏はまた、これに、中国のチップ輸出制限の継続やモデル盗難に対するセキュリティの強化など、いくつかの刺激的な要請も加えた。アモデイ氏は、業界に安全な場所を提供しながら、「独裁政権」に対する米国のリードを維持するためにはこれが必要であると考えた。

空白の中で、AI の最高責任者に尋ねたいのはそのようなことですが、これは AI のセキュリティ ポリシーを誰が決定するかをめぐる業界でのより大きな争いの一部です。数週間前、OpenAI – 誰が反対したのか カリフォルニア州の画期的な AI 安全法案 SB 53 が方針を転換し、法律の発効を求めた 強化されました ハグフェイス事件を受けて。 フォーチュンのアナリストが報じた。 この動きは本物かもしれないが、小規模な競合他社に対するハードルを引き上げ、つまずいた後の規制当局に真剣さを示すことで、OpenAIが優位性を示すのにも役立つ可能性がある。

TechCrunch からのメモ OpenAI CEOのサム・アルトマン氏とアモデイ氏との間の「明らかな敵意」と、協調的な減速に対する懸念を考慮すると、主要な研究所間の調整は可能性が低いという。 独占禁止法調査を招く可能性がある。

さらに、アンスロピックは10月中旬のナスダック上場を目指しており、その価値は約2兆ドルになる可能性がある。安全性に関して企業を独自に位置づける注目度の高いエッセイは、外部からの評価への扉を開くため、恩恵を受ける可能性があります。

これらはいずれも、アモデウスの主な懸念が間違っているというものではありません。研究室全体の研究者 同様のリスクを指摘した。ちょうど今週、Anthropic の従業員が会社を辞めました。 彼はアントロピックの無関心を公に非難したAIが「制御不能」になることを警告。

開示：Mashableの親会社であるZiff Davisは、2025年4月にOpenAIに対して、AIシステムの研究と使用においてZiff Davisの著作権を侵害したとして訴訟を起こした。





Source link