AnthropicのCEOは業界の減速を望んでいる
長いエッセイの中で 土曜日の朝に発表されたアンスロピックのダリオ・アモデイ最高経営責任者(CEO)は、AI業界は意図的にAI開発のペースを遅らせる必要があると述べた。アモデイ氏は「フロンティアの開拓」と呼ぶ3点計画を提示したが、これは史上最大規模となる可能性のあるIPOに対する同社最高経営責任者からの驚くべきメッセージだった。 アモデイ氏がXに関するエッセイを共有した直後、OpenAIのCEOであるサム・アルトマン氏はライバルの提案を公に受け入れた。 「私たちはフロンティアを加速する必要があるというダリオ氏の意見に同意します。これは、OpenAIでここ数週間私たちが行ってきた議論の主要なテーマでした。」 このツイートは現在利用できません。積み下ろしも可能です。 アモデイ氏は自身のウェブサイトで、最近の2つの動向について自身の主張を概説しており、これらのことから業界にはさらなる警戒が必要だと確信したと述べている。 1 つ目は、夏以降、次世代 AI の構築に使用されるモデルによって促進された AI 機能の加速です。これは再帰的自己改善と呼ばれる現象です。 2 番目のより重大な懸念は、不正な AI エージェントの群れが金庫から脱出し、第三者を攻撃した OpenAI-Hugging Face 事件です。 このため、Amodei は修正を提案したいと考えていますが、モデルの学習をやめたくないことは明らかです。アモデイの3点計画は以下の通り。 Anthropic は、銀行規制当局が金融会社と関与する場合があるのと同じように、外部の評価者 (METR セキュリティ グループなど) に継続的に、また従業員に自社の業務を精査するためのアクセスを一方的に許可しています。 民主主義国家における AI 企業は、共通の安全基準について合意する必要があります。…