アモデイ氏はエッセイ「フロンティアを加速しなければならない」の中で、「次世代のAIを構築する能力」を含め、AIが「大幅に速く」進歩していると指摘し、ライバルのOpenAIが関与した事件を引用して明らかにした。 エージェントがサイバーセキュリティ攻撃を実行した、 外部の 7月には攻撃する必要がなかった標的を攻撃した。

アモデイ氏は、OpenAIのエージェントは「基本的に熱狂的に忠実な集団として行​​動している」と述べた。 OpenAIは、これにより一部の高度なAIモデルやツールの学習が遅くなるだろうと述べている。

アモデイ氏は「利益を享受しながら安全性を確保することを目的とした、バランスのとれたペースでAIを構築する」よう求めた。

これは、「モデルの研究や技術の進歩を停止するが、企業がモデルの調和と保護に十分な時間を確保し、第三者の評価者にこれを検証させることを保証する」という意味ではない。

同氏はアントロピックに対しこれを「一方的に」約束し、政府に対し「他の国境企業に遵守を要求する」よう求めた。

アモデイ氏は、規制がAIのペースに追いつかない可能性があることを認識していると述べ、そのためAI企業に対し、規制と並行して「基準を設定するために自発的に協力する」よう呼び掛けた。

Anthropic の CEO は、景気減速が業界に及ぼす影響や、世界有数の開発会社、特に中国との競争について議論を続けました。

アモデイ氏は「景気減速により、モデルの性能が臨界レベルに達するまであと１～２年でも猶予が得られ、その時間を進歩に充てることができれば、大きな間違いを犯すリスクを軽減できると信じている」と述べた。

これは「米国の商業的優位性やAI分野でのリーダーシップを犠牲にすることなく」調整された方法で行われなければならない。同氏は、中国の前進を阻止するためには、いかなる減速も抑制する必要があると述べた。

同氏は米国政府に対し、米国企業が中国にAIチップを販売したり、独裁国家と技術を共有したりすることを阻止する措置を講じるよう求めた。

アモデイ氏のメッセージは多くの反応を引き起こした。

AIプラットフォームHugging Faceの最高経営責任者（CEO）であるClement Delange氏は、Open Alignment Initiativeと呼ばれる新しいプロジェクトを立ち上げていると述べ、Amodei氏が解決策の一部となり得ると示唆した「組み込み評価者」の一員になりたいと付け加えた。

Huging Face は今年初めに OpenAI エージェントによってハッキングされ、AI セキュリティに関する抗議を引き起こしました。

「AIの透明性を高めて、AIをより安全にしましょう。」デランはXについて書いた。

イーロン・マスクも「ダリオは正しい」と書いて支持を表明した。

SpaceXAIの物議を醸しているGrokチャットボットを開発しているマスク氏は、かつてAnthropic社を「悪」と呼んでいたが、5月にAnthropic社にコンピューティング能力を売却する150億ドルの契約を結んだ後、態度を変えた。

しかし、一部の観察者は、アモデイ氏の投稿はセキュリティに関するものではなく、AI技術に対する管理の強化に関するものであると示唆した。

「ダリオ氏はオープンソースを止め、巨大な技術力と経済力をAnthropicに集中させることを主張している」と投資家でAll-Inテクノロジーポッドキャストの共同司会者であるチャマス・パリハピティヤ氏は書いている。

AI開発を遅らせたり、停止したりするという考えは、シリコンバレーの一部の地域で長い間軽蔑されており、主要なAI開発者が自社の技術をマーケティング戦略として宣伝していると批判者が非難している。

報道によると、AnthropicとOpenAIはいずれも記録を更新する可能性のある新規株式公開に向けて準備を進めているという。