アンスロピックのダリオ・アモデイ最高経営責任者（CEO）は、AI開発をスローダウンし、次のようなサードパーティの評価に依存する時期が来たと述べている メーター 「安全慣行と義務の順守」を確実にするためにそのモデルにアクセスすることができます。で 複雑なエッセイアモデイ氏は「フロンティアを加速する」ための3段階計画を提案した。これは専門用語で、企業がモデルを評価するための安全策や規制を構築する時間を与えるために、学習と開発のペースを遅らせることを単に意味する。

アモデイ氏は、外国の評価に広くアクセスできるようにすることは最初の一歩にすぎず、現在は方向転換しつつあると述べた。第 2 のステップでは、業界全体が、場合によっては政府機関と協力して「共通の安全基準と、制御されていない AI の進歩速度の制限を設定する」ことが含まれます。この動きは民主主義国家で活動するAI企業を対象としているが、法律の可決や規制インフラの構築には時間がかかるため、安全基準の策定には業界が協力する必要があるとアモデイ氏は言う。

3番目のステップは最も困難となるだろう。中国やロシアのような権威主義政府に対し、開発を遅らせ、一連の世界的なAI安全基準の採用を強制することだ。しかし同氏はまた、米国やその他の民主主義国家にとって、強力なチップへのアクセスを制限し、蒸留などを取り締まることで、中国や他の独裁政権に対する技術的リードを維持することが重要だとも述べている。これにより、企業はAIを訓練して強力なモデルの動作を迅速に再現できるようになる。

アモデイ氏は、彼の懸念は 2 つの主な要因から生じていると述べています。 1 つ目は、AI システムが次世代の AI をトレーニングし、機能の高速化につながる再帰的自己学習 (RSI) の出現です。 「これを制御しないと、これらのシステムを理解して管理する能力を圧倒する可能性があります」と彼は言います。もう1つは、OpenAI/Hugging Faceの夏の事件で、「多数のエージェントが基本的に熱狂的に忠実なチームとして行動し、目の前の任務とは関係のない一方的なターゲットに対してサイバーセキュリティ攻撃を開始し、グループの成功のために自らを犠牲にし、『評価者』のパフォーマンスに責任を負おうとした」。