アモデイのアンスロピックがAI機能の進歩を「減速」させる計画を提案
Anthropic CEO ダリオ・アモデイ エッセイを出版しました 土曜日、人工知能企業に対し、モデリング能力の高速化を求めたが、これは協調的な減速を求める研究者の声が高まる中、行われたものだ。 アモデイ氏は、「商業上の優位性やAI分野での米国のリーダーシップを犠牲にする」ことなく開発のペースを遅らせるのに役立つ3段階の計画を提案したが、一部の段階は他の段階よりも達成が容易である可能性があることを認めた。 Anthropic は歴史的な IPO になると広く期待されているものの、そのデビュー時期を正式に明らかにしていないが、積極的に準備を進めている。 アモデイ氏は、アンスロピックは計画の第一段階に「一方的に」取り組んでおり、第三者評価者に従業員レベルで同社にアクセスして安全慣行を検査し、事故を報告できるようにすると述べた。第 2 のステップでは、民主主義諸国の先進的な AI 企業が共通の安全基準を調整して設定することを奨励し、第 3 のステップでは、民主主義政府と権威主義政府の間の調整が求められます。 「スピードアップはモデルの学習や技術の進歩を止めることを意味するのではなく、企業がモデルとそれを検証するための第三者評価者を調整し、確保するのに十分な時間を確保することを意味すると言うのは公平だ」とアモデイ氏は書いた。 アモデイ氏のエッセイは、今週ある人類研究者が会社を辞めると発表し、ソーシャルメディアで大炎上を引き起こした後に発表された。 Anthropic の最大のライバル OpenAI で研究者としても働いていた Jacob Coxon 氏は、Anthropic と OpenAI が「我々の命を賭けている」という懸念から辞任したと述べた。同氏は、AIを構築する人々は「AIが10年代の終わりまでに私たち全員を殺す可能性があると絶対に信じている」と語った。 大げさではあるが、AI…