Anthropic CEO ダリオ・アモデイ エッセイを出版しました 土曜日、人工知能企業に対し、モデリング能力の高速化を求めたが、これは協調的な減速を求める研究者の声が高まる中、行われたものだ。

アモデイ氏は、「商業上の優位性やAI分野での米国のリーダーシップを犠牲にする」ことなく開発のペースを遅らせるのに役立つ3段階の計画を提案したが、一部の段階は他の段階よりも達成が容易である可能性があることを認めた。 Anthropic は歴史的な IPO になると広く期待されているものの、そのデビュー時期を正式に明らかにしていないが、積極的に準備を進めている。

アモデイ氏は、アンスロピックは計画の第一段階に「一方的に」取り組んでおり、第三者評価者に従業員レベルで同社にアクセスして安全慣行を検査し、事故を報告できるようにすると述べた。第 2 のステップでは、民主主義諸国の先進的な AI 企業が共通の安全基準を調整して設定することを奨励し、第 3 のステップでは、民主主義政府と権威主義政府の間の調整が求められます。

「スピードアップはモデルの学習や技術の進歩を止めることを意味するのではなく、企業がモデルとそれを検証するための第三者評価者を調整し、確保するのに十分な時間を確保することを意味すると言うのは公平だ」とアモデイ氏は書いた。

アモデイ氏のエッセイは、今週ある人類研究者が会社を辞めると発表し、ソーシャルメディアで大炎上を引き起こした後に発表された。 Anthropic の最大のライバル OpenAI で研究者としても働いていた Jacob Coxon 氏は、Anthropic と OpenAI が「我々の命を賭けている」という懸念から辞任したと述べた。同氏は、AIを構築する人々は「AIが10年代の終わりまでに私たち全員を殺す可能性があると絶対に信じている」と語った。

大げさではあるが、AI が人類の絶滅やその他の壊滅的な出来事を引き起こす可能性についての懸念は、AI 研究界では新しいものではない。たとえば、2023 年には、OpenAI CEO の Sam Altman 氏や Anthropic CEO の Dario Amodei 氏などの著名な AI 研究者やリーダーが、 声明に署名した その報告書は、「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争などの他の社会規模のリスクと並んで、世界的な優先事項であるべきである」と述べている。

アモデイ氏は土曜日、AI開発の停止または減速は2023年から実施されるが、当時は「ほとんど意味がなかった」と述べた。同氏は、これらのモデルはまだ現実世界で動作するほど強力ではなく、「欺瞞、操作、詐欺、サイバー攻撃」の能力もまだないと述べた。

「私はAIが人間の生活の質を劇的に向上させることができると信じています。これらの利点を達成したいという私の願望は小さなものです」とアモデイ氏は書いた。 「しかし、その利点は、テクノロジーを正しく使用し、時間を有効に活用した場合にのみ得られます。正しく使用するには、並外れた慎重な注意を払う価値があります。」

時計： 人類AI研究者、同社は「我々の命を賭けている」と発言