コロラド対ジョージア工科大学
- OpenAI - フォージ グローバル
- アルファベットクラスA
- October 10, 2019
- 0 Comments
マスク氏、景気減速を求める声が高まる中、トップAI研究所と中国企業に互いのモデルをテストするよう促す
2019年10月10日、カリフォルニア州ホーソーンのSpaceX本社で、再利用可能な宇宙船クルードラゴンの新たな開発を発表する記者会見でメディアに演説するSpaceX創設者のイーロン・マスク氏。 フィリップ・パチェコAFP |ゲッティイメージズ 一部の業界リーダーが人工知能技術の危険性を警告し、政府によるさらなる規制を求める中、イーロン・マスク氏は大手人工知能企業に対し、一般公開前に協力して互いのモデルをテストするよう呼び掛けた。 月曜日にロサンゼルスで開催されたオールインサミットで講演した。 スペースX CEOはSpaceXのxAI事業について、 OpenAI、 人間的な、 グーグル、 ゴール そして「中国の大手企業３～４社」は、ライバル企業が自社モデルの安全性を評価するために「利用をテスト」できるようにすべきだ。 「つまり、自分自身のタスクを採点するのではなく、少なくとも競合他社にあなたのタスクを採点してもらい、懸念がある場合は警告を発することになります」とマスク氏は述べた。 Anthropic、OpenAI、その他の AI 企業のリーダーたちが週末をかけてテクノロジーの害について警告し、モデル開発のペースを緩めるよう呼びかけたことで、AI をどのように規制するかをめぐる議論が激化した。マスク氏とOpenAI CEOのサム・アルトマン氏は、Anthropic CEOのダリオ・アモデイ氏の減速提案を支持したテクノロジーリーダーの一人であり、まれに見る団結を示した。 AIのトップリーダーらによるこの動きは、アンスロピック社の職を辞すると発表したジェイコブ・コクソン氏の投稿をきっかけに、先週AI研究者らが人類の運命について警鐘を鳴らし、人類の運命に対する広範な警告の中で行われた。 OpenAIにも取り組んだコクソン氏は、大手AI研究所が「我々の生活をもてあそんでいる」と書いた。研究者らはすぐに意見を取り入れ、アンスロピック社のアライメントリーダーであるエヴァン・ヒュービンガー氏もコクソン氏の主張を支持した。 「ジェイコブはここにいる。我々は本当に正直に、AIが全人類を殺す可能性があると信じている！個人的には、今後10年でその割合は10％を超えると思う」とヒュービンガー氏は書いた。 トランプ政権はAIを制限するよう求めるハイテク指導者らの呼びかけを拒否した。ドナルド・トランプ大統領は月曜日、ソーシャル・トゥルースに関する一連の投稿を開始し、AIに対する懸念を「デマ」や「詐欺」だと言及した。 国家経済会議のケビン・ハセット長官は火曜日、CNBCに対し、AIに関する懸念に対処するには民間部門が「適切な場所」であると述べた。同氏は、政府は引き続き業界を監視しており、「企業が責任ある行動をとっているかどうかを確認するために、必要に応じて法執行機関を活用する」と述べた。 マスク氏は月曜日、自身の査読方法は完璧な解決策ではないかもしれないが、「問題を発見する確率は劇的に高くなる」と付け加えた。 スペースXは2月にマスク氏のxAI人工知能事業を買収し、8月には人工知能コード生成スタートアップのカーソル社の買収を600億ドルで完了した。統合された組織は、OpenAI、Anthropic、Google の競合製品と並行して、SpaceXAI の Grok モデルとツールを開発者にとってより適切なものにするために取り組んでいます。…
