AIが「すべての人間を殺す」可能性は10%以上あると研究者が語る
人工知能研究者が火曜日、アンスロピック社とその主な競合企業であるオープンAI社の無責任な行為を非難して同社を辞め、この技術の急速なペースについてソーシャルメディア上で抗議の声が上がった。 両社で研究者として働いていたジェイコブ・コクソン氏はこう語る。 Xについてのメッセージ AnthropicとOpenAIが「私たちの命を賭けている」ため辞任したと述べた。同氏は、AIを構築している人々は「AIが10年代の終わりまでに私たち全員を殺す可能性があると絶対に信じている」と述べた。 コクソン氏は、「このテクノロジーの力を過小評価しないでください。これらは間もなく、すべてを破壊し、あらゆる業界に一夜にして革命を起こし、真の力とリソースを獲得できる並外れたシステムになるでしょう。」と書いています。 コクソン氏の投稿は7,000万回以上閲覧されており、AIは安全に開発・制御できるかどうかをめぐるシリコンバレーでの長期にわたる議論を反映している。 Anthropic と OpenAI は、ますます先進的なモデルのリリース中に潜在的な歴史的な初期提案に近づくため、多くの研究者が調整された減速を求めています。 OpenAI の編集長である Jakub Pachoki 氏は次のように述べています。 ブログ投稿 日曜日に、どのAI企業も「最高速度で責任を拡大し続けるのに十分な程度まで調整と監視に取り組んでいない」と警告した。 AI 業界では、調整とは、システムが人間の価値観や意図に従って動作するようにする AI 開発者の作業を指します。 パチョッキ氏は、「共通の安全柵が設置されるまでは自発的な減速が標準になることを期待しており、期待している」と語った。 「そして私は、AIの将来の開発に関する国際的な調整が世界中の政府にとって最優先事項になるべきだと信じています。」 火曜日のコクソン氏のメッセージは、懸念を抱いている業界研究者らの共感を呼んだ。 自己再帰的または、人間の介入なしにその後継を設計および開発できる AI システム。再帰的な自己認識はまだ可能ではありませんが、Anthropic や OpenAI などの企業は、人間がこれらのシステムの制御を失いやすくなると警告しています。…