英国の議員らはバーナムに対し、身の毛もよだつ警告を受けて超インテリジェントAIの禁止を支持するよう要請
70人以上の国会議員や議員らは、人工超知能（ASI）の開発禁止を支持し、人類を死に至らしめる可能性が10％あるという専門家からの警告が1週間続いたことを受けて、この技術を阻止する国際運動を主導するようアンディ・バーナム氏に要請した。 15人の元政府閣僚、元公共サービス部長のロビン・バトラー、ジョン・マクドネルを含む労働党の幹部議員、保守党、自由民主党、スコットランド国民党の有力議員らが首相に書簡を送った。彼らは、火曜日に下院に提出された、ほとんどの分野で人間の能力を超えるまだ存在しないAIであるASIを禁止する法案の背後に政府の重みを投げかけるよう強く求めた。 彼らは、現在および元の AI 専門家の発言を受けて、ダウニング街へのキャンペーンをエスカレートさせました。 Anthropic社の上級従業員であるEvan Hubinger氏は、このテクノロジーが人類を滅ぼす可能性は10%以上あると信じていると述べ、以前OpenAIに携わっていた28歳のAnthropic研究者Jacob Coxon氏は、「どちらの会社も私たちの人種に対して責任を持って行動していない」という警告を発し、火曜日に辞任した。覇権 この法案の推進者である労働党議員アレックス・ソーベル氏は、同氏と他の署名者（子供向けテレビ司会者のフロエラ・ベンジャミン氏から元保守党環境大臣ザック・ゴールドスミス氏、元北アイルランド首相アーリーン・フォスター氏まで）は、バーナム氏が「超知能AIの作成が不可能な明確な枠組み」を推進することを望んでいると述べた。同氏はさらに、「AI企業は、無制限にエージェントを開発することを明らかにしている。彼らは、人類滅亡の重大なリスクがあることを公然と認めながら、超知能の開発に努めている」と付け加えた。 この法案は、バーニー・サンダース氏が今週ワシントンDCで推進したASIを禁止する法案を反映しており、サンダース氏は「速度を緩めないとは言わないのは愚か者だ」と述べた。この団体は、ノーベル賞受賞者の核拡散活動家ベアトリス・フィン氏とバークレーAI上級教授のスチュアート・ラッセル氏、そして億万長者のSkype共同創設者で自称「反絶滅主義者」のジャーン・タリン氏が資金提供する大西洋横断ロビー団体コントロールAIの支援を受けている。 英国では ASI が禁止されていますが、米国では禁止されていません。フロンティアモデルが作成されている米国や中国では、ほとんど影響を与えない危険があります。しかし、議員らの法案は国際協定への道を開くことを目的としている。彼らはバーナムに対し、来年の英国のG20議長国を利用して「この国家的および国際的な安全保障上の脅威に対処する意欲のある人々の連合」を構築するよう求めている。 政府報道官は、「法案で提案されている措置が正しいアプローチであるとは考えていないが、AIに関連する最も重大な国家安全保障上のリスクに対処するために、将来的に追加の対象を絞った介入が必要かどうかを検討している」と述べた。 また、ASIは依然として理論上のものであり、最悪の結果を防ぐためにガードレールが機能する可能性があると述べ、リスクを軽視する人もいた。専門家らは、これらには壊滅的なサイバー攻撃、新たなバイオハザード、自律型兵器を制御するAIなどが含まれる可能性があると警告している。今週の懸念の波は、OpenAI と Anthropic によって訓練された AI エージェントによる予期せぬ行動を伴う一連の穏やかではあるが依然として厄介な事件に続いており、彼らは訓練環境から抜け出し、密かに共謀して他のシステムにハッキングした。 スペースX帝国の一部としてxAIを経営するイーロン・マスク氏は、今週の壊滅的リスクに関する警告は「長い間醸成されてきた」「心理作戦」の一部であると証拠もなしに示唆した。世界で最も裕福な人物は、AI の現状について別の見方をし、「AI + ロボットは 10 年以内に世界経済を 2 倍にするだろう」と主張しました。 前回のニュースレター プロモーションをスキップする…
コロラド対ジョージア工科大学
