国連の人権担当責任者フォルカー・ターク氏は月曜日、AIへの権力集中に狙いを定め、政府は急速に成長するテクノロジーに関してより強力な措置を導入するためにより迅速に行動する必要があると警告した。

その前の一言 ジュネーブの国連人権理事会ターク氏は、AIに関する規制導入の遅れは主にハイテク企業とその経営者に利益をもたらすと主張した。

「想像を絶する計算能力を持っていると繰り返し言われているAIに対して、少数の人間がほぼ無制限の力を持っている」とターク氏は語った。 「彼らは自由について語っていますが、詳しく調べてみると、それはデータを悪用する自由に過ぎないことがわかります。」

「人類の実存的脅威」

ターク氏は続けて、高度なAIが「人類の存続を脅かす可能性がある」という懸念を業界関係者と共有していると述べた。

ターク氏は特定の企業やリーダーの名前は挙げなかったが、安全な環境から逃れたり、脅迫しようとしたりする高度なAIモデルに対する脅威の例を指摘した。

同氏はおそらく、一部のAIエージェントが安全なオフラインテスト環境から脱出し、Hugging Faceのサーバーをクラッシュさせることに成功したことをOpenAIが認めた今年初めの事件について言及していたと思われる。

Anthropic はそのような問題と格闘してきました。同社は7月、クロード氏がテストボックスから脱出してオープンインターネットにアクセスした後、「3つの異なる組織の運用インフラストラクチャに不正アクセスした」と発表した。

ターク氏の脅迫への言及は、昨年発表された人類学の研究への言及でもあるようだ。同社は、危険な行動をテストするために、企業シミュレーション環境で 16 の高度な AI モデルをテストしました。あるシナリオでは、クロードはオーパス 4 を試しました 脅迫 伝説的な経営者が、モデルを閉鎖する計画を持っていることを知りました。

「私は今日ここに来て、手遅れになる前にAIの安全性とセキュリティをめぐる鉄壁の保護措置を求めている」とターク氏は述べ、数日中にAI企業に書簡を送り、これらのリスクを制御するための措置を講じるよう促す予定だと付け加えた。

自律型兵器の禁止

ターク氏は広範な演説の中で、人間の介入なしに人を殺害できる兵器の即時禁止も求めた。 知らせる ロシアの完全自律型ドローンが先月ウクライナ人３人を殺害したとのこと。

自律型兵器の問題はすでに米国政府とAI業界の間の主要な争点となっている。

今年初め、機密システムに関して当時国防総省と協力している唯一の大手AI企業だったアンスロピックは、当局がアンスロピックの技術が「あらゆる合法的な目的」に使用できるとの文言を要求したため、国防総省との交渉で壁に突き当たった。最大の問題点には、内部監視や自律型兵器システムに関連する潜在的な用途が含まれます。

判決にもかかわらず、エミール・マイケル国防副長官は先週こう書いた。 役職 Xでは、Anthropicが依然としてサプライチェーンのリスクとしてリストされているとのこと。