AIの強力な能力に対する警戒が高まる中、ドナルド・トランプ大統領は、すでに障壁が設けられているとして、新たな規制を求める声を否定した。

トランプ大統領は月曜日のソーシャル・トゥルースへの投稿で、「AIに必要な唯一のチェック、あるいは『安全装置』は強くて安定した大統領(高いIQ!)であり、米国はついにそれを手に入れた!トランプ政権はAIの『人間』が悪いことや悪いことをする可能性のある『こと』を阻止するだろう。天使」――そして、AIが勝つこれらの企業に対してシックな陰謀があることをすでに知っているので、我々はそうし続けるだろう、我々は中国を宣伝している、そしてみんなも気をつけていきます!」

アンスロピックのダリオ・アモデイ最高経営責任者(CEO)は土曜日、AI開発の減速を呼びかけるエッセイを発表し、AIエージェントの「群れ」が6~12か月以内にインターネットを乗っ取る可能性があると警告した。

同氏は、「AI機能の急速な発展を考えると、私の懸念は、6~12か月以内に、このような大群が永続的なボットネットでインターネット全体を乗っ取る可能性があり(数千億ドルの損害を引き起こす可能性がある)、必要な防御策なしでAIがさらに強力になった場合、被害の規模はそこから拡大するだけだ」と書いている。

アモデイ氏はAI企業に対し、セキュリティ慣行と義務の遵守を検証し、インシデントを報告し、完成したAIモデルだけでなくトレーニングパイプラインとプロセスの評価を支援するために第三者による評価に取り組むよう求めた。

OpenAIのCEOサム・アルトマン氏とSpaceXAIの創設者イーロン・マスク氏もAmodei氏に同意した。

アモデイ氏はまた、政府に対し安全基準を統一するよう求めた。

しかし、トランプ大統領はAI開発の減速を警告し、技術軍拡競争を中国に任せている。同氏はまた、データセンターの建設を阻止しようとするコミュニティを批判したが、無秩序な開発に対する反発は双方から来ていた。



Source link