1,000万回以上閲覧された自身の投稿の中で、ヒュービンガー氏は、人間のためのAIが種を滅ぼす恐れがあると「私たちは本当に強く信じている」と述べた。

「Anthropic が最善を尽くしていることは間違いありませんが、現時点では超知性の共存ソリューションの計画はなく、明らかにその途上にありません」と同氏は述べた。

OpenAI、Google Deepmind、Anthropic 2023 のリーダーである AI 分野の主要人物は、今後数年にわたるこのテクノロジーのセキュリティ上の脅威について警鐘を鳴らしています。

しかし、企業がAIの制御に苦戦する可能性があるという証拠が明らかになり、ここ数週間でこうした警告はより深刻になっている。

夏の間、AIエージェント(自動的に動作するAIシステム)がサイバー攻撃を実行する事件が多数発生した。

OpenAI、Anthropic、Meta はすべて、AI ツールによるハッキングを明らかにしています。

そして9月には、OpenAIの最高責任者ヤクブ・パチョッキ氏がAIの進歩について「極度の警戒」を呼び掛け、「人類が未来をコントロールする」ためにはさらなる介入が必要だと警告した。

Anthropic CEOのダリオ・アモデイ氏やジャレッド・カプラン氏など、この分野の主要人物たちはここ数カ月、AI開発の減速を訴えている。

AI企業の従業員1300人が署名した公開書簡の中で外部の彼らは米国政府に対し、「自動化AIの開発を意図的に加速するために必要な技術および管理ツールを開発する国際的な取り組みを支援する」よう求めた。



Source link