Reddit創設者のアレクシス・オハニアン氏は水曜日、CNBCに対し、ハイテク業界はAIについて説明し、人々に本当のリスクについて適切に警告することに「消極的」だと語った。

オハニアン氏は、AIを巡る議論は政治的得点源に利用され得る問題ではなく、深刻なリスクに焦点を当てるべきであり、この技術をうまく乗りこなすためには情報を得た国民が不可欠だと述べた。同氏は、ハイテク業界がAIを説明するという「かなり愚かな仕事」をしてきたことを認めた一方で、AIのリスクは「ターミネーターやスカイネット」のシナリオよりも一般的であると示唆した。

スカイネットは、ターミネーター映画に登場する架空の自己認識 AI システムであり、人間を脅威とみなし、破壊しようとします。

このコメントは、AI と Anthropic Labs の研究者らが再帰的自己改善 (RSI) として知られるテクノロジーの急速な進歩を発表した数日後に発表された。

RSI は、高度なモデルの開発を支援する AI システムを指し、ますます高機能なシステムがさらに高機能なシステムの作成に貢献するサイクルを生み出す可能性があります。

懸念されるのは、AI システムが新しいモデルの学習プロセスを引き継いだ場合、最終的に人間の開発者がこれらのシステムの進化を制御できなくなる可能性があるということです。

オハニアン氏は、AIの危険性は現実のものであるが、「ターミネーター」の終末論的な警告は、複数のAIエージェントが協力して複雑なタスクを達成する際のエージェントの群れのような本当の懸念から目をそらす可能性があると主張した。

「人々が思っているよりも彼らが優れている、あるいは賢いというリスクはあると思います」と彼は言う。

同氏は、AI を原子力エネルギーに例えました。どちらのテクノロジーも強力な科学的進歩であり、重大な害をもたらす可能性がありますが、責任を持って管理すれば大きな利益をもたらす可能性もあります。

「これが健全な方向に進むことを願っています。必要なのはツイートを減らし、思慮深い会話を増やすことだけです」とオハニアン氏は語った。

同氏は詳細は明かさずに「ツイッターはまったく憂鬱だった」と語り、「スローガンが現実のものではなかった」ことに「衝撃的だった」と付け加えた。

今月初め、あるAI研究者がAnthropic社の仕事を辞め、同社とOpenAIが強力な技術を開発する際の無責任な行為を非難した。

両社で研究者として働いていたジェイコブ・コクソン氏はソーシャルメディアで、AnthropicとOpenAIが「我々の命を賭けている」ことを懸念して辞任したと述べた。同氏は、AIを構築する人々は「AIが10年代の終わりまでに私たち全員を殺す可能性があると絶対に信じている」と語った。

オハニアンにとって、微妙なところが重要だ。 「私たちは、すぐに政治的ポイントを獲得する可能性のある事柄ではなく、現実の事柄のような重要なことについて議論する必要があります…私たちはそのような議論ができると信じています。」

「このような誤った情報が飛び交っているのを見ると悲しくなりますが、長期的には私たちは [will] 正しく理解してください、そしてそれが起こることを願っています。だから、その部分についてはあまり心配していません。」