リア・ファイガー： 正しい。この 3 つのカテゴリに分類するのは私にとって非常に便利です。

ゾーイ・シファー：バケツが好きです。

リア・ファイガー：バケツが好きです。それぞれについて見ていきたいと思います。私の最初の質問は、核コードはどこで放送されているのか、そしてそれらはどのバケツに分類されるのかということです。

ブライアン・バレット: それは特に心配する必要のないことの 1 つですよね?

ゾーイ・シファー： はい。

リア・ファイガー：もっと教えてください。

ゾーイ・シファー: AI 研究者に話しかけて、実際にクリックすると、先ほど残した 3 つのバケツにアクセスできます。しかし、彼らと話し続けると、「AI がロボットの中に組み込まれ、ロボットが歩き回って、ロボットが本当に本当に恐ろしい方法で物理世界と対話するシナリオもある」と言うでしょう。しかし、それは少し行き過ぎであり、彼らもそれが少し行き過ぎであることを認めています。

ブライアン・バレット: それで、ゾーイ、あなたのバケツについて一つ思うのですが、私はバケツかバケツの中の小さなバケツを割りたいと思っています。

ゾーイ・シファー：うわー、バケツだ。

ブライアン・バレット：いいえ、AI が生物兵器を作る、AI が何かを破壊する、AI が何であれ、それはすべて真実だとおっしゃっていました。でも、そこに人間が指示したものがあるのと、AIが勝手にやっているのとでは違うと思うんです。多くの人は「AI がどのようにして生物兵器を作るのか？ それはクレイジーだ」と思うと思います。もちろん、それは良いことです。でも、世界にはAIを使って生物兵器を作ってそれを放つ悪い人もいるじゃないですか。

ゾーイ・シファー: ああ、まあ、つまり、そのシナリオは完全に真実だと私は思います。生物兵器の作り方に関する情報へのアクセスを人々に提供すると言うと、実際にそれを実行するほど愚かで無関心な人が現れるように私には思えます。私は、いや、絶対にそう思います。人々は常にあらゆる種類の恐ろしい、危険な、邪悪な行為を行っています。

リア・ファイガー: インターネットからインスピレーションを受けました。

ゾーイ・シファー： 正しい。本当に危険だと思います。 AI はそれを完全に単独で実行します。シナリオについてはまたお話ししますが、それは私には少し現実離れしているように思えます。

ブライアン・バレット: これには勇気がいるかもしれませんが、1983 年の映画に戻りたいと思います。 戦争ゲーム。

リア・ファイガー：いいえ、まさにそれについて話すべきだと思います。これが私です…はい。 戦争ゲーム は…はい。

ブライアン・バレット: ここでは AI がボタンを押したり、キーを切り替えたりすることはありませんが、 戦争ゲームこれは基本的に核戦争を引き起こしそうになるAI、コンピューターに関するものだが、それよりも米国がソ連の核兵器の攻撃を受けていると考えるという内容だ。ですから、リスクはありますが、私はここの専門家ではありませんが、ここでは実際にそれが起こらないという十分な保証があり、さまざまなことを確認するのに十分な衛星技術があることを願っています。これは良いですね。しかし、おそらく最も懸念されるベクトルは、一連の壊滅的な出来事を引き起こす何らかの警報を発する AI だと思います。