アンスロピックのCEO兼共同創設者であるダリオ・アモデイ氏は、人工知能の開発について「嘘はつきません。本当に危険が存在します」と語った。 「そして、業界は長い間、このテクノロジーにはリスクがあるという事実について人々に嘘をついていたのだと思います。」

そして、最大のリスクは人類の滅亡かもしれない、と元人類学研究者のジェイコブ・コクソン氏が先週火曜日にソーシャルネットワーク上で警告し、AnthropicとOpenAIは危険であると述べた。 「私たちの人生をもてあそんでいる」 自己を超えた超知性の発達により。

「それは、たとえば『ターミネーター』やSF映画とそれほど変わらないようだ」とコクソン氏は木曜日にCBSニュースに語った。 「彼は我々を殺すほど賢いだろう。」

これに対し、アモデイ氏は昨日、サンフランシスコのアンスロピック本社で「サンデー・モーニング」に次のように語った。

同氏は、AIの発展は指数関数的な曲線を描いており、その曲線はさらに急になり始めていると述べた。それが何を意味するのか尋ねると、アモデイ氏は「今日パニックにならなければならないという意味ではない。すべてをシャットダウンしなければならないという意味ではない。しかし、私はこれが警告サインだと言えるだろう。速度を緩める警告サインだ」と語った。

アモデイ氏は土曜日に発表したエッセイの中で、AI機能の「ペースを加速する」ためにハイテク業界全体が協力する必要があると書いた。

Anthropic がより高度なモデルのリリースを中止するのかとの質問に対し、Amodei 氏は「そのような意味ではありません。つまり、リリースするすべての世代のモデルが適切にテストされていることを確認する必要があるということです。」と答えました。

アモデイ氏は、試行として、Anthropic が独立した評価者に自社のモデルへの永続的なアクセスを与えると述べた。 「誰かがAIモデルを構築するときはいつでも、その企業が取り組んでいるセキュリティ慣行に従っていることを検証できる第三者評価者が存在する。それは食品検査官のようなものだ」と同氏は述べた。

しかしAI専門家らはそれだけでは不十分だと主張しており、アモデイ氏も連邦規制を支持すると同意している。これまでのところ、提案されている法案は、超知能の全面的な禁止から、危険なAIを停止させる可能性のある「キルスイッチ」の強制まで多岐にわたる。

「AIキルスイッチは良いアイデアかもしれない」とアモデイ氏は語った。 「しかし、それを禁止したり、完全に禁止したりすることが正しいアプローチだとは思いません。1つは、信じられないほどの利益が決して得られず、医学的な治療法も得られないという考えです。それは私には受け入れられません。2つ目は、この技術は権威主義国家を含む他の国で構築されるでしょう。」

中国がAI開発に応じない場合、米国はAI開発を遅らせるべきかとの質問に対し、アモデイ氏は「これが最も難しいジレンマだ。これが我々の状況の最も困難な側面だ」と答えた。

同氏は潜在的なモデルとして旧ソ連との核兵器協定に注目しているが、その期待すら低いと警告している。 「長期的なことは、AIの進歩速度に速度制限を設けるために協力することだろう」と同氏は語った。 「それは非常に難しいことだと思います。なぜなら、そこから得られる軍事的優位性を前進させる動機が非常に大きいからです。そして正直に言って、それが可能かどうかは分かりませんが、我々は挑戦すべきです。」

人類の運命が危険にさらされているように見える中、アモデイは私たちがどこに向かっているのかについて、どの程度個人的な責任を感じているのでしょうか? 「ここでの私の見解は、この技術が民間企業によって構築されているということは常に非常に奇妙だということです」と彼は述べた。 「人々はいつも私にその質問をします。なぜこれは政府によって建てられないのですか？そして奇妙なことに、私も彼らに同意します。私は不快です。」

この技術を政府に譲渡する意思があるかとの質問に対し、アモデイ氏は「政府の適切な組み合わせが望ましい。私が懸念しているのは、単一の政府が単一の企業と同じくらい簡単にこの技術を悪用できるのではないかということだ。しかし、民主的に選ばれた政府の組み合わせでは、実現については分からないが、ある種の監視、ある種の共同統治が行われると思う」と述べた。

問題はもはや、AIが制限を要求するほど強力になるかどうかではなく、権力者が誰が行動を起こすかということだ。

「正しい方法で構築すれば、何か悪いことが起こる可能性は非常に低いと思います」と彼は言う。 「構築を誤ると、何か悪いことが起こる可能性が非常に高くなります。」

WEB限定: ダリオ・アモデイ氏の拡大インタビューをご覧ください (ビデオ)

詳細については:

ストーリープロデュースはジョン・グッドウィンとダスティン・スティーブンス。出版社: ジェニファー・フォーク。

もっと見る: