コロラド対ジョージア工科大学
カナダの大手人工知能企業のCEOは、擬人化研究者をめぐる最近の騒動を引き合いに出し、10年以内にAIが人類を滅ぼす可能性が10パーセント以上あると述べ、「恐怖主義」に陥らないよう国民に呼び掛けた。
トロントに本拠を置くCohere社のエイダン・ゴメス氏は、新たなAI保護手段の創設は、生活費の削減や医学的発見の進歩などの機会とのバランスをとる必要があると述べている。
「絶滅の危険性について語るのは無謀だと思います。それはSFの物語から生まれ、 ターミネーター多くの恐怖、多くの誤解と損害を引き起こす可能性のあるシナリオのようなものです」と彼は火曜日にCBCニュースに語った。
同氏は、人工知能大手アンスロピック社のアライメント科学責任者エヴァン・ヒュービンガー氏のXに関するコメントに言及し、「10パーセントの絶滅リスクという数字は数学ではない。何にも由来していない。個人の直感のようなものだ」と述べた。
とはいえ、ゴメス氏の見解では、AIの軽微なリスクを監視し軽減するための世界的な非業界団体の設立を求めるマーク・カーニー首相の呼びかけにはおおむね同意するという。
同氏は、トロントで開催されたカーニー氏の投資サミットの傍らで講演し、カナダは研究分野での初期のリーダーシップもあり、米国、中国、フランスと並んで「世界舞台でのAI競争への切符」を持っている数少ない国の1つであると述べた。
「私たちはこの技術を発明しました。私たちの納税者は、この技術を私たちに与えてくれた進歩につながるすべての研究に資金を提供しました。私たちは世界中での展開を監視し続ける必要があります。Cohereがカナダを代表してそれに貢献できることを願っています。」と彼は言いました。同社は企業向けの生成 AI モデルを作成し、連邦政府とベル カナダの両方と協定を結んでいます。
マーク・カーニー首相はトロントでのサミットに世界の経営者や資産運用会社数百人を招待し、今後５年間でカナダへの１兆ドルの投資を求めている。
ゴメス氏は、今後5年間でカナダに1兆ドルの新規投資を呼び込むことを目的としたサミットに出席したカナダのビジネスリーダー数十人の中に含まれていた。
先週の木曜日、 オタワは167の投資プロジェクトを概説した。 CBCニュースが入手した目論見書には、アルタ州メディスンハット近郊にある145億ドルのデータセンターと、いくつかの小規模なデータセンタープロジェクトが含まれていた。
月曜日のサミットで、ベル・カナダはまさにそれを行う計画を発表した レジーナ近郊に計画されている AI データセンターの規模を 4 倍に拡大。
TD銀行とスコシアバンクも月曜日、今後数年間の成長志向のインフラプロジェクトに合わせて2,500億ドルの融資を約束し、その一部はAIに向けられる予定だ。
カーニー総裁は火曜日、カナダが新たな投資計画を進めるにあたり、スピードと予測可能性を優先するつもりだと投資家に語った。
首相は「高い基準には遅い決断は必要ない」と述べた。 「スピード、確実性」 [and] 予測可能性は競争上の利点です。」
「羊の皮をかぶった狼」
しかし、カーニー氏がスピードを求める背景には、米国トップクラスのAI研究会社のリーダーの一部が、最先端かつフロンティアのAIモデルの開発を業界全体で減速させようとしていることが背景にある。
7月には、数百人のOpenAI AIエージェントがオンラインプラットフォーム「Hugging Face」をハッキングするという不正行為を行い、AIシステムが人間の制御を逃れていると技術専門家から警告が発せられた。
Anthropic の Dario Amodei 氏と OpenAI の Sam Altman 氏は最近、業界に安全柵を設置するよう訴え、xAI のオーナーである Elon Musk 氏もこの考えを支持しました。
ゴメス氏は、アモデイ氏の要請に応じて、米国の規制当局がシリコンバレーのAI企業が協力して業界に対する政府の規制を形成できるように独占禁止規則を修正するという、この種の業界主導の監督に反対している。
最近のブログ投稿で説明したように、彼の見解ではそれはもっと無謀です。
同氏は日曜、「これらの寡占企業は国民を守るという名目で恐怖を利用し、競争ルールを曲げ、他の企業の条件を決めることを許すよう求めている」と述べた。 「羊の皮をかぶった狼、どんな名前のポスターでもいい。」
ゴメス氏は、首相が月曜日にブルームバーグ・ニュースに語った、AIを監督し安全性を確保するための世界的な「技術安定性」機関についてカーニー氏の論調を好んでいる。
ゴメス氏は火曜日、CBCニュースに対し、「私たちはそれが真にグローバルなものであることを確認したいと考えており、世界の多くの国がそれに貢献する方法があることを望んでいます。私たちが望んでいないのは、1か国またはいくつかの国がプロセスを支配することです」と語った。
「同時に、私たちはこの技術の恩恵、平均的なカナダ人の生活費を下げることができる効率の向上、さまざまな疾患や疾患に対する新薬や治療法の開発を確実に享受できるようにする必要がある」と同氏は付け加えた。
「これらは、このテクノロジーを通じて実現される本当のメリットです。」
セキュリティに関する「重大発表」
AIおよびデジタルイノベーション担当の連邦大臣エヴァン・ソロモン氏は、AIインフラへの投資を進める政府にとって依然としてセキュリティが最大の懸念事項であると述べた。同氏はまた、CBCニュースに対し、政府は今週、ドイツを巻き込んだカナダのAI先駆者ヨシュア・ベンジオ氏とともにAIセキュリティに関する「大きな発表」を行う予定だと語った。
「私たちは、カナダ国民と国民をリスクから確実に守るために、AIとフロンティアモデルには安全ガイドラインと規制が必要だと考えています。また、新しいテクノロジーから生み出される機会も確実に利用できるようにする必要があります」とソロモン氏は述べた。
「私たちは金融システムを規制できることを知っています。基本的には金融安定委員会と同じように、そのモデルを技術安定委員会で見る必要があります。リスクを軽減するための世界的な合意があることを確認する必要があります。」
ソロモン氏は水曜日、モントリオールで開催される All In 2026 AI カンファレンスで講演する予定です。
「難しいけど、不可能ではない」
デロイト・カナダのグローバル AI 市場およびエコシステムのリーダー、ジャス・ジャージ氏は、特に米国と中国の激しい競争を考慮すると、効果的な国際的保護措置を確立することは「難しいが、不可能ではない」だろうと述べています。
同氏は、DNA配列決定や核技術などの主要な科学技術の進歩における過去の国際協力を指摘した。
「この場合も同様のことが求められる」と同氏は述べた。
アンスロピックのダリオ・アモデイ最高経営責任者（CEO）は、セキュリティ対策が追いつくためにはAI開発のペースを落とす必要があると警告した。ドナルド・トランプ米大統領は記者団の質問に対し、人工知能のリスクを否定した。
独立系シンクタンクの所長は、米国と中国の競争力学を数十年前の米国とソ連の間の宇宙開発競争に喩えている。
このため、オンタリオ州ウォータールーにある国際ガバナンス・イノベーションセンターの所長であるポール・サムソン氏は、米国内の一部の人がこう言うことを期待していると述べた。 [because] 彼らは止まらないよ。」
実際、ドナルド・トランプ米国大統領は月曜日、人工知能の規制とセキュリティ保護を求める声を拒否した。
サンプソン氏は、カナダは国家安全保障を守り、カナダ企業のコンピューティング能力を確保するために、カナダ国内の外資系プロジェクト内で主権を「彫刻」することを主張しなければならないと述べた。
国家安全保障シンクタンクであるカナディアン・シールド研究所の政策研究員エミリー・オズボーン氏は、カナダはデータセンターへの国際投資を呼び掛ける中、データ主権を優先する必要があると語る。
「引き寄せには気をつけないといけないと思うよ」 [foreign direct investment] それは、我が国の重要な部分や戦略的能力を何の保証もなしに売却するという意味ではありません」と彼は語った。
