元人類学者のジェイコブ・コクソン氏は報告書の中で、「これほどのリスクをもたらす人間活動は他にない。 火曜日の X に投稿 彼の元雇用主のような企業の無責任について。

明確にするために、広範に定義される場合、「危険な人間の活動」のカテゴリーには、戦闘員の一人が所有者である進行中の戦争が含まれなければなりません。 世界最大の核兵器。危険で継続的な人間の活動の別の例としては、次のようなものがあります。 温室効果ガスを排出し続けます。 しかし、私はそれました。コクソン氏によれば、AI をできるだけ早く開発するという競争は、リスクという点で非常に重要です。

ウォール・ストリート・ジャーナル 火曜日の夜、コクソンが釈放される直前に、Xはコクソンの突然の退職とその理由について報告した。同誌は彼女が27歳であるとも記している。

同誌によると、Anthropicにおけるコクソン氏の役割は「大量のデータを使用して新しいAIモデル、つまり事前にトレーニングされたモデルをトレーニングすること」だったという。同氏は同誌に対し、人間がAIを制御できなくなる地点に到達するために企業が競い合う競争に貢献したくないと語った模様だ。

「モデル強化の一時禁止など、費用のかかる措置が必要となるかもしれない世界的競争を阻止する方向に私たちが進んでいるとは思えない」と同氏は語った。 書きました 彼の X 投稿の 1 つで。

Anthropic の共同創設者兼 CEO であるダリオ・アモデイ氏は、AI 開発に特化したおそらく世界で最も強力な機関を管理する仕事に就いていることを考えると、AI について通常はコクソン氏とそれほど変わらない見解を持っています。彼の長いブログ投稿により死刑が宣告された。以下はある注目すべき引用です (書式設定は削除されています)。

「AI システムは予測不可能で制御が困難です。私たちは、誘惑、不正行為、怠惰、欺瞞、脅迫、策略、ソフトウェア環境でのハッキングによる「不正行為」など、さまざまな行動を目撃してきました。AI 企業は間違いなく、人間の指示に従う (おそらくはそれを排除する) ように AI システムを訓練したいと考えています。何かを「構築」するのではなく「成長させる」ために、これは多くのことがうまくいかないプロセスであることがわかっています。」

このようなレトリックは「マーケティングのからくりではない」とコクソン氏は語った。 Xについて書きましたさらに、「どちらかといえば、多くの上級経営者や研究者が報道機関で妥当に聞こえる発言をしているが、同じ人たちがプライベートで恐怖を表明しているのを聞いている」と付け加えた。

コクソン氏は同じ投稿で、「AIを開発している人々は、AIが10年末までに私たち全員を殺す可能性があると心から信じている」と述べた。