人工知能研究者が火曜日、アンスロピック社とその主な競合企業であるオープンAI社の無責任な行為を非難して同社を辞め、この技術の急速なペースについてソーシャルメディア上で抗議の声が上がった。

両社で研究者として働いていたジェイコブ・コクソン氏はこう語る。 Xについてのメッセージ AnthropicとOpenAIが「私たちの命を賭けている」ため辞任したと述べた。同氏は、AIを構築している人々は「AIが10年代の終わりまでに私たち全員を殺す可能性があると絶対に信じている」と述べた。

コクソン氏は、「このテクノロジーの力を過小評価しないでください。これらは間もなく、すべてを破壊し、あらゆる業界に一夜にして革命を起こし、真の力とリソースを獲得できる並外れたシステムになるでしょう。」と書いています。

コクソン氏の投稿は7,000万回以上閲覧されており、AIは安全に開発・制御できるかどうかをめぐるシリコンバレーでの長期にわたる議論を反映している。 Anthropic と OpenAI は、ますます先進的なモデルのリリース中に潜在的な歴史的な初期提案に近づくため、多くの研究者が調整された減速を求めています。

OpenAI の編集長である Jakub Pachoki 氏は次のように述べています。 ブログ投稿 日曜日に、どのAI企業も「最高速度で責任を拡大し続けるのに十分な程度まで調整と監視に取り組んでいない」と警告した。 AI 業界では、調整とは、システムが人間の価値観や意図に従って動作するようにする AI 開発者の作業を指します。

パチョッキ氏は、「共通の安全柵が設置されるまでは自発的な減速が標準になることを期待しており、期待している」と語った。 「そして私は、AIの将来の開発に関する国際的な調整が世界中の政府にとって最優先事項になるべきだと信じています。」

火曜日のコクソン氏のメッセージは、懸念を抱いている業界研究者らの共感を呼んだ。 自己再帰的または、人間の介入なしにその後継を設計および開発できる AI システム。再帰的な自己認識はまだ可能ではありませんが、Anthropic や OpenAI などの企業は、人間がこれらのシステムの制御を失いやすくなると警告しています。

コクソン氏は「どの企業も責任ある行動をとっていない。企業は知性を高めるために直接アップグレードされている」と書いた。

Anthropic社の最高執行責任者であるEvan Hubinger氏もコクソン氏のコメントに同調した。 Xについてのメッセージ 火曜日の遅刻。

「ジェイコブはここにいます。私たちはAIがすべての人間を殺すことができると本当に信じています！個人的には、今後10年以内にそれは10％を超えると思います」とヒュービンガー氏は語った。 「Anthropic が最善を尽くしていることは間違いありませんが、現時点では超知性に関する一貫した解決策はなく、明らかにその計画は進んでいません。」

大げさではあるが、AI が人類の絶滅やその他の壊滅的な出来事を引き起こす可能性についての懸念は、AI 研究界では新しいものではない。たとえば、2023 年には、OpenAI CEO の Sam Altman 氏や Anthropic CEO の Dario Amodei 氏などの著名な AI 研究者やリーダーが、 声明に署名した その報告書は、「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争などの他の社会規模のリスクと並んで、世界的な優先事項であるべきである」と述べている。

一部の専門家は、AI から生じる悲惨な結果の確率を計算するために略語 p (運命) を使用することさえあります。

Anthropic の Hubinger は、「」というタイトルの公開書簡に貢献した約 1,400 人の AI 研究者の 1 人でもありました。国境予防7月。書簡は米国政府に対し、「自動化されたAIの開発を意図的に加速する」取り組みを支援するために必要なツールを開発するよう求めている。

それ以来数カ月間、一部の議会議員はAIの急速な進歩に対処しようと措置を講じてきたが、この技術をどのように規制するかについて明確なコンセンサスは得られていない。

7月、カリフォルニア州民主党のジェイ・オバノルテ下院議員とマサチューセッツ州民主党のロリ・トラハン下院議員が、以下のような法案を提出した。 フロンティア法これは、高度な AI モデルの展開を管理するためのフレームワークを確立することを目的としています。そして今月初め、バーニー・サンダース上院議員（バーモント州）とテキサス州民主党のグレッグ・カサール下院議員は、次のような法案を提出した。 この法律は人工超知能を禁止しているこれにより、連邦政府が安全規制を確立するまで、高度なAI開発が一時的に停止される。どちらの法案も賛否両論ありました。

「セキュリティ専門家は退職し、強力な AI モデルは研究室から去り、企業は依然として前進している」とトラハン氏は書いている。 Xについてのメッセージ 水曜日に。 「議会が一歩下がって職務を遂行する時が来た。」

議員らはまた、AIデータセンター（AIモデルを訓練し実行するためのハードウェアを収容する大規模施設）に対する国民の反発の高まりを鎮めようとしている。 CNBCが以前報じたように、反発は非常に激しくなり、全米共和党上院委員会（NRSC）は先月、データセンターは中間選挙期間全体の「重大な問題」になっていると述べた。

スコット・ベッセント米財務長官は今月初め、AI企業は「米国民に自社のことを説明するというひどい仕事」をしてきたと述べた。

ベッセント氏はノースカロライナ州アシュビルで開かれたＧ２０で財務相や中央銀行当局者らと会談した後、「彼らは責任の一端を負わなければならないし、すべての恩恵が一部のグループに与えられるわけではないことを米国民に納得させなければならない」と述べた。 – 彼らは私からこれを聞いています。