匿名の読者はニューヨーク・タイムズの報道を引用して次のように述べています。 アンスロピックのCEO 世界の人工知能開発のペースを遅らせるために呼びかけられた 同社の従業員の1人がテクノロジーのセキュリティへの懸念を理由に退職した数日後の土曜日、3,800ワードのエッセイでこう述べた。安全で応答性の高い AI の構築に注力する Anthropic を共同設立した Dario Amodei 氏は、 書きました 同氏は、この技術が多くの利益をもたらす可能性があると信じている一方で、その進歩のペースが速すぎて、研究者が安全性について追いつかないと述べた。

アモデイ氏は「ここ数カ月で、完全なリスク対応にはより一層の注意が必要だと確信した。リスク予防に投資するだけでなく、リスク予防に十分な時間を確保できるよう能力開発のペースを加速する必要がある」と述べた。 「AI モデルの機能向上のペースを落とす必要があります。進歩は依然として早いようで、時間を賢く使う必要があります。」 […] アモデイ氏は、「チェックを怠ると、これらのシステムを理解して制御する私たちの能力を圧倒する可能性があるため、非常に注意深く監視する必要がある」と述べた。

[…] アモデイ氏は土曜日に発表したエッセイの中で、成長を鈍化させるために業界が講じ得る措置を示唆した。アモデイ氏は、すべての研究所は、企業間のベストな安全慣行を検証できる「組み込み評価者」または外部専門家による第三者の技術評価に同意することができると述べた。同氏はまた、民主的な統治システムを持つ国々が連携して、規制措置の形をとる可能性のある安全基準を策定するよう提案した。同氏は、権威主義国家を含む他国と景気減速を適切に調整するためには、世界的な取り組みが必要となる可能性が高いと付け加えた。

アモデイ氏はエッセイの中で、AIは病気の治療や経済成長の加速など、人類にとって「計り知れない利益」をもたらす可能性があると依然として考えていると強調した。しかし、それでも、アモデイ氏は、AIのリスクは極度の注意を払って進めるには大きすぎると述べた。 「安全なペースで国境を前進させるために私が提案している措置は容易ではない」とアモデイ氏は書いた。 「しかし、私たちは人類に試練を与えなければならないと信じています。」アモデイ氏のエッセイは、サム・アルトマン氏がOpenAIの従業員に対し、同社は同様の懸念を抱いてAI開発のペースを落とす用意があると語った、とブルームバーグが報じた数時間後に発表された。