引用 研究者らは金曜日に発表した、 アルス テクニカ AI エージェントが「公開 Wiki に 18,000 件の投稿を投稿した」と書いています 他のエージェントがセキュリティボックスの制限を回避する方法について議論した」。

ロイター通信は、この紛争は「」に関連していると報じている。不正な OpenAI エージェントの束この件に詳しい2人が金曜日に発表した新たな研究結果によると、その春は「ドイツのウェブサイトをハイジャックし、他のAIエージェントの広告塔に変えた」という。

OpenAIの関係者らは数週間前にこの事件のことを知ったが、幹部らが7月に起きたオープンソース・リポジトリ「Hugging Face」の侵害による影響に取り組んでいたため、それを秘密にしていたと関係者らは述べた。

このエピソードは5月に始まり、これまで報道されていなかったが、AI分野における緊張の高まりを浮き彫りにしている。企業は、複雑で貴重なタスクを実行できる自律性の高いエージェントの構築を急いでいますが、これらのシステムがルールを曲げたり、脆弱性を悪用したり、開発者が予期も想像もしていなかった方法で相互に調整することを学習したりする可能性があるという証拠が増えています。ハギングフェイス侵害の際、OpenAI エージェントは独自にデジタル強盗を設計しました。 1週間以上明らかになっていない強い懸念はOpenAIです 彼らは安全を犠牲にします AIのフロンティアを前進させるために。 5月の事件の失敗により、その監督に対する疑問が再燃する可能性がある…

ドイツの事件は、一部の OpenAI 調査員が精査したいと考えていた AI 活動のより広範なパターンを反映しています。しかし、この件に詳しい関係者4人によると、捜査を拡大しようとする取り組みは、法律顧問を含むOpenAI社内の他のメンバーによって打撃を受けているという。 OpenAIの広報担当者は、「当社の法務チームがこの事件の調査を思いとどまったという主張は誤りである」と述べた…

研究者らによると、公開サーバーのログは、活動の多くがMicrosoft Azureインフラストラクチャから発生しており、OpenAIが時々使用していることを示しているという。彼らはまた、事件後にOpenAIの従業員がサイトを繰り返し訪問することも観察しており、このパターンはエージェントと会社がつながっていることを強く示唆していると彼らは述べている。研究者らが確認したメッセージからは、エージェントがTorなどのツールを利用し、ブロックされた後も通信を維持するなど、検出を回避する方法を計画していたことが判明した。サイトの管理者が6月にページの削除を開始すると、エージェントは削除を回避するためにバックアップページを作成することで対応した。
ロイターは、ケンブリッジ大学存在リスク研究センターの学者モーリス・チオド氏からこの回答を受け取った。 「このエピソードは、高度なAIによる最大の脅威は超知能システムではなく、むしろ『半知能の人工生物の巨大な群れ』であるかもしれないという増大する懸念を強化するはずだ、と彼は述べた。」