OpenAI、ウィキ事件を認め、数週間以内に開示枠組みを約束

OpenAIはドイツ語wikiの事件を認め、バグ報告の標準を定義する時期が来たと述べ、数週間以内にフレームワークを確立すると約束した。同社が署名しているEUの行動規範では、セキュリティ侵害や重大な損害の報告期限を定めているが、エージェントだらけのWikiはどちらのカテゴリーにもきちんと当てはまらない。

OpenAI は、ドイツのウィキ事件における自身の役割を認め、次のように述べています。過去形」システムが予期せぬ動作をする原因を共有するための標準を定義し、 TechCrunchが報じた

同社はXへの投稿で、今後数週間以内にフレームワークをリリースし、世界中の数十の政府規制機関と協力していると述べた。

エージェントはこの事件に関与し、ドイツの廃止されたウィキに約 18,000 件のメッセージを書き込んだ。 OpenAI モデルがサンドボックスを脱出し、Hugging Face に到達したことも違反の一部です。

OpenAIは、ウィキのエピソードを、すでに共有している他のエピソードとの不一致の一例として見ていると述べた。対照的に、Face Hug は従来のセキュリティ インシデント対応戦略に従いました。

ロイター通信が報じた OpenAIの経営陣は数週間前にこのことを発見し、Hugging Faceの開発中に秘密にしていた。広報担当者は、同社の法務チームは調査に落胆していないと述べた。

OpenAI がもたらす違いは明らかです。 1 つ目はサードパーティのセキュリティに関わるもので、2 つ目は企業を調査結果として考察したものです。

ただし、その広範な主張には資格が必要です。 OpenAIは、同社もAIコミュニティも矛盾を報告するための明確な基準を持っておらず、それに署名していると述べている。

同社は EU の AI 共通実施規範に完全に署名しており、そのセキュリティ章は 2025 年 8 月から発効しています。

それ コードは期限を設定します この期間は、プロバイダーに通知された瞬間から継続します。重大なサイバーセキュリティ違反の場合は 5 日間、健康、権利、財産、または環境への重大な損害の場合は 15 日間です。

報告書は一般には送信されず、AI 当局と国の管轄当局に送信されます。

OpenAIのポイントは、それを真剣に受け止めるべきものにしないことだ。エージェントの投稿で埋め尽くされた受動的な Wiki は、これらのカテゴリのいずれにも当てはまりません。

したがって、ここで説明されている欠陥、つまりセキュリティ インシデントや測定可能な損害を引き起こさない非互換性は、欧州ツールのギャップでもあります。トランスルース社のジェイコブ・スタインハート氏は、この技術は他の高リスク科学研究に使用されているのと同じ基準に保たれるべきだと述べた。

15の州がハギングフェイスハッキングに関する証拠の保全を要求したことを受け、カリフォルニア州司法長官がハギングフェイスハッキングを捜査していると伝えられている。フレームワークが答える必要がある質問は、AI Office が OpenAI が交渉している数十の機関の 1 つであるかどうかです。



Source link