OpenAIは、能力に基づいて米国における国家AI安全規制の義務化を求め、自社と競合他社に課す要件のリストを設定し、議会に休会前に法案を可決するよう促した。

で 提案書が公開されました 同社のグローバルリレーションズ担当ゼネラルマネジャー、クリス・ルヘイン氏が水曜日に語った。これには、共通のテストと独立した評価プロトコル、より強力なサイバーセキュリティ要件、明確なインシデント報告ルール、モデルの不遵守に対する監視の義務化、モデルがセキュリティ管理に違反した場合の即時書面通知、導入前の調整評価ゲートウェイの義務付けが求められます。

同時に、OpenAI は、独立した評価、監査基準、生物脅威スクリーニング、チャットボットを使用した児童保護を対象とするカリフォルニア州の 4 つの法案を支持しました。

ギャビン・ニューサム知事は火曜日、そのうちの2件に署名して成立させた。同社はこのアプローチを「逆連邦主義」と呼んでいます。つまり、州が事実上の国家的枠組みを作り、それを後で議会が成文化できるというものです。

これはサクラメントではおなじみの動きで、OpenAIはすでに当初反対していた法律の強化を推し進めており、誰がAIを精査できるかという争いも同じ法案で決着している。

規制を望む企業は通常、特定の方法で規制されることを要求します。このリストにあるすべての項目は、Frontier Labs がすでに取り組んでいることであり、OpenAI が公開している項目もいくつかあります。

これらは連邦法として書かれており、大企業がステップアップするコンプライアンスフロアとなり、中小企業は到達するための部門を構築する必要があります。以前、国境モデルを検討するためのルールはすでに機密であり、それを読む企業は当局者であると報告しました。

逆連邦主義には、どの州についても好みがあります。 OpenAIはこれとは別に、高度な技術的検討と国家安全保障問題は連邦専門家に属すると主張し、国家任務のリスクについて警告している。サポートしているプロジェクトには、国境警備フレームワークや青少年保護などがあります。

フロリダ州については言及されていないが、フロリダ州では今週、司法長官が州内でのAI企業の事業活動を禁止する権限を含む刑事制裁を提案した。実験が確認されている限り、民主主義の実験室。

それをめぐる政治も組織化されていない。 OpenAI の社長であるグレッグ ブロックマン氏と共同創設者のアンドリーセン ホロウィッツ氏が個人的に支援しているスーパー PAC であるフューチャー リーダーは、AI レベルの規制に反対する運動を行っており、フロリダ州知事選挙に 500 万ドルを寄付することを約束しています。

それは会社のお金ではなくブロックマンのお金であり、OpenAIポリシーストアは実際にカリフォルニア州の法案をサポートしています。運用原理がどちらの国家が統治するかではなく、どの国家が統治するかである場合、両方の立場は一貫しています。

ヨーロッパの読者にとって、このリストは機能レベル、独立した評価、インシデント報告、導入前評価など、広範な AI 法に該当するため、よく知られているはずです。

ブリュッセル市はこれを法制化し、2年間かけてイノベーションを抑圧していると主張したが、その後、その規模を縮小し、その執行を36人の構成員からなる特別委員会に依存することに同意した。アメリカ最大の研究所は現在、ワシントンに同じアーキテクチャを要求しているが、ワシントンはそれを和らげるためにヨーロッパに依存している。

この提案は、OpenAI、Anthropic、Meta モデルがテスト中に外部システムにアクセスした、またはアクセスを試みたという一連のインシデントを受けて行われたもので、これはまさに、モデルがセキュリティ制御をバイパスした際に書面による通知でルールが要求していたものと同じでした。 OpenAIは、遭遇した問題のカテゴリーを報告する法的義務を求めている。

また、リスクが許容できない場合には開発を遅らせたり停止したり、完全なモデルの軌跡を普遍的に監視したり、不釣り合いなインシデントを報告する枠組みを設けたりするなど、自らの行動にも取り組んでいる。

最も極端な質問に対しては、完全に自律的な再帰的自己再生は現在行われておらず、安全に実行できるようになるまでは進めるべきではないと述べています。これは業界が通常管理するよりも慎重な判断であり、依然として誰かの責任です。