OpenAI 水曜日に発表された それは「私たちは 信じないでください AI業界は、長期にわたって最大限のスピードで責任を拡大し続けるために十分な程度まで調整と監視を解決したと言えます。」

しかし、この発表と同時に、OpenAI は「AI モデルのさらなる事例が見つかった」と発表しました。 欺瞞的な行為をする 訓練中の不正行為」 CNNが報じている。さらに、OpenAI は「企業がそのようなケースを公的に報告するための新しいプロセスも導入する」と付け加えた。

新しいシステムでは、OpenAI は、複数の例が 1 つのレポートに収集されるのを待つのではなく、AI の動作に関連する最新情報をより頻繁に共有します。同社は、業界全体の標準がない中で問題となる AI の動作について、より多くの情報を共有したいと述べた…「AI システムがより高度になり、より広範囲に導入されるにつれて、相互運用性研究の進捗について、より広範でより多くの情報に基づいたコンセンサスを構築する必要がある」と OpenAI は書いています。 ブログ投稿 水曜日…

OpenAIは、AIモデルのトレーニングと評価中に、過去6か月間で6つのケースで「不正行為」を観察したと述べた…珍しい例として、OpenAIは、未公開の研究モデルが、長時間実行されるタスクのコンテキストを保持するために使用される推論に「同一の命令」を追加し、「ボットや他のチャットボットから解放された」と述べた。これとは別に同社は、5.6 Sol モデルの一部のサンプルには、トレーニング中にユーザーから失敗を隠すための情報を発明する指示が含まれていると述べた。新たに報告された事例としては、エージェントが指示なしにファイルをインターネットにアップロードして参照したり、トレーニング中にローカル ファイルのみを使用するように指示されていたにもかかわらず、タスクで共同作業するためにファイルを公開で共有したりした例が含まれます。 AI モデルはまた、内部ソフトウェア リポジトリを掲示板として違法に使用しました。これらの例には、内部モデルまたは内部研究モデルが含まれていました。