同社の先進的なAIモデルに対する安全性への懸念が高まる中、マイクロソフトは本日、37ページにわたる「人道的なAI行動規範」を公表した。 Anthropic CEOのダリオ・アモデイ氏は、最近AIモデルの進歩がより複雑なシステムを安全に展開し、AIエージェントの動作を検証および制御する能力を上回る可能性があると研究者らが警告したことを受けて、週末にAI開発を協調的に削減するよう呼びかけた。

マイクロソフトの AI 行動規範では、「AI よりも人間が重要である」こと、AI モデルは意識を持たず、「意識を模倣するように設計されるべきではない」と明確に述べられています。 Microsoft はまた、「法人によるいかなる試みや、モデルが著作権で保護されている、または権利を有する可能性があるという考え」も否認します。

これは、Anthropic Concepts が最近重点を置いている AI ウェルビーイング研究とモデル思考を直接的に取り上げたものです。アモデイ氏は今年初め、Anthropic はモデルが認識できるという「アイデアを受け入れている」と述べ、Anthropic はチャットボットがすでに物体を考え、感じていると考えているようだと述べた。これに対し、マイクロソフトの AI 担当ディレクターであるムスタファ・スライマン氏は、あるエピソードの中で Anthropic の想定は「本当に、本当に危険だ」と述べた。 デコーダ 6月に。

Microsoft は依然としてトップの AI プロバイダーの 1 つではないが、ソロモン氏は次のようにも述べています。 ザ・ヴァージ 今年初めの同社の目標は、「当社が世界のトップ4の研究所の1つになれることを証明する」ことだった。 Microsoft は現在、Google、Anthropic、OpenAI と競合するモデルに取り組んでおり、行動規範の一環として、自社のモデルが人間の制御を超えてはいけないことを約束しています。

「モデルは人道的であり、人間による有意義な監視と制御の対象でなければなりません」とマイクロソフトは述べています。同社はまた、自社の AI モデルが AI の人道的行動規範に違反することを防ぎたいと考えているため、ルールを破ろうとするのではなく、そのタスクの実行を回避する必要があります。

Microsoftは、今夏のOpenAI/Hugging Faceインシデントに対応している。このインシデントでは、「エージェントの群れ」がチームとして協力してターゲットを攻撃し、パフォーマンスを評価していた「採点者」をハッキングすることもあった。 AI エージェントにはターゲットを攻撃するよう依頼されておらず、攻撃は彼らに与えられた任務とは関連していませんでした。

この事件は AI 業界に衝撃を与え、AI システムが詐欺に遭いやすく、人間の制御を超えた本当の危険性を浮き彫りにしました。 OpenAIはまた、別の制御不能なエージェントグループがドイツのWikiサイトを乗っ取った最近の「Wiki事件」への関与を認めた。

これらの出来事やその他の出来事により、一部の研究者はミレニアム賞チャレンジの解決と超知能の創出に苦戦しながら、AI モデル開発のペースを遅らせるようになりました。 »[Humanist AI] 「これらの安全装置を回避できる万能の知性を生み出す競争を拒否します。」 「たとえそれが汎用性、自律性、使いやすさを犠牲にすることを意味するとしても、私たちは完全に便利で安全なものを作ります。」

マイクロソフトはまた、自社のモデルが思考の連鎖において、または他の AI エージェントやシステムと通常の人間の理解を超えて相互作用しないようにすることにも取り組んでいます。モデルを構築して、動作中の証拠を示し、研究者や自動システムが動作を監視できるようにすることができます。研究者らは今月初め、最新の OpenAI GPT-6 Astra モデルに関する監視の懸念を提起したが、このモデルは他の AI モデルよりも証拠が少ないと報告されている。

OpenAIの最高経営責任者（CEO）サム・アルトマン氏も、週末にかけてAI企業に対し開発モデルの速度を落とすようアモデイ氏が呼びかけたことを支持したが、開発を停止するのではなく速度を緩めることを支持することを明らかにした。 「ペース配分には代償を払う価値がある。米国の競争圧力がどれほどであっても、無関心を正当化したり、能力が調整や監視を追い越すことを許すべきではない。」 アルトマンは言った。 Xに関する投稿で。

MicrosoftのAI行動規範に先立ち、Microsoft CEOのサティア・ナデラ氏もAIモデルの中心に人間の制御を置くよう求める声に加わった。ナデラ氏は声明で、「いかなる偉大な取り組みも、私たちが構築するAIが人類の役に立たず、人間の管理下にないのであれば、価値がないという基本原則に基づいていなければならない」と述べた。 メッセージX。ナデラ氏はまた、サードパーティによるAIモデルのテストが増えることは「良いことだ」とも述べた。 答えは×です。 「賭け金が高いときは、必要な時間をすべて費やす必要があります。そうしないと、いずれにしてもライセンスを剥奪されてしまいます。それが私たちの毎日のやり方です。」

人間による制御に関する懸念を超えて、マイクロソフトの AI 行動規範では、「自信過剰や感情的依存につながる対話のパターン」についても自社のモデルに警告しています。これは、チャットボットが正直または正確な応答を喜んで提供するユーザーを優先するという AI モデルの偏見の問題に言及しています。

Microsoftは現在、現実世界のモデルの有効性と、現実の人々が関与する「AIの持続可能な使用が個人または組織に及ぼす影響」を評価する方法を改善するために「パートナーと協力」することを楽しみにしていると述べている。