悪意のある者がデータを入手する可能性はありますが、コントロールを購入することでそのリスクはすでに軽減されています。情報担当官は、潜在的な顧客のインフラストラクチャを精査して、敵対者や悪意のある行為者が情報にアクセスできるようにします。

ただし、データをトレーニングすると、追跡に関する新たな課題が生じます。元の購入者から 2 ステップ先に植え付けられた連絡先の詳細が見つかると、ビジネス データ セットの移動を追跡できますが、テクノロジー自体に埋め込まれた形での AI 学習データの出現は失われます。もう 1 つのリスクは、このデータの利用が採取経済を生み出し、富裕国が前線国家による致命的な脅威から利益を得ることで、無限のデジタル金鉱山として戦争を継続する市場のインセンティブを生み出す可能性があることです。

力強い新境地

現行法は軍隊の戦闘方法を規制している。しかし、戦争で作成された記録が運用上の文脈から削除され、データとしてパッケージ化され、製造された場所をはるかに超えて製品が流通している企業にライセンス供与された場合に何が起こるかについては、ほとんど何も語られていない。

これらのシステムを設計する企業の説明責任は依然として不完全です。ウクライナは、AIに関する新たに署名された英国とウクライナの協定に概要が示されているように、アクセス制御の構築を進めているが、データがどのようにモデルに入力され、民間市場に戻されるかを規制することに積極的に取り組んでいる政府はない。

これらの記録には人命が含まれています。その中に映っていた兵士や民間人は、数年後に販売されるかもしれない製品の訓練材料になることに同意しませんでした。しかし、ドローン攻撃から逃げる民間人からのセンサーデータ、カメラ映像、座標が、将来の車両が意思決定に使用する種類のデータを形成するようになりました。

これは同意の問題です。データ内で特定された個人は、標的、監視者、民間人を問わず、訓練教材の一部になります。この情報に基づく自律機能は戦場の端に留まりません。このような機能は、輸送車両や農業機械など、他の軍事システムや商業システムにも拡張されます。データに埋め込まれたエラーと仮定は、モデルが民間生活に入っても、モデルとともに伝わります。

戦場の情報は通常の商用素材として扱われるべきではありません。しかし、現時点ではこの問題を管轄する機関や規制当局は存在しません。同時に、防衛情報へのアクセスを提供する政府は、規制兵器の譲渡に対処し、その出所を記録し、ユーザーにライセンスを付与し、さらなる共有を制限する必要がある。ウクライナがこの闘争を始めた。同社の Avengers Labs プログラムを使用すると、企業は機密データベースに直接アクセスすることなく、戦場のデータに基づいてモデルをトレーニングできます。しかし、これで解決できるのは問題の一部にすぎません。