サンフランシスコ市 弁護士はメタ社に差し止めの書簡を出し、児童性的虐待コンテンツを含む有料広告の「許可」をやめるよう命じ、メタ社のプラットフォーム上で広告がどのように繰り返し配信されているのか説明するよう求めた。

WIREDの火曜日の報道によると、メタ社はここ数カ月で、未成年者（中にはヨーロッパ王室の一員を含む本物の人間として認証されている人もいる）の画像を、性的行為を描写した可能性のある短いクリップに変換した350以上の広告を掲載した。これらの広告をクリックすると、AI 画像およびビデオ生成プログラムをダウンロードするよう誘導され、その一部はデジタル的に人物の正体を明らかにしたり、その他の親密な画像を作成したりするために使用できます。

研究者による広告 技術透明性プロジェクト (TTP)には、複数回アップロードされた同じ広告が含まれており、EU 諸国の合計 29,000 アカウント以上に相当します。 Facebook、Instagram、Threads上で掲載された広告は、米国、オーストラリア、インドのアカウントもターゲットにしていました。 WIRED は 8 月初旬に 53 件の広告のパッケージについて報告しましたが、その最初の報告以来、さらに 250 件以上の広告がメタ プラットフォームに掲載されました。

サンフランシスコ市検事のデビッド・チウ氏は声明で「メタ社はAI生成の児童ポルノと暴利行為という既知の問題に対処できていない」と声明でWIREDに語った。 「これらの広告は非常に不安であり、現実の子供たちに危害を加えている。メタ社は児童搾取を一切容認しないと主張しているが、これらの問題の規模と持続性は、現在の取り組みがひどく不十分であることを示している。これは容認できないことであり、メタ社はもっと改善しなければならない。」

「いかなる企業、特に配信前にすべての広告が審査および承認され、その後配信に対する支払いを受け入れると主張する企業は、自社の広告システムをこのような方法で使用することを許可すべきではありません」とチウ氏は述べた。 4ページの手紙に書きます 彼の事務所はそれをメタの弁護士に送った。

この書簡は、メタ社の広告ポリシーや安全システムがどのように機能するかについて多くの疑問を提起しており、同社の法務担当者、児童安全担当者、広告担当者が市当局と「直ちに協議」するよう求めている。 「これらの調査結果は、メタが最初に問題を報告したときに修正した個別の障害を反映していないため、特に厄介です」と Chiu 氏は書いています。

メタ氏は、広告がサンフランシスコで表示されたことを示す「兆候はない」と述べており、これは広告が「市検事の管轄外」であることを意味しているとしている。メタ中 広告ライブラリこれは広告リポジトリであり、米国で掲載される広告に関する情報が含まれています。米国内のどこに広告が掲載されるかについては共有されません。

メタ社の管轄権の主張に対し、市検事局の広報担当者アレックス・バレットショーター氏は『WIRED』に対し、「サンフランシスコの消費者はメタ社のオンラインスペースを通じて違法な広告にアクセスしている可能性がある」と述べ、これはサンフランシスコ市の問題であると述べた。

「メタ社の反応は驚くべきものだと我々は考えている。メタ社は児童搾取の罪があるかどうかよりも、サンフランシスコがそれについて何か言うべきかどうかを気にしている」とバレットショーター氏は語った。 「ここでのメタには、私たちの能力を判断することよりも大きな問題があります。」

Metaは以前WIREDに対し、TTPの研究者が特定した広告の多くは投稿前に削除されたと語った。現在ではそのすべてがポリシー違反として削除されており、そのほとんどはアカウントからのインプレッション数が「200未満」だったという。メタの広報担当者は以前、「本物かAI生成かを問わず、ヌードやいかなる形態の児童搾取も容認しない」と述べた。同社は、研究者らが発見した300以上の広告の「総広告費」は「少なくとも5000ドル」だったと発表した。