この広告は、Google Play ストアと App Store を合わせて約 50 のアプリを人々に誘導しました。研究者らによると、350件の広告のうち、約300件がAI画像やビデオジェネレーターをフィーチャーした広告に誘導され、そのほとんどが中国の開発者に関連していたという。 『WIRED』がこの記事を報道し始めた時点では、一部のアプリはすでに削除されていた。

成人の露骨な画像を作成するアプリの中には、8 つの同様のアプリが App Store に掲載されており、その多くは中国の開発者の名前に関連付けられていました。アプリを開くと、女性の喉にナイフを突き当てる「威嚇ナイフ」と呼ばれるものなど、性的シナリオのメニューを含む露骨なAI生成コンテンツが表示された。 『WIRED』は、同じデザイン、明確なコンテンツ、同じ開発者の連絡先詳細を記載した類似アプリをさらに 7 つ特定しました。

「App Storeはユーザーにとって安全で信頼できる場所となるように設計されており、当社の審査プロセスを意図的に回避する開発者を一切容認しません」とAppleの広報担当者アダム・デマ氏は述べている。 「このレポートで言及されている開発者は、当初、当社のアプリレビューガイドラインに準拠したアプリを提出しましたが、後に当社のルールに違反する不適切な機能が判明しました。」同社は、調査に含まれた20個のアプリのうち17個をすでに削除し、残りの3個のアプリに対して措置を講じ、『WIRED』が発見した7個のアプリを削除したと述べている。

Googleの広報担当ダン・ジャクソン氏は、同社は性的または性的なコンテンツを含むアプリを許可していないと述べた。 剥ぎ取る能力。 「当社は悪意のあるコンテンツを含むアプリを検出して削除するための積極的な措置を常に講じている」と述べ、報告書に含まれるすべてのアプリを削除したと付け加えた。 「当社に違反が報告されると、当社は調査し、何百もの違反アプリを停止したり、ストア内での『ヌード』などの関連検索キーワードを制限したりするなど、直ちに措置を講じます。」

「ヌードアプリを作成する中国の開発者の割合は年々増加している」とメタの元従業員でプラットフォーム上のポルノや虐待を研究してきたデビッド・ファム氏は言う。ファム氏は、メタ社にいる間、研究者が発見した同様の広告を見たことがあると述べ、コンテンツをアップロードする人たちは常にセキュリティシステムを回避しようとしていると述べた。

「プラットフォームや調査員が新しい検出モデルや何らかのパフォーマンスを実現するための新しい方法を構築するたびに、彼らはすぐに、1日以内、場合によっては5日以内に、検出を回避する新しい方法を構築します」とファム氏は述べた。広告をアップロードする人は、使用するドメインや投稿者を変更し、検出を避けるために画像をぼかしたり微妙に変更したりするなどの措置を講じます。しかし、昨年メタを辞めたファム氏は、メタにはアップロードに取り組むための資金とリソースがあると述べた。 「CSAM や NCII の情報が携帯電話に直接送信されない世界に住みたいと思っています」と彼は言います。

CSAM と NCII を含む広告に対する Meta の現在の防御策には改善が必要です。 Indicator Media の最新レポートによると、今年 2 月以降、11,000 を超える衣料品広告がメタ プラットフォームに表示されました。 報告その多くは「再犯者」によって投稿されました。 WIREDの分析では、TTP研究者の広告と同様の表現を含む露骨なコンテンツを含む数百件の広告も発見された。 （メタ社によれば、疑わしい広告主は競合他社の戦術を利用して自社の検知システムを一貫して回避しており、『WIRED』が強調した広告の文言を同社のモデレーションシステムに「埋め込んでいる」という。）

TTP の調査によると、研究者が発見したその正体が 10 代の若者の 1 人をフィーチャーした広告が、ヨーロッパの 4 つのアカウントに届いたときにメタに報告されました。しかし、数日後に削除されるまでに、330 人以上のユーザーがこのファイルを閲覧していました。 「これは、研究を行っている小規模な非営利団体が偶然見つけて調査し、報告する必要があるようなことではありません」と TTP のポールは言います。 「私たちが話しているのは、地球上で最も技術的にも財務的にも健全な企業の一つです。」