• コロラド対ジョージア工科大学
• インスタグラム
• ソーシャルメディア
• September 8, 2026
• 0 Comments

Meta は何百もの人工的な児童虐待広告を見つけることができませんでした。中には実際の子供の画像も含まれていました

この広告は、Google Play ストアと App Store を合わせて約 50 のアプリを人々に誘導しました。研究者らによると、350件の広告のうち、約300件がAI画像やビデオジェネレーターをフィーチャーした広告に誘導され、そのほとんどが中国の開発者に関連していたという。 『WIRED』がこの記事を報道し始めた時点では、一部のアプリはすでに削除されていた。 成人の露骨な画像を作成するアプリの中には、8 つの同様のアプリが App Store に掲載されており、その多くは中国の開発者の名前に関連付けられていました。アプリを開くと、女性の喉にナイフを突き当てる「威嚇ナイフ」と呼ばれるものなど、性的シナリオのメニューを含む露骨なAI生成コンテンツが表示された。 『WIRED』は、同じデザイン、明確なコンテンツ、同じ開発者の連絡先詳細を記載した類似アプリをさらに 7 つ特定しました。 「App Storeはユーザーにとって安全で信頼できる場所となるように設計されており、当社の審査プロセスを意図的に回避する開発者を一切容認しません」とAppleの広報担当者アダム・デマ氏は述べている。 「このレポートで言及されている開発者は、当初、当社のアプリレビューガイドラインに準拠したアプリを提出しましたが、後に当社のルールに違反する不適切な機能が判明しました。」同社は、調査に含まれた20個のアプリのうち17個をすでに削除し、残りの3個のアプリに対して措置を講じ、『WIRED』が発見した7個のアプリを削除したと述べている。 Googleの広報担当ダン・ジャクソン氏は、同社は性的または性的なコンテンツを含むアプリを許可していないと述べた。 剥ぎ取る能力。 「当社は悪意のあるコンテンツを含むアプリを検出して削除するための積極的な措置を常に講じている」と述べ、報告書に含まれるすべてのアプリを削除したと付け加えた。 「当社に違反が報告されると、当社は調査し、何百もの違反アプリを停止したり、ストア内での『ヌード』などの関連検索キーワードを制限したりするなど、直ちに措置を講じます。」 「ヌードアプリを作成する中国の開発者の割合は年々増加している」とメタの元従業員でプラットフォーム上のポルノや虐待を研究してきたデビッド・ファム氏は言う。ファム氏は、メタ社にいる間、研究者が発見した同様の広告を見たことがあると述べ、コンテンツをアップロードする人たちは常にセキュリティシステムを回避しようとしていると述べた。 「プラットフォームや調査員が新しい検出モデルや何らかのパフォーマンスを実現するための新しい方法を構築するたびに、彼らはすぐに、1日以内、場合によっては5日以内に、検出を回避する新しい方法を構築します」とファム氏は述べた。広告をアップロードする人は、使用するドメインや投稿者を変更し、検出を避けるために画像をぼかしたり微妙に変更したりするなどの措置を講じます。しかし、昨年メタを辞めたファム氏は、メタにはアップロードに取り組むための資金とリソースがあると述べた。 「CSAM や NCII の情報が携帯電話に直接送信されない世界に住みたいと思っています」と彼は言います。…