欧州連合には計画がある このブロックは、子供たちがテクノロジーに感情的に依存するのを防ぐことを目的としており、18 歳未満の人とのやり取りにおいてチャットボットが感情や対人関係を模倣することを禁止しています。

この規則は木曜日に提案されたEU児童法の一部となり、ソーシャルメディアやビデオ共有プラットフォームへの未成年者のアクセスにも同様の制限が含まれる。 『WIRED』が入手した法案によると、13歳未満の子供は親の監督なしにチャットボットにアクセスすることが禁止され、デジタルプラットフォームは製品に児童保護を組み込む必要があり、さもなければ世界売上高の最大6％の罰金が科せられるという。

EU内で運用されているチャットボットも、新しい規則の下では個々の会話のやりとりの記憶を保持することは認められない。これにより、システムが時間の経過とともに未成年者の機密情報を収集し、有害な影響パターンを強化する可能性があると欧州委員会が懸念しているからだ。

オンラインソーシャルネットワーク、ビデオ共有プラットフォーム、ゲームのプロバイダーは、サービス内でAIチャットボットの使用を自動的に有効にしたり奨励したりしてはならないと、提案された法律でも規定されている。これには、Snapchatが行ったように、AIパートナーや一般的な会話型チャットボットを未成年者の連絡先リストの上位に挙げないことが含まれるという。

この提案は、未成年者の健康、安全、福祉に重大なリスクをもたらすと委員会がみなしたAIコンパニオンおよび一般的な会話型チャットボットに限定されている。ブリュッセルに本拠を置くヨーロッパの法律擁護団体デジタル・ライツの政策顧問シメオン・デ・ブラウワー氏は、チャットボット対策を歓迎しているが、「若者に限定するのは意味が無い」と『WIRED』に語った。 「中毒になるように設計された AI、感情的な依存を生み出す AI、デフォルトで有効化されてユーザーにプッシュされる AI 機能から、私たち全員が守られるべきではないでしょうか?」 EUは、今年後半に導入される予定のデジタル公平法により、依存率の大幅な削減が期待されると述べている。

『WIRED』が入手した文書の中で、欧州委員会はチャットボットへの依存が子供の発達や他人との関係に悪影響を与える可能性を懸念していると述べている。また、チャットボットが未成年者にメンタルヘルスや自己啓発などの危険なアドバイスを与えることについても懸念しており、これが危険な行動を形成し、助長する可能性があるとしている。

ウルズラ・フォン・デア・ライエン大統領は木曜日の記者会見で、「プラットフォームは子どもたちの精神的健康に急速に影響を与えている」と述べた。フランス、ドイツ、スウェーデン、アイルランドを対象としたイプソス BVA の調査によると、11 歳から 25 歳までのヨーロッパ人のほぼ半数が、親密な事柄や個人的な事柄について AI チャットボットと話し合ったことがあるとのことです。オーストラリアと英国はいずれも、未成年者のソーシャルネットワークへのアクセスを禁止することで、未成年者のチャットボットへのアクセスを制限しようとしている。

また、チャットボットによって生成される偽物の深刻な害も強調しており、フォンデアライエンは水曜日の一般教書演説で「少女たちが自分の写真を性的に生成された画像に使用されることを受け入れてはならない…欧州には行動する力がある」と示唆した。 EUのAI法は8月以降、合成コンテンツにAI生成のラベルを付けることを義務付けているが、現時点ではこの規則は商用目的で生成された偽コンテンツにのみ適用される。

同委員会はまた、デジタルによる気晴らしが若者の基本的なスキルの低下の原因だとしている。 AI チャットボットを学校の勉強に使用していると言う子供たちは、使用していない子供たちよりもテストの得点が低くなります。 研究 経済協力開発機構の対象国は91カ国。独立系ネットワーク EU Kids Online の研究者らは、認知的影響とスキルの低下についての懸念を示し、「GenAI ツールの設計から子どもの権利が欠如していることを明らかにしている」と述べています。 書きました 報告書の中で。