欧州委員会、xAIのGrok AIチャットボットに対する正式手続きを開始

欧州委員会は、イーロン・マスク氏のソーシャルメディアプラットフォームXに対して正式な手続きを開始しました。同プラットフォームの人工知能チャットボットGrokが、許可なく実在の人物の性的な画像を作成していたことが判明したためです。その中には子供の写真も含まれていました。

Xのユーザーは、Grokに依頼して実際の写真のAI加工版を作成していました。先週発表されたCentre for Countering Digital Hateの調査によると、Grokはわずか数日間で女性と子供のディープフェイク画像を約300万枚作成しました。

この論争は、複数の国で調査を求める声を引き起こしました。アイルランドでは、複数の政府閣僚が対応としてXアカウントを閉鎖しました。

統一アイルランド党出身の欧州議会議員レジーナ・ドハティ氏は、今朝発表された声明で、委員会の同社に対する措置を確認しました。彼女は正式な調査を開始する決定を支持すると述べました。

「AIシステムが女性や子供に害を及ぼす方法で使用されているという信頼できる報告が浮上した場合、EU法を遅滞なく検討し、施行することが不可欠です」とドハティ氏は述べました。

彼女はさらに、この事例はプラットフォームがリスクをチェックし、違法で有害な素材の拡散を防ぐという法的責任を果たしているかどうかについて、深刻な懸念を提起していると付け加えました。

ドハティ氏は、調査が実際の結果をもたらす必要があることを強調しました。

「EUで事業を行う企業は法律の上に立つことはできません」と彼女は述べました。

彼女はまた、この状況が新しいAI技術の規制と監視方法における大きな問題を示しており、EUレベルでさらなる措置を講じることを求めていると指摘しました。

「この事例は、AI法が生きた法律であり続けなければならない理由を強調しています。執行や監視にギャップがあることが明らかになった場合、それに対処することは私たちの責任です。深刻な害が発生した場合、EU法はリアルタイムで執行可能でなければなりません」とドハティ氏は述べました。

グリーンランド危機により調査が遅延

ドイツのニュースソースHandelsblattによると、委員会は先週月曜日にEUのデジタルサービス法に基づいて手続きを開始する予定でしたが、ドナルド・トランプ米大統領によるグリーンランド買収の脅威に対処する中で、決定が延期されました。

XがEU規制当局と問題に直面するのは今回が初めてではありません。2025年12月、プラットフォームはデジタルサービス法違反により、EUから1億2,000万ユーロの罰金を科されました。違反には、誤解を招く青いチェックマーク、広告の透明性の欠如、研究者によるプラットフォームへのアクセスの妨害が含まれていました。

トランプ政権の関係者はその罰金について強い言葉を述べました。マルコ・ルビオ国務長官とJD・ヴァンス副大統領は共にそれを厳しく批判し、米国のテクノロジープラットフォームへの攻撃だと呼びました。

リスク評価とコンテンツモデレーションに焦点

最新の調査は、XがAIチャットボットのリスクを適切に評価したかどうか、および有害なコンテンツの作成と拡散を防ぐために十分な措置を講じたかどうかに特に焦点を当てています。デジタルサービス法は、大規模なオンラインプラットフォームに対し、違法なコンテンツやユーザーへの害に関連するリスクを特定し、対処することを求めています。

このような短期間にこれほど大量の不適切な画像が急速に生成されたことは、デジタル安全擁護者や議員の間で警鐘を鳴らしました。

この状況は、EU規制が新興AI技術をどのように扱うかの試金石となっています。AI法は人工知能システムを管理するために可決されましたが、この事例はオンラインプラットフォームの責任をカバーするデジタルサービス法の下で追及されています。

調査は、Xに対する追加の罰金やGrokの運用方法の変更要件につながる可能性があります。委員会は、デジタルサービス法の重大な違反に対して、企業の世界年間収益の最大6パーセントまでの罰金を科す権限を持っています。

Xはまだ新しい調査について公式にコメントしていません。他の国々が独自の規制対応を検討する中、同社の状況への対応は注視されるでしょう。複数の国がすでに、チャットボットが不適切な画像を作成する能力に対処するための緊急措置を要求しています。

暗号ニュースを読むだけではなく、理解しましょう。ニュースレターにご登録ください。無料です。