編集部
生成AIの進化により、実在する人物に似た合成ヌード画像が急増している。
この問題に対処するため、マイクロソフトは新たにBing検索からこれらの画像を除去するツールを導入した。
StopNCIIとの協力により、被害者は画像のデジタル指紋を作成し、プラットフォーム上で削除を申請できるようになった。
ディープフェイク問題の拡大とその深刻な影響
近年、生成AI技術の進化により、実在する人物に似たディープフェイクポルノ画像の拡散が急速に進んでいる。この問題は特に、被害者が意図せず性的なコンテンツに巻き込まれるという点で大きな社会的影響をもたらしている。被害者の多くは、自己の名誉を傷つけられ、精神的なダメージを受けるだけでなく、インターネット上に無許可で拡散された画像の削除に長期間苦しむことになる。
ディープフェイク技術は、主にSNSや画像検索を通じて拡散されるため、対策の遅れが被害を増幅させている。特に、検索エンジンで簡単にアクセスできる状況は、被害者のプライバシーを深刻に侵害している。多くのプラットフォームはこの問題に対応しているが、国際的な法規制が追いついていないため、根本的な解決には至っていない。
このような状況下で、企業や技術者が取るべき対策は急務である。ディープフェイクポルノが一度拡散されると、被害者の画像は永続的にオンライン上に残る可能性が高く、その影響は計り知れない。
StopNCIIとの連携で実現した画像削除ツール
マイクロソフトは、ディープフェイクポルノの被害者を救済するため、StopNCIIと連携し、Bing検索エンジンから問題の画像を削除するツールを提供した。StopNCIIはリベンジポルノの防止を目的とした非営利団体であり、被害者はデジタル指紋（ハッシュ）を作成することで、問題の画像がオンライン上で再び拡散されるのを防ぐことができる。
このツールを使うことで、被害者は自身のデバイス上で生成されたハッシュをStopNCIIのデータベースに登録し、Bingを含む複数のプラットフォームで画像が検出された際に自動的に削除される仕組みである。マイクロソフトはこのシステムを通じて、既に26万8千件以上の問題画像を削除したと発表している。
従来、マイクロソフトはユーザーが個別に画像を報告する形式のツールを提供していたが、この方法では問題が根本的に解決されないことが指摘されていた。StopNCIIとの協力により、効率的かつ自動的に対応が可能となったことで、被害者の負担は大きく軽減される見込みである。
他プラットフォームとの協力と現状の課題
マイクロソフトだけでなく、他の大手プラットフォームもStopNCIIとの連携を強化している。具体的には、Facebook、Instagram、Threads、TikTok、Snapchat、Reddit、Pornhub、OnlyFansなどが同様のハッシュ技術を導入し、リベンジポルノやディープフェイクポルノの拡散を防ぐための措置を取っている。これにより、複数のプラットフォームでの対応が可能となり、被害者が画像削除を求める際の煩雑な手続きが大幅に緩和されている。
しかし、全てのプラットフォームがStopNCIIに参加しているわけではない。例えば、Googleは画像削除ツールを提供しているものの、StopNCIIとの連携には至っていない。これにより、Google検索エンジンでの対策が遅れていることが問題視されている。Wiredの調査によれば、韓国では2020年以降、Googleユーザーから17万件もの不適切な性的コンテンツに関する報告がなされている。
技術的な進歩が進む一方で、対応する法制度やプラットフォーム間の協力が不十分である現状は、被害者にさらなる負担を強いる結果となっている。今後、包括的な対応策が求められる。
米国での法整備の遅れと新たな法的対応
ディープフェイクポルノ問題に対する法的対応は、米国内では州ごとに異なり、統一的な法律がないのが現状である。AI技術を用いたディープフェイクに関する法整備が遅れているため、被害者が訴訟を起こす際に頼るべき法的基盤が弱い。特に、未成年をターゲットにした「脱衣」サイトの問題は、教育現場やコミュニティにも深刻な影響を与えている。
サンフランシスコでは、2024年8月に16の「脱衣」サイトを摘発するための訴訟が起こされたが、これはあくまで地方レベルでの取り組みに過ぎない。Wiredによると、米国では23州が非同意ディープフェイクに関する法律を制定しているが、依然として9州では法案が否決されている。こうした状況は、全米規模での対応が遅れる一因となっている。
法的な取り組みが進まない中で、プラットフォームや技術企業による自主的な対策が被害者を支える主要な手段となっている。今後、連邦レベルでの法整備が進むことが期待されているが、現時点では被害者が自己防衛を余儀なくされる状況が続いている。