「Google 検索」に偽のポルノ画像対策 ～ディープフェイク被害を抑止

同社のブログ

　米Googleは8月1日（現地時間）、「Google 検索」に性的な偽コンテンツ（ディープフェイク）への対策を盛り込んだと発表した。勝手にディープフェイクを作られ、拡散された場合にコンテンツを削除しやすくしたほか、検索結果の上位に表示されないようにランキングシステムを変更しているという。

削除リクエスト

　Googleは以前より偽のポルノ画像を「Google 検索」の結果から削除する仕組みを整えているが、今回のアップデートではそれがより簡単に、より広範囲に対処できるようになっているという。

　もしこうしたディープフェイク被害にあった場合は、削除リクエストを行えばよい。Googleの検索システムは、当該画像だけでなく、それに似た検索結果すべてをフィルタリングしようと試みる。同社のポリシーに基づき画像が検索から削除されると、システムは当該画像と重複する画像がないかスキャンし、見つかった場合には該当する画像も削除する。

　この保護機能は、ポルノ以外のコンテンツですでに効果があると実証されており、ディープフェイク被害へより迅速に対処できると期待されている。

ランキングシステムの改善

　加えて、同社はユーザーの報告をもとに検索結果から有害なコンテンツを削除するプロセスを改善しているとのこと。偽のポルノコンテンツを検索する際に使われやすいキーワードを利用した場合、たとえばそれに関連するニュース記事のように高品質かつ露骨でないコンテンツが存在する場合には、代わりにそれが表示されるようになっているという。今年行ったアップデートでは、実際にそうした種類のキーワードで露骨な画像が結果に表示される回数が70％以上減少しているとのこと。

　一般に、ポリシー違反で「Google 検索」の検索結果から削除されるページの多いサイトは、品質が低いとしてランクが下げられてしまう可能性が高い。検索結果の上位に表示されたい場合は、そうしたコンテンツをホストすることを避けるべきだ。

　またこれと並行し、俳優のヌードシーンなど合意に基づくコンテンツと、合意のない合成画像を区別する仕組みも開発しているとのこと。これは技術的に困難の伴う取り組みだが、正規のコンテンツをより適切に表示し、露骨な偽コンテンツの順位を下げるために継続的な改善を行うとしている。