Facebook、悪質コンテンツ排除の取り組みや投稿の削除基準などに関する指針を公表

“困難な問題（Hard Questions）：Facebook上の悪質コンテンツ排除の取り組みの測定について”

　米Facebookは、“困難な問題（Hard Questions）”と題する一連の投稿を日本語で公開した。悪質コンテンツ排除の取り組みや広告主がユーザーの情報をどこまでしることができるか、投稿の削除基準などに関する同社の考えを公表している。

　同社は昨年6月より、“困難な問題（Hard Questions）”という取り組みを行っている。これは、解決や議論が難しい複雑なテーマに対し、自社の指針を公開してユーザーの意見を仰ぐというもので、その内容はテロリズムへの対策、プライバシーと暗号化、フェイクニュースへの取り組みなど、多岐にわたる。

　今回公開された投稿でテーマとなっているのは、“Facebook”における悪質コンテンツ排除の取り組み、“Facebook”の広告主はユーザーデータをどこまで知ることができるのか、ユーザー投稿を削除する際の基準についての3つだ。

　同社は悪質コンテンツを評価する際、ルールに違反しているかよりも、その影響度を重要視しているという。たとえばユーザーがヌード写真を“Facebook”を投稿した場合、“Facebook”は自動検出システムでそれを発見し、削除待ちリストに追加するが、“恋人にふられた男性が腹いせに元恋人のプライベートなヌード写真を投稿した場合”などはその影響度を高く評価し、削除待ちリストでの優先度を引き上げるという。

　また、“Facebook”にあるすべてのコンテンツの表示回数に対して、規定違反コンテンツが何回表示されたかを示す“プレヴァレンス（普及度）”も重視しているという。どれだけ長く残っているかよりも、どれだけ人の目に触れたかを測り、影響力の高い違反コンテンツから優先的に対応しているとのこと。これに加え、機械学習をはじめとするテクノロジーの活用やコンテンツをチェックする人員の増員で効率と精度を高めるとしている。

　“Facebook”の広告主はユーザーデータをどこまで知ることができるのかについては、先日公開された同社の解説に詳しい。“Facebook”の収入は広告に大きく依存しているが、オンライン広告には常にプライバシー保護の問題が付きまとう。今後の継続的な取り組みに期待したい。

　最後のユーザー投稿を削除する際の基準については、興味深い具体例がいくつか挙げられている。

　たとえば、“Facebook”においてヘイトスピーチは禁止されているが、その一方で物議を醸すような意見・考えについても議論できるべきであるとして、宗教法人や政党を批判・糾弾する内容の投稿は許可されている。それらを峻別するのは難しいが、“Facebook”では人種、民族性、国籍、信仰している宗教、性的志向、性別、性自認、あるいは深刻な障害や病気といった“保護特性”を定め、直接的な攻撃を禁止しているという。一例として、“同性婚は罪である”という投稿の場合、同性婚という制度が対象であれば表示が許可されるが、特定の同性婚のカップルを対象とした場合は削除の対象となるというケースが挙げられている。

　また、ヌード画像については厳しい制限が設けられている。しかし、政治的抗議活動の一環としてヌードが用いられている場合は規定違反とはならない。授乳や出産などの画像や乳がんの意識向上キャンペーンなど医療を目的とした画像で胸が写っている場合も同様に削除対象にはならない。

　ユーザー投稿を削除する際は“コミュニティ規定”と呼ばれるルールが適用されるが、ルールは単純に適用されるわけではなく、投稿の“文脈”次第では削除の対象にはならないというわけだ。