2019年10月から2020年3月にかけて実施された、コミュニティ規範の実効性に関する調査――Facebookのポリシー運用の実効性に関する調査を含む――の結果がまとめられたレポートが公開された。選挙妨害の防止やアプリ内でのフェイクニュース拡散防止、危険なコンテンツからユーザーを守るための人員増強や技術強化は、ここ数年をかけて進められてきたものだ。そのため、COVID-19の感染拡大という緊急事態が起きた際にも、技術基盤と対応体制はすでに整っており、ポリシー違反コンテンツの調査を続けることができた。COVID-19の影響で調査担当者が在宅勤務に移行する判断が下された際には、コンテンツの自動検知システムへの依存度がより高まった。その中でFacebookのチームメンバーは、最も危険性が高く影響の大きいコンテンツを優先的に削除するよう努めた。今回公開されたレポートは、2020年3月までに完了した対応内容についてまとめたものだ。
したがって、このレポートはパンデミック期間中の体制強化による効果のすべてを反映しているわけではない。今後公開予定のレポートでは、こうした対応の効果について記載され、可能な限り透明性を持って取り組みを公表していく方針が示されている。例として、アカウントの削除については1週間以内に、異議申し立てについては常時対応できる体制を整えつつあるとしている。そのため、異議申し立ての件数自体は今後減少していくと見込まれている。危険性の高いコンテンツを優先的に削除する運用のため、実施した対応の効果を、ポリシー違反コンテンツの拡散状況をもとに単純に測ることはできない。今回のレポートは、ユーザーへの報告を待たずにポリシー違反コンテンツを事前にスキャン・削除する技術強化の効果に関するものだ。
画像出典 https://bit.ly/3eLTO9F
今回のレポートには、Facebookの12項目のポリシーとInstagramの10項目のポリシーに関する調査結果が含まれている。Instagramについては、ヘイトスピーチ、アダルト・性的嫌がらせ、暴力、公開に適さない画像や攻撃・いじめといった4分野のポリシーに関する事実が記載されている。Instagram上でこれらの問題について初めて異議を申し立てたユーザーの数や、自動検知に基づいて編集・対応が取られた件数についても、このレポートで共有されている。FacebookとInstagram双方でヘイトスピーチの拡散を食い止めるための取り組みについても記載されている。
また、ユーザーからの報告を待たずにポリシー違反コンテンツを検知する技術の改善にも取り組んでいる。これにより、多くのポリシー違反コンテンツを事前に削除でき、実際に閲覧するユーザーの数を最小限に抑えられているという。
画像出典 https://bit.ly/3eLTO9F
Facebookは既存の技術をさらに強化し、新しい言い回しによるヘイトスピーチについても事前にスキャン・削除できるようにした。ヘイトスピーチの高度検索精度は、直近4週間の連続比較で8ポイント、1年間の比較では20ポイント向上した。その結果、コンテンツの調査対応に加え、該当コンテンツの90%がユーザーからの報告前に検知されるようになった。事前検査技術の向上により、2019年第4週と比べて2倍にあたる880万件の薬物関連コンテンツが削除された。
Instagramでも技術面の改善が進み、自殺や自傷に関するコンテンツをより多く検知できるようになった。その結果、対応済みコンテンツの件数は40%増加し、前回レポートと比較して12ポイント向上した。2019年第4四半期最終週から2020年第1四半期最初の週にかけて150万件のコンテンツが削除され、これはInstagram上のいじめの影響について初めて公表されたデータとなる。コミュニティ規範の実効性に関するレポートは今後も継続的に公開される予定で、次回は8月に公開される見込みだ。