違反コメント投稿を繰り返すユーザーに掲出する投稿時注意メッセージも変更し法的リスクを明示するなど、より強い表現で警告

ヤフー株式会社は本日、日本最大級のインターネットニュース配信サービス「Yahoo!ニュース」が提供する「Yahoo!ニュース コメント」（以下、コメント欄）にて、ユーザーによる違反コメントの報告を促進するために、違反報告の導線をわかりやすい形に変更しました。また、違反コメント投稿を繰り返すユーザーに向けて掲出している投稿時の注意メッセージを変更し、違反コメントを続けた場合に起こり得る法的リスクを明示するなど、より強い表現を用いて警告します。

背景と概要

「Yahoo!ニュース」は、ユーザーがニュースに関する多様な意見を共有しあい、新たな視点を得るきっかけを創出することを目的として、コメント欄を2007年から提供しています。「Yahoo!ニュース」では、以前より誹謗中傷などの内容を含む投稿を禁止し、コメントポリシー（※1）に違反投稿の具体例をわかりやすく明示しています。24時間体制の専門チームによる人的なパトロールに加えて、自社で開発した「深層学習を用いた自然言語処理モデル（AI）」（※2）などのテクノロジーを駆使しながら、誹謗中傷をはじめとする違反コメントを1カ月で約35万件削除するなどの対策を行っています。

また、「Yahoo!ニュース」ではコメント欄提供開始当初より、ユーザーからの投稿がコメントポリシーなどのガイドラインに違反する場合（※3）、他のユーザーが違反報告できる機能を設けています。違反報告された投稿については、専門のパトロールチームが優先的に確認し、慎重に判断したうえで、違反にあたる場合は削除するなどの対応を行っています。

「Yahoo!ニュース」のコメント欄では現在、毎月平均約17万件のコメントがユーザーから報告されています。また、実際に削除された投稿は、学習データとして違反コメント対策に用いているAIの精度向上に活用するなど、ユーザーの協力がコメント欄の健全化につながっています。

このたび「Yahoo!ニュース」では、より安心して利用できるコメント欄の実現を目指すため、ユーザーからこれまで以上に違反コメント報告の協力を得られるよう、違反報告の導線をわかりやすい形に変更しました。加えて、投稿時に掲出している注意メッセージを、これまでよりも強い表現に変更しました。

本日より変更した取り組みの詳細は以下の通りです。

ユーザーからの違反コメント報告を、わかりやすい導線に変更

「Yahoo!ニュース」では、これまで以上にユーザーからの協力を得られるよう、本日より、違反コメントを報告するまでの導線をわかりやすい形に変更しました。

これまでは、各コメントの右上に表示されている「…」のアイコン（図1の左側）をクリックすると、違反コメントを報告するためのリンク「このコメントを報告する」（図2）が表示される仕様になっていました。このたび、「…」のアイコンを「非表示・報告」という表示（図1の右側）に変更したことで、違反コメント報告までの導線がよりわかりやすくなりました。

【図1】
これまでのアイコン（左側）と変更後のアイコン（右側）

【図2】
アイコンをクリックすると「ユーザーのコメント非表示設定」と「コメントの報告」のリンクが表示されます。

【図3】
違反報告画面では、報告する理由を選び、任意で詳細を記入して送信できます。

投稿時の注意メッセージを変更し、法的リスクも明示

「Yahoo!ニュース」では、違反コメントを複数回にわたって繰り返し投稿した悪質なユーザーに対する「投稿停止措置」を、2018年6月から実施しています（※5）。
また、2020年7月より、違反コメントの投稿を事前抑止するために、AI判定モデルを用いて、違反と判定されたコメントを複数回投稿しているユーザーに対して注意メッセージの掲出を開始し、一定の抑止効果が現れています（※6）。

事前抑止の効果を高めるため、2021年10月にこの注意メッセージの表現を変更しましたが（※7）、本日よりデザインとメッセージ内容をさらに強い表現へとあらためました。違反コメントを続けた場合に起こり得る法的リスクを明示するため、「発信者情報開示請求等を受けた場合、法令上の手続きにのっとり開示を行う場合があります」という文言を追加するなど、具体的かつわかりやすい形でユーザーへ警告します（図4）。

また、通常のコメント投稿画面においても、「Yahoo!ニュース」としてユーザーにどのようなコメントを投稿してもらいたいかを伝えるとともに、多くのユーザーがコメントポリシーを確認する機会を増やすため、表示や文面を変更しました（図5）。

【図4】
変更前（左側）と変更後（右側）の注意メッセージ

【図5】
変更前（左側）と変更後（右側）の通常のコメント投稿画面

※どちらの変更も、「Yahoo!ニュース」アプリでは追ってアップデート予定です。

「Yahoo!ニュース」は今後も、コメント欄で投稿される多様な考えや意見によって、ユーザーがニュースに対する興味や多角的な視点を持つきっかけを提供するとともに、日本のインターネットにおける健全な言論空間を構築し、より良い社会の実現に向けて全力を尽くしていきます。

※1：Yahoo!ニュース コメントポリシー（2021年3月25改定）
※2：大規模深層学習モデルによるYahoo!ニュース「不適切コメント」対策（Yahoo! JAPAN Tech Blog）
※3：ガイドライン違反投稿とは、以下の規約やルールに反するものを指します。
・利用規約
・Yahoo!ニュース コメントポリシー
※4：特定のユーザーのコメントを非表示にする（Yahoo!ニュース ヘルプページ）
※5：Yahoo!ニュースのコメント機能　アカウントの投稿停止措置について（2018年6月12日発表）
※6：Yahoo!ニュースにおけるAIを活用した投稿時注意メッセージの掲出効果について（2021年2月16日発表）
※7：Yahoo!ニュース、コメント欄の健全化に向けた取り組みを強化（2021年10月19日発表）

関連リンク

●ヤフー株式会社
●Yahoo!ニュース、コメント欄をより健全化するためユーザーからの違反コメント報告を促進