オンラインゲームの有害行動対策はなぜ難しいのか――通報、制裁、誤BAN、理由開示を一つの設計にする

はじめに：同じ通報ボタンの先で、別の仕事が走っている

対戦の終盤、味方が明らかにあり得ない速さで移動し、敵を壁越しに追っている。これは不正プログラムを疑う通報である。その直後、別の試合では、ミスをした初心者へ味方がボイスチャットで罵声を浴びせ、試合放棄を促す。こちらも通報である。

画面上では同じ「報告する」ボタンに見えるが、運営が受け取る問題は同じではない。前者は、サーバー上の移動値、入力、クライアント整合性といった記録から、ルール違反を比較的機械的に確定できる場合がある。後者では、発言の前後、反復性、相手との関係、試合中の役割、意図を読まなければならない。死亡回数が多いプレイヤーは、わざと負けようとしているのか、単に慣れていないのか。回復をしない支援役は、寄生なのか、戦況を誤ったのか。ログだけでは決まらない。

本稿は、この 判定可能性の非対称 を出発点に、ゲーム内で起きる対人的な有害行動のモデレーションを扱う。チートの技術的な検知と対抗の歴史は『オンラインゲームのアンチチート技術：歴史・現状・開発者の判断軸』、SNS・Discord・フォーラムなどゲーム外コミュニティの運営は『プレイヤーとともに作るコミュニティ：公式SNS・Discord・フォーラム運営ガイド』、運営の仕様変更を起点とする炎上は『プレイヤーと開発元のコミュニケーション：炎上対応と信頼回復の実践知識』で扱う。本稿の焦点は、ゲーム内の通報から制裁、そして「なぜ処分されたのか」をどこまで伝えるかにある。

「暴言でBANされた」という話だけが荒れやすいのも、この差に由来する。外部の観測者には、発言の全体、過去の警告、複数試合での反復、当事者からの申立ては見えない。一方、処分された側には、理由が曖昧であれば誤判定に見える。運営はプレイヤーの安全と、検知・処分の回避を防ぐ必要の間に立つ。

有害行動は一つのカテゴリではない

ゲーム内の有害行動は、少なくとも四つに分けて考えると、必要な証拠と対応が見えやすくなる。

このうち、代行やブースティングは、規約で禁止された取引・アカウント利用として扱える部分があり、不正行為に近い。しかし「強い友人が同席して勝った」「家族が同じ端末を使った」といった説明が混じるため、やはり単一の数値だけで確定させるべきではない。

意図的な妨害プレイは、特に難しい。たとえば、初心者が危険な地点で何度も倒れ、役割に必要な行動をしなかったとしても、それだけで故意の妨害とはいえない。反対に、開始直後から操作を止め、味方への侮辱とともに同じ行動を繰り返すなら、意図を推測する根拠が増える。判定単位は「この1試合で下手だったか」ではなく、試合内の経緯と複数試合にわたるパターンである。

Riot Gamesも、AFKのような離席は試合ごとの監視で扱いつつ、意図的な無謀行動は単に上手くプレイできていない場合との区別が難しいため、複数のデータ点を用いるとしている。[1] これは特定タイトルの実装をそのまま移植すべきという話ではない。行動の結果だけではなく、誤判定を避ける証拠の層を設計する必要がある、という実務上の示唆である。

図：一つの通報窓口の先で、確定しやすい不正と、文脈を読む必要がある有害行動を分けて扱う。

検知は三層で考える：通報、機械、人手

有害行動の対策は、単一のAIや通報件数で完結しない。実務では、次の三層を組み合わせる。

1. ユーザー通報：被害の入口であり、判決ではない

通報は、機械には見えにくい出来事を運営へ届ける入口である。特に嫌がらせ、つきまとい、意図的な妨害は、被害を受けた人の視点がなければ優先順位を付けにくい。ただし、通報数をそのまま有罪票として扱うと、徒党を組んだ報復通報、負けた試合後の八つ当たり、人気配信者の視聴者による集中通報に弱くなる。通報されない被害もある。報復を恐れる人、通報画面を見つけられない人、何を証拠にすればよいか分からない人の経験は、件数に表れない。

したがって、通報は制裁の直接条件ではなく、証拠を自動収集してレビューの優先順位を付けるシグナルとして設計する。VALORANTの公式説明も、通報を追跡して処分に使う一方、通報された人が直ちに処分されるわけではなく、反復性と重大性に応じて段階的な制裁を行うとしている。[2]

2. 機械検知：速さのための層であり、文脈の代用品ではない

テキストなら、禁止語、伏せ字、記号置換、過去の違反、送信頻度から即時の警告や一時ミュートを出せる。行動ログなら、長時間の無入力、同一地点での反復死亡、試合離脱、異常なマッチング操作をフラグにできる。ボイスも、許諾と利用目的を整えたうえで、報告に紐づく音声を評価する方式があり得る。RiotはVALORANTで、ボイスの違反報告に紐づけて録音・評価する構想と、偽陽性・偽陰性を訂正する仕組みの必要性を説明している。[3]

自動検知を、制裁ではなく通報の生成そのものへ使う例もある。Fortniteは、自傷、児童の危険、現実世界での暴力の脅迫といった重大な類型を自動的に検出して通報を生成し、違反が確認された場合には法執行機関への連絡とアカウント停止に進むとしている。[4] 重大性の高い一部の類型だけを自動通報の対象とし、残りは人の通報に委ねるという切り分けである。

しかし機械検知は、「暴言らしい文字列」と「相手を害した会話」を同じものにはできない。日本語では、ひらがな・カタカナ・漢字・半角全角・伏せ字・隠語が混在し、単語だけのフィルタは回避されやすい。反面、文脈を広げすぎるモデルは、ゲーム内の固有名詞、仲間内の会話、方言を誤って拾う。検知モデルは制裁を自動確定する装置ではなく、確信度に応じて、即時の安全措置、レビュー待ち、分析用の三つへ振り分ける装置として置く。

3. 人手レビュー：最終判断の層であり、無限には増やせない

人手レビューは、リプレイと会話の前後を読み、意図の推認を慎重に行える。代わりに、件数が増えるほど遅くなり、モデレーターは暴言や脅迫的な内容へ継続的に触れる。レビュー担当者の心理的負荷、研修、二次判定、休憩、エスカレーションは、運営予算の外側に置けない。

規模の感覚をつかむには、Riotが公表した数字が分かりやすい。2021年、同社がパブリッシングを行う地域の全タイトルへ寄せられた報告は月平均240万件、年間では30億件弱に達した。仮に全従業員が1年365日この審査だけを仕事にしたとしても、1人が1分あたり6件を処理し続けなければ追いつかない規模である。[1] 人手を増やして解決する問題ではない、という前提から設計を始める必要がある。

よって、閾値の設定は「精度を上げる」だけでは済まない。誤検知を恐れて閾値を高くすれば、被害の継続を許す。見逃しを恐れて低くすれば、無実の利用制限と異議申立てが増える。どちらをどの違反で優先するかを、制裁の重さごとに決める必要がある。たとえば、重大な脅迫の疑いは人手確認を急ぐ一方、軽度のチャット違反は暫定ミュートと通知で被害経路を先に切る、といった分け方である。

図：通報は判決ではなく、証拠の収集と優先順位付けの入口になる。

通報画面は、判定のための入力装置である

カテゴリは「選ばせる数」と「使える情報」の間に置く

通報カテゴリを細かくすると、レビュー担当者は最初から見るべき証拠を絞れる。だが、プレイヤーが「暴言」「嫌がらせ」「妨害」「その他」の違いを一瞬で正しく選べるとは限らない。細かすぎる分類は誤選択を増やし、結局は「その他」に流れる。粗すぎる分類は、全件を同じキューで見ることになり、緊急性を失う。

実用的なのは、プレイヤーに見せるカテゴリを少数の平易な言葉にし、内部では自動添付された証拠で細分化する方法である。たとえば「暴言・嫌がらせ」を選べば直近のチャット、対象、時刻を添付し、「試合妨害」を選べば試合ID、役割、離席区間、リプレイへの参照を添える。入力欄には、自由記述を必須にせず、「いつ、誰に、何が起きたか」を短く補える形にする。プレイヤーへ証拠収集の専門知識を要求しないことが重要である。

ボイスは、後から「あの場で何を言ったか」を再現しにくい。Fortniteのボイス通報は、端末側で直近5分を循環保存し、利用者が通報した場合だけ音声を証拠として提出する仕組みを採っている。[4] これは一つの実装例であり、録音範囲や保存方法に唯一の正解があるわけではない。それでも、証拠が存在しないボイス通報をどう扱うか、常時保存を避けるなら何をいつまで端末に置くかを、機能追加の時点で決める必要がある。

結果通知は、通報を続けてもらうためのフィードバックである

通報した人に何も返らなければ、「送っても意味がない」と学習される。反対に、処分内容や被通報者の情報を細かく返せば、私的制裁や晒しの材料になる。ここでは、「報告を確認し、対応した」ことだけを返す通知が有効である。Riotも、通報先への対応を知らせる場合がある一方、相手のプライバシーを守るため詳細を常に共有するわけではない、と説明している。[5]

この通知は信頼のためだけの装飾ではない。通報後の離脱率、再通報率、同じ被害の再発率を比較すれば、通報画面と対処のどこが機能していないかを測れる。通知を出す場合は、未処分の案件に「対応済み」と読める表現を避け、結果通知と受付通知を明確に分ける。

制裁は「アカウントを消すか」だけで決めない

段階を設ける理由は、妨害する人の多くが常習者ではないからである。Riotは、ゲーム内で他者の妨害をする人のうち95%はたまたまそうしただけで、警告や軽いペナルティで再発を防げる一方、残る5%が継続的かつ故意に悪質行為を行っていると説明している。[1] 制裁テーブルとは、この多数派を戻すための装置と、少数の常習者を排除するための装置を、一つの表へ同居させる仕事にほかならない。

まず、他者に触れる経路を切る

暴言やボイスでの嫌がらせに対して、最初からゲームへの全面アクセスを止める必要があるとは限らない。チャット、ボイス、フレンド申請、パーティ招待、マッチング中のピンなど、他者へ害を与える経路を一時的に制限すれば、被害を減らしながら、プレイそのものは残せる。この機能制限型の制裁には、処分の可逆性を高め、誤判定時の損害を小さくする利点もある。

Riotはコミュニケーションツールを一時停止する「Comms Mute」を、プレイから排除せずに妨害を抑える制裁として説明している。[5] EAも、違反の重大性に応じてゲームの一部、ゲーム全体、またはアカウントへのアクセスを期間付きまたは恒久的に制限するとしている。[6]

制裁テーブルは、違反類型と累積を分けて定義する。典型的には、次のような段階になる。

違反履歴を永久に積み上げれば、何年も前の軽微な言動で重い処分へ進みうる。反対に、短すぎる回復期間は反復者に学習させない。減点の回復期間、同じ違反と別の違反の重み、警告を見たかどうかは、あらかじめ制裁テーブルに入れる。例外的に即時の重い制裁へ進む条件も、脅迫、差別的な重大違反、なりすまし、組織的な妨害のように、証拠基準とともに定義する。

もう一つ決めておくべきなのは、制裁をアカウント単位で考えるか、人単位で考えるかである。Riotは、ペナルティはアカウントではなくプレイヤーに責任を負わせる設計であり、本人に紐づく別アカウントへも適用されうると明示している。[5] 制裁を回避するためのサブアカウント作成を想定するなら、この方針を規約とヘルプへ事前に書いておかなければ、適用した時点で「無関係なアカウントまで巻き込んだ」と受け取られる。そして端末単位の遮断まで踏み込むなら、共用端末や家族利用によって無関係な利用者を巻き込む可能性を、証拠基準とセットで検討しておく必要がある。

図：制裁の重さを段階化し、回復期間と高い証拠基準を組み込む。

課金済みアカウントを止めるなら、資産と契約を別に考える

アカウント停止は、ログインだけでなく、購入済みアイテム、ゲーム内通貨、シーズン報酬、フレンド関係、競技記録へのアクセスも止める可能性がある。そのため、制裁の設計は「規約に当社の裁量と書けば終わり」ではない。返金、未使用の有償通貨、共有アカウント、プラットフォーム決済、地域ごとの消費者保護を、ゲームの運営・CS・法務・決済担当で分けて確認する必要がある。

日本でも、広範な裁量で利用停止・登録抹消を許すデジタルサービスの規約が、消費者契約法との関係で問題となった例がある。消費者庁が公表した差止請求の協議事例では、「不適切と判断する行為」などを根拠に、事前通知なく停止・抹消できる条項が争点となった。[7] この事案は、適格消費者団体からの申入れののち、国民生活センター紛争解決委員会への和解仲介申請を経て、申請の趣旨に沿う対応がなされたとして2024年3月26日に終了している。[7] これはゲームのアカウント停止一般について結論を示すものではない。しかし、裁量条項は運営上の判断余地を残す一方、証拠、手続、適用の一貫性を不要にする万能の盾ではないと理解すべきである。

誤判定を前提に、異議申立てと原状回復を設計する

異議申立ての窓口を置けば、誤判定を訂正できる。しかし同時に、ほぼすべての処分に申立てが来る可能性があり、CSとレビュー担当の総量を増やす。ここで「申立てを受け付けるか」だけを決めても足りない。誰が一次判定と別に再審査するか、追加資料をどこまで受け取るか、いつまでに結果を返すか、同じ案件を何回再申立てできるかを決める必要がある。

EAのPenalty Historyは、利用者が違反、処分種別、申立て状況を確認し、個別の処分に対して異議申立てを出せる仕組みである。再審査の結果として、元の処分を維持するほか、期間を短縮する、処分を取り消すという選択肢を示している。[6] このように、申立てを「お問い合わせ」ではなく、処分レコードに結び付いた再審査工程として実装すると、対応の重複を減らし、後から一貫性を監査しやすい。

処分を覆したときの仕事も、解除ボタンを押して終わりではない。ランクが下がった、参加できなかったイベント報酬がある、期限付きアイテムが失効した、没収やロールバックが実行された、といった状態が残る。事前に、次のいずれを原状回復の対象にするかを決める。

• 停止中に失われたログイン報酬、シーズン進行、イベント参加資格
• 不当に没収・ロールバックされたゲーム内資産
• ランク、対戦履歴、マッチング制限
• 外部プラットフォームの購入・返金履歴に関わる問い合わせ

すべてを自動で元に戻せない場合もある。その場合でも、回復不能な項目、代替補填の基準、手動判断を要する条件をCS向けに文書化する。異議申立ては正しさのためだけでなく、誤りが起きたときにサービスの状態を戻すための運用設計である。

本題：制裁理由はどこまで開示すべきか

有害行動のモデレーションで最も難しい公開設計は、個別の制裁理由である。

全面開示は、説明責任を果たしても検知を弱くする

処分の根拠となった発言、リプレイの時刻、閾値、通報数、モデルの特徴量、過去違反の重みをすべて示せば、利用者は反論しやすくなる。しかし、その情報は回避の手引きにもなる。「この表記ならフィルタを抜ける」「この回数までなら重くならない」「この行動だけはリプレイに残さない」といった最適化を促す。被害者や通報者の情報、第三者の発言も露出しうる。

全面非開示は、誤BAN疑惑への燃料になる

反対に、「規約違反のため」「当社の判断により」とだけ通知すれば、運営は検知ロジックを守りやすい。だが、処分された側は何を直せばよいか分からず、外部には恣意的なBANに見える。とりわけ、対人的な有害行動は文脈が重要であるため、短い切り抜きだけが拡散すると、運営がどの事実を見たかを説明できないまま対立が増幅する。

現実的な中間解は、次の三層である。

個別事案をSNSで反論しないことと、制度を不透明にすることは別である。違反カテゴリだけを通知し、集計化した透明性レポートで、どの問題にどの程度対応しているかを定期的に示す。個別ケースの詳細は、申立て窓口で当事者へ必要最小限に返す。この分担なら、被害者・通報者の安全と検知の有効性を守りながら、運営が何もしていないという不信を減らせる。

RiotのCommunity Pactは、処分に誤りがあり得ること、異議申立てで手動再審査すること、通報者には対応した旨を知らせても処分の詳細は常に共有しないことを明示している。[5] 重要なのは、完全な秘密か完全な公開かを選ぶことではない。誰に、何の目的で、どの粒度まで伝えるかを分けることである。

図：個別通知、通報者通知、透明性レポートは、目的に合わせて開示範囲を分ける。

日本の運営で先に決めるべきこと

日本語のテキストとボイスを扱う場合、英語圏の仕組みを単純に翻訳しても機能しない。表記揺れ、伏せ字、顔文字、ひらがな化、複数の読みを持つ語、ゲーム固有の略称があり、禁止語リストは必ず抜けと誤検知を生む。ルールを日本語で平易に書くこと、報告カテゴリのラベルを実際のプレイヤーテストで検証すること、誤検知のサンプルをレビュー担当へ返すことが欠かせない。

ボイスは、証拠がなければ被害を確定しにくく、常時保存すればプライバシーと保管コストが重くなる。保存対象、保存場所、通報と結び付ける条件、閲覧権限、保持期間、削除手順を、機能仕様とプライバシー告知に揃えておく。個人情報保護委員会は、個人情報保護法が一律の保存期間を定めているわけではない一方、利用する必要がなくなった個人データは遅滞なく消去するよう努めるとしている。[8] 「調査のため」とだけして無期限に残すのではなく、異議申立て可能期間と調査に必要な期間から保持理由を定めるべきである。

公開されている運用にも幅がある。VALORANTのボイス評価では、録音を24時間保持し、その間に通報がなければ削除、通報があれば7日、処分が出た場合は処分期間に応じて最長2年（ブラジルのみ最長7年）保持するとされている。[3] Fortniteでは、提出された音声クリップを14日または制裁期間のいずれか長い方で自動削除し、異議申立てがあれば審査のため最長14日延長、テキストは最長1年としている。[4] 数字をそのまま模倣する必要はないが、通報前、通報後、処分後、申立て中で保持期間を分けるという構造は参考になる。

図：端末と運営のどちらがデータを保持するかを分け、保持期間を異議申立てと調査から逆算する。

未成年の利用者が加害者でも被害者でもあり得る場合は、通常の処分画面だけでは足りない。年齢に応じた分かりやすい警告、保護者向けの機能説明、連絡・通話の初期設定、緊急性の高い通報のエスカレーションを分ける。初期設定そのものを年齢で変える実装もあり、Fortniteでは18歳未満が参加する会話ではボイス通報とテキスト通報が常時オンとなり、18歳以上のみで構成される会話でのみ利用者側が切り替えられる。[4] EpicのCabined Accountsは、一定年齢未満または地域のデジタル同意年齢未満の利用者について、保護者の許可を得るまでボイス・自由テキストチャットなどを無効にする設計を示している。[9] 年齢区分や同意の要件は提供地域・プラットフォームで異なるため、他社の設定を模倣するのではなく、自社サービスの対象年齢、契約、保護者導線、通報後の保護手順を一体で確認する。

おわりに：有害行動対策は治安維持ではなく、ゲームの設計対象である

有害行動対策は、悪い利用者を見つけてBANする最後の窓口ではない。通報画面で何を集めるか、どの証拠を自動で保存するか、機械にどこまで任せるか、他者へ害を与える機能をどう先に止めるか、誤ったときに何を戻すか、理由を誰へどこまで伝えるか。これらはすべて、プレイヤー体験と運用コストを左右する仕様である。

新しくライブサービスへ着任したプランナーは、まず次を確認したい。

• 通報カテゴリは、利用者が迷わず選べ、内部のレビューキューへ必要な証拠を渡せるか。
• テキスト、ボイス、リプレイ、試合ID、行動ログのうち、各カテゴリに何が自動で紐づくか。
• 通報数を有罪票にせず、集中通報や未通報の被害を補う仕組みがあるか。
• 機械検知、人手レビュー、緊急エスカレーションの責任分界と処理時間は決まっているか。
• 警告、機能制限、一時停止、永久停止の条件、累積、回復期間は文書化されているか。
• 誤判定を覆したとき、資産、ランク、イベント、報酬をどこまで原状回復するか。
• 個別通知、通報者への結果通知、透明性レポートで、それぞれ何を開示しないか。
• 日本語の表記揺れ、ボイス証拠の保持、未成年の初期設定と保護者導線を、実装後ではなく仕様段階で検討したか。

そして、件数を積み上げること自体は成果ではない。Riotは、VALORANTで2022年1月にテキスト・ボイスのミュートを40万件超、アカウント停止を4万件超執行した一方で、プレイヤーへの調査ではハラスメントに遭遇する頻度が有意に下がってはいないと述べている。[2] 検知と処分の件数は、環境が良くなったことの証明ではなく、まだ足りていないことの目安として読むべきである。

チートのように機械判定へ近づける領域はある。それでも、対人的な有害行動から文脈をなくすことはできない。だからこそ、判断の曖昧さを隠すのではなく、証拠、再審査、機能制限、開示範囲を組み合わせ、誤りにも被害にも耐えられる制度として設計する必要がある。

References

1. プレイヤーダイナミクスの現状報告 - Riot Gamesが、テキスト・ボイス・AFK・意図的な無謀行動の検出、手動プロセスの限界、複数データ点による判定を説明した公式記事。

2. VALORANT Systems Health Series - Voice and Chat Toxicity - VALORANTの通報、反復違反に対する段階的制裁、テキスト・ボイスの検知と制限を説明した公式開発記事。

3. VALORANT Voice Evaluation Update - 報告に紐づくゲーム内ボイスの録音・評価、誤検知・見逃しの訂正を含む導入方針を説明した公式記事。

4. Voice & Text Reporting FAQs - Fortniteにおけるボイス・テキスト通報、端末側での直近5分の循環保存、通報時の音声証拠提出を説明した公式FAQ。

5. Community Pact - Riot Gamesが、異議申立て、通報者への結果フィードバック、コミュニケーション制限、段階的制裁を説明した公式ページ。

6. EA Account bans, suspensions, and locks: how to appeal and check status - EAが、処分履歴、個別の異議申立て、再審査後の維持・変更・取消しを説明した公式ヘルプ。

7. 消費者市民ネットとうほくと株式会社小学館との間で差止請求に関する協議が調ったことについて - 消費者庁が、広範な裁量による利用停止・登録抹消条項が消費者契約法第10条との関係で争点となった事例を公表したページ。

8. 取得した個人情報は、いつ廃棄しなければなりませんか。 - 個人情報保護委員会が、個人データの保存期間と利用不要後の消去に関する考え方を説明したFAQ。

9. Cabined Accounts - Epic Gamesが、保護者の許可前にボイス・自由テキストチャット等を無効にする年少利用者向けアカウントを説明した公式ページ。

この文書は、Perplexity、Claude、OpenAI Codex の3つのAIの支援を受けて著述されたものです。引用画像を除き、MIT License にて提供されています。