コンテンツモデレーターとは、SNSや動画配信、口コミサイトに投稿されたコンテンツを審査し、削除・非表示・警告などの対応を判断する仕事です。その活動全体をコンテンツモデレーションと呼びます。大規模なサービスでは削除の大半をAIが先に処理し、人は判断が割れる案件と、誤れば権利侵害になる案件を担う形が広がっています。TikTokは2026年4〜6月期、動画削除の97.4%が自動処理だったと公表しました。この記事では、仕事内容と雇用の実態、きついと言われる理由と2025年に労働者側が示した安全基準、AIとの分担、日本の情報流通プラットフォーム対処法が課す期限までを一次情報にもとづいて整理します。
まとめ：コンテンツモデレーターとコンテンツモデレーションの要点
- コンテンツモデレーション＝ユーザー投稿を審査して削除・非表示・警告などで対応する活動。コンテンツモデレーターはその判断を担う人。
- 大手プラットフォームには審査をBPO事業者へ外部委託する例があり、応募時は求人票で雇用主と配属先を確かめる。年収の公的統計は無く、言語・シフト・雇用形態で提示額が変わる。
- きつさの中心は、暴力や虐待の映像を見続けることと、1件あたり秒単位の処理目標。2025年6月には労働組合側が、曝露時間の制限など8項目の安全基準を公表した。
- AIは一次選別、人はグレーゾーンと取り返しのつかない措置の確認、という分担が実務の形。EUの透明性データベースでは、直近180日の判断の42%が完全自動だった（2026年10月21日時点）。
- 情報流通プラットフォーム対処法では、指定を受けた大規模事業者は削除申出から原則7日以内に判断結果を通知し、削除基準は措置の14日前までに公表する。2026年8月31日の追加指定で、指定は計13者になった。
コンテンツモデレーターの意味と「モデレーター」との違い
モデレーションが「投稿の審査」を指すようになった経緯
moderationは本来「節度」「和らげること」を意味する英語です。そこから、議論や場を穏当に保つために介入する行為へと意味が広がりました。インターネットでは、掲示板やSNSの運営側が投稿を確認し、ルールに反するものを取り除く作業を指します。日本語では「投稿監視」「投稿審査」と訳されることが多く、BPO事業者のサービス名や求人の職種名にはこちらが使われがちです。求人を探すときは「コンテンツモデレーター」だけでなく「投稿監視」「コンテンツチェック」でも検索すると、同じ仕事の募集が見つかります。
配信や会議の「モデレーター」とは別の仕事
紛らわしいのは、日本語の「モデレーター」が別の役割も指す点です。パネルディスカッションの進行役や、YouTubeライブでチャットを管理する視聴者もモデレーターと呼ばれます。こちらはモデレーターとは？YouTubeライブの権限・設定方法とファシリテーターとの違いで扱っています。
コンテンツモデレーターは、プラットフォーム事業者か委託先に雇われて働く職種です。判断の対象は自分が参加する会話ではなく、他人が投稿した大量のコンテンツです。配信のモデレーターがチャット欄の秩序を保つ役なのに対し、コンテンツモデレーターは削除の是非を決める役にあたります。
コンテンツモデレーターの仕事内容と審査の流れ
キューに入る3つの経路と、選べる措置
仕事は、審査待ちのコンテンツが積まれたキューを順に処理する形で進みます。キューに入る経路は主に3つです。AIの自動検出、ユーザーからの通報、そして権利者や被害者からの正式な削除申出です。3つ目のうち、指定事業者が公表した受付方法に従う権利侵害の申出は、情報流通プラットフォーム対処法第23条の調査対象となり、後述する判断結果の通知期限が適用されます。
モデレーターは各案件を社内ガイドラインに照らし、「違反あり」「違反なし」「判断保留」を選びます。違反ありの場合の措置も一段階ではありません。削除、非表示、年齢制限、レコメンドからの除外、投稿者への警告、アカウント停止まで幅があり、違反の重さと再犯の回数で選びます。児童の性的搾取や自殺の予告のように、判断より先に通報や緊急対応が要る類型は、通常のキューから外れて専用のエスカレーション経路へ回ります。
ガイドラインの文言だけでは決まらない案件の扱い
難しいのは、条項を当てはめても答えが出ない案件です。同じ映像でも、報道目的の引用か、当事者の告発か、加害の再生産かで扱いが変わります。TikTokの執行ルールも、本来は違反となる内容を公益のために残す例外として、ドキュメンタリー、教育、医療・科学、カウンタースピーチ、風刺、芸術の6つを挙げています。例外で残す場合も、おすすめフィードから外す、警告画面を付けるといった措置は選べます。風刺と誹謗中傷の境目も、文脈と対象者の立場で動きます。
ここで効くのが言語と文化の背景知識です。ある言い回しがその地域で差別語として働いているかどうかは、辞書の直訳では分かりません。海外拠点で日本語の投稿を審査する体制が難しいのは、日本語話者を集めにくいからだけではなく、この文脈判断に別の知識が要るためです。判断が割れた案件は上位レビュアーや法務へ回し、出た結論をガイドラインへ書き戻します。この往復がモデレーション品質の実体です。
TikTokの審査で人が担う範囲
「TikTokのコンテンツモデレーター」で募集される仕事も、構造は同じです。動画、LIVE配信、コメント、アカウントをコミュニティガイドラインに照らして審査します。ただし最初の削除を人が下す場面は減っています。TikTokのCommunity Guidelines Enforcement Reportによると、2026年4〜6月期は違反動画の99.5%が通報前に削除され、AIモデレーションを含む自動処理が動画削除全体の97.4%を占めました。人の仕事は、自動判定の見直し、異議申立ての再審査、LIVE配信の監視、文脈が要る案件の判断へ寄っています。
人員にもそれが表れています。UNI Global Unionの2025年7月の発表では、TikTokベルリン拠点のTrust and Safety部門で約150人が削減の対象になりました。ロンドンでも同部門の担当者が2025年8月22日に人員削減の対象になると通知されています（Foxglove、2025年12月19日）。また、プラットフォームの社員が直接審査するとは限りません。UNIは、Alphabet、Meta、TikTokなどがAccentureやTelusのような事業者へモデレーションを外部委託していると指摘しています。日本の求人でも、雇用主がプラットフォームではなく委託先のBPO事業者である募集があり、応募前に確かめておく点になります。
コンテンツモデレーターの年収・雇用形態と向いている人
コンテンツモデレーターの年収資料と求人条件の比較
コンテンツモデレーターの平均年収を示す公的な統計はありません。厚生労働省の賃金統計や職業情報提供サイトjob tagには、この職種が独立した区分として載っていないためです。求人サイトの「平均年収」は、対象地域、調査時点、掲載求人の集計か実際の給与調査かを確認して読む必要があります。海外の給与を円換算しただけの値は、日本の相場とは区別してください。
実際の水準は、求人票の提示額を並べて見るしかありません。提示額を左右するのは主に3つです。1つ目は言語で、英語や中国語、韓国語などで多言語の審査を担う募集は、日本語のみの募集より高い条件が付く傾向があります。2つ目はシフトで、24時間体制の拠点では夜勤手当が加わります。3つ目は雇用形態で、正社員、契約社員、派遣、アルバイトが混在します。審査担当から品質管理（QA）、ポリシー策定、チームリーダーへ進む経路を用意している委託先もあり、長く続けるならこの昇格の道があるかどうかが年収を決めます。
向いている人と求められる条件
応募条件は募集ごとに違い、未経験可の募集もあります。そのうえで、仕事の性質から向いているのは次のような人です。
- ルールを同じ基準で当てはめ続けられる人。審査の質は、同じ類型の案件に毎回同じ結論を出せるかで測られます。
- 文脈を読む力がある人。スラング、ネットミーム、時事の背景を知っているほど、表面の語に惑わされずに判断できます。
- ガイドラインの改定に追いつける人。TikTokの執行ルールも2026年8月25日に改定版が公表され、9月24日に発効しました。昨日までの結論が今日は違反になることがあります。
- つらいと感じたら支援を使える人。精神的に強い人だけが続けられる仕事ではなく、休憩やカウンセリングの制度を遠慮なく使えるかどうかが長く続けられるかを分けます。
逆に、暴力的な映像を見ることへの不安が強い人は、最初から過激な映像を扱わない部署を選ぶべきです。テキストの口コミ審査や広告審査のように、映像に触れにくい業務もあります。
コンテンツモデレーターがきついと言われる理由と安全基準
健康被害が訴訟と組合の要求になった経緯
この仕事が「きつい」と言われる理由は、業務量よりも審査対象の中身にあります。暴力、虐待、自傷の映像を日常的に見る職務は、PTSDを含む健康被害につながることが訴訟で争われてきました。2020年5月には、Facebookの元モデレーターらによる集団訴訟でMetaが総額5,200万ドルの和解に応じています。対象は米国4州の拠点で働いた1万人超で、金銭補償に加え、閲覧ツールの改善と精神保健の専門職によるセッション提供が和解に含まれました。
もう1つの負担が処理目標です。2025年4月30日、9か国の労働者がナイロビでGlobal Trade Union Alliance of Content Moderatorsを結成しました。その発表は、非現実的な「1本あたり何秒」という処理目標と、短期契約の繰り返しが、トラウマに加えて負担を重くしていると訴えています。映像の中身、秒単位のノルマ、契約更新への不安の3つが重なるのが、この仕事のきつさの実態です。
2025年に示された8つの安全基準
UNI Global Unionは2025年6月の発表で、安全なモデレーションのための8項目を示しました。求人や委託先を比べる物差しとして、そのまま使えます。
| 項目 | 求めている内容 |
|---|---|
| 曝露の制限 | 閲覧時間の制限と画像処理で直接の曝露を減らす |
| 現実的な処理目標 | 過激な映像はノルマを廃止 |
| トラウマ研修 | 担当者と管理者に定期的に実施 |
| カウンセリング | 24時間対応・契約終了後も継続 |
| 安定雇用と生活賃金 | 無期契約・福利厚生の完備 |
| 安全衛生委員会 | 選挙で選ばれた委員会が監査 |
| 移民労働者の保護 | 搾取の防止と雇用の安定 |
| 団結権と団体交渉権 | 組合活動への不干渉 |
モデレーション業務の応募・委託時に確認する労働環境
求人に応募するなら、次の4点を面接で確かめてください。審査対象のカテゴリ（暴力・性的表現を含むか）、勤務体制（24時間のシフトか日勤のみか）、カウンセリングの有無と勤務時間内に使えるか、雇用主がプラットフォームか委託先か、です。グレースケール表示やぼかしなど、閲覧ツールに曝露を減らす機能があるかも聞く価値があります。
発注する側も同じです。モデレーションを外注する企業は、上の8項目のうち少なくとも曝露の制限とカウンセリングを、委託先の選定条件と契約に入れておくべきです。委託先の労働環境の問題は、発注元の評判リスクとして返ってきます。
AIモデレーションと人による判断の分担
モデレーションAPIの対応入力と判定カテゴリ
自動判定は、汎用のモデレーションAPIを呼ぶ形が主流です。OpenAIのModeration APIは、現行モデルのomni-moderation-latestがテキストと画像を受け取り、harassment、hate、illicit、self-harm、sexual、violenceとその下位区分を合わせた13カテゴリごとにスコアを返します。ただし画像入力に対応するのはself-harm系3種、sexual、violence、violence/graphicの6カテゴリで、残る7カテゴリはテキスト専用です。公式ガイドは「The moderation endpoint is free to use」と明記しています。旧モデルのtext-moderation系は2025年10月27日に提供を終えました。
画像と動画に寄せるならAmazon Rekognitionのモデレーション系APIがあります。公式ドキュメントは、機械学習で先に絞り込むことで、人が見る対象を「typically 1-5% of the total volume」まで減らせるとしています。料金と使い分けはAmazon Rekognitionとは？できること・API・料金と自前モデルとの使い分け【2026年版】で整理しました。日本語の判定精度が課題なら、NTTのchakoshiとは？NTTの日本語LLMガードレールの仕組み・検知項目・API連携【2026年】や、対話の流れ自体を制約するNeMo Guardrailsとは？使い方と設定例、0.24の変更点とIORailsの注意点も選択肢です。自社サービスにこうした一次判定を組み込む設計は、生成AI導入支援で相談を受けています。
AIに任せると事故になる領域
自動判定を前段に置く設計は妥当です。ただし最終決定まで任せるべきでない領域があります。基準は「間違えたときに取り返しがつくか」です。
投稿の一時保留やレコメンドからの除外は、後から戻せるのでAIへ任せやすい措置です。ただし時事性のある投稿や収益に直結する投稿では、保留の間に失われるものが大きくなります。自動化の範囲と閾値は、誤判定率、保留時間、復旧手段を確かめて決めるべきです。これに対し、アカウントの永久停止、収益の剥奪、発信者情報の開示を伴う対応は、誤ればそれ自体が権利侵害になりかねません。ここは人の確認を挟むべきです。皮肉や引用のように、表面の語だけ見ると違反に見えて文脈で意味が反転する表現は、分類器がもっとも苦手とする類型です。
判定や通知を自動化しても、措置の理由を具体的に説明する責任は残ります。後で述べる日本の制度は、削除したときに「その送信防止措置と基準との関係」まで発信者へ示すよう求めています。「AIが違反と判定したため」は理由になりません。人が確認し、基準のどの条項に当たるかを示せる体制が要ります。この設計はヒューマンインザループ（HITL）とは？意味・HOTLとの違い・承認の実装と導入判断で扱う、人が承認に入る仕組みそのものです。
情報流通プラットフォーム対処法が課す日本の義務
日本では、プロバイダ責任制限法を改正した情報流通プラットフォーム対処法が2025年4月1日に施行されました。全事業者への一律規制ではなく、総務大臣が指定した大規模事業者にだけ手続上の義務を課す設計です。
指定を受ける事業者の線引き
指定の要件は施行規則が数値で定めています。1年間の平均月間発信者数が1,000万を超えるか、平均月間延べ発信者数が200万を超えることです。数だけでは決まらず、技術的に送信防止措置を講じられること（法第20条第1項第2号）も要件で、不特定の利用者どうしの交流を主な目的としない役務は外れます。平均月間発信者数900万以上か延べ180万以上の事業者には、総務大臣への報告義務があり、指定ラインの手前で規模を把握される仕組みです。
指定は3回行われています。2025年4月30日にGoogle（YouTube）、LINEヤフー、Meta、TikTok、Xの5社、5月30日にPinterest Europe、サイバーエージェント（Amebaブログ）、湘南西武ホーム（爆サイ.com）、ドワンゴ（ニコニコ）の4社です。さらに2026年8月31日、ジェイスクエアード（ガールズちゃんねる）、ピクシブ（pixiv）、note、好き嫌い.comを運営する個人の4者が加わり、計13者になりました。個人の運営者も規模の要件を満たせば指定されるということです。
7日通知と14日前公表という具体的な期限
指定を受けた事業者の義務は、期限まで条文で決まっています。
| 条文 | 義務の内容 | 期限・頻度 |
|---|---|---|
| 第23条 | 削除申出を受けたら権利侵害の有無を調査 | 遅滞なく |
| 第24条 | 侵害情報調査専門員の選任・届出 | 選任後遅滞なく |
| 第25条 | 判断結果を申出者へ通知 | 申出を受けた日から7日 |
| 第26条 | 送信防止措置の実施基準を公表 | 措置を講じる日の14日前まで |
| 第27条 | 発信者へ措置・理由を通知等（例外あり） | 遅滞なく |
| 第28条 | 実施状況と自己評価を公表 | 毎年1回 |
第25条は法律上「当該申出を受けた日から十四日以内の総務省令で定める期間内に」と書かれ、施行規則第16条がその期間を7日と定めています。法律の上限は14日でも、守るべき期限は7日です。14日と紹介している解説は、法律の上限だけを見ている可能性があります。例外として、発信者の意見を聴く場合、侵害情報調査専門員が調査する場合、その他やむを得ない理由がある場合は、7日以内に該当する事由を通知し、「その他やむを得ない理由」の場合はその理由の内容も知らせたうえで、判断後遅滞なく結果を通知すれば足ります（第25条第2項）。
通知の相手が2系統ある点も誤解されやすいところです。申出者には、原則として、削除した場合はその旨を、削除しなかった場合はその旨と理由を通知します（第25条第1項各号）。削除したときは発信者へ通知するか、発信者が容易に知り得る状態に置き、公表済みの基準に従った措置なら「当該送信防止措置と当該基準との関係を明らかにしなければならない」と第27条が求めます。どの条項に当たるかまで示す義務があるのは、削除された側への通知です。
第26条では、事業者自身の発信情報、法令上の削除義務に基づく措置、通常予測できない情報への緊急措置という例外を除き、公表した基準に従って削除などの措置を講じることとされ、その基準は措置の14日前までに公表されていなければなりません。ただし、通常予測できない種類の情報を緊急に削除した場合は、第26条第3項により、その情報が削除対象となることを明らかにする基準変更を速やかに行う義務があります。違法情報の判断に使うガイドラインは令和7年3月11日に制定され、令和8年8月6日に改定されました。
守らなかった場合の勧告・命令・罰則
総務大臣は、第22条・第24条・第25条・第26条第1項および第3項・第27条・第28条の違反を認めるとき、是正を勧告できます（第30条第1項）。正当な理由なく従わなければ命令に格上げされます（同条第2項）。命令に違反すると1年以下の拘禁刑または100万円以下の罰金（第35条第1項）で、両罰規定により法人には1億円以下の罰金が科されます（第37条）。「透明性の確保」という言葉の印象より、はるかに具体的な強制力を持つ制度です。
選挙運動期間中の2日ルールと2027年3月の改正
指定の有無に関係なく、すべての事業者に適用されるのが第4条の特例です。選挙運動用の文書図画で名誉を侵害されたとする候補者等から削除の申出があった場合、事業者が発信者へ同意するかを照会し、2日を経過しても不同意の申出がなければ、削除しても発信者への賠償責任を負いません。
2026年7月17日公布の令和8年法律第58号により、2027年3月1日からは第27条の2が加わります。指定事業者は、虚偽の情報など選挙の公正を害するおそれのある情報による悪影響を軽減するため、役務の特性に応じた措置を講じなければならず、総務大臣がその指針を定めます。あわせて公職選挙法に第142条の5が新設され、AIで作成・改変した画像や映像を選挙運動用の文書図画で頒布するときは、その旨の表示が義務になります。除外は「改変の内容が社会通念に照らして軽微であるもの又は実際に撮影されたものと誤認されるおそれのないもの」です。選挙関連の投稿を扱うサービスは、AI生成物の表示確認をモデレーションの範囲に入れるかを2027年3月までに決めておく必要があります。
EUのDSAとの違い
EUのデジタルサービス法（DSA）は2024年2月17日に全面適用されました。方向は日本と同じでも、射程と強度が違います。DSAは零細・小規模企業を除くオンラインプラットフォームに、モデレーションの決定ごとの理由書を欧州委員会の透明性データベースへ提出させます。DSA Transparency Databaseのトップページには、2026年10月21日時点で直近180日に384のプラットフォームから約44.5億件が提出され、そのうち42%が完全に自動化された判断だったと表示されています。日本の制度が指定13者の年1回公表にとどまるのに対し、DSAは個別の判断を継続的に登録させる設計です。制裁金の上限も前年度の全世界売上高の6%で、日本の1億円という定額とは桁が違います。
DSA透明性データベースへの提出義務の対象となるオンラインプラットフォームでは、対象となる判断と理由を所定の形式で提出できる仕組みが必要です。日本向けだけを想定した運用ログでは、この提出要件を満たせません。
「コンテンツがモデレートされました」と表示されたときの意味と対処
この表示は、生成AIに指示を出したときに返ってくるものです。「このコンテンツはモデレートされました」「Content moderated. Try a different idea.」という文言は、主にxAIのGrokと、画像・動画を生成するGrok Imagineで出ます。多くの場合、送信したプロンプトか生成結果がモデレーションで規約違反の可能性ありと判定され、表示が止められたことを示します。ただし表示だけでは、どちらで止まったのかも、誤判定かどうかも分かりません。
生成AIの入力・出力に対するモデレーション
生成AIサービスは、入力と出力を審査する仕組みを持っています。xAIの画像生成APIの公式資料には、生成画像がモデレーションを通過したかを確認する項目があり、生成結果の側でも判定が行われていることが分かります。判定の基準は公開されていませんが、前述のOpenAIのModeration APIのように、公開されているモデレーションAPIは禁止語の一覧ではなくカテゴリごとのスコアを返す方式です。単語を1つ入れ替えて通ることもあれば、無害に見える指示が弾かれることもあるのはこのためです。
Grokのモデレーション表示への対処と規約上の制約
できるのは、用途が規約の範囲に収まっているかを確かめたうえでの指示の見直しです。実在の人物名や、身体的・暴力的な描写を直接指定していないか、目的が伝わる書き方になっているかを確かめます。同じ文面を送り直しても結果は保証されません。生成結果の側で止まった場合は、生成内容が毎回変わるため、送り直しで結果が変わることもあります。
ただし、判定をすり抜ける目的でプロンプトを細工する行為は別です。2026年8月14日発効のxAIのAcceptable Use Policyが禁じる行為に当たり、アカウント停止の対象になりえます。業務で使うなら、用途がそもそも規約の範囲に収まるかを先に確かめるほうが確実です。
よくある質問
コンテンツモデレーターとは何ですか？
SNSや動画配信、口コミサイトなどに投稿されたコンテンツを審査し、ガイドライン違反かどうかを判断して、削除・非表示・警告などの措置を決める職種です。プラットフォーム事業者が直接雇う場合と、BPO事業者が受託して雇う場合があり、応募時は求人票で雇用主を確かめる必要があります。
コンテンツモデレーターの年収はいくらですか？
この職種だけを集計した公的な統計はなく、平均年収の公式な数字はありません。求人の提示額は、対応言語（多言語の審査は条件が上がりやすい）、夜勤を含むシフトかどうか、正社員・契約社員・派遣・アルバイトのどれかで大きく変わります。品質管理やポリシー策定、チームリーダーへの昇格の道があるかも、長期の年収を左右します。
コンテンツモデレーターはきついですか？
暴力や虐待、自傷の映像を見続ける業務と、1本あたり秒単位の処理目標が重なるため、きついと言われます。2020年にはMetaが元モデレーターの集団訴訟で5,200万ドルの和解に応じ、2025年には労働組合側が曝露時間の制限や24時間のカウンセリングなど8項目の安全基準を公表しました。応募前に、扱うカテゴリと支援制度の中身を確かめてください。
「このコンテンツはモデレートされました」と表示されるのはなぜですか？
主にGrokやGrok Imagineで、送信したプロンプトか生成結果がモデレーションで止められたときに出る表示です。表示だけでは誤判定かどうかまでは分かりません。まず用途が規約の範囲に収まっているかを確かめ、目的が伝わるよう指示を具体的に書き直してください。判定の回避を目的にプロンプトを細工する行為は規約違反です。
日本にもコンテンツモデレーションを義務づける法律はありますか？
2025年4月1日施行の情報流通プラットフォーム対処法があります。総務大臣が指定した大規模事業者（2026年8月31日の追加指定で計13者）に、削除申出への原則7日以内の通知、削除基準の14日前公表、実施状況の年1回公表などを義務づけています。命令に違反すると法人には1億円以下の罰金が科されます。削除申請の手続き一般についてはDMCAとは？削除申請の手順と悪用・虚偽申請への対処法も参考になります。
