このツイートはあるYouTuberの悲痛な叫びです。毎日のようにSNSではこのような投稿がされています。
YouTubeは言論の自由を保障してくれー！！ 検閲しないでェエエ（ゼーゼーハーハー）動画を制作するクリエイターでいたいよ 排除されるのは嫌だぁぁ！！ YouTubeはいじめを放置してる?
I WANT YOUTUBE TO BE A PLATFORM FoR FREE SPeECH!!! ThEY”rE cEnSoRinggg meeEe *breath* I WANT CREATORS WHO MAKE VIDEOS I DON’T LIKE TO BE REMOVED eNtirELy boOoo!!! YOuTuBe alLOWs BuLlYinGgg ?
— Jaclyn Glenn (@JaclynGlenn) August 21, 2019
このような叫びが出るのは、YouTubeに不当に扱われているとYouTuberたちが感じているからです。YouTubeは動画を自動で選別していますが、選別のアルゴリズムは完璧ではありません。それどころかアルゴリズムは明白な差別をしており、不公正です。ある種の動画を検索で表示されにくくしたり、ある種の動画から広告収入を得られなくしたり（非収益化demonetize）しています。当然、YouTuberからは叫びがあがります。
過渡期を迎えている海外YouTubeの問題・訴訟・騒動をYouTuberたちの動画やSNSの声を元にシリーズで紹介していきます。
今回はシリーズのpart 1として、アルゴリズムによる差別を紹介します。
非収益化される動画
なぜYouTubeはYouTuberを不公正に扱うのでしょう？ それは、YouTubeは利益を優先する私企業だからです。広告にふさわしくないと判断された動画は広告を外され（非収益化され）、収入を得られなくなります。この振り分けはどのように行われるのでしょう？
YouTubeチャンネルのNerd CityとSealowの仮説を紹介します。あくまで動画が投稿された時点での仮説です。
Nerd Cityの仮説
2018年3月に投稿されたNerd Cityの動画です1。
YouTubeには毎分500時間分の動画が投稿されています。膨大な動画を見て広告にふさわしいか否かを判断するのは人間ではありません。まず自動で判定されます。
Nerd Cityは非収益化された動画ページのHTMLソースの中の“excluded_ads”と書かれた部分を調べてみました2。すると、非収益化された動画には共通した数字（コード）が付いているのを発見します。
非収益化を判断するボット
100万本ほどの非収益化された動画の共通点から導かれた仮説はこうです。非収益化された動画を調べたところ、共通して以下の数字が付いていることがわかりました。（本記事執筆時点では仕組みが変更されているようです。）
- 102 暴言・禁止用語
- 104 性的な内容
- 109 センセーショナル・衝撃的な内容
- 113 悲劇や闘争
- 115 センシティブな社会問題
さらにYouTubeが使用しているレーティングを紹介しています。
- G – General Audiences（一般向け）
- PG – Most Audiences With Parental Guidance（保護者の指導を要する一般向け）
- T – Teen And Older Audiences（ティーンと大人向け）
- MA – Mature Audiences（成人向け）
イメージ図
判定の基準は非公開です。YouTubeにはアルゴリズムを開示する義務がないからです。たとえ専業YouTuberが路頭に迷うことになっても、動画を非収益化する明白な基準は開示されません。しかも、動画のレーティングはクリエイター本人にさえ知らされません。
クリエイタースペースに行った3人気YouTuber4が問い合わせたところレーティングを教えてもらえたが、その内容を公開したら二度とお呼びがかからなくなった例が紹介されています。
YouTubeは動画に自動でレーティングし、広告にふさわしいか判定します。クローズドキャプション、メタデータ（タグ）、サムネ写真を使います。サムネ画像は誤認識も多いためレーティングを間違えることがあります。Nerd CityはGoogleがサムネ画像の判定に使っていると考えられているVision APIが頭を抱えるピューディパイの画像をわいせつと判定し、武装勢力の画像を非暴力的と判定する例を出しています。YouTuberが苦心して作った動画はこのように勝手にレーティングされます。
このような環境でYouTuberたちは仕事をしています。自動判定で非収益化された動画の再審査も要求できますが、判定が覆るとは限りません。
Sealowの仮説
自動レーティングで何が起こるのでしょう？ それを調べた結果が2018年3月に投稿されたSealowの動画です。Sealowは動画を公にする前に事前にNerd Cityなどのクリエイターと調査結果を共有していました。
どの動画が成人向けと判断されているかを確認するため、SealowはYouTubeに成人向け動画限定の広告を打ちました。YouTubeの広告システム(Google Adword)でどの動画に広告が掲載されたかを確認すると成人向けとレーティングされた動画のリストが手に入ります。
その結果、成人向けとレーティングされた動画の再生数はそれ以外の動画の再生数の半分ほどだとわかりました。成人向けの動画はおすすめに表示されなくなり、検索しても上位に出にくくなるのです。このような操作がクリエイターのあずかり知らないところで行われています。
成人向け動画は収益化されにくくなり、同時に再生されにくくなります。YouTubeは公式に非収益化されても再生数は減らないと発表していますが、これは（ウソではなくとも）ごまかしでしょう。成人向けとレーティングされた結果、非収益化と再生数低下がともに起こるからです。
成人向けコンテンツの定義（2018年）は次のとおりです。
- Sexual Language / Imagery（性的な表現・描写）
- Racism / racial slurs（人種差別・人種蔑視表現）
- Blood / gore（血・流血沙汰）
- Death / violence（死・暴力）
- Drugs（薬物）
しかし例外も設けられています。
教育動画では戦争について語ることも容認されています。ただし、そのためにはカテゴリーを教育に、タグを教育・歴史とする必要があります。
ニュース動画ではテロや災害について語ってもよいですが、そのためにはカテゴリーとタグをニュース・政治にする必要があります。ゲーム動画についても同様です。
際どい冗談はコメディ・エンターテインメントのカテゴリにしただけでは容認されません。風刺(Satire)タグを含む必要があります。
このような例外の基準はSealowの努力で明らかになりました。YouTubeからは一切公開されていません。基準が公開されていないせいで、自殺を思いとどまらせる動画が成人向けとレーティングされている例がありました。青少年の自殺を防止する手段が一つ失われたのです。大学での性暴力を訴える動画や、同性愛差別を告発する動画も成人向けとレーティングされていました。
最新の記事
2019年8月9日のワシントンポストの記事を紹介します。
要約すると、以下のとおりです。
- 11人の現・元コンテンツ・モデレーターにインタビューしている。
- YouTubeには2通りの基準がある。VIPと普通のYouTuber。YouTubeに利益が大きいVIPのYouTuberは検討の余地が与えられる。
- YouTubeが対策に乗り出すのは、何かがニュースとして大々的に報道された後5。現職のモデレーターがYouTubeの基準から感じるのは、YouTubeは企業として利益を出さねばならない──モデレーターたちがガイドラインに違反したと判断しても、企業としての判断は異なるということ6。
コンテンツ・モデレーターもはっきりと二重基準があると話しています。公正な場とは決していえないのが現状のYouTubeです。今後ますます広告主におもねる傾向は強くなっていくでしょう。
参考：Sealowのレポート。
Sealowの「成人向け」認定される基準のレポート。
シリーズの記事はこちらです。
- 動画が検閲され非収益化⁉︎ データでわかったYouTubeのアルゴリズム的不正【part1/5】（本記事）
- LGBTQのクリエイターがYouTubeとGoogleを訴える！彼らはアルゴリズム的不正の被害者？【part2/5】
- YouTubeの真っ赤なウソ？非収益化される禁止ワードリストが判明【YouTubeのアルゴリズム的不正part3/5】
- YouTubeが開発した人造YouTuber？ジャネル・イリアナの不自然すぎる自然さ【YouTubeのアルゴリズム的不正part4/5】
- チャンネルSpillが嫌われた理由【YouTubeのアルゴリズム的不正part5/5】
Image:EX Mount C, Pure Carbon
注
- Nerd Cityは2017年11月にもアルゴリズムに関する動画を投稿している。こちらもSealowの調査結果を元に構成。非収益化された動画に共通した数字（コード）についての動画はこちら
Youtube's Secret Codes REVEALED
- 現在では仕組みが変わっており、“excluded_ads”は使われていない。
- クリエイタースペースは、VIPのYouTuberのみが参加できる会議と動画では説明されている。
- 登録者数1140万人であるYouTuberのKwebbelkopのこと。彼が情報をリークしてくれた。
- “YouTube’s stance is that nothing is really an issue until there is a headline about it.”
- A current moderator added, “The picture we get from YouTube is that the company has to make money — so what we think should be crossing a line, to them isn’t crossing one.”
