これは、現代の汚れ仕事を押しつけられた人々の訴えです。
残酷な動画を日常的に見る仕事があります。FacebookやYouTube、Googleには投稿された動画を監視する係がいます。視聴者から通報があった動画を審査し、大量の動画の中から不適切な動画をはじくのが彼らの仕事です。彼らはモデレーターと呼ばれます。
今回はYouTubeでモデレーターをしていた人が、YouTubeを相手に訴訟を起こしたので紹介します。
以下の内容はこちらのNBCの記事を元にしています。
モデレーター業務は過酷
現地時間の2020年9月21日、YouTubeの元モデレーターが業務に伴う健康被害を理由にYouTubeを訴えました。訴状によると、原告は日常的に殺人、堕胎手術、児童虐待、動物虐待、自死に関わる映像を、公開するにふさわしいかの判断を課されていました。
YouTubeの親会社であるGoogleは2020年のアメリカ大統領選を目前にして、暴力的な映像や偽情報をいかにして排除するか対策を求められています。
原告はYouTubeのモデレーションを請け負う会社Collaberaで2018年から2019年の間、業務を行っていました。次第に悪夢にうなされ、パニック発作を起こし、人混みを避けるようになりました。夜勤の従業員は、YouTubeの「ウェルネス・コーチ」との面談はできなかったと原告は訴えています1。
多くのモデレーターは1年未満で退職し、会社は慢性的な人手不足になっていました。そのため従業員が残業を課され、会社が推奨している1日あたり4時間の勤務時間を大幅に超過することになりました。従業員は日に100本から300本の映像を見て、正確な判断を要求されます。誤判定率は2%から5%程度にとどめるように要求されたそうです。
会社はモデレーターが判断する速度も管理していました。フルスクリーンでもサムネでも、映像がぼやけていても、映像を即座に判断するように求められたそうです。
訴状内容は、メディア会社に関わる人々がいかに精神状態を悪化させながら業務に当たっているかを物語っています。YouTubeには数千のモデレーターが業務を行っているとされていますが、ほとんどが下請けの会社です。原告が勤めていたCollaberaや、Vaco、Accentureといった会社がモデレーター業務を請け負っています。原告の代理人を務めるジョセフ・サベリ法律事務所はFacebookを相手に同じような訴訟を行い5月に$52ミリオン（約52億円）で和解しています。
YouTubeはパンデミックが起こって以来、コンピューターによる自動判定を行っていましたが誤判定が多く、また人間による監視を再開していました。コンピューターによる自動判定は、利用規約に違反していない動画を不適切な内容だと過剰に検閲してしまったからです。
2019年12月16日公開された、The Vergeの動画でも同様の内容を伝えています。
Googleの元社員デイジーはモデレーター業務のせいで、心的外傷後ストレス障害に悩んでいること、こころに負ってしまった傷は癒えないことを明かしています。
動画ではテキサス州オースティンでモデレーターとして働く匿名の人にも取材しています。オースティンで雇用されているモデレーターは中東出身者が多く、VE（Violent Extremism、暴力的過激主義）に関わる動画を担当しています。過激思想のプロパガンダ映像を見分けることを期待されています。彼らは1日およそ120本の暴力的な動画を見ることを課されています。多くの人が永住権を持っていない移民で、業務の過酷さから逃げたくても逃げられない状態にあると告白しています。
Googleの元社員デイジーは、「モデレーション業務は必要不可欠です。なのに、正当に業務を評価されていない。現行のシステムを根本的に見直し、モデレーターに必要な支援や対策をしていかなければなりません。」と話しています。
どうするべきか？
モデレーターの人々のストレスは想像にあまりあります。これまで多くのYouTuberが規約違反で追放されてきました。
追放されたYouTuberの多くは残酷な動画を投稿していました。それらの動画を見た人々は異常なストレスを抱えることになります。モデレーターの心的外傷後ストレス障害は新たな労働災害でしょう。
しかし、YouTube/Googleも手をこまねいていたわけではありません。NBCの報道に「パンデミックが起こって以来、コンピューターによる自動判定を行っていた」とあるのは彼らのストレスを軽減するための施策でしょう。
ところが、自動判定は同じくNBCの報道によれば「誤判定が多かった」ようです。
確かに2020年夏には、誤判定で動画が消えたりチャンネルが非収益化されたりする騒動が頻発していました。当時からバグを疑う声がありました。
また、以前から、特定のキーワードが動画タイトルに入っているだけで（内容が全く問題ないものであっても）収益化されないと言われていました。これも自動判定による誤りです。
penguinz0の騒動は誤判定が正され愉快な笑い話で終わりましたが、もし動画やチャンネルが復活しなければYouTuberは失業することになります。今回主に問題になっている残酷な動画でなくても、文化的背景によって動画の受け止め方が違うだけでYouTuberにもモデレーターにもストレスがかかることもあるでしょう。
YouTubeは、モデレーターかYouTuberか、いずれにせよ誰かに多大なストレスをかけるしかないようです。それは、誰もが参加できる巨大化した場の宿命なのでしょうか。
