最近では大人向け動画の顔を有名人に置き換えたディープフェイク動画が簡単に作れます。需要があるため、ディープフェイク動画専門のサイトも乱立していますが、もちろん、法的・倫理的な問題が山積みです。
今回、あるストリーマーの配信をきっかけにディープフェイクに関する議論が沸騰していたので紹介します。この問題にはTwitchストリーマーのエイトリアック(Atrioc)と妻の号泣謝罪から注目が集まりました。
エイトリアックが謝罪に追い込まれたのは、配信中の画面のタブの中にディープフェイクの大人向けサイトがあるのを視聴者が発見して、大問題になったからです。
エイトリアックは複数の女性ストリーマーがディープフェイクされた動画を見ていた可能性があると指摘されています。その中にはエイトリアックと実生活で友人だった女性ストリーマーのディープフェイクもあり、気色が悪いと批判されています。
エイトリアックの謝罪
エイトリアックはストリーミング中に、他の女性ストリーマーのディープフェイクされた大人向け動画サイトを閲覧していたタブをうっかり開いてしまいました（ツイート）。
その後、妻と一緒に号泣謝罪をしています。エイトリアックは「AI画像生成に興味があった。妻がいない日にP☆rnHubを見に行ったら、ディープフェイクのサイト広告が表示され、クリックしてしまった。本当に恥ずかしい。自分は最低だと思う。」と話しています。
This guy is crying his eyes out bc he got caught watching AI pokimane porn. I’m not even sure why he would feel bad about this. https://t.co/4OjzdF9y3A
— adam22 (@adam22) January 30, 2023
YouTuberのニコラス・デオレオによれば、問題の動画サイトには、エイトリアックの友人であるラドウィッグの彼女QTシンデレラ(QTCinderella)のディープフェイクも存在しているようです（ツイート）。
今回の騒動でディープフェイクされていたと知った女性ストリーマーもいます。スウィートアニタです。
This story was how I found out that I’m on this website. I literally choose to pass up millions by not going into sex work and some random cheeto encrusted porn addict solicits my body without my consent instead. Don’t know whether to cry, break stuff or laugh at this point. https://t.co/voNoxRyVBd
— Sweet Anita (@sweetanita) January 30, 2023
ディープフェイクの被害に遭い、許可なく大人向け動画を作られてしまったストリーマーは相当なショックを受けているようです。そのようなサイトを利用していたエイトリアックには、厳しい批判の声があります。
ここまでの内容はボーブラックスが動画にしています。
一方、笑い事にしたイーサン・クライン
ディープフェイクを勝手にされた女性ストリーマーQTシンデレラは泣きながら、不快だと話しています。性的に搾取されている気分になり、動画サイトを利用していた人全員に嫌気が差す、ディープフェイクの動画サイトを運営している人を訴えると話しています。
そのQTシンデレラの動画を見ながら、無関係のBGMを流し、ツボにはまって笑っているイーサン・クラインです。
This is genuinely one of the funniest moments on their show and they are undoubtably going to get cancelled for it. pic.twitter.com/exK9eqj86S
— 𝕹𝖎𝖈𝖍𝖔𝖑𝖆𝖘 𝕯𝖊𝕺𝖗𝖎𝖔 (@nicholasdeorio) January 31, 2023
イーサン・クラインは批判されています。
I am beyond disgusted by @h3h3productions’s reaction to @qtcinderella’s stream detailing her experience as a victim of illegal AI porn using her face. Women’s pain is never taken seriously. This is so triggering pic.twitter.com/eIy4kE0gal
— Annie (@itsybitsyspicyy) January 30, 2023
その後、イーサン・クラインは釈明して「笑ってしまい申し訳ない。QTシンデレラが訴訟を起こすなら、資金援助をする。」と話しています。
ディープフェイクの被害に遭った女性ストリーマーは、訴訟を起こすと話しています。許可なく名誉を傷つけられたので当然の対応なのでしょう。
エイトリアックはさらにTwitlongerにも謝罪文を投稿しています。女性ストリーマーの弁護士費用を全額負担すると表明しています。
Atrioc has apologized in a Twitlonger for the deepfake situation
He says that because of QT and Ryan Morrison, the website has already been taken down, and that he is working to cover the financial costs of that pic.twitter.com/SrMQRpCIbQ
— GUARD Hunter (@HUN2R) February 1, 2023
ディープフェイク問題の難しさ
ディープフェイクは想像以上に難しい問題です。
被害者からすれば、ディープフェイクに生理的な嫌悪感があるのは当然です。とはいえ、法的には名誉毀損で訴えるぐらいしか手がなく、ほかの罪に問うのは難しいでしょう1。人工知能による画像加工や画像生成の禁止はできません。
業界全体として、性的な消費に歯止めをかけるべきかも難しい問題です。ストリーマーの中にはホットタブのような、かなり性的なコンテンツで稼ぐ人もいます。これが同じプラットフォームのほかのストリーマーも性的な目で見られる一因ともなります。プラットフォームが性的なコンテンツを規制するのは、それ以外のストリーマーを守るためでもあります2。一方で、性的なコンテンツで稼ぎたい人が稼げる場も必要です。
また、ディープフェイク動画が禁止されていても、視聴者が一瞬のクリップで何を妄想し、何をするのかはまったく規制できないという根本的な問題もあります。妄想を膨らませる視聴者はいるものですし、人気者になればますますそうです。ディープフェイクがなくても視聴者の妄想の中では「性的に搾取」されているのは確実です3。動画が出回ることによる被害と、視聴者の妄想の気持ち悪さとは区別する必要があります。
ディープフェイク動画を見ていたエイトリアックは引退に追い込まれる勢いですが、そこまでの重罪なのかも問題です。ディープフェイク動画を作るのは今後法規制されうるとしても、視聴することまでは違法にならないでしょう4。謝罪動画に配偶者まで出して謝罪しないといけなくなったのはやり過ぎかもしれないません5。
今回の事件はエイトリアックのプライバシーの侵害であるという見方もできます。ただし、ストリーマーはプライバシーをさらけ出すことで稼ぐものですから、逆にそのせいで稼げなくなっても仕方ないところではあります。有名税のようなものです。費用の負担を申し出ざるを得なくなったのも、配偶者まで出して謝罪せざるを得なくなったのも仕方ないのでしょう。
QTシンデレラはこの事件の報道のされ方にも苦言を呈しています。誰の顔が使われたかを報道すると検索する人が増えて被害が拡大すると訴えています。報道して問題の認知度を上げようとすると被害が拡大する難しい構図になっています。
注
- なお、この種の問題では顔を使われた人ばかりがクローズアップされるが、体を使われた人がどう考えているのかも重要である。「この顔は置き換えよう」と思われ体だけ勝手に使われたことはつらいのか、そうでもないのかは本人でないとわからない。ポルノ動画サイトにはディープフェイク動画を禁止しているものもあるが、これは体を使われた人の収益の保護を狙っている可能性もある。
- YouTubeが最近、胸の谷間を強調しただけで非収益化するという説があり、過剰な規制だとの批判の声があるが、ほかのYouTuberの保護のためには仕方ないかもしれない。
- その事実はストリーマー本人に突きつけられるべきではないが。ファンたちが（自分たちが性的な目で見ている）ストリーマーの心を守るため、性的な目で見ていることを公言するえせファンを抹殺したのが今回の事件だ、というのがすっきりした説明である。
- 名誉毀損の手助けをしたとはいえるかもしれない。
- 知り合いのディープフェイクを見ていたのが気色悪いとバッシングされているのは自然なことだが、一方で、視聴者の妄想を規制できないのと同じで、知り合いのディープフェイクを見たくなることは止められない。
