最近では大人向け動画の顔を有名人に置き換えたディープフェイク動画が簡単に作れます。需要があるため、ディープフェイク動画専門のサイトも乱立していますが、もちろん、法的・倫理的な問題が山積みです。
今回、あるストリーマーの配信をきっかけにディープフェイクに関する議論が沸騰していたので紹介します。この問題にはTwitchストリーマーのエイトリアック(Atrioc)と妻の号泣謝罪から注目が集まりました。
エイトリアックが謝罪に追い込まれたのは、配信中の画面のタブの中にディープフェイクの大人向けサイトがあるのを視聴者が発見して、大問題になったからです。
エイトリアックは複数の女性ストリーマーがディープフェイクされた動画を見ていた可能性があると指摘されています。その中にはエイトリアックと実生活で友人だった女性ストリーマーのディープフェイクもあり、気色が悪いと批判されています。
エイトリアックの謝罪
エイトリアックはストリーミング中に、他の女性ストリーマーのディープフェイクされた大人向け動画サイトを閲覧していたタブをうっかり開いてしまいました（ツイート）。
その後、妻と一緒に号泣謝罪をしています。エイトリアックは「AI画像生成に興味があった。妻がいない日にP☆rnHubを見に行ったら、ディープフェイクのサイト広告が表示され、クリックしてしまった。本当に恥ずかしい。自分は最低だと思う。」と話しています。
This guy is crying his eyes out bc he got caught watching AI pokimane porn. I’m not even sure why he would feel bad about this. https://t.co/4OjzdF9y3A
— adam22 (@adam22) January 30, 2023
YouTuberのニコラス・デオレオによれば、問題の動画サイトには、エイトリアックの友人であるラドウィッグの彼女QTシンデレラ(QTCinderella)のディープフェイクも存在しているようです（ツイート）。
今回の騒動でディープフェイクされていたと知った女性ストリーマーもいます。スウィートアニタです。
This story was how I found out that I’m on this website. I literally choose to pass up millions by not going into sex work and some random cheeto encrusted porn addict solicits my body without my consent instead. Don’t know whether to cry, break stuff or laugh at this point. https://t.co/voNoxRyVBd
— Sweet Anita (@sweetanita) January 30, 2023
ディープフェイクの被害に遭い、許可なく大人向け動画を作られてしまったストリーマーは相当なショックを受けているようです。そのようなサイトを利用していたエイトリアックには、厳しい批判の声があります。
ここまでの内容はボーブラックスが動画にしています。
一方、笑い事にしたイーサン・クライン
ディープフェイクを勝手にされた女性ストリーマーQTシンデレラは泣きながら、不快だと話しています。性的に搾取されている気分になり、動画サイトを利用していた人全員に嫌気が差す、ディープフェイクの動画サイトを運営している人を訴えると話しています。
そのQTシンデレラの動画を見ながら、無関係のBGMを流し、ツボにはまって笑っているイーサン・クラインです。
This is genuinely one of the funniest moments on their show and they are undoubtably going to get cancelled for it. pic.twitter.com/exK9eqj86S
— 𝕹𝖎𝖈𝖍𝖔𝖑𝖆𝖘 𝕯𝖊𝕺𝖗𝖎𝖔 (@nicholasdeorio) January 31, 2023
イーサン・クラインは批判されています。
I am beyond disgusted by @h3h3productions’s reaction to @qtcinderella’s stream detailing her experience as a victim of illegal AI porn using her face. Women’s pain is never taken seriously. This is so triggering pic.twitter.com/eIy4kE0gal
— Annie (@itsybitsyspicyy) January 30, 2023
その後、イーサン・クラインは釈明して「笑ってしまい申し訳ない。QTシンデレラが訴訟を起こすなら、資金援助をする。」と話しています。
ディープフェイクの被害に遭った女性ストリーマーは、訴訟を起こすと話しています。許可なく名誉を傷つけられたので当然の対応なのでしょう。
エイトリアックはさらにTwitlongerにも謝罪文を投稿しています。女性ストリーマーの弁護士費用を全額負担すると表明しています。
Atrioc has apologized in a Twitlonger for the deepfake situation
He says that because of QT and Ryan Morrison, the website has already been taken down, and that he is working to cover the financial costs of that pic.twitter.com/SrMQRpCIbQ
— GUARD Hunter (@HUN2R) February 1, 2023
ディープフェイク問題の難しさ
ディープフェイクは想像以上に難しい問題です。
被害者からすれば、ディープフェイクに生理的な嫌悪感があるのは当然です。とはいえ、法的には名誉毀損で訴えるぐらいしか手がなく、ほかの罪に問うのは難しいでしょう1。人工知能による画像加工や画像生成の禁止はできません。
業界全体として、性的な消費に歯止めをかけるべきかも難しい問題です。ストリーマーの中にはホットタブのような、かなり性的なコンテンツで稼ぐ人もいます。これが同じプラットフォームのほかのストリーマーも性的な目で見られる一因ともなります。プラットフォームが性的なコンテンツを規制するのは、それ以外のストリーマーを守るためでもあります2。一方で、性的なコンテンツで稼ぎたい人が稼げる場も必要です。
また、ディープフェイク動画が禁止されていても、視聴者が一瞬のクリップで何を妄想し、何をするのかはまったく規制できないという根本的な問題もあります。妄想を膨らませる視聴者はいるものですし、人気者になればますますそうです。ディープフェイクがなくても視聴者の妄想の中では「性的に搾取」されているのは確実です1。動画が出回ることによる被害と、視聴者の妄想の気持ち悪さとは区別する必要があります。
ディープフェイク動画を見ていたエイトリアックは引退に追い込まれる勢いですが、そこまでの重罪なのかも問題です。ディープフェイク動画を作るのは今後法規制されうるとしても、視聴することまでは違法にならないでしょう1。謝罪動画に配偶者まで出して謝罪しないといけなくなったのはやり過ぎかもしれないません1。
今回の事件はエイトリアックのプライバシーの侵害であるという見方もできます。ただし、ストリーマーはプライバシーをさらけ出すことで稼ぐものですから、逆にそのせいで稼げなくなっても仕方ないところではあります。有名税のようなものです。費用の負担を申し出ざるを得なくなったのも、配偶者まで出して謝罪せざるを得なくなったのも仕方ないのでしょう。
QTシンデレラはこの事件の報道のされ方にも苦言を呈しています。誰の顔が使われたかを報道すると検索する人が増えて被害が拡大すると訴えています。報道して問題の認知度を上げようとすると被害が拡大する難しい構図になっています。
