突然YouTubeやグーグルのアカウントBAN問題…不明確な基準の実態

　チャンネル登録者数130万人以上を誇るYouTubeチャンネルを運営していたイラストレーター・さいとうなおき氏。そんな彼のYouTubeチャンネルに突如異変が起こったのは今年3月のことだった。同月22日、Google（グーグル）からの一方的な通告でYouTubeチャンネルが削除、いわゆるBANされてしまったのだ。さいとう氏は動画内で、露出度の高い少女のイラストなども添削する企画も行っていたが、これまでグーグルからの警告などはなかったという。

　さいとう氏は今回のBAN理由を、視聴者からイラストの添削依頼を請け負う人気企画「気まぐれ添削」用に、視聴者からイラストをGoogleドライブに送ってもらっていたが、そこに送られたイラストが「不適切なもの」と認識されたのではないかと予想している。だが、それが本当のBANの原因かは定かになっていない。

　グーグルから突然BANされる事例はまれに起きる。グーグルのクラウドデータ保存サービスであるGoogleフォトに子どもとお風呂やプールに入っている写真を保存していたところ、突然「YouTube, Gmail, Googleドライブ全て利用停止」という措置を食らったといった報告もSNS上ではみられる。

　そこで今回はITジャーナリストの三上洋氏に、グーグルが運営する各種サービスはどういった仕組みでBANの判断を下しているのかを解説してもらった。

事前警告がある場合もあるが、問答無用の「1発BAN」もある

　グーグルのサービスにおけるBANとはどういう状態なのか。

「グーグルアカウントが削除されたことを指します。サッカーでいうところのレッドカード状態で、そのアカウントを使うGmail、Googleドキュメント、Googleドライブ、Googleカレンダーなど、グーグルが提供しているサービスの大半が使えなくなってしまう状態です。

　ちなみに、これはいわゆる1発BANの場合で、その前段階ともいえる『アカウントが無効』という状態になるケースのほうが大半です。この場合は、グーグルアカウントにログインし、再審査請求を開始することで復活できることもあります」（三上氏）

　ただし、グーグルサービスのなかで、YouTubeのBAN事情はほかとは少し事情が異なるようだ。

「YouTubeの場合は、運営側が定めたコミュニティのガイドラインに違反すると、まずは事前警告が届きます。この事前警告は、ユーザーが意図的ではなくポリシーに違反してしまった場合に備えた措置で、基本的に1回だけ。内容も警告のみとなっています。

　しかしこの事前警告も無視して再度ポリシーに違反した場合は、違反警告という状態になり、YouTube側からメールが送られてきます。このメールでは、違反により削除されてしまった動画の報告や、違反したポリシーはなんなのか、チャンネルにどんな影響が出るのか、そして復旧審査への応募方法などが記載されています。そして、この違反警告は3アウト制になっており、1アウトで動画投稿などが1週間使えなくなります。1アウトから90日以内に同じことをすると2アウトとなり、2週間投稿などができなくなります。2アウトから90日以内に再び違反をすると3アウト。ここでチャンネルBANとなってしまうのです。

　ですが、このような対YouTubeとのやりとりでBANになる以外にも、前述のグーグルアカウント削除経由でYouTubeチャンネルが削除になるケースもあります。これはYouTubeのアカウントもグーグルアカウントと紐づいているためです。このケースの場合は、YouTubeの収益化サービスであるGoogle AdSenseの利用もできなくなるので、別のアカウントをつくって再起を図ることすら不可能になります」（同）

自動プログラムによる判断がミスだった場合、できる対策は？

「1発BAN」の実態はどうなっているのか。

「グーグルサービスの場合は、他人へのハラスメント・いじめ・脅迫、大量の広告や詐欺メールなどを送りつけるスパム行為、テロ行為を助長する行為、漫画を含む児童ポルノと判断されるものの作成・共有・送信・アップロードを行ったりすると、1発BANになる可能性があります。これはYouTubeの場合もほとんど同じといっていいでしょう」（同）

　ではBANの判断基準はどうなっているのか。

「グーグルサービスとYouTubeが、どんなシステムで判断を下しているのかは明らかにされていませんが、おそらくアウトの基準となるサンプルに近い要素を持ったコンテンツを発見した場合、自動でアウトの判別をするプログラムを利用していると思われます。つまり人間ではなくAIが判断しているのでしょう。そのため、実際にユーザーがどんな意図を持っていたのかは関係がないのです。いわゆる『誤BAN』を防ぐために、再審査の措置はグーグルサービスとYouTubeのどちらも用意されていますが、先述のような1発BANの場合はこうした措置すらないので、現状では防ぐ手立てはありません」（同）

　三上氏は、運営側のプログラムを使ったBAN審査には支配的と思える部分もあると指摘する。

「過去に海外であるユーザーがグーグルのサービスに『装甲車の歴史』という資料をアップしたところ、1発BANを食らってしまったことがあるようです。どうやら、テロリズムの助長というポリシーに違反してしまったようですが、そのユーザーにはそんな意図はなかったそうです。

　また、2020年6月には、YouTuberのアントニオ・ラディッチ氏が自身のチャンネルで、プロのチェス選手と過去の対戦を分析する生配信を行っていた際、『黒』『白』『攻撃』『防御』といったワードを使っていたところ、突如配信が停止され、警告が届いたという出来事がありました。これは自動プログラムが単なるチェスの試合にまつわる会話を人種差別談義と誤認してしまったために起きたものといわれています。このように、自動判断では予期せぬ理由で違反者の烙印を押されてしまうこともあるのです」（同）

　意図せぬ突然のBANを回避するにはどういった心構えが必要なのだろう。

「残念な話ですが、BANされる可能性のあるコンテンツはグーグルに紐づけたサービス上で扱わないことです。例えば、危険度が高いと判断されそうな画像は、Googleドライブなどではなく、ハードディスクに個別に保管するといった対策ですね。さいとう氏のように視聴者からコンテンツを募集して自身の創作に生かしているようなケースでも、別途自分のホームページに投稿フォームを設けるといったことをすれば、ある程度、1発BANを防ぐことはできるでしょう。

　ですが、根本的なところで我々がもっとグーグル側の、ある意味横暴ともいえるこうした判断基準にもっと反発の声を上げていくことも、システム改善の機運をつくる一助となると思います」（同）

　グーグル側としては、膨大なコンテンツを人間のスタッフが一つひとつ判別することができないゆえの自動化なのだろうが、その過程で誤BANともいえる事例が頻発しているのも事実。グーグルがより判別精度の高いシステムを構築することに期待したい。

（文＝A4studio、協力＝三上洋／ITジャーナリスト）