中国、AIを軍事利用…米大手IT企業、利用者のマインドをコントロールする研究進む

　ドナルド・トランプ米大統領がツイッター上で米グーグルを“口撃”していることが話題だ。

　7月14日に開かれた保守系のイベントで富豪のピーター・ティール氏が、「シリコンバレーは、戦時中の原子力物理学者よりも事実を隠蔽している」としたうえで、グーグルのこれまでの行いが「国家に対する反逆に等しい」と発言し、それを受けてトランプ氏が司法長官に、グーグルに対する調査を求めたことに端を発している。

　トランプ氏によると、グーグルは2016年の大統領選挙においてAI（人工知能）を用いて不正行為を行ったとしている。リベラル派は、このトランプの捜査依頼を「なんの証拠もない」と批判しているが、業界の保守派からは別の声が上がっている。

　グーグルの元従業員は、「（米大手テック企業は）ユーザーのマインドを乗っ取ることができる」と警告している。選挙が近づくと、ツイッターやフェイスブックが保守派のアカウントを凍結してきたことは有名で、現在も共和党の有力候補ミッチ・マコネル議員の選挙アカウントをツイッターがロックしたことが物議を醸している。

　米大手IT企業が、これまで選挙に不正に加担していたのではないかとの指摘も浮上しており、来年に大統領選を控えたタイミングでAIとIT技術を組み合わせた選挙操作を警戒する動きが出ている。

AIは人の行動を予測し、予測は人の行動を支配する

　8月のサンフランシスコは、北から流れ込むカリフォルニア海流によって冷たい西風が吹き込んで、真夏でも少し肌寒い。筆者はエンジニアを求めており、仕事を探しているエンジニアたちとの面談のためにシリコンバレーを訪れていた。このエンジニア不足の時代に無職だといっても、彼らの能力が低いとは限らない。ここ数年、保守派エンジニアは能力にかかわらず大手IT企業内で冷遇されたり、解雇される憂き目に遭っている。筆者も業界内では営業妨害を受けたり、政治的理由による供給停止などの業務妨害に幾度となく遭っている。一般的にイメージされる「自由な空気のシリコンバレー」とは大違いの現実だ。

　面談したエンジニアのひとり（A氏）が、トランプ氏のグーグル批判ツイートを受けて、米大手IT企業がIT技術を利用してユーザーを心理操作する研究を重ねているという噂を語り始めた。

「インターネットを通じて収集されたビッグデータが政治に利用されていたんだ」

　インド人やアジア系人種で混み合うスターバックスで、A氏はそう言った。A氏は、半年ほど前まで某大手IT企業でエンジニアとして働いていた。

「ターゲティング広告は比較的よくある方法で、そんなに珍しいことではないですよね」と問うと、彼は少し憤った口調で答えた。

「もはや、そんなレベルではない。大手IT企業が持つビッグデータをAIで解析すれば、ユーザーからノンポリ層を抽出し、そのグループをターゲットとして“洗脳されやすさ”でスコアリングして階層別に分類できる。そして、これまで投票に行ったことのない層を任意の候補者に投票させるという実験が、各国の選挙で行われてきている。このAIを使った洗脳は、何社もの米大手IT企業が研究と試験を行っている」（A氏）

　有権者の投票行動を変えられるということなのか。

「ビッグデータに基づいたネット広告は、本来そういうものだ。ターゲットにしたユーザーの過去の購入履歴、行動範囲、起床時間から就寝時間を計算して、1日のうち何時から何時まで、ゆっくりデバイスの前でネットサーフしているのかを逆算し、いくつもの推薦商品の広告を見せる。表示されて、クリックしてもしなくても、それはデータとして蓄積されていく。解析するためのデータさえあれば、ターゲットの嗜好は十分に予測できる。

　人工知能が予測した結果を見せれば、『広告を見るまでは意識になかった購買意欲』が刺激されて思わずクリックしてしまう。それは、ユーザーの行動を変化させたということで、もはやAIが未来を予測しているなんてものではなくて、人間がAIにマインドをコントロールされ始めている時代の入り口に我々は直面しているんだ」（同）

　言われてみれば、その通りだ。インターネット広告では「コンバージョンレート」と呼ばれる、潜在顧客から購入者へと転換させる割合が重んじられる。ターゲットを分類して、見せる広告を視聴者層に応じて変えることで、コンバージョンレートを向上させてきた。購入を控えていた層が、何度も自分の嗜好に合う広告を見ているうちに思わずクリックして購入してしまうのだ。すでにAIは予測ツールという範疇を超えて、ユーザーの意識を変えるツールへと進化を始めているなどということが、果たして事実なのかと耳を疑った。

AIが生み出したヒラリーへの260万票

　2カ月ほど前、NPO団体である米行動科学研究所に所属する心理学者ロバート・エプスタイン博士が、「米大手テック企業が開発したAIが民主主義に与える影響に関する報告書」を憲法に関するアメリカ合衆国上院司法小委員会向けに提出した。

　エプスタイン博士によると、2016年の米大統領選挙において、グーグルのアルゴリズムが生み出したバイアスのかかった検索結果が、未決定投票者のうち少なくとも260万票をヒラリー・クリントン候補に投票するように影響を及ぼした可能性が高いという。

　博士は、さまざまなアメリカ人グループによって行われた選挙関連のグーグル検索結果1万3000件以上から調査を行った。検索エンジンを提供する企業は「SEO」と呼ばれる検索結果最適化技術を用いて、クライアント企業への有料サービスを行っている。それはインターネットユーザーに対し、当該企業の不祥事ニュースの検索順位を下げて、PRニュースが上位に表示されるようにするサービスだ。このSEO技術によって、特定の候補者に有利な検索結果をユーザーに見せたときに、意見や票が変化する調査結果が得られており、「SEME（サーチ・エンジン・マニピュレーション・エフェクト）＝検索エンジンによる心理操作効果」と名付けられた。

　博士によるとSEMEは、行動科学においてもっとも強力な影響力を持つツールのひとつであり、サブリミナル効果による影響は、ユーザーが自覚できないため特に危険であると指摘されている。AIによるバイアスのかかった誘導であったとしても、ユーザーは自己判断だと思いこむようになり、さらには当局が追跡できる痕跡も残りにくい。博士の実験結果から、バイアスのかかった検索結果は、未決定投票者の意見や投票選好度を20％以上、一部の人口統計グループでは最大80％も変化させたとの結果が出たほど、私たちのマインドは無自覚の間に乗っ取られているのだ。

AIに操られる有権者の混乱

　AIは、インターネットを通じて得たビッグデータを基に、個々人の嗜好を分析して次の行動を予測する代物だった。たとえば、IT関連の書籍をよく買う男性に、同分野の新刊の広告を見せると、その男性は無意識にそれをクリックする。「AIが未来を予測し、AIの予測に基づいたターゲットの意識操作が未来を変える」という、人工知能と人間知能の相互作用で未来が形成されているのが現実だ。

　企業の製品を宣伝して、潜在層にそれを購入させる。そこから得られる利益は莫大だが、もっと大きな利益を得られるのは、間違いなく政治だ。民主主義世界における有権者の票は、現金以上の価値がある。ロビー活動を行わなくても、自分たちの企業に都合よく働く政治家を当選させれば、利益が得られる。ビッグデータから政治的傾向を解析し、検索エンジンのオートコンプリート機能で任意の言葉を浮上させ、SNS上ではカスタマイズされた広告映像によるサブリミナル効果でターゲットを洗脳し、選挙行動に影響を与えるという技術の研究を大手IT企業が始めており、それを政治コンサルタントが利用しているという事実を見逃すべきではない。

　16年に行われたイギリスの欧州連合離脱是非を問う国民投票を実録ドラマ化した『Brexit:The Uncivil War』では、政治ストラテジストのドミニク・カミングス氏が、これまで投票をしたことがない300万人のノンポリ層にアプローチする計画を立てる様子が描かれている。

　そこで利用されるのが、SNSである。SNSのデータを利用すれば、潜在的に似たような考えを持つ層をビッグデータから抽出することが可能である。AI技術を駆使して、相対する陣営が「ここにアプローチする必要はない」と思い込んでいる“投票しない層”をターゲットにして、心理的に誘導していく様子が描かれている。

「VOTE　LEAVE（離脱に投票）」というスローガンを中心に、「TAKE　BACK　CONTROL（実権を取り戻す）」「（現在は）毎週3.5億ポンド（約450億円）をEUに送っている」などと訴えかけ、EUを離脱すれば英国民が豊かになれるというプロパガンダを投票しない層に送り続けた。

　どんなに興味がなくても、心理学で用いられる“単純接触効果”を用いれば、人は受け入れやすくなる。挨拶したことのない隣人より、特に話はしなくても毎日のように挨拶してくれる人に好感を持つのと同じだ。その単純接触効果による刷り込みで、それまで政治に対する関心が薄かった人たちはアッサリと「EUを離脱すれば生活が良くなるかもしれない」と誘導されていった。ここで怖いのは、保守、リベラルなど、ある種の政治思想に偏っている層よりも、これまで政治に関心がなかった層のほうが、政治的に偏ったメッセージを疑いなく受け止めやすい傾向があるということだ。

　国民投票の結果は、51.9％という僅差でEU離脱が可決した。その発表を受けてポンドが暴落する様子を見て英国民は混乱に陥ったが、もっとも混乱したのは、ターゲットにされたノンポリ層だ。我に返ってみると、なぜ自分たちが投票したのかわからない。EU離脱によって、自分たちにどんな影響が出るのかを理解していなかったことに気づき不安が巻き起こった。潜在意識に対する刷り込みで投票した反動も伴ってか、国民投票のやり直しを求める署名が数日で350万人分も集まった。

AIのマンハッタン計画

　今回、ティール氏がグーグルを「国家に対する反逆だ」と言及した経緯は、「AIのマンハッタン計画」と呼ばれるプロジェクトにあるといわれている。その名の由来は、「マンハッタン計画」と呼ばれる、1940年代に米国が原子力爆弾を開発するために、エンジニアや物理学者を総動員したプロジェクトにある。

　16年に、「アルファ碁」というAIプログラムを開発したグーグル子会社ディープ・マインド社が囲碁ゲームで世界トップとなったのだが、その翌年、中国・習近平国家主席が「軍民融合」を宣言した後に、グーグルがAI開発の拠点を北京に置いたことをティール氏は批判している。それもそのはずで、グーグルはペンタゴン（米国防総省）に対しては、「AIの兵器利用は非人道的なので行わない」との方針を示しておきながら、軍民融合国家でAI開発を行っていたためだ。

　グーグルは、もともと米国家安全保障局（NSA）が運用するPRISM（通信監視プログラム）に参加していた。PRISMとは、米大手IT企業のサービスを秘密裏に監視するプログラムで、マイクロソフト、グーグル、ヤフー、フェイスブック、アップル等が関与していたと元NSA局員のエドワード・スノーデン氏が指摘している。

　そして、奇妙な連携だが、10年ほど前には外国のサイトを表示するか否か程度の機能しかなかった中国の「グレート・ファイアウォール（中国防火長城）」と呼ばれるネット検閲システムの機能が格段に向上し、ビッグデータ解析による人間関係マップの作成や会話のテキスト化、自然言語認識による検閲等が含まれるようになった。ここに、言論統制からサブリミナル動画等の機能まで拡張されたのは、PRISM開発に参与した米大手IT企業が関与しているのではないかと指摘されているのだ。

　先日、元陸上自衛隊東部方面総監の渡部悦和氏が「日本戦略研究フォーラム」において、中国の人工知能の軍事利用に対して警鐘を鳴らした。

「中国は、アルファ碁ゼロ（4代目）の登場に衝撃を受け、AIの開発とAIの軍事への応用に向けた努力に拍車がかかることになった。なぜならば、アルファ碁ゼロは、戦闘シミュレーション、ドクトリン（戦い方）の開発、軍事教育・訓練への応用など、AIの軍事利用に大きな可能性を提供すると評価されたからだ」（渡部氏の提言より）

　アルファ碁が脅威である理由は、中国がこれまで持ちようがなかった“自分で学び、自ら成長する人工知能”であるためだ。渡部氏の指摘通り、AI軍事革命を目指す中国が隣国にあるにもかかわらず、我が国はあまりにも対応が遅れている。さらに、中国がAIを軍事兵器に活用する前に“洗脳兵器”として有権者の投票行動を世界各国で操作するようになり、民主主義は内部から崩壊するだろう。

　だからこそ、トランプ氏はグーグルに対する調査を求めたのだ。“トランプ氏は根拠なしに喚きたてる横暴な権力者”というイメージこそが心理操作で、彼こそが世界の民主主義を独裁国家から守ろうと真剣に戦っているといえる。
（文＝深田萌絵／ITビジネスアナリスト）