リクナビ問題、AI時代の恐ろしさを象徴…個人データを勝手にスコアリングされ不利益

　今回の内定辞退予測の場合、過去に自社を応募してきた学生が、どういった企業（他社）、サイトを閲覧すると、内定辞退する可能性が高くなるかという分析をＡＩ（人工知能）などに行わせ、それをもとに、今年応募してきた学生の内定辞退を予測するという論理です。この論理は、先ほどのコンビニのおにぎりの事例で示したペルソナとほとんど同じ論理であり、プロファイリングそのものなのです。

「何が問題か？」の基準がない

　さまざまなビッグデータを、ＡＩを使って分析し、新しいビジネスにつなげていく。国も主導している成長戦略であり、企業も注目している新たな事業領域です。プロファイリングによるＡＩを使った予測ビジネスは、ビッグデータビジネスのなかでも非常に有望なビジネスです。なぜなら、費用対効果に直結する可能性を秘めているからです。

　例えば、就職情報サイト「マイナビ」が２０１８年に行った調査によると、企業の採用活動にかかるコストは平均で５５８万円、入社予定者１人当たりにかかる採用コストは平均で４８万円となっています。プロファイリングによりこのコストが削減できるとなると、かなり大きな費用対効果が見込まれます。

　また、何千万円、場合によっては何億円も費用がかかる企業の商品開発においても、プロファイリングによって成功確率を上げる、あるいは失敗する確率を下げることができれば、大きな費用対効果を生み出すことができるのです。

　しかしながら、この類のビジネスにおいて、「どういったビジネスが問題となり、問題とならないか」はいまだに明確となっていないのです。今回の内定辞退予測サービスの場合、それによって学生が「不利益を被る可能性」があるという点と、個人情報保護法という法令を違反している可能性があるという点が問題となりました。

ブラックボックスの中でＡＩがすべてを判断

　では、先ほどの商品開発の事例は問題とならないのでしょうか。キャッシュレス化の浸透で、ますます利用頻度が高くなるＩＣカードの購買履歴をもとに、スマホに広告を表示させたり、メールで案内を行う。プロファイリングを用いたビッグデータビジネスそのものです。

　あるいは、「信用スコア」は問題とならないのでしょうか。「信用スコア」とは、ＡＩを使って個人の信用力を数値化することです。中国ではすでに導入され、年齢や学歴、職歴などの個人情報だけではなく、資産情報、購買履歴、ＳＮＳ上の友達の数、質、発言などを使って個人の信用度をスコアリングします。