リクナビ問題、AI時代の恐ろしさを象徴…個人データを勝手にスコアリングされ不利益

　これにより、消費者にとっては審査に時間が短縮される、資産が少ないなどの理由で購入できなかったものが購入できる、といったメリットを得ることができます。半面、スコアリングによってさまざまな「不利益を被る可能性」もあり、場合によっては、その人の人生を変えてしまう可能性も否定できません。

　日本では、クレジットカードの利用や割賦販売時に利用される「クレジットスコア」があり、購買や支払い履歴をもとにスコアリングする「クレジットヒストリー」としてかなり昔から運用されています。これがビッグデータビジネスとして新たな発展を遂げ、「信用スコア」として運用されることは容易に想像がつきます。

　そして、その「信用スコア」は、消費者にメリットを与えてくれるだけではなく、「不利益」を生み出す可能性も否定できません。そもそもＡＩというのは、その分析の中身はブラックボックス化されるため、人間が理解することは非常に難しいのです。逆に言うと、人間ができないからこそＡＩにやらせる価値があり、その代償として、分析、判断の透明性が著しく低くなるというデメリットも存在するのです。

　キャッシュレス化が進み、成長産業といわれているビッグデータビジネスが加速する。消費者は、日常的にＩＣカードで買い物をして、インターネットを閲覧し、ＳＮＳで友達と会話をする。その一つひとつの行為自体が、将来の「信用スコア」の基データ、あるいは「プロファイリングデータ」として蓄積される。そして、ブラックボックスの中でＡＩがすべてを判断する。近い将来、いや、数年後にはこういった社会が確実に到来し、内定辞退予測の問題と同様の問題が、あなた自身にも確実に起こるだろう。

（文＝高杉康成／コンセプト・シナジー代表取締役、経営学修士（MBA）、中小企業診断士）