まだシンギュラリティなんて信じているのですか？ AIと指数関数の限界への無知

　令和1号ライダーの『仮面ライダー ゼロワン』（テレビ朝日系）、ご覧になってますか？　　私は昨年9月1日の放映直前に『令和ライダーはAI社長でシンギュラリティを打ち倒す！』という記事を書きました。ファンタジー、エンタメとしてなかなか素晴らしい番組です。教師、寿司職人、消防士、経営者などさまざまな職業、仕事をしている姿を描き、子供たちにSF世界のAI（人工知能）搭載ロボットがそれらをどう代替できるか問いかけています。子供たちが、様々な仕事のエッセンスを学べるようになっています。

『仮面ライダー ゼロワン』ではその後、社長秘書ロボットのイズちゃんはじめ、何体かのAIロボット（ヒューマギア）がシンギュラリティに達し、本物の心、夢と希望をもって人間に協力するようになった様子が描かれます。映画『ターミネーター』以来、機械が本物の知能をもって自分で自分を進化させられるようになれば、予測不能の猛スピードで超知能となって人類を滅ぼそうとするイメージとは正反対です。

　楽観、悲観のどちらであっても、エンタメとしてのシンギュラリティなら大いに結構。しかし、企業の経営戦略を考えたり、国家の5年、10年、そして人の１世代分、30年程度のビジョンを考えたりするのに、シンギュラリティを論じるのは有害無益、と筆者は主張してまいりました。

免疫機構をAIで実現してほしいとするカーツワイル氏

　ミスター・シンギュラリティといえば、レイ・カーツワイル氏です。書籍『シンギュラリティは近い』（NHK出版）以来、多数の講演や著作で世界中にこの言葉を広めた推進役となりました。カーツワイル氏は、ノーム・チョムスキーら5人の「知の巨人」のインタビューを編集した『人類の未来　AI、経済、民主主義』(NHK出版新書)にも登場します。彼のインタビュー部分は、2016年9月収録です。この中で、コロナ禍の現在、瞠目する発言を見つけたので引用します：

＜スマートフォンなどの）デバイス（機器）は、主にコミュニケーションの手段ですが、二〇三〇年ごろには、これらのコンピュータ・デバイスは、血球ほどの大きさになります。血球サイズのロボットが、血液中に入って、免疫システムを補助するようになるでしょう＞

　彼曰く、「AIによる寿命の延長」の一例として、血球サイズのロボットが免疫システムを補助し、T細胞のインテリジェンスを強化するかたちでバクテリアを認識して攻撃する。そして、人類がこんな長寿命になる以前に免疫システムが出来上がってしまっていたために老年特有の病気に対応できていない問題を解決するだろう、といいます。その時代まで生きて、現在の平均寿命の2.5倍の寿命を獲得するため、毎日200錠以上のビタミン剤や薬品を摂取しているとのこと。

　ちなみに、私たち一人ひとりの体内には、約20兆個の赤血球があります。大きさは直径が7-8μm、厚さが2μm強ほどの両面中央がくぼんだ円盤状です。現在のスマートフォンにはAIチップが搭載され、1秒間に数兆回の32ビットの掛け算などができます。メモリや周辺機能、電源の問題は棚上げして、演算回路だけなら現在1センチ角に搭載できるこの計算パワーを、1万分の1以下の面積に搭載できるようになるやもしれない。いや、無理かな。

　なにしろ、そのためには、100億個のトランジスタを搭載しなければならない。0.01ミリ未満の1辺に10万個の素子を並べることになり、「10のマイナス4乗メートル」掛ける「10のマイナス5乗」ということで、ちょうど分子のサイズ1nm(ナノメートル)= 「10のマイナス9乗メートル」の1素子を実現しなければならないのです。隣り合う分子どうし、接する原子の外殻電子を自在に制御できれば「配線」になるかもしれないが、無理だろうなぁ。分子に意識が宿るなどと説明する御仁の夢想ならともかく、原理的にこの宇宙では不可能な壁にぶちあたっていると、私は思います。

　他の優秀な科学者も、過去の経験が通用しないこと、過去の延長では描けない未来を想像する能力をもっていれば、カーツワイル氏の上記引用のような主張には大いに疑問を感じることでしょう。『人類の未来　AI、経済、民主主義』のカーツワイル氏インタビューの前半には、「きみたち読者は指数関数って知らないでしょ？　こんなにすごいんだよ」と言わんばかりに、延々と冗長に、指数関数的に何かが増大した例が列挙されています。

　しかし、私に言わせれば、「はいはい、指数関数が垂直上昇といえるほどの増大なのは誰でも（一部の政治家を除いて？）百も承知。でも、もっと重要なのは、ほぼすべての指数関数現象が『リソースをあっという間に食い尽くして止まる』ということではないですか？　そこに言及しないのは説明不足ですよ」となります。永久に続くねずみ講がないのも、リソース、すなわち、次のカモとなるべき人間の数が有限だからですね。

　また、ウイルスが自らを複製するメカニズムや、核爆弾の連鎖反応、そして半導体製造装置が印刷機の原理で線幅を縮小していくように、単一の単純な仕組みでないと倍々ゲームは起きません。人間のもつ複雑高度な知識の量が、AIによって指数関数的に増えていくというカーツワイル氏の発想自体に、非常に強い違和感を覚えます。

拙著ではカーツワイル氏をどう取り上げたか

　上記のようなことを2015年頃から講演や寄稿で述べてまいりました。拙著『人工知能が変える仕事の未来』（日本経済新聞出版）では、2016年の単行本でも2020年の文庫版でも下記のように書いています。AIの助けを借りてポストヒューマンは指数関数の速度で情報処理能力を拡大できるだろうという主張に対して、生物進化に照らした安易な議論は禁物、と指摘しています。

＜グーグルで未来予測をしているレイ・カーツワイル氏が語るように、仮に、社会全体としての記憶力や創造性を想定しても、それらが幾何級数的に、1年で2倍、10年で1000倍に向上し、変化するとは考えにくいのであります。「生物のように自己を進化させる特異点」をシンギュラリティ（もっと曖昧に「ヒトの能力をAIが超える点」とする定義もあります）とする主張に対しては、「はじめに」で触れたように筆者は否定的です。ディープラーニングの実態、本質を実感していただく後述の説明の後に、改めて、人工知能が人類の生存を脅かすような勝手な進化をなし得るかご判断いただくといたしましょう＞

＜「シンギュラリティ」論への懐疑

上記3軸分類上のいくつかの位置について、どんなAIであるか、いくつか考えてみます。まず、「強いAI」で「汎用的」で、「大規模知識・データ」を備えているAIなら、膨大な常識知識を人間と同等以上に大量に学習し、アレンジし創造的に使いこなせなければなりません。認知、理解、学習も全部できた上で、人間の指示がなくとも、何千種類もの専門家の知識を急速に自分で獲得して、全知全能のようにふるまうという機械となるでしょう。

　このようなAIが、いつか質的にも人間の理解や発想の能力を超えて、超・知性として進化しはじめる特異点がある、と考えるのが先述のレイ・カーツワイルはじめ、「シンギュラリティ（2045年問題）」論者です。しかしながら、実用志向ではなく、生物としての人間に本当にそっくりな強いAIであれば、自分自身を改造して進化させる、ということは行わないはずです。なぜなら、先述のように、定説となっているダーウィンの自然淘汰説によれば、生物は自分の意志で自分を進化させたりはしないからです（ダーウィンの進化論が絶対に正しいとは限りませんが）。稀に起こる突然変異によって大多数の変異個体は死滅してしまいますが、そのごく一部が新しい環境に適応し、旧種をしのぐ生存力を備えて生きながらえます。このような生物の進化の仕組みをそっくり真似た「強いAI」ならば、生物同様に緩慢なプロセスで、偶然、進化していくものでしょう＞

『最強のAI活用術』では、「指数関数の本当の怖さ」と書いて、「垂直上昇」の特性とともに、リソースをあっという間に食い尽くすことのほうが重大な意味をもつとしています。

　シンギュラリティ否定論者であるにもかかわらず、この本では、14回も「シンギュラリティ」という言葉を登場させちゃいました。肩に力はいってましたですね。反省！

　少し長くなりましたので、次回はこの続きと、特に『人類の未来　AI、経済、民主主義』でインタビュアーの吉成真由美さんにカーツワイル氏が答えて、「2029年にありとあらゆる能力でAIが人間を上回る」としている夢想と、2045年のシンギュラリティとの違いを議論したいと思います。

　2029年までは、あと8年半。9年前の「京」コンピュータから「富嶽」への進化なみのことが起きても、「ありとあらゆる能力でAIが人間を上回る」のはまだまだ無理じゃないか、と普通は考えるでしょう。少なくともそれまでは、生きていたいものです。前回記事『世界一達成のスパコン「富嶽」、すでに人類的課題の解決に活用…AIとDXで社会を幸福に』の最後に、「AIとDXによる幸福の増大を信じましょう」と書きました。確かに、信じるものは救われる、という側面はあります。でも、科学無視、論理と証拠を無視する勝手な信仰では、企業経営も、国家の運営もおぼつかないのではないでしょうか。

（文＝野村直之／AI開発・研究者、メタデータ株式会社社長、東京大学大学院医学系研究科研究員）