「シンギュラリティ」の背後にうごめく、GAFAの政治的野望とは?『虚妄のAI神話』解説・西垣通(東京大学名誉教授)

シンギュラリティ仮説の背後にうごめくもの
東京大学名誉教授(情報学) 西垣通

 2010年代後半に入って、AI(人工知能)ブームの過熱ぶりは凄まじい。とりわけ、その中核にあるシンギュラリティ(技術的特異点)仮説は、現代のグロテスクな神話と言ってもよいだろう。本書『虚妄のAI神話──「シンギュラリティ」を葬り去る』(原題はLe mythe de la Singularité、2017)は、シンギュラリティが実際に到来するかどうかを冷静に見極めるだけでなく、その背後にある文化的・宗教的なダイナミックスを、「仮像(かぞう、pseudomorphose)」という概念にもとづいて容赦なくえぐり出してみせる。きびしい警告の書物である。

 だが、著者は決してAI技術自体を否定しているのではない。むしろ、本来のAI技術が、シンギュラリティという怪しげな神話によって変質してしまうことを批判しているのだ(仮像とは、ものごとの外形が保たれたまま、中身が変化してしまうことを表す)。いかにもフランス知識人らしく、豊かな人文学的教養をバックボーンに、情報科学についての専門的知識も駆使して犀利な議論を展開していく。

 少し補足しておこう。シンギュラリティ仮説とは、2045年あたりにAIの能力が人間を凌ぎ、機械的支配が進んで世界のありさまが大きく変容してしまうという予測のことだ。「シンギュラリティ」という言葉は1980年代に数学者ヴァーナー・ヴィンジが言い出したが、未来学者のレイ・カーツワイルが2000年代半ばに楽観的予測をおこない、さらに2010年代に機械学習によるビッグデータ処理技術が顕著な進展を示すとともに、一挙に国内外で有名になってしまった。かみ砕いて言えば、人間のような意識をもち、汎用の機能をもつ「強いAI」がおよそ30年後に出現するという話である。

 この仮説について現在、主に三つの見方が存在する。第一は、AIが人類に光明と幸福をもたらすという楽観論、第二は逆に災厄と不幸をもたらすという悲観論。両者はいずれも、シンギュラリティがかならず到来するという前提に立っている。次に、来るか来ないかよく分からないが、経済効果が見込めるし、マスコミ受けがして予算も取れるので騒いでおこうという中立論だ。第一と第二は欧米の専門家や知識人に多いが、日本では第三の見方をする人々が圧倒的である。だが率直に言って、第三の立場にちんまり安住する人は、知的誠実さを欠くと責められても仕方がないだろう。問題は、情報社会に生きるわれわれすべてに突きつけられているからだ。

 そこで、本書をひもとく価値が出てくる。まず、著者はシンギュラリティ仮説が本当に到来するかを検討する。カーツワイルの予測は、技術が指数関数的に発展するという経験則(収穫加速の法則)にもとづいている。もっとも知られているのは、1年半ごとにコンピュータの半導体集積回路の密度が倍増していくというムーアの法則だが、それだけでなく、生命進化や文化発展などを含むより広範な分野で、指数関数的な成長が普遍的に出現する、という仮定がカーツワイルの議論を支えている。しかし著者は、この一般的な仮定が物理的限界を無視しており、科学的根拠を欠いたものだと手厳しく指摘する。ある仮説が説得性をもつには、いくつかの相異なる仮説と比較することが不可欠なのに、そういう手続きもまったく踏まれていない、というわけだ。結局、シンギュラリティ仮説は「ほとんどありそうにないこと」をのべており、「真面目に検討するに値しない」しろものなのだ、と著者ははっきり結論づけるのである。

 さて、シンギュラリティ仮説に関するこういう批判は、それ自体、とくに目新しいものではない。カーツワイルの収穫加速の「法則(?)」など、とうてい科学的な精査に耐えるものではないからだ。日本人の常識からすれば、シンギュラリティが到来すればやがて人間は不死性を獲得し、コンピュータのなかで永遠に生き続ける、などというカーツワイルの言葉をまともに信じることは難しいだろう。本書の真骨頂は、分析を進めて、そういう神話の源泉である文化や宗教の領域を論じたところにある。そして、その分析を踏まえて、グローバルに展開する巨大なハイテクIT企業がなぜシンギュラリティ仮説を支持するのか、その理由と目的に迫ろうとしたところにある。

 そもそも、人間の知とAIの機械的な知との境界線を問いかけるのは、ユダヤ゠キリスト一神教における造物主の視座から見た議論である。人間も機械も、所詮は神が設計し創造したものであり、その点では変わりがない。カーツワイルのようなトランス・ヒューマニスト(超人間主義者)からすると、人間を越えていく普遍的な知というものも当然ありうるし、それが強いAIなのだということになる。だが、同時にそういうAIを人間がつくることは、フランケンシュタイン博士の所行と同様に、神を冒涜する罪深い業だという怖れも現れる。だから西洋では、楽観論とともに悲観論が出現するのである。この点は、万物に霊魂を認めるアニミズムの伝統をもつわれわれ日本人には、なかなか分かりにくい。それで、可愛らしいロボットがほしいというユーザの願望と、人間に優しいロボットを作りたいという技術者の情熱とが組み合わさって、この国ではAIロボット・ブームが起きているのだ。しかし、AIの深奥にあるのは一神教的な文化だということを忘れると、われわれはとめどなく迷走していくだろう。

 こういった点を念頭におくと、西欧的知識人である著者の議論はきわめて興味深い。とりわけ刮目に値するのは、シンギュラリティ仮説とグノーシス主義との共通点を指摘していることだ。日本ではあまり知られていないが、グノーシス主義とは、古代から中世にかけ、中東をふくむ西洋世界で圧倒的な力をもった宗教思想である。一神教と関わりが深いが、正統キリスト教からすれば、最大の異端ということになるかもしれない。

「グノーシス」とは本来ギリシア語で「知」のことであり、都会の主知主義的な思想と言ってよいだろう。そこでは、神と人間とが対称的関係(神すなわち人間)にあり、この点で、神が圧倒的に上位で非対称的関係にあるユダヤ゠キリスト教とはまったく異なっている。古代グノーシス主義を統一したのがマニ教だが、これは光と闇の善悪二元論が特徴だ。グノーシス主義でめざされるのは個人の救済であり、造物主の支配する地上から光の世界に回帰することに他ならない。このために知(グノーシス)があるのだが、知は救済力と破壊力をそなえており、行き過ぎた愛知(ソフィア)は破壊(悪)をもたらすこともある。

 このようなグノーシス主義は、大貫隆らによる精緻な研究はあるものの、われわれ日本人にはあまり馴染みがない。だが、西洋におけるグノーシス主義の隠然たる影響力は、近代の合理主義によってはじめて克服されたと言われる。著者は近代合理主義者として、シンギュラリティ仮説がこのグノーシス主義と共通点をもつという、印象的かつ挑戦的な議論を展開するのだ。その理由として、知識にもとづいて自然を変革し、肉体から精神を解放せよと説くこと、しかもその説得の際、実証的実験や数学的証明といった「論理(logos)」ではなく宇宙的な「物語(mythos)」を用いること、などをあげている。人間の意識をコンピュータにアップロードして、電子技術と肉体が融合したハイブリッド生命を創造することが光明をもたらす、というシンギュラリティ仮説のストーリーは、確かにグノーシス主義の神話と一部重なっていると言えるかもしれない。

 著者によれば、グノーシス主義がユダヤ゠キリスト一神教の仮像であるように、シンギュラリティ仮説の主張する強いAIは、本来のAIの仮像だということになる。表向き同じような外見をしていても、内容的にはまったく異なるもの、あえていえば異端だという主張なのである。

 それにしても、いったいなぜ、グローバルなハイテクIT企業は、これほどにシンギュラリティ仮説にこだわるのだろうか。著者はそこに隠された意図や目的を読み解こうとする。ハイテクIT企業のリーダーたちは、必ずしもシンギュラリティの未来に楽観的な見通しを持っているわけではない。恐るべき悲劇の予感もある。それなのに、強いAIの研究開発を推進しようとしているのは彼らなのだ。この矛盾が示すものは何か。──シンギュラリティが到来すると、技術が自律的に進歩して人間を支配する。だがそれは歴史の必然で人間にはどうしようもない。──そう宣伝したいのだ、と著者は推察
する。彼らリーダーたちは、たとえ何が起きようとも技術が自ら改善してくれると主張し、公共的倫理を唱えつつ実は「自らの責任を回避している」のではないのか。それだけではない。そういう偽りの善意の背後に、近代国家にかわってハイテクIT企業が世界を支配し、新しい社会を創りあげるという政治的目的がひそんでいるのだと、断言するに至るのである。

 以上のような著者の主張を、われわれはどう受け止めるべきだろうか。米国企業を中心としたグローバル資本主義の侵犯に対する、西欧の古典的知識人の抵抗だと見なすことはできるだろう。だが少なくとも、その警告に耳を傾けることには大きな意義がある。AIと言えば、技術改良と経済効果の話題だけ、あとはせいぜい幼稚な夢物語というのが、情けないことにこの国の常識だ。本書がそんな常識に衝撃を与えることを切に願う。


文庫版追記

 以上は、2017年5月、本書が単行本として刊行されたときに記した解説である。その後二年ほど経過して、インターネットやAIをめぐる状況は、ますます緊急度を増してきた。GAFAM(グーグル、アマゾン、フェイスブック、アップル、マイクロソフト)とよばれる米国の巨大IT企業は地球上のビッグデータを寡占し、その影響力は、歴史上これまでに無いほど高まっている。このことは何を意味するだろうか。

 従来、個人を識別し、個人データ(氏名、住所、年齢、性別、国籍、職歴、学歴、資産、賞罰など)を収集管理するのはもっぱら国家や地方自治体の役目だった。そして政治主体と個人のあいだには緊張関係があり、プライバシー保護をはじめ自由や平等をめぐる議論が盛んに重ねられてきた。だが、今や巨大IT企業は、それらを簡単に飛び越え、猛烈なスピードで個人のデータを収集蓄積し、行動を細かく追跡し、コンピュータのアルゴリズムで分析して、広告宣伝をはじめビジネスに活用している。データの扱いやアルゴリズムの中身は、企業秘密ということもあり、個人には不透明でほとんど分からないのである。個人の行動や嗜好が詳細分析されても、逮捕されるわけではないし、商品を紹介してくれれば便利ではないか、と考えることもできるかもしれない。とはいえ、個人がアクセスできる情報はいつのまにかフィルタリングされ、行動の選択肢は事実上限られたものとなっていく。つまり情報の囲い込みが起きるのだ。その延長上で、人々が分断され、排外意識が高まったり、フェイク(偽)ニュースで政治的に洗脳されたりする恐れが出てくる。最近ささやかれる偏狭なナショナリズムの勃興も、情報フィルタリングが一因だと言えるかもしれない。これを近代民主主義の危機と捉えることもできるだろう。

 断っておくが、インターネットにはもともと、国境をこえるリベラルな言論空間をめざす理念があったのだし、巨大IT企業が悪意をもっているなどと単純に非難するつもりはない。むしろ問題は、技術の進歩展開が速すぎて、われわれの問題意識や社会制度が追いついていかない、という点にあるのだ。

 近代民主主義の発生地ということもあり、フランスやドイツを中心としたEU諸国は、この点を何とかしたいという強い意欲をもっている。2018年から施行されている「EU一般データ保護規則GDPR(General Data Protection Regulation)」はその危機意識と努力の表れと言えるだろう。欧州経済領域に属する諸国の個人データの収集管理を規制することで、個人が単なる「データ集合体」と見なされて海外企業に搾取されたり、基本的な自由を奪われたりする事態を予防しようというわけだ。

 ところで、こういう事態は実は、AI技術の乱用と関係が深いのである。なぜなら、われわれが主体的に討論をおこなって社会的判断を下すかわりに、人間より有能で賢明なAIが判断してくれる、というのがAI信奉者の主張だからだ。このとき、AIのする仕事は、「データ集合体」であるわれわれ一般人には完全にブラックボックスで、批判できないものとなる。AIの背後から響いてくるのは、一部の支配層の高笑いではないのか。シンギュラリティ仮説はそういう恐るべき未来を、なぜか楽観的に予言しているのである。

 2018年に刊行した拙著『AI原論』(講談社選書メチエ)は、いったいなぜシンギュラリティ仮説のような思考が西洋で生まれるのか、その哲学的・宗教的な背景を論じたものだ。本書の主張と重なる点も多いので、あわせて読んでいただければ幸いである。ともかく、いま必要なことは、トランス・ヒューマニストの妄言に惑わされず、冷静にAI技術の実相を見抜き、これを人間のために真に活用する方途をさぐることではないだろうか。

 2019年5月

ジャン=ガブリエル・ガナシア『虚妄のAI神話──「シンギュラリティ」を葬り去る』(伊藤直子ほか訳、本体880円+税、ハヤカワ・ノンフィクション文庫)は早川書房より好評発売中です。

この記事が気に入ったら、サポートをしてみませんか?気軽にクリエイターを支援できます。

note.user.nickname || note.user.urlname

出版社・早川書房のページです。最新ニュースに加えて、連載、抜粋、著者やシリーズ紹介とどんどんとコンテンツを投入予定です。Amazon.co.jpアソシエイト。

ありがとうございます!今後共どうぞよろしくお願いいたします。
17

Hayakawa Books & Magazines(β)

早川書房の書籍&雑誌コンテンツをお届け。キャンペーン、著者紹介、目録のアップも。公式ホームページは、http://www.hayakawa-online.co.jp/

ハヤカワ・ノンフィクション

ハヤカワ・ノンフィクション文庫や、ハヤカワ・ノンフィクションなど。話題のノンフィクション作品の解説、試し読みを公開中。
1つ のマガジンに含まれています
コメントを投稿するには、 ログイン または 会員登録 をする必要があります。