虚妄のAI神話_帯

AIをめぐる、GAFAの壮大なるマッチポンプ『虚妄のAI神話』試し読み

(以下、本文より抜粋)

放火魔の消防士

 現在、インターネット業界の表舞台に立っている大企業は、フランスでは、GAFAや、GAFAM、NATUというふうに総称されている。これらのいわゆる「ウェブ業界の巨人」は、シンギュラリティの宣伝に巨額の資金を投じている。

*GAFAは、グーグル、アマゾン、フェイスブック、アップルのこと。マイクロソフトを加え、GAFAMと呼ばれることもある。フランスでは、これらの大企業が裏で世界を操っているという大きな危機感とともにこの言葉が用いられる。しかし、分析を歪めないよう、こうした意見を安易に受けとめることは差し控えたい。
 GAFAやGAFAMに続き、最近ではNATUという呼び名が誕生し、情報技術の業界で「限界を突破」した四つの大企業、ネットフリックス、エアビーアンドビー、テスラ、ウーバーを総称している。

 ビル・ゲイツやイーロン・マスクはシンギュラリティに関して積極的に発言しているし、ノキア、シスコ、ジェネンテック、オートデスク、グーグルといった大企業は、シンギュラリティについて学ぶ教育機関であるシンギュラリティ大学に出資し、イーロン・マスクは、未来生命研究所という人工知能の安全性について研究している団体に1000万ドルという太っ腹な寄付を行なった。また、2012年12月には、グーグルがレイ・カーツワイルを雇い入れた。スチュワート・ラッセルやニック・ボストロムはシンギュラリティについて積極的に言及しているが、彼ら科学者・哲学者は、先ほど例示した大企業が出資する団体からの援助を受けている。このように、情報産業やウェブ産業、通信産業の大企業が、大金を投じてシンギュラリティという仮説の信奉者を援助しているのである。

 これはなんとも皮肉な状況だと言えよう。これらの大企業は、自ら率先して情報技術の発展を推し進めているというのに、その情報技術こそが人間を破滅に追いやると自ら警告しているのだ。これではまるで「放火魔の消防士」ではないか。彼らは自分たちで望んで火をつけておきながら、その火を消すために先頭に立って奔走している。グーグルは、テクノロジーによる人間の尊厳や民主主義、善の基準の侵犯を防ぐために、国際的な倫理憲章を制定する倫理委員会の設立を約束している。だがそのグーグル自体が、恥ずかしげもなくヨーロッパの倫理規定に違反しているのだ。グーグルは、ネットに掲載された情報の削除(忘れられる権利)を求める個人の申し出を無視し続けている。元来慈善事業を行なっているわけではないだけに、これら大企業の本当の目的は謎に満ちている。よってここでは、シンギュラリティの宣伝を行なう企業の目的を探ってみたい。


宣伝

 過去のカタストロフィーは、実際に起こったものであろうと、想像上のものであろうと、人々の関心を集める。それが未来のカタストロフィーであれば、よく作りこまれているほど、広く大勢に受け入れられるものだ。シンギュラリティにしても例外ではない。SF小説や未来予想の映画という形で広まったり、有名大学で教鞭をとっている教授、ノーベル賞を受賞した学者、大成功した実業家といった権威ある人々の声明が話題になったりと、さまざまにパッケージされて、世間に大量に広まっている。そのことは、メディアがシンギュラリティに関する話題を日々発信して人々にその存在を信じこませようとしていることからもわかるだろう。

 そう考えてみると、大企業がいくらかの費用を使って、シンギュラリティを宣伝する理由も納得できる。実際、シンギュラリティという考え方によって、今後、テクノロジーが際限なく支配力を増し続けていくこと、そしてテクノロジーこそが未来への鍵を握っていることは明らかだ。ここから次の仮説が導き出される。シンギュラリティは、ハイテク産業が宣伝という目的のために持ち出した、という仮説である。

 研究所や大学がシンギュラリティの宣伝のために投資をしているという事実は、この仮説を用いればうまく説明できる。だがこのように言うと、ハイテク企業はシンギュラリティを宣伝することで自らのイメージを損なうリスクを冒している、という反論も出てくるだろう。確かにシンギュラリティを宣伝することは、先ほど述べた「放火魔の消防士」のような二面性を持つ。一方では、自らがテクノロジーの進歩を担い日々の生活を向上させているのだと主張し、もう一方で、自らが進めていることが人間にとって脅威になると叫んでいるのである。

 では、一見すると矛盾するこの認知的不調和の状態を解決するために、シンギュラリティという考えの核心をとらえてみよう。その核心には、テクノロジーが今後自律的に進歩していくという予想がある。ハイテク企業の経営者たちは、ムーアの法則のような万物に通用する法則を持ち出し、テクノロジーは自ら進歩すると断言する。自分たちがテクノロジーの改善をする必要がなく、何が起ころうともテクノロジーの側で改善に向かってくれると主張することで、自らの責任を回避しているのである。彼らが引き受けることは、テクノロジーを人間的なものにすること、人類の幸福に貢献する意志を持つこと、そして、耳を傾けるということだけだ。同時に彼らは、自分たちには問題点を把握して、人々に先立って変化を予見する能力があるとも訴える。テクノロジーに精通した寛大な企業が、清き心や人類愛から未来に起こる変化を警告し、より良い生活や、寿命を延ばすための手助けをしてくれるというのである。

 グーグルの企業理念は、多くのハイテク企業によって飽きることなく繰り返されているわけだが、これこそが彼らの理想を完璧に表現している──making the world a better place「世界をより良い場所にする」。つまり、シンギュラリティを人々に定着させるための宣伝は、企業が生み出すものの質を人々に知らせようという目的で行なわれるわけではなく、自分たちが公共のために正しいことをする企業であるというイメージを広めるためのものなのだ。だからこそ、多くのハイテク企業が、倫理観を示すために将来の改善につながるようなさまざまな行動規範を作り、中でもグーグルは、悪を憎む気持ちを強調するためにスローガンを掲げたのだ──don’t be evil「邪悪になるな」。実に象徴的な文言だと言えよう。


偽りの善意、偽りの思いやり

 しかし、ハイテク分野の大企業がシンギュラリティを広めようとする行為の中に、善意や思いやりを示すという意図があるとしても、今度はそれ自体が偽りではないかと疑わざるをえない。本当に、自分たちの良いイメージを示すためだけにシンギュラリティを宣伝しているのだろうか? その宣伝戦略の裏に、もっと大きな目的、本来の政治的な目的を隠してはいないだろうか?

 これらの企業は、すでに圧倒的な成功を手に入れていることを考えてみてほしい。彼らはとりあえずのところ、これ以上、何が何でも金銭的な成功を追求する必要はない。短い期間での金儲けは彼らの真の目的ではない。最初の段階から、彼らの野望はもっと遠くを目指していた。彼らは新しい社会を確立しようとしているのだ。つまり、彼らの目的は、今も昔も、経済的なものではなく政治的なものなのである。

 2001年に、グーグルの共同設立者、ラリー・ペイジが掲げた目標はそのことをよく物語っている。彼は、世界の情報を組織化すること、世界のどこにいても情報にアクセスできるようにすること、そして、その情報を有益なものにすることが目標だと言った。現在、彼らの築いた経済帝国は莫大な規模となっている。通貨はユーロ、ドル、元とさまざまだが、1億、10億といった規模の金額が動く。実際、彼らが行なうベンチャー企業の買収は、この莫大な単位の金額で進められている。

 注目すべきは、このような大グループの経済は急ごしらえであり、実質的なサービスによる目に見える利益から成り立っているわけではなく、投機的な要素が強いということだ。彼らの事業は多くの場合、奇妙なことに、無料のサービスの提供によって成立している(検索エンジンやソーシャルネットワークなど)。彼らが利益を得るのは、広告など、本来のサービスに付随する有料のサービスからだ。これらは本業に比べると副次的なサービスであるが、規模は大きく、莫大な収益になる。つまり、多くの場合、これらの企業がどのくらい成功しているかを測るためには、資産額の増加や、場合によっては証券取引所での株価の上昇によって測るしかない。こうしてみると、噂に反し、GAFAやNATUが裏で結託して陰謀をはかっているわけではないことがわかる。なぜなら彼らも資金を得るために互いに競いあっているからだ。とはいえ、いずれの大企業も、他を圧倒することはできないと考えてもいる。それは、彼らの会社がある北アメリカの法律が、独占を禁止しているからだ。

 結果として、こうした投機的な事業を進めていくために、これらの企業は常に新しい場所へ関心を持つことになる。つまり、彼らは自分の権力が及ぶ新天地を探しているのである。今までのような地理的な境界線をはみ出たり、新たな地域が加わったりと、彼らの支配する地域は旧来の国境の枠にとどまらない。ハイテク産業の企業は、こうした新しい土地によって新たに大きな利益を獲得し、支配力を強めていこうとしている。こうして見てくると、彼らの戦略の中核に、新しい地域の獲得があることは容易に理解できるだろう。彼らの意図は、まったく新しい政治的な広がりを持っている。そのことにより、地球全体の勢力バランスは全面的に変わるだろう。

 おそらく、大昔、人類が定住生活をはじめ、農業が生まれた時代に国というものが生まれ、そして、特に中世の終わりから、世界は国家という枠組みによって区切られてきた。国家はそれぞれの領土を手に入れ、その領土の支配力を固めようと望んだ。それが今日、インターネットの登場で、権力の及ぶ地域はもはや国家の領土と重なりあわなくなってしまった。今や、ある国に何年も暮らしていても、必ずしもその国の言葉を話さなくてもよく、その国の習慣に従わなくてもよい。そればかりか、自分がどこに暮らしているかまったく意識しないことすら普通になった。人々はよその国に暮らしながら、日々自分の生まれた国とともに生活することが可能になったのである。しかも、国家の権威がもはやその領土に暮らす人々に全面的な影響を与えなくなったのだ。これからの時代は、物を買ったり、コミュニケーションを取ったり、働いたり、交換したりということを、自国の地理的な国境を越えて、ほぼ自由に行なうことができる。同時に国内でも、大組織、たとえば銀行、省庁、企業といったさまざまな組織は、徐々にサイバースペースへの依存を深めている。とはいえ、そのサイバースペースが海外からの攻撃にさらされても、国家はそれに対してまったく、あるいはほぼ何も対策を打ち出していないのが現状である。

 このように、国家と領土の関係が変わっていく中で、近代の主権国家が受け持つとされてきたいくつかの役割に関して、国家の能力はハイテク企業の能力に大きく先を越されている。今やハイテク企業が、国家の役割をより巧みに、より安価で担えると主張するまでになった。その範囲は、保安、税の徴収、貨幣の管理などの、伝統的に国家に属していた役割にも及ぶ。そればかりでなく、教育、保健、文化、環境に関しても、役割の移行が進んでいる。


目くらまし

いたるところで新しい分野が生まれ、新しい場所が支配される。地域(région)の語源さながらに「支配(régir)された土地」が増えているのである。ハイテク分野の大企業は、新しい場所を支配するために互いに争い、その場所を分割していく。彼らの目的は、経済的成功だけではない。彼らは政治的意図も持っているのである。大企業は安定した状態にある国家、特にヨーロッパの国々に戦いを挑んでいる。

 その結果、国家はだんだんとその権限を失いつつある。それは、小説家のジョージ・オーウェルが『一九八四年』で描いた世界とはかけ離れたものだ。オーウェルの描いた世界では、国家が依然として独占的な権力を掌握していた。これまでも、国家に割り当てられてきた大権力について、共和主義者と自由主義者の間で長く論争が繰り広げられてきたが、今やその権力は巨大企業によって少しずつかすめ取られ、国家はやせ細ってしまっている。誰もこの流れを止めることができない。われわれは、こうして、政治の大転換を目の当たりにしているのだ。シンギュラリティという壮大な物語は、突拍子もない空想の裏に、これらの変化がもたらす危険性を隠している。恐れという感情は本来の危険を見えなくしてしまう。

しかし、未来は必ずやってくる。歴史は過去をたどるよりも先に進みたがるものだ。この世界は変化している。そして人間はその変化を引き起こしている。世界の終わりの物語は、この変化に対するわれわれの注意を他所へそらそうとするものに他ならない。見た人を石に変えるギリシャ神話のゴルゴンのように、シンギュラリティはわれわれを石に変えてしまおうと目論んでいる。しかし、われわれは目をそらさずに、目の前で起こることをまっすぐ見据えなくてはならない。逃げ出さずに、現在起こっている問題を解決しなくてはならない。

 もう一度、繰り返して言おう。シンギュラリティの提唱者が主張するような断絶が起こることを証明するものは何もない。おそらく、これからも進歩は加速し続け、その大きな渦でわれわれを飲み込もうとするだろう。しかし、その現実に目をふさいでしまうのではなく、行動することこそが求められている。

■著者紹介
哲学者。ソルボンヌ大学コンピュータ・サイエンス教授。同大学の情報学研究所で、認知モデルや機械学習など人工知能(AI)に関する研究を行なう「ACASA」のトップを20年以上にわたり務める。2016年9月より、フランス国立科学研究センター倫理委員会委員長。近年はIT社会における倫理や政治哲学、人文情報学など、領域横断的な分野へ関心を広げている。2017年5月に来日し、日仏フォーラム「人工知能は社会をどのように変えるのか?」に、西垣通氏らとともに登壇した。AIに関する著作が多数あるほか、2019年2月にはGabriel Naëjのペンネームで小説 Ce matin, maman a été téléchargée (今朝、お母さんがダウンロードされた)を発表した。

■西垣通氏(東京大学名誉教授)による解説はこちら

ジャン=ガブリエル・ガナシア『虚妄のAI神話──「シンギュラリティ」を葬り去る』(伊藤直子ほか訳、本体880円+税、ハヤカワ・ノンフィクション文庫)は早川書房より好評発売中です。

この記事が気に入ったら、サポートをしてみませんか?気軽にクリエイターを支援できます。

note.user.nickname || note.user.urlname

出版社・早川書房のページです。最新ニュースに加えて、連載、抜粋、著者やシリーズ紹介とどんどんとコンテンツを投入予定です。Amazon.co.jpアソシエイト。

スキありがとうございます!
17
早川書房の書籍&雑誌コンテンツをお届け。キャンペーン、著者紹介、目録のアップも。公式ホームページは、http://www.hayakawa-online.co.jp/