テクノロジーは人類をおびやかすのか

『2030年:すべてが「加速」する世界に備えよ』より一部抜粋

(本記事は、ピーター・ディアマンディス氏、スティーブン・コトラー氏の著書『2030年:すべてが「加速」する世界に備えよ』＝NewsPicksパブリッシング、2020年12月24日刊＝の中から一部を抜粋・編集しています)

テクノロジーは人類をおびやかすか

2002年、ニック・ボストロムという無名のオクスフォード大学の哲学者が、《ジャーナル・オブ・エボリューション・アンド・テクノロジー》に論文を発表した(※116)。そこで展開された「シミュレーション仮説」、すなわち私たちが生きているのは映画『マトリックス』の世界であるという説得力のある主張によって、ボストロムはわずか数年で一躍ギーク界のヒーローになった。

だが読む者を薄気味悪い気分にさせるこの論文は、かなりの批判も浴びた。この論文は新たな脅威を描き出していた。ボストロム自身はそれを「人間の存在をおびやかすリスク」あるいは「グローバルな破滅的リスク」と呼んだが、従来の概念とはやや違う意味を込めていた。

これまで「グローバルな破滅的リスク」と言えば、地球を破壊するような小惑星の衝突、地球規模の核戦争などを指していた。

だがボストロムが伝えようとしたのは新たな脅威である。エクスポネンシャル・テクノロジーには人間の存在をおびやかすリスクになるという厄介な傾向があることを、よくわかっていたからだ。

よく知られた例が、自己複製可能なナノテクノロジーの暴走、つまりエリック・ドレクスラーの言う「グレイ・グー」だ。

もう一つの例が、AIがキレて北アメリカ航空宇宙防衛司令部（NORAD）をハッキングし、世界に最終戦争を仕掛けるといった事態だ。遺伝子組換生物が生態系を破壊する、サイバーテロリストが送電網を乗っ取ってニューヨークを暗闇に陥れる、バイオハッカーがエボラウイルスを武器化してサンフランシスコにばらまくといったシナリオもある。

いずれもエクスポネンシャル・テクノロジーの時代に潜む落とし穴だ。それこそがボストロムの不吉な警告である。私たちの進む先にはたくさんの落とし穴が待ち受けているのだ、と。だが、本当にそうだろうか？

これは多くの論争を引き起こしてきたテーマだ。イーロン・マスクや故スティーブン・ホーキング博士などの思想リーダーは、人間存在をおびやかす脅威について、はっきりと懸念を表明してきた。オクスフォード大学やMITのような権威ある学術機関も、こうした問題を専門的に研究する部門を立ち上げた。意見はまだ分かれている。

人類が生き延びられる確率を正確に把握しようとすること自体が不毛な試みといえる。ただ、いくつかコンセンサスも形成されつつある。

それは解決策というより、解決策のカテゴリーと言うべきものだ。ここでは「視野」「予防」「統治」と呼ぼう。

視野――思考のタイムスパンをのばす

視野を語るうえで重要なのは時間軸、つまりどれくらい先を見通すかだ。太古の昔に形成された人類の脳は、近視眼的にモノを考える習性がある。今日どうやってトラの襲撃を防ぐか、今日どうやって家族の食料を確保するか、と。

長期的に何かを考えるとしても、せいぜい「冬場を過ごせる暖かい場所をどうやって探そうか」といったことだった。要するに進化の過程で、私たちの将来に関する時間軸は6カ月程度に設定された。

もちろん私たちはこの時間軸を伸ばす方法を発達させてきた。心理学用語で「満足遅延耐性」と呼ばれる性質だ。自らの寿命を超える満足遅延耐性を発揮できるのは、人類の顕著な特徴である。宗教が来世を約束することで現世の行動を制御できるのは、この性質のおかげだ。他の動物にはできないことだ。

だが私たちはこの能力を失いつつあるようだ。フューチャリストのスチュアート・ブランドはロング・ナウ協会に寄せたエッセイで「文明は猛烈な勢いで、病的なまでに近視眼的になりつつある」と指摘する（※117）。

「こうした傾向の原因は、テクノロジーの加速、市場主義経済ならではの短期的思考、次の選挙を常に意識する民主主義の特性、あるいは個人がマルチタスクに追われて注意散漫になっていることかもしれない。いずれの要因も一段と強まっている。

近視眼的傾向を是正する何らかの調整が必要だ」ブランドが考えた是正策が、自らの設立したロング・ナウ協会だ。ネバダ州のグレートベースン国立公園の奥地にある洞穴に、人目につかないように時計を設置したことで知られる。

この時計は1万年にわたって時を刻むように設計されているが、本当の目的は心理的なもの、つまり私たちに１万年のタイムスパンで物事を考えるよううながすために設置されたのだ。ロング・ナウ協会の究極の目的は、人間の存在をおびやかすリスクから身を守りたければ長期的視野で物事を考える必要があると、多くの人に理解してもらうことだ。

予防――先回り対策を打つ

では長期的思考を現実世界で実践するというのは、具体的にどういうことか。それが解決策の二つめのカテゴリーである「予防」だ。

一例がオランダの取り組みだ。国土の大部分が海抜ゼロメートル以下のオランダは、ヨーロッパで最も気候変動の脅威にさらされている国だ。だが潮位の上昇を、防潮堤をさらに高くするといったその場しのぎの方法で乗り越えようとはしていない。防潮堤を造れば短期的には維持管理が必要になり、最終的には修理や建て直しが必要になる。

オランダはむしろ長期的視点に立ち、先を見越した対策をとろうとしている。建築評論家のマイケル・キメルマンは《ニューヨークタイムズ》紙でこう説明している（※118）。

「オランダ人は気候変動を仮定の話、あるいは経済的足かせではなく、むしろ機会ととらえている。（中略）オランダは世界に先駆けて独創的対策を打っている。

それは突き詰めれば、母なる自然を征服しようとするのではなく、可能なかぎり水を受け入れようとする姿勢だ。水を打ち負かそうとするのではなく、水と共生することだ。オランダでは湖、駐車場、公園、広場など普段の生活に役立つと同時に、海や河川の氾濫時には巨大な貯水池になるような場所を整備している」予防のもう一つの例は、AI、ネットワーク、センサー、衛星のコンバージェンスがもたらす。

それによって私たちは、現行のものとは比較にならないほど高度な、グローバルな脅威を探知するネットワークを構築できるようになる。悲惨な飢餓やテロ攻撃の被害を防ぐためのグローバルな食物網モニタリング、感染症を引き起こす病原菌から核物質まで大気中の多種多様なにおいを嗅ぎ分ける装置、AIを使った暴走AIを探知する仕組みなど、提案されているネットワークは多岐にわたる。

いずれも奇抜なアイデアに思えるかもしれないが、たとえば地球を破壊する小惑星の探知について考えてみよう。

20年前なら陰謀論かハリウッドのホラー映画にしか出てこないような話だった。だが今では、NASAのジェット推進研究所が地球への小惑星の衝突を監視するために設計した「セントリー（見張り）システム119」や、ＮＡＳＡによる小惑星の軌道を変えて地球を防衛する世界初のプロジェクト「DART」が形になっている（※120）。

そこまで未来的ではないがスケールの大きさでは負けていないのが、しばらく前から実用化されている衛星画像を使った山火事の追跡だ。NASAは2018年に、AIのデータ解析のトレーニングを開始した（※121）。1年後にはニューラルネットは宇宙からの画像をもとに、森林火災を98％の正確さで探知できるようになった。

他の研究機関では、探知された火災への対処方法が検討されている。消火用ドローンはすでに開発が進んでいる。

10年以内に宇宙から森林火災を見守るAIが、地上にいる自律的な消火用ドローンと直接コミュニケーションをとるようになるというのは、バカげた空想ではないだろう。これは緊急サービスの非物質化の第一歩ともいえる。

このような発想を、誰もが身につける必要がある。技術進歩の有無にかかわらず、地球というシステムは生きていて、常に変化している。初期の地球の大気はメタンガスと硫黄がほどよく入り混じったものだったが、そこへ酸素と呼ばれる有毒ガスがやってきて、すべてをぶち壊しにした。

恐竜は地球の圧倒的支配者として君臨していたが、今では博物館で当時の栄華をしのんでいる。変化の激しいこの世界で恐竜のようになりたくなければ、将来を見越した予防の技術を磨く必要がある。

統治――政府をデジタル化する

急速に変化する世界において、予防は人間の存在をおびやかすリスクを克服するカギとなるだろう。そして究極の予防は、適応力と機敏さを持つことだ。

ただ私たちの社会は、適応力と機敏さを発揮するようにはできていない。社会を構成する組織や制度の大半は今とは異なる時代、すなわち規模と安定性が成功の指標となる時代につくられた。20世紀の大部分を通じて、企業の成功はたいてい従業員数、保有資産の多さなどによって決まった。

一方、私たちが身を置くエクスポネンシャルな世界では、機敏さが安定性を上回る価値を持つ。ならばリースできるものを所有する意味があるだろうか。そしてクラウドソースできるものをリースする意味はあるだろうか？ エアビーアンドビーは世界最大のホテルチェーンだが、客室は一つも所有していない。

ウーバーやリフトは世界の主要都市のタクシー会社を圧倒してきたが、タクシーは1台も所有していない。そしてこのようなレベルの柔軟性は、いまや企業にとって必須であるだけでなく、国家の統治においても同じように必要だ。それが解決策の最後となる三つめのカテゴリーだ。

近代の「統治」という概念はおよそ300年前、革命の嵐が吹き荒れた後に生まれた。当時は暴政からの自由への希求と、安定性への渇望が同時に存在していた。このため近代の民主主義は分権制を採り、抑制と均衡を働かせるための冗長性を備えてきた。

専制政治と国家の不安定化を防ぐために、統治システムの変化はゆっくりと民主的に進むように設計されていた。エクスポネンシャルな世界では、反応時間を大幅に短縮することが求められる。

1997年以降、バルト海沿岸の小国エストニアはデジタルガバナンスのパイオニアとして、何をするにも時間と手間のかかる政府部門のデジタル化を推し進めてきた(※122)。その目的は、反応時間の大幅なスピードアップだ。国民が政府に何らかの問題を解決してもらいたいと思ったとき、たいていの国では長時間待たされたり、お役所仕事に悩まされたり、さまざまな難題に直面する。

それがエストニアでは公共サービスの99％がオンライン化されており、ユーザーフレンドリーなインターフェースもある。国民は5分もかからずに納税でき、選挙では世界中のどこからでも安全に投票することができ、自らの医療情報はすべてブロックチェーンによって保護された分散型データベースで入手できる。

国全体で煩雑な手続きが減少した結果、800年分の作業時間を節約できたとされる。

エストニアの例に刺激を受けて、世界中の政府がデジタル化を進めている。そして多くのスタートアップ企業がそれを支援している。オープンガブは複雑な政府の財政状態を、わかりやすい円グラフにまとめる(※123)。

トランジットミックスは交通システムの計画立案を、リアルタイムかつデータドリブンにする。アパリシアスは緊急事態対応を調整するための災害支援ダッシュボードを開発した。ソーシャルグラスは政府調達の迅速化、法令順守、ペーパーレス化を推進する（※124）。

大手テクノロジー企業も動き出している。たとえばアルファベットのサイドウォークラボは、「キーサイド」と呼ばれるスマートコミュニティの開発でカナダ政府と協力している（※125）。

トロントのウォーターフロントにあるこの工業地区では、ロボットが郵便を配達し、AIがセンサーデータを使って大気質から交通量までを管理する。

また都市全体が「クライメート・ポジティブ」、すなわち環境基準を順守し、持続可能な動力で動いている。

だがこのプロジェクトが単に不動産ニュースとして興味深いだけではないのは、キーサイドのために開発されたソフトウエアシステムはすべてオープンソースになることだ。

つまり誰でも利用でき、世界中のスマートシティの開発を加速させることになる。

---

116. “Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards,” Journalof Evolution and Technology 9 (March 9, 2002).
117. Stewart Brand, Clock of the Long Now: Time and Responsibility, The Ideas Behind theWorld’s Slowest Computer (Basic Books, 1999), p.1.
118. Michael Kimmelman, “The Dutch Have Solutions to Rising Seas. The World Is Watching,”New York Times, June 15, 2017.
119. https://cneos.jpl.nasa.gov/sentry/vi.html.
120. DART（Double Asteroid Redirection Test）ミッションの詳細はNASAのウェブサイトを参照。https://www.nasa.gov/planetarydefense/dart.
121. Jackie Snow, “Future Wildfires Will Be Fought with Algorithms,” Fast Company,November 26, 2018. https://www.fastcompany.com/90269483/how-ai-software-could-helpfight-future-wildfires.
122. Nathan Heller, “Estonia, the Digital Republic,” New Yorker, December 11, 2017. https://www.newyorker.com/magazine/2017/12/18/estonia-the-digital-republic.
123. https://opengov.com/.
124. https://www.social.glass/.
125. Alissa Walker, “Here Is Sidewalk Labs’s Big Plan for Toronto,” Curbed, June 24, 2019.
https://www.curbed.com/2019/6/24/18715669/sidewalk-labs-toronto-alphabet-googlequayside.