人類の存在に対する5つの最大の脅威

人類が直面している現在の「危機」の日々の騒ぎの中で、私たちは、これから来ると期待している多くの世代のことを忘れています。今から200年後ではなく、今から1,000年後、10,000年後に生きる人たちです。私が「希望」という言葉を使うのは、人類を絶滅させる恐れのある、実存的リスクと呼ばれるリスクに直面しているからです。これらのリスクは、大災害だけでなく、歴史を終わらせる可能性のある災害のことです。

しかし、誰もが遠い未来を無視しているわけではない。ノストラダムスのような神秘主義者は、世界の終わりを定期的に計算しようとしてきた。HGウェルズは予測の科学を発展させようとし、著書『タイムマシン』で人類の遠い未来を描写したことで有名だ。他の作家も、警告、娯楽、推測のために、長期的な未来を作り上げてきた。

しかし、これらの先駆者や未来学者が人類の将来について考えていなかったとしても、結果は変わらなかったでしょう。彼らの立場に立った人間が、存在の危機から私たちを救うために、あるいは危機を引き起こすためにできることは、ほとんどなかったのです。

私たちは現在、より恵まれた立場にあります。人類の活動は着実に地球の未来を形作ってきました。そして、自然災害を制御するには程遠いものの、災害を軽減、あるいは少なくとも対処するのに役立つ技術を開発しています。

未来不完全

しかし、こうしたリスクは十分に研究されていない。こうしたリスクには無力感と宿命論が漂っている。人々は何千年もの間、終末について語ってきたが、それを防ごうとした人はほとんどいない。また、人間は、まだ起こっていない問題に対して何もすることが苦手である（これは、一部には、例を知っている出来事の確率を過大評価し、すぐに思い出せない出来事の確率を過小評価する傾向である、可用性ヒューリスティックのせいである）。

もし人類が絶滅したら、少なくともその損失はすべての生きとし生ける個体の喪失と彼らの目標の挫折に等しい。しかし、その損失はおそらくそれよりはるかに大きいだろう。人類の絶滅は、過去の世代が生み出した意味、すべての未来の世代の命（そして未来の命は天文学的な数になるかもしれない）と彼らが作り出すことができたであろうすべての価値の喪失を意味する。意識や知性が失われれば、その価値自体が宇宙から消えてしまうかもしれない。これは、実存的脅威が現実になるのを防ぐために懸命に努力する大きな道徳的理由である。そして、私たちはこの追求において一度も失敗してはならない。

それを念頭に置いて、私は人類の存在に対する最大の脅威と考えられる 5 つを選択しました。ただし、このリストは最終的なものではないため、留意すべき注意事項があります。

過去 1 世紀にわたって、私たちは新たな存在リスクを発見したり、生み出したりしてきました。超巨大火山は 1970 年代初頭に発見され、マンハッタン計画以前は核戦争は不可能でした。したがって、今後も新たなリスクが出現すると予想されます。また、現在深刻に見えているリスクも、知識が深まるにつれて消えていく可能性があります。確率も時間とともに変化します。リスクを懸念して対処することもあるためです。

最後に、何かが起きる可能性があり、潜在的に危険だからといって、心配する価値があるというわけではありません。銀河の爆発によって生じるガンマ線バーストなど、私たちがまったく対処できないリスクもあります。しかし、私たちが何か対処できることがわかれば、優先順位は変わります。たとえば、衛生、ワクチン、抗生物質のおかげで、疫病は天災から公衆衛生の悪化へと変わりました。

1. 核戦争

これまで戦争で使用された核兵器はたった2つ（第二次世界大戦の広島と長崎）であり、核兵器の備蓄量も冷戦期のピーク時よりは減少しているが、核戦争はあり得ないと考えるのは間違いだ。実際、あり得ないわけではないかもしれない。

キューバ危機は、核戦争に発展する寸前でした。このような事態が 69 年に 1 回発生し、3 分の 1 の確率で核戦争に至ると仮定すると、このような大惨事が発生する確率は年間約 200 分の 1 に増加します。

さらに悪いことに、キューバ危機は最もよく知られた事例に過ぎません。ソ連と米国の核抑止の歴史は、危機一髪の場面や危険なミスに満ちています。実際の確率は国際的緊張に応じて変化しますが、その確率が年間 1000 分の 1 よりはるかに低いというのは信じ難いことです。

大国間の全面核戦争は、直接的に、あるいはその直後の余波を通じて、何億人もの人々の命を奪うことになるだろう。想像を絶する大惨事だ。しかし、それだけでは実存的リスクとは言えない。

同様に、放射性降下物の危険性もしばしば誇張されている。局所的には致命的である可能性があるが、地球規模では比較的限定的な問題である。コバルト爆弾は、放射性降下物ですべての人を殺す仮想の終末兵器として提案されたが、実際には製造が難しく、費用もかかる。そして、物理的にかろうじて実現可能である。

本当の脅威は核の冬、つまり成層圏に舞い上がった煤が何年にもわたって世界を寒冷化させ、乾燥させる現象です。現代の気候シミュレーションでは、核の冬によって世界の大半の地域で農業が何年も不可能になる可能性があることが示されています。このシナリオが実現すれば、数十億人が飢え、生き残った人々は病気などの他の脅威に襲われる可能性があります。主な不確実性は煤がどのように作用するかです。煤の種類によって結果が大きく異なる可能性があり、現時点ではこれを予測する良い方法はありません。

2. バイオエンジニアリングによるパンデミック

自然発生的なパンデミックは戦争よりも多くの人を殺してきた。しかし、自然発生的なパンデミックが生存の脅威となる可能性は低い。通常、病原体に対して耐性を持つ人もおり、生き残った者の子孫はより耐性を持つ。進化論も宿主を全滅させる寄生虫を好まない。それが、梅毒がヨーロッパで蔓延するにつれて、猛毒の殺人者から慢性疾患へと変化した理由である。

残念ながら、私たちは今や病気をより厄介なものにすることができる。最も有名な例の一つは、マウス痘（マウス版天然痘）に余分な遺伝子を導入することで、この病気の致死性がはるかに高まり、ワクチン接種を受けた個体に感染するようになったことだ。鳥インフルエンザに関する最近の研究では、病気の伝染性を意図的に高めることができることが実証されている。

エニアス、CC BY

現時点では、誰かが故意に破壊的な何かを放出するリスクは低い。しかし、バイオテクノロジーが改良され、安価になるにつれ、より多くのグループが病気を悪化させることができるようになるだろう。

生物兵器に関する研究のほとんどは、制御可能なものを求める政府によって行われてきました。人類を絶滅させることは軍事的に無益だからです。しかし、できることからそうしたいという人も常にいます。より高尚な目的を持つ人もいます。たとえば、オウム真理教は、より成功した神経ガス攻撃の他に、生物兵器を使用して終末を早めようとしました。地球は人間がいなければもっと良い場所になると考える人もいます。

生物兵器や伝染病の攻撃による死者数は、べき乗分布のように見える。ほとんどの攻撃では犠牲者は少ないが、少数の攻撃では多数の死者が出ている。現在の数字からすると、バイオテロによる世界的パンデミックのリスクは非常に小さいように思える。しかし、これはバイオテロにすぎない。政府はテロリストよりもずっと多くの人々を生物兵器で殺してきた（第二次世界大戦中の日本の生物兵器計画では最大 40 万人が死亡した可能性がある）。そして、将来テクノロジーがさらに強力になるにつれ、より凶悪な病原体の設計が容易になる。

3. 超知能

知能は非常に強力です。問題解決能力と集団協調性がわずかに向上したため、人間は他の類人猿をはるかに上回ることができました。現在、類人猿の存続は、彼らの行動ではなく、人間の決定にかかっています。賢さは人々や組織にとって本当に有利であるため、認知能力を高める薬から人工知能ソフトウェアまで、個人および集団の知能を向上させる方法を見つけるための努力が盛んに行われています。

問題は、知能を持つ存在は目標を達成するのが得意だが、目標の設定がまずければ、その力を使って巧妙に悲惨な結末を迎える可能性があるということだ。知能そのものが何かを善良で道徳的に行動させると考える理由はない。実際、ある種の超知能システムは、たとえ道徳的ルールが真実だとしても、それに従わないことを証明することは可能である。

さらに心配なのは、人工知能に物事を説明しようとすると、深刻な実践的かつ哲学的な問題にぶつかるということです。人間の価値観は曖昧で複雑なものであり、私たちはそれをうまく表現できません。また、たとえ表現できたとしても、私たちが望んでいることの意味をすべて理解することはできないかもしれません。

shiborisan, CC BY-NC-ND

ソフトウェアベースの知能は、人間以下のレベルから、恐ろしいほど強力なレベルへと急速に進化する可能性があります。その理由は、ソフトウェアベースの知能は生物の知能とは異なる方法で拡張できるからです。ソフトウェアベースの知能は、より高速なコンピューターでより高速に実行でき、部品をより多くのコンピューターに分散でき、さまざまなバージョンを即座にテストして更新でき、パフォーマンスを飛躍的に向上させる新しいアルゴリズムを組み込むことができます。

ソフトウェアが十分に優れたソフトウェアを作成できるようになると、「知能爆発」が起こる可能性があると提案されています。そのような飛躍が起こった場合、スマート システム (またはシステムに何をすべきかを指示する人々) と世界の残りの部分との間には、潜在的な力に大きな差が生じます。目標の設定が適切でない場合、明らかに大惨事になる可能性があります。

超知能の珍しい点は、急速かつ強力な知能爆発が起こり得るかどうかがわからないことです。現在の文明全体が、可能な限り最速の速度で進歩しているのかもしれません。しかし、一部の技術が現在の社会が対応できる速度をはるかに超えるスピードで物事を加速させる可能性があると考える十分な理由があります。同様に、さまざまな形態の超知能がどれほど危険であるか、またはどのような緩和戦略が実際に機能するかについても、十分に把握していません。まだ手にしていない将来の技術や、私たちよりも優れた知能について推論するのは非常に困難です。このリストのリスクの中で、これが最も大規模になるか、単なる幻想になる可能性が高いものです。

これは驚くほど研究が進んでいない分野です。人々が「一世代以内」に超知能が実現できると非常に自信を持っていた 50 年代や 60 年代でさえ、安全性の問題はあまり検討されませんでした。彼らは予測を真剣に受け止めていなかったかもしれませんが、むしろそれを遠い将来の問題としてしか考えていなかった可能性が高いです。

4. ナノテクノロジー

ナノテクノロジーとは、原子や分子の精度で物質を制御することです。それ自体は危険ではありません。むしろ、ほとんどの用途にとっては非常に良いニュースです。問題は、バイオテクノロジーと同様に、パワーが増大すると、防御が難しい悪用の可能性も高まることです。

大きな問題は、あらゆるものを食べてしまう自己複製ナノマシンの悪名高い「グレイ・グー」ではない。そのためには巧妙な設計が必要だ。機械を複製させるのは困難だ。生物学は、もともと複製を得意としている。おそらく、最終的には狂人が成功するだろうが、破壊的なテクノロジーには、もっと簡単に実現できるものがたくさんある。

gi, CC BY-SA

最も明らかなリスクは、原子レベルで精密な製造が、武器などの迅速かつ安価な製造に理想的であるように見えることです。どの政府でも大量の自律型または半自律型の武器（さらに製造する施設を含む）を「印刷」できる世界では、軍拡競争が非常に速くなり、敵が大きな優位に立つ前に先制攻撃を仕掛けたくなるため、不安定になる可能性があります。

兵器は小型で精密なものにもなり得る。神経ガスのように作用するが犠牲者を探し出す「スマート毒」や、住民を従順にさせるためのいたるところに見られる「ブヨボット」監視システムも、十分にあり得る。また、核拡散や気候工学を、望む者の手に渡す方法もあるかもしれない。

将来のナノテクノロジーが実存的リスクをもたらす可能性を判断することはできませんが、ナノテクノロジーは私たちが望むものを何でも与えてくれるため、潜在的に混乱を引き起こす可能性があるようです。

5. 未知の未知

最も不安な可能性は、非常に致命的な何かがそこに存在し、それについて私たちには全く手がかりがないということだ。

空の静寂は、その証拠かもしれない。エイリアンがいないのは、生命や知性が極めて稀だからか、それとも知的生命体が消滅する傾向があるからか。将来グレート フィルターが存在するなら、他の文明もそれに気づいているはずだが、それでも役に立たなかった。

angrytoast、CC BY-NC

脅威が何であれ、それは、あなたが誰で何者であっても、それが存在することを知っていても、ほとんど避けられないものでなければなりません。私たちはそのような脅威について知りません (このリストの他のものはどれもこのように機能しません) が、存在する可能性があります。

何かが未知だからといって、それについて推論できないというわけではないことに注意してください。注目すべき論文で、マックス・テグマークとニック・ボストロムは、地球の相対的な年齢に基づいて、特定のリスクセットは年間 10 億分の 1 未満の確率でなければならないことを示しています。

なぜ気候変動や隕石の衝突がこのリストから除外されているのか不思議に思う人もいるかもしれません。気候変動は、どれほど恐ろしいものであっても、地球全体を居住不可能にする可能性は低いです (ただし、気候変動に対する防御が崩れれば、他の脅威が増す可能性があります)。隕石​​は確かに人類を絶滅させる可能性がありますが、それは非常に不運な場合に限られます。平均的な哺乳類の種は約 100 万年生き残ります。したがって、背景の自然絶滅率は、年間およそ 100 万分の 1 です。これは、70 年経った今でも人類の存続に対する最大の脅威である核戦争のリスクよりもはるかに低いものです。

利用可能性ヒューリスティックは、メディアでよく取り上げられるリスクを過大評価し、前例のないリスクを軽視する原因となります。100 万年後も生き残りたいのであれば、これを修正する必要があります。

アンダース・サンドバーグはオックスフォード大学の人類の未来研究所に勤務しています。

この記事はもともと The Conversation に掲載されました。元の記事を読む。