シミュレートされた宇宙で新しい生命を創造することの倫理とは何でしょうか?

以下は、現在店頭で販売中の Zeeya Merali 著の「小さな部屋でのビッグバン: 新しい宇宙の創造への探求」からの抜粋です。この本で、Merali は実験室で幼い宇宙を創造する可能性について探っています。この抜粋では、著名な未来学者 Anders Sandberg と会い、幼い宇宙で新しい知的生命体を創造する可能性の倫理性、またはコンピューター シミュレーションで知覚が進化する可能性について話し合います。

アンダース・サンドバーグは、1980 年代に子供だった頃、シンクレア ZX81 でミニ太陽系を模したシミュレーションを楽しんでいました。その後、脳にヒントを得た学習アルゴリズムを使用する人工ニューラル ネットワークの設計に進みました。「テレビを見てリラックスする人もいます。私は哲学の講義を聞きながらシミュレーションをプログラムします」とサンドバーグは笑います。1999 年のある日、コンピューターからニューラル ネットワークのコピーを削除し、「良心の呵責」を感じたことを彼は思い出します。彼は心配せずにはいられませんでした。「私は小さな創造物を殺してしまったのだろうか?」

ニューラル ネットワークを失ったことで罪悪感に苛まれた後、サンドバーグ氏は哲学の道へとシフトし、現在はオックスフォード大学の未来人類研究所でシミュレーションの倫理について執筆している。サンドバーグ氏は、機械の存在を思いやりを持って扱う方法についての疑問に、人々が考えるよりも早く取り組まなければならないだろうと主張している。しかし、一般大衆だけでなく科学者の間でも、こうした問題に直面することに対して一般的に消極的であると指摘している。

宇宙構築に携わる物理学者と話をするとき、私はそうした遠慮に遭遇した。中には、実験室で作られた宇宙で生命を創造することの道徳的意味についての質問を避けようとし、そのような問題は自分の管轄外だと言う人もいる。「ほとんどの人は奇妙なことのための予算を持っていて、それを使いすぎることは許されません。なぜなら、奇妙なことのための予算がオーバーになったら、当然、真剣に受け止めてもらえないからです」とサンドバーグは言う。「だから、多くの人が、実際に重要かもしれない考慮事項について沈黙しているのです」

サンドバーグは、超知能種族がシミュレーションを作成し、私たちをその中に入れた理由を想像することができます。その理由の多くは、私たちが現在シミュレーションを実行するために持っているのと同じ種類の平凡な正当化です。たとえば、私たちは限られた資金を医療に費やす最も効率的な方法を特定するために苦労しています。一般人口の全体的な健康状態は高いが、医療が不平等に分配され、少数派がひどく苦しんでいる世界の方がよいのでしょうか。それとも、実際にはレベルがかなり低いかもしれませんが、誰もが同じレベルの医療にアクセスできる、より公平な社会を目指す方が良いのでしょうか。これら2つの世界をシミュレートすると、決定に役立つ場合があります。シミュレートされた存在のどれもが意識的な経験をしていない限り、それは問題ありません。しかし、知性や感情を発達させた場合、人工世界で多くの苦しみを誤って作り出している可能性があります。

サンドバーグ氏は、たとえば英国国民全体に対する国民保健サービスのさまざまな支出政策の成果を監視する比較的小規模なシミュレーションに我々が参加できる可能性があると考えている。その場合、焦点はこれらのリソースを使用する英国内の個人となり、シミュレートされた世界の残りの部分は色付けのためにスケッチされるだけになるかもしれない。

しかし今、私は、シミュレーション宇宙のプログラマーとして、私たちがどのような道徳的責任を負っているかを検討したい。まず、誰かの医療政策シミュレーションが知覚力のある生命体を生み出すという重大な危険はあるのだろうか？「人工知能が偶然に生まれる可能性は、誰かが意図的に作ろうとした場合よりも低いが、原理的には起こり得るとしても驚かない」とサンドバーグは言う。もしそれが起こったとしたら、それはおそらく、個々には知覚力を発達させないが、他のスマートソフトウェアと連携するように設計されている、ますますスマートなソフトウェアを作成しているためだろう。危険なのは、リンクされると、全体が部分の総和よりも大きくなる可能性があることだ。

仮にこれが偶然に起こり、私たちの医療対象が経験を積んだとしましょう。私たちは介入すべきでしょうか、それとも生命維持装置を抜いて彼らの命を終わらせるべきでしょうか? 医療シミュレーションに関して、サンドバーグ氏は、私たちが創造した一部の人々に貧困と医療へのアクセスの悪さを強いたことに対する罪悪感を和らげる1つの方法は、シミュレーションが終了したときに彼らを別のシミュレーションに移して楽しい生活を送らせることで彼らに報酬を与えることだと述べています。

「それはまるで人を天国に送るようなものですね」と私は言いました。

「それは盗まれたアイデアです」とサンドバーグは認めている。しかし、自分の存在を補償するために人工の天国を作ることは、新たな問題を引き起こす。虐待されたシミュレートされた存在のどのバージョンを楽園にアップロードするのか？ たとえば、アルツハイマー病によって記憶と脳機能が破壊された人をアップロードするのは不公平に思えるので、若いバージョンをアップロードするべきかもしれない。しかし、その存在をどの時点で転送すべきか、人生のどの出来事がそのアイデンティティの発達に重要と見なすべきか、どの出来事を記憶から消去すべきかを決めるのは難しい。宗教への改宗、恋に落ちる、子供を持つ、またはトラウマ的な出来事を経験する前または後の人生のどの時点からその存在をアップロードすべきか？ 「シミュレートされた存在に対して道徳的責任があると考える場合、それがどこで終わるのかは少し不明瞭です」とサンドバーグは言う。「おそらく、その人生のすべての時点でそのコピーを復活させるべきでしょう。」

粒子加速器で宇宙を作るのは大成功だろう。しかし、現在の私たちの能力を考えると、サンドバーグがコンピューターシミュレーションの宇宙について語るときに言及しているレベルの制御を研究室で行える可能性は低いようだ。たとえば、LHC では、研究者は主に当てずっぽうの戦略を採用しており、粒子衝突の産物を微妙にいじる余地はほとんどない。その場合、私たちは意図せずに生命を生み出し、それに伴う苦痛や喜びを経験することはできるが、その後の彼らの幸福をコントロールすることはできないだろう。では、とにかくそれを実行すべきなのだろうか?

これは哲学者がシミュレーションの文脈で長い間真剣に考えてきた古典的な問題だが、サンドバーグはコンセンサスがないと指摘している。おそらく最も簡単な答えは、はっきりと「ノー」と言うことだ。宇宙に、苦痛に苦しむ知覚力のある存在が生まれる可能性があるなら、作るべきではない。宇宙内での経験の総和が重要だと言う人もいるだろう。幸せな人を足し算し、不幸な人を引いて、全体的に肯定的な答えが出たなら、それをやってみればいい。さらに、宇宙の平均的な幸福度を測る何らかの尺度が必要だと主張する人もいる。しかし、良い宇宙を構成するものについて、数学的に明確な答えはない。私たちは再びヘルスケアのパズルに戻り、少し言い直した。ほぼ全員が穏やかに幸せだが、少数の人々が恐ろしい拷問を受けている宇宙は、人口の半分が狂ったように幸せで、残りの半分がやや惨めな宇宙よりも良いのか、悪いのか？ 「どんな方法で議論しても、主張はできるが、その後誰かが反例を挙げて、なぜそれが悪いのかを示すことになる」とサンドバーグ氏は言う。

また、たとえ私たちが創造物を制御できなくなっても、知的な観察者を創造することで、宇宙の善の量は継続的に増大するという主張もあるかもしれない。「私が主張したいのは、知的生命体は、自らにとってよりよい環境を作るために、環境を制御しようとする傾向があるということです」とサンドバーグは言う。「ですから、知的な観察者であふれた宇宙は、そのような人がいない宇宙よりも、少しだけ住みやすくなると予想すべきです。」

正直に言って、これは私が考えたことのない見解です。おそらく、私たちはより多くの生命を誕生させようと努力する道徳的義務があるのでしょう。私はサンドバーグ氏に感謝し、安心しながら別れを告げました。もちろん、彼の言うことが正しいことを願っています。なぜなら、賭け金は文字通り天文学的な額だからです。

Zeeya Merali 著『A Big Bang in a Little Room: The Quest to Create New Universes』からの抜粋。著作権 © 2017。Hachette Book Group, Inc. の子会社である Perseus Books, LLC の出版物である Basic Books から入手可能。

Popular Science は、注目に値する新しい科学関連書籍のセレクションをお届けできることを嬉しく思います。著者または出版社の方で、読者に気に入っていただけると思われる新しい魅力的な書籍をお持ちの方は、ぜひご連絡ください。[email protected] までメールをお送りください。