SFはいかにして私たちを悪いテクノロジーから救うのか

短編映画「スローターボッツ」は、超小型ドローンの群れが政治信条を理由に何千人もの人々を暗殺する近未来を描いている。2017年11月に、高度な人工知能（AI）の危険性を警告する学者や活動家によって公開されたこの映画は、すぐに話題となり、これまでに300万回以上視聴されている。この映画は、自律型兵器の将来に関する国民的議論を巻き起こし、国連通常兵器禁止条約で会合する外交官たちに圧力をかけるのに貢献した。

しかし、このような空想的な SF ストーリーテリングは、注目を集めるのに役立つだけではありません。高度なテクノロジーを設計および構築する人々は、ストーリーを使用して、自分の仕事の結果を検討し、それが良いことに使用されていることを確認することができます。そして、このような「SF プロトタイピング」または「デザイン フィクション」は、人間の偏見が新しいテクノロジーに浸透して、社会の偏見や不正義をさらに固定化するのを防ぐのに役立つ可能性があると考えています。

偏見は、あるカテゴリー（結果、人、またはアイデア）を他のカテゴリーよりも恣意的に優先することにつながる可能性があります。たとえば、意識しているかどうかにかかわらず、女性を幹部職に採用することに偏見を持つ人がいるかもしれません。

こうした偏見を記録するデータを基に構築されたテクノロジーは、結局は問題を再現してしまう可能性がある。たとえば、特定の仕事に最適な履歴書を選択するように設計された採用ソフトウェアは、男性に対する無意識の偏見を反映する特性を探すようにプログラムされているかもしれない。その場合、アルゴリズムは男性の履歴書を優先することになる。これは理論上の話ではなく、実際にアマゾンで起こったことだ。

起こりうる悪影響を考慮せずにアルゴリズムを設計することは、医師が「特定の治療の利点について書きながら、副作用がどんなに深刻であっても完全に無視する」ことに例えられる。

一部のテクノロジー企業や研究者は、この問題に取り組もうとしている。例えば、GoogleはAI開発の指針となる倫理原則を策定した。また、英国の学者らは、テクノロジーの設計と使用における公平性と正義の向上を目的とした「Not-Equal」というイニシアチブを立ち上げた。

問題は、企業が公に、近い将来の技術の潜在的な結果について肯定的なビジョンのみを伝える傾向があることです。たとえば、自動運転車は、コストから安全性まで、交通に関するあらゆる問題を解決するとよく言われますが、サイバー攻撃の危険性の増大や、自動運転車によって人々が歩いたり自転車に乗ったりする回数が減る可能性があるという事実は無視されています。

デジタル技術、特にわかりにくいアルゴリズムによって大きく左右される技術の仕組みを理解することの難しさは、人々が問題を複雑かつ総合的に捉えることを困難にしています。この状況は、安心感を与える肯定的な物語と、私たちの周りの技術に何らかの偏見が埋め込まれているのではないかという漠然とした疑念との間に緊張を生み出します。ここで、デザイン フィクションによるストーリーテリングが役に立つと考えています。

物語は、可能性や複雑な状況について考える自然な方法であり、私たちは生涯を通じて物語を聞いてきました。SF は、スローターボッツのように、近未来のテクノロジーが社会に与える影響について推測するのに役立ちます。これには、難民や移民などの特定のグループがデジタル イノベーションから排除される可能性があるなど、社会正義の問題も含まれます。

（可能性のある）未来を明らかにする

デザイン フィクション ストーリーは、デザイナー、エンジニア、未来学者 (その他) に、人間の視点からテクノロジーの影響について考え、それを将来のニーズに結び付けるための斬新な方法を提供します。論理と想像力を融合したデザイン フィクションは、テクノロジーがどのように採用され、使用される可能性があるかの側面を明らかにし、その将来の影響についての会話を始めることができます。

たとえば、短編小説「Crime-sourcing」では、AI がクラウドソーシングされた情報と犯罪者データベースを使用して誰が殺人を犯す可能性があるかを予測するとどうなるかが検討されています。研究者は、データベースには社会的理由により統計的に再犯する可能性が高い少数民族グループの人々がたくさん含まれているため、「crime-sourcing」モデルは白人よりも少数民族を誤って疑う可能性が高いことを発見しました。

デザインフィクションを制作するのに、才能ある作家である必要も、洗練された映画を作る必要もありません。カードやストーリーボードを使ったブレインストーミング活動は、デザインフィクションの開発やストーリーテリングのプロセスの開発に役立ってきました。こうしたツールを使ったワークショップをもっと一般的にすれば、より多くのエンジニア、起業家、政策立案者がこの評価方法を使えるようになるでしょう。そして、その結果を一般公開すれば、テクノロジーの潜在的な偏見が社会に影響を及ぼす前にそれを明らかにするのに役立ちます。

このようにデザイナーがより多くのストーリーを作成し、共有することを奨励することで、新しいテクノロジーの基盤となる物語が、単にポジティブなイメージや、極端にネガティブなイメージ、あるいはディストピア的なイメージだけを提示するものではなくなるでしょう。その代わりに、人々は私たちの周りで起こっていることの両方の側面を評価できるようになります。

Alessio Malizia は、ハートフォードシャー大学のユーザー エクスペリエンス デザインの教授です。

シルヴィオ・カルタは、ハートフォードシャー大学の芸術・デザイン学部長であり、デザイン研究グループの議長です。

この記事はもともと The Conversation に掲載されました。