犯罪が行われる前にビッグデータを活用して犯罪を処罰すべきか？

ジョン・アンダートンはワシントン DC の特別警察部隊の長です。この朝、彼は郊外の家に押し入り、その直前に、ハワード・マークスが狂乱状態で、他の男とベッドにいる妻の胴体にハサミを突き刺そうとしていました。アンダートンにとって、それは死刑犯罪を予防する日々の 1 日でした。「コロンビア特別区犯罪予防課の命令により、」彼は暗唱します。「サラ・マークスの将来の殺人事件であなたを逮捕します。それは今日起こるはずでした...」

他の警官がマークスを制止し始めると、マークスは「私は何もしてない！」と叫ぶ。映画「マイノリティ・リポート」の冒頭シーンは、予測が非常に正確であるため、警察が犯罪が行われる前に個人を逮捕する社会を描いている。人々は、実際に犯罪を犯さなくても、彼らが何をしたかではなく、何をすると予測されたかで投獄される。映画では、この先見の明のある先制的な法執行は、データ分析ではなく、3人の千里眼のビジョンによるものだとしている。しかし、 「マイノリティ・リポート」が描く不安な未来は、抑制されていないビッグデータ分析がもたらす恐れのある未来であり、有罪の判断は将来の行動の個別の予測に基づいて行われる。

もちろん、ビッグデータは社会に数え切れないほどの利益をもたらすでしょう。医療から教育まで、あらゆるものを改善するための基礎となるでしょう。気候変動や貧困など、地球規模の課題に対処するために、私たちはビッグデータを頼りにしています。そして、企業がビッグデータをどのように活用できるか、そして私たちの経済にどのような利益がもたらされるかについては言うまでもありません。その利益はデータセットと同じくらい莫大です。しかし、ビッグデータの暗い側面にも注意を払う必要があります。

すでに私たちは、人々に罰を与える『マイノリティ・リポート』風の予測の芽生えを目にしている。 すでに私たちは、人々に罰を与える『マイノリティ・リポート』風の予測の芽生えを目にしている。米国の半数以上の州の仮釈放委員会は、データ分析に基づく予測を、誰かを刑務所から釈放するか、刑務所に留めておくかを決定する要素として使用している。ロサンゼルスの警察署からバージニア州リッチモンドのような都市に至るまで、米国ではますます多くの場所で「予測型警察活動」が採用されている。これは、アルゴリズムが犯罪を犯す可能性が高いと指摘したというだけの理由で、ビッグデータ分析を使用して、追加の監視の対象となる道路、グループ、個人を選択するものである。

しかし、それで終わることは決してありません。これらのシステムは、最終的には個人レベルまで、誰が犯罪を犯す可能性があるかを予測することで、犯罪を防止しようとします。これは、犯罪の発生を防ぐという新しい目的のためにビッグデータを使用することを示唆しています。

米国国土安全保障省の FAST (Future Attribute Screening Technology) と呼ばれる研究プロジェクトは、個人のバイタルサイン、ボディランゲージ、その他の生理学的パターンを監視することで潜在的なテロリストを特定しようとするものです。人の行動を監視することで、危害を加える意図を検出できるという考え方です。国土安全保障省によると、テストでは、このシステムの精度は 70 パーセントでした。(これが何を意味するのかは不明です。研究対象者は、彼らの「悪意」が見破られるかどうかを調べるために、テロリストのふりをするように指示されたのでしょうか?) これらのシステムはまだ初期段階のように見えますが、重要なのは、法執行機関がこれを非常に真剣に受け止めているということです。

犯罪を未然に防ぐというのは、魅力的な見通しのように思えます。違反行為が起きる前に予防する方が、後から加害者を罰するよりもはるかに良いのではないでしょうか。犯罪を未然に防ぐことは、犯罪の被害者になる可能性のある人々だけでなく、社会全体にも利益をもたらすのではないでしょうか。

しかし、それは危険な道です。ビッグデータを通じて誰が将来犯罪を犯す可能性があるかを予測した場合、私たちは単に犯罪を予防するだけでは満足しないかもしれません。おそらく、犯罪者と思われる人物を罰したいと思うでしょう。それは当然のことです。違法行為を阻止するために介入するだけでは、犯罪者と思われる人物は罰せられずに再び犯罪を犯す可能性があります。対照的に、ビッグデータを使用してその人物の（将来の）行為の責任を追及することで、その人物や他の人々も抑止できるかもしれません。

ある人物が将来何らかの行動をとる可能性があると非難することは、正義の根幹を揺るがす行​​為です。今日の起こりそうな行動の予測 (保険料やクレジット スコアなど) は、通常、当面の問題 (つまり、過去の健康問題やローン返済履歴) のメンタル モデルに基づく少数の要素に依存しています。基本的に、これはプロファイリングです。つまり、特定のグループと共有する特性に基づいて個人をどのように扱うかを決定することです。ビッグ データを使用して、グループではなく特定の個人を特定したいと考えています。これにより、予測された容疑者全員を連座制の有罪とするプロファイリングの欠点から解放されます。

ビッグデータには、これまでずっとやってきたこと、つまりプロファイリングを、より優れた、より差別的でない、より個別化されたものにしてくれるという期待がある。望ましくない行動を防ぐことが目的であれば、それは受け入れられるように見える。しかし、ビッグデータの予測を使用して、まだ起こっていない行動に対して誰かが有罪であり、罰せられるべきかどうかを判断するとしたら、それは非常に危険になる。

性癖に基づいて罰するという考え自体が吐き気を催す。ある人物が将来行う可能性のある行動を非難することは、正義の根幹を揺るがすことになる。つまり、その人物が何かを行った後でなければ、その責任を問うことはできない。結局のところ、悪いことを考えることは違法ではなく、悪いことをすることが違法なのだ。また、それは私たちの法制度と公平感の基盤となる原則である無罪推定の考えも否定する。そして、もし私たちが人々に、決して実行しないかもしれない将来の行動を予測して責任を問うなら、人間には道徳的選択の能力があることも否定することになる。

ビッグデータ時代には、正義に対する理解を広げる必要があります。ここで重要なのは、単に警察の取り組みだけではありません。危険は刑事司法よりもはるかに広範囲に及びます。それは社会のあらゆる分野、ビッグデータの予測が将来の行為に対して有罪かどうかを決定するために使用される人間の判断のあらゆる事例に及びます。それには、従業員を解雇するという会社の決定から、患者の手術を拒否する医師、離婚を申し立てる配偶者まで、あらゆるものが含まれます。

おそらく、そのようなシステムがあれば社会はより安全で効率的になるだろうが、人間らしさの重要な要素、つまり、自分の行動を選択し、その責任を負う能力は破壊されるだろう。ビッグデータは、人間の選択を集団化し、社会における自由意志を放棄するためのツールとなるだろう。そして、映画「マイノリティ・リポート」のように、人がナイトクラブのような立派な常設監獄に放り込まれなくても、その影響はやはり罰のように見えるかもしれない。万引き癖があるとしてソーシャルワーカーの訪問を受けた十代の若者は、他人の目、そして自分自身の目から見て烙印を押されたと感じるだろう。

ビッグデータの時代においては、私たちは正義についての理解を広げ、現在手続き上の公平性を守っているのと同じくらい、人間の行為に対する安全策も含めることを要求しなければなりません。そのような安全策がなければ、正義という概念そのものが完全に損なわれる可能性があります。

人間の行為を保障することで、政府が私たちの行動を判断する際、ビッグデータの分析だけではなく、実際の行動に基づいて判断することが保証されます。したがって、政府は過去の行動に対してのみ責任を問うべきであり、将来の行動の統計的予測に対しては責任を問うべきではありません。また、政府が過去の行動を判断する際、ビッグデータだけに頼ることは避けるべきです。そして、企業は、ビッグデータ活動が多くの人に重大な損害をもたらす場合、精査を受けるようにすべきです。

ビッグデータ ガバナンスの基本的な柱は、データを「客観的に」分析して不正行為者であるかどうかを判断するのではなく、個人の責任と実際の行動を考慮して人々を判断し続けるという保証でなければなりません。そうして初めて、私たちは彼らを人間として、つまり行動を選択する自由と、行動によって判断される権利を持つ人々として扱うことができるのです。

この記事は、ビッグデータ：私たちの生活、仕事、思考を変える革命（Houghton Mifflin Harcourt、2013年）から許可を得て抜粋したものです。Viktor Mayer-Schönbergerは、英国のオックスフォードインターネット研究所のインターネットガバナンスと規制の教授です。Kenneth Cukierは、エコノミスト誌のデータ編集者です。