イギリスの犯罪者特定AIに不安があります

世の中の流れは早いもので、いつのまにか知らない技術が現れていることがあります。

なんの話かというと、犯罪を起こす可能性のある人間を特定するAIがイギリスで開発中だという話です。名前はNational Data Analytics Solution (NDAS=国立データ解析ソリューション)と言うのだとか。

情報元へのリンク

詳しい原理は不明ですが、過去に行われた犯罪をデータとして収集、解析し、そこから犯罪を起こす可能性を持つ人間を見つけることができるようになるのだとか。

少し古い映画ですが、マイノリティーリポートを連想させられる内容だと思います。

ただし、このAIではあくまでも犯罪を起こす可能性を見つけるだけなので、映画のように即逮捕とはなりません。カウンセリングなどで犯罪を起こす可能性があると判断された原因を取り除くことで、犯罪を未然に防ぐという使い方をされるそうです。

そうなると、むしろアニメのサイコパスの世界観のほうが近いですね。表面だけは。

要するに、犯罪というものを定型化して、作った型を元にして犯罪を起こす可能性のある人間を見つけよう、という試みが行われようとしているということです。

気がかりなこと

この件で、私には1つ気がかりなことがあります。

というのも、このシステムでは過去に起こった犯罪をデータとして型を作る訳ですが、これは言い換えれば、犯罪を犯さなかった場合のデータは集めていないということですよね。警察の犯罪を集めたデータを使うのだから当たり前と言えばそうですが。

ということは、なんの変哲も無い行為が、犯罪を起こす型であるという理由で禁止されてしまうということが起こり得るのではないか? と思いました。

ものすごく極端な例を挙げましょう。

交通事故で歩行者を轢いた犯人は皆、車に乗っていた。このデータからAIが、車に乗ることは交通事故を起こすことだという型を作ったとします。

すると、車に乗っている人は皆、犯罪を起こす可能性のある人間だと特定されてしまうわけです。

もちろんこれは極端な例ですから、こんな理由で車に乗ることが禁止される未来は来ないと思います。

しかし、車ほど極端でなくとも、本来は犯罪と関係ない物事が、定型化の結果として犯罪を起こす原因扱いされることはあり得ないとは言えないのではないでしょうか?

そうなってしまうと大変ですよ。犯罪者がアニメや漫画に興味を持っている傾向が高かったりしたら、オタクは犯罪を起こす傾向があると判定されてしまうわけですからね。

さらに身近なことを言えば、犯罪者は拷問に興味を持っている傾向がある、なんてデータが出てしまったらこのサイトと私の危機です。

ちょっと考えてみましたが、私にはこれに対する解決策が思いつきませんでした。どうするつもりなのでしょうか?

……もっとも、このようなプロジェクトはその道のプロ達が何人も集まって進めるものでしょうから、この件を含め、私が考えつく程度のことは想定済みだと思いますけどね。杞憂でしたね。

定型化の欠点

拷問の世界では、手順の定型化による虚偽の自白の誘発が起こりました。魔女狩りにおける、被疑者に対する尋問のことです。

一見すると、定型化というのは効率よく物事を進めるための良い手段に見えるかもしれません。しかし、ヨーロッパ中で魔女が発見されたという事実は、定型化の持つ悪い意味での強力さを教えてくれます。

このシステムでは犯罪というものを定型化するわけですが、いくら犯罪を未然に防げるとは言え、そのために不自由な生活を強要されるでは困ってしまいます。

試験運用が来年には早速始まるらしいですが、どうも私はこのシステムに魔女狩りと同じ匂いを感じます。

特定の環境や行動が犯罪の原因になるとしても、それらの条件を満たした人間が必ず犯罪者になるわけではありませんし、それらの条件が犯罪以外の原因にならないというわけでもありません。

同じ轍を踏まないことを願いたいですね。