監視国家とプラバシー、邪悪な意思と邪悪な人工知能

国民のプライバシー保護と、高度監視社会に拍車をかけるAI技術の進展により大きな軋轢が予想される。"Person of Interest"(PoI)というアメリカのドラマをSeason 1から5まで見た。PoIのドラマの中では、米国政府の依頼で「フィード」と呼ばれる国中のカメラの動画や、マイクの音声データをテロ対策として民間が開発したAIに監視させるという設定になっている。ドラマの中では、顔認証技術で米国中の人間の行動がAIに補足されている。PoIの中では、プライバシー保護を声高に訴えるでけだなくプライバシー保護のためにテロ行為に走る人物、グループも描かれている。「プライバシー保護」が原因ではなかったものの、YouTube本社に自分が十分に尊重されなかったという理由でテロをかける人物が現実にあらわれるとは思っていなかった。

togetter.com

顔認証や、ウェブカメラの技術、そしてＡＩが組み合わさった時に、どんな事態が起こるのかがよく伝わる。そして、究極そのAIの「管理者」がみんなの幸せを願っているのか、自分自身だけの利害を考えているのかが重要だと。個人の生存、幸せを実現しようとする「管理者」なのか、自分だけがよければ他人はどうでもいいと想うEvilな「管理者」なのかで、結果はこんなに違うということがよくわかる。

Person of Interest Season 3 - HPO機密日誌

comemo.io

Evilになりうる「管理者」の代表はやはり、中国。

「アリペイ（Alipay）」を所有するアリババグループ傘下の信用調査機関「芝麻信用」は、独自の基準でユーザーを査定し、信用度を350～950点で評価しています。これは信用度を5つの観点（身分、支払い能力、信用情報、交友関係、消費の特徴）から検討し、ユーザーに点数を公表。点数が高ければ低利融資や保証金が不要となるなどの利点があります。

　逆に点数が低ければ冷遇され、例えば一定の点数を下回るユーザーはレンタルマンションの予約が取れなくなる、といった処置が取られています。「芝麻信用」はアリババグループが運営する民間企業ですが、WIREDの報道ではすでに一部政府と協力してブラックリストを作成したりと、民間企業のデータが政府の社会信用システムに寄与する方向で進んでいます（この問題について筆者は別媒体で論じました）。

中国、「社会信用度」の低い国民の鉄道・航空機利用を制限へ(訂正あり)(塚越健司) - 個人 - Yahoo!ニュース

本当にPoIネタで言えば、邪悪がAIが国民の生体情報を一人ひとり徹底的に収集し、顔認証とひもづけるというエピソードもあった。中国においては生体認証の徹底も進んでいる。

　「国産スマートグラスで顔認証」。２月、中国メディアは河南省・鄭州の鉄道駅で始まったプロジェクトを報じた。鉄道警察がかけるサングラスに付いたカメラを通じ、警察のデータベースと照合、犯罪容疑者を見つけ出す。「容疑者７人の身柄を確保、ニセの身分証を持っていた26人を摘発した」と成果を誇る。

　インドでは10年、生体認証付きの同国版マイナンバー制度が始まった。指紋や顔と目の画像を撮り、登録後に12桁のＩＤが付与される。国民13億人のうち11億人以上が登録する世界最大規模の生体認証システムだ。元は低所得者層へ効率的に補助金を支給するための制度として始まった。メリットも大きい半面、資金の流れが筒抜けになると煙たがる富裕層もいる。

顔情報、国が把握 中国「新・国家主義」の脅威 ：日本経済新聞

PoIが放送されていた数年前ならたかがドラマだろうと笑い飛ばせただろうが、一気に現実になっていることが恐ろしい。

CBSで2011年9月22日に放送開始。2011-12シーズンのシーズン視聴者数ランキングでは13位となり、同年の新作テレビドラマ（コメディを含む）では最高位に付けた。ファイナルシーズンとなる全13話のシーズン5が2016年5月3日より全米で放映された。

PERSON of INTEREST 犯罪予知ユニット - Wikipedia

ちなみに、寡聞のせいか、日本でPoIに匹敵する近未来の監視社会、プライバシーテロを扱った映画、ドラマを知らない。こうした分野でも日本が周回遅れになっていくのが悲しい。まあ、いまだに手書きの宿泊者台帳、対面のチェックインでないと宿泊が認められない日本では国家と国民プライバシーの保護の対立すら心配する必要はないのかもしれない。

hpo.hatenablog.com