本日の備忘録/Big Brother(s)
4月27日公開。改めてスゴいなと思う。200億ものデータからして、80億の世界人口を凌駕しちゃってるもんね。もちろん、重複もあってのことだろうし、重複があればこそ一定程度の精度も期待できるのだろうけれど、それにしても、ぢゃないかしらねぇ。
と、今さらのようにビビっちゃう顔認証技術は、BBCの日本語版記事に限ってみても気になる話が他にもそこそこ並んでいる。
- 中国の監視網がたちまち人を特定 AI付き監視カメラ全国に - BBCニュース
2017年12月11日付ヴィデオ記事。
- サンフランシスコ市、顔認証技術の使用を禁止へ - BBCニュース
2019年5月15日付記事。
- 「ごみ出しで逮捕」も 顔認証で市民を監視、新型ウイルスで封鎖のモスクワ - BBCニュース
2020年4月7日付ヴィデオ記事。
- IBM、「偏見」を基にした顔認証技術の開発を中止へ - BBCニュース
2020年6月10日付記事。
- アマゾン、顔認証技術の警察使用を1年禁止 反差別の高まりで - BBCニュース
2020年6月11日付記事。
- ウイグル族を顔認識する研究、「非倫理的」と物議 豪大学が論文撤回を要求 - BBCニュース
2021年9月16日付記事。
これらから、雑かもしれないけれどサクッと導き出される注意点はまず2つ。
第一に、顔認識の技術そのものが優れているとしても、それを扱う権力、組織、ヒトの、すべてことごとくが清廉潔白で何らの欲望も野心も持たない世の安寧だけを望む聖人君子ばかりだという保証がない点。公務員の不祥事の類は、日常茶飯事だとまでは云わないまでも、珍しいものだともいえないだろう。そのあたりは google:職員 不正閲覧 不正アクセスとかテケトーなキーワードでググってみればわかる*1。戸籍を不正閲覧したり診療情報に不正アクセスしたりする人間ならば、興味関心の対象となる個人を顔認証システムで追跡しようと考えることもじゅうぶんあるだろう。運営当初は大丈夫でも、運営が長期に及ぶに連れ、問題となる行動をとる組織、人物も必ず出て来る。だってにんげんだものってやつだ。だから、《これが検索に使われるのは犯罪発生後だけです》とは云い切れるわけがない。犯罪発生前からというか、それ自身、犯罪の一部として使用が開始されることもあり得ない話ではない。
第二に、AIやコンピュータによる判断は公正公平なものであるという保証などありはしない点。「AI」や「コンピュータ」という言葉には、偏見や情実のような人間的な判断に割り込んでくる不公正を排除した、機械ならではの冷静沈着な客観的判断を期待させるところがある。しかし、実際にそれらに判断させるための学習の過程にはヒト同様の偏りが持ち込まれてしまう危険は排除できない。なにしろヒトによる判断の集積を学習素材とする以上、たとえば、「本日の備忘録/On AI: Are machines learning to be racist?」で触れたように《深層学習型の人工知能となると、すでにあるデータから判断の方法を生み出すことになる。採用人事に当たるAIの開発には過去の採用時のデータが用いられる。となれば、元々データに潜むヒト由来のバイアスは排し得ない》というわけだ。ステータスを示す徴表や、皮膚の色、服装のために、しかじかの怪しい場所には寄り付かないはずだといったような先入観が働いて、顔検索の正しい発見判定がなされないといったようなケースも想像される。
こうなってくると、犯罪の解決や死体の身元確認に便利だから、というだけで、ホイホイ使われることには抵抗を覚える。なにがしかの制限や規制と不正に使用した者への厳しい懲罰制度が必要だと思える。
さらに気になるのは、ひょっとすると日本なんかでもヴィデオのものと同水準の技術がすでに用いられていないとも限らないことだ。たとえば、今年1月の所謂google:池袋82歳パパ活殺人事件のことを思い出してみるといい。といってもここで目を向けたいのは、事件そのものではなく、容疑者たち3人が一晩で逮捕されるに至ったことである。容疑者たちは、本格的に逃亡を図るより前、JR西八王子駅(だったっけか?)を出たところで逮捕されている。事件後、カラオケボックスに籠もっていたこと、中央線を利用して逃亡しようとしていたことや降車するであろう駅が、警察にはおそらくほとんどお見通しだったわけだ。
警察の捜査手法についてはまったくの素人だから、実際に何が行われて逮捕に至ったかはわからない。けれど、冒頭のヴィデオで示されたような技術が用いられていたとすれば、こうした素早い容疑者特定と追跡、逮捕がきわめて容易に行われ得ただろうと妄想することは出来る。
ホテル内の防犯カメラ、街中の防犯カメラ、JR駅構内の監視カメラがあっても、それらカメラの映像単独では容疑者特定は出来ないだろう。たとえば、何らかの顔写真のデータベースみたいなものとカメラ映像を素早く照合し、容疑者を特定して、逃亡先を割り出す作業が必要になる。防犯カメラ映像とデータベースの映像との高速な照会となると、冒頭のヴィデオに登場したようなシステムが使われていたとすれば……ってなことをついつい考えてしまう。
なんてなことを真剣に考え出すと陰謀論入門ってな感じになっちゃいますかね\(^o^)/。
もちろん、素人には思いもよらないような人手による照合手法が伝統的に確立されているなんてことだって、案外ありそうな気がしないでもないし、もしそうだったら上のような妄想は、警視庁さまごめんなさいm(_ _)mですわね\(^o^)/
立ち読み課題図書、その他
情報収集をサボりっぱなしなのでよくは知らないのだけれど、ネットを眺めているかぎりでは井草聖二、かなり人気が出て来たように見える。音源付き教則本/譜面集、気になるところ。5月23日発売予定とのこと。
《一時的に在庫切れ/できるだけ早急に入荷できるよう努めております》とのこと。めずらしいご挨拶。しかしなぁ、カスタマレヴュー、ヒドいのが結構上位に上がってきているなぁ。「どうして」の理由に応える記述がないとかなんとか。そうだとなれば、修辞疑問文ではないかという発想がないんだろうか。それとも、わかっていても出版社の名前からあらぬ反感でも覚えてケチを無理やり案出でもしたのだろうか。
全然知らなかったのだけれど、西村賢太発掘モノなのだそうな。紙の文庫はすでにマーケットプレイスものしかない。まだ書店で並んでいるかな?
*1: 実際にググってみたら、思っていた以上にその手の話って転がっているのね。率直にいって驚いた\(^o^)/