本日の備忘録／On AI: Are machines learning to be racist?
このところ、ちょこちょことAIをめぐる気になる報道が相次いでいる。上のヴィデオはその第1弾みたいなやつ。
云われてみればなるほどモノ。深層学習型の人工知能となると、すでにあるデータから判断の方法を生み出すことになる。採用人事に当たるAIの開発には過去の採用時のデータが用いられる。となれば、元々データに潜むヒト由来のバイアスは排し得ない。
云われてみればなるほどというか、気づかなかったのがむしろバカみたいな話なんだけれど、あがっているアマゾンでの例など見ると、そっか、もうそのへんはリアルな話になっているわけで、気づかなかったのは本当にお馬鹿さんですみませんm(_ _)m、というところか。
ことは採用人事のみでは済まない。ヴィデオにあるみたいに裁判にさえAIが用いられることになれば、いよいよ大変だ。このあたり、なんとなくAIによるほうが人間的なアレコレのバイアスを免れた判断が期待できそうなイメージがあるぶん、あるいはヴィデオにもあるように開発者さんもそのへんをウリにしているぶん、油断大敵火がボウボウ、意識的に注意を払わないともっともらしさを纏った人権侵害が罷り通ることになりかねないのかもなぁ。鶴亀、鶴亀。
- Apple News algorithms pick more celeb stories than human editors, study finds | Apple | The Guardian
まだちゃんと読んでいないのだけれど、被る話だよね、たぶん。
- IBM、「偏見」を基にした顔認証技術の開発を中止へ - BBCニュース
こういう話が企業側から出て来るというのは、記事中にある種々の批判を考えにいれても大したことぢゃないですか。本邦だとどうなんだろう、先端技術の領域で老舗的な大企業が、上っ面だけでも世間様の流れに逆らうかのように見える倫理的な態度を表明するってなこと。ないわけはないと思いたいのだけれど、不勉強でなのかどうか、パッと思い起こせるところがない。
- 「まさにブラックボックス」AIによる人事評価 情報開示求め、日本IBM労組が申し立て - 弁護士ドットコム
4月4日の記事とちょっと古めだけれど。
申立書などによると、日本IBMは2019年8月14日付けで、IBMが開発したAI「ワトソン」によって従業員を評価して賃金を決める仕組みの導入をグループ社員に通達した。
組合は繰り返し、団体交渉を通じて、AIの学習データや、AIが評価者である上司に向けて表示するアウトプットの開示を求めたほか、日本IBMが人事評価の要素として就業規則に定める「職務内容」「執務態度」などをAIがどのように判断するか説明を求めてきた。
その求めに対して、同社はAIが上司に示す情報は社員に開示することを前提としていないなどと主張し、団体交渉を拒否した。
登壇者らは「AIの市場シェアナンバーワン」を標榜する日本IBMにおいて、AIの導入の判断が議論されず、検証もままならない状況だとして、同様の事態が広がることに警鐘を鳴らす。
アメリカなら昨年のThe Algorithmic Accountability Act（アルゴリズム説明責任法）*1か何かで調査と説明が求められるべきところになるか、なるところに極めて近しい案件のように見えるが、どうか。というか、そうか、日本ではこのへん規制する制度が今のところないってことなのか。う～ん。
記事にはさらに以下のような指摘も取り上げられている。
今回の救済申し立ては、AI利用について情報が誠実に開示されない不透明な状況の改善が理由である。他方、会見で関心を集めていたのは、AIの人事評価利用の「是非」だった。
登壇者らの立場は「現段階でAIは不完全」という考えだ。たとえば、AIが差別を「学習」することで、従業員に対して差別的なアウトプットになりかねないことを懸念している。
おまけ／ロボット利用費用が人件費を下回る日
紹介されているロボットは、まだまだヒト並みの仕事が出来るのかどうかわかんないけれど、とはいえ、毎月のレンタル料金が1000ドル、つまりは10万円とほんのちょっととなると、人件費並み、もしくはそれを下回るコストで使える日がやって来ちゃった、あるいはやって来る日が迫って来たということか。「本日の埋草／The Rise of the Machines – Why Automation is Different this Time」 
こうなってくると、「『ベーシックインカムは人を幸福にする』と2年間に及ぶ実験で判明」（GIGAZINE、5月11日） 
71のレヴューの平均、星4つというのはなかなかぢゃないですか。
*1: 冒頭のヴィデオでも（英語でだけれど）言及されているヤツ。訳語として定まったものになっているのかどうからへんはよく知らない。cf. google:アルゴリズム説明責任法
