Delphoi 42

自然科学とか科学技術とかその界隈らへん

「【NEE2017】シンギュラリティは来ない…東ロボくんの母・NIIセンター長 新井紀子教授」（リセマム）hatebu、東ロボの経験からのみでAI一般に関わるシンギュラリティについて何か云えるのかどうか。蓋然的なとこいらへんまででなら可かもしれない。けれど、見出しのように断言されると蟠りを覚える。いずれにしても、そこいらへん、実のところシンギュラリティが来ようが来まいが大した問題ではないのではないかという気もしてくる。

　シンギュラリティが到来するならば、雇用への影響とかその他いろいろそれなりの大問題を引き起こすに違いないし、その影響は自分の生活にだって及ぶこと間違いなしなんだから、そういう物言いはアレなのはわかるんだけれど、でも遠くない未来を構想するに当って、そういう大問題もただの問題か小問題かと思わせるほどの大問題にどうしたって思い至らざるを得ないんぢゃないか。というのは、シンギュラリティはAIの知的能力が、ヒトのこれまで獲得して来たそれの比較的素直な延長線上に想定されているものではないかと思えるからだ。AIの知的能力がヒトの能力の延長線上に想像されているから、AIがヒトを凌駕し支配するといったお話がヒトの危機感を煽ることにもなるのだろう。でも、AIが獲得するであろう知的能力が、もしそのような直線の上になかったとしたら……と考えることのほうがリアリティのある大問題になっちゃうというようなことはないかしら。

「アルファ碁同士の棋譜公開　碁界騒然『見たことない』」（朝日新聞デジタル）hatebu、囲碁がわかんない者としては具体的にどうこうといったコメントのしようはないのだけれど、

　手数が進んだ特殊な状況に限り有効とされていた「星への三々（さんさん）入り」を序盤の早いうちに互いに打ち合ったり、双方の石がぶつかり合って手抜きがしにくい接触戦のさなかに戦いを放置して他方面に転戦したり。これまでの常識では考えられない着手の連続にプロ棋士らは驚愕（きょうがく）した。

（中略）

　囲碁ＡＩに詳しい大橋拓文（ひろふみ）六段は「わけがわからない。人間が打つ囲碁と同じ競技とは思えない」。今後の棋士像を「強さが棋士の絶対的な価値ではなくなり、囲碁の魅力を伝えるなど他の役割の比重が高まるのでは」と予想している。

といったあたり、シンギュラリティより遥かに面倒な問題を示唆しているように思える。AIが実用に供されるとき、上のような困惑が領域を問わず引き起こされることになるんぢゃないかということだ。《一定のルールの中、どのように振る舞うことでより高評価の得られる結果を出すか》というのはゲームのみならず、ビジネスその他にも当てはまる事柄である。採用すべき振る舞い方をAIがうまく導出してくれたとして、その振る舞い方がこれまでの人知からは想像のつかないものになっちゃったというとき、ヒトはどのようにその事態を受け入れる／拒むのだろうか。

　もちろん、実のところヒトは、少なくとも現在のところそのメカニズムがすでに解明され尽くしたとは到底云えない己の生体に頼って生きているのであり、その一部である脳、さらにその一部である大脳新皮質か何かによって日々の判断を下していたりするんだろうから、そこに何を考えているのかいないのかわからないAIによる判断が加わったからといって本質的な変化は認められないということも出来なくはないかもしれない。

　けれど、AIによる判断が日常的に受け入れられるかどうかは、それとは別に考えなければならないんぢゃないだろうか。ブラックボックスとしての身体に頼った生活と判断は進化論的時間を通してすっかり馴染んでしまったものであり、日常的判断の背景にわけのわかんない謎が控えていることなどたいていのヒトは意識さえしないで済ませている。いちいち意識していたのでは実生活ではかえって面倒臭い。おつむの表層にアブクのように浮かぶ意識がカヴァー出来る範囲での概念のテケトーな操作で何となく納得できればそれで善しとしているのである。

　他方、AIによって下された判断はそうしたヒトの意識を超えている。そのため、それは解き難い謎としてヒトに向かって迫（せ）り出してくる。たとえば、通常考えられないような複数の弱小ベンチャーや倒産寸前の企業に奇妙な配分での投資をするべきだというような答えをAIが弾き出したとき、経営者は社運を賭けてその判断に素直に従うことが出来るだろうか。どうしてそのような投資を考えたのか株主には理路が一切説明出来ないような、デルフォイの神託のようなAIの答えに。あるいは、戦争における、一国の興亡がかかった局面での戦略や作戦判断に臨む軍の最高司令官は、AIの神託を信じることが出来るかどうか。仮に囲碁のように判断に必要な情報がすべて明らかだというような場合であっても、AI登場以前の経験に富む経営者や司令官ほど煩悶することになるのではないか。ライバル企業や対戦国もAIを使用しているとなれば、話はさらにややこしくなるだろう。「わけがわからない。人間が打つ囲碁と同じ競技とは思えない」という嘆きは、少なくともAI実用化後相当の期間、世界を支配するってな事態が想像されたりしやしないか。

　そういう時代が続くかぎり、AIの神託をめぐって多くのヒトビトは頭を悩ませることになる。そして、神託の意味を人間的に噛みくだいて解説することが出来るかどうかが、そういう時代の経営者や最高司令官たちの新しい資質として求められることになったりするんぢゃないか。もちろん、その解説が正しく神託の意図や狙いを解読したものであるという保証はない。彼らに求められるものは正確さというよりも、ヒトが納得出来る物語みたいなものを生み出す能力だろう。ちょうど「強さが棋士の絶対的な価値ではなくなり、囲碁の魅力を伝えるなど他の役割の比重が高まるのでは」というのと似ているといえるかもしれない。

　一定以上の規模を持つ組織や集団では、管理者や指導者の言葉の意図が正確に理解されて構成員すべてのヒトビトの行動が促されることなど、現在でもそんなには存在しないということはないだろうか。ボスの云うことだからと仕方なく従っていたり、勝手に管理者や指導者の意図を慮って行動していたりするに過ぎないことは多い。法務大臣でも説明不可能なシロモノなんだけれど、《国際的にテロが増えている⇒「テロ等準備罪」と呼ばれもするんだから、何となくあったほうがいいに決っている⇒共謀罪に賛成！ 反対するヤツは後暗いテロリストぉ！》といった大雑把なあらすじだけで、法案の中身を見たこともないヒトが賛意を示す、みたいなもんである。ただ、何の理由もなく「仕方なく従う」というのでは自尊心が傷つく。あらすじだけでもかまわないから何かその服従が主体的な判断に基づくものであるかのような、実は錯覚に過ぎないかもしれない「納得」を引き出すことが重要視されることになる（ならないかなぁ＼(^o^)／）。

　AIの理解不能な神託が支配する世界でも、神託を誰もが「納得」可能な物語の構造に落とし込んで説明できる、つまりは理解不能な言葉のなかから新たなフィクションを生み出す才能の持ち主だけは失業の心配はない、みたいなことが何となく妄想されたりする。AIに仕える神官の誕生である。

　といった具合に話が進むことがあるとすれば、AIという合理性の権化みたいなヤツに頼り切りになる社会は、却って非合理的なフィクションによって支配される社会になっちゃうみたいな具合になりゃしないかしら。

 

　実際の世界での企業間や国家間での争いでは、判断に必要な情報のすべてが入手出来るわけではないし、予報・予測の精度が上がったとはいえ天候のようなまだまだ「偶然」や「運」としか云いようのない要素が絡む。地震ともなれば今でもヒトにとっては偶然や運そのものだろう。そうしたアレコレは他にだっていくらでもある。だから、AIの神託はわけがわからないのみならず、案外あてにならないといった事態だってそれなりに生じるかもしれない。古代のヒトにとっての神託ほど、AIの判断が重視されることになるかどうかはわかんない。したがって、上に挙げたようなアブクの考えはそのまま現実に生じるわけではないに違いない。とはいえ、偶然や運だってリスク勘定の内に含めてAIのほうが冷静に計算してくれそうだ。また、現実世界よりはいくらか単純であるだろうゲームの世界においてさえ、プロのプレイヤが想像も理解もできないような手をAIが打つようになったということは、同じ世界に対してAIとヒトとではずいぶんと異なった構造を見ているということだと考えられなくもない、かもしれない。AIの問題解決がほどほどに実用的なものとして普及するといった程度でも、ヒトは想像もしない解決策に直面せねばならなくなるなんて事態は、結構ありそうな気がするんだがなぁ。ないですかねぇ。う～ん、ないかなぁ／(^o^)＼。

銀河ヒッチハイク・ガイド (河出文庫)

銀河ヒッチハイク・ガイド (河出文庫)

 

　Kindle版もある。続篇も翻訳されて河出文庫になっている。

　知らない方は、「銀河ヒッチハイク・ガイド」（Wikipedia）hatebuを当たられたし。百科辞典的記述をハミ出してなが～くなっちゃってるし、一方で部分的な説明不足もあれこれ、説明する気がほとんどないんぢゃないかというような記述などなどあるのだけれど、とりあえず目を通しておくと知ったかぶりをかます場合に役立つ以下に上げる映画版を理解するのに有益かもしれない。

銀河ヒッチハイク・ガイド [Blu-ray]

銀河ヒッチハイク・ガイド [Blu-ray]

 

　映像作品としてはいろいろお金の使い所を間違えているんぢゃないかと思えるところがあるし、あれこれ詰め込んであるので一度では粗筋も理解出来ないヒトが出て來ること疑いなしとせずだし、レヴューで5つ星をつけているヒトたちの躁ぎっぷりには違和感を覚えたりもするのだけれど、それでも愉しい作品ではありますよ。エントリ冒頭のヴィデオも、コイツから採られたもの。ときどき YouTubeで全編がアップロードされては削除されたりしている。日本語字幕がいらないというのであれば、YouTubeで「The Hitchhiker's Guide to the Galaxy」を検索なさってみるといいかも。

　ついでながら、BBCが制作したテレビドラマシリーズ版も、BBCのYouTubeチャンネルで見どころダイジェストみたいなやつが何本か公開されている。

未来の二つの顔 (創元ＳＦ文庫)

未来の二つの顔 (創元ＳＦ文庫)

 

個人的な好みでついでに。

 

*1:cf. 生命、宇宙、そして万物についての究極の疑問の答え - Wikipediahatebu、《同シリーズ（引用者註：『銀河ヒッチハイクガイド』シリーズのこと）の日本語訳は新潮社から出版されたが、日本ではそこまでで留まり、派生文化を生み出さなかった》とあるが、現在では河出文庫から出ている。エントリ末尾参照。問題設定が悪いとロクなことにならない、というほどの寓意なんだろうと長らく思っていたのだけれど、あらま、そういう解釈は行われていないのですね。知らんかった。

*2:cf. 42 - Wikipediahatebu、大して役に立ちませんけれど。