コンピューターが未来を支配するのか　「ホモ・デウス」読み解く(毎日新聞、10月11日) - 磯津(寫眞機廢人)@ThinkPad R61一号機(Win 7)

2018/10/23 (Tue) 01:39:46

＜件名＝特集ワイド：コンピューターが未来を支配するのか　ベストセラー「ホモ・デウス」批判的に読み解く（毎日新聞、１０月１１日）＞

　こんばんは。


　アイザック・アシモフでしたか、古典的な短編に「宇宙規模の分散コンピュータが完成し、最初に『神は存在するか』と問うたところ、『今こそ神は存在します』という返事が返ってきた」というものがありました。
　コンピュータが「自意識」を持つのかははなはだ疑問ですが、昨今のディープ・ラーニング等のＡＩ技術を見る限り、コンピュータ内部の決定過程が完全にブラックボックスと化して、前提条件からどうやって結論を導出したのかが全く分からなくなってることに危惧を覚えます。
　それこそ、ジェイムス・パトリック・ホーガンの「未来の二つの顔」が、現実味を帯びてきました。


＞ 何かが足りない。２０１６年に出版された英語版を読んで、そう思った。この９月に出た邦訳版を読むと、今度は違和感を覚えた。ベストセラー本「ホモ・デウス　テクノロジーとサピエンスの未来」（河出書房新社）のことだ。人類の支配者が、神、人間を経ていずれデータ、つまりコンピューターに取って代わられる可能性をめぐる話だ。すとんと落ちないのはなぜなのか。脳科学、情報技術ともに関わりの深い人と批判的に読み解いた。【藤原章生】


＞ ゴッホの表現力は意識が生み出す

＞ 「ホモ・デウス」（神のヒト）の帯にこうある。「生物はただのアルゴリズム（演算式）であり、コンピューターがあなたのすべてを把握する。生物工学と情報工学の発達によって、資本主義や民主主義、自由主義は崩壊していく。人類はどこへ向かうのか？」。著者は全世界で８００万部も売れた「サピエンス全史」（１１年）で人類を論じたイスラエルの歴史学者、ユバル・ノア・ハラリ氏（４２）だ。

＞ その続編ともいえる「ホモ・デウス」はこんな三つの問いでしめくくられる。

＞ （１）生き物はアルゴリズムにすぎず、生命はデータ処理にすぎないのか（２）（人をしのぐ機械の）知能と（人の）意識のどちらに価値があるのか（３）高度な知能を備えたアルゴリズムが本人よりも人間を知るようになったとき、日常生活はどうなるのか。

＞ 端的に言えば、超人的なコンピューターが人間活動の全てを決める時代が来るのでは、という疑いだ。問いの中で（２）が特に理解できなかったため、本人のサイトにインタビューを申し込んだが、返事がない。河出書房新社の編集者によると「毎週世界中から４００もの取材依頼がある」そうで、とても対応できないようだ。

＞ “知能”と“意識”を比べる問いに違和感を抱いたのは、以前、ヤフーの最高戦略責任者（ＣＳＯ）、安宅和人さん（５０）からこんな言葉を聞いていたからだ。「人工知能（ＡＩ）はあらゆる基礎的な情報処理で人間を超えるだろうが、人間のようになることはない。中でも大局的な把握は人間の最も高度な能力の一つで意味理解のないＡＩには極めて厳しい」

＞ 安宅さんは、東京大大学院などを経て米エール大で脳神経学の博士号を取得し、現在は慶応大環境情報学部教授も務めている。オフィスを訪ねると、「ホモ・デウス」を読み終えた感想をこう漏らした。

＞ 「疫病、貧困、戦争という人類の三つの死因が収束に向かっているといった分析など、前半は面白いけど、後半は息切れしている。前作は名著で興奮して読みましたが……」

＞ 「ＡＩは人間を超えますか」と素朴に聞くと、問い自体が適切でないと安宅さんは言う。人間とＡＩは何かを学習する道筋が全く逆、根本が違うため、等価な比較はできないという。

＞ 「例えば我々の場合、ある草を踏んだら足がかぶれたので、危ない草だと学習する。一方、ＡＩの機械学習はその草を避けるという『目的』がまずあり、モデルの中の変数を調整していく。自動運転もそうですが、『目的』にあった動作をさせることはできる」

＞ 「避ける」という動きを与えるために「目的」を先に与え学習するのがＡＩの構築だとすれば、人間はさまざまな経験から意味を理解し「避けた方がいい」という判断をする。機械と生物の学びは逆だということだ。

＞ わかったようなわからないような顔をしていると、安宅さんはため息をつき「例えばゴッホの絵（＝目的）をたくさん覚え込ませれば、ＡＩはゴッホのような絵を簡単に描ける。あるいはゴッホとモディリアーニを混ぜた絵を。でも、ＡＩが体験をもとに、ゴッホのような人間の深い心的洞察に基づく表現への手がかりを得ることはない。心に該当するものがないからです」。

＞ どうにかわかった顔つきをしていると、安宅さんは問題の書「ホモ・デウス」に話を戻した。“知能”と“意識”のどっちが大事なのかという問いだ。

＞ 「“知能”とはインプットとアウトプットをつなぐ力です。外からの刺激、つまり『入力』を感覚に翻訳し、それをもとに知覚対象を切り分け、意味を理解し、それに基づいて、運転なり表現なりの『出力』をする。『入力』や『出力』が入り組んでいる時は状況把握など情報を総合、抽象化する過程が含まれます。そこまでのことはメダカも人間も瞬時にやっています」

＞ 「入力」から「基礎的な意味理解」までは、“意識”を必要としない。「脳は６歳で大人の７、８割の大きさになり、成人に達すれば大きくならない。その代わり脳の領域間の接続が経験と共に増え、あらゆる経験を積んだ人は接合だらけで、つなぎを可視化すれば真っ黒になっているんです」。絡まって絡まってぎゅうぎゅうの網の目が「出力」を助けるようだ。

＞ 「大半の意味理解は“意識”があろうとなかろうとできますが、表現など何かを『出力』する際には“意識”が必要になる。“意識”とは、脳内活動を認識することですが、例えば写真を撮る際、この花だとか、今何が一番大切かと思うのも“意識”の上の活動。ゴッホも単に風景を見ただけの『意味理解』で終わらず、“意識”があったからこそ絵にできたんです」

＞ つまりどういうことか。

＞ 「体験や知覚の多くは“意識”がなくてもできます。でも、“知能”は『出力』まで含んでいるので、“知能”の中に“意識”が含まれるのです。“知能”と“意識”を比べることがおかしいのです。『ホモ・デウス』の論が弱いのは、ＡＩによる情報処理の自動化と知能全体をいっしょくたにしているからです。脳内の情報処理は恐らくほとんどが自動化できますが、それを統合しても人工的な人間にはならない」

＞ かぶれる草を避ける行為と、その草を避ける自動化とは、筋道が違うということだ。


＞ 一神教の人には切迫感

＞ 「ホモ・デウス」が説く、神の時代、人間の時代からデータの時代へ、という変遷もわかるようでわかりづらい。単純すぎるのではないか。そんな話を差し向けると、安宅さんの脳が少しスパークした。

＞ 「データの利活用は科学の延長線上にあり、科学の担い手である人間の時代が続くだけです。そこに神の時代も並行してある。欧米など一神教の場合、神の代わりになるものが出てこない。だから、その穴を埋めるため、終末的な極論を展開しがちなんじゃないのかな。大方の日本人は一神教じゃないので、神の代わりといった代替物を考えなくてもいい」

＞ つまり、一神教の人には切迫感があるが、日本人にはないということなのか。

＞ 人工知能と聞いて、一神教の人は「２００１年宇宙の旅」で人間を死に至らしめる人工知能を思い浮かべる。だが「我々が描いてきたのはドラえもんですからね。うまく使い倒せばいい、となる。『ホモ・デウス』は一神教の人の考え方を理解する役には立ちますが。違和感があるのは、神に対する見方の違いもあるのかもしれません」。

＞ 違和感が少し解けた感じだ。


https://mainichi.jp/articles/20181011/dde/012/040/005000c