月: 2017年6月

25日夜、NHKスペシャルの「人工知能　天使か悪魔か 2017」を見た、この題材は2016年に続くものであり、昨年も見た記憶がある。昨年はAlphaGoが囲碁チャンピオンを破った直後でもあり、D.ハサビスへのインタビューやPFNとToyotaの取り組みも紹介され非常に興味深かった記憶がある。

今年は、将棋AIとプロ棋士の対戦を取り上げ、以下にAIが人間の考えが及ばない指し手を打ってくるかという面や、日本国内で業務にAIを取り入れる企業を紹介し、より社会に浸透しつつあるという内容であった。わかりやすく編集されており将棋ファン以外でも興味深く見ることができた。

・AI将棋（ポナンザ：日本）

・AIタクシー客予測システム（日本）

・AI株取り引きシステム（日本）

・AI再犯予測（アメリカ）

・AI人評価システム（日本）

何よりMCの羽生善治の取材記が、的確でよかった。個々の内容は記述しないが、要約すると、

今後、AIが社会で応用されるにあたり、その思考過程がブラックボックスであり、人間がそれを理解できないことは大きな問題になるであろう。また、社会に浸透するにつれ使いこなすことを求められることになると思われる。しかし、「仮想敵」のように捉えてしまうのは得策ではなく、AIのやり方に見習うことで人間も進歩でき、うまく活用すれば人間にとって大きな力になるはず。

というものであった。

分野は違えど、さすが天才は違うなあという思いである。

以前から思っていたが、なぜ人間はAIに理由を説明させたがるのか？自分の想定以上の成果が上がった場合に、自分の納得させるためなのか？、自分が将来同じ様な考えができるようにしたいからなのか？

後者のように自分を高めるモチベーションとするのは非常に良いと思われる。実際、将棋界もその方向でAIを利用して新たな打ち手を考えるような方向に向かっていると聞く。

いずれにしても、以前のブログにも書いたが、たとえAIが自らの判断根拠を自らの言葉で話せる様になったとしても、それを人間が理解するのは不可能なのではないかと考える。（当然、AIのアルゴリズムは人間が理解できるが、そのアルゴリズムが大量のデータをどのように解釈したかというのを理解するのは到底困難である。）

ブラックボックスは不安だという声もあるが、AIに限らず、この社会はすでに多くがブラックボックスなのである。それでも多くの人間は疑問をいだかずに信用して問題なく生活している。例えば、今話題のフェイクニュースなどがいい例である、ネットにある、もっともらしく見えるものは信用し、その入手経路や信頼性などは考えない。これをブラックボックスと言わずして何をそういうのか？という思いがある。

恐らくAIが判断したといわずに、誰かカリスマ性がある人間がAIの出力を言葉で自分の考えとして伝えたならば、その判断基準が「勘や経験」と言ってもそれ以上誰も追求しないであろう。

AIはその高性能の処理能力と大量データを「学習」という「経験」を積むことで、どんなベテランよりも精度が高い「勘」を身につけたという説明であれば理解できるのであろうか？

昨日の記事で、AIとしてのマルチモーダルモデルについて書いたが、実際の脳としてはどうなのかということについて書いてみたい。大脳新皮質には、言語、視覚、聴覚、運動などのそれぞれ機能に応じた処理をする50以上の部位が局在しそれらが連動して意識的、無意識的な人間の判断を行なっている。それらの局在部位を表したものの代表はブロードマンの脳地図である。

これは、東京で３月に開催されたシンギュラリティサロンで電気通信大学の倉重さんが説明していたことだが、被験者にカナヅチの絵を見せ、その時の脳の活動の状況をfMRIで測定すると、視覚野だけでなく、同時に聴覚野、運動野も活動（発火）する様子が捉えられた、つまり、これは絵の形状を認識するだけでなく、同時に叩いたときの音や叩く時の反動や重さについても連想する、ということである。

つまり、これは、感覚器から脳に入力された情報が、関係するモデルが構築されている部位に伝送され脳神経細胞が励起されるというモデルが脳内に構築されていることを示していると考えられる。

人間の脳は、常にマルチモーダルモデルで学習を実施し、認識、推論しているのである。