25日夜、NHKスペシャルの「人工知能 天使か悪魔か 2017」を見た、この題材は2016年に続くものであり、昨年も見た記憶がある。昨年はAlphaGoが囲碁チャンピオンを破った直後でもあり、D.ハサビスへのインタビューやPFNとToyotaの取り組みも紹介され非常に興味深かった記憶がある。
今年は、将棋AIとプロ棋士の対戦を取り上げ、以下にAIが人間の考えが及ばない指し手を打ってくるかという面や、日本国内で業務にAIを取り入れる企業を紹介し、より社会に浸透しつつあるという内容であった。わかりやすく編集されており将棋ファン以外でも興味深く見ることができた。
・AI将棋（ポナンザ：日本）
・AIタクシー客予測システム（日本）
・AI株取り引きシステム（日本）
・AI再犯予測（アメリカ）
・AI人評価システム（日本）
何よりMCの羽生善治の取材記が、的確でよかった。個々の内容は記述しないが、要約すると、
今後、AIが社会で応用されるにあたり、その思考過程がブラックボックスであり、人間がそれを理解できないことは大きな問題になるであろう。また、社会に浸透するにつれ使いこなすことを求められることになると思われる。しかし、「仮想敵」のように捉えてしまうのは得策ではなく、AIのやり方に見習うことで人間も進歩でき、うまく活用すれば人間にとって大きな力になるはず。
というものであった。
分野は違えど、さすが天才は違うなあという思いである。
以前から思っていたが、なぜ人間はAIに理由を説明させたがるのか？自分の想定以上の成果が上がった場合に、自分の納得させるためなのか？、自分が将来同じ様な考えができるようにしたいからなのか？
後者のように自分を高めるモチベーションとするのは非常に良いと思われる。実際、将棋界もその方向でAIを利用して新たな打ち手を考えるような方向に向かっていると聞く。
いずれにしても、以前のブログにも書いたが、たとえAIが自らの判断根拠を自らの言葉で話せる様になったとしても、それを人間が理解するのは不可能なのではないかと考える。（当然、AIのアルゴリズムは人間が理解できるが、そのアルゴリズムが大量のデータをどのように解釈したかというのを理解するのは到底困難である。）
ブラックボックスは不安だという声もあるが、AIに限らず、この社会はすでに多くがブラックボックスなのである。それでも多くの人間は疑問をいだかずに信用して問題なく生活している。例えば、今話題のフェイクニュースなどがいい例である、ネットにある、もっともらしく見えるものは信用し、その入手経路や信頼性などは考えない。これをブラックボックスと言わずして何をそういうのか？という思いがある。
恐らくAIが判断したといわずに、誰かカリスマ性がある人間がAIの出力を言葉で自分の考えとして伝えたならば、その判断基準が「勘や経験」と言ってもそれ以上誰も追求しないであろう。
AIはその高性能の処理能力と大量データを「学習」という「経験」を積むことで、どんなベテランよりも精度が高い「勘」を身につけたという説明であれば理解できるのであろうか？