現在のAIは右脳的

更新日 2019/11/9

 

　かつてAIは考える機械を目ざしていた。しかし、現在のAIは考えているわけではない。脳で言えば従来のAIは左脳的な論理思考を追究していたが、今、急速に普及しつつあるのは右脳的な直観処理のように思う。

 

　右脳は主に目、耳、鼻、皮膚から入力された映像、音、臭い、触感の情報をパターン認識で処理していると考えられる。現在のAIはセンサーで収集した情報を蓄積→蓄積したデータベース情報を参照→分類・比較・整理・抽出→データベースから結論（似たパターン）の選択というパターンマッチング処理を行っているだけのようだ。パターンマッチングは質の高いデータ量が多い程、精度が高くなるから質の高いビックデータを集めることが重要になる。

 

　現在のAIのレベルはディープラーニングというアルゴリズムを使ったパターンマッチングをしているだけでその問題点が次のように指摘されている。

 

　👉あなたはAIを信用できますか？ AIが出した結果の根拠を説明する技術 国際的な総合科学ジャーナル“Nature”に掲載～日々の暮らしの中にもAIの活用が急速に進んでいます。現在、普及しているAI技術の多くは、様々なデータを学習させることで、新しい要素や事象について判断することができます。しかし、その判断は右脳のような直感的なものであり、なぜその結論にたどり着いたのかという根拠の説明はできずブラックボックス化しています。

 

　👉理由と根拠も明示する「説明可能なAI」～将棋や囲碁でプロ棋士を破ったことで大きな注目を集める人工知能（AI）。最近ではスマートスピーカーや自動運転など適用分野も広がっている。ここに来てAIが飛躍的に進化した背景には、ディープラーニングの実用化がある。従来の機械学習では、学習のために着目すべき「特徴量」を人間が指定する必要があった。しかしディープラーニングではニューラルネットワークと呼ばれる人間の神経構造を模したアルゴリズムを発展させることで、特徴量を自動的に見つけ出せるようになり、特徴量を明示しにくい複雑な問題にも適用可能となったのである。しかしこれによって、新たな問題も指摘されるようになってきた。ディープラーニングによる判断プロセスはブラックボックスであるため、専門家でもAIが出した回答の理由や根拠を説明できず、「結果を本当に信頼してもよいのか」という疑念を払拭できないでいるのだ。例えば医療現場にAIを導入するケースを考えてみてほしい。検査結果のデータから、AIが診断や治療内容を指示したとして、あなたはその結論を100％信頼する気になれるだろうか。判断プロセスがブラックボックスの状態でいきなり結論だけが出てくるというのでは、自分の健康や生命に関わる医療分野では、多くの人が拒否感を感じてしまう。

 

　👉パターンを学習する「機械学習」でできること、できないこと：AIはパターンマッチングを超えられるか？（前編）～機械学習は、システムに関する情報（入力変数）とAIが予測する必要がある結果（出力変数）との間に内在するパターンの把握に使えるとフロービク氏は話す。しかし機械学習は今のところまだ、複雑な物理学を確実に予測できる段階まで進化していない。

 

　👉AIによる画像認識は信用できない？ 誤認識された画像たち

 

　現在のAIはデータの量が多い程精度が高くなるパターンマッチング処理だけだから処理速度が速い。一方、従来のコンピューターは左脳的だから処理速度が遅い。人間は右脳と左脳で協調しながら情報を処理して判断している。だから、現在のAIは極めて不完全な人工的な知能だと言える。

 

　システムは最終的な結論を人間が選べるように設計されていなければならないと思う。データベースから選択された結論はデータの質と量が保証されているなら精度が高いかもしれないが、望ましい結論かどうかは人間が判断する必要がある。なぜなら結論の責任の所在が不明確になるからだ。今のAIは説明責任を果たせないし、責任を取れない。

 

　👉「データを解せば世の中が変わる」は危険 因果関係を誤解したゴミ分析も多数～例B：「先生、うちでもAIを使って、売り上げを増やす方法を分析してもらったんですよ。店のトイレの方の角のところに、食べ物の売り場を移した方がいいっていうんですよ。なんでって？　いや、理由は、よく、わかんないんですけれどね。AIは理由はわからないらしいんですよ。でも、困っちゃいますよね。食べ物をね、便所の近くに置けないじゃないですか……」…例Bは、「意味や理由はわからないのだけど、コンピュータやAIがはじきだした相関関係だけでアクションが決められてしまう事例」です。相関関係を取り違えていて、よく考えもせずにAIやアルゴリズム、データブームに乗ってしまっている。AIがはじき出したデータだからといって、食べ物をトイレの近くに置くなんて、衛生を確保しなければならない限り、難しいことです。…新入社員が働きがいを見出せなかったり、仕事がつらくてやめるのは、「つらい仕事の意味がわからずやめる」のです。そこになんらかの意味づけがあればやめないという選択肢もあるのですが、この意味づけがぽっかり失われている。この場合、意味づけしてあげる立場にいるのは上司やマネジャーなのですが、その点は多くの会社ではあまり重視されていません。さらに言えば、この「意味喪失社会」は、ここ数十年、人文知が挑戦している大きな課題だと思います。…AIのバブルに関しても、僕は一歩引いた見方をしています。なぜかというと、これでAIブームは4度目ではないですか？

 

　👉例文に「衝撃的」な差別表現 翻訳サイト大手に批判～同サイトの「Context（文脈）」機能で表示される数十億件の訳例は、言語学者によって定められた一般的な表現や問題に基づくアルゴリズムにより管理されている。レベルソはまた、自然な会話で頻繁に使われる語句を再現するため、映画やインターネット動画の字幕を活用している。

 

　👉アカウント凍結、検索結果の偏向……。アルゴリズムに人生や思考が支配されることの危険性～凍結対象となるアカウントは、何らかの指標で分類される。しかし指標は明らかにされない。明らかにすれば、その網の目を縫うようにスパムアカウントは行動する。またAIを使っていれば、正直なところ何を理由に判定しているのか利用者自身も分からなかったりするだろう。

 

　👉安易にAIを使って大丈夫？　AIにまつわる法と倫理と社会課題～平野教授は、AIやAIを載せたロボットの「不透明性」や「制御不可能性」「データに左右される特性」が課題だと言います。AIは学習したデータを基に考え、さまざまな課題について自律的に判断します。しかし、AIの多くは、なぜその判断を下したのかを自身で説明できませんでした。この「判断は下せるが理由は説明できない」という性質を「不透明性」と呼びます。…逆に、もし最終判断も実際の治療行為もロボット側に全て任せて、人間が治療方法に口を出せないと、治療方法が間違っていてもそのまま治療が続けられてしまいます。AIを搭載したロボットには、開発者の想定とは違う、誤った判断を下す危険性があるといわれています。「制御不可能性」は特にHuman-out-of-the Loopにおいて問題になるのです。…最近では、AIには差別的な判断をする可能性があるという弱点があることも指摘されるようになりました。学習に使うデータに差別や偏見が多く含まれると、AIも影響されてしまうのです。

 

　👉統計のプロでも「難しい」AIの時代、それでも予測できないものとは～椿）センサー類が安くなって多くのデータが集められるようになり、コンピューターの計算能力も上がったことで、予測の精度がかなり高まりました。「人工知能」という言葉はあいまいですが、機械学習と最適化計算の複合技術と言えるかもしれません。内部的な統計データにもとづいて学習して、最適な予測モデルを近似しているのです。その意味では、人間の統計学者がやってきたことと同じです。ただし、精度が高いとして注目されている深層学習などの場合、分かるのは結果だけです。大量の入力データを多段階にわたって変換したり、結合したりすることで、入力データと出力データとの関係の潜在的な構造を表しているため、どんなモデルを近似しているかは人間には解釈できない問題があります。こうした潜在構造を見るモデルは、本質的に解釈不能なんです。「ブラックボックスアプローチ」と呼ばれるゆえんです。…一方で、ブラックボックスでも構わない分野もあります。――どんなものでしょうか。たとえば文字認識です。これは、過去のデータを機械学習し、ある文字を見せられたときに、それがどんな文字にあたるのかを予測する技術です。予測というより認識と言うほうがいいかもしれませんが、ロジックは予測と同じです。これは文字を分解したデータから予測していくのですが、文字の断片が文字になるメカニズムはありません。文字はメカニズムで生まれるのでなく、人間が単にこうだと決めているだけだからです。画像認識もそうですが、こうしたものにはブラックボックスアプローチは非常に有効だと思います。…また、人工知能を機械学習と最適化の複合技術だとすると、なにを「最適」とするかが問われます。なにに価値があるかを決めて、それにかかわる変数の関係を考えるのは、人間のやることです。それを、データサイエンティストがマネジメントできないといけないんです。

 

　最近、性能が急速に向上している機械翻訳もパターンマッチング技術にすぎない。決してコンピューターが論理的に翻訳している訳ではない。人間も多言語を流暢に話す人は他言語をネーティブ言語に逐次変換している訳ではない。脳に蓄積されたパターンを右脳で処理して左脳に伝達しているのではないだろうか。

 

　機械翻訳の性能向上は必要なハードウエアとネットワークのコストの低下と普及という背景がある。従来はコストの問題で試すことができなかった理論を実現できる環境が整備されたことが機械翻訳の精度向上につながっていると考えられる。つまり、低廉で大容量の記憶装置を高速のネットワークを使って利用することができるようになり、データ量が増える程、精度が増すパターンマッチングが機械翻訳を実用レベルまで引き上げたということだろうと思う。コンピューターが言葉を理解している訳でないという認識が必要だと思う。

 

　自動運転もパターンマッチング技術に過ぎず、自動運転が人間の生命の危険に直結するだけに安易な導入はするべきではないと思う。しかも、自動車に限らず、機械には耐用年数がある。自動運転の車両について安全のための点検やセンサー等の部品の交換基準すら定められていない。しかも、自動運転のベースはAIという目に見えないソフトウエアだから事故が起きたときの原因究明は極めて難しい。

 

　自動運転車は電気がなければ動かない。電気がなければ動かなくなるのは原発だけではない。法的な問題についてはほとんど研究が進んでいない。これまでも規制緩和や未知の技術の導入の結果起こった事故について国も事業者も責任を取っていない。想定外という説明は責任逃れに過ぎない。小泉進次郎のようにリスクを取らなければと主張する輩を信用してはいけない。ピンチがチャンスだった試しはない。福島の原発事故も国立競技場の問題も責任の所在があいまいなまま風化しつつある。言葉遊びはやめて欲しい。進次郎の主張には根拠もなければ結果も伴っていない。40近くなっても若造だからと親から擁護されるているような人に自己責任を言われたくない。　　　　おしまい