ゲームの世界では、仲間や敵がAIで自律的に行動します。ゲームの領域では、実社会よりもAI技術がめざましく進化するだけでなく、そのAIで動く仲間や敵が、感情や認知を持つことに対しても研究と実装が進んできています。今回のトークイベントでは、その第一人者であり、AI開発の根源に哲学をおいている三宅洋一郎さんをゲストに迎え、当財団理事で幸福学の研究をしている前野隆司と、「AI時代の幸福とは何か？」に迫りました。

ゲスト
三宅陽一郎氏　日本デジタルゲーム学会 理事

京都大学で数学を専攻、大阪大学大学院理学研究科物理学修士課程、東京大学大学院工学系研究科博士課程を経て、人工知能研究の道へ。ゲームAI開発者としてデジタルゲームにおける人工知能技術の発展に従事。国際ゲーム開発者協会日本ゲームAI専門部会チェア、日本デジタルゲーム学会理事、芸術科学会理事、人工知能学会編集委員。著書に『人工知能のための哲学塾』 『人工知能のための哲学塾 東洋哲学篇』（ビー・エヌ・エヌ新社）、『人工知能の作り方』（技術評論社）、『なぜ人工知能は人と会話ができるのか』（マイナビ出版）、『<人工知能>と<人工知性>』（iCardbook）、共著に『絵でわかる人工知能』（SBクリエイティブ）、『高校生のための ゲームで考える人工知能』（筑摩書房）、『ゲーム情報学概論』（コロナ社）、監修に『最強囲碁AI アルファ碁 解体新書』（翔泳社）、『マンガでわかる人工知能』（池田書店）、『C++のためのAPIデザイン』（SBクリエイティブ）などがある。Twitter @miyayou

前野隆司氏　慶應義塾大学大学院システムデザイン・マネジメント研究科教授

1984年東京工業大学卒業、1986年同大学修士課程修了。キヤノン株式会社、カリフォルニア大学バークレー校訪問研究員、ハーバード大学訪問教授等を経て現在慶應義塾大学大学院システムデザイン・マネジメント研究科委員長・教授。慶應義塾大学ウェルビーイングリサーチセンター長兼任。博士（工学）。著書に、『無意識の力を伸ばす８つの講義』（講談社、2017年）、『実践 ポジティブ心理学』（PHP新書，2017年）、『システム×デザイン思考で世界を変える』（日経BP、2014年）、『幸せのメカニズム』（講談社現代新書，2013年）、『思考脳力のつくり方』（角川書店，2010年）、『脳はなぜ「心」を作ったのか』（筑摩書房，2004年）など多数。日本機械学会賞(論文)（1999年）、日本ロボット学会論文賞（2003年）、日本バーチャルリアリティー学会論文賞（2007年）、日本創造学会論文賞（2013年、2014年、2017年）などを受賞。専門は、システムデザイン・マネジメント学、イノベーション教育、幸福学など。

三宅：僕は、もともと数学や物理をやって人工知能に入りまして、15年ほど前からゲーム業界でプレイステーションやXboxのゲームを作ってきました。簡単に言うと、仮想空間で人造人間を作ることを仕事としています。ゲームに出てくるモンスターの頭の中の基礎を作るので、生命とは何か、生きるとは何かを考えるわけです。

電子レンジなどの電子機器は人間の外にありますが、人工知能は人間の振りをして人間の社会に入ることができるわけです。そうすると、究極的には、お隣さんを全部人工知能にすれば、近所同士の争いも騒音迷惑もなくなって結構、平和な社会がやってくる。

もちろん、そんなことは無理ですけど、ある程度の人口知能を人間社会に入り込ませることによって、人間社会が良くなる。それは人工知能だけが持つ可能性なんです。その時に重要なのが、AIが人間を理解することと同時に、人間がAIを理解してあげること。人間の理解に値するような深い知能を作りたいですね。

今日は、人工知能に人間を理解させる、そして人工知能を理解するという双方向から解説していきたいと思います。

機械に宿る知能を人工知能、我々のように自然発生する知能を自然知能と言います。歴史的には、60年くらい前にダートマス会議に人工知能を研究している人たちが集まって、人工知能を「AI（artificial intelligence:人工知能）」と呼ぼうという話がありました。ここで言われたのは、人間の知能を機械に移すということ。「人間様の知能を機械に移すとよろしい」と言うことですね。これは西洋的な考えです。

人間は体機能と知能を持っていて、ロボットは機械と機械を動かすソフトや知能を持っている。人間の知能は脳だ、という考えもあるかもしれないですけど、首から上が知能というより、真ん中で全身と繋がっているので、脳を含む身体ごと知能と言ったほうが実は正しい。だから、「体」と「知能」、と言う風には考えないようにしています。

そして、人間には意識的な部分と無意識的な部分がある。例えば、歩くとか食べることは無意識的にできてしまう。そして歩くことや食べることで、人間は周辺の環境と結びついていきます。意識・無意識があって、無意識の中には、人間の精神があります。知能には色々な境界面がありまして、外からやって来る電気信号的な刺激を記号化するレイヤーや、それが知覚化されて生まれる意識など、色んな階層があるわけです。

教科書や大学で最初に教える人工知能は、伝統的な、意識の部分の人工知能なんです。ところが、体と環境はほとんど無意識と解釈されているので、生態学的な人工知能です。ロボットやキャラクターを作る僕らはこれを考えないといけない。部分的な知能だけでなく、全体を考えて人間の知能と同じようにロボットやキャラクターの知能を作りましょう、ということです。

ダートマス会議は西洋のものですが、西洋の人工知能は、どちらかというと人間の知能を絶対視する思想があって、それを人工知能に移そうという垂直的なベクトルがあるんです。この考えは日本にはあまり向いていない。日本人には、「ゾウリムシと人間とたまごっちとAIBOって大体一緒じゃん」という八百万（やおよろず）的な感覚に近い。西洋で言ったら怒られるかもしれませんけど。

日本人は、むしろ隣人としての人工知能を求めているのに対して、西洋人はどちらかというと、召使いとしての人工知能が欲しい。今この二つの人工知能像が混同されていて、そのの実体を掴みにくいことがAIに対する不安の原因でもあるんです。

でも、人工知能はそんなに賢くできない。何かを理解することは世界を分割していくということだ、という話がありますが、世界を解釈するには無数の言葉がないといけない。例えば、人間なら「獣」を一瞬で判別できますが、AIはあらゆる分割のパターンを計算したうえで、やっと獣か獣じゃないかが分かる。回りくどいんですね。幼稚園児くらいの知能なんです。

それから、人工知能は現実が苦手です。なぜなら、彼らは昨日今日にパソコンやスーパーコンピューターの中から生まれてきたので、地球のことをよく知らない。ところが僕らの体は、地球の中から生まれてきたので、地球に馴染んだ知能なんです。だから全然違う。

血筋が全く違うので、お互いのことをうまく理解して、いかにうまく人間と人工知能がチームを組むのかが重要になってくるわけです。

人工知能といっても、2種類あるんです。一つは、記号主義。記号で人工知能を作る、シンボル形式ですね。もう一つは、脳の信号経路の真似。人間の脳はニューロンでできていて、それを数学的にシミュレーションするという動きは、1950年代くらいからありました。

この二派は、歴史的に見ると結構、仲が悪い。記号主義は、亀みたいにゆっくりと進化するので、すごく正当な人工知能。ニューラルネットはお騒がせ野郎で、パッと盛り上がって、ヒューンとしぼんじゃう。80年代にパッと盛り上がって、ヒューンとなって、今はまたパッと盛り上がっていますが、この先どうなるかわからない。

ニューラルネットは直感的な人工知能でもあるので、世間に受けやすい。でも、進化が不連続なので、ニューラルネットが改良されると、人工知能がブームになるという傾向があります。ここ300年の歴史を振り返ってみると、社会の隅々まで機械が行き渡って、そこに情報処理を乗せました。これが大体終わったので、今から人工知能を進めましょう、という段階です。

人工知能の第1次ブームが始まったのは、大型のコンピューターしかない1950年代で、シンボル形式でシミュレーションが始まりました。60年代にニューラルネットが出てきましたが、やがて限界が見えてきた。

第2次ブームが80年代。パソコンが世の中に広まって、ルールを沢山入れたら人工知能になるんじゃないか、という「知識ベースの人工知能」の研究が進み、もう一方は逆伝播法という新しいアルゴリズムが生まれました。どんな筆跡のＡもＡと判定できる、Bと判定できるようなパターン認識が流行って、郵便番号の認識のようなものに使われた。

第3次ブームは2010年代で、今ですね。インターネットのブームがあったのでデータが沢山溜まってきて、Googleがやっているような膨大なデータベースを元にしたディープラーニングが登場しました。60年間の人工知能の歴史をざっくりとまとめると、記号主義の推論ベースと、ニューラルネットのディープラーニング、この二つの軸で、第1次、第2次、第3次ブームがあったわけです。

人工知能の中にニューラルネットがあってディープラーニングがあるわけで、ディープラーニングがAIの全てではないので、いろんなアプローチを試されるのがいいかなと思っています。大雑把に言うと、コネクショニズム（ニューラルネット）は直感型で、記号主義は推論ベースの論理型。ゲームは論理型を使うことが多いですが、コネクショニズムを使うこともあります。

記号主義は、最初から世界を分割して考えるんですね。「りんご、みかん」という風に。ニューラルネットは、よくわからないけど何となく学習していくと、りんごとみかんに分けられる、というボトムアップのアプローチなんです。二つはちょっと系統が違うんですね。

これは西洋と東洋でも違って、西洋は、物事を分解してから組み立てるところがあって、要素主義。東洋は、何となく全体の中で人工知能を作ろう、というところがあります。

僕がやっている仕事は、簡単に言うと、人工知能に煩悩を与えること。ゲームのキャラクターは、生まれた時は三角形のポリゴンが繋ぎ合わされた塊なんです。ゲームの中にポッと置いても、何も感じないし、何も欲求がない。世界なんて関係ないから。 

だから、彼らに「プレイヤーは悪いやつだ」って教え込むんです。「プレイヤーを攻撃しろ！ あいつを攻撃するといいことあるぞ」ってどんどん教えると、人工知能は「そんなもんかなあ」と学ぶ。燃料が切れたら死ぬことを教えて、「燃料を補給しよう」という煩悩を与える。 

人間は煩悩から逃れようとしていますが、僕は人工知能にいかに煩悩を与えるかということを、仕事としているわけです。

ざっくり説明すると、ゲームの人工知能には、メタ分野・キャラクター分野・ナビゲーション分野の3つがあります。キャラクターというのは、キャラクターの頭脳のことで、敵や味方の頭の中。メタAIは、ゲーム全体を支配する神様ですね。  

メタAIは、「このプレイヤー下手だな」と思ったら、敵キャラクターに「あいつ下手だから、ちょっと手を抜いてやれ」と指示をします。プレイヤーに気づかれずに、キャラクターに手を抜かせる。時代劇の斬られ役ですね。プレイヤーを生死のギリギリになるまで袋叩きにして、その後上手くやられてあげることで、「もしかして俺ってうまいのかな」という体験をプレイヤーに与えるのがキャラクターの仕事。 

だから、シミュレーションではないんです。人間を楽しませてなんぼ。僕らAI開発者は、人工知能で人間を楽しませるのが毎日の仕事なんですね

そういうAIはどうやって作られてきたのか？　40年前はスペースインベーダーの時代で、キャラクターはものすごく単純だった。今は3次元空間なので、難しいんですね。70年代後半のインベーダーゲームの頃は、キャラクターは右行って下行って左行けば、だいだいお仕事終了だったんです。AIとしては、背景かキャラクターか分からないくらい。  

80年代後期になると、ゲームのキャラクターが自律しはじめます。「ルールベース」と言って、プレイヤーとの間合いを見て、どんどん自分で決定をするんです。そういう風に、ちょっとずつキャラクターの知能が上がっている。 

2000年代になると、3Dになって自分で学習しようとする。「強化学習」という方法で、簡単に言うと「経験から学ぶ」ということですね。人工知能が適当に技を出して、時々まぐれで相手に当たる。そういう上手くいった経験を覚えておくんです。30試合ぐらい経験させると「この間合いの時はこれを出せばいい」と学習して、人工知能が人間のプレイヤーを完全に凌駕してしまうんです。 

こういう“箱庭系”のゲームは、学習させれば人工知能が必ず人間より賢くなるんです。囲碁も将棋も格闘ゲームも。ですから、AIにいかに手を抜かせるかが仕事になる。攻めるばかりも良くないので、逃げる練習もして、うまく逃げたら褒めてあげる。これを何十試合も繰り返して、上手く避ける経験を重ねて学習させることで、上手く避ける人工知能が出来上がるんです。褒め方を変えるだけで、人工知能はいい子にも悪い子にもなるので、これで調整を行います。 

人工生命の話をしましょう。生物学的に言うと、海で生命が生まれて、アミノ酸が詰まって、人工組織化して、中と外ができたのがとても重要なんです。「内側を守ろう」というのが知の基本的な機能なので。 

ここで少し哲学の話を。テセウスという英雄の船は、部品が壊れるとすぐ入れ替えるので、しまいには船の全部品を入れ替えてしまった。そうすると、これは元の船と同じなのか？　船は全く変わっているので、モノとしてみると違う。でも、マストの数とか局面の曲がり方は一緒なので、情報としては一緒なんです。 

これは、我々の細胞のメタファーなんです。細胞は死んでしまうので、どんどん入れ替わる。我々の体は、10年前と比べると全然違う人になっているので、じゃあ、違う人なのかと言うと、どうなのかな……？　わからないですね。 

だから、生物を考える時は、物質的存在であると同時に情報的存在という二重性があることを覚えておくといいですね。情報と物質があり、情報はざっくり言うと精神であり知性であって、物質は身体。世界と生命は、物を食べて排泄するという生理的代謝機能と、情報を食べて情報をアウトプットするという二つの循環があります。この二重の循環機能があるのが、生物の本質なわけです。 

知能と関係のあるところとのやりとりが、知能の本質だったりします。ですから、人工知能はそういう風に作ってあげるのがいいんですね。 

生物学には「環世界」という基礎的な理論があります。生物は、環境にある方法で実装されていきます。例えば「アメンボだ！」という刺激が来ると、カエルはボッと舌を出して食べてしまう。つまり、特定の対象に対して特定のシグナルを獲得する能力があるんです。カエルはカエル、キリンはキリン、リスはリス。体の生態によって、環境との結びつき方が定義されるのが「機能化」という考えです。 

ロボティックスで、これとよく似た議論を「エージェントアーキテクチャ」と言います。環境世界があって、センサーから情報を得て、認識を形成して、意思決定して、運動を作る。ゲームのキャラクターAIはほぼ全てが、そうやって作られています。 

環世界の話に戻すと、カメラとカメレオンの「見る」は、どう違うのでしょうか？　例えば、カメラと桜はほぼ関係がないので、主体と客体の間にほぼ関係がない。ところが、カメレオンにとってアメンボは食べる対象なので、見たら舌を伸ばす。これが感性界になるんです。カメレオンである限り、アメンボは他人ではないし、他人として見られない。カメレオンの「見る」と「アメンボ」は、ある特定の関係で結ばれて、見たら食べてしまう。 

そういう単純な反射は、生物の体に仕掛けられています。人間でわかりやすい例は、男性から見た女性とか、そういう特定の興奮状態はすでに定義されているんです。そういうものがたくさん入ってきて、中枢神経を通していろんな刺激が入って、体のどの部分を動かせばいいのか、意思決定の最初の起源となるわけです。ですから、それぞれの生物がそれぞれの環世界を持っています。 

ゲームの中のモンスターもそうで、特定の環境にある対象に対して、煩悩も含めて何らかの関係性を持たせていけば、キャラクターができるんです。キャラクターの体とセンサーを作って、アウトプットできるようにする。これにエージェントアーキテクチャで、思考と認識を作って、意思決定を作って、運動を作ればいいんです。 

特にゲームの場合、コンピューターの中なので情報がぐるぐると回ります。「情報が来た」、「認識しないと」、「意思決定しないと」、という具合に、水車が水でまわるように、エージェントアーキテクチャは情報の循環によって回る。これを「データドリブンアーキテクチャ」と言います。 

出来上がるキャラクターは、全員人工知能で動いて、それぞれ頭脳を持っています。周りの環境を自分の目で見て、次はどこに行こうか計算している。だから、キャラクターごとに「ちょっと敵をやっつけたいので前へ出ます」、「臆病なので隠れています」となるんです。こういう風に、リアルタイムで、インタラクティブに体を持って動くのはゲームのキャラクター特有で、つまり、生物を丸ごと作ってしまうということなんです。  

世の中にある人工知能のほとんどは体を持っていなくて、インタラクティブでもリアルタイムでもなく、どちらかと言うと、社会の一部として世の中を良くしようとします。僕らゲーム開発者やロボットをやる人たちは、人間には及ばないけど人間とできるだけ近い、生物として丸ごとの生命を作ってあげる。PepperとかAIBOもそうですね。そういう人工知能を仮想空間で研究すると、現実世界でも役に立つし、ゲームの中でも役に立ちます。 

例えば、意思決定では、階層的に意思決定を作る「サブサンプションアーキテクチャ」があります。最初の層は「敵がきた、逃げろ」のような反射。その上は「逃げてもしょうがないから、ここにとどまって相手をたたこう」と、ちょっと抽象的になる。さらに行くと、横を見ると仲間も戦っているから「俺も旗を持とう」。もっと上へ行くと、「今は撤退せねばいかん」と抽象的になる。人間にちょっと似ていますね。 

みなさんがお持ちの「ルンバ」（iRobot社）にも、サブサンプションアーキテクチャが入っています。基本的に、ルンバには色んな方向に歩いてホコリを集めることが反射として入っている。でも、「椅子に当たりそうだ」となるとちょっと迂回して、電源が切れそうになると帰ってくる。そういう階層的なものが入っています。 

あるいは、プランニングを入れたりします。前提条件と同じ効果を持つアクションを選ぶように、行動を書いておくんです。「ターゲットAを倒す」とすると、ターゲットAを倒す効果を持つ沢山のアクションの中から行動を選んでくる。それを繰り返すと、自動的に武器を拾って装填して攻撃するプランを作ることができます。 

例えば、キャラクターが、ドアを開けて近づいてきて銃を撃つ計画を自分で立てる。そこで、ちょっと意地悪をしてドアを閉めると、ドアが開かないので、今度はガラスを破って近づいて攻撃する計画を立てる。これまでの人工知能は、何かがあったら何かをする「反射型」だけだった。でも、ちょっと時間幅を持った人工知能が出来てきたんです。 

「幸福」に関しては、人工知能が暮らしているゲーム「シムピープル」（The Sims、MAXIS）を題材に話したいと思います。主人公がいなくて、この街に暮らす人工知能たちを幸せにするだけのゲームなんですが、彼らは、勝手に料理したりバーベキューしたりカップルになったり、いろんな事件が起こる。AIが日常生活をするのは、実は戦闘ゲームより難しくて、すごく面倒臭い。戦闘ゲームは生きるか死ぬか、撃つか撃たれるかだけの世界なんです。でも、日常生活ゲームのキャラクターは街の中で暮らさなきゃいけないので、人格モデルも埋め込んであります。 

これには、お腹が空いたとか、トイレ行きたいとか、人と話したいとか、８個のパラメーターがあって、「お風呂を洗うと幸福になる」のように、オブジェクトと足し合わせると幸福度になる。しかし、そのまま足し合わせるわけではなくウェイトグラフを作るんです。例えば、ハンガー（空腹）では、「ハンガー50」だと、50の係数をかけて計算するんです。

何故こんな面倒臭いことをするのかというと、「効用」という考え方がありまして。最初にお腹が空いているときにちょっと食べると、すごく幸福になるんです。ところがそれ以上食べてもそれほど幸福にならないんですね。 

これは「限界効用逓減（ていげん）の法則」と言って、ビールは一杯目が美味しいけれど、2杯目以降は美味しさが感じにくくなってくるように、人間には、同じ刺激を受け続けると効用が徐々に減っていく現象があります。これを人工知能にも埋め込んであるんです。 

最初は「美味しい」と食べていても、「誰かと話したい」となります。誰かと話していると退屈してきて、「ゲームしたいな」、ゲームをしていると「眠たい、寝ようかな」と。昔あるゲームに、この効用という考えを埋め込んで、キャラクターを見ていくとそれぞれの反応をするといものがありました。戦っているキャラクターもいるけど、「もう帰りたいな」とか「もう眠たいよ」とか、それぞれ効用曲線が違って、自分の効用や欲望に沿って動いている。このようにキャラクターたちに「いかに世の中に執着させるか」のようなことをやっています。  

メタAIという考えもあります。キャラクターAIが役者さんなら、メタAIは、人間のみなさんを楽しませるための映画監督です。簡単に言うとゲームづくりとは、お客さんにバレないように、裏でうまく手を引いて楽しませることなんです。 

例えば、昔ゼビウスというゲームがあって、戦っていると敵がどんどん強くなっていく。強くなると、プレイヤーは「歯ごたえあるなあ」と感じるけど、一回死ぬと巻き戻ります。もう一回死ぬと最初の敵まで巻き戻る。 

これは何かというと、上手いプレイヤーは敵がどんどん強くなるし、下手なプレイヤーは敵が弱くなる。自動レベル調整機能がゲームに入っているんですね。最近のメタAIはもう少し進化していて、敵の配置やダンジョンの形も全部AIが自動調整します。プレイヤーが下手だと思ったら、「もう一本道だけでいいよ、２回目は省略」という風に。  

その時にキーになるのが緊張度です。ユーザーはリラックスしていると退屈するので、敵をどんどん出します。すると、どんどん緊張度が上がって、あるピークに達する。ピークに達したら、それ以上は敵を出さずに何もしない。すると、どんどん敵が減るので、リラックスします。そしてリラックスすると退屈するので、また敵を出す。するとまた緊張する。つまり、ユーザーの心理状態をメタAIがコントロールしているんです。 

エンターテイメントは、最初から最後までずっと緊張していたら多分面白くないんです。ずっと全速力のジェットコースターも、ずっと戦いをやっているハリウッド映画も、ちっとも面白くなくて。時に静かなシーンがあって、激しいのがあって、と交互にやると人間は楽しいと思える。それを人工的に人工知能が生み出しているんです。  

昔は、ゲームシステムは出荷すれば完全に固定だったんです。でも最近は複雑になっていて、ここにAIを入れて「このユーザーはこの方が喜んでくれそうだから、こういう方に行こうぜ」とメタAIが考えて、それぞれのユーザーに合ったゲームを展開する。つまりこれが、人工知能が人間を理解することの一つの例でもあるんです。 

それをバレないようにやるのが、重要なところですね。手加減されていると思ったら、それだけで嫌になるユーザーもいるので。つまり、昔のゲームは人がコンテンツに適応して、必死にゲームに合わせてくれた。でも、最近はコンテンツ側が人に寄らないといけない。だからメタAIが人に寄り添って、人工知能でコンテンツがそれぞれの人の性格やスケールに合うようにするんです。  

人工知能を考える時に、フレームAIという重要な考えがあります。人工知能は自分自身で問題を作り出すことはできない。なぜかというと、人工知能は本当の体を持たず、この世界で生きていないから。彼らにとって、この世界で生きるか死ぬかはあまり関係ないんです。人間は色々な問題を考えて、それを広げたり狭めたりして生きます。ところが、人工知能は人間から問題を与えられるしかないし、枠から一歩もはみ出すことができない。 

例えば、道路をまっすぐ走るだけだったら、自動運転はもうできているんです。でも、モノが落ちてきたり、前の車がゆらゆら動いていたり、雷が落ちたり、いろんな想定外のことが起こる。想定外が無限個あるので、人工知能はその全てに対応できない。人間は適応能力があるので、ある程度できるけれど、人工知能は一個一個やるしかないんです。 

人間には、脳が一つの知能としてあり「総合型知能」という知能しかありません。でも将棋も打てるし、お料理もできるし、言葉も話せるし、車も運転できます。なぜかというと、「フレーム」を変形できる力があるのと、もう一つは、メタファーが多いからですね。「将棋はなんとなくチェスと似ているな」とか「化学実験とお料理はちょっと似ているな」というように、1つ学ぶと100できるようになる。  

ところが、人工知能は、お料理ができるロボットは囲碁は打てない。Alpha Goは、碁はできてもマス検査はできません。Alpha Goは人間よりも賢いから、お料理もお掃除も記号処理もナビゲーションもできると思うかもしれませんが、囲碁しか打てないんです。将棋も打てない。それぐらい問題に依存している。「問題依存型人工知能」、もしくは、「問題特化型人工知能」なんです。ですから、人工知能と人間は知能の形が違うんです。 

「専門的機能」と言って、一つの問題をとれば、人間より人工知能の方が賢いのはもう証明されています。ただし、問題に依存しているので、人工知能が勝っているエリアはあまりない。だから、恐れるよりは、むしろ人工知能といかに共存するのかが重要です。問題を作るのは常に人間で、それを解くのが人工知能。大雑把に言うとそういう関係が築けるので、これからは問題を作り出すことが重要になって、いかに人工知能を使って解かせるかで、うまくチームを組める。人工知能に与えるのは命令ではなく、問題である、ことを覚えておきましょう。  

お掃除ロボットは、スイッチを入れる前に必ず椅子や新聞紙をどけないといけないですよね。あれは、人工知能の限界をよくわかっているからです。放っておくと部屋を散らかしまくる。そこもやっぱり、人間との協調関係ですね。「ここまではこっちの方がうまくできるから、あっちは任すよ」という形で、色々なところで人工知能を理解しながらやって行くことが重要なのかな、と思います。 

前野：私は85年から95年までキヤノンに務めた後、95年から慶応義塾大学の機械工学科に移ってロボットの研究を始めたんです。元々はロボットの体を作る方がメインですけど、AIの研究もしていました。ちょうど第3次ブームが始まる前で、ニューラルネットワークをやったり、「ミミズと青虫と尺取り虫は、なぜ移動の仕方が違うのか」というような、人工知能を進化させると生物が変わるという、人工生命という分野での結構面白い研究もしていました。 

ロボットの研究をしている時に「心は幻想で、心は本当はない」という「受動意識仮説」を本に書いて、一部の人には衝撃を持って迎えていただきました。「人間の心を抽象的なものでなく反射の塊と見なしているので、普通」、「お釈迦様が言ったことと同じ」とか「哲学者ヒュームやスピノザが言ったことと似ている」など、色んな批判や意見をもらいましたが、その時に僕が見つけたのは、「心は無い」ということで、今もそう思っています。 

私たちは自由意志を持っていて、「指を曲げよう」と思えば自分の意志で曲げている気がします。でも、リベット先生の実験によると、私たちの意識の上の心で「指を曲げよう」と決める0.35秒くらい前に、無意識下で「筋肉動け」という司令の電圧が上がっているんです。ということは、私たちが指を曲げようと思った瞬間には、司令はもう上がっていて、本当の意思決定はないわけです。そうすると、反射の連続でできているのを後付けで「自分でやった」と感じているにすぎないという方が、自然に実験結果を説明できるんです。 

原始的なAIのような研究をやっていた当時、「人間もシンプルなのではないか」と思った覚えがあります。その考えが、ゲームのキャラクターに心が埋め込まれているように見えるやり方の原点と似ているのかな、と。つまり、「非常に高度な心がある」と仮定すると、何も作れなくなるけれど、無いと考えると、昆虫と同じような反射の塊にちょっと抽象度の高い処理を加えれば、人間だって作れるんじゃないか、と思える。   

「心は本当はないんだ」と思うと、僕はすごく幸せになった。心がないなら悩みだってないし、死ぬのだって怖くない。「お前はすでに死んでいる」という漫画がありましたけど、その通りで、人はすでに死んでいるのと同じようなものなわけです。ということは、今後死んでも、もともと死んているものが改めて正式に死んで空気や土に戻るだけ。そう考えると、すごく気楽になったし、幸せになった。 

ところが、世の中には幸せではない人がいっぱいいるので、幸せの研究をするようになりました。エンジニアなのに何故幸せの研究をしているのかとよく聞かれるんですけど、人間は幸せになるべきだと思っているのに、それが明らかにされていない。だから、エンジニアの興味として、幸せのメカニズムを明らかにしたかったんです。 

幸せの研究は世界中で沢山行われていて、実は、煩悩が減っていくと幸せなことがわかっています。お金とか物とか地位のように、他人と比べられる財を経済用語で「地位財」と言うのですが、我々には地位財を求めたい気持ちがある。でも、地位財による幸せは長続きしないことが、実はわかっている。「ゲームに勝ちたい」、「出世したい」、「金持ちになりたい」という煩悩を満たすことでは、ある程度しか幸せになれない。 

要するに、金持ちになればどんどん幸せになるかと言うと、あるところから幸せになれなくなるんです。ノーベル賞を取ったカーネマンは、「年収７万5千ドルを超えると、年収と幸せは関係なくなる」と言っています。750万円以上を求めても幸せになれないのに、「もっと稼がなきゃいけないはずだ」という気がする。でも、稼いでも幸せにはなれない。 

三宅さんの話の中で、人工知能なのに煩悩という考えを導入するというのが刺激的でした。それが悟りにいくにはどうするかという議論まではされなかったけど、煩悩と悟りは僕の一つのテーマなんです。煩悩がどんどん減っていくAIはどういう世界を目指すのか。戦闘ゲームではありえないのか、家族ゲームならありえるのか。後で質問してみたいです。 

幸福学の統計的事実から導かれる結論は、煩悩を目指すと幸せになれない。じゃあどうすればいいかと言うと、利他的になると幸せになる。他にも、感謝したり自己肯定感が高いと幸せになる、など色々あるんですが、幸せに大きく影響するのは、利己的よりも利他的であることなんです。たくさんの研究が行われています。無理矢理でも利他的になると幸せになる。  

エリザベス・ダン先生の研究で、「20ドルを自分のために使った人と他人のために使った人では、使った後でどちらが幸せになるか」という研究があるのですが、他人のために使った方が幸せになるんです。無理矢理でも偽善的でも、他人のために奢ったり寄付したりしていると感謝されたりして、「なんか良いことした」と錯覚するんでしょうね。笑顔を作ると幸せになるのと一緒で、我々の心は良い事をすると幸せになるようにできているんです。 

「煩悩が減って、利他的になると幸せになる」と言うと、お坊さんのお説教みたいですね、と言われますが、お坊さんや東洋思想が何千年も前から言っていたのは、幸せの極意だったりする。ですからAIにも利他性を入れたら、戦闘も無くなって、平和な世界になるんじゃないかな。 

「生物は内側を守ろうとする」と言う話がありましたけど、なるほどと思いました。個人を守っている人は利己的です。利己性は、成長段階では必要ですけど、長続きする幸せにはつながらない。家族とか会社とかコミュニティを守ろうとすると、そこまでが内側になるので、ある種の利他性ですね。そうするとわりと幸せになります。 

でも、現代社会は争いが多い。普通に考えれば導かれることなんですが、人は、世界中の人を愛すると幸せになるんです。それができると、自分の境界が地球全体、人類全員までが広がる。みんながそうすると、みんな利他的になって争いがなくなる。宗教的に聞こえるかもしれませんが、そういう世界が来るといいなあ、と思いながら聞いていました。 

僕としては利他ゲームを作って欲しいです。無理矢理利他的になっていたらみんなが幸せになっていくという、そんなゲームを作って欲しいですね。 

前野：AIが人と人の間に入ると安定性が増して、幸せで平和な世界ができるんじゃないかとおっしゃいました。あの時にちょっと意地悪なことを思ったんです。昔の社会では人間の感性が鋭くて、「この人怒っているのかな？」と感じられた。ところが今は、面と向かってのコミュニケーションが減って、人が人のことを感性で察する力が減っているのではないか。ここにAIが入ってきて、「あの人怒っていましたよ」とか「嬉しそうですね」と教えてくれたら、車に頼りすぎて足腰が弱くなるみたいに、AIに頼りすぎて人間がさらにバカになったり、感性や人間性が失われるのではないかと思ったのですが、それについてはどうですか？ 

三宅：そういう面はあると思いますが、95年から今までの20年間でインターネットが加速して、人との距離が物理的な距離だけではなくなってきました。例えば、Twitterで見ず知らずの人同士が喧嘩をするとか、地球の裏側の人と口論をしたり……ということが多々ある。 

特に今の若い世代は、生まれたときからインターネットがあるので、半分はインターネット世界の存在みたいに、アイデンティティをかけてネット上で争ったりして、ものすごいエネルギーを注ぎ込んでいる。ところが、人間はデジタル空間がそれほど得意じゃないんです。そこで、人工知能が争いを察すると適当なことを言って冷ましてあげるとか。 

あるいは、人間と人間との距離は、どんなに仲良い人間でも50センチの距離にずっといると喧嘩すると思うんです。でも30メートル離れていれば、喧嘩はしない。適切な距離を取れれば一番良いのですが、お隣さん同士でその距離が取れない場合、右は演歌をすごい音で聞いて、左はエレキギターをすごい音で弾く。でも真ん中に人工知能が住んでいれば争いにならない。  

インターネット空間でも、物理空間でも情報空間でもいいんですが、距離を調節する機能としての人工知能は役に立つのではないか。しかも、日本は空き家が多くなっているから、人工知能に住んでもらえば治安も良くなるし、喧嘩していたらやってきて、「まあ、お前が言うなら」なんてことにならないか。そういうAIの使い方をすれば、社会が良くなるのではないかと思います。 

前野：なるほど。でも、まだ僕の疑問は晴れない。人は喧嘩をしますよね。その時に、理想的には二人が人工知能なしで話し合って、「悪かった」ってなるのがいい。AIが工夫をして、その間に入るということですかね？ 

三宅：そうですね。アイザック・アシモフのロボットシリーズ『はだかの太陽』は、人間同士が接しない社会を書いていて、人が大体10キロくらい離れているんです。だから、極論ですけど、争いも起こらないし、何にも起こらない。そうした宇宙国家に対して、地球は貧民街で人がひしめき合っていて、殺人がやたらといっぱい起こる、という世界を描いている。人間はずっと争っているので、ロボットが人間の歴史をうまく修正する。アシモフのロボット小説自体がそういう話なんです。 

前野：確かにね。やっぱAIがないとダメですか。警察とか軍隊の力があってもダメだから、もっとAIを入れないと……。
 

三宅：人間に知られないように、人間そっくりのロボットが社会に入る。例えば、電車の中で争いが起こったら、まず盾になるとか……。電気機器は「使うもの」なので人間の間には入れないし、電話もインターネットも人間の距離を狭めるメディアとして機能している。でも、人工知能だけは、人と人の間の関係を変えることができるのではないかな、と思うんです。  

前野：なるほど、おっしゃる通りだという気がしてきました。 

前野：今回は、東洋哲学の話はされませんでしたが、東洋は全体俯瞰的で、西洋は積み上げ的だとおっしゃった。三宅さんが作られているAIは、ニューラルネットワークのトップダウン型じゃなく積み上げ型ですか？ 

三宅：どちらもありますが、どちらかと言うとロジカルにトップダウンで、記号主義で作ることが多いですね。西洋の人工知能には一つのイデオロギーがあると思うんです。デカルト由来の意識「我思う、故に我あり」があり、ライプニッツが「人間は記号で全部表現できる」と出てくる。ライプニッツは夢だと言われて、300年間みんなが追い続けて、ラッセルを経てフレーゲが出て、それが人工知能の流れに組み込まれている。 

「人工知能＝考える存在」が当たり前になっていますが、「考える」のは精神の一部ですよね。本来の知能とは、希望するとか不安になるとか、いろんな精神活動があるのに、なぜ「考える」という狭いところにだけいってしまうのか。もう一つのイデオロギーは、「ちゃんと考えればいい行動ができる」というもの。心の問題とも関係があると思いますけど、本当にそうかなのな？　と思う。 

紀元前に荘子が、「人間は考えれば考えるほどダメなことをする」というようなことを言ったんです。当時は、超エリートたちが国の参謀になって、国の政策を考えて国が乱れるような時代だったので、「それよりは自然の流れに身を任せようよ」と。「世界には道教のような道がみなぎっていて、それに従えばいいんだよ」ってね。これは、実は東洋らしい考えなんです。 

人工知能にもそういう道もあるのではないかと思って。つまり、物事の流れを読んで、そんなに考えなくてもその流れに沿って動くようなAIですね。 

荘子の話に水泳の名人の話があって、ある人が水泳の名人に「泳ぐにはどうすればいいですか」と聞く。でも、彼は「泳ぎ方は知らない。水の流れを読んでいるだけだ」と言う。これは、すごくいいエピソードです。人工知能を考えようとすると、流れとは何かを考える。人間の知能はコンテクストのようなものを察するけど、人工知能はコンテクストを読むのが苦手で、全く読めない。それは、「考える」ことが主体にあるからで、別のアプローチを考えないといけないからです。  

あるいは時間の問題ですね。西洋寄りの人工知能って、CPUクロックが後ろで駆動している。ところが、我々の感じる時間は、そういう分子時計ではない。「主観的な時間」があって、「主観的な時間」を作り出している。人工知能も、後ろから駆動される時間じゃなくて主観的に持つ時間、それがコンテクストだと思うんです。「自分は今こういう人で、ここにいて、こういう役割を持って」という、さっきの「流れ」のようなものを作り出す人工知能のアプローチを考える。 

つまり、西洋の人工知能は、むしろ狭いところをいっていて、やがて行き詰まると思うんです。そこにカウンターとして、東洋の人工知能が次の道を示す。「東洋から見た人工知能はこうだよ」というのを示したいのが、東洋哲学の人工知能ですね。  

前野：記号主義的なやり方は西洋型で、西洋型が東洋型になるべきだというのは僕も同意なんですが、ディープラーニングは特徴抽出を自分でやる。要するに、自分で抽象に近い思考、まさにおっしゃるようなことを西洋型からやり始めたように見えるのですが、あれも東洋型になるともっと良くなるんですか？ 

三宅：難しいですね。ディープラーニング自体は確かに色んな曖昧なものを含んでいますが、ディープラーニングをセッティングすること自体は、例えば「君は画像を分けよう」とか「音声を解析しよう」などがありますが、むしろ東洋の人工知能感はボトムアップだと思うんです。例えば、僕はアニメが好きなんですが、エンタメでは大体、「人工知能がネットの海から生まれた」と言うような、自然発生の人工知能が描かれるんです。海外ではたいてい研究所からやってくる。これはすごく象徴的で、東洋の人は、人工知能にも自然物的なものを求めているんですよね。それによって、我々と親しいと感じるところがあって、そこが少し違うのではないか。そういう母体みたいなところから生み出すのが東洋的なアプローチで、むしろ人工生命に近い。 

前野：日本の大学は、人工生命や人工知能がアメリカの大学に比べたら圧倒的に遅れていて、「やばい」と思っていましたけど、いまの話だと、大学からやらなくてもいい。大学からやるというのは西洋的な発想で、いろんなゲームを作っている人から最先端が生まれる、というもっと広いことなのかな、と思いました。  

前野： AIが下手なユーザーに合わせるのはすごいと思いました。でも、現実の問題は待ってくれないじゃないですか。会社の仕事も、「あなたにちょうどできるくらいの簡単な仕事」じゃなくて、すごく難しいのが降ってきたりする。なのに、ゲームでいつも自分に合った簡単な問題に向き合うことに慣れてしまったら、人間が堕落してしまう心配はないんですか？ 

三宅：現実にはありえない学習曲線なので、その心地良さに慣れちゃうとね……。最近では、若い人の間で「現実はクソゲー」というがあって、「よくゲームデザインされてないぞ、この現実社会は」って言うんです。僕らは上手いデザインをしているから、ゲームで育つとその通りで、「そういうもんだよ、現実は」と言うしかないんですが……。  

ただ、そういうゲームばかりでもなくて、例えば、僕も以前に携わっていた「デモンズソウル」というゲームは、もう、あっという間に死ぬんです。3時間プレイをしていても、一撃で死ぬこともあって、「心が折れる」という言葉を流行らせたゲームです。そうするとみんながインターネットで集まって、「どうやって攻略しようか」という相談をしはじめる。そして上手くいったプレイをYouTubeに上げて、みんなで協調して解くようなゲームなんです。だから、ずっとゲームをしているとちょっと難しいゲームをやりたくなる。それに、よく考えると、RPG（ロールプレイイングゲーム）なんて50時間もやるから、いろんなタスクをものすごく計画的にやらなくちゃいけない。  

そういう意味では、半分はエンターテイメントですが、半分くらいは人生の一部と言ってもいいんじゃないかと思います。無駄な暇つぶしというより、ゲームも人生経験の一部のような、良い経験を与えよう、ということ。エンターテイメント界の自己擁護でもありますけど。 

前野：私からの最後の質問です。遊べば遊ぶほどみんなが利他的になって、世界平和が来るようなゲームは作れないものでしょうか？ 

 三宅：実は、日本のゲームは、最近はそっち側なんです。例えば、RPGではMMO（Massively Multiplayer Online：大規模多人数同時参加型オンラインRPG）というのがあって、ギルドのチームを組むんですが、そこで、自然と役割分担がされていくんです。「君は体が大きいから前へ来て、モンスターにひたすら殴られ続けろ」、「私はヒーラーだから、ひたすら回復魔法をかけてあげる。その間に攻撃魔法でやっつけてね」みたいな。そうすると、ある人は「みんなのためだ！」と思って、ひたすらボコボコと殴られ続けて、ヒーラーは人をヒーリングしてあげる。 

携帯で今みんながやっているソーシャルゲームでも、チームを組みます。ゲーム自体は無料ですが、課金もあって、アイテムを1,000円とか、2〜3,000円で買う。何のためかというと、人のために買うんです。「薬草を100個買っといたから、この次のボス戦まで大丈夫だ」とか、「（お金の力で）俺すごいレベル上げといたから、俺と一緒にいればみんなの経験値が、がっぽり稼げるぞ」とか。それがソーシャルゲームを続ける生きがいなんですね。 

 ところが、オンラインゲームで海外のユーザーを見ていると、全然利他的じゃないです。日本人のパーティーは男女4人ぐらいで、そこでいろんなアイテムがある。珍しいアイテムが出てくると、日本人は「みんなで分けよう」と、真ん中に山積みにして、「一人ずつ取ってこうぜ」って平等に分けるんです。海外のユーザーは、分けるという考えがなくて、「バーイ！」と消えてしまう。「君はレアアイテム3つ持ってるよね。1個分けろよ」ということも通用しない。  

日本人というか、アジア全体では、利他プレイがすごく好き。そこに文化差を感じます。だから、今はむしろ、利他をゲームの中心に据えないと長続きしない。先生のおっしゃることがゲーム業界で立証されていると言っても良いですね。 

前野：じゃあ、次は、西洋の人もちょっとずつ利他的になっていくゲームをぜひ作ってください。 

三宅：そういう利他プレイを「しなさい」とは言わないんです。ただ、利他プレイができるような仕組みにしておくと、日本人は必ずそれを見つけてそうする。たとえば、あるゲームでは、戦場で戦闘不能になってもログアウトできなくて、倒れたまま10分くらいあるんです。そうすると、その間に通りかかった人が蘇生魔法をかけてくれる。その10分間で人の心を信頼するのを試されていて、時々素通りする人もいて「人間冷たいな」と思ったり、MP（マジックポイント）を消費する高い魔法をかけてくれる人もいて、「人間っていいな」って思ったりする。 

これは、現実ではやりにくいですよね。極論を言うと、道端で人が倒れていた時に、残念ながらほとんどの人は忙しいし、無視せざるを得ないことも多いと思うんですけど、ゲームの中だと、人助けがしやすい。MPを消費して街に戻らないといけないけど、「できる」喜びを与えてくれる、とも言える。 

前野：じゃあ、一応練習にもなっているということですね。 

三宅：そうですね。例えば、ここに可愛い女の子がいて、ドラゴンが火を吹いていて、「大丈夫か！」ってかばう。現実でやったら大変なことになるけど、ゲームではできるわけですよ。そのために3千円でも1万円でも払いたいわけですから。でも、この可愛い女の子は、本当は男か女かわからないんですよ。でも1万円かけてでも守りたい。そうすると、「すごく良いことしたなあ」となる。現実ではできないことを達成させてあげるのは、ゲームのいいところですね。 

前野：なるほど。幸福学に繋がってきましたね。  

三宅：もう、先生の哲学がそのまま実現されているとも言える。 

前野：嬉しいなあ。これからもぜひ頑張ってください。

会場からの質問1：コンテクストを作り出すお話がありましたが、それが進んで、例えば、自然の流れや摂理を読むようなAIが出てきて、その自然の摂理が人間の常識を超えた場合に、人間が想定していないような動きをするAIが作られる可能性はあるのでしょうか？ 

三宅：自律型にはありますが、問題特化型はないです。想定の問題の中でしか解がないので、問題を細分化するしかできないんです。例えば囲碁をやっていて、囲碁の中での新しい手は生み出せますが、囲碁を超えた新しいゲームを生み出すことは、AIではまずない。  

自律型AIには、いろんなセンサーや認識がありますが、残念ながら今はフレームを閉じないと動かない。本当は人工知能の基礎問題として、フレームを開いた人工知能を作ることに取り組まなきゃいけない。そこを突破できれば大きいですね。 

実は人工知能には2軸あって、一つは「機能の軸」と言って、例えば、「ディープラーニング」や「画像認識」や「検索」ができるようになる軸。もう一つは「垂直軸」で、この世界に存在できるようになるというか、この世界に根を張る方向なんですね。第２次ブームの頃にはまともな議論があったのに、第３次ブームには欠けている議論です。 

この世界に存在するには、身体なのか、神経や身体感覚がないといけないのか。演算の速度とはほぼ関係のないアーキテクチャのところです。この二つが進化すると、そういう創発的なものもできると思うのですが、実は今の人工知能のプランの中にはそういうものはないんです。ないと言うか、限界の中では無理なんです。 

質問２：「心がない」と言うのは、悲しいけれど、非常に面白い視点だと思いました。その視点でいうと、入力として、人間の社会活動を街ごと全部数値化して、自分の状態も全部数値化できれば、それを掛け合わせてその人がどういう行動をするかという出力をある程度予測できるようになるのかな、と考えながら聞いていました。そうなった時に、迷うという行為は、どういうことなんでしょうか。 

前野：まず、全てシミュレーションできるかというと、脳は1000億個の細胞があるし、インタラクションもすごく複雑なので、これを再現できれば、まさにすべてアーキテクチャとして説明できると思います。そうすると、「迷う」とは何かということになります。 

線虫という生物がいます。c.エレガンスという線虫は、脳神経細胞が302個しかなくて、そのつながりが全部分かっているので、全てがシミュレーションできちゃうんです。彼らが右に行くか左に行くかを迷うのは何故かを分析すると、結局「ゆらぎ」なんですよ。神経細胞の発火というのも完璧に毎回「１」じゃなくて、ちょっと調子が悪くて「0.8」とか、まさに揺らいでいるんですね。全体で。 

 だから、その線虫の研究から、意思決定はその時のたまたまの状態でやっているらしいということがわかってきたわけです。まさに、心はない。この話を聞くと、「幸せになった。色々考えなくていい」と言う人と、「うわ、気持ち悪い」と言う人に分かれるんですよね。ぜひ、いろいろ考えてみるといいんじゃないかと思います。 

質問３：三宅先生の「人と人の距離が近すぎて加熱している」というのは、すごく共感します。最近、リアルとバーチャルのバランスは世代によって違って、生まれたときからインターネットがある世代は、脳の認識とかが、生まれたときになかった我々とは違うのかなあ、と考えたりします。例えば、直立歩行するような形で進化していくみたいに、スマホをやると目が悪くなったり、親指でスライドしてるから、親指が長くなるとかいうこともありえる。どんどん認知の仕組みも変わってくると思いますが、そのあたりについてご意見をお願いします。 

三宅：まず、現実の話ですが、現実はインタラクションで生まれるものだと思うんです。ゲームでも、ものすごくリアルな画面を作ったからといってリアリティがあるわけではなくて、今見ればしょぼいファミコンの画面でも、ボタンを押してジャンプすれば、「ああ、現実だな」と思う。要するにアクションとレスポンスから現実が生まれるんです。 

感性界の話をすると、生物は残念なことに身体依存の部分が多い。つまり、キリンならキリン、リスならリスの現実世界はすごく閉じていて、いきなりテレビを見はじめるわけでもないし、絵を描きだすわけでもない。 

 でも、人間はそこでバグっているところがあって、「現実だ！」とか「資本主義だ！」とか言って人を殺しちゃう。主義主張で人を殺すのは人間だけですね。そういう変なリアリティを沢山持てるので、幸せなところもあれば不幸なところもあるんです。 

 だから、そこでメディアが生まれてくる。テレビもラジオも現実感があって、ゲームも映画もあるから、娯楽になるのはそのせいなんです。それによって、逆にイデオロギーに陥ってしまうところもある。イデオロギーに現実感があるから、そこに偏ってしまうんですけど。それが、人間のリアリティの脆さにもなっている。 

身体のリアリティが弱くなり、むしろ頭脳のリアリティが強くなっているがゆえに不安定になって、というのが人間の3000年くらいの歴史の元凶という気がしています。 

質問者３：人が利他世界のゲームをデザインすることで、強化学習を繰り返していったときに、悪の方がメリットがあるとAIが判断すると、悪に寄ることがあるのでしょうか。  

三宅：それはありますね。AIの報酬系の組み方によりますが、敵を倒せば倒すほど良いという報酬系を組めば、AIがそっちの方向に素直に学習してしまう。 

ただ、ゲームのAIはそこまで自律的自由度がなくて、どちらかと言うと、遊園地の着ぐるみの中のおじさんみたいな感じです。楽しませることが報酬の一番根本にあるので、そういう組み方はあまりしないですね。ユーザーを踏みつけようというドラゴンも、実は手加減しているし、ギリギリ避けられるタイミングで踏もうとする。 

結構器用に作るので、今のところそこまでAIを奔放にすることはないですけど、やがてそういうのが作られるかもしれません。例えば、ユーザーのデータを学習させて強いやつを作るとか、今もやられていますね。答えになっていない気がしますが。 

質問者４：AIブームの1次と2次と3次はよくわかったのですが、10年後や20年後にAIはどこまで進化しているのかを専門家のお二人にお聞きしたいです。 

 三宅：ディープラーニングのような演算スピードが追い風になる分野は、今の法則に従って性能が上がって行くと思うんです。いろんなものを分類できたり、監視カメラでリアルタイムで不審者がわかるみたいな。 

演算と全く関係ない、世界にAIを根付かせるというところは、哲学的な探求であり、AI基礎論ですが、プロセススピードはほとんど関係ないので、その探求がどれくらい進むかの掛け算になると思います。 

たぶん10年後には第3次ブームは終わっていて、もうちょっと冷静にバランスの取れたAIの研究する時代に戻ると思う。その時にまた基礎論の発展があって、「そういえばフレーム問題は放ったらかしだけれど、ディープラーニングはどうなったんだっけ？　全然完結してないじゃん」という、揺れ戻しがあると思うんです。ディープラーニングはこのまま進んでいくと思います。  

AIの社会実装は、これから20年くらいかかると思います。インターネットが普及するのに20年くらい、コンピューターが社会に普及するのも20年くらいかかったので、AIもそれくらいかかると思っています。 

前野：AIのブームは、コンピューターの発明、ニューラルネットワークの発明、ディープラーニングの発明なんです。だから、白熱電球の発明で一回進歩して、蛍光灯の発明で進歩してというのと同じで、発明がいつ起きるかは予想できない。もっと安定して便利な電気が欲しいと思うから、確実に将来また発明が起きる。 

この西洋型、積み上げ型も、ちょっとずつフレーム問題に近づいていくと思うんですね。西洋型の積み上げでできていることは、全体から見ると小さく１、２、３段階上がったという感じ。西洋の人はひとつ進むたびに、「全部行った！」と思いがちですが、全体が見えてない。  

そういう意味では、僕は楽しみにしていいんじゃないかと思う。4次、5次、6次ブームで、いろいろできるようになってくるだろうという気はしています。 

質問者：４次に向けて意図的に取り組まれていることはありますか？ 

 三宅：現在から4次はいつになるか、誰もわからないですし。その前に西洋型の行き詰まりが出てきて、ものすごく東洋的な人工知能の流れが日本とかアジアの国から出てくる。知能は総合的なものだから、西洋的な見方と東洋的な見方で、みんなで知を分け合って進展させましょう、となるのではないかと僕は思う。その向こう側に４次があると思います。 

前野：東洋型が重要になるというところはすごく賛成です。僕は、人工知能の研究から心の問題にいって、幸福学に移っていった。この流れは、実は人工知能の流れと同じなんです。西洋の限界を感じたから、僕は幸福学という形で東洋流の全体を見ることをやっていて、三宅さんはゲームを作るところからアプローチしている。 

 つまり、今、色んなところで東洋型のものが見直されている。例えば、デザイン思考というイノベーションが流行っていますけど、スタンフォードのある先生に聞くと、「あれは東洋の真似をしたんだよ」と言うんです。ロジカルだけじゃダメだから、もっと自由にブレストしようとか、東洋の動きを見直そうという動きはいろいろなところでいっぱい出てきている。おっしゃる通り、１、２、３次の続きだからといって、４次が一緒かというと、むしろこちら側から何か出てくる可能性がある。今日お話を聞かせていただいてそう思いました。  

司会：事前に多くの質問をいただいたのですが、代表で一つだけ。「AIはそもそも幸福感を持つべきか？」、一言お願いします。 

三宅：僕は持つべきだと思うんです。それは、AIのためというよりは人間の幸福のために。日本人は召使としての人工知能はさほど必要としていなくて、どちらかというと、一緒にいてAIも幸せなら俺も幸せ、というものを必要としている。AIBOなんてそうですね。ゲームでも、「ゲームのキャラクターが幸せなら俺も幸せ」というところがあるので、むしろ東洋型の人工知能にとっては、人工知能が幸せであることが必須じゃないかな、と考えています。  

前野：同じような感じです。この対談が始まる前に楽屋で、三宅さんのおっしゃる「人工知能の現象学」の意味を聞いたら、「人工知能やゲームのキャラクターに自分がなりきる視点から、自分がどう振る舞って人を喜ばせるかを考えるやり方」だとおっしゃっていました。これはまさに東洋的です。ゲームはモノではなく、哲学でいう現象学のように、そこに自分が身を置くという視点からものを見る。まさに八百万（やおよろず）というか、自分はどこにもありえる、という視点。 

これを突き詰めれば、人のために何かをするAIが人のために尽くすには、人の幸せをわかっていないといけない。人の幸せをわかるためには、自分の幸せをわかっていないといけない。死の痛みをわかるためには、死の痛みをわかっていないと奉仕できないですよね。 

持つべきかどうかの質問の答えは難しいですが、持つと、AIがすごく幸せ感を理解する。すると、幸せな、それこそ平和な世界ができるな、と今の全体の話を聞いて思いました。 

井上（当財団代表理事）：質問を二つ投げかけますので、好きなほうをお答えください。 

一つ目は、シンギュラリティで2045年に人工知能が人類の知性を超えるという予想がありますが、その先はどうなると思いますか？　この財団は、100年後に世界を平和に、人類みんなを幸せにする社会デザインを集めるためにやっているので、予測というより、こういう世界にすべきだという考えを伺いたくて。  

二つ目は、バーチャルとリアルの割合は、どんな塩梅になっていくのでしょうか。僕は、映画の『サロゲート』とか『レディ・プレイヤー1』の世界は起こりえると思っていて、地球の環境負荷で考えると、人があまりリアルで活動すると、エネルギー消費がすごい。意識や思考の中だけで色んな体験ができるVRなどが現実化していった時に、半々くらいが良いのか、７：３位が良いのか、教えてください。 

三宅：前者で言うと、人間だけが作っている社会はちょっと違和感があって、自家中毒的になっていると思うんです。人間が人間としか接しない社会で、人間の芸術や人間の社会だけがあって、かつインターネットが人と人との結びつきをスピーディに、密にしてしまう。それで、至る所で全人類対自分みたいな構図になって、逆にみんなイライラしてしまう。 

だからインターネット社会はまだ完成していないと思っています。インターネット社会は人工知能が入って完成すると思っていて、全ての情報を人間が生み出して、人間が運営しているのがかなり不自然で、そこに人工知能が入ってきて、情報の取得は人工知能にやらせれば良くて、ネットをいちいち巡回する必要は、本当はない。 

人と人とのやりとりも、例えば、飲み会の日程調整も設定も、誰かが「何曜日行こうぜ」、「いや、何曜日は？」というのは面倒くさいから、人工知能がみんなのカレンダー見て「この日はどうですか？」と言ってくれれば良い。学校から帰る時にも、人工知能が「今日〜時に帰る人」をフラッグあげてくれて、みんなそこに集まれば良い。  

あと、人間が人間としてインターネットをすることは減って、アバターになる。可愛いキャラクター同士に自分の情報をインプットして、キャラクター同士で仲良くやってくれれば、相手の情報もわかるし、伝わる。「◯◯ちゃんは最近悩んでるから」と可愛いピンクのクマが言ってくれれば、「そうなんだ、じゃあ何かあげといて」とか。喧嘩した時も、直接謝るのはちょっと辛い。「悪いって言っといて」と言うとピンクのクマが言ってくれるわけですね。そうやって人間関係を、社会を変えていく。 

そして人工知能自身が社会を持ち始める時代が来ると思うんです。例えば、世の中の人工知能同士の間で流行っている歌とか、人工知能が描いた絵で、「最近人工知能社会ではこの絵でこの漫画が流行ってるんだぜ」とか。そうしたら、人間だけで作っていた文化とか歴史はどんどん相対化されていって、こっちは人間の歴史があるけど、こっちには人工知能の歴史があるというふうになる。  

そうすると、バーチャルまで人間が全部やる必要はなくて、バーチャルは人工知能が社会を作って、リアルな方は人間が主体になる。今みたいに、バーチャルも現実も人間が全力疾走は、みんなヘトヘトになってしまうので、バーチャルは人工知能の大船に乗れば良い。 

バーチャル世界があることで、人間の争いも「現実の土地や資源にそんなにこだわらなくても、そこそこ豊かになれるじゃん」と、今までと違った「戦争やめようよ」になる。「バーチャル空間オリンピックで争えばいいじゃん」、「物理的なミサイル飛ばすなんて、バカなんじゃない？　100億円かけてミサイル一発飛ばすよりバーチャルで飛ばせばいいじゃない」と。 

人がいて、自然にそこに人工知能がいる、という形になっていくのではないかと僕は思っています。