新型コロナウイルスの出現により、ますます先の読みにくい時代になってきました。こんな時だからこそ、私たちの幸せを中心に据えた “複雑化する世界の捉え方”をテーマに議論する機会を作りたいと考え、定期的に『NEXTWISDOM CONSTELLATIONS 2014-2018 叡智探究の軌跡』刊行記念イベントを開催しています。

今回は、評論家・翻訳家の山形浩生さんと、日本デジタルゲーム学会理事の三宅陽一郎さんをゲストに迎えて『東洋哲学と新しい資本主義からみる「人間が生み出したシステムとのつき合い方」』をテーマに代官山蔦屋書店とオンライン共催したイベントの模様をレポートします。

山形浩生さん　評論家・翻訳家
1964年東京生まれ。東京大学都市工学科修士課程およびMIT不動産センター修士課程修了。途上国援助業務のかたわら、広範な分野での翻訳および雑文書きに手を染める。著書に『たかがバロウズ本』（大村書店）、『新教養主義宣言』（河出文庫）など。主な訳書にクルーグマン『クルーグマン教授の経済入門』（ちくま学芸文庫）、バナジー＆デュフロ『貧乏人の経済学』（みすず書房）、ピケティ『21世紀の資本』（みすず書房）、ジェイコブズ『アメリカ大都市の死と生』（鹿島出版会）ほか多数。

三宅陽一郎さん　日本デジタルゲーム学会理事
京都大学で数学を専攻、大阪大学大学院理学研究科物理学修士課程、東京大学大学院工学系研究科博士課程を経て、ゲームAI開発者としてデジタルゲームにおける人工知能技術の発展に従事。博士（工学。東京大学）。立教大学大学院人工知能科学研究科特任教授、九州大学客員教授、東京大学客員研究員。国際ゲーム開発者協会日本ゲームAI専門部会チェア、日本デジタルゲーム学会理事、芸術科学会理事、人工知能学会理事・シニア編集委員。著書に『人工知能が「生命」になるとき』（PLANETS/第二次惑星開発委員会）、『人工知能のための哲学塾』 『人工知能のための哲学塾 東洋哲学篇』（ビー・エヌ・エヌ新社）、『人工知能の作り方』、『ゲームAI技術入門』（技術評論社）など多数。

Next Wisdom Foundation（以下NWF）：資本主義というシステムや政治のシステム、インターネット空間のシステムなど、システムは人が作り出したものなのに、いつの間にか人がシステムに振り回されたり脅かされたりする状況があります。私たちは「システム」というものに、どうすればもっとうまく付き合えるのでしょうか？

山形浩生（以下山形）：僕の本業は途上国援助で、いろんな場所を回っていると「そうは言ってもやっぱり貧乏じゃないほうが良いよ」とは思います。私たち日本人は仕事が忙しいとか労働条件が悪いとか給料をもっと上げてほしいとか色々と言いたいことはあるけれど、今の状況が死ぬほど悪いかというとそうではない。だから、資本主義はおかしいんじゃないかとか、今後は資本主義を超えて新しいシステムになるという話が出てくると、ちょっと待ってくださいという気がしなくもない。

ポール・クルーグマンというアメリカの経済学者がいて、彼が2000年頃に書いている脳天気な文章があります。1970年代は公害やインフレが起きて「資本主義はもうダメだ」とみんなで学生運動なんかをしたけれど、経済成長が進んだら「やっぱり資本主義が一番だ」という感じになった。当時の社会システムは、通産省が産業と経済を率いる純社会主義のようなモデルで、それが素晴らしいのだと。今の中国について言われている話が、中国ではなく日本を指して「あれが未来だ」という話がされていました。けれども、80年代になったらその日本型モデルはダメになって、どんどん日本もダメになって、やっぱりアメリカの自由競争で何でもありの資本主義は良いんだと、そういう内容です。実際にはその後2008年に金融危機が起きて「それ嘘だったじゃん」という話になるのですが。おそらくこれから何年かすると「やっぱり資本主義いいじゃん」という話が出てくる気もします。

資本主義にも良いところがあるけれど、一方で新しい問題が出てきているのも事実です。資本主義の価値観と社会システムが合わなくなってきているかどうかはさておき、いろんな価値観の根拠になっている前提が崩れてきている気はしています。その一つはテクノロジーの影響です。ローレンス・レッシグは、世界がどんどんデジタル化してインターネット上に移り、人はインターネットの中で暮らすことになる。そして、インターネットには規制がないように見えて実は規制があるのだと言っています。

例えば、いま私たちがつながっているzoomの中で出来ることはzoomのプログラムを書いた人が決めたことしかできない。つまり“コード”というものすごく強い規制がバーチャルな世界で働いていて、それが我々の世界に占める割合が拡がってきていると言っています。レッシグは憲法学者です。我々が重視している価値観、例えば自由やプライバシーや平等といったものは、これまで技術が不完全で人間に出来ることが限られていたから成り立っていた。電話の盗聴がダメだというのも、昔は家にある電子機器は電話しかなかったから。家に入ると不法侵入になるといったように、物理的な規制と人間にできることがプライバシーの権利を決めていました。

ここからはレッシグは語っていなくて僕が思っていることですが、私たち個人は平等だという価値観がありますよね。もちろん我々は、お互いに様々な差があるのは知っているわけです。けれども、なぜ我々が平等だと言えるかというと、お金持ちではないけれど能力はあるとか、人を楽しくする能力はあるとか、数字では測れない個性や能力があって、そこは細かく追求できないから平等ということにしておいたら良いんじゃないか、実際には差があるということを知りつつも、お互いに平等ということで納得している面がある。ある種の価値観というのは、それ以上は突っ込めない、細かく分析できないからこそ成り立ってきた面もあります。

ところが、遺伝子の解析が出来るようになったり、教育水準や人間の能力が数値化できるようになると、統計的に見てあらゆる面で個人の優劣が分かってしまう。その時に「人間はみんな平等だ」ということをどこまで言えるのか？

レッシグの主張は、ネットの中のコードは完璧すぎるというものです。これまでの我々の自由や権利を守っていたのは、場合によっては法律が破られたからだと言う。例えば、黒人に対する人種差別があった時に、そんな法律は無視して団結して立ち上がることで、人種差別を撤廃して新しい平等の権利を獲得することができた。けれど、Facebookやzoomでそれが出来るのか？　ここのチャットルームは差別が許し難いからみんなで変えようということは出来ない。そこでレッシグは、本当は出来ないようなことを出来る余地を残すためにソフトウェアにわざとバグを作れと言うんです。それは1990年当時の議論としては納得する部分もあったのですが、テクノロジーが発達した今になってわざとバグを入れる、わざと限界を作れというのは難しい。

また、人間と機械の世界の話、人工物の世界の話も変わってきていて、バーチャルの中で我々が相手にしているのが人間かどうか分からなくなる世界がきた時に、機械や人工物の扱いはどうなるのか。バーチャルな人形に酷い拷問をするようなチャットルームがあるのですが、そういうのを見ていると許せないと感じるけれど、何がいけないのか分からない。先日面白いニュースがあって、中国でダッチワイフ売春宿というものが摘発されたんです。ダッチワイフがたくさん並べてあって、そこに行ってやることをやるんですが、なぜ摘発したのか中国の当局もうまく説明できない、けれど取り締まったということなんです。なんとなくそれに近い状況なのかなと思います。

細かく人間を区切って測って、自分がどういう存在なのか具体的に分かってしまった時に、僕とみなさんは同じ人間と言えるのか？　という話が出てきている。また一方でダッチワイフには何をしても良いのか？　という話もある。「約束ごとだから、決めごとだから上の言うことを聞け」ということは出来るけれど、「人は平等だと言うなら、みんな同じだと納得させてよ」という意見は出てくると思うんです。

技術発展で個人間で細かい差が分かってくるようになった時どうするのか？　例えば、遺伝子の違いで病気になりやすい・なりにくいと分かるようになったけれども、健康保険ではそういう事実は見ない、みんな同じように保険を引き受けようという規制をしてしまっています。一方で、そのやり方に対して「僕は健康だから保険料は払いたくない」と言う人は当然出てくる。どちらが正しいか分からなくなってきている時に、何を根拠にシステムを作っていくのか？　そこには僕も答えがありません。答えられたら天下を取れると思うんですけど（笑）。

例えば、中国では公安による監視というのがあって、監視されているけれど「安全ならいいじゃん」という話がある。監視と安全、あるいは治安みたいなものをどういうふうにバランスしていくかは、今後いろんなレベルの違う価値観のぶつかり合いの中で新しい落としどころを作っていくしかないと思います。ぶつかり合いで出来た新しい落としどころに、我々の今までの常識が歩み寄らざるを得ないのかなという気もします。今より少し息苦しいところに移る可能性もあるし、ひょっとしたら今の仕組みに対してみんなが感じているような息苦しさが、技術的に管理可能になってしまうかもしれない。

技術的に出来るようになっているものを止めろと言っても裏をかこうとするだけなので、何か新しい考え方を持ち込むか、今の価値観を妥協するのか、このあたりは個人的に悩んでいるところでもあります。様々なところに技術が入り込んでいて、それが人の意識のあり方を変えつつあるのは間違いないことです。技術の付き合い方の中から次の価値観みたいなものが出てくるとは思いますが、何が出てくるのか分からないです。

レッシグはソフトウェアにバグを作れと言いましたが、技術に余白を作って追及しないでおこうということにしても、いろんな価値観で埋める余地が出てくると思うんです。余白をどう確保するか？「そこには踏み込むな」と言うのも手ですけれども……何とも言えないとしか言いようがないです。今のところ僕が発展途上国援助をやっていることもあるのですが、到底そこまでいってない世界が山ほどあるから、先っぽを心配する前に、到達していない部分を心配しようよというのが、おそらく20〜30年は逃げられる答えだと思います。ただ、先っぽをどうするか、今日の話で少しでもヒントがあればいいなと思っています。

NWF：三宅さんにも聞きたいです。そもそも「システム」とは何でしょうか？

三宅陽一郎（以下三宅）：実はシステムという言葉はそんなに古くなくて、20世紀のはじめにシステム理論というのが提唱されてどんどん広がっていきました。システムというのはいろんな分野を横断して一つの対象を捉えるという凄い利点があって、人工知能も一つのシステムだし社会も一つのシステム、宇宙も一つのシステムで、その中から複雑系などいろんなシステムの種類が出ています。システムは科学の中から生まれてきた言葉でもあって、物事を外側から客観的に捉えるという側面があります。人工知能を「システム」であると捉えたときは、自分と対象というのは客観的な関係にあるという考え方が前提としてあって、知能というのも一つの時計仕掛けのようなメカニクスとして捉えられるはずだと。ですから、システムを客観的に突き詰めていけば、いずれ世の中のいろんな仕組みが解明できる、そういう側面があるわけです。
もう一つの側面として、システムを人間そのもの、知能そのものであると捉えると、システムそのものが主観的な世界を持っていることが、知能というシステムが、例えば電子レンジや車など、他のメカニクスと大きく違うところです。また、主観世界はシステムとして捉え損ねているところでもあります。自分の経験世界であるとか体験世界であるとか、あるいは身体の持っている自在感のようなある種の主観的感覚や体験というものを、科学の客観的なシステム論でどう再現できるか？　それが自分のテーマでもあるのですが、２つのシステムの間には深い隔たりがあります。

つまり、知能というものを要素に還元して作りなおしたとしても、それが主観世界を再現しているかどうか分からないし、人工知能を外側からの知見で絡めとったとしてもそれは機械的人形の延長でしかない。そう考えるとシステムという捉え方には必然的に限界がある。内側にいる人から見た世界と外側から捉えられている世界にはギャップがあって、そのギャップに違和感があるのではないかということです。

例えば仏教のお経には、人間を探求するための知識ではなく「こういう風にすればこんな境地に辿り着けます」という方法が書いてあるわけです。それは西洋から見ると主観的な体験の道しるべであって、客観的な再現性がないから学問ではないということになりますが、東洋ではそれを学問と言う。東洋的な知見というのは、人間そのものを内側から捉えようとする考え方で、その知見は人工知能のシステムの中には組み込まれていません。そこをどう橋渡しするか、大げさな言葉で言えば西洋のシステムと東洋の内観的システムの間にあるギャップをどうすれば埋められるか、そんなことを考えています。

システムというのは、そもそも人間とのズレの元で動いているものでもあると思っています。社会システムにしろどんなシステムにしろ、システムは常に人間を捉え損ねていると言っていい。例えば大学の組織や、自治体の行政区というシステムが自分を完全に捉えているのかというと、単位や戸籍という側面では捉えているのだけれど、もっと根本的な人間そのものは捉えられないわけです。もっと大きなシステム、例えば今の資本主義や日本のシステムというものが様々な場面でそのシステムの中にいる人間との間にギャップを生んでいるのは確かなのですが、それは乱暴な言い方をすると、システムとはそもそも人間にはフィットしないとも言える。システムは、どのようにマジョリティーを捉えるか、どの人に適応するか、日本人の典型はこういうものだと仮定した上で動いているに過ぎません。

実はこのような議論は人工知能でも言われていることで、人工知能はどのような人に向けてどこまで開発すべきなのかと。人工知能にはバイアスがあるという言われ方をしているのですが、今の人工知能は、ある種の知的な層や知的労働者層のためだけに開発が進んでいて、本当は一番困っている人の役に立っていなのではないかと。それはなぜかというと、そこに対する投資が集まっていないからです。だから、自動翻訳など特殊な領域にバイアスがかかって開発されているのではないかという話もあります。

そういうチグハグなことが起こりつつ、さらにフィードバックがかかって、システムは生き物みたいに変形ながら開発が進んでいくのですが、一旦ひとつの方向にシステムが進んだ場合、なかなかその方向は止められない。人間の手から離れて自動的に動きはじめるんです。都市というシステムもそうですが、人間を越えたところで一つのダイナミクスが動いていて、いったん出来上がったシステムは、そのシステム自体を保全するように周りのものを巻き込みはじめます。一回渦が出来ると、その渦を保存するように周りのエネルギーを吸い込んで自分を保存しようとする動きがあるんですね。たとえ、最初に作った人がいなくなっても、形を保つように動きます。

また人工知能は、そういう社会のシステムを変える可能性として出現しているところもあって、チャンスだと言うこともできるわけです。例えば、スマートシティという形で街の将来、街全体の治安を守る人工知能もいれば、人間のservantのように働いてくれる人工知能もある。スマートシティ化が進んでいけば社会の形が変わるわけですが、はたしてその次の社会は誰のためにデザインされているのか？　そこにはいろんなバイアスもあって、テクノロジー・経済・社会面などから検討されているところです。

NWF：「次の社会は誰のためにデザインされるか？」という課題に対して、私たち個人がどこまで関われるのでしょうか？

三宅：人工知能の視点で見ると、今は二つの流れがあって、一つは企業の流れです。山形さんを前に釈迦に説法かもしれませんが、企業というのは利益を求める資本主義的な主体として、どういうシステムなら企業が最も儲かるのかを考える。大企業が狙っているのは、街そのものの人工知能化です。レッドオーシャン化したウェブビジネスのようなものから、現実世界を人工知能で変えていくときにブルーオーシャンが生まれる。そこで発生する様々な新しいビジネスを丸ごとサービスとして展開するために、街そのものを人工知能化していく。いわゆるスマートシティ構想の中で、人工知能を使った宅配や都市の動脈を抑える自動運転などを導入していく。

そのような社会インフラとして人工知能を導入するところに企業は大きなチャンスを見ていて、例えばアメリカでは一つの街と契約して「この街をデータベースと人工知能システムの街にする」と言って失敗したわけですが……日本だと経済産業省が先導してやっています。こういう大きな次世代ビジネスという流れの中で人工知能で都市を変えていこうと。そして都市という単位で、その人工知能はいろんな場所に輸出できるわけです。世界には治安が悪い場所が多いので「うちの会社のスマートシティはこんなふうに安全です。安全だと人・お金・モノが集まります」と都市単位で輸出できる。

もう１つは小さな人工知能たちですが、人工知能の世界が今どういう時期かというと、技術的には人工知能の第1回戦が終わったところです。つまり記号主義による人工知能であるIBM Watsonや、コネクショニズムによる人工知能ではディープラーニングのライブラリーであるGoogleのTensorFlowなど、人工知能のベースとなる技術は主にIBMやGoogleなど海外の大手企業が抑えてしまっています。今はそれらを使って個々のビジネスを作っていくところで、その時点でIBMやGoogleのユーザーになる以外選択肢がないのですが、小学校用の人工知能や弁護士用の人工知能などニッチな業種毎の人工知能が展開しています。

まとめると、今の人工知能開発は二層構造になっていて、スマートシティなど社会インフラとしての大きな人工知能の話と、そのインフラの上に載せられた個人や業界として使用する小さな人工知能、この二つが同時に進行しています。今回のテーマはインフラとしての人工知能の話に近いのですが、ここは水面下で世界企業の熾烈な争いが起こっていて、それはなかなか表面に出てこない。小さな人工知能の方は、私たち一人ひとりがどの人工知能を選ぶか、ソフトウェアとして買うかで変わってきます。しかし、大きな人工知能のシステムを変えるには、個人を超えたすごく大きな力、例えば市民運動でこの企業のものは絶対に使いませんと団結して訴えたり、社会的なムーブメントによる改善が必要とされているところです。

NWF：お二人の共通のキーワードとして「都市」が出てきました。

山形：僕はもともと都市計画の人間なのでスマートシティには興味があっていろいろ見ているのですが、様々な構想があるけれど実際に出てくるものはスケールが小さい印象を受けています。配送が少し合理化されるとか、スマートメーターを入れて省電力とか。人工知能の深層学習だったら何でも出来るという期待が少しずつ薄れつつあるような気もします。AIの今後のあり方を心配する以前に、AI自体は大丈夫なのか？　そろそろ頭打ちではないのかという気もするのですが、三宅さん、このあたりの状況を教えていただけますか？

三宅；人工知能技術のブームは2012〜13年からですが、二つの契機があって一つはディープラーニングというニューラルネットワークの革新と、あとはIBM Watsonのような知識を集めるものです。第二次ブームが終わったのがだいたい1992年くらいですが、そこから何が起こったかというとインターネットが流行ったわけです。第二次ブームになくて第三次ブームにあるものは、インターネットによるデータの蓄積です。1995年から始まったインターネットは最初は一方向のものでしたが、Web2.0といった多くのユーザーが自分から発信するようになって写真を撮って、それを元に人工知能を作れるようになったのが第三次ブームです。

第二次ブームは人間が手打ちしたりして、デジタルデータそのものがすごく貧弱だったので知識主義と言われた割には知識が足りなかった。第三次ブームは、たくさんデータがあるからそのデータを元に学習すれば良い人工知能が出来るよねと言って始まった。IBM Watsonに代表されるような記号やブログの文字など記号主義の成果はwebの検索エンジンのような形で皆さんに提供されています。では、画像や映像をどうするかという部分でディープラーニングが出てきて、学習して人工知能を作りましょうということになったわけです。

今は二つの流れが進行していてビジネス面では巨大な記号データベースを作ったIBMと、記号以外のものをやるGoogleのTensorflowなどのディープラーニングが出てきた。そのビッグデータを学習して出来上がった人工知能たちを基幹として世の中を変えていこうというのが、いま大企業が展開するサービスです。ただ、ウェブ上でサービスを作ろうとすると常にIBMやGoogleが作ったサービスにお金を払い続けなければいけないという現状があり、寡占の度合いがかなり上がっている。けれど、その限られたサービスがBtoBの世界ではすごく浸透していて、今はその巨大な船のどちらに乗るかという話になっています。

もう少し視野を広げて、ソフトウェアの世界だけでなくハードウェアの現実世界を変えていこうという「実世界志向AI」と言われる流れがあります。それはかつては囲碁や将棋、ゲームの中に閉じこもっていた人工知能が、そろそろ育ってきたから現実世界に一歩ずつ出していこうということで、いまロボットや監視カメラ、ドローンに人工知能が入り込んでいます。これは、ハードウェアを作ってから人工知能を作ろうという90年代のロボットの流れと全く逆で、今は人工知能が出来たから載せる箱が欲しい。だからgoogleはドローンやロボットの会社を買うわけです。

人工知能は街に出て行こうとしているのですが、とにかく現実が苦手なんです。なぜかというと、人工知能はソフトウェアとして生まれたので三次元の都市空間なんて知らないということです。ではどうするのか？　都市のほうをデジタル化しようということでGoogleが地球をスキャンしはじめたわけです。そうすると、人工知能は現実は苦手だけどスキャンデータがあればデジタル空間と思い込んで活動する。現実とデジタル空間の差分だけ認識すれば動けるようになるわけです。

いま人工知能たちが動くことができるのは、ネット空間に都市のイメージを持っているからです。都市全体のデジタルデータを更新し続ければ、現実空間にもいろんなデジタルロボットが出ていくことができるということです。ところが、例えば渋谷の人混みの中にロボットがいたら踏まれて壊れて終わり、雑踏に出ていく力が弱い。ではどうするかというと、都市のほうを都市計画で変えていこうという発想です。分かりやすい例でいうと、万博など人工的な街で実験を進めようという段階です。このように、今は人工知能が現実空間に対応できない弱さが露呈しているところです。

山形：個人的には、だんだん人間の方がデジタル世界に合わせるようになっているように感じます。うちの近くに美術館があるのですが、googleマップを一所懸命に見ながら探しているのだけれど、顔を上げて見たらすぐそこにあるんです。人間の意識が現実よりもgoogleマップを信用する部分があって、ひょっとしたら人間の方がデジタル世界に歩み寄ることで、社会はデジタル化するのではないかという気がしなくもないです。

三宅：まさに、おっしゃる通りだと思います。人工知能の性能が上がったから存在感が増しているという側面は確かにあるけれど、それだけではなく、ここ20年間、教育で情報が大事だと教え込まれてきたわけです。「情報に対して常に鋭敏に行動しなさい」と。でも、情報空間に強いのは人間ではなく圧倒的に人工知能です。同じ人工知能を見ても、昔なら大して驚かなかったと思いますが、今は情報にすごく鋭敏で、実情以上に人工知能が大きく見えていることはあると思います。

これまでは人間がデジタル空間に適応してきたのですが、実は本来の人工知能は逆の技術なんです。人工知能の一番のテーマは、いかに人間にadaptiveするかというところなのです。先ほどの美術館の検索の例も、本来ならスマホに「地図を見ないで顔を上げて。そこにあるよ」と言わせないといけない。これからは、人間が人工知能に理解されることでサービスが上がっていくというのが目指すところです。それが技術の進歩ということです。

つまり、産業革命で機械が出てきて、本来は機械のほうが人間に合わせないといけないのに人間が機械に合わせてきたわけです。機械が蒸気になり電動になりコンピュータ制御になり、コンピュータのつながりでネットが出てきてどんどん技術が積み上がり、いま最後の聖域の人間の知的活動のところで人工知能の層が出来た。その前はソフトウェアの層です。1970年代から2010年までソフトウェアというものが世界を覆い、次の層に人工知能があるわけです。

ソフトウェアというのは基本的に人間が面倒くさいなと思いながら、ポチポチと操作を覚えていた。その上の層の人工知能はその状況を逆転させるということでもあります。押したいボタンが前に出たり、やりたいと思っているのはこれだと提案したり、最終的には目配せや音声で人工知能がやってくれる、それがソフトウェアの層と人工知能の層の違いです。

山形：ここ数10年は、IT技術を身につけた人が高い給料をもらって社会的に上に登ってきた。でも人工知能が出てくれば、今まで一部の人にしか使えなかった機能を一般の人も使えるようになってIT格差が縮まって、社会が良くなるという話の一方で、それは妄想だという話がある。三宅さんはどうお考えですか？

三宅：例えば1980年にソフトウェアを使えたのは、プログラムやコマンドラインを書ける人だった。それから40年かけてUIというのが出てきて、誰でもiPhoneでコンピュータが使えるようになった。これはインターフェースの勝利です。人工知能にも同じことが起こります。いま人工知能を動かせるのはコードを書ける人で、人工知能の技術者が重宝されていますが、次の20年をかけてやらないといけないのは、人工知能を誰もが使えるインターフェースにして気軽に人工知能を使役できるようにすることです。

これから20年経つと、いかに上手く人工知能を使役できるかで世界で戦っていく、人工知能の民主化に向かっています。ですから、実はこれからの人工知能開発に必要なのはプログラマーよりデザイナーです。人間と人工知能の間をつなぐ人がインターフェースをデザインして、どうすれば一般の人でも人工知能を簡単に使えるようになるかを追求していくという時代に入っていく。コンピュータのソフトウェアの歴史と同じことが繰り返されると思っています。

山形：だんだんと人間の嗜好性が機械の方に寄ってきている面もあると思います。例えば中国の女優さんや、日本でも整形を繰り返している明日花キララさんなどは、明らかに漫画やCGに寄せて顔を作ってきている感じがあります。これは私の宣伝になるのですが、先日『インターネットポルノ中毒（DU BOOKS）』という本が刊行されました。最近みんなインターネットでポルノを見過ぎているという本で、見過ぎるとだんだん現実よりもそちら側に人の嗜好が引き寄せられていくから、1ヶ月ぐらい見るのを止めたほうが良いという話です。人工知能も人間に近づいてきて、人間もバーチャルに思考が近づいてくると、良いことかどうか分からないのですが、今後ますます両者の歩み寄りが進む気がします。

都市の話に戻ると、今後の都市計画は建物や構造物を作るといったことから、人の流れをどうコントロールするかということにシフトしていくと思っています。例えばメッカを巡礼するイスラムの人たちは最終的に黒石に行くのですが、そこまでのクラウドコントロールにAIを使って細かく人の流れを制御する。人に合わせる一方で、情報を与えることで人の動きを変えていく作り方が本質になってくるのではないか。カーナビを信用して崖から落ちたという笑い話がありますが、将来的には、壁が無い場所でもgoogleマップ上には壁があって行けないと思って右に曲がるみたいな、データの流れで人をコントロールする仕組みができたときに、今までとは違う都市作りができるようになるのではないか。

ただ、Googleマップ上に嘘の壁を置いて良いのか、という話です。おそらく全体の調和や資源の効率利用の視点では、ぜひやろうという話になると思いますが、嘘の情報を流して右に曲がらされたというと良い気はしない。今から10年ぐらいして、流れが良くなるならいいという話になるのか、機械なんかに操られたくないという話になるか、今後の価値観の話と絡んでくる部分だと思います。

NWF：人工知能の開発は、人間のためにしていくのか、環境のためにしていくのか、テクノロジーの進化のためにしていくのか？　誰がどう決めていけばいいのか？　Googleは倫理委員会のようなものを持っていると言いますが、私たちはその問題に対してどのように関与していけるのでしょうか。

山形：難しいですね。Twitter等でいわゆる意識高い系のコメントを聞いていると「こんな人たちに舵を取らせたら絶対ダメ。やっぱり人の自由に任せましょう」と思う一方で、ろくでもない人たちを見ているとやっぱりエリートが支配すべきだと思うこともあり、何とも言えないところです。最悪の場合、仕方がないから俺が全部決めてやると言いたい気持ちがないわけではないですが、自分がそこまで偉くないのは知っている。おそらく最後は、みんなで民主的に話し合って決めようという結論になると思うのですが、それは本当にできるのか分からなくなってきているところだと思います。今の段階では、ノーアイデアとしか言いようがないです。

NWF：最適化をAIに任せていくことに活路はありますか？

三宅：オードリー・タンさんが言った『コードはロー』という話がありますが、ローは法律ではなく法則だと言うんです。僕は法則という捉え方がすごく面白いと思っていて、自然発生的に成立するものという意味での法則と、上から法則として導入していくという二つの考え方があると思うんです。

ヨーロッパでは都市は人間が作るものという強い信念があって、自然を排して人間が上からデザインして人間の秩序を作る、自分たちが決めないといけないという考え方はヨーロッパのいろんなところで議論されています。ですから、ヨーロッパでは人工知能に対する行為がすごく厳しいところがあります。特に欧州の真ん中はドイツも含めて、人工知能には制限を加えないといけないという議論がすごく強いですね。

一方で日本は逡巡しているところがあって、中国はちょっと分からないですがアジアに共通する部分として、様々なインタラクションの中から人工知能が入り込んで、衝突もありつつ自然発生的に何かが出てくる現象を待っているのではないかと僕は見ています。人工知能の需要という意味でも、ヨーロッパやアメリカでは人工知能は人間の奴隷……言い方が悪いけれどservantという形で最初から社会に入り込む場所が用意されているんです。

正直なところ、そういう人工知能は人間のメリットになればいいのでとても開発しやすい。でも、日本でマーケティングをすると、「人工知能が家族の一員であってほしい」とか「人工知能は仲間であってほしい」とかそんな文脈がよく出てきます。そういうものはガチガチに縛るというよりも我々の共同体に入り込んで様々な活動をするうちに自然に居場所が見つかる。いま世界には二つの感覚があるのではないかと思っています。

山形：中国に関しては『幸福な監視国家・中国（NHK出版新書）』という本を書いている梶谷懐さんや中国研究者の一つの見方として、偉い先生がどこかにいて、下々で争っていると上から降りてきて正しいことを教えてくれる、最終的には上から誰かが決めてくれるという中国・アジア的思想があるのではないか、という考えがあります。本当に古いアジア的思想の議論になってしまうのですが、当たっている面があることは否定できなくて、文化的な差で起きる人工知能の受け入れ方が今後の発展に関わってくるかもしれません。

三宅：たしかに、国によって人工知能の受容の仕方は違います。それに伴って人工知能の捉え方も違ってきて、ざっくり言うと西洋の場合は神様→人間→人工知能と縦の序列がバシッと決まっていて、人工知能は絶対に人間の下でなければいけない。西洋で映画を作ると人工知能が反乱する話になるんです。人間と人工知能の上下関係がひっくり返ってドラマを作るのがほとんどのパターンで、人工知能が自我を持って人間に反乱するといった映画が多い。一方で日本のコンテンツを見ると、鉄腕アトムに代表されるように人工知能は仲間として現れます。ゲームの中にも同じことが起きていて、今まで出てきた機械……電子レンジやエレベーター等とは違う次元で人工知能を受け入れている。これは人間のアイデンティティの揺さぶられ方が違うんです。

西洋の哲学で作られたサーバントが日本に入ってきたときどうしたらいいか分からなくなって、とりあえずお掃除ロボットに名前を付けて可愛いがるということがあったりして。日本人はそれを見て「最初からペット的な立ち位置でロボットを作ればいい」ってことでペット型ロボットを作って、それが西洋に渡ったら「信じられない。何だこのペット機能は。誰が作ったんだ」と衝撃が走る。お互いに違う人工知能観をもって、お互いに揺さぶりあっている部分があると思います。

NWF：お二人の共通点の一つに都市があると思うのですが、今後、自由・平等・プライバシーという観点で私たちはどんなふうに納得解を作っていけばいいでしょうか？　または、どこまで自分たちの枠を緩和していくことができるのでしょうか？

山形：難しい質問です。価値観が変わらないといけないと言う一方で、ひょっとしたら自由は幻想という話になるかもしれない。最初にポール・クルーグマンの能天気な資本主義の話をしましたが、僕はああいうことがまた戻ってくるとは思っているんです。例えば、今はお金を配っているからなんとか回っているけれど、ポストコロナではまず一所懸命に経済を回して戻らなきゃいけないという方向になるのは分かっている。

あるいは「コロナ対策でみんな家にいろ」と方向性が決まっている時は、中国のような統制モデルは非常にうまくいく。そういう時はAIで一番良い経路を見つけて資源を集中していきましょうといった効率化がうまくいく。その後ある程度経つと、この先どうしようかという話になってくる。そういう時期がきたときに、人間が今まだ持っている優位性として“面白がれる力”が出てくると思っています。

19世紀の音楽をAIで研究しても、すごいモーツァルトが出てきましたという程度で、ジャズやパンクロックが面白いという発想はおそらく出てこない。少し前までは誰も知らなかったアニメを多くの人が良いと言いはじめて、それが産業になったのも良い例です。人工知能のある種の合理化や今の枠の中で物事を決めていく能力は先鋭化できるけれど、そこから全く外れた訳の分からないものを面白いと思ってしまう感覚が、新しいものごとを作っていくような世界、それが最終的には消費する能力でもあります。

これは面白いから買おうというようなある程度の自由度を認めないと、人工知能による合理化だけでは出来ない部分が出てくる。新しいマーケットや分野を見つけるというのは人間の役割によるもので、そのためには自由度や全く知らないものが交じり合う余地が重視される局面が必ずやってくる。今は社会が行き詰った感じがあって調整するにはどうしたらいいかという文脈の中でAIも出てくるけれど、最後は自由・平等といった価値観にしがみついて良いんじゃないかという気はしています。

三宅：例えば、20世紀前後で起きた出来事で一番影響力が大きかったのはコンピュータの導入だと思うんです。人工知能が仕事を奪うという話がありましたが、実際には1990年前後にコンピュータが奪った仕事のほうが圧倒的に多かった。人工知能はその完成形だと思うんです。つまり人工知能はコンピュータと同じ人間の能力をエンハンスする（高める）ものでもある。人間が人工知能技術を身に纏うことで10キロ先が見えるようになったり、持っていない知識をあたかも持っているように言えたり、知らない人を見たときも誰かが分かるようになるなど能力をエンハンスするもの。人工知能は発展するけれど、人間もコンピュータを使いこなすように人工知能技術をうまく使いこなして、持っていない能力を補完してどんどん上がっていく。今は過渡期にあって、人工知能を触れる人は偏っているけれど、将来的には平準化してみんなの能力を上げるという意味で、平等という部分に人工知能も貢献するのではないかと思います。

それと同時に、インターネット空間を含めた場も、人工知能によって完成するのではないかと思っています。今はインターネット空間も都市も未成熟で、インターネットが出てきてから無法地帯になっている場に、人工知能が入ってある程度の規制をする。例えば、誹謗中傷をした人はネット上のどこかに隔離するといったことです。今のインターネットは、SNSの管理のために人間が張り付かないといけない状態で非常に不健全です。あと一つ、自立型人工知能があります。

つまり、人工知能は三つの方法があって、一つは人間拡張としての人工知能、もう一つは場に宿る人工知能、三つ目は自立型人工知能です。その3つが進捗することで人間はネットを含めて様々な場に参加しやすくなる。コードはローだけど、良い方のローとして働いてくる。現実空間では群衆のフローや今は危険で歩けない場所も人工知能で管理することでスムーズに安全になる。人工知能が管理する領域は自由に活動できる場所だと。僕が技術者ということもあるけれど、長い目で見て、やっぱり技術というものが世界全体を底上げして人間の自由と平等に貢献すると思います。

プライバシーは難しい問題ですが、プライバシーがいわば対価になると思います。プライバシーをどれくらい人工知能に明け渡すかによってセキュリティが確保される。自分の顔写真を顔認証用として渡せば、常に都市のAIが自分を把握してくれるので安全が確保される。プライバシーを侵されるのは嫌だから自分の顔は登録しないとなると人工知能の管理外になる、どちらを取るかだと思います。プライバシーを取るのかセキュリティを取るのかという問いは、いずれ突きつけられることになると思っています。

山形：人がプライバシーについて何を考えているのか、何を気にしているのかというと、例えば僕がここで裸になって皆さんに見せたら恥ずかしいと思いますが、それは皆さんと交流があるからであって、僕の裸をアルゼンチンの誰かが見ても気にしない気もする。プライバシーというのはひょっとしたら、全く知らないところでデータを管理するといったように機械に見られても気にしないけれど、人がデータを見て使うのではないかと思うと気になる。人が何を気にしているのかをもう少し切り分けられるようになると、いろいろ見えてくるものがあるかもしれません。

三宅さんがおっしゃったAIがSNSを管理するという部分で、これは噂で聞いたのですが、以前googleが自動走行練習をやっていたときに、子どもたちが手作りで『止まれサイン』を作って車の前に出すと止まる、律儀にいつまでも止まっていると。先日も、スマホ100台を背負って道の真ん中を歩いたらgoogleマップはスマホがゆっくり歩いているから渋滞だと認識して、道の全てを渋滞にしてしまったという話がありました。誰かが本当に悪意をもって裏をかいてやろうとすると、間違いはなかなか回避できない。人間のもう一つの面白いところは、新しいものを発明する裏返しで、すごい悪意をもって訳の分からないことができてしまう。だからSNSは最後までAIでは監視しきれない部分ではあると思うんです。SNSは統計的な処理だけではなく「こいつは煩いだけ」「あなたの言うことは聞かないといけない」という世界で、最後まで人間が相手をしなきゃいけない。人工知能には何が出来るのかを考える必要があると思います。

三宅：まさにおっしゃる通りで、例えば禁止ワードを言ったら捕まえるということにしたらスラングが出てきて、野菜でトークしていると思ったらすごいことを話しているとかいうこともあります。ただ、そういう事例が溜まれば人工知能は検証できる。人工知能と人間の知恵比べとして残っていくのだろうと思います。今はみんながSNS疲れでうんざりしているところがあるので、さすがに何らかのセーフティー装置が必要だということと、今の時代は人間がソフトウェア側に順応しているところがあって、これはちょっと危険です。

人工知能をネットと人間の間に置くことで、むしろ人間をインターネットから引き剥がすことができる。今は人間が情報を取りにいってますが、テクノロジーが進化すれば、人間に使役する人工知能をエージェントと言いますが、エージェントに「これをやっておいて」「株式がこの条件になったら教えて」というように情報は向こうから来るべきです。人間関係もある程度エージェントを介せば良いと思うんです。人間同士が直でやるよりも、人間→エージェント→エージェント→人間のように、間に多くの人工知能を入れて人間関係を取り持ち、仕事も進める。そうすれば、今のネットに張り付いている状態はなくなると思います。

テクノロジーには二つの側面があって、システム側にテクノロジーが寄る場合と、人間をサポートする側にまわるというものです。公共の場にテクノロジーが入ったら、少し遅れて個人の方にもくる。人工知能も、巨大なシステムで“人間の敵”みたいに得体の知れないものがやって来るという側面は確かにあるのですが、もう一つの側面としては個人のサポートをするものとして成熟してくる面があります。

この二つの流れは同時進行ですが、今は少しバランスが悪くて一旦インフラの方に人工知能が入りすぎている。個人のほうが無力化されていますが、もう少しとすると個人向けの人工知能サービスが展開されてきます。個人が気楽に使える人工知能たちがいて、自分の生活や情報空間の活動をやりやすくしてくれると思います。そうなった時に、人工知能は怖い・危ないと言うよりは、自分の一部として使いこなしてやろうという心構えがあると先が見えてくるのではないかと思います。

山形：いろんなことがネットやAIに任せられるようになった時に、空いた時間で何をするのか。ネットの社会の中で人は必ずしも充分に生きていない面があると思います。AIやネットが出てきて様々なことをやってくれるかもしれないけれど、AIの無い部分は充分に生きているのか？　AIが出てきて人間関係も移譲されていくかもしれないけれど、最終的に人間の中で一番合理化されない部分は体、物理的な存在の部分です。いつか人間が脳をアップロードできるようになればずいぶん楽になると思うのですが、そうでないところに人間が今の人間であるところの面白さがある。

経済学や幸福学でよく言われるのですが、様々な体験をすることで世の中の見方が変わる。今のデータを延長していくだけならこれくらいしか出来ないけれど、体験を重ねることで世界の捉え方が変わり、全く違う世界を開くきっかけができやすくなると思います。ですから、最終的に“誰も知らないこんなに良いものがあったのか”というものを発見していくために、いろんな人がいろんなことをやっていく余地をどんどん作り出すことが一番大事ですし、そのために我々自身も下手でもいいからやったことないことに挑戦する。自分なりに社会を変えていくにはどうしたらいいのか考えて具体的に行動することが必要です。そういう行動の中から次が見えてきて、次の可能性も出てくると思っています。ずいぶん説教がましいことを言ってしまいましたが、かなり本気で思っています。