
日本経済新聞主催の講演会「第2回AIシンポジウム AI本格稼動社会へ 〜課題解決型の先進モデル国家を目指して」に参加してみた(会場:品川グランドホール・2017年3月9日13:30〜17:05)。
AI(Artificial Intelligence)つまり、人工知能は「人間の知的活動をコンピュータ化した技術であり、実世界=ヒト、モノ、環境から社会価値を生み出す技術(協賛企業NECの定義)」だそうだ。
理化学研究所革新知能統合研究センター長 杉山将氏の基調講演、協賛企業のNECデータサイエンス研究所所長 山田昭雄氏の講演を拝聴した。
杉山氏は基礎理論(機械学習理論)を中心に、山田氏は応用技術についてそれぞれアウトラインを明晰な語り口で話されていた。
私も技術職の端くれなので講演の内容が理解できないわけではない。「AI本格稼動社会」というものが到来することは確実だろう。
----
人間を含め生物が日々活動するための原動力は食物といった物質である。仙人でない限り霞を食べて生きていくことはできない。つまり「生理的代謝」を必要としており、体内の組織や器官は協働して代謝を行っている。
寝覚めは体の組織や器官はまだ半分眠った状態なので、代謝活動は低いが、目も覚めて昼間になると代謝量は増大し、夜になるとそれは低下し眠りに就くと基礎代謝だけの状態になる。このサイクルはおおよそ太陽の入りと出に連動して、昼と夜がセットとなったバイオリズムは古代人も現代人も大差はない。
この代謝量の変化に見合った食事の取り方や活動(仕事)の仕方が日々健康に暮らすための基本となる。人間は冬眠する動物ではないので熊のように基礎代謝だけで数か月生き延びることはできない。
毎日、決まった時間活動(仕事)し、摂食・同化・排泄といった物質代謝をしなければならない。
つまり、決まった時間なりの量の活動(仕事)と物質代謝が前提で生きているわけである。その前提は「駕籠に乗る人担ぐ人そのまた草鞋を作る人」という諺にあるように歴史的に社会が担保してきたとも言えるだろう。多少経済的にムダがあろうと多様性の中にあなたも私も生かされているという暗黙知である。そこそこの代謝レベルに誰もが満足していれば、結果として多様性は維持されるがゆえに誰もが生かされるという循環系である。中山間地の高齢者ばかりのコミュニティはそういう閉鎖された循環系の名残でもある。都会のあからさまな市場原理など持ち込んだら途端に崩壊してしまう互助なのかもしれない。
----
街角の靴磨きなどほとんど目にしなくなった職種だが、戦後間もない頃は身だしなみの為というよりも勤労少年に僅かばかりでも労働報酬を与えるために、わざわざ靴を磨いてもらった大人も多かったに違いない。経済的に言えば、自分で磨けば済む。磨かなくても社会生活に支障はなかった筈だが、これが持ちつ持たれつの日常的な社会生活だった。
コンビニで買えば済むようなヨーグルトを我が家では昔ながらに牛乳配達から買っているが、これも家族経営の零細なコミュニティを支援する意味がある。
「AI本格稼動社会」で生み出される社会価値の中にはこのような「初めから仕事有き」という歴史的な暗黙知は除外されているようだ。なにごとにも経済的合理性の最適解が機械的に導き出され、AIを使い倒せる側に回らない限り生きていけない社会が到来するのかもしれない。それは芥川の「蜘蛛の糸」のように後から後から続いて昇ってきた者たちの重みに耐えきれずに千切れてしまうか細さかもしれない。

技術的特異点(シンギュラリティ)とはまさにこの「蜘蛛の糸」のことであろう。産業技術の発展が技術的特異点(シンギュラリティ)に達してしまう畏れは現実化しつつある。

(図には「人類」とあるが、私は「人間の尊厳」と理解している)
産業技術的に可能なことであっても、社会倫理に照らして敢えて踏みとどまる必要は原発事故で我々が学んだ教訓でもある。科学者はその学究心ゆえに踏みとどまるべき境界を超えてしまうことがある。安倍政権肝いりの革新知能総合研究(AIP)センターでは上述の理化学研究所革新知能統合研究センターが主導的役割を果たしているようだが、AIの「社会的影響」の分析の観点が「人工知能の倫理を数理的に解決」にある点、大いに気がかりである。「人工知能の倫理を数理的に解決」ではなく諮るべきは人間社会が営々として積み上げてきた社会倫理であり、その分析に関わるべきは、当の科学者でもAI(人工知能)でもなく、人文系・社会学系や宗教系といった「人間の尊厳」と向かい合って研究する人々であって欲しいものだ。AIムラの中で「数理的に解決」して済むような問題ではない。メルケル首相が脱原発是非を諮問した相手も産業界とは一線を画した人々であったことを思い出す。
つまり、AI(人工知能)の対極に何を置いてバランスを量るのかが問題なのである。その天秤にかけるべき錘すら技術的特異点(シンギュラリティ)では無くなってしまうのであれば、その特異点に到達する手前で踏みとどまる理性は人間の側に要求されている。
産業技術という、科学技術が企業活動のインセンティブに貢献する姿は日進月歩の先端技術開発を使命としているが、その開発の方向性や利用の仕方によっては、生態系を含む地球環境にその経済効果を上回る重大な障害を招来する危険性もあることは認識すべきことであろう。
国からお墨付きがあれば、AIなどの先端技術は企業活動における資金調達の糧となるため、悪意に利用しようとする者も現れる。そして一旦市場に出てしまえば環境評価は困難な上に回収することはできない。機械学習のAIが技術的特異点に達して自律的に学習をするようになれば、一企業の利益に任せた開発スタンスを超えるばかりか人智まで超える可能性もある。トロッコ問題(トロリー問題)という倫理学上の命題さえ予想もつかない答えを出すかもしれない。たとえば、オイルが撒き散らされた路上に、自動運転のクルマがスリップせざるを得ないスピードで進入してきたとする。そしてスリップする。前方にはたくさんの子どもたちがいて事故は避けられない。子どもたちを避けてハンドルを操作すれば崖下に車は転落する。乗員の安全をAIが計算すれば子どもたちは轢き殺されることになる。

乗員が犠牲になるようなAIを自動車メーカーが採用するだろうか?ここに、クライアントファーストなる企業活動が倫理上の矛盾を引き起こす。AIがなければ、乗員が主体的に判断して自らを犠牲にしても子どもたちの命を救うという選択肢が社会倫理というものである。AIを使いこなす側の人間の価値観をAIが学習選択すれば、人減らしの為の最適解をAIが導き出す可能性は否定できない(ナチスが採用したような人種政策の元となった優生学の復活をAIは最適解として示唆するかもしれない)。優生学では「人間を「尊厳(Würdeヴュルデ)」においてではなく、「価値(Wertヴェルト)」の優劣において理解する思想」であり倫理的問題から現在ではタブーとされている。しかし「社会価値」を生み出す技術に重きを置くAIがこの優生学に行き着く可能性である。そして「社会価値」の天秤に我々を吊るして、個人の「尊厳」を奪いにかかる政権があればなおさらのことである(拙稿『「個人」か「人」か(憲法第13条)』)。収束の見通し一つつかない原発事故(その現状は明確にシンギュラリティーを示している)すら「アンダーコントロール」と言葉で片付けて実害すら認めない(人間の尊厳の否定)といったことを平気で行う政権の肝入りの国家戦略が「AI本格稼動社会」であれば尚更、その行き先に不安を覚えざるを得ない。
すでに植物の世界では、人間にとって都合のよい(人間の経済価値以外には存在を許されない)植物としてバイオテクノロジーではF1種が産業技術となり市場化されている。そのF1種を人間にも適用せよとAIが指図しそれに従う社会は考えるだに恐ろしい。そうあってはならない。「雑草という名の草は無い」と、御所の生い茂った草を刈り取った侍従を戒めたのは先の天皇である。名もない草にもその草なりの存在理由があり、人間の意図や都合に合わないからと<雑>と呼んで、根絶やしにしてはならないとする戒めである。名もない草一本の生態系においての価値までAIが考えるのだろうか?否、否定する方が経済合理性に与した「社会的価値」に適っているだろう。
「尊厳」を考えるはAIでなく一人一人の人間の内心でありそれを共有する人間主体の社会であり人間同士の対話である。計算機が「数理的に解決」すべきことでない筈だ。
このように社会倫理上の命題一つすら置き去りのままで、「AI本格稼動社会」に踏み出そうしている。だからこそ、AIを開発する側の人間に任せきりにせず、人文系・社会学系や宗教系といった人々が「AI本格稼動社会」への一定の歯止めとなる必要があると私は考える。
----
これはAIに限ったことではなく、先端産業技術たるカーボン・ナノ粒子にも言える。ナノ粒子は極めて微小であることから、人体の血液脳関門さえも通過し生体内の代謝に影響を与えることが懸念されている。環境(水、大気、土壌など)に放散された場合の影響、食物連鎖による生態系全体への影響等、未知の部分が多く、ナノ粒子の特性や挙動が時間の経過と共に(特に環境中に放出された後に)、どのように変化するのかは、一旦、環境に拡散してしまった後では見極めることは困難(回収も困難)。またナノ粒子の環境へのリスク評価(有害性評価、暴露評価)に向けた研究は細々と大学等で行われているだけで、技術は次々と市場化されている。
ワンチュク国王やムヒカさんが言うように「足りるを知る」低代謝社会モデルを世界に先駆けて示すべきは、少子高齢化で世界のトップに位置する我が国の本当の課題ではないだろうか?過酷な原発事故を経験しておきながら尚も原発神話を止めようとしないわが国。そして次なる神話がAIでありカーボン・ナノ粒子なのか?社会倫理の不在が問われている。その不在の最たるが安倍政権でありその政策理念であることも。
半音調律を上げ続けるかの市場技術に、その受容者たる生身の人間が悲鳴を上げる限界点は遠からず訪れることだろう(拙稿「半音下げへの期待」)。我々が求めるべき解をAI(人工知能)に問わずとも、神様はある動物にそっと託している。それが「ナマケモノ」なのかもしれない(ナマケモノ倶楽部)。理化学研究所が「ナマケモノ」をその観点から研究する日は来るのだろうか?
(おわり)
追記:
森友学園に絡む政官疑惑。「自動忖度機」という言葉は言い得て妙である。誰一人「覚えていない・記憶にない」としながらも国有地の破格な払い下げが行われるというシステム。忖度するように仕組まれた「意識なきシステム」が政財官に跋扈していたということ。自動改札機など日常生活で「意識なきシステム」は「スマート」だと勘違いする国民性が「自動忖度機」を許してきたのだろう。
2016リオ・オリンピック・パラリンピック大会関連施設(Tokyo2020 JAPAN HOUSE)で大活躍したと報道されていた( NECの「ウォークスルー顔認証システム」)について、NECデータサイエンス研究所所長 山田昭雄氏は講演の中で「スマート」な成功例として紹介していたが、人間相互の信頼を理念とする五輪憲章と、センサに信頼を預けるこのシステムと彼のアタマの中でどのように整合しているのか訊きたくなる(拙稿「<意識なきシステム>で「世界一」となる国」)。AIに人間の意識を何もかも委ねてはならない。人間の意識をどこまでも通わせようとする努力を惜しむような社会になってはならない。