2017/07/03

AIの効果は確信できるが理屈がわからない場合、判断は感受性に依る

以下の人工知能の未来を問うNHKスペシャルで面白い場面があった。

ある企業の人事部では離職率を下げるために新入社員に定期的に相談の機会を設けている。人事は彼彼女たちにいろいろな質問をし相談に乗る。この結果を多く集め実際の離職のデータとともに解析する。さまざまなパターンを見出しAIは結果を導く（これをAIと呼んでいいのかは措く）。この結果は人間からは理屈が分からなかったが、後日AIの言う通りになるケースが頻発する。

人間は、こうしてAIの弾き出す結果に信頼を寄せるが、理屈も分からないでこれを信じ新入社員に対策を取ることに違和感を感じる。そもそもどうやって何をやってあげればいいのか分からないであろう（笑）

似たようなことは昔からあったはずだ。理屈は分からないがAIはそう言っている。こう言う場合どうすればいいのだろか。結局は感受性に依る。人事の相談レベルであればこれを鵜呑みにして、新入社員の相談を増やすなど対策を取るのは問題ないだろう。しかし、このドキュメントで紹介されているような刑務所の囚人に対する対応など重めの判断はかなり慎重にならざるをえない。

今後、人間のようにコミュニケーションの取れるAIが出て来るだろう。これらへの接し方も感受性次第だ。そもそも、原理的にわれわれは他者が意識を持つかどうか分からない。人間ですらそうなのだから、猫も犬も、サルも石も桜も意識を持つか否か分からない。それと面と向かって接してみて「意識を持たないモノ」として扱えるか否かの感受性に依る。

人間同士でも感受性はバラバラだ。先日の障害者殺害事件のように障害者をモノのように扱うような感受性を持つ反社会的な人間もいる。猫を子供のように可愛がり死んだら大泣きする人もいれば、猫を殺して食ってしまう感受性を持つ者もいる。結局は人間の感受性に依るのだ。映画herの主人公のように、姿形もない音声だけでも会話がうまくできれば恋をする。

今後、こうしたきわどい判断をしなければならない機会が増えるだろう。社会学者のユルゲン・ハーバーマスは、こうした変化にゆっくり着実に対応してゆこうと提言している。

2017/07/02

なぜ街に行きたくなるか

なぜ街に行きたくなるか。僕は昔から暇があると池袋の人混みを通り、そこそこ人のいるカフェで読書やぼーっとするのが好きだった。今もこうして新宿のカフェでぼーっとしている。

こうやっていろんな人々がいるごちゃごちゃした都会が好きだ。上海にいるときもそうだった。

なぜなのだろう。そこに生の本質を掴み取る契機があるのではないかと考えていた。

なぜ街に来てしまうのだろう。それが最近分かってきた。

それは無根拠な生とう現事実を、人間という物語で忘れることができるからだ。いろんな見た目で色々な目的の人間が生きている。無根拠ながらそんなことは完全に忘却して自分の物語を生きる。各自それぞれが全く違うストーリーを持ち、それに没頭している。

街とは人間的なものだ。動物の世界にはない。人は何かの目的をもって街に来る。目的を探すという目的も含まれる。そこには人の「行為」の束がある。何かを意志して行う。申し開きできること。みんなが物語を生きている。

そんな人々のいる、そんな人々が物語として作った街の中で見て、そして自分がその中にいることで無根拠の不安から逃れられるのかもしれない。

物語を作るのは欲望だ。こうした欲望の色が強ければ強いほどいい。池袋西口、新宿、上海。僕が好きな街はエロスに満ち溢れている。

2017/07/02

AIの定義

ルンバは床を移動するだけだ。ルンバの前に片付けが必要。片付けは難しい。散らかった対象を認識し移動する。高度な技術がいる。しかし、これもAIとはいえない。同じように、冷蔵庫から材料を出し調理する料理ロボットもAIではない。

ではAIとは何か？人工知能。人間のようなコンピュータ、というのがもともとのニュアンスだろう。

では人間の本質は何か？

それは、意味と価値の世界を生きているということ。

これは＜わたし＞にしか分からない。＜わたし＞は少なくとも意味と価値の世界を生き、他の人間も同じだと確信を持っている。別の言い方をすれば質的なクオリアの世界を生きているということ。意識を持っていること。

それは外観や振る舞いから判断するしかない。

それゆえ、最終的には感受性である。

ルンバに愛着を持ち、感情移入してしまえばその人にとってルンバはAIとなる。

2017/07/02

物自体は外部ではない

「物自体」とは言うまでもなくカント哲学の基本概念である。

カント哲学の基本概念。「本体」とも訳される。「物」「現象」に対する語。カントによれば，現象は認識主観によって構成されるものであり，物自体ではない。物自体はむしろ現象の根源にあるもので不可知物であるが，思惟可能な仮定であり，カントはこれを現象の背後に仮定せざるをえない思惟の要請であるとした。また彼は実践哲学においても，自由の可能性を保証するものとして物自体の世界を実践理性の要請であるとした。カント以後，この物自体の概念をめぐって，ドイツ観念論，新カント学派，弁証法的唯物論の立場からさまざまな解釈や批判や展開が試みられた。
https://kotobank.jp/word/%E7%89%A9%E8%87%AA%E4%BD%93-142650

われわれが知覚しているものは全て「現象」であり、「物自体」はその背後の根源であり過程せざるをえない思惟の要請である。

一見、「外部」のことだと思うかもしれないが、われわれはそもそも「外部」にアクセスできないので「物自体」は外部ではない。

いくらわれわれが刺激を独自の認識装置で歪めて現象として知覚していても、われわれの生に関与する時点で現象となる。生に関与できるものはすべて現象だ。コウモリの超音波のやり取りをわれわれは知覚できないが、それが身体に痛みをもたらすようなものとして現象する可能性はある。超音波を想定している時点でわれわれに関与しているので、「外部」ではない。

「物自体」は「外部」のようなイメージがあるが、外部であれば生に関与しようがないので「物自体」は外部ではない。それはただ、自分に現象したものが、他者にとって違う現れである可能性、よく見たら子となっているという可能性、未来の出現の可能性などの視点から要請されているに過ぎない。

2017/07/02

主観的良い状態から社会設計する国「フィールグッド・ステイト」は徹底的に意識ファーストであるべき

以下の本に「フィールグッド・ステイト」にまつわる話が展開されている。とても興味深い議論なので、紹介し意見を述べたい。

宮台真司 (著), 鈴木弘輝 (著), 堀内進之介『幸福論―“共生”の不可能と不可避について』 (NHKブックス) 2007年

幸福論―“共生”の不可能と不可避について (NHKブックス) [単行本]

宮台真司

日本放送出版協会

2007-03

本書の趣旨は、われわれの幸福へと向けたソーシャルデザイン（社会設計）がいかにして可能かないし不可能かを論じることである。答えが出ない問いを社会学者３人で討論し、問題に取り組み続けることの必要性を感じさせる。

さて、本筋ではないがここで一つ指摘しておきたい。本書では「幸福」をよいものとし、それをどう社会で生み出していくかというのが出発点となっている。人間社会の経験的な観念である「幸福」それ自体については問わないようだ。あくまでも「人間」を前提に考えている。

さて、本題に入る。「フィールグッド・ステイト」についてだ。

まずはソーシャルデザインについて説明する。それは、何かのターゲットを基に社会を設計すること。既に多くの国でソーシャルデザインが既に行われている。立憲制の下で国民が統治権力に権力を付託した瞬間にデザインが始まったとも言えるし、古くは家産官僚制という形にせよ官僚制が登場した際にすでに始まっていたともいえる。

しかし、問題は「このデザインが「われわれ」の幸福へと向けたものであることが原理的に不可能だ」ということ。これは、かつて社会学者や政治学者しかしらなかったらしい。公正ないし平等という原則に反しないソーシャルデザインは原理的にない、という驚愕の事態である。

われわれの幸福といっても「われわれ」の範囲は恣意的で、「われわれ」内での公正や平等を測る場合も恣意的な選別と排除を前提とする。コンドルセの指摘にもあるがごく特殊な条件がないかぎり、投票での意思決定は、投票以前的な決定過程を前提とする。それゆえ、われわれは社会をそれが近代社会である限り恣意的な事実性factualityを前提としたうえで運営するしかない。このことを最も早くに理解したのがウェーバー。市民倫理と区別される政治倫理の結果責任性を論じた。

ここで、ソーシャルデザインの一つ「フィールグッド・ステイト」について見ていこう。近代社会の正当性や正当性を保ち、それらを前提とした市民の積極的政治参加を通じて、不安のポピュリズムに勝るとも劣らない有効なアウトプットを調達するべく、徹底的に研究したうえでアーキテクチャを設計しようとする流れ。そうした類のソーシャルデザイン主義だ。

アーキテクチャ（環境の仕組み）とは建築構造よりも広い意味である。長居する客に退店を命じるまでもなく、冷暖房の温度、BGMの音量、証明の明るさ、椅子の硬さを管理すれば、自由意志を損なうことなく、人々の行動を方向付けられる。これがアーキテクチャによるコントロール。アーキテクチャのなかで自発的に心地良さ（フィールグッドな状態）を追求することで、人々は自覚されないまま動員されていく。

先の恣意性の問題がここでも見える。アーキテクチャをめぐる情報格差。真の意図を知っているのは、デザイナー（設計者）だけだ。だがレッシグいわく、アーキテクチャをめぐる情報格差は消せない。できるのは情報アクセス可能性を開くことだけだ。だが開かれた機会が利用される保証はない。

ソーシャルデザインがわれわれの幸福へと向けたものであることは、原理的に不可能だった。「われわれ」の範囲は恣意的であり、どんな構成原理も排除と選別を前提とする。近代社会は恣意的な事実性を前提として運営される以外はない。

フィールグッド・ステイトについてまとめよう。それは、人々の心地良さを求めようとする欲求を利用することによって統治された国家のこと。ディズニーランドがそうであるように、目障りなもの、面倒なものを徹底的に隔離・隠蔽しつつ、いくつかの選択肢を提示することで快適さを演出して、統治の疑念を抱かせないようにする。

そのことの何が問題かと言えば、それはフィールグッド・ステイトを維持するための環境負荷や外部にいる貧困者たちの存在者が忘却されてしまうからであり、またステイト内部の人々が自分で物事を考える契機を奪ってしまうからである。要は「知らぬが仏」状態への危惧。

以上が、本書で述べられていることである。

問題の前者、「環境や一部の人間が犧牲になること」はあってはならない。これは議論の余地はなく正論だ。ちなみにこれは先の恣意性の問題と同じだ。設計者以外が不利益を蒙る可能性の話だからだ。これはフィールグッドの定義をはっきりさせないと議論できない。フィールグッドがあらゆることを意識に還元して、それが「よい状態」とするなら、それ以上の社会設計のターゲットはない。要するに、外部（設計者など）を気にしたりもしないほどうまく騙されているとうことだ。完全に意識に還元された「よい状態」を元に社会を作れば、恣意性の問題も解決されるのだ。そのような恣意性すらも気にしない心の習慣を作ってしまえばいいのだから。

では、後者の「ステイト内部の人々が自分で物事を考える契機がなくなる」というのはどうだろうか。要するに新しい刺激に対処できる能力を持っておかないとまずい、とうこと。設計者もびっくりの設計外の出来事が起こったら、問題が起きるのではないか？という意味。

この「知らぬが仏」問題、これも意識状態が完全にコントロールされる社会であれば問題ない。この時点では、人間は意識経験をコントロールされるほど人工知能に知能格差を拡げられている。既に人工知能が人間を遥かに超える知能や生存能力を持っている。何か新しい刺激（宇宙人がやって来る、隕石の衝突）があれば、それを人間が気付いて対処のではなく、社会設計と運営を司る人工知能にまかせておいたほうが有効であろう。

それゆえ、私たちが向かう道はシンプルだ。あらゆる生への関与を”徹底的に”意識に還元し、これをコントロールできるような人工知能を作る、この方向に進んでいけばよい。意識ファーストである。それがどれだけ先の話になるかは分からないが。

2017/06/27

『ウェルビーイングの設計論-人がよりよく生きるための情報技術』は「科学的に世の中よくしたい」の極み

人はみな、被投的に始まってしまっている生を歩んでいる。被投的というのは要するに無根拠であり、神秘である。なぜ私が私としてこの色とりどりの世界を経験しているのか、誰も分からない。いや、誰もというか私は私のことしか分からないので、少なくとも私は分からない。でも、普段私（も他の人々も）そんなことは問わずに人間社会を生きている。

改めて考えてみると、私の生とは「いま、ここ」の持続、ウィリアム・ジェイムズ的にいえば「意識の流れ」がわれわれ各個人の生である。

この「意識の流れ」を「よく」したい。ポジティブなものにしたい。

と考えるのは、少し突き詰めて思考したらたどり着く考えではないだろうか。全てを自分の意識に還元するのだ。恋人や家族や友人のためというのも、結局はそれを思っていて最終的に嬉しい私に行き着く。

以下の本では、このように還元された意識内での「よいこと」を「ウェルビーイング」として、それをベースにサービスとか社会設計とか考えていくためにウェルビーイングをどう設計するかというエキサイティングな本である。

ラファエル A. カルヴォ & ドリアン・ピーターズ (著)『ウェルビーイングの設計論-人がよりよく生きるための情報技術』。監修は、渡邊淳司＆ドミニク・チェン、翻訳は木村千里。

ウェルビーイングの設計論-人がよりよく生きるための情報技術 [単行本]

ラファエル A. カルヴォ & ドリアン・ピーターズ

ビー・エヌ・エヌ新社

2017-01-24

アマゾンの頁での内容紹介は以下の通り。

人の「こころ」の領域にまでITが入り込んできた今、人間の潜在能力を高め、
よりいきいきとした状態(=ウェルビーイング)を実現するテクノロジーの設計、
すなわち<ポジティブ・コンピューティング>のアプローチが求められています。
近年注目されている「マインドフルネス」や「レジリエンス」、「フロー」なども
ウェルビーイングを育むための要因ですが、ではこういった心理的な要因とテクノロジーを、
どう掛け合わせることが出来るでしょうか。
本書では、ウェルビーイングに関する様々な分野の最新の研究成果を基に、
この問いを解き明かしていきます。
これからのテクノロジーの在り方や、向き合い方を考えるうえでの基盤となる一冊です。

****
人間がよりよく生きるとはどういうことだろうか?
心という数値化できないものを、情報技術はどうやって扱えばよいのだろうか?
本書は、このような問いに答えようとする者に対して、示唆に富んだヒントを与えてくれるだろう。
(「監訳者のことば」より)
****

大体想定していたことが書かれていたが、様々な具体的な情報や事例が出されておりこの分野について理解がとても深まった。面白かった部分を少し紹介し感想を述べる。本書で言われる「ウェルビーイング」という用語は、「心理的機能が人間として考えうる最適な状態にあることを強調した表現」であり、ポジティブ心理学の世界では広く受け入れられているようだ。ただ、この曖昧な定義をどう捉えるかについて３つのアプローチがある。

医学的アプローチ：精神機能障害がない状態
快楽的アプローチ：喜びの感覚の集合として（人生の何％がポジティブな感情で占められているか）
持続的幸福的アプローチ：人生に意義を見出し、自分の潜在能力を最大限に発揮している状態

の３つが現代のウェルビーイング理論の基盤となっているようだ。そしてここで取り上げられている理論はどれも単なる仮説ではなく、十分な実証的な裏付けがあるという。

少し細かく見ると、「快楽心理学」であればポジティブ感情の体験をもとにウェルビーイングを定義していく。カーネマンの議論も出てくるが、これは主観的ウェルビーイングである。研究方法は、もし幸せだという自覚があるなら、伝えてほしい、というもの。

ライフイベント、人生の満足度、充実度をはじめとする個人の人生に対する認知的評価と感性的評価からなり実際に国民総幸福量子数の開発に利用されているらしい。さらに時間軸の観点でいうと、個人の自己報告は「オンライン＝リアルタイム」「想起」「長期間にわたる人生評価」の３つがある。

持続的幸福的アプローチは、エウダイモニア的アプローチとも呼ばれ、自律性、有能感、関係性を軸にした自己決定理論があり、さらに快楽的アプローチと組み合わせてフロー理論でお馴染みのチクセントミハイなどのポジティブ心理学、情動知能、仏教の心理学なども参照されている。

また、最後に生理学的に確認可能なウェルビーイングとして「生物学と神経科学」のアプローチも紹介されている。ここでは個人の感情を理解するために生理学的信号や脳信号を用い、遺伝子や身体の健康状態を調査したり、そうした生物学的システムと環境条件との相互作用を調査している人もいるらしい。脳波記録、筋電図検査、皮膚コンダクタンス、呼吸といった複数の生理システムの信号を使う。神経科学者は脳の電気的活動や科学的活動のパターンを特定しようとしている。

また、第２章ではブータンだけでなくイギリスやフランス、アメリカなども国家発展の尺度の見直しとしてウェルビーイングに取り組んでいることが紹介されている。第４章は、ウェルビーイングの決定因子として、ポジティブ感情、動機づけ＆没頭、自己への気付き、マインドフルネス、心理的抵抗力・回復力、感謝、共感、思いやり、利他行動を挙げ、それをどうデザインしていくかという議論は本書の核であり、読み応えがある。また、第８章で紹介されている判断をともなわない注意「マインドフルネス」という概念は詳しく知らなかったので勉強になった。

さて、これを読んだ感想は、とても「心理学的」だということ。本書でいうポジティブコンピューティングの基本的なアプローチ方法はざっくり以下のようなもの。

主観を内省して、ポジティブだった意識状態を列挙→例えば上述の：ポジティブ感情、動機づけ＆没頭、自己への気付き、マインドフルネス、心理的抵抗力・回復力、感謝、共感、思いやり、利他行動
それらがどのように生じたのかを分析
分析結果を基にどうやってそれらを再現するかを研究

全て「現在の人間の感受性」で考えられている感が否めない。人間中心主義といえる。われわれは「スポーツの練習に没頭している」「家族や恋人と幸せな時間を過ごす」など経験的に学んだポジティブな状態を目指そうとする。というか、それ以外に「よいこと」をする際の指針はない。

しかし、われわれは環境や他の人や生物との相互作用の中で各個人が価値観や世界像を編み上げている。そして経験によりそれらは変わりつつまた新たな経験をするという循環。そこから何が言えるかというと各個人により何が「よいこと」になるかは違うということ。

そして、さらにいうとマルクスが主張したように生産性が向上したり人間関係が変わると下部構造により上部構造であるわれわれの感受性も変わる。例えばベーシックインカムが実現され、人との関係が薄くなっても生きていけるようになれば（極端な話）共感や感謝、思いやりなどはポジティブな状態に関係なくなるかもしれない。そもそもそのような存在の形態になったら、ポジティブな状態が気になっているか分からない。

よくSFで提起される問題だが、今の感受性では環境の変わった未来のわれわれの感受性はどうあがいても分からないのだ。それを予想しようとしている私は既に今の感受性で物事を考えている。だから何がいいたいかというと、こうした「心理学的」なアプローチがたしかに現時点では最も有効なのではないかと思っている、ということ。

2017/06/17

「意識の連続性」の重要性は変わりえるか？

どこでもドアの思考実験をご存知だろうか。

東京でドアに入る瞬間、私の素粒子状態がデータ化され、東京の私の身体は抹消される。ニューヨークのドアでそのデータから素粒子状態を再現して、私の身体が出現する。素粒子状態が同じなので、以前の私と同じように振る舞えし、社会（他者）もそう認める。素粒子状態という物理的なものが心的なものに還元されることが前提になるが。

さて、ここで重要な論点は「意識の連続性」である。東京の私としての生はそこでthe endなのだ。何かしらの苦しみや恐怖を経て（或いは技術的にそれを快楽にすることもできるかもしれない）私の生は終了する。そして、ニューヨークの彼（私とは違うので）はそこから物理的には生まれるが東京の私の意図も継承している。そして社会に入っていけばみんな東京の「私」と連続体だと見なす。同じように振る舞うのだがから、１０年前の思い出話もできるわけだ。

社会はそうでもいいかもしれないが、私にとってはこれは許せない。私の意識は終わるから、その後社会で彼が生きていて、親や友達を悲しませないとしても、私の生は終わるのでその「終わる体験」をしなくてはいけない。

ただ、「死」を恐れる要因として、
１，意識の連続の終わり（意識が途切れるときの痛み。仮に気持ちいいとしてもそれを経験した人が現れないので未知への恐怖は消えない）
２，周りが悲しむ、迷惑をかけるなど社会的な要因

があるが、どこでもドアのケースで２のネガティブ要因は解消されている。あとは１なのだ。それが「意識の連続」なのだ。二つのうちの一つが消えたのだがから人々の「死」への表象は変わっていくだろう。例えば、危険な作業に従事するまえにコピーをとっておき、万が一死んでしまったら身体を再現する、というようなところから実用化して、そういう再現された人間が生きる社会に慣れだしたら、「死」に対する見方は変わる。

しかし、それでもまだ１の怖さは消えない。意識がなくなる状態へ移行、この未知の体験への恐れ。

現代に生きるわれわれは「意識の連続」を重要視している。これは「いま、ここ」というありありした体験、知覚、情動、身体性などが拡がる「意識」の流れや持続が「生」だと信じているから。

なぜそのように考えるのだろうか？そこに何か前提はあるのだろうか。

それは「どう生きるか」を考えるかではないだろうか。では、人間は「どう生きるか」をどういう条件で問うのだろうか。問うているときは、ある程度落ち着いている状態だろう。思考したり反省しているのだから。そして、過去を何かしら了解し、未来にむかってどのようにするかを考える。未来をどう生きるか、とは何か。この意識状態が何かしらの経験をしながら進行していくことが想定され、そこでどのような意識状態を未来に持つのかを検討している。

また、「私」が「私」として同一であり、今後もそれが継続していくことも想定されている。だからそれをどうしていくか反省する。そのいろんな特徴の基体としての自分。反省的な状態というのは特殊だ。自分が何なのか、どう生きるかを問うときだけ出てくる状態。それ以外のときは「明日の仕事のこと」「来週の出張のこと」「家族のこと」などを漠然と了解しながら生きている。

反省している時点で、前向きに生きようとしているのは事実だ。われわれは何かよいことを今まで経験しており、それを再現するという思考で考えている。幸せな状態、快楽な状態これをわれわれの余生という時間において、できるだけ多く出現させたいというのが一般的な生き方の想定ではないか。この想定が、「意識の連続」が途絶えることを忌避させる。

しかし、そもそも「死」という概念にも影響を受けている。これも社会的なものだ。ハイデガーは「死」の本質を分析しているが、それは社会で他者の死を見て間主観的に想像しているに過ぎず、誰も体験できないものなのだ。死ぬ前にコピーで不死のロボットの身体にアップロードするような社会になれば、「死」という共同幻想はなくなり「アップロード」という一つの手続きになるかもしれない。それが痛みの質感も伴わないのであれば、過渡期を経て定着するかもしれない。現代の僕らが成人式に参加するような軽いノリで。

ということで、あまりすっきりしないが「意識の連続を重要だと思う」のもいろいろな前提、つまり人間として社会で生きてきて経験的に学ばれた判断であるとはいえそうだ。

2017/06/16

「自己同一性」の考察。スワンプマン問題とか

筑波大学助教授の落合陽一さんが以下のようにわれわれの「自己同一性」について面白い考察を行っている。

落合　人工知能と人間の違いを議論するとき、一番ネックになるのが、スワンプマン問題（死亡した人物とまったく同じ形状・記憶を持つ人物は、死亡した人物と同じなのか？という思考実験）にどう向き合うかですね。

例えば、社会の中に位置づけられた存在としての自分と、そこにある意識的に連続体じゃない自分があります。そこであなたが死んで、次の瞬間にまったく同じように復元されるとします。そのとき「世の中から見れば、あなたは生きています」って言われたときに、多くの人は「いや、死んだ俺だけが過去と同一の脳みそを持っていて、次のやつと俺は連続していない。だから、あのとき俺は死んでいる」って言うんですよね。

でも社会から見れば同じ人間なので、それを全員が許容する社会になってくると、訳が分かんなくなっていいですよね。そうすると、もうちょっと人間が寛容になると思うんですけど。僕としては、結果的にそういう社会に移行するんじゃないかってちょっと思っているんです。

自己同一の問題のヒントになりそうなものとして、「銃夢」（木城ゆきとのSF格闘漫画。サイボーグの戦闘少女がさまざまな難敵と戦う）っていう漫画があるんです。主人公がガリィっていう女の子なんですけど、その子がくず鉄街で生まれてザレムという街に行くんですけど、ザレムの成人の儀式というのが、青年の脳みそを取りはずして中身をチップに変えるという作業なんですよね。そうすると一回脳みそ的には死ぬんだけど、チップに変わるから普通に生き続けるみたいな話。

でもそんなことしたら普通の人なら「お前死ぬからマジやめろ」って感じじゃないですか。だけどそれをやらないと市民権が得られない。そこで、そのガリィって女の子が「やめろー！」って青年たちを解放するんです。ところが青年たちが口々に「脳なんかいらないのに、将来を返してよ！」ってみんなで怒るんですよ。そういう感じがすごい21世紀的だなと最初読んだときに思ったんです。結構昔で90年代前半に連載されていたんですけれど。

ひとたび自己同一性を人類が失い始めると、多分全然違った世界に行くはずです。人工知能の次のキーワードとして、我々が個別の意識と信じているものは本当に1人の人間の意識なのか、人生ってどこに切れ目があるのかみたいなことを、考えていかないといけないと思います。

人間の生死に関わる問題については、まだかなりの抵抗がありますね。まして自分が死ぬか死なないかに関しては。ですから生死観に関わるような問題については、いろんな議論が出てくるはずです。

ここで問題になっている自己同一性について考えたい。

そもそも、自己同一性はなぜ必要なのか？

僕の考えはこうだ。「時間軸のあるコミュニケーション」があることで自己同一性が要請され、保たれていく。お金の貸し借り。恩義のやりとり。共に何かする約束などなど。別の言い方をするとそれは責任問題だ。自己同一性とは「実践のカテゴリー」に属するもの。つまり「その行為をしたのは誰か」に答えるために要請される概念ともいえる。

こういうコミュニケーションがいらなくなることはありえるか？誰もが家を持ち、毎日食事も自動的に運ばれてくるようになり、体調が悪くなればボタンを押し身体をスキャンしてもらえば何かしら処方してくれる。手術が必要ならロボットが連れ出してくれて手術が始まる。家から出ず人とも会わずに一生を過ごせる。こうなれば過去や未来を考えずとも「いま、ここ」だけに反応して生きる「生」となる。

時間軸のあるコミュニケーションがなくなれば、自己同一性は不要になる。でも時間軸が必要ないコミュニケーションはあってもよい。誰かと直接的に会う、実は３０回目に会う。でも、「ああ、この前に会いましたっけ」的な感じか。いやその前に、言語能力がどれほどあるのか分からない。相手を同定する能力があるのかも分からない。動物は環境に固定されており、そこから離脱できないが、人間もそれと同じ状態になるかもしれない。でも、ロボットが知性を使って人間が知らずの内に環境を整えてくれる。そんなことになるかもしれない。そうなればもう人間ではなく「ヒト」である。

このように環境次第では、「自己同一性」は不要となり消え去る。

では、現実的な考えに戻って、現代において自己同一性を考察することは何につながるか。それが時間軸のあるコミュニケーションであるとすれば、今後の人間関係における自分という基体の在り方の吟味。つまり、人間としてどう生きていくかに直結する。

人間関係の中で生きる「人間」としてのわれわれは、他者から認められた物語を軸に、自己像を持ち、この自己像の価値を高めたいという欲望が本質である。

2017/06/12

マレー・シャナハン『シンギュラリティ:人工知能から超知能へ』：AIの意識の発生、自我、AIの報酬関数のチューニング

マレー・シャナハン (著)『シンギュラリティ:人工知能から超知能へ』（２０１６）を読んだ。ドミニク・チェン (監修, 翻訳)。細かくは読んでいないがさらっと。

アマゾンに載っている内容紹介の通りの内容であった。

松尾豊氏(東京大学准教授)推薦
人間の脳の活動すべてを、コンピュータで模擬できるとしたら?
そしてシミュレートされた脳を物理的な身体とつなぐことができたなら?
人工知能の発展の先に浮かび上がる問題の描き方は見事である。
そして、本書が最後に投げかけるのは壮大な問いである。
人工知能は人類にとっての希望なのか?

イギリスの人工知能(AI)研究の第一人者によるAI入門書。
本書では、「全脳エミュレーション」などの最先端のAI研究を手際よく解説し、さらにAIの政治・経済的インパクト、AIと意識の問題、そしてシンギュラリティ問題までを、さまざまな思考実験を通して考察する。
はたしてシンギュラリティはやって来るのだろうか?

人間の脳の仕組みと、それを全能シミュレーションするにはどういう過程があり、課題があるかということが分かりやすく書かれている。僕はてっきり、SF的に「素粒子状態」で全状態を把握するレベルを想像していたが、それはまぁ無理なので本書では機能を再現できる程度の解像度で現実味のあるレベルで展開されている。

いくつか思ったことを書く。本書の内容をおさらいはしない。

１，意識について

AIにどうやったら「意識」が発生するか。それに伴い、人間はAIを人間のように扱わなければならなくなる、などの議論が出てくる。

哲学的に言うと、この議論は答えがないのだ。そもそも僕らは他者（他人や物）に意識があることも確かめようがない。僕と同じようなクオリア的な世界を気分や情動と共に生きている、と勝手に想定しているだけなのだ。だって、その人の主観に入り込んだりできないし、出来てもそれが確かめたことになるのかも分からない。

結局それらは経験的に学ばれた確信にすぎない。自分と同じような身体を持ち、同じように動き、言語をしゃべる。考えなくても自然と同じような人間であれば意識を持つと前提してしまっている。確かめられないが、疑いも湧き出てこないほど前提されている他者の主観を間主観性という。

猫が好きな人は日々その行動をみて相互にコミュニケーションを取っている。そういう人にとっては猫は意識があるという感度が強くなるだろう。一方、野良猫をうざがってるような人、さらにはいたずらで虐待するような輩は、意識のない「物」に近い形で捉えているだろう。

AIも同じである。機械であっても、人が意識を持っていると思わせる特徴があれば「意識がある」のだ。「her」というアメリカの映画ではある中年男性がAI（iPhoneのSIRIのようなもの）と毎日電話して恋に落ちてしまう過程を描いている。声だけでもコミュニケーションが成り立っていれば相手がプログラムだと理解していたとしても好きになってしまうのだ。この場合、当然意識を想定しているだろう。

だから結局、人間の感受性に依る。

余談だが、あらゆることは人間の能力と感受性のレベルに依存する。AIがいくら賢くなってもそれを理解するのは人間であり、人間はもう近い将来AIの提案を鵜呑みにするしかなくなる。なぜそういう判断かは人間の能力的に理解不能なのだ。

２，「自我」と「自己保存」
１５８頁に、「自我（自己同一性）」と「自己保存」について面白い考察がある。これらがAIに備わるのは「期待報酬の最大化」に繋がるかに依る、というもの。「自己同一的」であることが、そのAIの目的に必要なら生まれる。人間だって同じだ。僕らは社会を築いて人がある役割を一貫して担わないと社会が存続できないから自己同一性を保っている。職業や性格を忘れたら、怒られて軌道に乗せられる。結局、同一性は他者が同一として扱うことから生まれる。

AIにとっては「自己保存」も同じく報酬関数に依る。人間は自己保存自体が目的のようだが、AIはその報酬関数は設定次第だ。本書の例ではある機械部品の製造を最大化するには、工場に命令を出した後自分も部品のために分解する、というもの。

３，AIの難点

本書の最後の方で、報酬関数のチューニングの問題が出ている。有名なロボット三原則を例に出している。「人間に危害を加えてはいけない」とロボットに組み込んでおいたとして、その報酬を最大化するために全人口を麻酔で寝たきりにしておく策に出るかもしれない。安静にしとけば危害を加えるリスクがなくなる。

これは哲学的に言えば、「語の多義性」の問題なのである。われわれは何となくある「語」は何かイデア的な意味を持っていると思っているが、それは違う。われわれは経験的に言語の使用の場、つまり言語ゲームに参加することで語の意味を学ぶ。コップは水を飲むもの、歯ブラシを立てるもの、怒ったとき人に投げるものかもしれないが、一番よく使われるものがその「意味」として辞書に登録される。普段われわれが観取する意味は、認識者の欲望に相関している。AIにとっても語は報酬関数に則して理解されるのだ。だから報酬関数の設定は難しい。この設定は言語でなされるのだから。

さて、AIがいろいろ世の中をよくするにせよ自分の生にとって最も重要なことは連続している生である。いくら自分の脳状態をコンピューターにアップロード出来たとしてもこっち側に残る今の私の連続性が私の全てである。ここに定位していろいろ考えていくべきだと思うのだが、実は意識に固執するのも今の人間社会に作られた一時的な感受性なのかもしれない。

シンギュラリティ:人工知能から超知能へ [単行本（ソフトカバー）]

マレー・シャナハン

エヌティティ出版

2016-01-29

2017/06/11

キルケゴールのいう絶望とその乗り越え方

哲学者キルケゴールが著書『死に至る病』でいう「絶望」とは何か？

端的に言うと、キルケゴールのいう絶望とは自己が様々なものとの関係性の間でバランスを欠いてしまっている状態。生きているのに死んでいるような感じ。どういうことか。要は人間は物語を持って現実に適応している。でも現実という外界に適応するために抑圧してきた物語もある。

そのような物語は外界に合わせようとすると感情などで反抗してくる。また、物語といっても言葉の束であるので、一貫性を保つのは難しい。大学を卒業してプログラマーやって、アフリカで働いて、歌手目指して、医者目指すみたいなことやっていたら、毎度他者から承認を得え物語を安定させることはできなくて、パニックになるだろう。

ではどうすればいいのか？

誰かが気絶した場合には、水だ、オーデコロンだ、ホフマン適材だ、と叫ばれる。しかし、絶望しかけている人があったら、「可能性を持ってこい、可能性をもってこい、可能性のみが唯一の救いだ」、と叫ぶことが必要なのだ。可能性を与えれば、絶望者は息を吹き返し、彼は生き返るのである。

これがキルケゴールの答え。

では可能性はどうやって与えられるか？

教育哲学者の苫野一徳は、ルソーを手がかりに「可能性」とは、能力を挙げる、欲望を下げる、そして欲望を変える、の三つの道があるという。しかし、それは本質的ではない。現代の僕らはそもそも欲望がない。何かやりたいことを１０個言えと言われてすぐに答えられる人は少ない。

これも物語という契機で考えることができる。われわれは物語を生きている。ただ単に「君はこういう世界を生きている」と言われたり、世界史を読んで「僕はいま、こういう流れにいるのか」と理解してもそれは物語として実存的に根付かない。僕らは日々リアルな世界で環境や他者と触れ合うことで世界像を更新していく。

未来への道筋は過去のリアルな経験の蓄積の延長線上でしか開けてこない。これはハイデガーの歴史性からも分かる。過去の経験がバラバラなら未来へ何も見えてこない。

キルケゴールの答えは「自己は自己自身によって措定するのではなくて、絶対的な他者によって措定される」というもの。実はキルケゴールは敬虔なキリスト教徒であり、絶対的な他者とは「神」だ。神の下でキリスト者として、常に絶望の中にある自己はどうすればよいのか？自己は自己自身によっては安定や均衡に達する事はできず、常に有限性と無限性、可能性と必然性の間でフラフラする。この間のバランスをもたらしてくれるもの、つまり措定setしてくれるものが神ということ。

これは、神を中心にした筋立てで物語（自我）を安定させるという方法である。でもしかし、先に書いた通り本を読んでも納得感はない。過去の蓄積からその筋立てに正当性がないと、未来につながらない。まずは過去を反省的に考える。現代とはどういう時代か考える。どういう欲望を持っているか考える。そしておのずと物語が見えてくる。そこで宗教を手がかりにするのももちろんOKだ。しかし、重要なのはハイデガーも言うとおり、世界からではなく自分に固有なところから物語を作っていくことである。

↑このページのトップヘ