記述の基体(がらくた)

【ブログ】日々の思ったことを徒然なるままに書いております。基本殴り書きで校正しておりません。【世界観】人は動物のように本能で現実に向き合っているのではなく、言語を通じてのシンボル体系としての世界、その世界の中の私(自我)という物語で現実にしがみついている。【取り組み】(1)現をよく存在させたい。そのためのよりよい社会や世界に向かう。(2)卓越した創作をしたい。そのためにはより多くのゲシュタルト(パターン・観念・概念)を獲得→世界でよく行動し、読書。【価値観】結局は「朋あり遠方より来たる、また楽しからずや」【プロフィール】東京出身のアラサーです。※著作権についてはオプトアウトに対応させていただいております。何かに共感された方はご連絡ください。 【コメント欄へのフィードバックお待ちしております。個人的な質問、反論、脅迫などはTwitterへお願いします。】

カテゴリ: 人間とは何か

以下の人工知能の未来を問うNHKスペシャルで面白い場面があった。

 

ある企業の人事部では離職率を下げるために新入社員に定期的に相談の機会を設けている。人事は彼彼女たちにいろいろな質問をし相談に乗る。この結果を多く集め実際の離職のデータとともに解析する。さまざまなパターンを見出しAIは結果を導く(これをAIと呼んでいいのかは措く)。この結果は人間からは理屈が分からなかったが、後日AIの言う通りになるケースが頻発する。

人間は、こうしてAIの弾き出す結果に信頼を寄せるが、理屈も分からないでこれを信じ新入社員に対策を取ることに違和感を感じる。そもそもどうやって何をやってあげればいいのか分からないであろう(笑)

似たようなことは昔からあったはずだ。理屈は分からないがAIはそう言っている。こう言う場合どうすればいいのだろか。結局は感受性に依る。人事の相談レベルであればこれを鵜呑みにして、新入社員の相談を増やすなど対策を取るのは問題ないだろう。しかし、このドキュメントで紹介されているような刑務所の囚人に対する対応など重めの判断はかなり慎重にならざるをえない。

今後、人間のようにコミュニケーションの取れるAIが出て来るだろう。これらへの接し方も感受性次第だ。そもそも、原理的にわれわれは他者が意識を持つかどうか分からない。人間ですらそうなのだから、猫も犬も、サルも石も桜も意識を持つか否か分からない。それと面と向かって接してみて「意識を持たないモノ」として扱えるか否かの感受性に依る。

人間同士でも感受性はバラバラだ。先日の障害者殺害事件のように障害者をモノのように扱うような感受性を持つ反社会的な人間もいる。猫を子供のように可愛がり死んだら大泣きする人もいれば、猫を殺して食ってしまう感受性を持つ者もいる。結局は人間の感受性に依るのだ。映画herの主人公のように、姿形もない音声だけでも会話がうまくできれば恋をする。

今後、こうしたきわどい判断をしなければならない機会が増えるだろう。社会学者のユルゲン・ハーバーマスは、こうした変化にゆっくり着実に対応してゆこうと提言している。 

なぜ街に行きたくなるか。僕は昔から暇があると池袋の人混みを通り、そこそこ人のいるカフェで読書やぼーっとするのが好きだった。今もこうして新宿のカフェでぼーっとしている。

2017-06-16-21-24-02

こうやっていろんな人々がいるごちゃごちゃした都会が好きだ。上海にいるときもそうだった。

2017-06-16-21-23-55

なぜなのだろう。そこに生の本質を掴み取る契機があるのではないかと考えていた。

なぜ街に来てしまうのだろう。それが最近分かってきた。

2017-06-16-22-06-15

それは無根拠な生とう現事実を、人間という物語で忘れることができるからだ。いろんな見た目で色々な目的の人間が生きている。無根拠ながらそんなことは完全に忘却して自分の物語を生きる。各自それぞれが全く違うストーリーを持ち、それに没頭している。

街とは人間的なものだ。動物の世界にはない。人は何かの目的をもって街に来る。目的を探すという目的も含まれる。そこには人の「行為」の束がある。何かを意志して行う。申し開きできること。みんなが物語を生きている。

2017-06-16-22-06-20
 
そんな人々のいる、そんな人々が物語として作った街の中で見て、そして自分がその中にいることで無根拠の不安から逃れられるのかもしれない。

物語を作るのは欲望だ。こうした欲望の色が強ければ強いほどいい。池袋西口、新宿、上海。僕が好きな街はエロスに満ち溢れている。

ルンバは床を移動するだけだ。ルンバの前に片付けが必要。片付けは難しい。散らかった対象を認識し移動する。高度な技術がいる。しかし、これもAIとはいえない。同じように、冷蔵庫から材料を出し調理する料理ロボットもAIではない。

ではAIとは何か?人工知能。人間のようなコンピュータ、というのがもともとのニュアンスだろう。

では人間の本質は何か?

それは、意味と価値の世界を生きているということ。

これは<わたし>にしか分からない。<わたし>は少なくとも意味と価値の世界を生き、他の人間も同じだと確信を持っている。別の言い方をすれば質的なクオリアの世界を生きているということ。意識を持っていること。

それは外観や振る舞いから判断するしかない。

それゆえ、最終的には感受性である。

ルンバに愛着を持ち、感情移入してしまえばその人にとってルンバはAIとなる。

人はみな、被投的に始まってしまっている生を歩んでいる。被投的というのは要するに無根拠であり、神秘である。なぜ私が私としてこの色とりどりの世界を経験しているのか、誰も分からない。いや、誰もというか私は私のことしか分からないので、少なくとも私は分からない。でも、普段私(も他の人々も)そんなことは問わずに人間社会を生きている。

改めて考えてみると、私の生とは「いま、ここ」の持続、ウィリアム・ジェイムズ的にいえば「意識の流れ」がわれわれ各個人の生である。

この「意識の流れ」を「よく」したい。ポジティブなものにしたい。

と考えるのは、少し突き詰めて思考したらたどり着く考えではないだろうか。全てを自分の意識に還元するのだ。恋人や家族や友人のためというのも、結局はそれを思っていて最終的に嬉しい私に行き着く。

以下の本では、このように還元された意識内での「よいこと」を「ウェルビーイング」として、それをベースにサービスとか社会設計とか考えていくためにウェルビーイングをどう設計するかというエキサイティングな本である。

ラファエル A. カルヴォ & ドリアン・ピーターズ (著)『ウェルビーイングの設計論-人がよりよく生きるための情報技術』。監修は、渡邊淳司&ドミニク・チェン、翻訳は木村千里 。

ウェルビーイングの設計論-人がよりよく生きるための情報技術
ラファエル A. カルヴォ & ドリアン・ピーターズ
ビー・エヌ・エヌ新社
2017-01-24



アマゾンの頁での内容紹介は以下の通り。
人の「こころ」の領域にまでITが入り込んできた今、人間の潜在能力を高め、
よりいきいきとした状態(=ウェルビーイング)を実現するテクノロジーの設計、
すなわち<ポジティブ・コンピューティング>のアプローチが求められています。
近年注目されている「マインドフルネス」や「レジリエンス」、「フロー」なども
ウェルビーイングを育むための要因ですが、ではこういった心理的な要因とテクノロジーを、
どう掛け合わせることが出来るでしょうか。
本書では、ウェルビーイングに関する様々な分野の最新の研究成果を基に、
この問いを解き明かしていきます。
これからのテクノロジーの在り方や、向き合い方を考えるうえでの基盤となる一冊です。

****
人間がよりよく生きるとはどういうことだろうか? 
心という数値化できないものを、情報技術はどうやって扱えばよいのだろうか? 
本書は、このような問いに答えようとする者に対して、示唆に富んだヒントを与えてくれるだろう。
(「監訳者のことば」より)
****
大体想定していたことが書かれていたが、様々な具体的な情報や事例が出されておりこの分野について理解がとても深まった。面白かった部分を少し紹介し感想を述べる。本書で言われる「ウェルビーイング」という用語は、「心理的機能が人間として考えうる最適な状態にあることを強調した表現」であり、ポジティブ心理学の世界では広く受け入れられているようだ。ただ、この曖昧な定義をどう捉えるかについて3つのアプローチがある。
  1. 医学的アプローチ:精神機能障害がない状態
  2. 快楽的アプローチ:喜びの感覚の集合として(人生の何%がポジティブな感情で占められているか)
  3. 持続的幸福的アプローチ:人生に意義を見出し、自分の潜在能力を最大限に発揮している状態
の3つが現代のウェルビーイング理論の基盤となっているようだ。そしてここで取り上げられている理論はどれも単なる仮説ではなく、十分な実証的な裏付けがあるという。

少し細かく見ると、「快楽心理学」であればポジティブ感情の体験をもとにウェルビーイングを定義していく。カーネマンの議論も出てくるが、これは主観的ウェルビーイングである。研究方法は、もし幸せだという自覚があるなら、伝えてほしい、というもの。

ライフイベント、人生の満足度、充実度をはじめとする個人の人生に対する認知的評価と感性的評価からなり実際に国民総幸福量子数の開発に利用されているらしい。さらに時間軸の観点でいうと、個人の自己報告は「オンライン=リアルタイム」「想起」「長期間にわたる人生評価」の3つがある。

持続的幸福的アプローチは、エウダイモニア的アプローチとも呼ばれ、自律性、有能感、関係性を軸にした自己決定理論があり、さらに快楽的アプローチと組み合わせてフロー理論でお馴染みのチクセントミハイなどのポジティブ心理学、情動知能、仏教の心理学なども参照されている。

また、最後に生理学的に確認可能なウェルビーイングとして「生物学と神経科学」のアプローチも紹介されている。ここでは個人の感情を理解するために生理学的信号や脳信号を用い、遺伝子や身体の健康状態を調査したり、そうした生物学的システムと環境条件との相互作用を調査している人もいるらしい。脳波記録、筋電図検査、皮膚コンダクタンス、呼吸といった複数の生理システムの信号を使う。神経科学者は脳の電気的活動や科学的活動のパターンを特定しようとしている。

また、第2章ではブータンだけでなくイギリスやフランス、アメリカなども国家発展の尺度の見直しとしてウェルビーイングに取り組んでいることが紹介されている。第4章は、ウェルビーイングの決定因子として、ポジティブ感情、動機づけ&没頭、自己への気付き、マインドフルネス、心理的抵抗力・回復力、感謝、共感、思いやり、利他行動を挙げ、それをどうデザインしていくかという議論は本書の核であり、読み応えがある。また、第8章で紹介されている判断をともなわない注意「マインドフルネス」という概念は詳しく知らなかったので勉強になった。

さて、これを読んだ感想は、とても「心理学的」だということ。本書でいうポジティブコンピューティングの基本的なアプローチ方法はざっくり以下のようなもの。
  1. 主観を内省して、ポジティブだった意識状態を列挙→例えば上述の:ポジティブ感情、動機づけ&没頭、自己への気付き、マインドフルネス、心理的抵抗力・回復力、感謝、共感、思いやり、利他行動
  2. それらがどのように生じたのかを分析
  3. 分析結果を基にどうやってそれらを再現するかを研究
全て「現在の人間の感受性」で考えられている感が否めない。人間中心主義といえる。われわれは「スポーツの練習に没頭している」「家族や恋人と幸せな時間を過ごす」など経験的に学んだポジティブな状態を目指そうとする。というか、それ以外に「よいこと」をする際の指針はない。

しかし、われわれは環境や他の人や生物との相互作用の中で各個人が価値観や世界像を編み上げている。そして経験によりそれらは変わりつつまた新たな経験をするという循環。そこから何が言えるかというと各個人により何が「よいこと」になるかは違うということ。

そして、さらにいうとマルクスが主張したように生産性が向上したり人間関係が変わると下部構造により上部構造であるわれわれの感受性も変わる。例えばベーシックインカムが実現され、人との関係が薄くなっても生きていけるようになれば(極端な話)共感や感謝、思いやりなどはポジティブな状態に関係なくなるかもしれない。そもそもそのような存在の形態になったら、ポジティブな状態が気になっているか分からない。

よくSFで提起される問題だが、今の感受性では環境の変わった未来のわれわれの感受性はどうあがいても分からないのだ。それを予想しようとしている私は既に今の感受性で物事を考えている。だから何がいいたいかというと、こうした「心理学的」なアプローチがたしかに現時点では最も有効なのではないかと思っている、ということ。

どこでもドアの思考実験をご存知だろうか。

東京でドアに入る瞬間、私の素粒子状態がデータ化され、東京の私の身体は抹消される。ニューヨークのドアでそのデータから素粒子状態を再現して、私の身体が出現する。素粒子状態が同じなので、以前の私と同じように振る舞えし、社会(他者)もそう認める。素粒子状態という物理的なものが心的なものに還元されることが前提になるが。

さて、ここで重要な論点は「意識の連続性」である。東京の私としての生はそこでthe endなのだ。何かしらの苦しみや恐怖を経て(或いは技術的にそれを快楽にすることもできるかもしれない)私の生は終了する。そして、ニューヨークの彼(私とは違うので)はそこから物理的には生まれるが東京の私の意図も継承している。そして社会に入っていけばみんな東京の「私」と連続体だと見なす。同じように振る舞うのだがから、10年前の思い出話もできるわけだ。

社会はそうでもいいかもしれないが、私にとってはこれは許せない。私の意識は終わるから、その後社会で彼が生きていて、親や友達を悲しませないとしても、私の生は終わるのでその「終わる体験」をしなくてはいけない。

ただ、「死」を恐れる要因として、
1,意識の連続の終わり(意識が途切れるときの痛み。仮に気持ちいいとしてもそれを経験した人が現れないので未知への恐怖は消えない)
2,周りが悲しむ、迷惑をかけるなど社会的な要因

があるが、どこでもドアのケースで2のネガティブ要因は解消されている。あとは1なのだ。それが「意識の連続」なのだ。二つのうちの一つが消えたのだがから人々の「死」への表象は変わっていくだろう。例えば、危険な作業に従事するまえにコピーをとっておき、万が一死んでしまったら身体を再現する、というようなところから実用化して、そういう再現された人間が生きる社会に慣れだしたら、「死」に対する見方は変わる。

しかし、それでもまだ1の怖さは消えない。意識がなくなる状態へ移行、この未知の体験への恐れ。

現代に生きるわれわれは「意識の連続」を重要視している。これは「いま、ここ」というありありした体験、知覚、情動、身体性などが拡がる「意識」の流れや持続が「生」だと信じているから。

なぜそのように考えるのだろうか?そこに何か前提はあるのだろうか。

それは「どう生きるか」を考えるかではないだろうか。では、人間は「どう生きるか」をどういう条件で問うのだろうか。問うているときは、ある程度落ち着いている状態だろう。思考したり反省しているのだから。そして、過去を何かしら了解し、未来にむかってどのようにするかを考える。未来をどう生きるか、とは何か。この意識状態が何かしらの経験をしながら進行していくことが想定され、そこでどのような意識状態を未来に持つのかを検討している。

また、「私」が「私」として同一であり、今後もそれが継続していくことも想定されている。だからそれをどうしていくか反省する。そのいろんな特徴の基体としての自分。反省的な状態というのは特殊だ。自分が何なのか、どう生きるかを問うときだけ出てくる状態。それ以外のときは「明日の仕事のこと」「来週の出張のこと」「家族のこと」などを漠然と了解しながら生きている。


反省している時点で、前向きに生きようとしているのは事実だ。われわれは何かよいことを今まで経験しており、それを再現するという思考で考えている。幸せな状態、快楽な状態これをわれわれの余生という時間において、できるだけ多く出現させたいというのが一般的な生き方の想定ではないか。この想定が、「意識の連続」が途絶えることを忌避させる。

しかし、そもそも「死」という概念にも影響を受けている。これも社会的なものだ。ハイデガーは「死」の本質を分析しているが、それは社会で他者の死を見て間主観的に想像しているに過ぎず、誰も体験できないものなのだ。死ぬ前にコピーで不死のロボットの身体にアップロードするような社会になれば、「死」という共同幻想はなくなり「アップロード」という一つの手続きになるかもしれない。それが痛みの質感も伴わないのであれば、過渡期を経て定着するかもしれない。現代の僕らが成人式に参加するような軽いノリで。

ということで、あまりすっきりしないが「意識の連続を重要だと思う」のもいろいろな前提、つまり人間として社会で生きてきて経験的に学ばれた判断であるとはいえそうだ。

筑波大学助教授の落合陽一さんが以下のようにわれわれの「自己同一性」について面白い考察を行っている。

落合 人工知能と人間の違いを議論するとき、一番ネックになるのが、スワンプマン問題(死亡した人物とまったく同じ形状・記憶を持つ人物は、死亡した人物と同じなのか? という思考実験)にどう向き合うかですね。

例えば、社会の中に位置づけられた存在としての自分と、そこにある意識的に連続体じゃない自分があります。そこであなたが死んで、次の瞬間にまったく同じように復元されるとします。そのとき「世の中から見れば、あなたは生きています」って言われたときに、多くの人は「いや、死んだ俺だけが過去と同一の脳みそを持っていて、次のやつと俺は連続していない。だから、あのとき俺は死んでいる」って言うんですよね。

でも社会から見れば同じ人間なので、それを全員が許容する社会になってくると、訳が分かんなくなっていいですよね。そうすると、もうちょっと人間が寛容になると思うんですけど。僕としては、結果的にそういう社会に移行するんじゃないかってちょっと思っているんです。

自己同一の問題のヒントになりそうなものとして、「銃夢」(木城ゆきとのSF格闘漫画。サイボーグの戦闘少女がさまざまな難敵と戦う)っていう漫画があるんです。主人公がガリィっていう女の子なんですけど、その子がくず鉄街で生まれてザレムという街に行くんですけど、ザレムの成人の儀式というのが、青年の脳みそを取りはずして中身をチップに変えるという作業なんですよね。そうすると一回脳みそ的には死ぬんだけど、チップに変わるから普通に生き続けるみたいな話。

でもそんなことしたら普通の人なら「お前死ぬからマジやめろ」って感じじゃないですか。だけどそれをやらないと市民権が得られない。そこで、そのガリィって女の子が「やめろー!」って青年たちを解放するんです。ところが青年たちが口々に「脳なんかいらないのに、将来を返してよ!」ってみんなで怒るんですよ。そういう感じがすごい21世紀的だなと最初読んだときに思ったんです。結構昔で90年代前半に連載されていたんですけれど。

ひとたび自己同一性を人類が失い始めると、多分全然違った世界に行くはずです。人工知能の次のキーワードとして、我々が個別の意識と信じているものは本当に1人の人間の意識なのか、人生ってどこに切れ目があるのかみたいなことを、考えていかないといけないと思います。

人間の生死に関わる問題については、まだかなりの抵抗がありますね。まして自分が死ぬか死なないかに関しては。ですから生死観に関わるような問題については、いろんな議論が出てくるはずです。
ここで問題になっている自己同一性について考えたい。

そもそも、自己同一性はなぜ必要なのか?

僕の考えはこうだ。「時間軸のあるコミュニケーション」があることで自己同一性が要請され、保たれていく。お金の貸し借り。恩義のやりとり。共に何かする約束などなど。別の言い方をするとそれは責任問題だ。自己同一性とは「実践のカテゴリー」に属するもの。つまり「その行為をしたのは誰か」に答えるために要請される概念ともいえる。

こういうコミュニケーションがいらなくなることはありえるか?誰もが家を持ち、毎日食事も自動的に運ばれてくるようになり、体調が悪くなればボタンを押し身体をスキャンしてもらえば何かしら処方してくれる。手術が必要ならロボットが連れ出してくれて手術が始まる。家から出ず人とも会わずに一生を過ごせる。こうなれば過去や未来を考えずとも「いま、ここ」だけに反応して生きる「生」となる。


時間軸のあるコミュニケーションがなくなれば、自己同一性は不要になる。でも時間軸が必要ないコミュニケーションはあってもよい。
誰かと直接的に会う、実は30回目に会う。でも、「ああ、この前に会いましたっけ」的な感じか。いやその前に、言語能力がどれほどあるのか分からない。相手を同定する能力があるのかも分からない。動物は環境に固定されており、そこから離脱できないが、人間もそれと同じ状態になるかもしれない。でも、ロボットが知性を使って人間が知らずの内に環境を整えてくれる。そんなことになるかもしれない。そうなればもう人間ではなく「ヒト」である。


このように環境次第では、「自己同一性」は不要となり消え去る。

では、現実的な考えに戻って、現代において自己同一性を考察することは何につながるか。それが時間軸のあるコミュニケーションであるとすれば、今後の人間関係における自分という基体の在り方の吟味。つまり、人間としてどう生きていくかに直結する。

人間関係の中で生きる「人間」としてのわれわれは、他者から認められた物語を軸に、自己像を持ち、この自己像の価値を高めたいという欲望が本質である。

マレー・シャナハン (著)『シンギュラリティ:人工知能から超知能へ』(2016)を読んだ。ドミニク・チェン  (監修, 翻訳)。細かくは読んでいないがさらっと。

アマゾンに載っている内容紹介の通りの内容であった。

松尾豊氏(東京大学准教授)推薦
人間の脳の活動すべてを、コンピュータで模擬できるとしたら?
そしてシミュレートされた脳を物理的な身体とつなぐことができたなら?
人工知能の発展の先に浮かび上がる問題の描き方は見事である。
そして、本書が最後に投げかけるのは壮大な問いである。
人工知能は人類にとっての希望なのか?


イギリスの人工知能(AI)研究の第一人者によるAI入門書。
本書では、「全脳エミュレーション」などの最先端のAI研究を手際よく解説し、さらにAIの政治・経済的インパクト、AIと意識の問題、そしてシンギュラリティ問題までを、さまざまな思考実験を通して考察する。
はたしてシンギュラリティはやって来るのだろうか?

人間の脳の仕組みと、それを全能シミュレーションするにはどういう過程があり、課題があるかということが分かりやすく書かれている。僕はてっきり、SF的に「素粒子状態」で全状態を把握するレベルを想像していたが、それはまぁ無理なので本書では機能を再現できる程度の解像度で現実味のあるレベルで展開されている。

いくつか思ったことを書く。本書の内容をおさらいはしない。


1,意識について 
AIにどうやったら「意識」が発生するか。それに伴い、人間はAIを人間のように扱わなければならなくなる、などの議論が出てくる。

哲学的に言うと、この議論は答えがないのだ。そもそも僕らは他者(他人や物)に意識があることも確かめようがない。僕と同じようなクオリア的な世界を気分や情動と共に生きている、と勝手に想定しているだけなのだ。だって、その人の主観に入り込んだりできないし、出来てもそれが確かめたことになるのかも分からない。

結局それらは経験的に学ばれた確信にすぎない。自分と同じような身体を持ち、同じように動き、言語をしゃべる。考えなくても自然と同じような人間であれば意識を持つと前提してしまっている。確かめられないが、疑いも湧き出てこないほど前提されている他者の主観を間主観性という。

猫が好きな人は日々その行動をみて相互にコミュニケーションを取っている。そういう人にとっては猫は意識があるという感度が強くなるだろう。一方、野良猫をうざがってるような人、さらにはいたずらで虐待するような輩は、意識のない「物」に近い形で捉えているだろう。

AIも同じである。機械であっても、人が意識を持っていると思わせる特徴があれば「意識がある」のだ。「her」というアメリカの映画ではある中年男性がAI(iPhoneのSIRIのようなもの)と毎日電話して恋に落ちてしまう過程を描いている。声だけでもコミュニケーションが成り立っていれば相手がプログラムだと理解していたとしても好きになってしまうのだ。この場合、当然意識を想定しているだろう。

だから結局、人間の感受性に依る。

余談だが、あらゆることは人間の能力と感受性のレベルに依存する。AIがいくら賢くなってもそれを理解するのは人間であり、人間はもう近い将来AIの提案を鵜呑みにするしかなくなる。なぜそういう判断かは人間の能力的に理解不能なのだ。

2,「自我」と「自己保存」
158頁に、「自我(自己同一性)」と「自己保存」について面白い考察がある。これらがAIに備わるのは「期待報酬の最大化」に繋がるかに依る、というもの。「自己同一的」であることが、そのAIの目的に必要なら生まれる。人間だって同じだ。僕らは社会を築いて人がある役割を一貫して担わないと社会が存続できないから自己同一性を保っている。職業や性格を忘れたら、怒られて軌道に乗せられる。結局、同一性は他者が同一として扱うことから生まれる。

AIにとっては「自己保存」も同じく報酬関数に依る。人間は自己保存自体が目的のようだが、AIはその報酬関数は設定次第だ。本書の例ではある機械部品の製造を最大化するには、工場に命令を出した後自分も部品のために分解する、というもの。


3,AIの難点

本書の最後の方で、報酬関数のチューニングの問題が出ている。有名なロボット三原則を例に出している。「人間に危害を加えてはいけない」とロボットに組み込んでおいたとして、その報酬を最大化するために全人口を麻酔で寝たきりにしておく策に出るかもしれない。安静にしとけば危害を加えるリスクがなくなる。

これは哲学的に言えば、「語の多義性」の問題なのである。われわれは何となくある「語」は何かイデア的な意味を持っていると思っているが、それは違う。われわれは経験的に言語の使用の場、つまり言語ゲームに参加することで語の意味を学ぶ。コップは水を飲むもの、歯ブラシを立てるもの、怒ったとき人に投げるものかもしれないが、一番よく使われるものがその「意味」として辞書に登録される。普段われわれが観取する意味は、認識者の欲望に相関している。AIにとっても語は報酬関数に則して理解されるのだ。だから報酬関数の設定は難しい。この設定は言語でなされるのだから。

さて、AIがいろいろ世の中をよくするにせよ自分の生にとって最も重要なことは連続している生である。いくら自分の脳状態をコンピューターにアップロード出来たとしてもこっち側に残る今の私の連続性が私の全てである。ここに定位していろいろ考えていくべきだと思うのだが、実は意識に固執するのも今の人間社会に作られた一時的な感受性なのかもしれない。

シンギュラリティ:人工知能から超知能へ
マレー・シャナハン
エヌティティ出版
2016-01-29

 

↑このページのトップヘ