ウィリアム・マッカスキル著『見えない未来を変える「いま」：〈長期主義〉倫理学のフレームワーク』を読んだ。What We Owe the Futureの翻訳である。ここでいう「長期主義」（longtermism）というのは、「長期的に考え、今すぐ行動する」ことを重視する考え方らしい。「長期的な未来にプラスの影響を及ぼすことが、現代の主な道徳的優先事項のひとつである」という考え方を指す。

全体を通して感じたのは、若者が読むべき本であるということだ。70歳をすぎた爺さんが読んでも、あまり役に立たない。ただ、頭を整理するうえで、為になった面もある。いつものように、何カ所をメモとしてとどめておきたい。

 

79頁

「文化の進化は、ダーウィンの進化をつかさどるのと同じ３つの原理で記述できる。」

80頁

・変異――文化的形質は、その特徴に差異がある。

・適応度の差異――異なる特徴を持つ文化的形質は、生存や繁殖の成功率が異なる。

・遺伝――文化的形質は、模倣や言葉を通じて人から人へと伝達される。

 

109頁

急速な技術進歩と本質的な不滅性、このふたつのAGIの特徴が組み合わされると、価値観の固定化が現実味を帯びてくる。

AGIを用いて、今までよりもはるか未来まで価値観を延長させる方法がいくつかある。

ひとつ目は、人間の目標と密接に合致した目標を持ち、自律的に行動するAGIエージェントを開発する、という方法。AIを人間の糸と合致させる方法については、すでに多くの取り組みが行われてきた。たとえば、人間の行動を模倣したり、人間の目標を察したりできるAIシステムの開発がそうだ。

ふたつ目は、AGIの目標を具体的にコーディングする、という方法。どのような未来が望ましいかのかを厳密に指定し、AGIが確実にその目標の実現を目指すように導くのだ。

3つ目は、人間を〝アップロード〟するという方法。人間の脳を高解析度でスキャンし、その構造をコンピュータ上でエミュレート（模倣、再現）するのだ。現代のコンピュータが、古いビデオゲーム機をエミュレートして実行することで、レトロゲームをプレイできるようにするのと同じで、未来のコンピュータなら、人間の脳をデジタル形式でエミュレートすることによって、脳の機能を再現できるだろう。これは、アップロードされた頭脳がデジタル形式で生きつづけるのと、帰納的には同じことだろう。

110頁

4つ目は、これらの手法を組み合わせるという方法。最初のふたつの方法は、既存のAI研究を単純に拡張したものにすぎない。

 

276頁

英語では、未来は前、過去は後ろにある。たとえば、「目の前に待ち受けるものに備えよ」「後ろを振り返ってもしょうがない」「不安定な未来に直面している」「メアリ・ウルストンクラフトは時代の先端を行く思想家だった」という言い方をするように、こうした空間的比喩は、ほとんどの文化で共通していることがわかる。私たちの知るかぎり、世界のほとんどの言語が、未来を前、過去を後ろにあるものとして表現するが、数少ない例外もある。

もっとも詳しく研究されている例外が、アイマラ語だ。アイマラ族は、ボリビア、チリ北部、アルゼンチン、ペルーで暮らす、人口２００万人近い先住民族だ。その伝統衣装は色鮮やかで、部族国旗はテクニカルカラーのグリッチアートに似ている。そのアイマラ語では、未来は後ろ、過去は前にある。

 

277頁

ほとんどの言語が未来を前方にあるものとして表現するのは、私たちが歩いたり走ったりするとき、時間的にも空間的にも前に進むからだ。アイマラ語における時間のさらに重要な特徴は、私たちの知っているものと知らいないものにある。現在や過去は目の前に広がっているので、見ることができる。したがって、現在や過去については直接的な知識を得ることができるが、未来についてはそうはいかない。私たちが未来について知っていること、信じることはみな、現在や過去の体験から推測したものにすぎないのだ。ここに隠れた教訓がある。未来の計画を立てるときは、見知らぬ土地を後ろ歩きするような姿勢で臨むべきなのだ。

 

278頁

私たちがたびたび未来に関して深い不確実性を感じる理由はいくるかある。

第一に、一部の問題は大きなメリットとデメリットが混在し、それぞれをどう重みづけすべきかがよくわからないからだ。人工知能にまつわる戦略的な問題の多くがそうだ。たとえば、AIの開発を加速させるのはよいことなのか、悪いことなのか？　一方では、AIの開発を遅らせることで、汎用人工知能の開発に備えるための時間稼ぎができるだろう。その一方で、人工知能の開発を加速させれば、技術の停滞リスクを抑えられる。この問題に関しては、行動を誤れば努力が無駄になるだけではない。悲惨な結末が待つ可能性もあるのだ。

 

279頁

第二に、私たちが認識しているさまざまな懸念点を比較評価するだけでなく、私たちがまだ考えてもいない懸念点も考慮する必要があるからだ。２００２年、イラクの大量破壊兵器の証拠がないことについて話す際、アメリカのドナルド・ラムズフェルド国防長官はこう言い放った。「世の中には、既知の既知、つまり私たちが知っていると知っている物事がある。また、既知の未知、つまり私たちが知らないと知っている物事があるのも知っている。だが、未知の未知というものもある。つまり、わたしたちが知らないということを知らない物事だ」

当時、ラムズフェルドのコメントは、はぐらかし論法と揶揄され、ブレイン・イングリッシュ・キャンペーンが毎年「有名人による理解不能なコメント」に贈呈する失言大賞を受賞した。しかし、実際には、彼は哲学的に重要な点を突いていた。私たちは、自分が気づいてすらいない考慮事項があるかもしれない、ということを頭に入れておくべきなのだ。