『幸福な監視国家・中国』も取り上げていただいている話題の書、『闇の自己啓発』の中で、『幸福な・・』の、「道具的合理性とメタ合理性」に関する記述が批判的に紹介されている。関連する発言は以下の通りだ（引用はnote記事から）。
【江永】 そういえば、「道具的合理性とメタ合理性」（181p～）という箇所があったと思うんですが、なんか引っかかったんですよね。「アルゴリズムに基づくもう一つの公共性」（183p～）とかも。なぜ、目的自体を再設定するメタ合理性を持たなければならないとされるのか。
【ひで】 社会制度の設計は別として、社会っていうのは別に目的があって作られるわけではない、という意味での引っかかり方ですか。
【江永】 いえ。確かにそういう問いも立てられそうですが。ええと、メタ合理性は、なぜ人間的だと言いきれるんでしょうか。
【ひで】 チンパンジーには「あれ」「それ」とかいう指示語や言語中の再帰が存在しないことによって、メタ合理性を構築できないからじゃないですか
【江永】 ただの合理性とメタ合理性があるときに、なぜメタ合理性がより人間的だと言えるのか、また、なぜオススメできるのか、というのがわからない
【木澤】 ここで想定されている市民っていうのは西洋社会的な市民ですよね。
【江永】 たしかに。ここで「メタ合理性」が働かない存在者としてチンパンジーを持ち出す、というレトリックが、なんか文明化されていない人間はおサルさんだから、みたいな偏見にずれ込んでしまいそうな気配がなくもない（この自分の意見を再検討してみましたが、どうも難癖じみた感じになっていたようにも思い、反省しました。しかし、やはり気になる面もあり…）。
【暁】 それです。ここを読んでいてチンパンジーをバカにするな！って思ってしまいました。チンパンジーには確かに人間と同じような力はないかもしれないけど、道具的合理性に限らず、人間とはまた違う彼らにとっての合理性はあるだろうと。チンパンジーの数字記憶力は人間の大人より優れているという実験結果もありますし、抽象画も描けるんですよね。
また、人間のなかにも我々のように、必ずしもここで書かれたような「人間らしい」社会を構築するためのメタ合理性を信奉しているわけではない人間もいるじゃないの、と思いました。
【江永】 たしかに、ここの書き方って、チンパンジーに対して、とても失礼ですね。
【暁】人間には価値観によって諸々の判断を下すためのメタ合理性がある、という話はいいのですが、そのメタ合理性って人によってだいぶ違うと思うんですよね。市民的公共性に接続するタイプのメタ合理性を持っている人もいるでしょうが、自分的にはルソーの言う特殊意思のようなものにすぎないと思います。でも著者は「いや一般意思でしょ」って思っているっぽくて、それが江永さんの感じた違和感の正体だったのかなと思いました。
ここは面白いところだと思うし、この箇所を執筆していた時には十分に考えが進められていなかった点なので、この機会にもう少し議論を進めてみたい。
ここでいう、「メタ合理性」とは、人間の思考の「志向性（志向的状態）」の一種として理解した方がいいのではないか、というのが現時点での僕の考えだ。志向性とは、それが何かに関するものであり、内容を持つということを意味する哲学用語である。信念、欲求、原理などはすべて、現代の哲学において「志向的状態」と呼ばれる。そのような志向的状態に依存しているかどうかがチンパンジーと人間の知性を分けるカギだ、と考えられるのではないだろうか。
この点に関して参考になりそうなのが、ジョセフ・ヒースの『ルールに従う』の、例えば以下のような記述である。
さらに、人間は言語的依存種として独特の進化を遂げてきた。言い換えれば、我々の生態（biology)は、われわれが言語を使用し始めた時以来、顕著な適応を経てきているわけである。我々の咽頭は話すために適応し、我々の脳は言語的処理に適応している（つまり、言語使用者のコミュニティで発達する状況では、言語をより早く学習できる脳を持つ人の適応度は高くなる）。チンパンジーは言語なしで完全に機能的な認知システムを持っているので、彼らにとって手話を教えられるということはある種の認知的贈り物を受け取ることである。人間はそれとは異なる。我々の認知的システムは、言語的資源を用いて作動するよう適応しており、それなしに完全に機能的となることはない。(175頁)
『ルールに従う』第4章の記述および同書の訳者解説によれば、例えばヒュームのような哲学者は、個人がそれぞれ心の中に持っている「心的志向性」が初めにあり、そこから言語上の志向性（意味論的志向性）がそこから派生的に生じてくる、と考えていた。またホッブズの社会契約論も、人が志向的状態を完全に備えた状態で社会的インタラクションに入り、社会的な秩序を構成する、という考えをベースにしていた。しかし、ヒースによれば、20世紀以降の分析哲学における「言語論的展開」により、むしろ言語による意味論的志向性がまず先にあり、そこから思考など心の中の志向性が生じてくると考えられるようになったのだという。
つまり、ある行為についての信念や欲求、そしてそれに対する評価すなわち「メタ合理性」などの志向的状態は、われわれの言語を通じた社会的インタラクションの結果形成された産物であって、その逆ではない。言語は、人間にとって社会的実践の道具であるだけでなく、その意味論的志向性の機能により、個々の人間の認知能力をアップグレードする働きを持つ。言い換えれば、言語が持つメタ合理性の能力を用いて常に合理性の水準をアップグレードしていかなければ何もできない、のが人間の認知の特徴なのである。
だから、われわれの意思決定におけるメタ合理性の重要性を強調することは、言語に依存しないまま合理的な意思決定に至る認知システム（チンパンジーそしておそらくはAI）に比べて、人間の意思決定の方が優れていると主張することを意味しない。それはただ、認知システムの質の違いを示しているにすぎないのだ。
たとえば、絵が描けるチンパンジーが、他のチンパンジーたちからそれを評価されて喜んだり怒ったり、落ち込んだり、ということはあまりありそうにない。それに対し人間の場合、何かの行為がまったく他者からの評価なしに完結する、という事態は考えにくい。これは、人間は自らが何かを行為するとき、他者とのインタラクションを織り込んだ志向的状態をそこから切り離すことができないように進化してきたからだ。
チンパンジーと人間の幼児との「知恵比べ」を行った実験によると、後者が前者に対して卓越していたのは、すでにあるものを模倣する能力だけだったという。つまり、”「サルまね」という言葉は誤りで、サルはまねしない”というわけだ(以下の記事参照）。
言い換えれば、すでにある解決法を模倣しないで独自に合理的な解決法を考え出す能力については、チンパンジーは人間に決して負けていない。人間にできてチンパンジーにできないのは、模倣によって社会的・集合的に蓄積されてきた知性のプールを利用することである。これは、人間が言語の能力を発達させ、志向的状態を発達させてきたため、模倣することによって複雑な問題を「自分で解決法を考えなくても」解けるようになるからだ。
この点で、ジョセフ・ヘンリック『文化が人を進化させた』（今西康子訳、白揚社）の冒頭にある、「マッチング・ペニー」実験の結果はとても興味深い。「マッチング・ペニー」とは、ゲーム理論などでよくつかわれる、典型的な戦略型ゲームである。2人のプレイヤーA（マッチャー）とB（ミスマッチャー）が、それぞれ表か裏を選ぶ。2人が同じものを選べばマッチャ―の勝ち、違うものを選べばミスマッチャーの勝ち、というゲームだ。同書の中で紹介されているのは、結果によって次のような「ボーナス」が付いたケースだ。すなわち、「表」がそろったときはマッチャ―はリンゴを4個もらえるのに対し、「裏」がそろった場合は1個しかもらえない。一方、ミスマッチャーは自分が選んだのが表か裏かに関わらずリンゴが2個もらえる、というものだ。
https://ja.wikiarabi.org/wiki/Matching_pennies
詳細な説明は省くが、この場合、マッチャ―はランダムで2回に1回の割合で「表」を選択し、ミスマッチャーはランダムに5回に1回の割合で「表」を選択する、という「混合戦略」をお互いに選択することがナッシュ均衡、すなわちお互いに最適な選択（支配戦略）となる。もし、この「支配戦略」以外の行動をとるならば、そのプレーヤーはこのゲームを長期的にプレーしたときに、支配戦略をとった場合に比べてかなり少ない数のリンゴしかもらえないはずだ。
カリフォルニア大学と京都大学の研究チームが6匹のチンパンジーと二つのグループの成人を対象に実験を行ったところ、チンパンジーは上記の支配戦略にほぼ合致するような行動をとったのに対し、人間は特にミスマッチャーをプレーする時に道理的な判断をしそこない、チンパンジーよりも明らかに悪い成績しか残せなかったという。それだけでなく、マッチャ―からミスマッチャーへの役割の変化にも人間より素早く対応したという。つまり、マッチングペニーゲームでより優れた合理的判断を下したのは、チンパンジーのほうだった。人間は特にミスマッチャーの場合、「余計なことを考える」ため、「相手の行動を真似しない」ことが前提となる支配戦略を採ることが困難であり、そのためチンパンジーよりも成績が悪くなってしまうのだ。
つまり、道具的合理性の面からは人間よりもチンパンジーのほうが優れた能力を持っている、ということは普通にありそうだ。人間はその志向的状態に引きずられて、道具的合理性の観点からは間違った行動をとるということが、チンパンジーより頻繁に生じるからだ。
再び、『ルールに従う』の記述を引用すれば、人間の知性と他の動物との「最も注目すべき違いは、それが例えば我々の知覚システムとは異なり、ある種の社会的・文化的資源に依存しているという点である」。「このことが、社会的環境の構成的な特徴のいくつか―例えば、規範に規制された社会生活の構造のようなものが内部に入り込み、我々の心理学的能力の構成的な特徴になる理由となっている」。（495頁）
すなわち、チンパンジーと人間の合理性を分かつカギになるだろうメタ合理性とは、必ずしも個々の人間が「主体的な」理性をもって自分や他者の行為を評価したり判断を下す合理性―「西洋社会的な市民」に要請される合理性―を意味しない。むしろ、それは旧来からの文化的な制約になかば「盲目的に従う」ことに近いものかもしれないのだ。
もし、来るべきAI社会においてなお、人権であるとか、市民的公共性といった概念を守り続けていかなければならない根拠があるとしたら、それは、上記のような意味でのメタ合理性、すなわち「私たちは昔からそうしてきたのだから、それに従うべきだし、それに矛盾しないような合理性しか受け入れられない」というものでしか、あり得ないのかもしれない。この点については、もう少し考えてみたい。
