「わかっている」が一番キケン。説明深度の錯覚は「仕組み」の話で起きる
目次
イギリスの首都はどこか。玄関の鍵は、なぜ合う鍵でだけ回るのか。
どちらも「知っている」と感じた人は多いと思います。でも、紙に書いて答え合わせをすると、崩れ方がまるで違います。首都の自信はほぼそのまま残り、鍵の自信はたいてい途中で崩れます。
自分の理解を実際より深く見積もるこの現象は、「説明深度の錯覚」と呼ばれています。この錯覚には、起きやすい知識の種類があります。そして仕事の判断で使う知識の多くは、その起きやすい側に入っています。
錯覚は「仕組み」の知識を選んで起きる
2002年、イェール大学のレオニード・ローゼンブリット氏とフランク・カイル氏は、学生に身近な道具の仕組みをどれだけ理解しているかを、7段階で自己評価してもらいました。対象はファスナー、シリンダー錠、ヘリコプター、クオーツ時計などです。
そのあと仕組みをできるだけ詳しく書いてもらい、もう一度評価してもらう。さらに「シリンダー錠をピッキングで開ける手順を一段ずつ説明してください」といった具体的な質問に答えてもらい、また評価してもらう。点数は説明のあとで下がり、質問のあとでさらに下がりました。論文には、多くの参加者が自分の知らなさに本気で驚いていたと書かれています。
面白いのは、ここからです。二人は同じ手順を、ほかの種類の知識でも試しました。説明を書く前と後で、自己評価がどれだけ下がったかを並べると、こうなります。
-
道具の仕組み:約0.9点
-
自然現象の仕組み(潮の満ち引き、虹のでき方など):約0.9点
-
映画のあらすじ:約0.4点
-
国の首都:約0.3点
-
クッキーの焼き方のような手順:下がらなかった
錯覚が大きいのは「どうやってそうなるのか」の知識だけで、事実や手順では、私たちは自分の知っている範囲をかなり正確に見積もれています。
論文は理由を四つ挙げています。私の読みでは、大きく二つに分けられます。
一つは、見えている部品を理解と取り違えること。ファスナーの歯は目の前にあるので、仕組みも頭の中にある気がしてしまう。「何をするものか」を知っていることと、「どうやってそうなるか」を知っていることの混同も、ここに入ります。
もう一つは、答え合わせの機会がないことです。首都の名前は、言えたかどうかがすぐわかる。手順は、やってみればわかる。仕組みの説明には「ここまで言えたら完了」という終点がなく、人に説明する機会もめったにありません。
西林克彦さんは『わかったつもり』で、読解の側から同じ構造を指摘しています。「わからない」状態には人は敏感で、埋めようと動く。ところが「わかった」と感じた状態は、わからない部分が見つからない安定した状態なので、そこで探すのをやめてしまう。
仕事の判断に置き換えてみます。「この施策で解約率が下がる」「この入力画面ならミスが減る」。判断の前提になる知識の多くは、事実でも手順でもなく、仕組みの知識です。錯覚がいちばん起きやすい種類の知識で、私たちは毎日決めています。
「誰かがわかっている」が、自分の理解に混ざる
では、なぜ仕組みを知らなくても、知っている気がするのか。『知ってるつもり 無知の科学』のスティーブン・スローマン氏とフィリップ・ファーンバック氏は、原因を知識の置き場所に求めます。私たちの知識の大半は他人の頭や本、道具の中にあり、自分の頭の中との境界に線が引かれていない、という見立てです。
これを直接確かめた実験があります。スローマン氏とナサニエル・ラブ氏は2016年、「光る岩が見つかった」といった架空の科学ニュースを参加者に読ませました。半分には「科学者はこの仕組みを解明している」、もう半分には「まだ解明していない」と添えます。仕組みの説明は、どちらにも書かれていません。
それでも自分の理解度を7段階で答えてもらうと、「解明済み」と読んだ人は平均2.42、「未解明」と読んだ人は1.79でした。誰かがわかっているというだけで、自分も少しわかった気になったわけです。
ただし、「科学者は解明したが、内容は機密にされている」と伝えた条件では、この効果は見られませんでした。手を伸ばせば届く知識だけが、自分の理解に混ざるようです。同じ研究室は2020年に、中国の参加者でも同じ傾向を確認しています。
インターネット検索でも似たことが起きます。イェール大学のマシュー・フィッシャー氏らは2015年、「ファスナーはどう動くのか」といった質問をネットで調べてもらったあと、天気や健康など、調べた内容とは関係のない分野の質問にどれだけ答えられるかを自己評価してもらいました。
調べた人の平均は7段階で3.61、調べなかった人は3.07。関係のない分野まで、自分の知識を高く見積もったのです。ただ、私が調べた範囲では、この研究の大規模な事前登録の追試は見つかりませんでした。数字は目安として読んでください。
ここからは私の解釈です。生成AIに聞けばすぐ答えが返ってくる環境は、この「届く知識」を最大にした状態です。答えを読んで「なるほど」と思えたとき、その理解が自分の頭にあるのか画面の中にあるのかを見分ける手がかりは、自分で説明し直してみる以外にほとんどありません。
説明すると自信は下がる。意見まで変わるかは決着していない
この錯覚が判断を狂わせるなら、説明させれば判断は変わるのか。これを政治の意見で試したのが、ファーンバック氏らの2013年の研究です。
アメリカの成人198人に、一律課税や排出量取引など6つの政策について、理解度と賛否をそれぞれ7段階で答えてもらいました。次に、その政策がどういう経路で結果を生むのかを説明させ、もう一度答えてもらいます。理解度の平均は3.82から3.45に下がり、賛否の極端さもわずかに小さくなりました。別の実験では、もともと強い立場の人のあいだで、仕組みを説明したグループは、賛否の理由を挙げたグループより支持団体への寄付を選びにくくなりました。
説明するだけで、意見が穏やかになる。わかりやすく、使えそうな結果です。ところが、その後の追試は割れました。
-
2021年、ジャレット・クロフォード氏とジョン・ラシオ氏は、事前に手順を登録した追試を3回(参加者306人、405人、343人)行いました。理解度の自己評価は下がりましたが、意見の極端さは変わりませんでした。
-
2022年には元の著者の一人であるスローマン氏らが検証し直し、意見が穏やかになるのは、結果の損得で考える政策に限られると報告しました。守るべき価値に根ざした問題では起きませんでした。
-
2024年、香港の市民5,139人を対象にしたウォーカー氏らの追試では、政策を説明させると、立場がかえって極端になりました。
並べてみると、揺らがないのは一点です。仕組みを説明させると、人は自分の理解度を低く見積もり直す。意見が穏やかになるかどうかはテーマや社会の状況で変わり、逆向きに働くことさえあります。
なので、説明を「相手の意見を変える道具」として使うのは当てになりません。確実に使えるのは、自分の「わかった」を測り直す物差しとしてです。
判断の前に、「わかった」を仕組みの分だけ割り引く
錯覚そのものは消せません。できるのは、錯覚が起きやすい場所を知って、そこだけ点検することです。
誤解:自信があることは、だいたいわかっている → 自信が当たるかどうかは、知識の種類で違います。数字や固有名詞、何度もやった手順の自信は、おおむね信用してよい。割り引くのは「なぜそうなるか」「どう効くか」の自信です。たとえば企画書を読むとき、判断の材料を事実、手順、仕組みに仕分けて、仕組みの行にだけ印をつけてみてください。
誤解:仕組みをひと通り説明できたら、理解している → ローゼンブリット氏らの実験では、説明のあとに具体的な質問を受けると、自己評価はもう一段下がりました。説明できたと思ったら、条件を一つ変えた質問を自分に向けます。たとえば「この施策で問い合わせが倍になったら、最初にどこが詰まるか」。答えに詰まる場所が、まだ見えていない仕組みです。
誤解:詳しい人がいるし、調べれば出てくる。だからわかっている → 光る岩の実験のとおり、誰かがわかっているという事実だけで、自分の理解度の感覚は上がります。メモには「自分で説明できること」と「誰が説明できるかを知っていること」を分けて書く。判断の根拠のうち、どこが借り物かが見えます。借り物を使うのは問題ありません。困るのは、借り物だと気づかないまま判断の土台にすることです。
今日5分で試すなら、いま抱えている判断を一つ選び、前提にしている仕組みについて「もし〇〇だったら、どうなる?」という質問を三つ作って、自分で答えてみてください。すらすら答えられなかった質問の先に、錯覚していた部分があります。
おわりに
説明深度の錯覚は、怠けや頭の悪さから生まれるものではありません。知識を他人や道具と分け合って暮らすための仕組みが、そのまま自分の理解の見積もりを甘くしています。
だから「わかっている」という感覚を捨てる必要はありません。それが事実の話なのか、仕組みの話なのか。確かめるのは、その一点で足ります。
この記事で参考にした本
『知ってるつもり 無知の科学』スティーブン・スローマン氏&フィリップ・ファーンバック氏 → 説明深度の錯覚の全体像と、知識が他人や道具に分散しているために自分の理解を見誤るという見立てを借りました。
『わかったつもり 読解力がつかない本当の原因』西林克彦さん → 「わかった」と感じた状態は安定していて、そこで探すのをやめてしまうという視点を借りました。
合わせて読みたい
『知ってるつもり 無知の科学』スティーブン・スローマン氏&フィリップ・ファーンバック氏|あなたはトイレの仕組みを説明できない 説明深度の錯覚と「知識のコミュニティ」を、本の流れに沿って追えます。錯覚がなぜ人間の協力を支えてもいるのかまで知りたい人に。
『知性の罠 なぜインテリが愚行を犯すのか』デビッド・ロブソン氏|頭がいいほど、間違いに固執する 知識や経験が豊富な人ほど、自分の判断を点検しなくなる仕組みを扱った一冊です。「わかっている」という感覚が、専門家の判断をどう曇らせるかがわかります。
「AIで楽になる」と思っている人が、一番危ない AIに任せると、確認する目や頭の中の見取り図から弱っていくことを研究から整理したコラムです。AIの答えで「わかった」気になる話と、あわせて読むとつながります。