論理は正しいのに間違えるのは、前提を確かめないから
目次
1999年9月、NASAの火星探査機は、計算どおりに飛んで失われました。
マーズ・クライメート・オービターは、火星の上空226kmを通る予定でした。事故のあとで計算し直すと、実際の最接近高度は57km。機体が大気にぶつかって壊れる高さです。
NASAの調査委員会が同年11月にまとめた報告書によると、探査機に積んだソフトウェアの計算は正しいものでした。狂っていたのは、地上から軌道計算に入れたデータの単位です。
地上のソフトウェアが出す噴射データは、仕様書でメートル法のニュートン秒と決められていました。実際に出力されていたのは、ヤードポンド法のポンド秒。1ポンド重は約4.45ニュートンなので、噴射の効果が4.45分の1に見積もられていました。
報告書には、軌道を計算する担当者たちは「要件どおりメートル法で来ていると想定していた」とあります。
計算の手順に誤りはなかった。誤っていたのは、計算に入れた前提のほうです。
論理が保証するのは、前提から結論までの道筋だけ
論理学には、推論を評価する物差しが2つあります。
妥当（valid）：前提が正しければ、結論も必ず正しくなる形をしている 健全（sound）：妥当であり、しかも前提が実際に正しい
たとえば「鳥はすべて飛べる。ペンギンは鳥だ。だからペンギンは飛べる」。推論の形は妥当です。ただ1つ目の前提が偽なので、健全ではありません。結論は外れます。
論理が保証してくれるのは、前提から結論までの道筋です。前提そのものが正しいかどうかは、論理の外で確かめるしかありません。
羽田康祐さんは『問題解決力を高める「推論」の技術』で、演繹法の最大の弱点を、前提となるルールが誤っていると結論も間違ってしまう点だと書いています。そのうえで、論理的思考力が高い人は詐欺師にとって騙しやすい相手だ、とまで言う。与えられた嘘の前提を疑わずに、そこから筋道立てて考えてしまうからです。
ロジックツリーを丁寧に組む人や、計算を何度も検算する人は、道筋の点検に強い。ただ、その点検をどれだけ重ねても、入口に置いた誤りは見つかりません。
人は、結論が気に入ると論理を点検しない
前提の確認が抜けるのは、うっかりミスだけが原因ではありません。心理学の実験は、もっと系統だった偏りを示しています。
1983年、英国の心理学者ジョナサン・エヴァンズ氏らは、三段論法の結論が前提から必ず導けるかを参加者に判定させる実験を報告しました。問題は2つの軸で作られています。推論の形が妥当かどうか。結論が常識的にもっともらしいかどうか。
判定を左右したのは、論理より常識でした。
推論が成り立っていないのに結論がもっともらしい問題では、3つの実験を通じて71%の人が「導ける」と答えました。同じ形の推論で結論だけを信じがたい内容に替えると、そう答えた人は10%に下がります。逆に、推論は妥当なのに結論が信じがたい問題では、受け入れた人が56%にとどまりました。結論がもっともらしい妥当な問題では89%です。
この偏りは「信念バイアス」と呼ばれます。エヴァンズ氏らは参加者の発話も記録していて、結論から先に目を向けた人ほど信念に引きずられ、前提から目を向けた人ほど正しく判定していたと報告しています。
ダニエル・カーネマン氏も『ファスト＆スロー』で似た例を挙げています。「バラはすべて花である。一部の花はすぐにしおれる。だから一部のバラはすぐにしおれる」。大学生の大多数が、これを妥当だと答えるそうです。すぐにしおれる花の中にバラが1本も含まれていない可能性があるので、この推論は成り立ちません。
カーネマン氏は、人は結論が正しいと信じていると、それを支えているように見える議論を、たとえ健全でなくても信じやすいと書いています。
仕事に置き換えると、怖いのはここです。通したい結論や、上司が期待している結論に届く資料ほど、途中の前提を誰も確かめない。気に入らない結論が出たときだけ、人は熱心に前提を突きます。点検の厚さが、前提の怪しさで決まらず、結論の好みで決まってしまう。
デビッド・ロブソン氏は『知性の罠』で、知能の高さはこの罠を防いでくれないと論じています。頭のいい人は、信じたい結論を支える理屈を組み立てるのもうまい。そのうえ、自分はバイアスの影響を受けにくいと考えがちです。
危ない前提ほど、どこにも書かれていない
前提の確認が抜けるもう1つの理由は、前提の多くが書かれていないことです。
火星探査機の「データはメートル法で来ている」という前提は、担当者の誰かが検討して置いたものではありません。仕様書で決まっていたので、確かめるまでもない当然のこととして扱われました。報告書によれば、航法の現場では到着前の数か月、軌道の推定値の食い違いが懸念されていました。それでも非公式に伝えられただけで、解消されないまま火星に着いています。
ビジネスでも同じことが起きます。1985年4月23日、コカ・コーラ社は看板商品の配合を変えました。新しい味は、約20万人の消費者を対象にした味覚テストで好まれていた。テストで好まれた味に変えれば、もっと売れる。推論の形に穴はありません。
ところが抗議が殺到し、同社は79日後の7月11日、元の味を「コカ・コーラ クラシック」として復活させます。同社の公式サイトはこの経緯を振り返って、テストが示さなかったのは、消費者がコカ・コーラに感じていた絆だったと書いています。
置かれていた前提は、たとえば「人は味で飲み物を選ぶ」「元の味を取り上げても、好まれる味を出せば客は残る」。どちらも、味覚テストでは確かめようのない前提でした。
書かれていない前提は、点検の対象にも上がりません。だから論理をどれほど丁寧に組んでも、素通りします。
ちなみに「まずデータを集めて、そこから考える」やり方も、前提を消してはくれません。どの数字を集計し、どの期間で区切るかを選んだ時点で、前提はもう入っています。見えなくなるだけです。仮説を先に立てるやり方の利点は、前提を言葉にせざるをえなくなる点にあります。
前提を書き出して、1つずつ確かめる
前提の誤りを防ぐ方法は地味です。書いて、確かめる。
誤解：論理を何度も見直せば、ミスは防げる → 見直しで見つかるのは、道筋の飛躍です。前提の誤りは、推論の形をいくら点検しても出てきません。
正しいアプローチ：結論から逆算して、前提を書き出す → 「この結論が成り立つには、何が本当でなければならないか」を箇条書きにします。
たとえば「新機能を出せば解約率が下がる」という提案なら、「解約の主な理由は機能の不足である」「既存の顧客は新機能に気づく」「競合が同じ時期に同じ機能を出さない」といった前提が並びます。書き出してみると、自分でも意識していなかった前提がいくつも出てきます。
次に、それぞれの前提に印を付けます。
- 確認済み：データや一次情報で確かめた
- 推測：もっともらしいが、確かめていない
- 決まりごと：「仕様でそうなっているはず」「いつもそうだから」で置いた
いちばん危ないのは3つ目です。火星探査機の単位も、ここに入ります。
最後に、崩れたときに結論が最も大きく変わる前提を1つ選び、それを否定する事実を探しに行きます。全部を確かめる必要はありません。まずは1つ、今日のうちに。
もう1つ、信念バイアスの実験から借りられる工夫があります。結論が気に入っているときほど、前提の点検を厚くすることです。
資料を読むときは、結論のページから開かずに、前提が書かれたページから読む。エヴァンズ氏らの記録で示されたのは、前提から目を向けた人ほど正しく判定していたという関連で、読む順番を変えれば判定が良くなると確かめたものではありません。ただ、順番を変える手間はほとんどかかりません。
おわりに
論理は、前提を結論まで運ぶ道具です。運ぶ中身が間違っていれば、正確に、間違った場所へ届きます。
次に「この理屈には穴がない」と感じたら、理屈の入口に何を置いたかを書き出してみてください。書こうとして言葉に詰まった前提が、たいていいちばん危ない前提です。
この記事で参考にした本
『問題解決力を高める「推論」の技術』羽田康祐k_bird → 演繹法は前提が誤れば結論も誤る。だから前提そのものを疑う習慣が要る、という視点
『ファスト＆スロー（上）』ダニエル・カーネマン → 結論を信じていると、それを支える議論の穴を見逃すという、バラの三段論法の例
『知性の罠 なぜインテリが愚行を犯すのか』デビッド・ロブソン → 知能が高くても、信じたい結論を支える理屈づくりからは逃れられないという指摘
合わせて読みたい
『知ってるつもり 無知の科学』スティーブン・スローマン氏＆フィリップ・ファーンバック氏 わかっているつもりの仕組みほど、説明しようとすると詰まる。前提を書き出すと言葉に詰まる理由が、この本で見えてきます。
同じ数字を見ているのに、なぜ結論が違うのか 同じデータから真逆の結論が出るとき、食い違っているのは計算より定義です。書かれていない前提が議論を割る、身近な実例として読めます。
「相関」を見て「原因」だと思い込む、構造的な理由 「一緒に動くなら原因だ」という前提は、推論の中でいちばん気づかれにくいものの1つです。前提を点検する具体的な場面として役立ちます。