LF. 理論カリキュラム100 / 第5部 落ちても墜ちない
045
フールプルーフ
人は必ず間違える
支払期日や顧客への返信を「覚えておく」で管理しているなら、90年前に世界最高のパイロットが証明した事実を知る必要がある。

人類最高の注意力でも、レバー一本を忘れる。

命題
複雑なシステムは、人間の記憶と注意力を部品として使ってはならない。
前提講 044
出典 モデル299墜落、ガワンデ『チェックリスト』。
1 / 5
1935年10月30日、B-17の試作機モデル299は公開評価飛行で墜落した。

原因は機材ではなく、当代有数のテストパイロットだったヒル少佐が、ガストロック(操縦系統の固定装置)の解除を忘れたことである。

2 / 5
突きつけられた選択肢は二つ。

より優秀な超人を選抜するか、人間の記憶に頼らない仕組みを作るか。

新聞は同機を「一人で飛ばすには複雑すぎる飛行機」と評した。

3 / 5
現場が選んだのは後者 — 確認項目を紙に書いて毎回読み上げる、世界初のパイロット用チェックリストである。

以後B-17は大事故なく、約1万2千機生産の主力機になった。

4 / 5
現代人の事業と生活は明らかにモデル299より複雑である。

にもかかわらず支払期日も顧客連絡も、記憶と気合で運用されている。

5 / 5
墜落したヒル少佐より自分の記憶力が優れていると仮定する合理的根拠は、どこにもない。

対策は能力の向上ではなく、記憶を外部(リスト・自動化・通知)へ移すことである。

事例
この教訓は航空の外へも輸出された。

外科医アトゥール・ガワンデは手術前の確認をチェックリスト化する取り組みを複数の病院で検証し、合併症の減少を報告した。

熟練の外科チームですら、紙一枚で成績が変わる。

チェックリストという最も安価な道具が、記憶と注意という最も高価で不安定な資源を代替するのである。

請求・納品・更新の確認リストを一度作ることは、優秀さを磨く努力の何分の一のコストで、同等以上の事故防止効果を生む。

よくある誤解
「チェックリストは初心者用だ」は誤読である。

使ったのは当代最高のパイロットと熟練外科医だった。

熟練者ほど「慣れ」という注意力の劣化にさらされるため、仕組みの恩恵はむしろ大きい。

まとめ
人は必ず間違える。

複雑なシステムの安全は、記憶ではなく、書かれた手順と仕組みに担わせる。

宿題
「忘れると損害が出る反復作業」を3つ挙げ、記憶で管理しているものをリストか自動通知へ移す。
次講
ミスの帰属先を変える
LF.
第5部 落ちても墜ちない
045 フールプルーフ
MOLVACK