■

７３７ＭＡＸの欠陥ソフトウェアを作ったのは大卒臨時社員だった（https://www.businessinsider.jp/post-193842）という記事を見て、こういうことは実際身の回りに山のようにあると思う。

誰だって、飛行機墜落、数百人の犠牲者と10億ドルに上る被害が出るリスクを抱えて、臨時社員使いますか？　と聞かれたらＮＯという。

だが、その危険性が何パーセントを超えたら、リスクを踏まない判断ができるのかは誰にも分からない。

本当の「欠陥」は、臨時社員にあるのではなく、臨時社員に任せてよいという判断の方にあるということ。もっと言えば、そういう誤った判断に対するチェックが事故発生までできないというシステムの欠陥こそが「欠陥」なんだ。いや、もう少し怖ろしいことを言うならば、これはそういうパーセンテージを踏まえた上での判断であって、要するに「期待値的には正しい判断」の下にやったギャンブルで負けの目が出ただけ。つまり勝ちも負けも事前に織り込み済みだから、たまたま一回逆の目が出ても同じギャンブルが止むことはないという可能性もある。

事故の可能性は10年で0.1％以下。人件費削って浮く額がたとえば年間50万ドル、なら後者に賭けようか、どうせ９９．９％勝てるギャンブルだし……そう考える奴があちこちにいる限り、こういう事故は次から次に起こり続けるわけだな。

「合理的判断」か。合理的判断で死んだとしたら、合理的に納得できるのか。

Permalink | 記事への反応(1) | 16:05

ツイートシェア