そりゃフェイルセーフ、フールプルーフは必須だよ。間違えたら動き始めないっていう仕組みはすごいし、TypeScriptとかRustが人気の理由もよくわかる。
ツールは育っても、運用者側が「ダメな方の製造業しぐさ」をやってないか?FMEAって概念もないやつがマトモなFS・FP設計ができるのか?大した影響もないちっちゃな可能性を必死で潰すのに、データベースのテーブルをイチ従業員が消せる状態にしたままだったり。
製造業にいたことあるパーソンとしては、人が介在するなら、起こりうることは起こる前提でやるべきではあると思ってる。電源付いたままの工作機械には、かならず誰かが腕か脚を突っ込む。だから腕脚を突っ込める状態になるときは機械内部が動かないような状態にする、は当然やるべき。でも、人が介在しない自働機械の通常動作に「人が介在したら」を折り込む必要はないのだ。その「人が介在したら」は、異常動作のほうに折り込むべきなのだ。それは良くないほうの製造業しぐさだ。その前に、人が介在しなくていいシステムを作るべきなのだ。
で、最近のその他業界、特にシステムやさんが、やたらと「ユーザーがアホなことしたら」にこだわるくせに、「我々運営側がアホなことしたら」を異常に軽視してるパターンが見受けられる。
めんどくさいんで具体例は書かんが、人はやらかすぞ。「俺はやらんしww」って言ってる奴は2回やらかすし、「俺はやってしまうかもしれないから気をつけよう」って奴も100%やらかす。「人はやらかす生き物だからやらかしうるところは潰そう」って奴もいつかやらかす。やらかしても大丈夫、大きな影響が出ないようなシステムを作るのがシステムやさんのやくめでしょ。トカゲの尻尾切りで満足しないで。
製造業の安全屋さんをシステム屋に引っ張ってきて見てもらえ。ずさんさを散々指摘されるぞ。現場猫でキャッキャしてる場合じゃねーぞ。