止まれなかったことが問題ではなく、画像認識だけだと止まれるか止まれないかぶっちゃけわからないのが問題なのでは。
おそらく、別の条件とか試験ではテスラもちゃんと止まることもあると思う。
結局、画像認識だけだとAIの気まぐれで人や物を認識せず止まらないことがある。
そして、その気まぐれは説明性が無く原因がわからないから対策も打てず、「ある条件下では人間やモノを認識できません」という制約をユーザーに説明することもできないことが問題なんだと思う。
いくらデータの蓄積量を増やしてもその気まぐれが起きないようにすることは不可能なんじゃないかな。
だから他社はLiDARを付けてるんだろうな。
LiDARがあれば、何かわからなくても目の前に何かあることはわかるからたとえAIが物を認識できなくても止まることはできる。