【悲報】ウーバーの自動運転車システム、交通違反の歩行者を物体と認識し轢き殺してしまう

衝突の5.6秒前に、ADSが初めて歩行者を検出したとき、彼女は2つの左折車線のほぼ中央に位置していました（図3を参照）。
ADSは衝突の約6秒前に歩行者を検知しましたが、システムは彼女を歩行者として分類したことはありませんでした。または、彼女の目標をジェイウォーク歩行者またはサイクリストとして正しく予測しました。
―彼女は横断歩道のない場所でミル通りを横断していたため。
システム設計には、ジェイウォーク歩行者向けの考慮事項が含まれていませんでした。
代わりに、システムは最初に、目標を割り当てられていない他のオブジェクトとして彼女を分類していました。
ADSが歩行者の分類を数回変更したため（車両、自転車、およびその他の間で交互に）、システムは検出されたオブジェクトの経路を正しく予測できませんでした。
ADSが、現在検出されているオブジェクトの位置がATG車両の経路上（衝突の1.2秒前）であると判断した場合のみ、システムは緊急事態、差し迫った衝突を認識しました。
当時、衝突を防止するには、設計仕様を超えた極端なブレーキまたはステアリング操作が必要だったため、ADSはモーションプランの抑制を開始しました。
1秒後、車両はまだ歩行者との衝突経路上にあり、衝突を防ぐには依然として極度の回避操作が必要でした。
設計ごとに、システムは緊急ブレーキを作動させませんでしたが、車両の減速の計画を開始したため、車両の運転者に聴覚的な警告を提供しました。
http://dms.ntsb.gov/public/62500-62999/62978/629713.pdf