Uberの自動運転は人工知能が歩行者を無視した事が原因

１．Uberの自動運転は人工知能が歩行者を無視した事が原因まとめ

・自動運転車の初の死亡事故として報道されたUberの事故は人工知能が原因と判明
・レーダーは歩行者を検知していたが人工知能がそれを無視してしまったとの事
・現時点ではまだ詳細な原因は不明だが、非常に根深い問題である模様

２．自動運転による死亡事故の続報

2018年3月にUberが路上で行っていた自動運転試験が歩行者と衝突して死亡事故を起こした件だが、あの事故の後、
・路面から白線が消えかけている場所では誤動作する可能性がある
・太陽光等で信号が良く見えないと誤動作する可能性がある
等々を自動運転と同等な機能と考えられている車を所有する個人オーナー達が確かめた結果をyoutubeなどで発表していた。しかし、上記は不具合と言うよりは、メーカー側も現時点の制限として認識しているものであるとは思う。そのため、自動運転と言う言葉ではなく

・ACC（先行車に追随して車間距離を保つ定速走行機能）
・衝突被害軽減ブレーキ機能（自動ブレーキ機能）

等の言い方をしているのだと思うが、イイ感じに自動運転してくれるので運転者が油断してハンドルを離してしまって事故に繋がってしまう事があるようだ。

しかし、Uberが引き起こした自動運転による初の死亡事故は、上記のような想定外の使われ方をしたためではなく、「レーダーは歩行者を認識したがソフトウェアがそれを無視してしまった」事が原因であるとの報道があった。

人間が運転する際、目に入るあらゆる物体に注意を払う事はない。路肩に止まっている車や路上の標識等は運転上脅威になりないと脳内で無意識に判別されて無視されるが、並走するバイクや飛び出してきた歩行者は要注意物体として注意が払われ、場合によっては急ブレーキ等のアクションに繋がる。

人工知能による自動運転も同様で、各種のレーダーはあらゆる物体を検知して報告するが、人工知能はそれぞれの物体に対して注意を払うべきか否かを判断し、払うべきでない物体は無視する。そして、今回は飛び出してきた歩行者は「注意を払うべき物体ではない」と判断され、そのまま衝突してしまった事のようだ。

従来のソフトウェア開発であれば、不具合を起こした箇所を調べて、そこのロジックを修正すれば良い。しかし、ニューラルネットワークの場合は、入力されたデータと出力されたデータはわかっても「データのどこに注目して、何故注意を払うべき物体ではないと判断したのか？」を明確に説明できない。2年経過してもGoogleが修正できていないと話題になった黒人をゴリラと誤認識した問題と根本は同じ。

ミスが大事故に繋がるような業務では人工知能が何処の何に注目して結論を出したのかをブラックボックスのままにしておかず、Distillで紹介されたツールのように可視化が必要と思うが、診察のように患部のパターンがある程度限定されるケースと違い、現実世界のあらゆる物体に対して「注意を払うべき物体か否か？」を瞬時に判断する必要がある自動運転は、全てのテストケースを試す事も出来ない。緊急時は、人工知能ではなく人間があらかじめ設定したルールに基づいて行動する事が必要になるのかもしれない。