前回、自動車が完全自動運転になるまでに、段階が５段階設定されており、現在ではレベル２〜３の間であることを紹介した。つまり、現在では、運転者である人間は、完全に運転を自動運転システムに任せることは認められておらず、限定された場面以外では運転に介在する、または、限定された場面でも自動運転システムの動きを監視し、安全ではないと認識した場合は即時に介入できるように備える必要があることを示している。しかし、現実では、そうした条件を運転手が理解せず自動運転システムを過信して利用した結果、事故を回避することができないという不幸な事象が発生している。もちろん、運転総時間に比較すれば事故発生率は低いため、この事例をもって自動運転は危険だ、と主張する気は全くない。ここでは、完全自動運転システムが開発される前の段階ではシステムを過信することなく適切に利用する必要があるということを考えたい。
テスラ Model Sがトレーラー側面に衝突
2016年5月7日、オートパイロットを作動させた「Model S」のドライバーが米フロリダ州の中央分離帯のあるハイウェイ（幹線道路）を運転中、前を横切った大型トレーラーの側面に衝突し、死亡した。現場は信号のない交差点で、トレーラーが対向車線から交差点を左折中、側面にModel Sが突っ込んだという。 テスラは当初、事故の原因として日差しの強さを挙げ、白いトレーラーが日光を反射したことでシステムもドライバーもトレーラーを認識できなかったとする見解を発表 ´国家運輸安全委員会（NTSB）の調査後の報告によると、ドライバーは事故当時「部分的な自動運転システム」を稼働していたが、ハンドルに手を添えていなければならない37分間のうち、わずか25秒間しか手で触っていなかったことが明らかになっている。システム側はドライバーに対し、ハンドルを握るよう警告を7回出していたという。 テスラはその後、2016年9月に警告にドライバーが反応しなかった場合は自動運転機能を使用不可にするなどの仕様変更を発表している。また、NTSBは車自体には欠陥がなかったと結論づけた。
テスラ Model Xが高速道路で衝撃緩和用バリアに衝突し炎上
2018年3月23日、オートパイロットを作動させた「Model X」のドライバーが米西部カリフォルニア州の高速道路を運転中、中央分離帯に衝突・炎上し死亡した。 ´テスラの発表によると、事故は高速道路分岐点のコンクリート壁の前に置かれている衝撃緩和用バリアへの衝突で、衝突前の150メートルにわたり車線を外れて走行していたという。また、車線を外れていた約6秒の間、ドライバーはハンドルを握っていなかったとしている。 一方、死亡したドライバーの遺族は、過去に事故現場で何度もオートパイロットが車線を外れて中央分離帯の緩衝バリアへ向かって行きかけたことを主張し、オートパイロットの不具合を指摘している。 NTSBが同年6月に発表した予備調査結果によると、Model Xは衝突の18分55秒前にオートパイロットをオンにして、前走車両に追随して時速65マイル（約104キロ）で走行していた。衝突の15分前にはオートパイロットがハンドルを握るよう警告を発し、男性はそれに従ってハンドルを握っていた。その後もハンドル警告は3度発報され、その都度ドライバーはハンドルを握っていたという。 ´衝突の7秒前にオートパイロットがハンドルを左に切る動作を開始、衝突4秒前には完全に前走車両の追随から外れたと認識したため、クルーズコントロールの設定上限速度に向けて加速し始めた。衝突の6秒前に再度ハンドル警告が発生しているが、その際にハンドルを握ったというデータは残っていなかったという。
ウーバーが自動運転中に歩行者と死亡事故
アメリカのライドシェア最大手であるウーバーテクノロジーズ社の自動運転車が2018年3月18日、自転車を押しながら車道を渡っていた49歳の歩行者を時速約64キロではねて死亡させる事故をアリゾナ州で起こした。 ´事故は自動運転車が自動運転システムを稼働させていたときに発生した。当時は運転席には自動運転システムの稼働状況を監督する「人」も同乗していた。この事故を受け、ウーバーテクノロジーズ社は北米4都市の公道での走行試験を中断した（その後、2018年12月に実証実験を再開している）。 この死亡事故は、自動運転において世界で初めて歩行者を死亡させた事故 ´原因としては、センサーで検知した物体のうち、無視してOKなものとそうでないものをソフトウェアで判定する機能の判定基準が｢無視してOK｣寄りに、つまり、感度が低い設定になっていた。（高感度（安全サイド）になっていると急ブレーキが頻発し、乗り心地が悪いと判断した模様） モニターすべき運転手が事故発生直前に携帯電話でテレビ番組を視聴していたことなども明らかになっている。 ベースになっているボルボの緊急自動ブレーキシステムはオフにされていた。
「自動停止」付きと勘違い 業務上過失傷害容疑で車販売店員ら書類送検 千葉県警
自動車販売店で新型車を体験試乗した男性客（38）が追突した事故。事故は、同乗したこの男性社員の「勘違い」が原因だった。男性客が運転支援機能を体験するため新型車を走行中、同乗の男性社員は「本来はブレーキを踏むのですが、我慢してください」などと指示。客はブレーキを踏まず、そのまま前に止まっていた車に追突し、追突された車に乗っていた男女２人にけがを負わせたとしている。男性社員は、事故を起こした新型車に前方の危険を検知して自動停止する最新の機能がついているとして男性客に指示。しかし、実際には自動停止する機能はなかった。男性社員は客に対し、勘違いして「時速４０キロの設定速度で走行すると、前方の停止車両を検知して自動停止する」などと誤った解説をしていた。県警は、監督責任があるとして、男性社員の上司に当たる販売店の男性店長（46）も同容疑で書類送検。さらに、実際に運転していた男性客も自動車運転処罰法違反（過失運転致傷）の疑いで地検に書類送検した。
豪雨時の自動ブレーキは過信禁物、40km/hで衝突のおそれ JAF検証
JAF（日本自動車連盟）は、豪雨時の衝突被害軽減ブレーキ（自動ブレーキ）の作動について検証を行い、その結果を7月17日よりホームページに公開した。 テストは日本自動車研究所特異環境試験場（茨城県つくば市）で実施。天候は雨のない状況と、気象庁用語で「猛烈な雨」とされる雨量80mm/h、速度は30km/hと40km/hを設定し、自動ブレーキが適切に作動して、障害物との衝突を回避できるのかを検証。 雨が降っていない状況では、30km/h と40km/hのいずれの速度でも、障害物の手前で停止。 ´雨量80mm/hの場合、30km/hでは停止できたが、40km/hでは障害物を一瞬検知したものの、自動ブレーキが作動せず、障害物に衝突。JAFでは、車種、検知システム、雨量、速度などによって結果は異なると前置きした上で、自動ブレーキはドライバーのミスをカバーしたり、衝突時の被害を軽減するものだが、悪天候時は正常に作動しないこともあるので、機能を過信しないことが大切だと注意を呼びかけている。