Teslan autothan ovat tason 3 autoja ja ainakin yksi kuolemaan johtanut kolari oli juuri tämän syytä. Kuski oli laittanut parametrit ja antanut auton ajatella itse, auto ei tykännyt ja varoitti kaikin mahdollisin keinoin kuljettajaa, että ota nyt se hallinta. Kuljettaja ei varoituksista huolimatta ottanut autoa hallintaan ja auto ajautui vastaantulevien kaistalle ja törmäsi rekkaan. Ylinopeutta oli myös jonkun verran.
Summarum; auto tiesi ja varoitti vaarasta, kuljettajaa ei kiinnostanut.
Tuo ^ on varmaan eri stoori, tässä referenssini
https://spectrum.ieee.org/cars-that-think/transportation/self-driving/fatal-tesla-autopilot-crash-reminds-us-that-robots-arent-perfectMielenkiintoinen teksti on:
"I would guess Tesla’s position on this would be that most of the time, yes, you can rely on it, but because Tesla has no idea when you won’t be able to rely on it, you can’t really rely on it. In other words, the Autopilot works very well under ideal conditions. You shouldn’t use it when conditions are not ideal, but the problem with driving is that conditions can very occasionally turn from ideal to not ideal almost instantly, and the Autopilot can’t predict when this will happen. Again, this is a fundamental issue with any car that has an “assistive” autopilot that asks for a human to remain in the loop, and is why companies like Google have made their explicit goal to remove human drivers from the loop entirely."
Kiteyttää hyvin nykyhetken ongelman, autopilotti joo, mutta ei sitten kuitenkaan kokoaikaa tai ainakin niin että ei tiedä milloin, joten vastuu jääkin yllättäen kuljettajalle. Yksi todiste, että vaikka kuinka paljon panostetaan tutkiin ja muihin niin tulee eteen tilanne jossa joku ei sitten taas ihan onnistunut ja laitteisto antoi väärää informaatiota. Ei siten etteikö ihminen teksi samaa virhettä mutta että ohjelmisto ei havaitse eroa värien, muotojen tai yläpuolisten kylttien välillä, on jo aika fataali. Jos ihminen ei erota rekkaa tien yläpuolisesta kyltistä on tuloksena Darvin-awards ja kyseinen ongelma poistuu liikenteestä. Google kuitenkin saa jatkaa vaikka onkin tappanut matkustajan.
if color white // 10% possible sign detected
if underneath == empty // 30 % maybe sign
if height > 5 meters // 60% most propably sign detected
if no other objects detected // 90% sign > no braking required
if airbag deployment // collision
denial(); // not our fault,
