Wracamy do sprawy śmiertelnego potrącenia kobiety przez samochód z autopilotem. Wydarzenie to miało miejsce w marcu, w amerykańskim stanie Arizona, a jego następstwem było między innymi wstrzymanie ruchu zautomatyzowanych ciężarówek (powyżej).
Jak już wiadomo, osobowe Volvo XC90 z autopilotem Ubera nie zahamowało przed kobietą przeprowadzającą rower przez jezdnię. W momencie wypadku piesza miała już za sobą niemal dwa pasy ruchu, a system nie podjął hamowania aż do samego uderzenia. Dlaczego natomiast do tego doszło? Firma Uber właśnie wydała w tej sprawie oświadczenie, wskazujące na błąd oprogramowania.
Jakkolwiek przerażająco by to nie brzmiało, czujniki najprawdopodobniej uznały kobietę z rowerem za przeszkodę niegroźną i niewymagającą reakcji. Mówiąc bardziej dosłownie, rozpoznanie człowieka przez radary miało być uznane za „fałszywy alarm”.
Nagranie z pojazdu uczestniczącego w zdarzeniu:
Tempe Police Vehicular Crimes Unit is actively investigating
the details of this incident that occurred on March 18th. We will provide updated information regarding the investigation once it is available. pic.twitter.com/2dVP72TziQ— Tempe Police (@TempePolice) 21 marca 2018
Trzeba tutaj wyjaśnić, że wypadek miał miejsce po zmroku, lecz dla urządzeń pomiarowych nie był to żaden problem. Radary oraz lidary mogą bowiem pracować w ciemności, a ponadto nic nie wskazuje na to, by były one niesprawne. Problem jednak w tym, że zbierane przez czujniki informacje muszą być nieustannie oceniane przez system. Jego zadaniem jest odróżnienie faktycznego zagrożenia od na przykład śmieci leżących na jezdni, znaków drogowych, czy osób idących poza torem ruchu pojazdu.
Kobieta prowadząca rower i przechodząca przez jezdnię najprawdopodobniej została sklasyfikowana w tej drugiej grupie. Uznano ją więc za przeszkodę niewymagającą hamowania. To natomiast oznacza, że opracowany przez Ubera system jest po prostu bardzo niebezpieczny i nie nadaje się do użytku na drogach publicznych.
Co będzie dalej? Obecnie zautomatyzowane pojazdy Ubera stoją uziemione, w tym zarówno auta osobowe, jak i ciężarówki. Firma zapowiada jednak, że dalej będzie pracowała nad tym systemem, przeanalizuje oprogramowanie i doprowadzi do jego poprawy. Uber zatrudnił nawet byłego prezesa amerykańskiej Rady Bezpieczeństwa Ruchu Drogowego, licząc na jego doświadczenie. Dlatego można powiedzieć, że ciąg dalszy nastąpi.
Starsze teksty na ten temat: tutaj