Samojeżdżące samochody, podobnie jak każde inne autonomiczne maszyny, muszą nauczyć się podejmować "dobre" decyzje w sytuacjach kryzysowych, gdy zagrożone jest życie ludzkie. Problem jednak w tym, że nawet człowiek nie jest do końca pewny, czy poświęcenie kierowcy w celu uratowania grupy ludzi jest dobrym pomysłem. Dylemat ten sprawia, że autonomiczne pojazdy skutecznie odstraszają ludzi.

Naukowcy z Francji postanowili przeprowadzić stosowane badanie internetowe. Zapytali ponad 900 osób jakie jest ich zdanie w powyższej kwestii. Ankietowani musieli odpowiedzieć czy zgadzają się aby autonomiczny samochód zabił kierowcę ratując przy tym niewielką grupę ludzi (do 10 osób), w jaki sposób oni sami zaprogramowaliby taki pojazd (zawsze ma poświęcać kierowcę, ma go chronić czy popierają opcję losową) a następnie mieli wyobrazić sobie dwa scenariusze - raz są w roli kierowcy, a raz w roli przechodnia, którego życie znajduje się w stanie zagrożenia.

Większość ankietowanych (75%) stwierdziło, że autonomiczny samochód powinien brać pod uwagę ograniczenie liczby ofiar, czyli pojazd ma skręcić i uderzyć tak aby zginął tylko kierowca, ratując przy tym 10 osób. 50% badanych uznało, że kierowca powinien zginąć nawet jeśli uratuje w ten sposób tylko jednego człowieka.

Jest to raczej normalne podejście, że lepiej byłoby gdyby zginęła tylko jedna osoba, niż 10 osób, choć wciąż będzie to tragedia. System wybierze zatem tzw. mniejsze zło. Niestety problem pojawił się, gdy ankietowani mieli postawić się na miejscu kierowcy oraz przechodnia - bez względu na punkt widzenia, żadna osoba nie chciała umierać i stawiała na pierwszym miejscu swoje bezpieczeństwo.

Okazało się więc, że w roli kierowcy ludzie chcieliby aby ich samojeżdżący pojazd wybrał "większe zło", natomiast gdyby znaleźli się na miejscu przechodnia to kierowca powinien zginąć. Sam fakt, że maszyny te trzeba w jakiś sposób zaprogramować skutecznie zniechęca ludzi do jej zakupu.

Autonomiczne samochody już istnieją i potrafią samodzielnie poruszać się po jezdni, omijać przeszkody lub po prostu zatrzymać się. Niestety sytuacje bywają różne a pojazd nie zawsze zdąży zahamować. Naukowcy mają teraz problem i szukają dobrego rozwiązania. Jednym z nich może być stworzenie różnych wersji oprogramowania a każde z nich będzie zachowywać się inaczej. Przykładowo jeden system będzie opracowany specjalnie dla rodziny, czyli priorytetem będzie ochrona kierowcy i pasażerów (dzieci).

Źródła:

http://arxiv.org/pdf/1510.03346v1.pdf

http://www.popsci.com/who-will-driverless-cars-decide-to-kill