Czy autonomiczne samochody mogą posiadać kompas moralny? Naukowcy z Instytutu Nauk Poznawczych na Uniwersytecie w Osnabrück w Niemczech twierdzą, że wynaleźli algorytm, który może symulować ludzkie dylematy moralne.

Ludzkie zachowanie w trakcie dylematu może być symulowane przez prosty model oparty na wartości, która jest przypisywana każdemu człowiekowi, zwierzęciu lub nieożywionym obiektom.

Leon Sutfeld w swojej pracy opublikowanej w czasopiśmie „Frontiers in Behavioral Neuroscience” opisuje eksperyment, w którym umieszczono ludzi w wirtualnej rzeczywistości, gdzie symulowano stresujące wydarzenia na drodze. Osoby biorące udział w eksperymencie były narażone na śmiertelne niebezpieczeństwo i wypadki z udziałem ludzi, zwierząt lub obiektów. Decyzje uczestników zostały zapisane w modelu statystycznym, który ma odpowiadać za to, czego powinniśmy unikać, aby zachować bezpieczeństwo.

Jednak samo zebranie danych nie wystarcza. Po pierwsze trzeba ocenić czy wszystkie zachowania ludzkie powinny zostać przypisane maszynie. Po drugie – ocenić czy dokonane wybory były na pewno najbardziej rozsądne.

Ewaluacja tych wyborów to nie lada zadanie. Jak wybrać najlepszą opcję? Często nasze wybory są dyktowane emocjami i nie są one logiczne, czy w takim razie ma szansę sprawdzić się to u sztucznej inteligencji? Sztuczny „kompas moralny” może napotkać wiele absurdalnych błędów. Co jeśli zdecyduje się ominąć psa przebiegającego przez jezdnię, lecz w zamian spowoduje wypadek z udziałem innego pojazdu?

Ludzie sami nie są doskonali w podejmowaniu moralnych decyzji. Czy w takim razie jesteśmy w stanie stworzyć taki algorytm?