Potrącisz dziecko czy grupę ludzi? Dylematy moralne autonomicznych samochodów

Massachusetts Institute of Technology [MIT] opublikowało grę, w której wcielamy się w samochód autonomiczny i podejmujemy dramatyczną decyzję: kto ma umrzeć, a kto przeżyć.

Jeszcze kilkanaście lat temu pytanie „Czy w przyszłości samochody będą jeździć bez kierowców” brzmiało jak zupełne science-fiction. Dzisiaj zamiast pytać „czy”, pytamy „kiedy”, a bardziej precyzyjnie: „kiedy na masową skalę”?

Bo przecież autonomiczne samochody, np. Tesli, już przemieszczają się po naszych drogach. Wraz z rozpowszechnieniem się samochodów bezzałogowych pod strzechy wędrują również dylematy moralne.

Jak powinien zachować się rozpędzony samochód, gdy przed maskę wbiegnie dziecko? Intuicyjnie odpowiemy, że skręcić. Ale czy wjechanie na przeciwległy pas jezdni nie wiąże się z wielkim ryzykiem zabicia pasażerów?

Czyje życie jest cenniejsze?

A może życie pasażerów jest ważniejsze od życia dziecka i samochód powinien hamować, ale trzymać się trasy i z dużym prawdopodobieństwem zabić dziecko? Kto ma prawo oceniać, czyje życie jest cenniejsze? Choć samochodami jeździmy od ponad wieku, to jest to zagadnienie bez precedensu. W końcu przez cały ten czas za kierownicą siedział człowiek, który w przypadku kolizji podejmował decyzję instynktownie.

Zazwyczaj instynkt nas ratuje, ale czasami doprowadza do tragedii. Jednak bez względu na skutki, trudno mówić o jakichkolwiek dylematach moralnych. Wyobraźmy sobie, że kierowca w ostatniej chwili zobaczył psa na drodze i odruchowo skręcił w drzewo, zabijając siebie i innych pasażerów. Trudno powiedzieć, że kierowca wyżej cenił życie psa niż swoje i swojej rodziny. Po prostu akcja wywołuje reakcję i nie ma w takich sytuacjach miejsca na jakąkolwiek filozofię.

Jednak w przypadku kierowcy-komputera to programiści na spokojnie i znacznie wcześniej mają możliwość podjęcia decyzji i zaprogramowania sposobu, w jaki powinien zachować się samochód w sytuacji kryzysowej. Mogą na chłodno zadecydować, że autonomiczny samochód, widząc przeszkodę – psa – nie zmieni toru samochodu, ale widząc przeszkodę – dziecko – zjedzie, ryzykując zdrowiem pasażerów.

Dramatyczny eksperyment MIT

By zbadać lepiej tę kwestię, Massachusetts Institute of Technology [MIT] opublikowało grę, w której wcielamy się w samochód autonomiczny i podejmujemy dramatyczną decyzję: kto ma umrzeć, a kto przeżyć. Jest to oczywiste nawiązanie do „Dylematu wagonika” (ang. trolley problem), gdzie szalony filozof przywiązuje na jednym torze dziecko, a na drugim kilka osób. My mamy dostęp do zwrotnicy i możemy zdecydować, którymi torami pojedzie wagon. Jednak w przypadku autonomicznych samochodów ten problem przestaje być czysto abstrakcyjnym, a staje się praktycznym.

Pierwsze i najważniejsze spostrzeżenie wynikające z badań przeprowadzonych przez MIT to to, że… uniwersalne prawo naturalne nie istnieje. Przykładowo: w krajach europejskich wyżej cenimy życie dziecka od życia osoby dorosłej, natomiast w przypadku krajów o kulturze kolektywnej – np. w Chinach – jest odwrotnie. Ponadto Chińczycy zdecydowanie wyżej cenią życie pasażerów samochodu od pieszych, gdy sąsiadujący z nimi Japończycy czują dokładnie odwrotnie. Przykładów można pokazywać wiele.

Czytaj także:
Auto, które samo się prowadzi, to już nie jest fantazja! A co z bezpieczeństwem?

Przypadek Titanica

O tym, że kultura, w jakiej się wychowaliśmy przekłada się na nasze decyzje, ludzkość przekonała się w 1912 roku, kiedy to miała miejsce olbrzymia tragedia – zatonięcie Titanica.

Zginęło 1500 osób, tylko 730 udało się wejść do szalup i przeżyć. Co ciekawe, bycie Brytyjczykiem zmniejszało szanse na przeżycie o 7% (względem średniej), a bycie Amerykaninem zwiększało ją o 8,5%. To daje 15,5% różnicy! Jak to wytłumaczyć? Prawdopodobnie dobre maniery gubiły Brytyjczyków, którzy przepuszczali innych w kolejce do szalup, podczas gdy Amerykanie przeciwnie – rozpychali się łokciami, by ratować własną skórę.

Ratować kobiety czy mężczyzn?

Przenosząc to na płaszczyznę decyzji autonomicznego samochodu, w USA samochody powinny preferować życie pasażerów, a w Wielkiej Brytanii życie przechodniów. Jest to o tyle dziwne, że zazwyczaj kultury w niedalekiej odległości od siebie wykazują podobne podejście do dylematów moralnych. Czym jednak jest różnica w narodowościach, gdy spojrzymy na różnice płci?

Szansa przeżycia na Titanicu dla kobiety wynosiła 73,5%, gdy dla mężczyzny zaledwie 20%. Panie miały aż o 367,5 % większą szansę na przeżycie! Trzeba zauważyć, że były to czasy, kiedy kobiety miały mniejsze od mężczyzn prawa wyborcze, ale większe prawo do przeżycia. Ponownie przekładając to na decyzje samochodu autonomicznego, nieważne, czy mówimy o życiu pasażera, czy przechodnia, ważne, by ratować życie kobiety.

Czytaj także:
Znak czasu: Kurs trzymania długopisu

Nie tylko wyzwania techniczne

Brak jednolitej moralności wśród homo sapiens utrudnia wgranie jednego algorytmu do wszystkich samochodów autonomicznych. Może przed wyjazdem na drogę trzeba będzie podać samochodowi swój wiek, płeć i narodowość? A może powinniśmy wypełnić ankietę, by samochód wiedział, jakich decyzji oczekujemy od niego w przypadku zagrożenia?

Czy jednak my jako społeczeństwo zaakceptowalibyśmy, że właściciel samochodu autonomicznego wymaga od niego chronienia własnej osoby absolutnie za wszelką cenę? Również potencjalnym kosztem utraty życia np. dzieci czy wjechania w tłum przechodniów? Jak widać w przypadku samochodów autonomicznych wyzwania techniczne to tylko wierzchołek góry lodowej względem wyzwań prawno-moralnych.

Moralność koncernów motoryzacyjnych

W jaki sposób koncerny motoryzacyjne odpowiedzą na te wyzwania? Osobiście przewiduję, że… nie odpowiedzą. Koncerny motoryzacyjne stwierdzą zapewne, że algorytm ocenia jedynie, czy na drodze pojawiła się przeszkoda, bez rozróżniania jakiego typu jest to przeszkoda (pies, dziecko, grupa przechodniów), a następnie stara się uniknąć wypadku.

Dzielenie obiektów na drodze na tylko dwie grupy („przeszkoda” i „brak przeszkody”) pozwoli nie tylko na sprawniejszą pracę algorytmu, ale również będzie sprytnym zabiegiem pozwalającym ominąć wszystkie dylematy moralno-filozoficzne. Jeżeli nawet w przyszłości pojawi się technika i algorytmy umożliwiające nie tylko określenie rasy, ale i wieku czy płci „przeszkody” znajdującej się na drodze, to bardzo wątpię, aby firmy z nich korzystały. Może i lepiej. Kim w końcu jesteśmy, by decydować o życiu lub śmierci ludzi?

Czytaj także:
Sztuczna inteligencja. Wielka nadzieja czy wielkie zagrożenie?