Aleteia logoAleteia logo
Aleteia
piątek 30/10/2020 |
Bł. Benwenuty Bojani
home iconPod lupą
line break icon

Potrącisz dziecko czy grupę ludzi? Dylematy moralne autonomicznych samochodów

DYLEMATY MORALNE, SZTUCZNA INTELIGENCJA

Jan Kostrzewa - publikacja 14.11.18

Massachusetts Institute of Technology [MIT] opublikowało grę, w której wcielamy się w samochód autonomiczny i podejmujemy dramatyczną decyzję: kto ma umrzeć, a kto przeżyć.

Jeszcze kilkanaście lat temu pytanie „Czy w przyszłości samochody będą jeździć bez kierowców” brzmiało jak zupełne science-fiction. Dzisiaj zamiast pytać „czy”, pytamy „kiedy”, a bardziej precyzyjnie: „kiedy na masową skalę”?

Bo przecież autonomiczne samochody, np. Tesli, już przemieszczają się po naszych drogach. Wraz z rozpowszechnieniem się samochodów bezzałogowych pod strzechy wędrują również dylematy moralne.

Jak powinien zachować się rozpędzony samochód, gdy przed maskę wbiegnie dziecko? Intuicyjnie odpowiemy, że skręcić. Ale czy wjechanie na przeciwległy pas jezdni nie wiąże się z wielkim ryzykiem zabicia pasażerów?

Czyje życie jest cenniejsze?

A może życie pasażerów jest ważniejsze od życia dziecka i samochód powinien hamować, ale trzymać się trasy i z dużym prawdopodobieństwem zabić dziecko? Kto ma prawo oceniać, czyje życie jest cenniejsze? Choć samochodami jeździmy od ponad wieku, to jest to zagadnienie bez precedensu. W końcu przez cały ten czas za kierownicą siedział człowiek, który w przypadku kolizji podejmował decyzję instynktownie.

Zazwyczaj instynkt nas ratuje, ale czasami doprowadza do tragedii. Jednak bez względu na skutki, trudno mówić o jakichkolwiek dylematach moralnych. Wyobraźmy sobie, że kierowca w ostatniej chwili zobaczył psa na drodze i odruchowo skręcił w drzewo, zabijając siebie i innych pasażerów. Trudno powiedzieć, że kierowca wyżej cenił życie psa niż swoje i swojej rodziny. Po prostu akcja wywołuje reakcję i nie ma w takich sytuacjach miejsca na jakąkolwiek filozofię.

Jednak w przypadku kierowcy-komputera to programiści na spokojnie i znacznie wcześniej mają możliwość podjęcia decyzji i zaprogramowania sposobu, w jaki powinien zachować się samochód w sytuacji kryzysowej. Mogą na chłodno zadecydować, że autonomiczny samochód, widząc przeszkodę – psa – nie zmieni toru samochodu, ale widząc przeszkodę – dziecko – zjedzie, ryzykując zdrowiem pasażerów.

Dramatyczny eksperyment MIT

By zbadać lepiej tę kwestię, Massachusetts Institute of Technology [MIT] opublikowało grę, w której wcielamy się w samochód autonomiczny i podejmujemy dramatyczną decyzję: kto ma umrzeć, a kto przeżyć. Jest to oczywiste nawiązanie do „Dylematu wagonika” (ang. trolley problem), gdzie szalony filozof przywiązuje na jednym torze dziecko, a na drugim kilka osób. My mamy dostęp do zwrotnicy i możemy zdecydować, którymi torami pojedzie wagon. Jednak w przypadku autonomicznych samochodów ten problem przestaje być czysto abstrakcyjnym, a staje się praktycznym.

Pierwsze i najważniejsze spostrzeżenie wynikające z badań przeprowadzonych przez MIT to to, że… uniwersalne prawo naturalne nie istnieje. Przykładowo: w krajach europejskich wyżej cenimy życie dziecka od życia osoby dorosłej, natomiast w przypadku krajów o kulturze kolektywnej – np. w Chinach – jest odwrotnie. Ponadto Chińczycy zdecydowanie wyżej cenią życie pasażerów samochodu od pieszych, gdy sąsiadujący z nimi Japończycy czują dokładnie odwrotnie. Przykładów można pokazywać wiele.


AUTONOMICZNY SAMOCHÓD

Czytaj także:
Auto, które samo się prowadzi, to już nie jest fantazja! A co z bezpieczeństwem?

Przypadek Titanica

O tym, że kultura, w jakiej się wychowaliśmy przekłada się na nasze decyzje, ludzkość przekonała się w 1912 roku, kiedy to miała miejsce olbrzymia tragedia – zatonięcie Titanica.

Zginęło 1500 osób, tylko 730 udało się wejść do szalup i przeżyć. Co ciekawe, bycie Brytyjczykiem zmniejszało szanse na przeżycie o 7% (względem średniej), a bycie Amerykaninem zwiększało ją o 8,5%. To daje 15,5% różnicy! Jak to wytłumaczyć? Prawdopodobnie dobre maniery gubiły Brytyjczyków, którzy przepuszczali innych w kolejce do szalup, podczas gdy Amerykanie przeciwnie – rozpychali się łokciami, by ratować własną skórę.

Ratować kobiety czy mężczyzn?

Przenosząc to na płaszczyznę decyzji autonomicznego samochodu, w USA samochody powinny preferować życie pasażerów, a w Wielkiej Brytanii życie przechodniów. Jest to o tyle dziwne, że zazwyczaj kultury w niedalekiej odległości od siebie wykazują podobne podejście do dylematów moralnych. Czym jednak jest różnica w narodowościach, gdy spojrzymy na różnice płci?

Szansa przeżycia na Titanicu dla kobiety wynosiła 73,5%, gdy dla mężczyzny zaledwie 20%. Panie miały aż o 367,5 % większą szansę na przeżycie! Trzeba zauważyć, że były to czasy, kiedy kobiety miały mniejsze od mężczyzn prawa wyborcze, ale większe prawo do przeżycia. Ponownie przekładając to na decyzje samochodu autonomicznego, nieważne, czy mówimy o życiu pasażera, czy przechodnia, ważne, by ratować życie kobiety.




Czytaj także:
Znak czasu: Kurs trzymania długopisu

Nie tylko wyzwania techniczne

Brak jednolitej moralności wśród homo sapiens utrudnia wgranie jednego algorytmu do wszystkich samochodów autonomicznych. Może przed wyjazdem na drogę trzeba będzie podać samochodowi swój wiek, płeć i narodowość? A może powinniśmy wypełnić ankietę, by samochód wiedział, jakich decyzji oczekujemy od niego w przypadku zagrożenia?

Czy jednak my jako społeczeństwo zaakceptowalibyśmy, że właściciel samochodu autonomicznego wymaga od niego chronienia własnej osoby absolutnie za wszelką cenę? Również potencjalnym kosztem utraty życia np. dzieci czy wjechania w tłum przechodniów? Jak widać w przypadku samochodów autonomicznych wyzwania techniczne to tylko wierzchołek góry lodowej względem wyzwań prawno-moralnych.

Moralność koncernów motoryzacyjnych

W jaki sposób koncerny motoryzacyjne odpowiedzą na te wyzwania? Osobiście przewiduję, że… nie odpowiedzą. Koncerny motoryzacyjne stwierdzą zapewne, że algorytm ocenia jedynie, czy na drodze pojawiła się przeszkoda, bez rozróżniania jakiego typu jest to przeszkoda (pies, dziecko, grupa przechodniów), a następnie stara się uniknąć wypadku.

Dzielenie obiektów na drodze na tylko dwie grupy („przeszkoda” i „brak przeszkody”) pozwoli nie tylko na sprawniejszą pracę algorytmu, ale również będzie sprytnym zabiegiem pozwalającym ominąć wszystkie dylematy moralno-filozoficzne. Jeżeli nawet w przyszłości pojawi się technika i algorytmy umożliwiające nie tylko określenie rasy, ale i wieku czy płci „przeszkody” znajdującej się na drodze, to bardzo wątpię, aby firmy z nich korzystały. Może i lepiej. Kim w końcu jesteśmy, by decydować o życiu lub śmierci ludzi?


SZTUCZNA INTELIGENCJA

Czytaj także:
Sztuczna inteligencja. Wielka nadzieja czy wielkie zagrożenie?

Wesprzyj Aleteię!

Jeśli czytasz ten artykuł, to właśnie dlatego, że tysiące takich jak Ty wsparło nas swoją modlitwą i ofiarą. Hojność naszych czytelników umożliwia stałe prowadzenie tego ewangelizacyjnego dzieła. Poniżej znajdziesz kilka ważnych danych:

  • 20 milionów czytelników korzysta z portalu Aleteia każdego miesiąca na całym świecie.
  • Aleteia jest aktualizowana codziennie i publikowana w ośmiu językach: po francusku, angielsku, arabsku, włosku, hiszpańsku, portugalsku, polsku i słoweńsku.
  • Każdego miesiąca nasi czytelnicy odwiedzają ponad 50 milionów stron Aletei.
  • Prawie 4 miliony użytkowników śledzą nasze serwisy w social mediach.
  • W każdym miesiącu publikujemy średnio 2 450 artykułów oraz około 40 wideo.
  • Cała ta praca jest wykonywana przez 60 osób pracujących w pełnym wymiarze czasu na kilku kontynentach, a około 400 osób to nasi współpracownicy (autorzy, dziennikarze, tłumacze, fotografowie).

Jak zapewne się domyślacie, za tymi cyframi stoi ogromny wysiłek wielu ludzi. Potrzebujemy Twojego wsparcia, byśmy mogli kontynuować tę służbę w dziele ewangelizacji wobec każdego, niezależnie od tego, gdzie mieszka, kim jest i w jaki sposób jest w stanie nas wspomóc.

Wesprzyj nas nawet drobną kwotą kilku złotych - zajmie to tylko chwilę. Dziękujemy!

Tags:
nowoczesne technologiesamochódsztuczna inteligencja
Modlitwa dnia
Dziś wspominamy świętego...





Top 10
Philip Kosloski
5 świętych, których ciała nie uległy rozkłado...
Theresa Aletheia Noble
Dobra spowiedź. 10 cennych rad od księży
Mathilde de Robien
Imiona, które noszą w sobie pieczęć Boga. Moż...
PAPIEŻ PRZYTULA CHOREGO MĘŻCZYZNĘ
Marine Soreau
„Papież nie bał się mnie objąć”. Opowieść czł...
KOBIETA NA POLU
Redakcja
Cytat z Biblii dla ciebie na dziś [26 paździe...
ST JOSEPH,THE WORKER CARPENTER, JESUS,CHILDHOOD OF CHRIST
Philip Kosloski
Ta starożytna modlitwa do św. Józefa podobno ...
ABORCJA
Michał Lubowicki
Twoja wiara nie ma nic do rzeczy w kwestii ab...
Zobacz więcej
Newsletter
Aleteia codziennie w Twojej skrzynce e-mail