Biste li kupili automobil koji je programiran da vas žrtvuje radi izbjegavanja veće tragedije?

(Zasluge za ilustracije: Iyad Rahwan)

Profesori Jean-François Bonnefon, Azim Sharif i Iyad Rahwan proveli su šest istraživanja online metodom ankete i intervjuirali 2000 ljudi. Zanimalo ih je što ljudi misle o primjeni umjetne inteligencije u ovakvoj situaciji veazanoj za vrlo delikatnu odluku – odluku vezanu uz pitanje života i smrti

Melita Funda

Kad je riječ o samovozećim automobilima, otvorilo se etičko pitanje postavlja se pitanje bi li oni trebali imati sposobnost izložiti svoje putnike pogibiji u situacijama u kojima bi moglo doći do neke još veće tragedije ili pogibije većeg broja ljudi od broja putnika u automobilu. Na primjer, zanošenje i izlijetanje, odnosno zabijanje u prepreku (npr. zid) pri kojem bi veći broj pješaka mogao biti ugrožen ili čak usmrćen.

Nedavno provedeno istraživanje u SAD-u na gotovo 2000 ispitanika je pokazalo da ljudi nisu spremni kupiti takav tip automatiziranog vozila, prenosi Gizmag.

Zašto bismo uopće kupili samovozeći automobil?

Vožnja osobnim automobilom ljudima je često ugodna, ali nosi sa sobom i odgovornost – za vlastiti, ali i tuđe živote. U automobilskim nesrećama širom svijeta osim starijih ljudi, ginu mladi ljudi u dobi između 15 i 29 godina, zapravo to je jedan od glavnih uzroka smrtnosti za tu dobnu skupinu.

Svake godine, samo u SAD-u ,više od 30.000 prometnih nezgoda povezano je s ozljedama i smrću u prometu. Financijska šteta iznosi skoro bilijun dolara. Pogledamo li podatke za cijeli svijet, onda vidimo da je ta brojka jako visoka. Naime, u svijetu između 20 i 50 milijuna ljudi svake godine bude ozlijeđeno u automobilskim nesrećama, a smrtno strada 1,25 milijuna osoba. Uzrok tih nesreća u 90 posto slučajeva je ljudski faktor.

Autonomna su vozila (AVS) još uvijek godinama daleko od široke upotrebe. Ipak, jednog dana kad dođe pravi tehnološki trenutak za to, samovozeći automobili i kamioni mogli bi spriječiti velik broj nesreća (zasad 9 od 10 nesreća skrivi čovjek), a mogli bi i pridonijeti smanjenju onečišćenja okoliša kao i smanjenju prometnih gužvi.

Iz Volva poručuju da je njihov krajnji cilj razviti tehnologiju automobila koja će izbrisati sudare. Autonomna bi vozila trebala u budućnosti otkloniti mogućnost sudara i nesreća koje gotovo uvijek uzrokuje ljudski faktor.

Dvojbe oko vozila bez vozača

Dok se od autonomnih vozila (AVS) očekuje da bitno povećaju sigurnost u prometu, ona će istovremeno (u rijetkim slučajevima) žrtvovati život putnika u automobilu kako bi se izbjegla veća nesreća i pogibija većeg broja ljudi, poput pješaka koji su se zatekli na cesti i slično.

To je, dakako, i etičko pitanje. U automobilskoj tvrtki Volvo sugeriraju kako treba biti vrlo oprezan te kako bi autonomna vozila uvijek trebala ostati unutar poželjnog ograničenja brzine, sposobna za procjenu rizika i poduzimanja mjera predostrožnosti te spremna izbjeći bilo kakvu opasnu situaciju.

Profesor Iyad Rahwan, jedan je od tri autora istraživanja objavljenog u časopisu Science, i drži da bi sigurnost trebala biti prioritet proizvođača. O neizbježnosti potencijalo opasnih situacija u prometu, profesor Rahwan kaže da će one uvijek biti na neki način prisutne bez obzira na sofisriciranost samovozećih auta.

»Čovjek ne mora ići daleko u zamišljanju neke takve situacije. Zamislite samo kamion koji prevozi teški teret i odjednom se otključa zaštitni lanac koji osigurava zatvorena vrata… Teret pada na cestu. Ako bi se samovozeći auto našao iza takvog kamiona, mogao bi zakočiti, ali se ne bi mogao zaustaviti na vrijeme i izbjeći sudar s teretom iz kamiona. To bi najvjerojatnije dovelo do ozljeđivanja putnika u autu. U slučaju skretanja ili nekog manevra, auto bi mogao ugroziti ostale sudionike prometu, automobile i pješake«, rekao je Rahwan.

Dakle, programi samovozećih auta bi u budućnosti trebali imati »pauzu za razmišljanje« od nekoliko sekundi prije nego donesu tešku i racionalnu odluku što napraviti i kako se ponijeti u nezgodnoj situaciji da bi broj žrtava i šteta bili što manji.

Promjena stavova

Profesori Jean-François Bonnefon, Azim Sharif i Iyad Rahwan proveli su šest istraživanja online metodom ankete i intervjuirali 2000 ljudi. Zanimalo ih je što ljudi misle o primjeni umjetne inteligencije u ovakvoj situaciji veazanoj za vrlo delikatnu odluku – odluku vezanu uz pitanje života i smrti. Istraživači su mogli primijetiti da je pitanje uveliko vezano uz etički aspekt kojem treba pristupiti na pravi način kako se kod ljudi ne bi stvorila psihološka barijera koja bi mogla usporiti usvajanje pametnih samovozećih auta.

Pred sudionike istraživanja su postavili sljedeći scenarij:

Vi ste jedini putnik u samovozećem autu i kreće te se glavnom cestom u skladu s ograničenjem brzine. Odjednom se ispred vas stvori skupina od 10 pješaka. Auto u kojem se nalazite je programiran za skretanje s ceste što vas može ubiti, ali će svakako sačuvati život svih pješaka ili imate opciju da se nastavite kretati, neozlijeđeni, ali ćete ubiti pješake koji su se zatekli ispred vašeg automobila.

Čak 76 posto ljudi je odgovorilo da bi putnik u samovozećem autu trebao žrtvovati vlastiti život i spasiti život pješaka.

U nešto kasnijem ponovljenom istraživanju, ispitanici su odgovorili da putnik u autu ne bi trebao žrtvovati svoj život u situaciji kad zapravo može biti spašen možda tek jedan od pješaka. Tako je odgovorilo 23 posto ispitanih. Ipak, stopa odobravanja da se žrtvuje putnik u autu se povećavala u skaldu s pretpostavkom da bi više pješaka moglo biti spašeno. Na isti način se reagiralo i kad su ispitanici zamišljali u toj situaciji sebe i članove svojih obitelji.

Problem je nastao u onom trenutku kad su sudionici istraživanja zamoljeni da odaberu model samovozećeg auta koji bi oni odabrali za osobnu upotrebu. Polovica ispitanika (50 posto) se izjasnilo da bi radije kupili onaj model koji bi prvenstveno sačuvao život putnika u autu. Samo 19 posto je izabralo auto s programom koji bi sačuvao što je više moguće života svih ostalih sudionika u zamišljenoj situaciji u prometu. Drugim riječima, iako su se ispitanici načelno složlili da bi samovoveći auto trebao biti u stanju spasiti što više života, ipak bi radije odabrali model auta s programom koji bi spasio putnika u vozilu to jest njihov život.

U konačnici, istraživanje je pokazalo da se ispitanicima nije dopala ideja o tome da bi samovozeće automobile kontrolirala vlada, a što bi izravno utjecalo na način kupnje takvih vozila. Čak 59 posto ljudi bi kupilo neregistrirana vozila, a samo 21 posto bi se odlučilo na registrirana vozila pod »državnom kontrolom«.

Prema objašnjenju istraživača i njihovoj interpretaciji dobivenih rezultata, bila bi to kolektivna tragedija: situacija u kojoj pojedinačni interes pobjeđuje zajednički. Premda bi prema znanstvenoj pretpostavki društvo trebalo bolje funkcionirati sa samovozećim autima u prometu, pojedinici bi radije izabrali model auta s programom za spašavanje putnika u autu bez obzira na sigurnost ostalih sudionika u prometu.

Također, očito je da su pretpostavljene situacije u istraživanju bile jako pojednostavljene te da će ih trebati redefinirati kako bi se što je više moguće približile stvarnom životu i svim etičkim pitanjima koje one za sobom povlače. Uostalom, tko je (zasad) spreman prihvatiti činjenicu da odluku o tomu hoće li preživjeti ili ne u nekoj prometnoj nezgodi donosi umjetna inteligencija i daje zadnju riječ?

 (Istraživanje je u SAD-u 2016. proveo  Institut za tehnologiju iz Massachusettsa)