Vem ska de självkörande bilarna välja att döda?

Snart är självkörande bilar vardag. De kör säkrare än människor, men vad händer om några barn springer ut i vägen – ska bilen rädda dem, även om det innebär att du kraschar in i en vägg och skadas? 

Människor bakom ratten är trafikfaror. Så mycket som 94 procent av olyckorna orsakas av oss. Kan vi undvika större delen av krascherna med hjälp av förarlösa bilar kan alltså många liv räddas. 

I juli fick Sverige en lag som tillåter test av självkörande fordon på våra gator, och senare i år ska 100 stycken provköras på allmänna vägar i Göteborg.

Men vissa vill dra i handbromsen – av etiska skäl.

Skulle du rädda tre fotgängare (och en katt) eller två passagerare, om du programmerade bilen? Bild: MIT Media Lab

– Det finns två stora frågor. Hur programmeras bilarna för att fatta beslut, och vem har ansvar om något händer – är det de i bilen eller programmerarna? Man behöver mer diskussion kring de här sakerna, säger Jessica Nihlén Fahlquist, filosof som forskar kring tekniketik vid Centrum för bioetik och forskning i Uppsala. 

Hon tycker att det är för tidigt att släppa ut självkörande bilar i trafiken.

– Man kan se det som ett socialt experiment. Historiskt när vi har fått ny teknik, till exempel kärnkraft, är det som att man börjar experimentera i samhället i stället för i en kontrollerad miljö, som ett labb. Det är kanske nödvändigt med sådana experiment, men det bör ske på ett ansvarsfullt sätt.

Jessica Nihlén Fahlquist

Vad är det då vi måste fundera över när det gäller självkörande bilar? Största diskussionen har rört besluten som bilen måste programmeras att fatta i en oväntad situation. Om en förälder med barnvagn plötsligt dyker upp i körfältet och bara kan räddas genom att bilen väjer in i en vägg och offrar föraren – vad ska den välja?

– Om man tänker sig att det alltid är bättre att fler överlever, oavsett till vilket pris, då ska vi ju bygga tekniken på ett sånt sätt. Men man ska vara medveten om att man då gjort ett val av etisk princip, säger Jessica Nihlén Fahlquist.

I ett klassiskt filosofiskt tankeexperimentet kallat spårvagnsproblemet har du möjlighet att växla en skenande spårvagns spår för att rädda fem personer från att bli överkörda – på bekostnad av en person som körs ihjäl på stickspåret. Något som de flesta tenderar att vilja göra. Om de däremot ges möjligheten att från en bro ovanför spåret putta ner en tjock person mot en säker död, som dock får stopp på vagnen och räddar fem personers liv – då vill få fatta beslutet som räddar flertalet, enligt Jessica Nihlén Fahlquist.

De som tagit ställning till scenarierna i Moral Machine har prioriterat att rädda läkare, vältränade personer, kvinnor och barn framför andra människor. Vilka skulle du välja? Bild: MIT Media Lab

– Intuitionen är olika trots att det är liknande fall.  Att tycka att det alltid är bättre att fem överlever än en är en utilitaristisk värdering, en viss hållning. Man kan också tänka sig att alla människor har rätt till liv. Det baseras på en annan teori, säger hon.

I plattformen Moral Machine utvecklad av MIT Media Lab har forskare samlat in över 28 miljoner svar på det moraliska dilemmat kring om självkörande bilar kan behöva offra någon för att rädda andra, och vilka som bilen ska prioritera. Barns, kvinnors, läkares och vältränade personers liv är mest värda, enligt resultaten, som också visar att vi föredrar att rädda flera liv även om det innebar att några måste offras.

Samma fråga undersöktes vetenskapligt 2016. Det visade sig även där att en majoritet av deltagarna föredrog utilitaristiska fordon. Är problemet alltså löst? 

Knappast. Haken är att människorna i studien ville att andras fordon fattar beslut efter allmänhetens bästa, samtidigt som få kunde tänka sig att själva sätta sig i en bil som riskerar att prioritera medtrafikanter eller fotgängare framför den egna säkerheten.

Forskarna drar slutsatsen att det just nu ”inte verkar finnas något lätt sätt att designa algoritmer som förenar moraliska värderingar med människors egetintresse”.

Måste bilen verkligen välja?

Så hur ser algoritmerna för dagens självkörande bilar egentligen ut? 

– Självkörande bilar är inte programmerade för att välja att döda någon. De fordon som kör på gatorna idag är tillverkade så att de bara får vara självkörande när systemet klarar av att hantera situationen, säger Anna Pernestål Brenden, forskare på Integrated Transport Research Lab på KTH.

Anna Pernestål Brenden

I stadstrafik innebär det att fordonen kör betydligt långsammare än vi själva skulle göra.

– De är snarare överdrivet försiktiga, för att inte köra på nån. De försök som har gjorts visar att om det finns gående runt omkring kör bilarna i ungefär samma hastighet som fotgängarna. Nackdelen med det är ju att det inte blir en så bra tjänst av det, säger Anna Pernestål Brenden.

Inte heller de bilar som körs på motorväg, vilket kommer att testas i Göteborg senare i år, är programmerade för att välja att offra någon, säger hon:

– Standard i branschen idag är att fordonen bromsar och stannar i sin fil, eller möjligen hittar första bästa sätt att köra av vägen eller stanna vid vägkanten.

Ska tjuvar som dessutom går mot rött straffas av den självkörande bilens algoritm? Bild: MIT Media Lab

Anna Pernestål Brenden ser ändå en poäng i att diskutera de moraliska frågorna.

– Fordonen får inte skada en människa och de kommer inte att släppas ut och vara självkörande om de inte klarar normala och onormala situationer. Det skulle förstås kunna hända olyckor eller extremfall, som behöver hanteras, och de frågorna diskuteras av utvecklare och forskare – idag har ingen svaret. 

Men redan nu är självkörande bilar säkrare än de med människor bakom ratten – så länge koden gör vad den ska och de inte blir kapade, enligt Anna Pernestål Brenden.

Är det då inte oetiskt att låta bli att rädda liv genom att låta människor köra? Åter till vår filosof, som vill vänta med att släppa ut förarlösa bilar på vägarna.

– Att öka säkerheten är självklart viktigt, men även om fler överlever kommer ju vissa eventuellt att dö eller skadas på grund av förarlösa bilar. Även enskilda fall måste tas med i beräkningen, säger Jessica Nihlén Fahlquist.

Hon illustrerar med en jämförelse.

– Vi skulle kunna göra jättemycket för att rädda liv om vi till exempel lagstiftade om vaccination och övervakade människor så att de minskar på alkohol. Men det finns ju andra värden, som integritet.