Berlingske Business
17:41God weekend

Ville du købe en bil, der var programmeret til at slå føreren ihjel?

TESLA
Modelfoto: Hvis vi nogensinde skal gå til 100 procent selvkørende biler, er der en række etiske spørgsmål, vi skal finde svar på. Skal der være én central lovgivning? Eller skal valget i sidste ende tages af en brancheforening for bilproducenterne eller hos de enkelte producenter? Foto:

Teknologisk rykker vi med hastige skridt tættere på selvkørende biler. Men uanset om vi har fuldt selvstyrende biler på vejene i 2020 eller 2040, er der en række etiske dilemmaer, som vi bør have tænkt igennem, inden den første dødsulykke.

I løbet af 2015 mistede 178 mennesker livet, og 3.156 personer kom til skade i trafikken.

Og selv om trafikdræbte er et uundgåeligt onde ved at have biler på vejene, er der formentlig gode muligheder for at nedbringe tallet yderligere. For eksempel sker mere end 10 procent af dødsulykkerne på grund af alkohol, og i mere end 20 procent af ulykkerne skønner politiet, at hastighedsgrænsen er blevet overtrådt. Kort sagt: Menneskelige fejl spiller en hovedrolle i statistikken.

I disse år foregår der et intenst kapløb mellem store bilfirmaer, der alle arbejder på deres egne udgaver af selvkørende biler. Det vil medføre en revolution inden for trafiksikkerhed, mener producenterne, der tror så meget på deres eget produkt, at de er villig til at dække forsikringssummen, hvis deres biler er med i en ulykke. Men uanset hvor intelligente og sikre de selvkørende biler bliver, vil de uundgåeligt ende i situationer, hvor de kan risikere at køre galt. Et par simple eksempler er et barn, der pludselig løber over vejen, et træ der vælter og dækker kørebanen eller en ikke-selvkørende bil, der ikke holder sig inden for færdselsloven.

Ifølge Elon Musk giver autopiloten allerede 50 procent mindre risiko for uheld. Læs hvorfor Tesla-stifteren mener, at det er vigtigt, at sikkerheden ikke bare bliver på niveau med mennesker bag rattet, men markant bedre.

Og i modsætning til en menneskelig fører vil de selvkørende biler have mulighed for at træffe et valg på et splitsekund. Forfærdelige - og i nogle tilfælde umulige - valg der i værste fald kan betyde døden for menneskelige trafikanter. Det åbner op for nogle etiske dilemmaer, som i visse tilfælde er ægte etiske dilemmaer med vægtige argumenter for og imod og uden én god løsning.

»Mens mennesker handler spontant og ikke kan stilles til regnskab for, hvad de gør i en dilemma-situation, så skal de her biler jo programmeres til at håndtere situationer. Og det gør, at man på en eller anden måde kan bygge en tankeproces ind i dem, så de på forhånd kan tage stilling til, hvad de skal gøre. Og det er super interessant,« siger Martin Mose Bentzen, der underviser på DTU i videnskabsteori og etik for ingeniører og blandt andet forsker i autonome sociale robotter og moralsk ansvar.

TESLA-GIGAFACTORY

Han nævner som eksempel en situation, hvor en selvkørende bil er nødt til at undvige og køre ind i en af to personer, for hvis bilen ikke undviger, vurderer bilen, at begge trafikanter bliver ramt. I eksemplet har den ene cykelhjelm på, og den anden har ikke. Hvem skal bilen vælge at køre ned i situationen? Trafikanten med cykelhjelm, som muligvis har en større chance for at overleve? I så fald straffer man personen for at prøve at beskytte sig selv. Ingen af de to løsninger er gode, men et valg skal tages.

»Jeg tror, bilselskaberne håber, at vi kan løse dilemmaerne ‘on the fly’. Men jeg tror, det vil være klogt at løse det på forhånd,« siger han og uddyber.

»For jeg tror, at når vi får de første dødsulykker med selvstyrende biler - og det får vi uundgåeligt - så vil de stå meget bedre, hvis de kan retfærdiggøre, hvad der er sket i den situation, hvor det er gået galt.«

Han forudser, at hvis vi ender med en dødsulykke, hvor bilen har truffet et valg, som offentligheden vil betragte som problematisk, kan bilbranchen risikere at få vendt den folkelige opbakning til modstand mod selvkørende biler.

»Man kan risikere at få et kæmpe backlash, tror jeg. Ligesom man har set imod fx atomkraftværker og genteknologi, hvor forskerne står i opposition til hoveddelen af befolkningen. Og det vil være synd, for jeg mener sådan set, at selvkørende biler er en rigtig god ide i forhold til trafiksikkerhed.«

FORD-MOTOR-RECALL/

Vil vi nogensinde få selvkørende biler?

De etiske dilemmaer bør vi altså tage hul på inden længe. Men kan de også betyde, at der går længere tid, før vi ser selvkørende biler på vejene? Ja, mener fx den tyske filosof Julian Nida-Rümelin. Han har peget på, at der vil være uløselige etiske spørgsmål for selvkørende biler, og som konsekvens mener han ikke, at 100 procent selvkørende kategori-biler nogensinde bliver en realitet. Heller ikke David Mindell, der er professor på MIT og forfatter til bogen ‘Our Robots, Ourselves: Robotics And The Myth Of Autonomy’ tror, at det bliver aktuelt med fuldt selvkørende biler, fordi vi selv ønsker at bestemme over liv og død.

Analysehuset Gartner tror ikke på, at vi nogensinde får fuldt selvkørende biler. Læs mere om hvorfor.

»Forestillingen om at afgive kontrol over noget så grundlæggende i livet, som at køre bil, til en stor, ugennemsigtig virksomhed (red. Googles selvkørende biler), har folk det ikke godt med«, sagde han til MIT News. Her er Martin Mose Bentzen dog mere pragmatisk.

»Der kan godt være et uløseligt dilemma. Men så må man fra politisk side eller fra bilfirmaets side sige, at det er den løsning, vi giver, og den kan vi retfærdiggøre på den ene eller den anden måde,« siger han og fortsætter.

»Det vil også være et dilemma for det menneske, der vil køre. Så at sige, at så kan vi ikke have fuldt ud selvstyrende biler, fordi den kan ikke løse et dilemma, som vi heller ikke selv kan løse, det virker som et mærkeligt argument.«

09BUSSelvk-rende-Voldsom-Vo.jpg

Martin Mose Bentzen mener også, at vi finder en løsning, fordi det i det store hele vil blive en mere sikker trafik end 100 procent menneskestyret. Men det er ikke så let at programmere, som det måske lyder.

»Jeg er måske ikke så optimistisk, som typer som professor Christian Gerdes fra Stanford Universitet, der mener, at det at implementere etik er simpelt. Det er bare at lave nogle hardconstraints for, hvad man ikke må - f.eks. at man aldrig må køre en fodgænger ned - og så lave en cost funktion for de andre ting,« siger han

Han mener dog samtidig, at vi teknologisk og forskningsmæssigt er ved at komme til et sted, hvor vi kan implementere en form for etik i computere og robotter. Der bliver holdt workshops og konferencer om emnet, og det er et felt, mange AI-forskere er interesserede i.

»Spørgsmålet er selvfølgelig, om det bliver tilfredsstillende. Men jeg mener egentlig, at forskningen er på vej derhen,« siger han.

09BUSMads-Sixh-j-174144.jpg

Ingen vil købe bilen, der vælger at slå dig ihjel

Uanset hvad skal der findes svar på en række etiske spørgsmål, hvis vi nogensinde skal gå fra kategori 4-biler og til de 100 procent selvkørende kategori 5-biler. Spørgsmålet bliver så, om det bør være én central lovgivning, der definerer, hvilke valg de selvkørende biler skal tage, eller om valgene i sidste ende bliver taget af en brancheforening for bilproducenterne eller hos de enkelte producenter.

Hvis det bliver de enkelte producenter, der definerer fuldstændig, hvilke valg bilerne skal tage, kommer der flere etiske dilemmaer. For hvad vil det få af betydning for salget af bilerne, hvis producent X vælger en tilgang, der er mere tilbøjelig til at lade føreren overleve end producent Y? Umiddelbart en skræmmende konkurrencefordel.

For sætter vi situationen på spidsen, vil en selvkørende bil ikke bare kunne ende i en situation, hvor den skal vælge mellem bløde trafikanter på vejen. Man kan også lave eksempler, hvor valget står mellem bilisten i den selvkørende bil og en trafikant på vejen. Og hvor det med stor sandsynlighed vil medføre, at en af parterne mister livet.

UBER-PIX

Og ville du købe en bil, der var programmeret til at slå føreren ihjel? Hvis du er som de fleste, siger du nej. MIT-professor Iyad Rahwan har skabt Moral Machine, der via gamification er med til at skabe et billede af, hvilken etik mennesker ønsker implementeret i en selvkørende bil. Og dobbeltmoralen lever i høj grad.

»Generelt vil folk have bilen til at være moralsk gode, så de ønskede en bil, der minimerede skaden for fodgængere, selv om det betyder, at den vil ofre føreren af bilen,« skriver Iyad Rahwan med følgende tilføjelse.

»Men når de blev spurgt, om de ville købe sådan en bil, var svaret et rungende nej.«

Catch 22

Nogenlunde samme resultat er den franske forskningschef på Toulouse School of Economics, Jean-Francois Bonnefon, nået frem til. Hans team konkluderer i et studie, at når der ikke findes rigtige eller forkerte svar, kommer den offentlige mening til at afgøre, om de selvkørende biler bliver accepteret.

I studiet opererer de med et dilemma, hvor du ejer en selvkørende bil. Du kommer kørende og er pludselig i en situation, hvor bilen kan ofre dig som bilens fører eller de 10 personer på vejen. De fleste medgiver, at det er bedre at ofre den ene i bilen end de 10 på vejen. Men samtidig har det også konsekvenser. For det faktum, at bilen vil ofre ejeren, vil formentlig få færre til at købe de selvkørende biler. Og så står vi nu i en situation, hvor flere måske i virkeligheden vil dø, fordi færre selvkørende biler og flere mennesker bag rattet med stor sandsynlighed vil medføre flere uheld. Altså en catch 22-situation, hvor man kun kan vælge forkert.

Bilbranchen investerer over én kam massivt i selvkørende biler og bliver samtidig udfordret af nye spillere som Google og Tesla. Læs interview med Nvidia, der satser på at blive en stor leverandør af hjernen til de selvkørende biler.

Hos Mercedes har man som de første meldt ud, at de vil prioritere at redde bilen og personerne i den over at redde fodgængere.

»Hvis du ved, at du kan redde mindst en person, så red personen i bilen. Hvis du helt sikkert ved, at du et dødsfald kan undgåes, så er det din prioritet,« sagde Christoph von Hugo, der er chef for Mercedes’ førerløse system.

pix-Bil

Et første bud fra en af de store producenter, men ikke et specielt fyldestgørende svar, mener Martin Mose Bentzen.

»Sådan som Mercedes stiller det op, har de jo ret, hvis man er sikker på at man kan redde én, skal det vel være chaufføren i mange tilfælde,« siger han og stiller et spørgsmål, som Mercedes endnu ikke har besvaret.

»Men hvad med dual-use? Skal bilproducenterne ikke tage ansvar og forhindre, at deres biler skal køre ind i uskyldige, hvis brugeren har denne intention?.«

Hvem beslutter, hvem der dør, og hvem der overlever?

Vender vi tilbage til spørgsmålet om, hvem der skal træffe de svære valg, tror Martin Mose Bentzen, at det er nødvendigt, at der kommer lovgivning. Men der bliver også behov for branche-standarder, da det i høj grad bliver bilproducenterne, der kommer til at implementere valgene i bilernes software. Også fordi bilfirmaerne reelt set overtager chaufførernes rolle.

»Lige nu taler vi meget om førerløse biler, på samme måde som man talte om bilen, da den kom frem. Det var en hestevogn uden heste. Men ligesom bilen er noget helt andet en hestevogn uden heste, så er den selvstyrende bil også noget helt andet end en bil, som vi kender den nu,« siger han.

Hvad det andet er, er det, man er ved at finde ud af. Og det er også derfor det er spændende og lidt uklart lige nu. Et stort spørgsmål er f.eks., om mennesket altid skal kunne gribe ind og overtage styringen?

Og hvad med de situationer, hvor der bare ikke findes én løsning, der er bedre end den anden? Martin Mose Bentzen peger på, at det muligvis bare bør være en simpel tilfældigheds-algoritme, der afgør udfaldet.

»Er der den form for symmetri (red. at der ikke er nogen løsning bedre end anden), men at det stadig er bedre at gøre en af dem, end slet ikke at gøre noget. Hvis vi antager, at gør man ikke noget, kører man begge to ned. Så synes jeg egentlig, at det at vælge tilfældigt ikke er nogen så dårlig ide,« siger han og fortsætter.

»Det har en form for kynisk retfærdighed, og “det er i hvert fald bedre, end at man går ind i en eller anden form for diskrimination, synes jeg.«

En række nye teknologier har potentiale til at løfte vores levevilkår dramatisk. Men teknologi har samtidig også potentiale til at udslette menneskeheden, og derfor bør vi allerede nu tage diskussionen om, hvordan vi fx håndterer kunstig intelligens, mener den svenske matematiker og forfatter Olle Häggström.

Artiklen er oprindelig publiceret på IDA Universe

0 Kommentarer

Forsiden lige nu

Til forsiden

Business anbefaler

Gratis breaking news på mobilen

Send BUSINESS BREAK til 1929 og modtag en SMS med en bekræftelse. Det er gratis - tilmelding koster kun almindelig takst. Du kan til hver en tid afmelde tjenesten igen.

Afmeld: sms BUSINESS BREAK STOP til 1929

Tilmeld Afmeld

Business Nyhedsbrev

Få breaking news og det bedste overblik fra Business.dk morgen og eftermiddag - eller modtag hver uge et prioriteret overblik over investorstof, privatøkonomi, ejendomme, digtal, karriere, media og vækst.

Se alle nyhedsbreve
 

Business i billeder

Se alle

BrandView Hvad er Brandview?

BrandView er en service fra Berlingske Media, hvor virksomheder har mulighed for at kommunikere deres specialviden direkte til brugere og læsere af Berlingske.
Dette kan gøres på print i Berlingske og Berlingske Business, eller online på b.dk og business.dk.

Ønsker du at vide mere om BrandView, bedes du kontakte content marketing afdelingen Public Impact via e-mail: info@publicimpact.dk.

Sponseret

Sampension har markedets laveste omkostninger. Det kommer kunderne til gavn.Hvor meget betaler du i årlige omkostninger på din pensionsopsparing?De færreste har næppe den præcise procentsats lige på l...

Business Events Se alle

Business.dk anvender cookies til at huske dine indstillinger, statistik og at målrette annoncer. Denne information deles med tredjepart. Læs mere

Kære læser. Velkommen til business.dk.

Vi kan se, at du har installeret en adblocker, så vi ikke kan vise dig annoncer. Det er vi kede af, fordi indtægter fra annoncer er en helt afgørende årsag til, at vi dagligt kan tilbyde dig journalistik af høj kvalitet.

Vi håber derfor, at du i din adblocker vil tillade visning af annoncer fra business.dk Det er nemt og tager kun et øjeblik: Se hvordan du gør her.

Med venlig hilsen
Berlingske Business

Tilbage til artiklen