Sveigja eða keyra: Þjóðverjar birta fyrstu siðareglurnar fyrir sjálfkeyrandi ökutæki

Í framtíð þar sem tæknilega flókin tölvukerfi eru byggð á gervigreind og eru fær um að læra sjálf, hversu háð erum við mannfólkið tilbúin að verða þessum kerfum í skiptum fyrir aukið öryggi, flytjanleika og þægindi? Hvaða skref þarf að taka í dag til að tryggja stjórn, gagnsæi og umráð gagna?

Þessum spurningum og fleirum leituðust 14 þýskir fræðimenn á sviði siðfræði, lögfræði og tækni að svara nýverið í þeim tilgangi að útbúa leiðarvísir og regluverk fyrir framleiðendur sjálfkeyrandi tækni. Skýrsla siðanefndarinnar var kynnt af samgönguráðherra Þýskalands í síðustu viku, en stefnt er að lögleiðingu reglnanna innan tíðar.

Verkefni siðanefndarinnar var að svara siðferðislegum álitamálum er varða ákvörðunartöku sjálfkeyrandi tækni, þ.e. hugbúnaðarins eða algórithmans. Meginspurningin varðar ákvörðunartöku við aðstæður þar sem slys er óumflýjanlegt og má stilla upp með þessum hætti:

Við slíkar aðstæður og af tveimur möguleikum, hvort á sjálfkeyrandi ökutæki að keyra á gangandi vegfarenda á gangbraut með þeim afleiðingum að vegfarandinn deyr eða á ökutækið að sveigja til hliðar með þeim afleiðingum að farþegi þess deyr?

Sveigja eða keyra?

Margt bendir til að aukin sjálfstýring ökutækja, þ.e. tækni sem leysir mennska ökumenn af hólmi að hluta eða öllu leyti, muni draga úr slysatíðni og gera umferðina öruggari. Spár um bætt umferðaröryggi vegna sjálfstýringar byggja m.a. á þeirri staðreynd að yfir 90% slysa í dag má rekja til mannlegrar hegðunar, hvort sem hún telst vera mistök (t.d. líta ekki nægilega í kringum sig) eða alvarlegri afglöp (keyra undir áhrifum).

En hvernig eiga sjálfkeyrandi bílar að bregðast við þegar slys er óumflýjanlegt? Með öðrum orðum, hvernig á að forrita sjálfkeyrandi bíla svo að þeir bregðist rétt við þegar slys er óumflýjanlegt og hvað telst vera rétt ákvörðun?

E.t.v. eiga einhverjir auðvelt með að svara spurningunni hér að ofan um hvor skuli láta lífið, farþeginn eða vegfarandinn. En spurningunni má snúa, breyta og flækja og er raunar nauðsynlegt að gera svo þegar rætt er um sjákfeyrandi ökutæki. Er einhver reiðubúin að setjast upp í sjálfkeyrandi bíl meðvituð um að bíllinn fórnar sér og farþegum fyrir gangandi vegfarendur? Er réttlætanlegt að ökutækið keyri á gangandi vegfarendur ef um er að ræða rútu fulla af skólabörnum og yfir gangbrautina gengur 95 ára gamall maður? En ef eitt barn er í bílnum og tíu gamalmenni ganga yfir götuna? Og í víðara samhengi, er réttlætanlegt að stundum deyji einhverjir vegna sjálfkeyrandi tækni ef slysum fækkar verulega yfir höfuð vegna hennar?

Spurningin, eða vandamálið, sem glímt er við er eldra en sjálfkeyrandi tækni og er eitt vinsælasta álitaefni siðfræðinnar. The Trolley Problem á akademískar rætur að rekja til 7. áratugarins. Á allra síðustu árum hefur Vagnavandamálið öðlast nýtt líf, annars vegar í tengslum við þróun sjálfkeyrandi tækni og hins vegar vegna áhuga meme-grínara internetsins sem hafa gert sér mat úr því (og ekki verður farið nánar út í hér).

Kanna hug almennings

Eitt skref í átt að ákvörðun um hvernig best er að forrita sjálfkeyrandi bíla er að kanna viðhorf almennings og athuga þannig hvað meirihluti telur vera rétta ákvörðun. Það hafa prófessorar MIT háskólans m.a. gert með Siðavélinni svokölluðu, eða The Moral Machine, þar sem spurt er hvað sjálfkeyrandi bíll ætti að gera þegar slys er óumflýjanlegt. Dæmi um spurningar Siðavélarinnar má sjá hér að neðan.

Ákveðið með lögum og reglum

Þjóðverjar hafa nú stigið skrefið lengra og gefið út áðurnefnda skýrslu sérstakrar siðanefndar þar sem leitast er við að svara siðferðislegum álitamálum varðandi sjálfkeyrandi tækni. Stjórnvöld í Þýskalandi, sem er heimili m.a. Daimler, Volkswagen og BMW, hafa áður látið sig lög um sjálfkeyrandi tækni varða en fyrr á þessu ári var umferðarlögum í Þýskalandi breytt á þann veg að nú verður ökumaður bifreiðar að sitja undir stýri á öllum tímum, og vera tilbúinn að taka yfir stjórn ökutækisins ef sjálfkeyrandi tækni krefst þess. Þótt slík lög geti í fyrstu hljómað íþyngjandi, þá þvert á móti greiða þau veginn fyrir þýska framleiðendur til að þróa og prófa tæknina.

Meðal þess sem fræðimennirnir fjórtján leggja til að lögfest verði er að manneskjur skuli ávallt njóta forgangs yfir dýr og eignir í umferðinni. Algórithmi sjálfkeyrandi ökutækis skal því alltaf leitast við að forðast meiðsli eða dauðsföll á fólki. Þá er lagt til að ekki megi forrita ökutæki þannig að þau taki ákvarðanir sem mismuna fólki út frá aldri, kyni, kynþætti eða líkamlegu ásigkomulagi. Auk þess er talað fyrir notkun svartra ritboxa eins og þekkist í flugiðnaðinum, svo rannsaka megi tildrög slysa eftir á.

 

„Samskipti manna og véla vekur upp nýjar siðferðisspurningar á tímum tækninýjunga og gervigreindar. Siðfræðinefndin hefur unnið brautryðjandi starf og búið til fyrstu viðmiðunarreglur heims fyrir sjálfkeyrandi ökutæki. Við munum nú innleiða þessar reglur,“ sagði þýski samgönguráðherrann þegar hann kynnti efni skýrslunnar í síðustu viku.

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google+ photo

You are commenting using your Google+ account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s