Kun autonomiset autot kohtaavat poikkeustilanteen, ne eivät kohtaa vain fysiikkaa vaan myös moraalia. Stanfordin tutkijoiden ja teollisuuden yhteistyö ehdottaa yksinkertaista, mutta voimakasta ratkaisua: käytä jo olemassa olevaa liikennesopimusta — eli liikennesääntöjä ja niiden oikeudellista tulkintaa — ohjaamaan itseajavien autojen eettistä käyttäytymistä.

Trolly-ongelma liikenteessä: klassikosta käytäntöön

Trolly-ongelma on perinteinen filosofinen ajatuskoe, jossa kaukalovaunu uhkaa viittä ihmistä ja kerran toimimalla voisit ohjata vaunun niin, että vain yksi kuolee. Ajatuskokeen tavoitteena on pakottaa pohtimaan utilitaristisia ratkaisuja (mahdollisimman suuri hyvä) versus yksilön oikeuksia. Viime vuosikymmeninä sama kysymys alkoi ilmestyä myös autonomisten ajoneuvojen (AV) suunnittelupöydille: miten ohjelmoida järjestelmä, joka joskus joutuu valitsemaan erilaisia vakavia seurauksia tuottavista toimista?

Mitä tehdä, jos pyöräilijä leikkaa kaistan juuri, kun itseajava auto lähestyy? Onko järkevää ajaa vastakkaisen kaistan puolelle, jolloin vaarannat ohittavan auton — vai osuvatko autonomiset järjestelmät jonkinlaiseen moraaliseen laskelmaan, jossa ihmishenget muutetaan numeroiksi?

Liikennesääntöjen rooli: sosiaalinen sopimus tien päällä

Chris Gerdes, Stanfordin mekaanisen tekniikan emeritusprofessori ja CARS-keskuksen johtaja, sekä yhteistyökumppanit Fordilla ehdottavat, että ratkaisu on jo osa yhteiskunnallista perustaa: liikennesäännöissä ja niiden oikeuskäytännössä. Idea on yksinkertainen ja samalla käytännöllinen — itseajavien autojen tulee noudattaa olemassa olevaa oikeudellista ja eettistä kehystä, eli velvollisuutta huolehtia muista tienkäyttäjistä. Tämä ei tarkoita jäykän lain tulkintaa joka tilanteessa, vaan sitä, että poikkeaminen säännöistä on perusteltavissa vain törmäyksen välttämiseksi.

Fordilla on periaate: noudata lakia aina. Tämä herätti kysymyksen: miten tämä periaate soveltuu autonomiseen ajamiseen? Gerdesin työ kartoitti, miten liikennelaki, hovioikeuksien päätökset ja valamiehistöohjeet yhdessä muodostavat sen sosiaalisen sopimuksen, johon kuljettajat luottavat. Ydinkohta on velvollisuus huolehtia muista — duty of care — joka sallii poikkeamisen sääntöjen noudattamisesta vain, jos se on välttämätöntä törmäyksen välttämiseksi.

Miksi utilitaristinen malli epäonnistuu käytännössä

Paljon julkisessa keskustelussa esitetty idea on, että AV-valmistajien tulisi ohjelmoida autot tekemään utilitaristisia valintoja: valitse pienempi paha, uhraten yhden hengen viiden pelastamiseksi. Gerdes ja monet valmistajat hylkäävät tämän premissin. Ensinnäkin järjestelmän tulisi noudattaa oikeudellista normia — ei puntaroida ihmisten arvoa. Toiseksi käytännössä on lähes mahdotonta luotettavasti ja nopeasti arvioida kaikkia osapuolia, törmäysten dynamiikkaa, pehmeitä muuttujia kuten ihmisten liikkumista tai terveyden seurauksia.

Sen sijaan teollisuus on kehittänyt lähestymistapoja kuten responsibility-sensitive safety (RSS). RSS pyrkii luomaan sääntökokoelman, joka määrittää turvaetäisyydet ja käyttäytymissäännöt niin, että törmäysten määrää voidaan vähentää merkittävästi, jos kaikki noudattaisivat samoja periaatteita. Ongelmana on, että RSS ei kata kaikkia ääritapauksia — järjestelmä kuitenkin reagoi tavalla tai toisella, ja siksi on tärkeää määritellä, miten nämä reaktiot linjataan oikeudelliseen duty of care -periaatteeseen.

Ohjelmoitava velvollisuus: miten koodataan huolehtiva auto?

Kun AV voidaan muotoilla noudattamaan ihmisten oikeudellista velvollisuutta huolehtia toisista tienkäyttäjistä, kollisioon johtavat tilanteet rajoittuvat pitkälti muiden osapuolien virheisiin tai konevikaan. Tämä tarkoittaa, että jos toinen tiellä kulkeva rikkoo sääntöjä — esimerkiksi ajaa punaisia päin tai kääntyy äkillisesti AV:n eteen — AV:n tulee käyttää kaikkia käytettävissä olevia keinoja, aina ajoneuvon fyysisiin rajoihin saakka, väistääkseen törmäyksen suoraan konflikteihin ulkopuolisten kanssa.

Periaatteessa ratkaisu on: älä toiminnallasi riko velvollisuutta huolehtia toisista. Sen sijaan pyri ratkaisemaan konflikti sen aiheuttajan kanssa. Käytännössä se tarkoittaa muutamaa kaupallisesti ja teknisesti määriteltävää sääntöä, jotka voidaan siirtää ohjelmakoodiksi:

  • Turvavälin ylläpitäminen ja dynaaminen mukauttaminen nopeuden ja ympäristön perusteella.
  • Kohtuullinen ja harkittu nopeus — ajaminen olosuhteiden mukaan.
  • Reagointiprioriteetit: ensisijaisesti väistäminen ilman, että toimitaan muuta laillista tienkäyttäjää vahingoittavasti vastaan.

Näistä perussäännöistä muodostuu AV:n duty of care, joka on sekä eettinen että oikeudellinen perusta. Kun sen sisältö pilkotaan riittävän konkreettisiksi mekaanisiksi vaatimuksiksi, ohjelmoijat voivat implementoida ne suoraan ajoneuvon ohjaus- ja päätöksentekojärjestelmiin.

Tekniset haasteet ja realistinen rajaus

Toteuttaminen vaatii useita teknisiä ja organisatorisia varmistuksia. Järjestelmän pitää luotettavasti tunnistaa muut tienkäyttäjät, ennakoida heidän liikkeensä ja arvioida ajoneuvon omat dynaamiset rajat. Lisäksi tarvitaan fail-safe-strategioita laiterikkoihin tai odottamattomiin esteisiin, kuten kaatuvaan puuhun tai tietöiden aiheuttamaan äkilliseen reitinvaihtoon.

Myös lainsäädäntö ja vakuutusoikeus liittävät omat vaatimuksensa. Jos valmistaja ohjelmoi auton, joka systemaattisesti tekee utilitaristisia uhrauksia, tuotteen oikeudellinen vastuu voisi nousta merkittävästi. Sitä vastoin liikennesopimukseen perustuva malli tarjoaa yhtenäisen narratiivin, jota tuomioistuimet ja kuluttajat voivat ymmärtää ja hyväksyä: noudatamme sääntöjä, mutta vältämme törmäyksiä aina kun se on fyysisesti mahdollista.

Luottamus ja julkinen hyväksyntä: miksi ratkaisu on tärkeä

Yksi suurimmista esteistä autonomisen ajamisen laajalle hyväksynnälle on pelko läpinäkyvyyden ja eettisten valintojen puutteesta. Tutkimuksia ja mediajulkisuutta lukiessa saattaa syntyä mielikuva, että autot voisivat oppia ihmisarvoa mittaavan priorisoinnin esimerkiksi crowdsourcing-datan perusteella. Tämä herättää luonnollisesti huolta.

Gerdesin ehdottama lähestymistapa tarjoaa selkeän viestin: jos noudatat sääntöjä, sinulla ei ole syytä pelätä AV:n tekevän sinusta uhria laskelmoidun hyötylaskelman vuoksi. Lisäksi järjestelmä käyttää kaikkia toiminnallisia kykyjään estääkseen törmäyksen myös silloin, kun muut eivät pidä omaa huolta. Tämä muuttaa julkista keskustelua: kyse ei ole tahattomista arvovalinnoista, vaan järjestelmällisestä velvollisuuden noudattamisesta, joka on linjassa oikeudellisen normiston kanssa.

Missä tämä muuttaa käytännön kehitystä?

Keskustelut filosofien, lakimiesten ja insinöörien kanssa ovat mahdollistaneet konkreettisen linkin: laki määrittää sosiaalisen sopimuksen, joka puolestaan antaa eettiset raamit ja tekniset vaatimukset insinöörityölle. Kun velvollisuuden ydinelementit pilkotaan vaatimuksiksi — turvallinen seuraamismatka, kohtuullinen nopeus, reagointirajat — ne on helppo muuntaa koodiksi ja testata simulaatioissa ja kenttätesteissä.

Ford ja muut teollisuuden toimijat ovat alkaneet käyttää tätä ajattelutapaa vaatimusten määrittelyyn ja avoimeen julkaisuun niin, että koko ala voi yhtenäistää parhaita käytäntöjä. Tavoitteena ei ole vain tekninen turvallisuus, vaan myös oikeudellinen ja eettinen selkeys, joka voi vähentää valmistajien ja käyttäjien välisiä epäluuloja.

Esimerkki käytännössä

Kuvittele tilanteen: AV havaitsee pyöräilijän, joka ajaa äkillisesti kaistan poikki. Ei ole vastaantulevaa liikennettä, mutta AV:n väistö kaistan toiselle puolelle voisi osua toiseen, lainmukaiseen autoilijaan. Velvollisuusperiaate sanoo: väistä kolmanteen osapuoleen kohdistuvan haitan välttämiseksi ei saa aiheuttaa vahinkoa lailliselle tienkäyttäjälle. Auton pitäisi etsiä ratkaisut, jotka rajoittuvat tilanteen aiheuttajaan — jarrutus, ohjaus omalle kaistalle tai hyväksyttävä kolari, jos täysin välttämätöntä — sen sijaan että se tekisi laskelman eri ihmisten arvoista.

Expert Insight

Professori Liisa Mäkelä, autonomisen liikenteen tutkija yliopistolta: ”Tämä lähestymistapa yhdistää moraalin ja lain käytännölliseen tekniseen toteutukseen. Se siirtää keskustelun ilmiöstä ’kuka kuolee’ keskusteluksi ’miten minimoimme riskin noudattaen yhteisiä sääntöjä’. Se on paitsi eettisesti kestävä, myös yhteiskunnallisesti hyväksyttävä tie eteenpäin.”

Tulevaisuuden näkymät ja haasteet

Seuraavaksi tarvitaan laajempaa standardisointia, kenttätestejä ja lainsäädännöllistä selvennystä. Autoteollisuuden, julkisen sektorin ja oikeusjärjestelmän vuorovaikutus on ratkaisevaa, jotta velvollisuusperustainen malli voi yleistyä. Lisäksi kuluttajaviestinnän on oltava selkeää: ihmiset tarvitsevat ymmärrettävän ja uskottavan viestin siitä, miten AV reagoi hätätilanteissa.

Lopulta kysymys ei ole vain teknologiasta, vaan myös luottamuksesta. Kun itseajavat autot voidaan sitoa selkeästi osaksi olemassa olevaa sosiaalista sopimusta — ja kun tämä sopimus voidaan konkretisoida teknisiksi vaatimuksiksi — yhteiskunta ottaa suuren askeleen kohti turvallisempaa ja hyväksyttävämpää autonomista liikennettä.