Cím:

Hogyan döntsön a mesterséges intelligencia? Az önvezető autók morális kérdései

How Should Artificial Intelligence Decide? Moral Challenges of Self-driving Cars

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Miskolczi Márk1, Ásványi Katalin2, Jászberényi Melinda3, Kökény László4

Jegyzet elhelyezéséhez, kérjük, lépjen be!

1PhD-hallgató, Budapesti Corvinus Egyetem

Jegyzet elhelyezéséhez, kérjük, lépjen be!

mark.miskolczi@uni-corvinus.hu

Jegyzet elhelyezéséhez, kérjük, lépjen be!

2PhD, egyetemi docens, Budapesti Corvinus Egyetem

Jegyzet elhelyezéséhez, kérjük, lépjen be!

katalin.asvanyi@uni-corvinus.hu

Jegyzet elhelyezéséhez, kérjük, lépjen be!

3PhD, habil. egyetemi docens, Budapesti Corvinus Egyetem

Jegyzet elhelyezéséhez, kérjük, lépjen be!

jaszberenyi@uni-corvinus.hu

Jegyzet elhelyezéséhez, kérjük, lépjen be!

4PhD-hallgató, Budapesti Corvinus Egyetem

Jegyzet elhelyezéséhez, kérjük, lépjen be!

laszlo.kokeny3@uni-corvinus.hu
 
Összefoglalás
 

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Az önvezető autók alkalmazása a következő évtized ígéretes közlekedési innovációja lehet, a technológiát ugyanakkor még számos tisztázatlan kérdés övezi. Tanulmányunkban bemutatjuk az automatizáció alapfogalmait, valamint az önvezető járművek fejlődési szintjeit. Az elemzés célja, hogy feltárja az önvezető autók fejlesztése kapcsán felmerülő morális dilemmákat, egyrészt a mesterségesintelligencia-alapú döntéshozatal oldaláról, másrészt a társadalmi-gazdasági következmények szempontjából. A szakirodalom szerint a mesterséges intelligencia döntési algoritmusait az utilitarizmus elvei mentén érdemes fejleszteni. Elemzésünkben az utilitarizmust megkérdőjelező legfontosabb szempontokra, valamint az önvezető autók terjedésében leginkább érintett iparágak nyitott kérdéseire mutatunk rá. Az önvezető autókkal kapcsolatos morális dilemmák azonosítása elősegítheti, hogy a társadalmi-gazdasági hatások mellett a döntések morális háttere is jobban előtérbe kerüljön a további járműfejlesztések során.
 
Abstract
 

Jegyzet elhelyezéséhez, kérjük, lépjen be!

The adoption of self-driving cars could be a promising transport innovation for the next decade, but the technology is still surrounded by several unclear issues. In our study, the basic concepts of automation as well as the developmental levels of self-driving vehicles are presented. The analysis aims to investigate the moral dilemmas of self-driving car innovations from the viewpoint of artificial intelligence-based decision-making and its socio-economic consequences. Previous research suggest that the decision-making algorithms of artificial intelligence should be developed along with the principles of utilitarianism. In our analysis, the most important aspects that dispute utilitarianism as well as the uncertainties of the industries most affected by the spread of self-driving cars are introduced. Identifying moral dilemmas about self-driving cars can help to bring moral issues to the forefront of further vehicle development beyond socio-economic impacts.
 

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Kulcsszavak: önvezető autók, etikai és morális kihívások, társadalmi-gazdasági hatások, mesterséges intelligencia
 

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Keywords: autonomous vehicles, ethical and moral issues, socio-economic impacts, artificial intelligence
 

Jegyzet elhelyezéséhez, kérjük, lépjen be!

DOI: 10.1556/2065.182.2021.3.6
 

Jegyzet elhelyezéséhez, kérjük, lépjen be!

 

Bevezetés

Jegyzet elhelyezéséhez, kérjük, lépjen be!

A személyközlekedés jövőjét nagyfokú bizonytalanság jellemzi. A társadalmi szerkezet dinamikája (változó mobilitási igények) alapjaiban határozza meg a közlekedési rendszer paramétereit (helyváltoztatások volumene, térbeni-időbeni megoszlása). A keresleti-kínálati viszonyok stabilitását a közlekedési innovációk különböző formái (például: termék – járműfejlesztés, folyamat – utazás módja) segíthetik elő. A 21. század második évtizedének legígéretesebb technológiai fejlődése az automatizálás, melynek közlekedési hatásai valamennyi Schumpeter-féle innovációs alapesetet (például: új minőségű javak előállítása – megváltozott belső kialakítású autók, új piaci berendezkedés – új szereplők és célcsoportok) érinthetnek. E merőben diszruptív technológia ugyanakkor számos kihívással szembesíti a technológiát fejlesztő, valamint annak hatásait vizsgáló társadalmi-gazdasági szakértőket. Az automatizálás hatásvizsgálatának időszerűségét jól mutatja, hogy önvezető autókat jelenleg 138 város közútjain tesztelnek világszerte (URL1), a járművek használati módja, a technológiában rejlő lehetőségek és kockázatok kérdésköre ugyanakkor még nem eléggé kutatott, különösen a kelet-közép-európai országokban. Az önvezető autók terjedését a morális és jogi dilemmák tisztázatlansága éppannyira hátráltathatja, mint a technológiai kihívások, ezért tanulmányunkban feltárjuk a küszöbön álló, egyre magasabb fejlettségi szinten álló önvezető autók mesterségesintelligencia-alapú döntéshozatallal kapcsolatos (1), valamint társadalmi-gazdasági következményekből adódó (2) morális kérdéseit.

Önvezető autók – közlekedéstudományi alapfogalmak

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Az automatizálás a negyedik ipari forradalom (Ipar 4.0) innovációja, mely a 20. század második felében felgyorsult információ- és kommunikációtechnológia (IKT) hozadéka. Az önvezető autók kérdésköre rendkívül újszerű és szerteágazó, ebből adódóan a technológiával kapcsolatos szakmai és fogyasztói ismeretek is korlátozottak, számos esetben ellentmondásosak. Az automatizált megoldásokat vizsgálva különbséget kell tennünk automata, vagyis előre programozott, algoritmusok mentén működő rendszerek, és autonóm, öntanuló, önálló döntéshozatalra képes technológiák között (Csonka–Csiszár, 2017).

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Automata rendszerre közlekedési példa a Budapest Kelenföld Vasútállomás és a Keleti pályaudvar között üzemelő M4-es metróvonal, mely 2016 óta vezető nélkül, központi vezérléssel üzemel (URL2). Ezzel ellentétben, vizsgálatunk tárgya, az önvezető autók az autonóm technológia részei. Fontos kiemelni, hogy az önvezető autók esetében olyan inkrementális jellegű közlekedéstechnikai megoldásról beszélünk, amely alatt nem csupán a mindennemű emberi beavatkozástól mentes, önállóan közlekedő autókat értjük. A jelenleg önvezető autókként emlegetett járművek még számos forgalmi helyzetben a humán vezető irányítására támaszkodnak, ugyanakkor az intenzív fejlesztéseknek köszönhetően egyre közelebb kerülhetünk a valódi önvezetéshez. A nemzetközi standardok szerint különböző fejlettségi szintek mentén értelmezhetjük az önvezető jelleget (URL3).

Jegyzet elhelyezéséhez, kérjük, lépjen be!

0. szint: „No Automation” – Nincs automatizáció: Az autó irányításában kizárólag az emberi vezető vesz részt, a fázist az automatizáció teljes hiánya jellemzi.

Jegyzet elhelyezéséhez, kérjük, lépjen be!

1. szint: „Driver Assistance” – Támogató automatizáció: Az autó irányításában kizárólag az emberi vezető vesz részt, de már megjelennek az önvezető technológia támogató funkciói. Ilyen lehet például a sebességváltoztatás/-szabályozás, kormányzás műveletének eseti átvétele (például: parkolás). Kitétel azonban, hogy a támogató funkciók kizárólag egymástól függetlenül aktivizálódhatnak.

Jegyzet elhelyezéséhez, kérjük, lépjen be!

2. szint: „Partial Automation” – Részleges automatizáció: Az autó irányításában továbbra is az emberi vezető vesz részt, azonban az előző szinten megjelent támogató funkciók együttesen is működésbe léphetnek. A jelenleg kereskedelmi forgalomban kapható legmodernebb járművek hivatalosan ebbe a kategóriába sorolandók (például Tesla Model 3).

Jegyzet elhelyezéséhez, kérjük, lépjen be!

3. szint: „Conditional Automation” – Feltételes automatizáció: A humán vezetői szerep szükséges, ugyanakkor a környezet folyamatos figyelése már nem követelmény, az autó ellátja a vezetési műveleteket. Ennek ellenére a humán vezetőnek az autó jelzése esetén át kell tudnia vennie az irányítást, ezért az automatizáció harmadik szakasza lehet a legveszélyesebb.

Jegyzet elhelyezéséhez, kérjük, lépjen be!

4. szint: „High Automation” – Magas fokú automatizáció: Az autó képes átvenni az összes vezetési funkciót, és irányítani azt bizonyos feltételek teljesülése mellett az utazás teljes időtartama alatt. A humán vezető jelenléte itt már opcionális, a rendszer nem kötelezi a vezetés irányításának átvételére. A vezető autóipari vállalatok előrejelzése (például: Tesla, BMW, Google Waymo stb.) alapján a magas fokú automatizáció szintjén álló járművek terjedése a 2020-as évek közepére várható.

Jegyzet elhelyezéséhez, kérjük, lépjen be!

5. szint: „Full Automation”Teljes automatizáció: Az autó már képes az összes vezetési funkciót birtokolni és feltétel nélkül megtartani az utazás teljes időtartama alatt. Nyitott kérdés, hogy e fejlettségi szinten szükség lesz-e a manuális irányítást szolgáló kormánykerékre és pedálokra, illetve, hogy a vezetési élmény teljes megszüntetésére hogyan reagálnak majd a jövő közlekedői.

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Az önvezetés egyre magasabb szintjeit tehát a mesterséges intelligencia növekvő szerepe határozza meg. A mesterséges intelligencia (MI) a robotika azon része, mely olyan számítógépes programok fejlesztésére irányul, amelyek emberi erőforrást igénylő feladatok elvégzésére is alkalmasak (Winter et al., 2016; Baranyai et al., 2019). A mesterséges intelligencia tanulásra, összetett szituációk megértésére képes. Alkalmazási területe egyre szélesebb körű (hétköznapi példa az MI-re alapuló Google-keresőfelület). A legfontosabb különbség a hagyományos automata és a mesterséges intelligenciára épülő rendszerek között, hogy az előbbit kizárólag repetitív feladatok elvégzésére szánták (például: kötöttpályás közlekedés), vagyis a programnak nem kell „gondolkodnia”. Ugyanakkor az MI-alapú programok működése a mélytanuláson (deep learning), vagyis az emberi agyműködés mechanizmusait lekövető modelleken alapszik (például: meg tudja különböztetni az előtte fekvő tárgyak alakját, majd a felismert jellemzők szerint képes kategorizálni) (Schmidt et. al., 2015).
 
Az MI-alapú döntéshozatal és a használat társadalmi-gazdasági következményeiből adódó morális dilemmák
 

Jegyzet elhelyezéséhez, kérjük, lépjen be!

A mesterséges intelligencia etikája a technológiával kapcsolatos morális kérdéseket vizsgáló tudományterület azon része, mely az MI-alapú robotokra és más mesterséges intelligenciával felruházott entitásokra specializálódott (Winter et al., 2016). A területet feloszthatjuk roboetikára (roboethics), mely alatt az MI-gépekkel kapcsolatos emberi viselkedés vizsgálata értendő (ember-gép interakció, gépek elfogadása és szerepe társadalmunkban), valamint gépi etikára (machine etics), amely a mesterséges intelligencia döntéseivel, azok morális alapjaival foglalkozik (mi alapján dönt a gép az emberéletekről) (Holstein, 2017; Karnouskos, 2018; Trappl, 2016). Az önvezetőjármű-fejlesztés mindkét terület szükségességét felerősítette, a téma komplexitása pedig megköveteli, hogy különböző tudományterületek képviselői (mérnökök, filozófusok, pszichológusok, jogászok és közgazdászok) együttesen dolgozzanak a jövő közlekedésének átalakításán. Az elmúlt években – a közúti tesztelések növekedését követően – az önvezető autók több, halálos végkifejletű balesetben is érintettek voltak (UBER – kerékpáros gázolása [URL4]). Fontos kiemelni, hogy a technológia jelenlegi hiányosságai mellett a humán vezető jelenléte elengedhetetlen, hiszen feladata a hasonló balesetek elkerülése. Ehhez folyamatos készenléti állapot, éberség szükséges, amely a tesztvezető számára hosszabb távon rendkívüli mentális megterhelést jelent. A közelmúlt balesetei a jogi (Ki felelős a történtekért?) dilemmák előtérbe helyezése mellett az MI-döntéshozatal morális hátterét vizsgáló kutatások (Hogyan döntsön a gép?) jelentőségét is felerősítették.

MI-alapú morális dilemmák

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Az MI által hozott döntések mögött álló algoritmusok erkölcsi szabályrendszerét (annak tisztázatlanságát) számos kutató vizsgálja (Borenstein et al., 2019; Nyholm, 2018). A technológia legnagyobb kihívása, hogy az MI-döntéshozatal során olyan végkifejletek definiálása szükséges, amelyeket korábban az embernek (járművezetőknek, forgalomban részt vevő személyeknek) kellett meghozni, illetve számos esetben (váratlan forgalmi szituációk során) a véletlenek formáltak.

Jegyzet elhelyezéséhez, kérjük, lépjen be!

A közlekedéskutatásokban nem újszerű a morális dilemmák vizsgálata. Az 1960-as években Philippa Foot, brit filozófus fogalmazta meg a villamosproblémát (trolley dilemma), mely az ember-gép interakció kontextusában vizsgálta az egyéni döntéshozatal lehetséges formáit (Gawronski–Beer, 2017). Adott egy megállíthatatlanul haladó villamos, a sínpályán pedig öt ember. Létezik egy mellékvágány is, ahol egy ember áll. A váltókar irányítója az elmélet kísérleti alanya, akinek döntést kell hoznia az adott szituációban: a fővágányon álló öt embert vagy a mellékvágányon álló egy embert mentse meg?

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Az elmélet lényege, hogy feltárja az emberi döntések mögött húzódó okokat olyan szituációkban, ahol csak negatív végkifejlet lehetséges. Egy, a közelmúltban lefolytatott, a villamos problémára alapuló empirikus kutatás esetében, a kutatásba bevont alanyok 90%-a (Bonnefon et al., 2016) döntött a jármű mellékvágányra terelése (ahol egy ember tartózkodik) mellett, vagyis a válaszadók a haszonelvűség (utilitarizmus) mentén meghozott döntéseket preferálják. A haszonelvűség a 19. századi angolszász etika részeként fogalmazódott meg, melynek alapja, hogy az emberek döntéseik során a boldogság maximalizálására és a negatív következmények (szenvedés) minimalizálására törekednek.

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Felmerül a kérdés, hogy az utilitarista döntési mechanizmus átültethető-e a mesterséges intelligencia által vezérelt járművek döntéseire. Az ezzel kapcsolatos kutatások (Bonnefon et al., 2016; Awad et al., 2018) – mélyreható fogyasztói ismeret és tapasztalat hiányában – jelenleg még igen korlátozottak. Edmond Awad és szerzőtársai (2018) tizenhárom forgalmi helyzetben mérik fel a válaszadók döntései mögött húzódó erkölcsi mintázatokat a mesterséges intelligencián alapuló közlekedési eszközök továbbfejlesztése céljából.

Jegyzet elhelyezéséhez, kérjük, lépjen be!

A Moral Machine forgalmi szituációk értékelése során a válaszadónak számos szempontot figyelembe kell vennie: az utasok neme, kora, egészségi állapota, társadalmi státusza, közlekedési szabályok követése, más élőlények védelme. Awad és szerzőtársai kutatása alapján az alábbiakat állapíthatjuk meg:
  • Az utilitarista felfogás érvényesül a válaszadók körében mindaddig, amíg saját maguk (egoizmus) vagy hozzátartozóik nem érintettek a forgalmi szituációban.
  • A válaszok alapján a kor szerinti szegmentáció szerepe mérvadó, vagyis a fiatalabbak életét előbbre helyezik az idősekével szemben.
  • Fontos döntési szempont a társadalomban betöltött szerep és az egészségi állapot is: a válaszadók a magasabb rangú és egészségesebb (például: orvos, menedzser, sportoló) életének megóvását preferálták a hajléktalanokkal vagy a túlsúlyos emberekkel szemben.
  • Az állatok védelme az emberélettel szemben háttérbe szorul.
 

Jegyzet elhelyezéséhez, kérjük, lépjen be!

A Moral Machine kutatás eredményei arra mutatnak rá, hogy az önvezető autók­nak utilitarista elvek, illetve az élőlények értékbecslése mentén szükséges döntéseket hozni. Ugyanakkor felvetődik a kérdés, hogy a megközelítés valóban közelebb viszi-e a döntéshozókat (például: MI-fejlesztőket) a társadalom számára optimális, morálisan elfogadható döntési algoritmus kidolgozásához (egyáltalán létezik-e ilyen)? Az eredményekkel kapcsolatban három dilemmára hívjuk fel a figyelmet.
 
Racionális döntéshozatal = emberélet értékbecslése?
 

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Alapvető morálfilozófiai kérdés, hogy egyáltalán átruházhatjuk-e a mesterséges intelligencia részére az emberélettel kapcsolatos döntéseket? Ezzel olyan döntési helyzettel szembesítjük a gépeket, amelyeket a humán járművezetők sem racionális döntési mechanizmusok alapján értékelnek, a balesetek, valamint azok végkifejlete többnyire a véletlen folytán következnek be. Lehetséges, hogy a racionális döntéshozatal nem az élőlények „értékbecslésén” keresztül valósulhat meg, és a gépeknek pusztán a Közúti Rendelkezések Egységes Szabályozása (KRESZ) alapján, a veszteség minimalizálása mentén kellene döntéseket hoznia, a balesetben érintett személyek egyedi jellemzőit figyelmen kívül hagyva?
 
Az utilitarizmus megdönthetősége
 

Jegyzet elhelyezéséhez, kérjük, lépjen be!

A Moral Machine eredményei hangsúlyozzák, hogy a válaszadók a haszonelvűséget kizárólag kívülállóként értékelik elfogadható döntési mechanizmusnak (Awad et al., 2018). Amennyiben érintetté válnak a forgalmi szituációban, az emocionális tényezők (szeretteink megóvása), valamint az önvédelem (egoizmus) kerül előtérbe, ez pedig a haszonelvűség széles körű elfogadhatóságát cáfolja. Az utilitarizmusalapú döntéshozatal ugyanakkor gazdasági szempontú aggályokat is felvet. Az önvezető autók melletti legfontosabb érv a közlekedésbiztonság növelése. Vajon hajlandó-e a fogyasztó olyan tartós fogyasztási cikk (jelen esetben személygépjármű) megvásárlására, mely feláldozza tulajdonosa életét abban az esetben is, ha olyan közlekedési baleset részesévé válik, melyet akár a közlekedési szabályokat is figyelmen kívül hagyva, de valamely elv mentén nagyobb társadalmi hasznossággal bíró egyének okoznak? Vélhetően ebben a felállásban az önvezető autók társadalmi fogadtatása jelentős akadályokba ütközne.
 
Gépek fejlesztése helyett (mellett) a közlekedéskultúra javítása?
 

Jegyzet elhelyezéséhez, kérjük, lépjen be!

A kutatások ugyan kevéssé térnek ki a kérdéskörre, de az MI döntéshozatali elvek fejlesztése mellett legalább olyan fontos lehet a társadalom felkészítése a megváltozott mobilitási körülményekre. A közlekedési kultúra fejlesztésének kiemelt szerepe lehet a közlekedésbiztonság javításában, valamint az önvezető autók elfogadásában. Az automatizáció fejlesztésével a jármű irányítása során felmerülő emberi mulasztások lehetőségét minimalizáljuk, azonban a közlekedésben részt vevő további személyekben (gyalogos, motoros, kerékpáros stb.) rejlő közlekedésbiztonsági kockázat továbbra is fennáll. Ennek enyhítésében a KRESZ szabályainak szigorú betartása, valamint a szigorúbb ellenőrzések játszhatnak szerepet. A technológián túlmutató, de megoldást jelentő intézkedés lehet a mobilitási lehetőségek átalakítása (például: hagyományos járművek számára zónakorlátozások), melyek az önvezető járművek biztonságosabb működését segíthetik elő. Közvetett módon a mobilitási szükségletek átalakítása is (például távoktatás lehetősége, rugalmasabb munkafeltételek – eseti távmunka, lépcsőzetes munkakezdés stb.) hozzájárulhat a kiegyensúlyozottabb forgalomlefolyáshoz, ezáltal pedig a balesetet generáló forgalmi helyzetek minimalizálásához.

Társadalmi-gazdasági változásokból adódó morális dilemmák

Jegyzet elhelyezéséhez, kérjük, lépjen be!

A szakirodalom egyre növekvő mértékben foglalkozik az automatizáció társadalmi-gazdasági hatásaival, melyek ugyancsak számos morális kérdést vetnek fel. Jelen tanulmányban a várhatóan leginkább érintett iparágakat, valamint az egyes területek esetében felmerülő morális dilemmákat ismertetjük. A gazdasági értékelés során az elmúlt években publikált (Clements et al., 2017; Fagnant–Kockelman, 2015; McEvoy, 2015; Hussain–Zeadally, 2018) folyóiratcikkek eredményeire támaszkodtunk, amelyek különböző prognózisokat mutatnak be a közeljövőre (2030) vonatkozóan. A kutatók általános álláspontja, hogy a magasabb szintű auto­matizáció pozitív gazdasági hatásokat generál a hatékonyság növekedése (például: termelés automatizációja) miatt, ugyanakkor számos területen veszteséggel vagy jelentős átszerveződéssel (például: munkafolyamatok, humánerőforrás iránti igény átalakulása) is számolhatunk.

Jegyzet elhelyezéséhez, kérjük, lépjen be!

A társadalmi-gazdasági hatásvizsgálat alapján négy fő területen (1. táblázat) azonosíthatjuk a leginkább érintett iparági dilemmákat.
 
1. táblázat. Társadalmi-gazdasági változások és morális hátterük (saját szerkesztés)
Iparági dilemma
Példa
Humánerőforrás iránti igény átalakulása
Hivatások megszűnése, egyes munkakörök jelentőségének csökkenése
Hagyományos gépjárműhasználatból származtatható iparági bevételek változása
Egészségügy, biztosítási piac, olajipar
Önvezető autók által generált társadalmi jelenségek változása
Digitális függőség erősödése, szervdonációs lehetőségek
Társadalmi és környezeti fenntarthatóság (esetleges) sérülése
Gépjárműhasználat növekedése, környezetterhelés, overtourism
 

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Értelemszerűen az autóiparban várhatóak a legintenzívebb változások. Amennyiben a társadalom elfogadja az önvezető autók használatát, illetve a teljesen önvezető autók nem luxuscikként jelennek meg a piacon, a jelenleg korlátozott lehetőségekkel bíró társadalmi rétegek (például: mozgáskorlátozottak, jogosítvány nélküli utazók stb.) mobilitási lehetőségei is javulhatnak. A keresletet tovább erősítheti az is, ha az utazók a közeljövőben is elsősorban egyéni járműbirtoklás formájában veszik igénybe az (önvezető) autókat. Az automatizáció nagy nyertese lehet az IKT-szektor, amely az MI-alapú fejlesztésekhez szükséges know-how biztosításáért felel. A humán vezető csökkenő szerepköre miatt az utazás során használható digitális eszközök iránti igény is megnövekszik. Épp ezért, az IKT-szektor növekvő jelentőségének morális felelőssége kiemelendő. A túlzott digitális eszközhasználat esetében fennállhat annak a veszélye, hogy a virtuális léthez való ragaszkodás, az online platformhasználattól való függés erősödik a közeljövőben. Az áruszállítás területén fontos megoldást kínálnak az önvezető megoldások. A szektor globális szinten küzd a járművezető-hiánnyal, ugyanakkor, hosszú távon a technológia teljesen átveheti a humán vezető szerepét, ezáltal számos járművezető megélhetése veszélybe kerülhet. Felvetődik a kérdés, hogy a megváltozott piaci körülményeket hogyan kezelik majd a döntéshozók, a technológiai innováció másodlagos társadalmi következményeinek megoldására kínálnak-e lehetőséget? Ugyanez a probléma merül fel számos egyéb iparág esetében: a megnövekedett közlekedésbiztonság természetesen követendő célkitűzés, ugyanakkor a járműjavítás, valamint a közúti balesetekre specializálódott biztosítások és jogászok iránti igény is jelentős mértékben visszaeshet. Fontos kiemelni ugyanakkor, hogy a jogászok szerepe az automatizáció átmeneti időszakában, a jogi háttér tisztázatlansága miatt felerősödhet. Jelentős szakértői átcsoportosítás várható az egészségügy, valamint a rendfenntartás területén is. A humán vezetői mulasztások (közlekedési szabálysértések – például ittas vezetés) csökkenése, majd teljes megszűnése a közlekedésrendészet szerepét csökkentheti, valamint büntetésekből származó bevételkiesést eredményezhet. Az önvezető autók térnyerésével a közúti balesetek miatt a sürgősségi betegellátást igénylők száma, a sérülések súlyossága is jelentősen visszaeshet, ebből adódóan az egészségügyi bevételek is csökkenhetnek. Az NHTSA (National Highway Traffic Safety Administration, az USA Nemzeti Közúti Közlekedésbiztonsági Hivatala) becslései alapján az USA-ban a motorbalesetek miatt bekövetkező kiadások kb. 20 milliárd dollár éves bevételt jelentenek a szektornak (Hussain–Zeadally, 2018). Pozitív hatás lehet azonban, hogy a sürgősségi betegellátásban részt vevő szakdolgozók átcsoportosításával az egészségügyi ellátórendszer hatékonysága növekedhet. Fontos morális dilemma lehet a szervdonorok kérdésköre. Az agyhalált kiváltó leggyakoribb okok között a közúti balesetek szerepelnek, így a balesetek jelentős mértékben befolyásolják a szervdonációs lehetőségeket. A közúti balesetek okozta halálesetek számának visszaszorításával tehát bizonyos gazdasági-társadalmi előnyöket is megszüntetünk. A jelenség mérlegelése az egyik legkritikusabb morális dilemma lehet a közeljövőben, természetesen orvostudományi innovációk révén (például: műszervek fejlesztése) a morális dilemma kiküszöbölhető. Ugyancsak sajátos terület az olajipar, amelynek közlekedési szerepe a (távolabbi) jövőben megszűnhet, köszönhetően az alternatív járműmeghajtások térnyerésének, amit az önvezető autók terjedése tovább erősíthet. Nyitott kérdés azonban, hogy az önvezető autók esetében pontosan milyen meghajtású járművekkel számolhatunk, azok felvetnek-e majd klímavédelmi aggályokat. A tercier szektorban érzékelhető hatások kiemelt példája lehet a turizmus. A komfortos, független mobilitást nyújtó önvezető autók hatására a turisztikai célú helyváltoztatások iránti igény jelentősen növekedhet, ugyanakkor a közúti közlekedésben tapasztalható problémák (torlódások) erősödhetnek, a szektor funkcionalitása pedig radikálisan átalakulhat. Az önvezető autó nem csupán helyváltoztatási eszközként, hanem komplex, akár turisztikai elemeket is tartalmazó szolgáltatáscsomagként szolgálhatja az utazókat. Az autók mozgó tárgyalótermek (MICE1-turizmus), éttermek vagy akár szálláshelyekként is funkcionálhatnak, a mesterségesintelligencia-alapú technológiai háttér pedig az utazók virtuális társa, információforrása lehet. Ezáltal az idegenvezetők, taxisofőrök jövőbeni szerepe, vagy akár a hop-on-hop-off jellegű városnézések iránti igény is megkérdőjeleződik. Felelősségteljes gépjárműhasználat nélkül pedig a túlturizmus (overtourism – túlzott turistaáradat) jelenség és a környezetszennyezés hatásai is fokozódhatnak. A gazdasági érdek és a társadalmi-környezeti fenntarthatóság közti egyensúly megtalálása a szektor elsődleges kihívása lehet a jövőben.

Összegzés

Jegyzet elhelyezéséhez, kérjük, lépjen be!

A tanulmány kettős céllal íródott: a szakirodalmi áttekintés segítségével az MI által vezérelt önvezető autók morális döntéshozatali dilemmáira, valamint az önvezető autók sarkalatos társadalmi-gazdasági következményeinek hátterére hívja fel a figyelmet. Láthattuk, hogy az önvezető autók terjedését a technológia kiforratlansága mellett a morális háttér tisztázatlansága is nagymértékben befolyásolhatja. A technológia széles körű terjedésének kétségkívül számos pozitív hatása lehet, ugyanakkor kérdéses, hogy az előnyök ellensúlyozzák-e az önvezető autók használatából eredő káros externáliákat. Az egymással szorosan összefonódó morális kérdéskörök, mint az emberélet értékbecslése, az utilitarizmus és a közlekedéskultúra szerepe az MI döntéshozatali mechanizmusokban vagy a társadalmi-gazdasági hatásokból adódó dilemmák (iparágak és hivatások megszűnése, iparági bevételek, társadalmi jelenségek átalakulása és fenntarthatósági kérdések) szociálpszichológiai, gazdasági és jogi vonatkozásokkal is bírnak, emiatt a jövőben interdiszciplináris kutatások lefolytatására lesz szükség. A társadalom intelligens eszközökhöz való viszonyának (roboetika) elemzése, az önvezető technológia elfogadását befolyásoló tényezők mélyreható feltárása (önvezető autók­ra specializálódott technológiaelfogadási modell fejlesztése) hozzájárulhat ahhoz, hogy a kormányzati és egyéb döntéshozó szervek (IKT-szektor és autóipari vállalatok, városfenntartás, közlekedéstervezés) a jelenlegi társadalmi rendszerhez illeszkedő morális (felelősségteljes használat megteremtése, széles körben elfogadható erkölcsi mechanizmus mentén működő gépek) és gazdasági (munkaerő-átképzés lehetőségeinek megtalálása, szektorok átalakítása) szempontból is elfogadható irányba tereljék az önvezető autók fejlesztését.
 

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Az NKFIH-869-10/2019 számú projekt a Nemzeti Kutatási Fejlesztési és Innovációs Alapból biztosított támogatással, a Tématerületi Kiválósági Program finanszírozásában valósult meg.

Irodalom

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Awad, E. – Dsouza, S. – Kim, R. et al. (2018): The Moral Machine Experiment. Nature, 563, 7729, 59–64. DOI: 10.1038/s41586-018-0637-6, https://www.researchgate.net/publication/328491510_The_Moral_Machine_Experiment

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Baranyai D. – Munkácsy A. – Zsigmond G. (2019): Az önvezető autók társadalmi kérdései. Magyar Tudomány Ünnepe. Budapesti Corvinus Egyetem (konferenciaelőadás)

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Bonnefon, J. F. – Shariff, A. – Rahwan, I. (2016): The Social Dilemma of Autonomous Vehi­cles. Science, 352, 6293, 1573–1576. DOI: 10.1126/science.aaf2654, https://arxiv.org/ftp/arxiv/papers/1510/1510.03346.pdf

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Borenstein, J. – Herkert, J. R. – Miller, K. W. (2019): Self-driving Cars and Engineering Ethics: The Need for a System Level Analysis. Science and Engineering Ethics, 25, 2, 383–398. DOI: 10.1007/s11948-017-0006-0, https://www.researchgate.net/publication/321037334_Self-Driving_Cars_and_Engineering_Ethics_The_Need_for_a_System_Level_Analysis

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Clements, L. M. – Kockelman, K. M. (2017): Economic Effects of Automated Vehicles. Transportation Research Record, 2606(1), 106–114. DOI: 10.3141/2606-14, https://www.researchgate.net/publication/320050570_Economic_Effects_of_Automated_Vehicles

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Csonka B. – Csiszár C. (2017): Determination of Charging Infrastructure Location for Electric Vehicles. Transportation Research Procedia, 27, 768–775. DOI: 10.1016/j.trpro.2017.12.115, https://www.sciencedirect.com/science/article/pii/S2352146517310128

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Fagnant, D. J. – Kockelman, K. (2015): Preparing a Nation for Autonomous Vehicles: Opportunities, Barriers and Policy Recommendations. Transportation Research Part A: Policy and Practice, 77, 167–181. DOI: 10.1016/j.tra.2015.04.003, https://www.researchgate.net/publication/277025982_Preparing_a_nation_for_autonomous_vehicles_Opportunities_barriers_and_policy_recommendations

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Gawronski, B. – Beer, J. S. (2017): What Makes Moral Dilemma Judgments “Utilitarian” or “Deontological”? Social Neuroscience, 12, 6, 626–632. DOI: 10.1080/17470919.2016.1248787, http://www.bertramgawronski.com/documents/GB2017SN.pdf

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Holstein, T. (2017): The Misconception of Ethical Dilemmas in Self-Driving Cars. Multidisciplinary Digital Publishing Institute Proceedings, 1, 3, 17. DOI: 10.3390/IS4SI-2017-04026, https://www.mdpi.com/2504-3900/1/3/174/pdf

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Hussain, R. – Zeadally, S. (2018): Autonomous Cars: Research Results, Issues, and Future Challenges. IEEE Communications Surveys & Tutorials, 21, 2, 1275–1313. DOI: 10.1109/COMST.2018.2869360, https://ieeexplore.ieee.org/document/8457076

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Karnouskos, S. (2018): Self-driving Car Acceptance and the Role of Ethics. IEEE Transactions on Engineering Management, 1–14. DOI: 10.1109/TEM.2018.2877307, https://www.researchgate.net/publication/329109864_Self-Driving_Car_Acceptance_and_the_Role_of_Ethics

Jegyzet elhelyezéséhez, kérjük, lépjen be!

McEvoy, S. A. (2015): A Brave New World: The Environmental and Economic Impact of Autonomous Cars. Modern Environmental Science and Engineering, 1, 1, 1–7. DOI: 10.15341/mese(2333-2581)/01.01.2015/001, https://pdfs.semanticscholar.org/a670/405e5e756c96c41a257d2564bd07411abc26.pdf

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Nyholm, S. (2018): The Ethics of Crashes with Self-driving Cars: A Roadmap, II. Philosophy Compass, 13, 7, 1–10. DOI: 10.1111/phc3.12507, https://onlinelibrary.wiley.com/doi/full/10.1111/phc3.12507

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Schmidt, R. – Möhring, M. – Härting, R. C. et al. (2015): Industry 4.0 – Potentials for Creat­ing Smart Products: Empirical Research Results. In: Abramowicz, W. (ed.): International Conference on Business Information Systems. 18th International Conference, BIS 2015, Poznań, Poland, June 24–26, 2015, Proceedings. Cham: Springer, 16–27. DOI: 10.1007/978-3-319-19027-3_2, https://bit.ly/2LiVrCG

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Trappl, R. (2016): Ethical Systems for Self-driving Cars: An Introduction. Applied Artificial Intelligence, 30, 8, 745–747. DOI: 10.1080/08839514.2016.1229737, https://www.tandfonline.com/doi/full/10.1080/08839514.2016.1229737

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Winter, K. – Cats, O. – Correia, G. H. D. A. et al. (2016): Designing an Automated Demand-responsive Transport System: Fleet Size and Performance Analysis for a Campus–Train Station Service. Transportation Research Record, 2542, 1, 75–83. DOI: 10.3141/2542-09, https://bit.ly/39gDxs8
 

Jegyzet elhelyezéséhez, kérjük, lépjen be!

URL1: Cities Are Getting Ready for AVs. This Is a Guide to Who’s Doing What, Where, and How. https://avsincities.bloomberg.org/

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Jegyzet elhelyezéséhez, kérjük, lépjen be!

Jegyzet elhelyezéséhez, kérjük, lépjen be!

URL4: Lee, D. (2019): Uber Self-driving Crash ’Mostly Caused By Human Error’, BBC News, https://www.bbc.com/news/technology-50484172
 

Jegyzet elhelyezéséhez, kérjük, lépjen be!

1 MICE– meetings, incentives, conferences and exhibitions (értekezletek, jutalomutak, konferenciák, kiállítások).
Hogyan döntsön a mesterséges intelligencia? Az önvezető autók morális kérdései • How Should Artificial Intelligence Decide? Moral Challenges of Self-driving Cars