Egy, az önvezető autók működésével kapcsolatos kutatási projekt részeként a világhírű műszaki egyetem, az MIT szakemberei elsőre igen morbidnak tűnő tesztet találtak ki.
A Moral Machine olyan végletesen szélsőséges helyzeteket modellez, amikor egy autó semmiképp sem tud elkerülni egy ütközést, és a kialakított tesztkérdéseknél az alanynak mindig két, biztosan halálhoz vezető szituáció között kell választania: ki haljon meg az adott helyzetben?
A felvázolt szituációkban többféle döntéshelyzetet szimulálnak: az alap az, hogy a sofőr magát veszélyezteti – ítéli halálra –, vagy pedig inkább gázol, megöl valakit. De olyanok is vannak, amikor terhes nő, idős ember, gyerek, bűnöző vagy éppen állat elgázolása az egyik választási lehetőség.
Mint egy megdöbbentő halálosztó videójáték.
A készítők leírása szerint azt szeretnék felmérni, hogy az emberek mit gondolnak arról, hogy ilyen helyzetekben a hamarosan az autókat nagy tömegben irányító szoftverek hogyan döntsenek.
[+]
A teszt kiértékelése igen sok attribútumot mérlegel. Jelzik azt, hogy hányszor védte magát az alany, hányszor volt önfeláldozó, milyen típusú a legtöbb áldozata: gyerek, nő, öreg, stb.
Mindezt végiggondolva elég rémületes az eredmény: ezek szerint, ha a kutatás eredményeit alkalmazzák majd, akkor a vezérlő szoftverekbe (esetleg) be lenne programozva, hogy milyen fajta embereket kell leginkább kímélni, és az is, hogy adott esetben milyen embereknek van a legkisebb esélyük a túlélésre. De az is felmerülhet, hogy valójában arra akarják felhívni a figyelmet, hogy a jelenlegi technológiai felkészültség még nem alkalmas arra, hogy az autonóm járművek tömeges mértékben elterjedjenek.
A tesztet sok kritika érte, mivel az egy speciális pszichológiai teszt (Trolley Problem) módosított változata, és sokak szerint ez így önmagában nem elegendő, ugyanis a teszt emberek reakcióit méri fel, márpedig a mai „gépi gondolkodás” nem így működik, teljesen más szerkezetű.
