Koho upřednostní plně autonomní vozidlo v případě blížící se nevyhnutelné smrtelné nehody?

Špatná otázka. Auto nikoho neupřednostní a nic nepředpovídá. Nerozhoduje se. Jedná přísně podle algoritmů. Už vůbec se nerozhoduje, koho usmrtí. Auto ani neřeší situace, natož, aby někoho odsuzovalo. Auto pouze vypočítává. Velmi sofistikovaně, ale jen vypočítává.

Pokud je mi znamo, tak soucasna autonomni vozidla “neresi” moralni dilemata. V tuto chvili se jen snazi zabranit stretu a v pripade ze to nejde alespon zmirnit nasledky.

Zminovana hra skutecne neslouzila k nastaveni vozidel, ale pouze k pruzkumu mezi lidmi. V tuto chvili toto neni jasne legislativne nastavene snad nikde na svete. Pokud autonomni vozidlo naboura, je to stejne, jako by ho naboural ridic v nem jedouci – posuzuje se jeho (auta) mira zavineni.

Toto je samozřejmě velmi zajímavá otázka a vůbec celé téma v rámci technologie autonomního řízení. Existuje obrovské množství scénářů, kdy chybu neudělá auto samo ale chodci, ostatní řidiči, kteří se z ničeho nic zachovají nepředvídatelně a najednou se autonomní vůz ocitá v situaci kdy se skutečně musí rozhodovat zda a jak do řízení zasáhnout aby to vedlo k záchraně vlastní posádky vozu, nebo záchraně chodců kteří najednou vběhli na přechod. Autopilot vozu má na každé rozhodnutí téměř celou věčnost. I milisekundy jsou pro autopilota věčnost a může v nich rozhodnout o zásahu do řízení který zahájí už v další milisekundě, takže můžeme autopilota klidně v rámci jistého zjednodušení chápat jako řidiče, který má schopnost kdykoliv zastavit čas a libovolně dlouho nad situací přemýšlet a rozmýšlet. To je komfort který lidský řidič pochopitelně nemá, takže i zcela nové problémy k řešení.

Má autopilot v situaci kdy nemůže ze situace vybruslit žádným způsobem aniž by se někdo zranil, rozhodovat o tom kdo prvotně nehodu zavinil a upřednostnit záchranu těch co se v situaci ocitli nevinně ? taková analíza dopravní situace je ale velmi náročný oříšek že ? Mají se vývojáři vůbec zabývat tím aby autopilot takto uvažoval nebo si má prostě jen hodit kostkou nebo jen v panice pustit volant jak by to udělal liský řidič a zírat do blba ? Težko říct …

Ukažme si typickou situaci která k této otázce vede. Do ulice kde najednou vběhnou dvě děti a peláší přes silnici, stane se to tak rychle že autopilot ví, že už nestihne přibrzdit tak aby ji nesrazil. Vypočítá si ale že může ostře zahnout vpravo kde ale bohužel seniora, který se prochází po chodníku nebo zahnout ostře volevo kde dojde k čelnímu střetu s dodávkou a patrně zahyne samotná posádka autonomního vozu ? Je to velmi nepříjemné rozhodování že ? Lidský pilot by na něj neměl vůbec čas a tak by to neřešil, prostě by náhodně udělal jedno, druhé nebo třetí a nepřemýšlel nad tím. Autopilot ale jak jsme si řekli má na vše moře času a může podumat, může vytvořit nějká hodnotící kritéria, je život dvou dětí cennější než život seniora ? Sakra ošemetná otázka, dva je více než jedna to je jisté, ALE lze to vůbec poměřovat ? Měl by autopilot do rozhodování zahrnout i skutečnost že senior neporušil dopravní předpisy ale děti ano ? Měl by primárně hájit život své posádky ať už je viníkem kdokoliv ? Tohle vůbec není jednoduchý problém a bude jistě v příštích dekádách rozvoje autonomního řízení nějakou dobu na stole.

Legislativa nic takového nenařizuje, takže se podle mne vývojáři autopilotů tím vůbec zavýbat z počátku nebudou a nechají to na náhodě, nebo prostě zbrkle předají řízení do rukou lidského pilota a ten se v krátkém čase nestihne rozhodnout vůbec nijak (ale už to bude na něm) …

více viz MORAL MACHINE, například tento článek https://www.zi­ve.cz/clanky/mo­ral-machine-uz-vime-zdali-je-lepsi-zabit-psy-sebe-nebo-matky-na-prechodu/sc-3-a-195728/default.aspx nebo https://www.na­ture.com/arti­cles/d41586-018-07135-0

Každopádně jisté je, že tyto morální volby nejsou univerzální, mohlo by se v konkrétním případě zdát určité rozhodnutí správnější než jiné ale vsorec kterým jste k němu dospěli nemusí mít žádnou váhu či platnost v jiné situaci.

Upravil/a: anonym

Automobilka to udělala chytře..

Dali statisicum lidí hrát takovou hru, která byla na internetu dostupna asi 60 dnů..
Lidé se v ní museli rozhodovat o podobných situacích..

Například nebylo možné auto zabrzdit před přechodem…

A na ně se nacházeli:

1. Stařenka, co sotva chodí
2. Školáček
3. Pes

Oni se museli do 3 vteřin rozhodnout, do koho z nich vozidlo narazí.

Na základě podobných průzkumů byly nastaveny i vozidla..