Autoforum

/

Foto: Archiv Autoforum.cz

Při testech systém poloautonomního řízení Tesly byly odhaleny nedostatky, které u zaměstnanců firmy vyvolávaly obavy. Šéf automobilky je ignoroval.

V posledních týdnech neuplyne pomalu ani den, aby nebyl propírán Autopilot automobilky Tesla. Spouštěcím mechanismem byla fatální nehoda Joshuy Browna, která se odehrála na počátku května, svět se o ní po opožděném hlášení Tesly dozvěděl až začátkem tohoto měsíce. Poté se s hlášeními o problémech roztrhl pytel. Zájem vzbudila zejména havárie Modelu X v Montaně, kdy řidič poukazuje na nesrovnalosti a žádá Teslu o nápravu, zatímco automobilka bere v potaz pouze fakt, že neměl ruce na volantu, a tak vše padá na jeho účet.

Nám se těžko podaří přijít na to, co se tam opravdu stalo a budeme si muset počkat na výsledky vyšetřování. Zatím se můžeme podívat na nové informace, které se postupně dostávají na povrch. Ty nejzajímavější přichází od pěti současných či bývalých zaměstnanců Tesly, které vyzpovídala CNN. A na rovinu řečeno, jsou poněkud znepokojivé.

Tito lidé mají pochybnosti o senzorech monitorujících okolí vozu a obavy u nich vzbuzují samotní řidiči, kteří systém využívají způsobem, který překračuje jeho možnosti. A sám systém jim to fakticky dovolí. Zakladatele a šéfa automobilky Elona Muska na to prý opakovaně upozorňovali, ten však připomínky odmítal s poukazem na potenciál, jenž v sobě Autopilot při ochraně lidských životů skrývá. Firemním mottem se tak mělo stát rčení, dle kterého „nenechte dokonalost, aby se stala nepřítelem lepších zítřků“.

Celá situace nám tak trochu připomíná kauzu Dieselgate, jež podle některých měla vzniknout zejména kvůli způsobu řízení firmy Ferdinandem Piëchem, který měl na zaměstnance extrémně vysoké nároky. Technici Volkswagenu se proto museli v rámci technických i finančních možností vypořádat s touhou prosadit diesely na americkém trhu, což nakonec vedlo k instalaci tzv. odpojovacího zařízení.

V případě Autopilotu Musk tlačil na nejrychlejší spuštění programu, který dle něj dokáže předejít následkům řady lidských chyb. Použil prý také slova o tom, že by zaměstnanci „neměli dovolit obavám zpomalovat vývoj“. Otevřeně o celé věci promluvil Eric Meadows, bývalý inženýr značky, který na Autopilotu pracoval. Uprostřed roku 2015, tedy pár měsíců před příchodem systému do prodeje, jej při testování systému policie zastavila s podezřením na jízdu v opilosti. Jeho vůz nezvládal v autonomním režimu ostré oblouky. Meadows sice věděl, že Autopilot při testu tlačí za jeho limit, věděl ale, že to samé budou dělat i jeho uživatelé.

Zprvu prý na systému pracoval s přístupem, který měl Elon Musk: aby vůz dojel z místa A do místa B, aniž by se řidič o cokoli musel starat. Při praktickém vývoji ale přišel na to, že něco takového není s dostupnou technikou reálné. Šel s tím za Muskem, jeho pochybnosti byly ovšem tvrdě konfrontovány s Elonovým nadšením, což vedlo k nevyhnutelnému kroku - o dva měsíce byl propuštěn kvůli špatné pracovní výkonnosti. Jak přitom nyní dodává, po celé ty dva měsíce „se bál, že někdo zemře“.

Technici také upozorňovali Muska na to, že senzory Tesel nejsou vhodné ani pro systém automatického parkování či dálkového ovládání, že jsou schopny přehlédnout cokoli jako kočka nebo menšího. Ani na to Musk nebral zřetel, prý odvětil slovy: „Uvážím-li, jak pomalu se auto v tomto režimu hýbe, bude to nebezpečné leda pro kočkou v kómatu.”

Zaměstnance, kteří na tato a podobná rizika upozorňovali, označoval za „přespříliš opatrné” a je zajímavé, že šlo především o lidi s předchozími zkušenostmi v automobilovém průmyslu. V diskuzi s Muskem prý platí jen tvrdá čísla, musí být ale zcela jednoznačná. Onen systém autonomního parkování je například schopen sjet ze srázu, protože nepozná, že pod vozem dále nevede silnice. Ani to Muska nezajímalo - je to prý velmi drobné riziko ve srovnání s „tisíci mrtvých”, kteří padnou za oběť nepozornému vyjíždění z garáží.

Musk šel až tak daleko, že s puštěným autopilotem chtěl nechat řidiče přehrávat si videa na středové konzoli za jízdy, což automobilky běžně zakazují. Až velký odpor ze strany zaměstnanců kvůli možným rizikům pro provoz jej nakonec přesvědčil, že to není dobrý nápad.

O přístupu Tesly se rozpovídal také Raj Rajkumar, jeden z pionýrů autonomního řízení, kterého lze jen stěží označit za brzdu pokroku. Přesto i on konstatuje: „Je zdrženlivé říci, že Tesla je hyperagresivní.” Sám je prý s lidmi z Tesly pravidelně v kontaktu a upozorňuje je na rizika jejich jednání, dodává však, že si nad přístupem firmy myjí ruce - je prý veden obchodní strategií.

Pochopitelně, Muskův přístup se dá chápat - jak z hlediska obchodního (Tesla chce vypadat jako inovátor za každou cenu), tak z hlediska pokroku (je nepochybné, že používání podobného systému v této míře vývoj urychlí), tak z hlediska matematického (je možné, že přes veškeré nehody, kterým systém přispěje, jich ještě více odvrátí). Jenže takto se s lidmi a zákazníky zacházet nedá. Musk na ně přenáší část rizika ohánějíc se frázemi o beta-verzi a upozornění, která musí uživatel akceptovat.

De iure je to možná v pořádku, de facto to ale tak jednoduché není. Je rozdíl, pokud na sobě někdo vykoná pokus posunující lidské poznání s rizikem, že mu to může ublížit, nebo pokud totéž nechá dělat jiné. Automobilka sice upozorňuje na to, že jde pouze o testovací provoz, který jí umožní prostřednictvím běžných jízd zákazníků získat dost dat potřebných pro vývoj nutných algoritmů, jenže to je výborný přístup leda pro ideální svět, kde lidé čtou návody a instrukce a pak se jimi opravdu řídí. V reálu se to neděje - lidé mají tendenci riskovat a nedodržovat předepsané postupy. Nedělají to profesionálové, proč by to měl dělat běžný motorista.

Svědčí o tom jak výše zmíněná havárie Modelu X, tak fatální nehoda pana Browna. V jejím případě se podle prvních závěrů vyšetřování ukázalo, že vůz před nehodou cca o 15 km/h překročil místně platný limit a řidič sám nejenže neměl ruce na volantu, ale ani nesledoval situaci před vozem. Nelze si to vysvětlit jinak, než že podlehl falešnému pocitu bezpečí, který mu i samo auto dovolilo nabýt tím, že nechá řidiče po relativně dlouhou dobu neřídit. Přitom přehled toho, co Autopilot umí a neumí ukazuje, že toho neumí docela hodně ke skutečnému autopilotu má sakramentsky daleko.

V souvislosti s Autopilotem stojí za zmínku ještě jedna věc, která ukazuje, že Musk v jeho případě tlačil na pilu až příliš. Jedním z dodavatelů technologií, na kterých je systém založen, je izraelská firma Mobileye. Z její strany zaznělo, že „V sázce je až příliš mnoho, dotýká se to jak reputace Mobileye, tak celého odvětví”. Tesla tuto firmu bere jen jako dodavatele dílů a ne jako spolupracující společnost jako je to v případě Mobileye činí třeba BMW. To je i důvodem, proč spolupráce Mobileye a Tesly skončila - Izraelci, kteří na tomto poli mají zkušenostmi srovnatelné jen s málokým jiným, už nechtějí mít s Autopilotem nic společného...

Následky jsou nehezké a je otázka, zda bychom se na ně museli dívat, kdyby Tesla s nasazováním Autopilotu nebyla tak agresivní a nenechala řidiče jej používat nad rámec jeho možností

Ani kritika Autopilotu ze strany zaměstnanců značky ale nejspíše nepovede ke změně přístupu Tesly

Zdroj: CNN Money

Petr Prokopec