Robotaxi miały być proste jak przejazd windą: wsiadasz, klikasz cel i jedziesz. Tymczasem na jaw wychodzi, że część „autonomii” opiera się na zdalnych operatorach, którzy w trudnych momentach podpowiadają samochodowi, co ma zrobić. W tle są polityka, chińska technika w amerykańskich ulicach i bardzo przyziemne pytanie: kto naprawdę podejmuje decyzje, gdy sytuacja robi się nieoczywista.

W Europie temat robotaxi robi się coraz głośniejszy, bo najwięksi gracze chcą tu wejść na serio. Waymo od Google ma już działać w Londynie. Do startu szykuje się też Apollo od Baidu. Tesla z kolei ma się zbliżać do tego kroku przez stopniowe uruchamianie FSD na Starym Kontynencie (czyli pakietu funkcji wspomagania jazdy, który marka rozwija pod hasłem „pełnej samodzielnej jazdy”). Brzmi jak wyścig o przyszłość. A potem przychodzi przesłuchanie w USA i nagle okazuje się, że przyszłość ma dyżur w centrum wsparcia.

Robotaxi w Europie, a spór w USA o chińską technikę

W Stanach Zjednoczonych ustawodawcy zaczęli krytykować rosnące wykorzystanie chińskiej techniki przez amerykańską spółkę związaną z Google. Waymo ma dziś jeździć głównie samochodami Jaguara i Hyundaia. Docelowo ma je jednak zastępować nowy pojazd tworzony od podstaw pod usługę autonomiczną. Problem w tym, że za produkcją ma stać Zeekr należący do koncernu Geely.

Dla części polityków to wystarczy, żeby włączyć tryb „zagrożenie bezpieczeństwa”. Na przesłuchaniu pojawił się m.in. Mauricio Peña, dyrektor ds. bezpieczeństwa w Waymo. I właśnie tam padło to, co dla europejskiego czytelnika jest ciekawsze niż sam spór o pochodzenie samochodów: przyznanie, że robotaxi wciąż korzystają ze wsparcia ludzi na odległość.

Waymo: samochód prowadzi, ale prosi o wskazówki

Waymo opisuje rolę operatorów tak, jakby byli dodatkowym kanałem informacji. Samochód ma być nafaszerowany lidarami i dziesiątkami czujników, ale gdy trafi na sytuację „brzegową”, może poprosić o podpowiedź. Kluczowe zastrzeżenie brzmi: operator nie ma „przejąć kierownicy”, tylko zasugerować, co zrobić. Wypowiedź Mauricio Peña, dyrektora ds. bezpieczeństwa Waymo, brzmiała tak:

Waymo w pewnych sytuacjach prosi o wskazówki i dostaje dodatkowy wkład, ale za dynamiczne czynności prowadzenia zawsze odpowiada samo pojazd Waymo. To jest tylko jeden z wielu dodatkowych sygnałów wejściowych.

To zgrabna definicja, ale nie usuwa sedna. Jeśli ktoś zdalnie wskazuje, co auto ma zrobić, to wpływa na decyzje. Nawet jeśli nie „kręci kierownicą” (formalnie).

Filipiny w tle: zdalna asysta z drugiego końca świata

Wątek, który wywołał największy zgrzyt, dotyczy tego, kto siedzi po drugiej stronie łącza. Waymo ma zatrudniać ludzi nie tylko poza firmą i poza USA, ale też w innych krajach, w tym na Filipinach. W praktyce oznacza to, że część amerykańskich robotaxi może być „doglądana” przez operatorów działających przez internet z drugiej strony globu. Senator Ed Markey zwrócił uwagę, że sama możliwość wpływu osób z zagranicy na zachowanie pojazdów w USA to ryzyko bezpieczeństwa. Podniósł też temat opóźnień informacji i skutków dla cyberbezpieczeństwa, gdy dane trafiają do operatora i wracają do auta w ruchu ulicznym.

Dodał również argument społeczny: co innego, gdy taxi wypiera aplikacje przewozowe, a co innego, gdy miejsca pracy w całości „wyjeżdżają” za granicę. W odpowiedzi mówca Waymo (w wypowiedzi dla serwisu Futurism) zaznaczył, że zespoły wsparcia floty działają zarówno w USA, jak i za granicą. Według tego stanowiska operatorzy mają mieć uprawnienia do prowadzenia samochodów osobowych lub dostawczych oraz przechodzić weryfikację pod kątem historii wykroczeń i przewinień związanych z prowadzeniem.

„Przyjaciel na telefonie” i kamery na żywo

Waymo wcześniej opisywało zdalne wsparcie w sposób, który brzmi wręcz uspokajająco. Firma porównała je do „przyjaciela na telefonie”. Sens jest prosty: gdy auto nie rozumie w pełni kontekstu, pyta człowieka. Waymo ujęło to tak, opisując działanie swojego systemu:

Gdy pojazd Waymo znajdzie się w określonej sytuacji drogowej, system autonomiczny może zwrócić się do pracownika wsparcia po dodatkowe informacje, aby lepiej zrozumieć kontekst otoczenia. System Waymo Driver nie polega wyłącznie na tych wskazówkach i przez cały czas ma pojazd w pełni pod kontrolą.

W praktyce operator ma oglądać na żywo obraz z zewnętrznych kamer auta. Gdy software napotka coś nietypowego, może wysłać prośbę o pomoc. Operator może wskazać, do którego pasa auto ma się ustawić. Może też zasugerować trasę, którą samochód ma rozważyć. Najprościej: nie trzyma kierownicy, ale potrafi przesunąć figurę na szachownicy (i to w środku partii). To jest ten moment, w którym hasło „w pełni autonomiczne” zaczyna brzmieć jak „w pełni autonomiczne, o ile ktoś odbierze połączenie”. Taki urok definicji, które świetnie wyglądają w prezentacji.

Tesla też ma operatorów. I historia „jazd bez nadzoru”

Na tym samym przesłuchaniu wątek zdalnych operatorów dotknął też Tesli. Lars Moravy, wiceprezes Tesli ds. inżynierii samochodowej, mówił o wielu warstwach bezpieczeństwa i o tym, że podstawowe funkcje prowadzenia mają być umieszczone w centralnej, wbudowanej warstwie, do której nie da się dostać z zewnątrz pojazdu. Wypowiedź Larsa Moravy, wiceprezesa Tesli ds. inżynierii samochodowej, brzmiała tak:

W naszym systemie mamy wiele warstw bezpieczeństwa. Podobnie jak wspomniał dr Peña, nasze elementy sterowania jazdą – ruszanie, zatrzymywanie, skręcanie – są umieszczone w centralnej, wbudowanej warstwie, do której nie da się uzyskać dostępu z zewnątrz pojazdu.

Moravy dodał też, że Tesla uczestniczy w wydarzeniach hakerskich i płaci ludziom za próby włamania się do jej samochodów. To ma wzmacniać odporność systemów na przejęcie. W tle przewija się jeszcze jeden wątek: medialne doniesienia o robotaxi Tesli. Po testach z operatorem w środku auta miała nadejść faza, w której jedzie już tylko pasażer. Później wyszło jednak na jaw, że za robotaxi jedzie dodatkowy samochód z operatorem. Do tego Tesla miała też czasowo wstrzymać wspomniane przejazdy „bez nadzoru”. Jeśli ktoś liczył na czystą, binarną odpowiedź „jest nadzór / nie ma nadzoru”, to dostał typową rzeczywistość: nadzór bywa przeniesiony, rozproszony i schowany za procedurą.

Wypadki, ryzyko i granica „pełnej autonomii”

W ocenie amerykańskich polityków problemem nie jest tylko to, że operator istnieje. Chodzi o to, że operator może być niezależną stroną trzecią, do tego działającą za granicą. Markey wskazywał, że to może tworzyć poważną lukę bezpieczeństwa, którą trzeba zamknąć. Do dyskusji dochodzą też twarde dane o ryzyku na drodze. Według najnowszych danych NHTSA przytoczonych w tym kontekście robotaxi Tesli mają rozbijać się trzy razy częściej niż ludzie. Co ważne, ma się to dziać nawet wtedy, gdy w samochodzie jest ludzki nadzór. Markey ostrzegał też, że zagraniczne stanowiska zdalnej asysty mogą być bardziej narażone na fizyczne przejęcie przez wrogie podmioty.

W takim scenariuszu ktoś mógłby próbować uzyskać kontrolę nad tysiącami pojazdów przewożących pasażerów po drogach. W jego ocenie ciężkie i szybko poruszające się samochody mogłyby wtedy stać się narzędziem ataku. Końcowy wniosek jest mało filmowy, ale bardzo praktyczny: robotaxi jeżdżą dziś po drogach publicznych, lecz do stuprocentowej autonomii wciąż im daleko. I nie chodzi tylko o czujniki, mapy oraz algorytmy. Chodzi też o to, jak wygląda „ostatnia linia” decyzji w sytuacji kryzysowej. Jeśli jest nią człowiek na łączu, to w dyskusji o autonomii trzeba mówić nie tylko o tym, jak dobrze widzi komputer, ale też o tym, kto widzi obraz z kamer, jak szybko reaguje i kto pilnuje, żeby tej reakcji nikt nie podmienił.

O autorze