Jeśli sprawcą wypadku jest pojazd samosterujący, kto ponosi za to odpowiedzialność?
Nazwisko 49-letniej Elaine Herzberg pojawiło się w ubiegłym tygodniu na czołówkach mediów, zwłaszcza tych poświęconych nowym technologiom. Kobieta stała się bowiem pierwszą ofiarą tego, co zdaniem większości obserwatorów i ekspertów rynku nowych technologii było nieuniknione – śmiertelnego wypadku spowodowanego przez pojazd samosterujący.
W niedzielę 18 marca około godz. 22 lokalnego czasu Elaine szła przy dość ruchliwej drodze w Tempe w stanie Arizona, kiedy z impetem uderzył w nią czarny SUV należący do programu rozwoju samochodów samosterujących prowadzonego przez technologicznego giganta, Ubera. Firma znana głównie dzięki aplikacji do przewozu osób, łączącej pasażerów i kierowców, od wielu lat stara się wyprzedzić innych potentatów, głównie Google’a, w wyścigu o wprowadzenie na rynek pierwszego samochodu niewymagającego stałej kontroli czy nawet obecności w nim kierowcy. Herzberg została uderzona przez taki pojazd – zmarła kilka godzin później w szpitalu na skutek odniesionych obrażeń.
Wypadek ten nie był jeszcze spełnieniem kasandrycznych przepowiedni o zagładzie ludzi przez roboty, bo choć samochód miał włączony tryb prowadzenia niezależnego, w środku znajdował się operator. Pierwsza ofiara śmiertelna wzmocniła jednak zadawane od dawna pytanie o odpowiedzialność. Jeśli sprawcą jest robot lub sterujący nim program komputerowy, kto ponosi winę? Kogo postawić przed sądem? I przede wszystkim jak reformować prawo i kodeksy oraz jak zmienić myślenie o sztucznej inteligencji, by w przyszłości być lepiej przygotowanym na podobne wypadki?
Przeciwnicy rozwoju niezależnych pojazdów czy jakichkolwiek innych maszyn twierdzą, że odpowiedzialności w takim przypadku nie poniesie nikt. Giganci tacy jak Uber, Amazon czy Google będą, ich zdaniem, zrzucać winę na wadliwy program albo usterkę w systemie, odsuwając zarzuty braku kontroli nad swoimi produktami. Co więcej, prawo w wielu krajach sprzyjałoby tego typu rozwiązaniom, bo mało który Kodeks karny zawiera zapisy dotyczące odpowiedzialności w wypadkach, w których sprawcą nie jest bezpośrednio człowiek. Duże firmy wygrywałyby procesy niejako walkowerem, z powodu braku paragrafów, na mocy których można by skazać któregokolwiek z ich pracowników.
Wreszcie w kontekście ofiar śmiertelnych pojawia się pytanie o bezpieczeństwo nie tyle samych pojazdów, ile sterujących nimi technologii. Powszechnie znane są przypadki włamywania się hakerów do systemów nawigujących i komputerów zamontowanych w tradycyjnych autach. Przejęcie kontroli nad samobieżnym samochodem, w którym nikt nie siedzi, i spowodowanie tragedii podobnej do zamachu w Nicei z 2016 r. nie wydaje się już fikcją.
Druga strona sporu jest zdania, że każdy taki przypadek trzeba będzie niuansować, a postęp technologiczny może powodować problemy nie z powodu swoich niedoskonałości, ale przeciwnie – z powodu laboratoryjnej wręcz skuteczności. Innymi słowy, sami jako ludzie możemy być niewystarczająco dobrzy dla technologii, którą rozwijamy. Wstępne dane policji w Tempe pokazują, że właśnie to miało miejsce w przypadku śmierci Elaine Herzberg. Potrącona kobieta w chwili wypadku znajdowała się na terenie oznaczonym jako jezdnia, a nie na chodniku. Teoretycznie więc nie powinno jej tam być – przynajmniej według założeń, którymi posługują się samochody autonomiczne. Do jakiego stopnia jest to zatem wina samochodu, działającego w idealnych warunkach, do jakiego twórcy programu, który nie docenił ryzyka związanego z kontaktem z „niedoskonałymi” ludźmi, a do jakiego samej ofiary, która mogła zejść z chodnika na jezdnię i zaburzyć prawidłowy podział ról na drodze?
Bez dokładnej analizy błędów i wiedzy technicznej nie sposób odpowiedzieć na to pytanie. Niemniej jednak wyrok, który w tej sprawie zapadnie – a rodzina Elaine Herzberg już zapowiada pozew przeciwko Uberowi – warto obserwować, będzie on bowiem precedensowy. Może rozstrzygnąć, czy sztuczna inteligencja będzie ponosić prawdziwą odpowiedzialność za skutki swojego działania.
Odpowiedz na treść artykułu lub innych komentarzy