Zaba+w+blocie1.jpg

 

    Jedzie, jedzie sobie samochód, kierowany sztuczną inteligencją AI. Jedzie sobie, jedzie i w swojej sztucznej duszy pogwizduje, bo pogoda piękna, droga sucha, każdy kierowca lubi muzykę podczas jazdy. W środku siedzi sobie tata z synami, jadą na ryby albo na wycieczkę w góry. Tymczasem chodnikiem idzie mamusia z małym dzieciątkiem.

    Nagle trrrach! Pęka opona! Albo nie, AI się zamyślił. O czym? O elektrycznej owcy się zamyślił AI i go to pochłonęło. Albo nie. AI w środku miał drobny bug. Albo nie, nie miało buga, sytuacja na drodze po prostu była tak wyjątkowa, że AI nie umiała właściwie w tej jednej sytuacji, w tej jednej na miliard, zareagować jak należy. I mamy poślizg. AI gorączkowo sensorami omiata otoczenie, jeszcze 3 milisekundy i albo tata z synami nigdy już nie dojada na ryby albo mamusia z dzieciątkiem zostanie wgnieciona w ścinane. Co robić?

    To co powyżej opisałem, to tak zwany trolley problem, zagadnienie abstrakcyjne z dziedziny etyki, które gwałtownie kilka lat temu uzyskało wpierw z powodów publicystycznych a obecnie z coraz bardziej praktycznych, pewną uwagę. Co prawda sam problem może nie jest bardzo praktyczny – zanim samochód kierowany AI wpadnie w poślizg, musi dojść do całej masy zdarzeń, których wykluczaniem zajmą się inżynierowie w pierwszym rządzie: a więc samochód taki nie będzie łamał przepisów, będzie miał zawsze właściwy bieg wchodząc w zakręt, będzie miał optymalną mieszankę i moc chwilową silnika, będzie zawsze miał dostosowaną prędkość do warunków jazdy, włączone światła, sprawne migacze i tysiąc innych okoliczności będzie w stanie optymalnym zanim dojdzie raz na miliard razy, do zbiegu okoliczności który umożliwi powstanie poślizgu i potencjalnie wypadku drogowego. Inżynierowie w pierwszej kolejności rozwiążą te problemy techniczne związane z optymalnym sposobem kierowania autem, a problemy etyczne z rodzaju nierozwiązywalnych dylematów typu trolley problems będą rzadkimi przypadkami. Jednak…
     W historyjce powyżej końcu AI wybrał którąś z obu złych, alternatyw. Ktoś zginął. Kto?

    Producenci samochodów nie mają tu żadnego wyboru. Już dziś, kiedy samochody AI są dosyć egzotycznym mimo wszystko wynalazkiem, nowinką techniczną, już dziś ich wybór jest określony. Samochód taki będzie zawsze i bezwzględnie chronił pasażerów a nie pieszych czy innych uczestników ruchu drogowego. Nikt i nigdy nie dokona innego wyboru, bo to pasażerowie a nie pieszy sa klientami firm produkujących auta. Nawet bez AI można by sobie wyobrazić całkiem zwykły samochód, Fiat 126P wyposażony w radar z przodu, który, kiedy stwierdzi że przed maską znajduje się człowiek, kieruje samochód 90 stopni w bok, bez względu nam to co tam jest – ściana, słup, czy inne auto. Nikt jednak nigdy takiego rozwiązania nie wprowadził, bo jak to? Kierowca mógłby doznać urazów, a nawet zginąć w takim wypadku, kosztem pieszego? Kto kupiłby taki samochód? Nawet obowiązkowych alkomatów nie udało sie wprowadzić, a Korwin-Mikke symbolicznie spalił się oblewając się benzyną (i to kilka razy!) w proteście przeciwko używaniu pasów podczas jazdy. Tak samo jest w wypadku samochodów kierowanych przez AI. Producenci aut, tak naprawdę nie mają tu żadnego wyboru, tym bardziej że tego typu auta, przynajmniej na początku, będą raczej luksusem, będą dedykowane na rynek premium, rynek bogatych ludzi.

    Co Ci ludzie kupią w pakiecie? Supernowoczesny design, piękny kolor maski, luksusowe wyposażenie i superkomputer pod maska, ale także AI wraz z zapewnieniem że będzie ich ona chronić, oraz odpowiednią licencję zabraniająca deasemblacji kodu AI oraz modyfikowania w sposób nieautoryzowany jej działania. Zupełnie jak właściciel ( są tacy co tak o sobie myślą! )  Windows ;-)
     Czy kierowca może odpowiadać za to że samochód AI go chronił? To nie jest jego decyzja! Jeśli zatem zginęła mama z dzieciątkiem a tata z synami przeżyli wypadek z początku wpisu, to nie sa niczemu winni. „Hola!” – krzyknie tu jednak prokurator Ziober – „mamusia z dzieciątkiem była znajomą mojego sąsiada! ABW – dawać mi tu AI na warsztat.” a na boku dodaje – „Dajcie mi AI a paragraf sam znajdę!” I tu zaczyna sie bardzo zabawna sprawa. Kierowca nie może odpowiadać za poczynania AI zainstalowanej w aucie, bowiem on jest tylko kompletnie nieświadomym użytkownikiem właściwie już nie rzeczy – samochodu, a usługi, usługi wożenia go autem przez oprogramowanie zgodnie z postanowieniami licencji producenta. Czy zatem winny jest producent? Kto to wie? Prokurator Ziobro już, już pochyla sie nad maską samochodu, AI w środku aż zwija się w sobie, uruchamiając garbage collector by zwolnić choć kilka megabajtów. W lewej ręce Ziobra błyszczy klucz dynamometryczny w prawej olejarka – czy będzie wymuszał zeznania za pomocą polewania lodowatym olejem po filtrach ściskanych kluczem? Wtem rozlega się gromkie „Stop!” – do akcji wkracza prawnik koncernu samochodowego: „Ziobrze – nie wolno Ci gmerać pod maską, zaś straszenie AI jest działaniem szkodliwym dla interesów Korporacji” tu prawnik doda – „partia sama przecież popierała CETA, SRETA, PYTA i CIPA – a wszystkie te umowy sygnowane przez rząd USA (USA!) chronią własność intelektualna i każą Ci zdać się na analizy eksperckie do których prawo, z uwagi na tajemnice kodu oprogramowania, ma tylko producent urządzenia i osobisty ojciec AI” – po czym kładąc rękę na masce oszalałej ze strachu AI czule doda szeptem – „ććć, ććć już dobrze moja maleńka, dziadek adwokat jest przy tobie!
      Jak to zatem będzie? Bo mamuśka przeżyła ale dzieciątko ginęło i co teraz? Czy AI ma być skazana na przepięcie na krześle elektrycznym? Kpiny. Pozostaje odszkodowanie. Mamuśce zapłacimy – za dziecko – w zależności od 4.3 $ do kilku milionów dolarów w zależności od przebiegu śledztwa, kraju i warunków ugody prawnej.
     Dokonajmy częściowego podsumowania: kierowca nie odpowiada za błąd AI, błąd trzeba dowieść, AI nie da sie ukarać prawnie np. karą śmierci czy więzienia, czyli jedynym, potencjalnym skutkiem kiedy już ktoś zdoła wygrać z koncernem w sądzie, będzie odszkodowanie czy ugoda prawna. Należy zatem sądzić ze kwoty te będą częścią pakietu który będzie wliczany w koszt auta, lub będzie częścią procedury homologacyjnej i będzie musiał być rezerwowany przez koncerny samochodowe na wypadek ponoszenia odpowiedzialności. Potencjalnej. W której od teoretycznej odpowiedzialności, poprzez sztuczki prawne do wypłat może być daleka droga. I w której kluczowym elementem będą zespoły eksperckie analizujące poprawność kodu, który nie będzie dostępny publicznie. Słabo to wygląda…
     Jeśli zatem dziś kupuje się samochód i jego wyposażenie, w przyszłości będzie się kupowało samochód, jego wyposażenie i ubezpieczenie powodujące de facto zwolnienie z odpowiedzialności prawnej za szkody wyrządzone z użyciem usługi związanej z kierowcą AI. I będzie to coraz powszechniejsza sytuacja, tak jak coraz powszechniejsze będzie użycie AI w życiu codziennym – w pociągach, samochodach, samolotach, w komputerach, w medycynie, w obsłudze masowej. Kto widzi w tym początek idylli niech może dla próby zechce skontaktować się z serwisem Google jak ma problem ;-) Większe szanse będzie miał jak będzie pisał na Berdyczów…

    No i teraz jakiś mądrala powie: „Ale, ale! Przecież AI jest lepsza niż ludzie w tych zadaniach w których udaje się już ja zastosować. Myli się mniej. I nawet jeśli na początku będzie mylić się w 1% przypadków, to w dłuższej perspektywie…” Czy w ubiegłych stuleciach ktoś nie narzekał: parowóz będzie jechał nawet gdy na drodze stanie człowiek, podczas gdy wóz konny, stanie, bo koń nie rozjedzie człowieka nawet jak woźnica pijany… Po pierwsze zwrot „w dłuższej perspektywie”: rozwiązania wprowadza się już dziś, a nie w dłuższej perspektywie. Nalezy o tym pamiętać. Wolałbym by ta perspektywa poprawy działania to było kilka godzin a nie kilka lat. Ale co chyba ważniejsze wołałbym by producent AI ponosił odpowiedzialność, tak jak obecnie producent auta ponosi odpowiedzialność za błędy techniczno/projektowe w jego układzie hamulcowym. Na rynku oprogramowania bynajmniej nie jest to standard! To właściwie nieznane rozwiązanie prawne! A prognozy sa pesymistyczne w tym zakresie – analizy stwierdzają że w przyszłości większość firm będzie zorganizowanych jak firmy produkujące oprogramowanie. I tak będzie tez wyglądała w coraz większym zakresie praca ludzka – będzie tak czy inaczej coraz bardziej podobna do pracy programisty. Czy rozwiązania prawne tez będą coraz bardziej podobne? To wizja prawdziwej dystopii…
     Niedawno okazało się, że to co bierzemy za cud techniki ma całkiem wyraźne ograniczenia, zaś zdumiewająco proste i zdawałoby się niewinne zmiany, potrafią obecnej AI i to tej spod znaku najlepszych, całkowicie popsuć działanie. Na drodze będzie to wyglądać jakby raz na milion godzin jazdy AI popełniała błąd. I nie jest to błąd wynikający z przypadku, a z samej istoty ograniczeń w jej działaniu. Świat jest po prostu zbyt złożony by objąć go istniejącą technologią w pełni. Człowiek także się myli. I ponosi za to odpowiedzialność. Czy producenci będą te informację ujawniać, poprawiać działanie systemów i płacić? Czy też postąpią jak Volgsvagen w sprawie emisji spalin?

    Czy to jest wpis o głupocie AI? O tym że AI to ZŁO? Czy jestem AI Luddystą? Broń boże. Ten wpis jest o tym, że ludzie podejmując swoje decyzje – że nie będzie kasjera tylko AI, że nie będzie kierowcy tylko AI, że nie będzie ochroniarza tylko karabin maszynowy sterowany przez AI, będą w coraz większym stopniu brać pod uwagę nie tylko fakt że AI pracuje 24 na dobę bez praw pracowniczych, szybciej, taniej i często efektywniej. Będą brali pod uwagę, także i to że jej błędy nie będą w prosty i oczywisty sposób prowadzić do bezpośredniej odpowiedzialności karnej czy być może finansowej, osoby korzystającej z działania AI.
     Jakże wygodnym mechanizmem jest zrzucanie winy za wszelkie machloje na „wolny rynek tak chciał”. Za chwilę będziemy słyszeć: „AI popełniła błąd, ale ludzie także je czynią, nic nowego” Tyle że ludzie ponoszą odpowiedzialność, a AI – słusznie – nie. Producenci AI robią wszystko by i im się upiekło. Stąd wróże w tej dystopii czasy kiedy wszystko działa lepiej, prościej, bezpieczniej i piękniej, w 99% wypadków a w pozostałym 1% – nic nie można z tym zrobić, a ten komu urwało rękę, cóż, ma pecha. 1% w czasach supermasowej i kompletnie homogenicznej obsługi to nie jest mało…