Spłoszony robot

DYSTANSPodczas każdej debaty o sztucznej inteligencji prędzej czy później poruszana jest kwestia zagrożeń, jakie czyhają na ludzi ze strony maszyn wyposażonych w zdolność do autonomicznego reagowania na otaczającą je rzeczywistość. Autonomicznego, to znaczy takiego, kiedy maszyna – na podstawie samodzielnie zgromadzonych informacji oraz zaprogramowanych w fabryce zasad – sama decyduje, co w danej sytuacji powinna zrobić. Na przykład: wybierasz się rano do pracy, a twój myślący samochód wiezie cię do lasu na grzyby, ponieważ przez ostatnie dni pogoda sprzyjała ich wegetacji. ;-)

Wróćmy jednak do głównego wątku rozważań. Zatrważająca wizja tabunów autonomicznych samochodów, które szaleją po ulicach i nas rozjeżdżają, jest obowiązkowym elementem każdej rozmowy domorosłych futurystów. Moim zdaniem pojazdy-roboty nie porozjeżdżają nas bardziej, niż sami to czynimy, ale za chwilę przedstawię znacznie ciekawszy argument przemawiający za tym, że ludzie nie powinni jeździć tymi samymi drogami co roboty.

Zacznę swój wywód od przypomnienia trzech – sformułowanych w 1942 roku przez Isaaca Asimova – kluczowych zasad, których bezwzględne przestrzeganie będzie obowiązkiem maszyn wyposażonych w sztuczną inteligencję:

  1. Robot nie może skrzywdzić człowieka, ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy.
  2. Robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z Pierwszym Prawem.
  3. Robot musi chronić samego siebie, o ile nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem.

W tym momencie większość specjalistów zaczyna rozważać standardowe dylematy moralne, takie jak: co zrobi autonomiczny samochód, gdy na drogę wybiegnie dziecko? Rozjedzie je z zimną krwią, żeby chronić ludzi, których wiezie, czy spróbuje ominąć brzdąca i uderzy w przydrożne drzewo?

Zgadzam się, że problem ten jest ciekawy i wart rozważenia, ale chciałbym poznać choć jednego kierowcę, który w tak ekstremalnej sytuacji zajmuje się moralnością. Po prostu nie ma na to czasu, więc jego reakcja musi być instynktowna czyli… bezmyślna. W takich okolicznościach to maszyna jest w stanie podjąć znacznie lepszą decyzję, ponieważ dysponuje wszechstronniejszym oglądem sytuacji, którą potrafi szybciej przeanalizować od nawet najbystrzejszego ludzkiego umysłu.

Dlaczego więc ja – człowiek przeświadczony o większej sprawności motorycznej przyszłych maszyn autonomicznych – uważam, że ludzie nie powinni jeździć tymi samymi drogami co roboty?

Dlatego, że będzie to niebezpieczne dla robotów!

Wyobraź sobie, że przed tobą jedzie „niespotykanie spokojny kierowca”, który przestrzega wszystkich przepisów ruchu drogowego. Gdy widzi ograniczenie prędkości do 40 km/h, zwalnia do 40 km/h zamiast do 70 km/h jak wszyscy „normalni” ludzie. ;-)

Albo wyobraź sobie, że przed takim „niespotykanie spokojnym kierowcą” majestatycznie pedałuje rowerzysta. Z przeciwka nic nie jedzie, ale na jezdni wymalowana jest podwójna ciągła linia. Wyprzedzanie wymagałoby jej lekkiego przekroczenia lub przejechania niebezpiecznie blisko jednośladu, więc kierowca ten wlecze się posłusznie za rowerem aż do miejsca, gdzie będzie mógł bezpiecznie i przepisowo wykonać upragniony manewr.

Wyobraź sobie wreszcie, że „niespotykanie spokojny kierowca” usiłuje włączyć się do ruchu, ale tak, żeby nikogo nie zmusić do hamowania. Tymczasem główną drogą mknie nieprzerwany sznur samochodów, ponieważ w letnie piątkowe popołudnie każdy chce jak najszybciej dotrzeć na działkę, nad jezioro albo do hipermarketu na zakupy.

Robot w postaci autonomicznego samochodu byłby właśnie takim „niespotykanie spokojnym kierowcą” – skrępowanym swoimi szlachetnymi zasadami, bez szans w starciu ze zwykłymi ludźmi.

Bo ludzie dość swobodnie traktują ustalone reguły i przepisy, a nierzadko w ogóle je ignorują. I – co najśmieszniejsze – tę swoją postawę nazywają zdrowym rozsądkiem! Z drugiej strony przeraża ich myśl, że robot również mógłby wykazywać się takim „zdrowym rozsądkiem”. I dlatego mu na to nie pozwolą.

Dopuszczenie autonomicznych samochodów do ruchu po tych samych drogach, po których jeżdżą ludzie, zaowocowałoby pojawieniem się tłumów „niespotykanie spokojnych kierowców”. Zapewne jednych przedstawicieli gatunku homo sapiens by to ucieszyło, ale innych bez wątpienia by sfrustrowało lub sprowokowało do niewybrednych żartów.

Wyobraź sobie kierowcę-trolla, który wie, że maszyna nie ma prawa mu zrobić krzywdy. Czy nie zachowywałby się w stosunku do niej tak, jak trolle w mediach społecznościowych? Czy nie zajeżdżałby jej drogi, złośliwie przyhamowywał, jeździł „na zderzaku” i wymuszał pierwszeństwa? To oczywiste, że tak by postępował! Dlatego uważam, że:

Ludzie nie powinni jeździć tymi samymi drogami co roboty, ponieważ będą płoszyli te dobroduszne stworzenia!

13 thoughts on “Spłoszony robot

  1. A co będzie, jak komputery się zbuntują, i obejmą władzę nad ludźmi?
    A co będzie, jak jakiś haker wprowadzi wirusa do zasad moralnych Asimowa, i robot nie będzie ich przestrzegał?
    Pzdr

    Lubię to

  2. @Torlin: Nie przeczę, że takie zagrożenia istnieją, jednak spodziewam się, że znacznie wcześniej człowiek zacznie trollować automaty, gdy tylko przekona się, że może to robić bezkarnie.

    Lubię to

  3. Każdy wprowadzający nowości TesTequ, czy to nowinki technologiczne, czy to nowe prawo, zakłada podświadomie, że wszyscy będą przestrzegać reguł, że zło nie istnieje na świecie. Tymczasem my musimy być przygotowani na każdą ewentualność, włącznie z tym, że jakiś zły człowiek będzie usiłował zdobyć władzę nad nami.

    Lubię to

  4. @torlin: Na razie ten zły człowiek nie uważa, nadużywa alkoholu, pisze SMSy za kierownicą i w ten sposób demonstruje swoją władzę nad Tobą, gdy przechodzisz po pasach przez jezdnię.

    Lubię to

  5. A może by roboty skierować w kanały podziemne? Termity rozwiązały już problem komunikacji podziemnej.
    W Australii masa termitów jest 10 x większa od masy żyjących tam ludzi.

    Lubię to

  6. Ciekawe, jakby zachowały się autonomiczne samochody w przypadku pojawienia się samochodu uprzywilejowanego? To pewnie można zaprogramować. A co, jeśli pojawi się rządkowa kolumna trzech samochodów bez sygnałów świetlno-dźwiękowych?

    Lubię to

  7. @Grzegorz: To dobre przykłady. Normalny pojazd uprzywilejowany wyraźnie sygnalizuje, że ma pierwszeństwo. Natomiast na widok łamiącej przepisy rządowej kolumny każdy robot wpadnie w popłoch, jeśli zdąży ją zauważyć. I to jest właśnie sedno problemu, który poruszam w tym wpisie.

    Lubię to

  8. Na trolla wystarcy inksy robot – policjant drogowy. Nękany przez trolla robot-samochód wysyło komunikat do robota-policjanta, robot-policjant spado na trolla jak grom z jasnego nieba i… o wręceniu łapówki za niewypisanie mandatu troll nawet nimo co marzyć :)

    Polubione przez 1 osoba

  9. @owcarek podhalański: Mówiąc poważnie, zobacz, jakie „sprzeciwy społeczne” budzi ustawianie fotoradarów mierzących prędkość. A przecież te radary są właśnie robotami-policjantami. Skąd te sprzeciwy? Ponieważ zarówno wśród ustawiających radary ludzi, jak i kierowców jest pokaźna populacja trolli!

    Lubię to

  10. Ale automat/robot może mieć wprowadzoną np. trzystopniową regułę przestrzegania przepisów.
    1. Ścisłe przestrzeganie przepisów (sytuacja dostrzeżona przez Autora).
    2. Przestrzeganie przepisów z 15% tolerancją (czyli lewe koła mogą przekroczyć linię ciągłą).
    3. Adaptacja do stanu zastanego (Polska, Niemcy, Włochy, Ukraina itp.).

    Lubię to

  11. @x-man66: To ciekawa koncepcja. Nie pomyślałem o niej. Można byłoby nawet dodać AWZ – Adaptacyjny Współczynnik Złośliwości. ;-)

    Lubię to

Skomentuj

Wprowadź swoje dane lub kliknij jedną z tych ikon, aby się zalogować:

Logo WordPress.com

Komentujesz korzystając z konta WordPress.com. Wyloguj / Zmień )

Zdjęcie z Twittera

Komentujesz korzystając z konta Twitter. Wyloguj / Zmień )

Facebook photo

Komentujesz korzystając z konta Facebook. Wyloguj / Zmień )

Google+ photo

Komentujesz korzystając z konta Google+. Wyloguj / Zmień )

Connecting to %s