Właśnie skończyłem czytać trzecią książkę Daniela Suareza „Kill Decision”. Jest to jego kolejny, po „Daemon” i „Freedom (TM)”, thriller technologiczny, stanowiący dla mnie bardziej bodziec do zastanowienia się nad kierunkiem rozwoju ludzkiej cywilizacji niż satysfakcję obcowania z wielką literaturą. Bo „Kill Decision” wielką literaturą nie jest, ale prowokuje do istotnych pytań, na ile rozwój technologii wyzwala w ludziach zwierzęce instynkty i czy te instynkty nie są prawdziwą naturą człowieka. Czy osiłek w dresie nie jest przypadkiem prawdziwym okazem rodzaju ludzkiego, a intelektualista tylko chwilowym wynaturzeniem?
Głównym technologicznym tematem książki są autonomiczne bezpilotowce, ale autonomiczne nie tylko w sensie samodzielnego lotu, lecz również podejmowania decyzji o eliminowaniu ludzi na podstawie ich zachowania, jeśli jest ono sprzeczne z intencjami osób, które zaprogramowały te maszyny.
Poniższe cytaty charakteryzują niektóre elementy opisywanych przez Daniela Suareza technologii:
„Czy znany jest ci termin zabójcza autonomia?”
Odin skinął głową. „Autonomiczne bezpilotowce wojskowe.”
„Tak. Bezpilotowce, które samodzielnie latają i podejmują decyzję o użyciu broni bez bezpośredniego udziału człowieka.”
Odin skonsternowany zamyślił się. „To istotna zmiana w doktrynie wojennej.”
„Dlaczego tak sądzisz?”
„Ponieważ stanowi połączenie najgorszych aspektów cyberwojny – anonimowości i skalowalności – z fizyczną przemocą wojny w realu. Ktoś może wykraść udany projekt i wdrożyć do taniej, wielkoseryjnej produkcji gdzieś za granicą. A potem dziesiątki tysięcy takich maszyn mogą zostać bezkarnie wysłane przeciwko komukolwiek na naszej planecie.”
Daniel Suarez „Kill Decision” (Amazon Kindle location 329)
„Obydwaj wiemy, że dni załogowych samolotów są policzone. Autonomiczne bezpilotowce będą tańsze, zwrotniejsze i jednorazowego użytku. Zdalnie sterowane maszyny staną się bezużyteczne w konfrontacji z zaawansowanymi technologicznie przeciwnikami, takimi jak Chiny, Rosja, Iran czy Korea, którzy po prostu zagłuszą radiową transmisję danych. Oznacza to, że musimy wcielić autonomiczne bezpilotowce do naszych oddziałów i wykorzystać je do patrolowania i reagowania na ataki.”
Daniel Suarez „Kill Decision” (Amazon Kindle location 1885)
Gdy wykorzystujesz autonomiczne bezpilotowce nie musisz uzyskiwać zgody obywateli na użycie siły. Potrzebujesz tylko pieniędzy. Pieniędzy, które mogą być anonimowe. Bezpilotowce nic nie wygadają.
Daniel Suarez „Kill Decision” (Amazon Kindle location 3686)
„To, co za chwilę państwo zobaczą, to technologia wizualnej inteligencji, którą nazwaliśmy Raconteur.” Po kliknięciu pilotem na ekranie pojawiła się animacja dziesiątek, setek, a potem tysięcy rojących się klipów wideo. To był potężny, niedający się ogarnąć strumień obrazów. „Wizualna inteligencja jest często mylona z ‚komputerowym widzeniem’, ale to coś znacznie bardziej zaawansowanego. Wizualna inteligencja to obdarzenie maszyny nie tylko zdolnością do identyfikowania obiektów na zdjęciach, co od lat jest już możliwe, ale też wyposażeniem jej w zdolności poznawcze umożliwiające rozeznanie się w obserwowanej sytuacji. Detekcja pojęć, zintegrowana percepcja, interpolacja-predykcja. Co mogło się wydarzyć i co w związku z tym może się stać? Oznacza to danie maszynom nie tylko zmysłu wzroku, ale i umiejętności rozumienia tego, co widzą.”
Daniel Suarez „Kill Decision” (Amazon Kindle location 357)
„Jak wpoimy maszynom te umiejętności? Poprzez emulację sposobu przetwarzania zdarzeń przestrzenno-czasowych właściwego ludziom. Ludzka percepcja wzrokowa jest ściśle dostrojona do zmian i to te zmiany tworzą tak zwane ‚stany uwagi’. Przyswajamy te ‚stany uwagi’ z obrazów wideo za pomocą algorytmicznego mechanizmu, który obejmuje takie elementy, jak skupienie uwagi, zaznaczanie najistotniejszych obiektów i kluczowe relacje między tymi obiektami w zakresie ich ruchu i wzajemnego kontaktu. Czynniki te są niezbędne do rozróżniania poszczególnych zdarzeń. Ciąg kolejnych ‚stanów uwagi’ staje się śladem wizualnej uwagi stanowiącym jeden z elementów ‚historii’. ‚Historia’ ta może być programistycznie opowiadana za pomocą czytelnego dla maszyn tekstu, a tekst ten może być w czasie rzeczywistym algorytmicznie przeszukiwany pod kątem jego wagi i znaczenia przez ‚publiczność’ złożoną z innych, prostszych programów. To właśnie z tego powodu nazwaliśmy nasz system ‚Raconteur’ – ponieważ opowiada on historię wydarzeń w sposób zrozumiały dla zwykłych systemów. I, tak jak każdy dobry gawędziarz, ‚Raconteur’ pamięta, jak bieżąca scena wpisuje się w całość.”
Daniel Suarez „Kill Decision” (Amazon Kindle location 371)
BIZNES BEZ STRESU 