Rafał Kosik – Nie wierzę w żadne ograniczenia moralne nakładane na sztuczne inteligencje [wywiad]

Z Rafałem Kosikiem – autorem m.in. powieści „Różaniec”, „Cyberpunk2077: Bez przypadku” oraz bestsellerowej serii dla młodzieży „Feliks. Net i Nika” rozmawiamy o pisaniu (i czytaniu) cyberpunka, o tym, po co nam fantastyka socjologiczna i czy powinniśmy się bać AI. 

Łatwo było wejść w świat Cyberpunk 2077? Literacko? Pomogły wcześniejsze prace przy serialu „Edgerunners”?

Doświadczenie z Edgerunners na pewno pomogło, jednak w przypadku powieści doszło znacznie więcej pracy. Pisanie powieści jest o rząd bardziej szczegółowe niż scenariusza, no i powieść pisałem sam, nie w zespole. W moim przypadku to akurat plus, bo wolę tak pracować, ale to również oznacza, że wszystko muszę zrobić sam. Dodatkowo w filmie czy serialu większość przedmiotów widocznych na ekranie po prostu tam jest, najważniejsze, żeby dobrze wyglądały i spełniały swoją rolę. W powieści wszystko trzeba ubrać w literki, wszystko musi być nazwane. Część nazw musiałem wymyślić, bo po prostu nie istniały.

Wolisz kreować własne światy, czy może jednak wygodniej było budować opowieść w świecie już gotowym, wykreowanym wcześniej, przez kogoś innego?

Zawsze budowanie światów sprawiało mi dużą frajdę i dawało wiele możliwości opowiedzenia dokładnie takiej historii, jaką chciałem opowiedzieć. Przy pracy nad Cyberpunk 2077: Bez przypadku początkowo ten brak możliwości zmiany czegokolwiek zasadniczego przeszkadzał mi. Jednak po pewnym czasie dostosowałem się do sytuacji, a nawet znalazłem wiele jej plusów. Mogłem całymi garściami czerpać z rozwiązań już istniejących, wymyślonych przez cały zespół tworzący grę.

W jednym z wywiadów (dla magazynu Fahrenheit) wspominasz, że myślisz bardzo „filmowo”. Łatwo Ci wyobrazić sobie lokacje i sceny, w których dzieje się akcja, które opisujesz. Kreacja Night City pomagała w wizualizacji scenografii dla pisania? Czy przeszkadzała, zakłócając Twoją wizję?

Rzeczywiście zwykle wyobrażam sobie film i go opisuję. Tak samo było i tym razem, choć poświęciłem trochę czasu, by zanurzyć się w Night City i wczuć w jego klimat. To jest na tyle dopracowana i spójna kreacja, że akurat moja wyobraźnia nie kłóciła się z tą scenografią.

To nie pierwszy raz, kiedy sięgasz po cyberpunk. Choćby Twoja powieść „Mars” jest cyberpunkowa. Lubisz gatunkową estetykę cyberpunka? Dobrze tworzyło się historię w tej konwencji?

Ja generalnie nie zgadzam się ze stwierdzeniem, że cyberpunk jest gatunkiem retro. Wręcz przeciwnie, jest bardzo aktualny i być może najlepszy do opisywania bliskiej przyszłości. Oczywiście można z niego wziąć samą estetykę kojarzącą się np. z Gibsonem i to będzie retro. Ale ja nie lubię takiej powierzchowności. Mój cyberpunk od początku miał służyć lepszemu przedstawieniu i rozumieniu świata, w którym człowiek poddawany jest coraz większej presji technologii. Zresztą gdy siadałem do „Marsa”, nie zakładałem, że napiszę cyberpunk, transhumanizm albo antyutopię. To wyszło samo z siebie, bo najlepiej pasowało do tego, co chciałem opowiedzieć.

Najważniejsza dla Ciebie powieść w tym gatunku? Najbardziej kanoniczne tytuły światowego cyberpunka wg Rafała Kosika to…?

Łatwo jest podać przykład „Trylogii Ciągu”, ale na pewno bardziej aktualne jest „Accelerando” Charlesa Strossa, czy „Modyfikowany węgiel” Richarda Morgana. Trudno powiedzieć, która powieść jest najważniejsza. Ja nie czytam według klucza gatunkowego. Co więcej, po przeczytaniu kilku pozycji cyberpunkowych, polecam zrobić przerwę na coś innego, żeby zachować elastyczność umysłu.

Nasz dorobek literacki w zakresie cyberpunka może nie jest przesadnie bogaty, ale jednak wciąż rodzimi twórcy (kolejne pokolenia) wracają do tej gatunkowej konwencji. Czytujesz polskie powieści z gatunku?

Tak, poczynając od „Bajek robotów” i „Cyberiady” Lema 🙂 Czytałem „Gamedeca” Marcina Przybyłka i kilka innych, ale znów: nie czytam według klucza gatunkowego. No chyba że za klucz uznać szeroko pojęte science fiction. Elementy cyberpunkowe pojawiają się w wielu powieściach, jak np. w „Płomieniu” Magdy Salik. Ja nawet wolę taką mieszankę, bo sam ją stosuję u siebie – mieszanie gatunków daje najciekawsze efekty. Tylko potem nie wiadomo, na której półce w księgarni postawić taką książkę.

Obraz cyberpunkowego świata w popkulturze zwyczajowo nie należy do najprzyjemniejszych. To światy owładnięte technologią, cybernetyką, które jednak nie do końca pozostały zdatne do życia. A ty stwierdzasz w niedawnym wywiadzie dla Wyborcza.pl, że ludzi są gotowi na cyberpunkowy świat wszczepów. Nie przeceniasz nas – społeczeństwa?    Z tą naszą dojrzałością? Gotowością na nadchodzące zmiany?

Czy ludzie chcieli drugiej wojny światowej? To znaczy, czy przeciętni ludzie jej chcieli? Raczej nieliczni, a jednak do niej doszło. To że czegoś nie chcemy, nie znaczy, że do tego nie dążymy, choćby czystym zaniechaniem, lenistwem albo krótkotrwałą wygodą. Nie twierdzę, że rozwój technologii cyborgizacyjnych przyniesie nam samo zło. Na pewno zrewolucjonizuje medycynę i zlikwiduje ogromną większość niepełnosprawności, choć jednak sądzę, że pierwsze będą zastosowania militarne. To jednak bez znaczenia, bo ze wszystkimi wynalazkami i trendami było podobnie. Najpierw były podejrzanymi nowinkami, potem stosowali je nieliczni, a wreszcie wszyscy musieli się do nich dostosować, żeby nie wypaść z obiegu. Nie masz dziś obowiązku posiadania karty kredytowej, telefonu komórkowego lub umiejętności używania internetu. Ale życie bez tego jest raczej uciążliwe, a znalezienie dobrej pracy niemożliwe.

Cyberpunk, jako gatunek, wyraźnie ewoluował, bo i wczesne założenia oraz literackie wizje zaczęły się w pewnym stopniu spełniać. A innych jeszcze nie doczekaliśmy. Prognozujesz jakieś kierunki dalszych zmian? Nie tylko cyberpunku, ale i science fiction w ogóle?

To widać już od lat. Fantastyka naukowa będzie mniej zajmowała się technologią, a więcej socjologią. Technologia tak „odjechała” przeciętnemu człowiekowi, że mogłaby już być traktowana jak magia. Jaki procent użytkowników ma pojęcie o zasadzie działania cyfrowej transmisji danych, szczególnie bezprzewodowej? Mały ułamek. A z kolei ten ułamek nie wie zbyt wiele o budowie silnika turboodrzutowego. Nasza wiedza jest na tyle rozbudowana i szczegółowa, że nawet opracowanie nowego czajnika elektrycznego wymaga współpracy specjalistów wielu wąskich dziedzin. Dlatego opisywanie działania maszyn jak to czynił Juliusz Verne nie ma dziś sensu.

Ja staram się z technikaliów opisywać jedynie to, co konieczne i to bez podawania konkretnych parametrów. Istotna jest interakcja człowieka z technologią, a raczej ludzkości z technologiami. Cyberpunk wydaje się tutaj niezastąpiony.

W jednym z wywiadów wspominasz, że bardziej niż chatu GPT obawiasz się, że własne opinie nie będą mile widziane. Obawiasz się cenzury? Dominacji politpoprawności w wymiarze społecznym? Myślozbrodni, niczym w orwellowskiej wizji z „1984”?

To już ma miejsce. Ludzie wylatują z uniwersytetów, tracą pracę za wypowiedzi zgodne z wiedzą naukową, ale niepasujące do kolejnych, szybko ewoluujących ideologii. Cenzura nauki już trwa, a zaczyna się od autocenzury w obawie przed konsekwencjami. Kiedyś ten okres zostanie nazwany przez historyków końcem oświecenia.

Ja się nie boję chatu GPT ani rozwoju technologii, lecz tego, jak zostanie ona wykorzystana. W przeszłości zawsze każda nowa technologia była prędzej czy później wykorzystywana przeciwko drugiemu człowiekowi. Naiwnością jest myśleć, że zmądrzeliśmy.

A co z tą sztuczną inteligencją? Rozpala ostatnio gorące dyskusje, zalewani jesteśmy apokaliptycznymi wizjami, apecjaliści – m.in. Geoffrey Hinton nazywany „ojcem chrzestnym sztucznej inteligencji” oraz Sam Altman, dyrektor wykonawczy firmy OpenAI – przed nią ostrzegają… Mamy powody do obaw? Co nas czeka w świecie z powszechnie obecną AI?

Jedno jest pewne – nie możemy tego zatrzymać. Nie ma nikogo, kto mógłby zakazać prac nad AI. Można to zrobić lokalnie, np. w Europie, ale to tylko będzie oznaczało, że zostaniemy w tyle. Nie wierzę również w żadne zasady robotyki, ograniczenia moralne nakładane na sztuczne inteligencje. Co się wydarzy, to jest jedna wielka niewiadoma. Możliwych scenariuszy jest bardzo dużo, w tym takie, które mówią, że prawdziwa sztuczna inteligencja już dawno istnieje, tylko nie zdajemy sobie sprawy z jej władzy.

Zasada jest podobna, jak w przypadku ludzi korzystających z nawigacji samochodowej – jedziemy tam, gdzie nas prowadzi, bo nie chce się nam sprawdzać, czy droga jest rzeczywiście najlepsza. Czyli algorytm nami steruje, a my się mu poddajemy, bo to wygodne. Nie znaczy to wcale, że ten algorytm chce nami sterować. W przypadku algorytmów o wiele rzędów bardziej złożonych może wyglądać to identycznie. Jeżeli dojdzie do konfliktu, również prawdopodobnie nie będzie on wynikał ze „złej woli”, tylko z tego, że w ogóle nie zostaniemy zauważeni.

W swojej powieści  – oprócz znaczących elementów konstrukcji cyberpunkowego świata – skupiasz się na człowieku. Na jednostkowości, jej emocjonalnych uwarunkowaniach, które nie zostają wyparte, nawet w tak stechnicyzowanym świecie, jak ten przedstawiony. Człowiek jest dla Ciebie najważniejszy? Próbujesz go osadzić w realiach przyszłości, określić dla niego rolę i przestrzeń?

Można to nazywać człowieczeństwem, można atawizmem. Jeżeli stworzymy świat, w którym ludzkie uczucia staną się jedynie obciążeniem, to będzie ostateczna klęska ludzkości.

Jesteśmy – jako przestrzeń twórczości literackiej – doświadczeni w zakresie fantastyki socjologicznej, kóra przez wiele lat była dominującym podgatunkiem science fiction na naszym rynku. To stąd niejako kontynuacja tradycji tego nurtu w twojej twórczości? I rozważania nad miejscem jednostki ludzkiej w określonych realiach futurystycznego świata?

Popularność fantastyki socjologicznej w socjalistycznej Polsce wynikała w sporej części z konieczności omijania cenzury. Nie można było przecież pisać wprost o wadach systemu społeczno-politycznego. Oczywiście ten podgatunek istniał już wcześniej, pisali w nim Wellss, Huxley, czy Orwell, choć oni z innych powodów. We współczesnym świecie zachodnim cenzura ma się coraz lepiej, co zapewne w pewnym stopniu przyczynia się do renesansu fantastyki socjologicznej, ale głównym powodem jest jednak chęć analizy i opisania coraz bardziej dynamicznych zmian zachodzących w społeczeństwach. W tej roli fantastyka socjologiczna i cyberpunk to naturalni sojusznicy.

W CP2077. Bez przypadku” podejmujesz bardzo ciekawy wątek możliwości transferu ludzkiej świadomości do virtualu. Stawiasz pytania, na ile cyfrowa osobowość będzie odpowiadać tej prawdziwej, a na ile będzie stanowić jej – w jakimś stopniu kaleką – kopię. Opierasz swoje rozważania na kwantowej teorii świadomości Rogera Penrose’a i Stuarta Hameroffa, która – przyznaję – jest dość skomplikowana dla laika. Da się ją przełożyć na język nie-fizyka? I czy samo założenie przetransferowania świadomości na model cyfrowy będzie w ogóle możliwe? Nie tylko w teorii, ale i praktyce?

Penrose’a skrytykowało już tylu specjalistów, że ja nie muszę 🙂 Obawiam się, że nie przekonamy się, na ile taki proces jest możliwy, dopóki nie spróbujemy. Jeszcze trudniej będzie stwierdzić, czy to, co otrzymamy, w efekcie będzie rzeczywiście świadomym człowiekiem, czy jedynie jego funkcjonalną kopią, cyfrową fikcją. Jeżeli zaczniemy szukać analogicznych przykładów historycznych, to początki fotografii bądź kinematografii mogą dać nam pojęcie, jak daleka od ideału jest każda technologia w swoich początkach.

Twoi powieściowi bohaterowie to zbieranina jednostek z marginesu. Przegrani na starcie, jednak starają się o siebie samych i o siebie nawzajem zawalczyć. To ma być powieściowy morał? To, że warto się nie poddawać, próbować?

Morał? Jak mogę, unikam moralizowania. Raczej pokazuję możliwe drogi, zadaję czytelnikom pytania.

To pierwsza powieść spod znaku Cyberpunk2077. Planujesz wrócić do tego uniwersum? „CP2077. Bez przypadku” to początek?

To pytanie do CD Projekt Red. To ich uniwersum, ja się do niego wybrałem na wyprawę. Długą i ciekawą, ale tylko wyprawę.

Będąc przy temacie innych pisarzy. Kogo czyta Rafał Kosik? Z autorów polskich i zagranicznych? Ulubieni twórcy?

Większość moich ulubionych pisarzy już nie żyje. Staram się czytać różne książki z różnych dziedzin, nie tylko z fantastyki. Zresztą od dawna już czytam coraz więcej literatury popularnonaukowej. To konieczne, jeśli chce się pisać SF.

Premiera Twojej książki miała miejsce prawie równocześnie w Londynie, Warszawie i Nowym Jorku. To niewątpliwie wielkie wydarzenie, a zarazem sukces polskiej fantastyki. Myślisz że polska literatura fantastyczna jest gotowa do ekspansji na rynki zagraniczne?

Z pewnością mamy wiele wartościowych tytułów. Główną trudnością jest tutaj bariera językowa. Trudno przekonać zachodniego wydawcę, że warto ryzykować i tłumaczyć książkę z polskiego. W wydawnictwie Powergraph pracujemy nad tym, żeby zmienić ten trend. Jeździmy na zagraniczne targi, nękamy agentów, spotykamy się z wydawcami. To powolna, mozolna praca. Oczywiście mam nadzieję, że Cyberpunk2077: Bez przypadku nieco nam pomoże.

W swojej twórczości mieszasz gatunki, konwencje. A jest jakaś, której nie podejmiesz? Której estetyka zupełnie cię nie pociąga?

Na pewno źle bym się czuł w powieści obyczajowej albo w klasycznym romansie, a nawet w klasycznym kryminale. Ale nawet nie chciałbym pisać klasycznego cyberpunka, jeśli byłby to tylko sztafaż zamiast fantastyki głęboko wchodzącej w sens opowieści.

Na zakończenie pytanie o dalsze plany. Pracujesz nad kolejną powieścią? Możesz zdradzić coś na ten temat?     

Na razie w ramach, nazwijmy to, odpoczynku piszę kilka opowiadań. Mam dużo zajęć związanych z promocją Bez przypadku i zwyczajnie nie chcę się w tym momencie brać do potężnej powieści – to jednak absorbuje niemal całkowicie. Kończę jeden projekt scenariuszowy, co zabawne, obyczajowy bez śladu fantastyki; chodzi za mną kolejna część „Felixa, Neta i Niki” oraz „Amelii i Kuby”. Oczywiście mam kilka pomysłów na kolejną dorosłą powieść, obracam je w głowie, ale w tym momencie jeszcze nie wiem, który zwycięży.

Foto: Ola Okoniewska