Narcyz w sieci. Krytyczne studia nad oprogramowaniem

Współcześnie algorytmy stanowią integralny element codzienności człowieka. Z pewną dozą ostrożności można powiedzieć, że są tym, co w największym stopniu odpowiada za kształt współczesnej globalnej gospodarki, zorientowanej na międzynarodowy przepływ danych i manipulacje symbolami. Dzisiejsza humanistyka dostarcza wiele dowodów na istotny charakter zmian, spowodowanych rozwojem technologii informatycznych. Jedną z teorii, która je opisuje, jest społeczeństwo sieci. Wedle słów Manuela Castellsa: „komputery, systemy komunikacyjne i genetyczne dekodowanie oraz programowanie stają się (…) wzmocnieniami i ekstensjami ludzkiego umysłu”[1]. Castells przedstawia sieć jako podstawowy model organizacji społecznej, który wyznacza nową logikę funkcjonowania człowieka. Wpływ sieci, jako zjawiska wzmacniającego rolę komputerów i komunikacji elektronicznej w naszym życiu, jest trudny do przecenienia i rozciąga się na wiele sfer ludzkiego życia. Chociażby na prawo, co podkreślił Lawrence Lessig twierdząc, że „rządzi raczej kod, nie prawo”[2]. Zatem można stwierdzić, że w pewnych okolicznościach oprogramowanie modeluje współczesną rzeczywistość.

Warto się jednak zastanowić, czy nie potrzeba krytycznego namysłu nad oprogramowaniem. Z pewną dozą ostrożności stawiam tezę, że oprogramowanie zabiło naszą podmiotowość w Internecie i stajemy się powoli „sieciowymi Narcyzami”. Agonia zaczęła się z końcem 2009 roku kiedy firma Google zrezygnowała z prezentacji stron na podstawie standardowego dla wszystkich użytkowników algorytmu PageRank i zastosowała wyszukiwanie spersonalizowane. Co to znaczy, łatwo wyjaśnić na przykładzie. Dawniej wpisując do wyszukiwarki frazę „kryzys finansowy”, otrzymywałem dzięki algorytmowi PageRank wyniki będące wypadkową wszystkich zapytań z całego Internetu i były one takie same dla każdego użytkownika. Natomiast obecnie, po spersonalizowaniu nastąpiła zasadnicza zmiana. Na podstawie analizy ogromu posiadanych o nas danych Google oferuje wyniki sprofilowane dla danej osoby. Przykładowo: jeśli jestem antykapitalistycznym publicystą, wyszukiwarka wyświetli mi głównie komentarze krytyczne wobec kapitalizmu. Jeśli jestem aktywnym inwestorem, Google uraczyłby mnie optymalnymi wskazówkami, jak lokować kapitał w warunkach kryzysu. Wygląda to bardzo praktycznie, ale ma dalekosiężne skutki. Algorytmy na usługach spersonalizowanego Internetu w coraz większym stopniu uniemożliwiają nam podejmowanie decyzji. Zainstalowane w programach komputerowych modele matematyczne już dawno stały się naszymi pomocnikami i towarzyszami życia.

Wszystko, co robimy w Internecie, co tam umieszczamy, co kupujemy, z kim rozmawiamy i jakie komentarze polityczne preferujemy – każde kliknięcie myszką jest informacją, która zostaje przetworzona przez algorytmy, czyli procedury matematyczne prowadzące do rozwiązania określonego problemu. W tym przypadku chodzi o preferencje i zachowania ludzi, a algorytmy rozwiązują problem, czyniąc je obliczalnymi i przewidywalnymi. Na podstawie naszej aktywności w sieci proponują to, co lubimy, czytamy, kupujemy, a także sugerują, co powinniśmy zrobić. Zmieniają człowieka w cyfrowego narcyza, który widzi tylko odbicie własnych życzeń i preferencji, a w pewnym momencie traci rozeznanie, co naprawdę dzieje się na świecie. Wystarczy już 20 danych, by przewidzieć wiele z naszych preferencji, życzeń i zachowań. Google i Facebook gromadzą o każdym użytkowniku multum informacji, które wprawdzie są często anonimowe, ale tworzą profil konkretnej osoby. Amazon podsuwa zatem książki, które powinniśmy przeczytać, a jego podpowiedzi są zaskakująco trafne. Genius proponuje muzykę odpowiadającą naszym gustom. Foursquare wymienia knajpy, gdzie spotkamy naszych przyjaciół – i rzeczywiście ich tam spotykamy. News.me podpowiada, co powinniśmy obejrzeć i przeczytać, a Parship pokazuje ludzi, których w przyszłości moglibyśmy pokochać. Wszystko jest bardzo wygodne i znakomicie ułatwia życie. Ale jest to życie inne niż to, które znaliśmy dotychczas. Przetwarzając ogromne ilości danych, komputer transponuje w przyszłość to, co do tej pory robiliśmy, kupowaliśmy i lubiliśmy.

Zawsze łatwiej wybrać coś znanego, niż decydować się na nieznane. Im częściej wybieramy bliskie nam rzeczy, tym częściej sieć internetowa podsuwa to, co już znamy. W ten sposób nasze preferencje i obliczenia algorytmiczne wzajemnie się warunkują. Algorytmy wepchną w końcu użytkowników w swoistą pętlę czasu i będą odtwarzać utrwalone na zawsze wzorce. Postrzeganie świata zmienia się, gdy człowiek intensywnie zajmuje się sprawami, które mu odpowiadają. Spowodowane przez sieć zawężenie ludzkiego pola widzenia zaczyna niekorzystnie wpływać na percepcję rzeczywistości i proces ten pogłębia się z upływem czasu. Internet ustawia soczewkę między człowiekiem a otaczającym światem, który maleje wraz z zawężaniem się pola widzenia. W pewnym momencie soczewka stanie się lustrem i wtedy naprawdę uwierzymy, że jesteśmy owym krzywym zwierciadłem, które spersonalizowany Internet wyszlifował w ciągu wielu lat. Coraz częściej będzie nam brakować przypadkowych informacji i doświadczeń, które wprowadzają zmiany w życiu, kierują spojrzenie na coś nowego, umożliwiają zdobycie nowej wiedzy i modyfikują myślenie o ważnych życiowych kwestiach. Przykładowo chodzi o informacje, które oferują media redagowane przez ludzi. Aczkolwiek również media bywają robione przez algorytmy, o czym świadczy amerykańska firma Demand Media, która za pomocą algorytmów i narzędzi filtrowania wyłapuje z Google najczęściej wpisywane zapytania i udziela na nie odpowiedzi. Wiele mediów włącza też do swojej oferty rekomendacje wygenerowane przez algorytmy, wedle hasła: „Tutaj przeczytasz to, co czytają ci, którzy mają identyczne poglądy jak ty”. Przez takie działania człowiek zostaje pozbawiony „efektu niespodzianki”, czyli możliwości natrafienia dzięki szczęśliwemu przypadkowi na cenne informacje, doświadczenia i opinie ciekawych ludzi. Dotychczas Internet to zapewniał i wzbogacał życie użytkowników.

Ważnym pojęciem charakteryzującym tożsamość współczesnego człowieka jest technizacja. Termin ten opisuje „gusta, upodobania i zdolności technologiczne charakteryzujące daną jednostkę, będące nieodłączną częścią jej tożsamości”[3]. Rozważania dotyczące kwestii technizacji są bardzo pomocne przy opisie, w jaki sposób oprogramowanie wpływa na relacje społeczne. Niektóre rodzaje tożsamości wydają się mieć większy udział w przestrzeni kulturowej niż inne. Procesy indywidualizacji i kreowania tożsamości są współcześnie niekończącymi się zjawiskami. W dzisiejszej rzeczywistości kulturowej człowiek żyje w wielu kontekstach i pełni bardzo wiele ról społecznych, które wymagają od niego licznych kompetencji. Trudno wskazać jeden aspekt życia jednostki, który ostatecznie by ją definiował. Obecnie nie może zaistnieć tożsamość rozumiana jako całość obejmująca i integrująca wszystkie sfery życia człowieka. Kazimierz Krzysztofek określił współczesną formę relacji społecznych mianem hiperspołeczeństwa. Jest to społeczeństwo, które poza przestrzenią realną zamieszkuje przestrzeń cybernetyczną. Egzystencja w tej przestrzeni jest dychotomiczna, są to „przenikające się światy, wzajemnie odnoszące się do siebie – przestrzenie tożsamości, zawartości, emocji, informacji, wiedzy”[4]. W obecnym społeczeństwie tożsamość to coś więcej niż „ja” realne i wirtualne. To ciągły proces negocjowania relacji. Przebieg nagłych zmian w technologii, którym podlega człowiek sprawia, że nie można mówić o jednolitej tożsamości. Hipertożsamość opiera się na ciągłych wyborach, a więc jest tożsamością zmienną, niedomkniętą i otwartą na przekształcenia, „stąd przy jej opisywaniu często używa się metafory płynnego życia”[5]. Współczesna tożsamość rozwija się w wielu miejscach naraz, czasami odgrywa różne role w zależności od kontekstu, w którym znajduje się jednostka.

W spersonalizowanym Internecie, działającym pod dyktando modeli matematycznych, nie ma miejsca na przypadek. Dlaczego miano by nam oferować do kupienia i konsumpcji coś, co dotychczas nie mieściło się w naszym profilu? Jest to sprzeczne z logiką spersonalizowanego Internetu, zgodnie z którą niespodzianka jest nieproduktywna. W tym układzie powiązań nie jesteśmy już klientami, użytkownikami sieci czy obywatelami posługującymi się Internetem – jesteśmy tylko produktami nastawionymi na coraz lepsze „dopasowania”, zmiennymi rejestrami danych, które kursują między firmami internetowymi i resztą gospodarki. Im szybciej algorytmy zaproponują nam kupno odpowiedniej książki i ściągnięcie właściwej muzyki, tym bardziej prawdopodobne, że firma internetowa zrobi dobry interes. Przypadek tylko w tym przeszkadza. Do najcenniejszych walorów demokracji należą możliwość zbierania wszechstronnej informacji i prawo współdecydowania. Są to zarazem nasze obowiązki jako obywateli.

Z tego punktu widzenia Internet był do tej pory bardzo obiecujący. Uchodził za platformę egalitarnego, otwartego dyskursu społecznego o sprawach, które nas obchodzą i powinny obchodzić. Dyskursu, który w mniejszym stopniu liczył się z instytucjami i hierarchiami. Wraz ze spersonalizowanym Internetem nie tylko rozpada się nasz po części wspólny obraz świata, ale też znika wspomniana demokratyczna utopia. W pełni przewidywalny człowiek nie może być obywatelem. Jest produktem swoistej dyktatury, która poprzez algorytmiczne systemy rekomendacji została zainstalowana w naszych komputerach bez naszej zgody i w dodatku niepostrzeżenie. To właśnie jest w tym dyskretnie postępującym procesie niesamowite. Nie można go dostrzec, nie czuje się go, a nawet nic o nim nie wiadomo. Wszak poczucie straty możemy mieć tylko wtedy, gdy wiemy, że istnieje coś, czego nam brakuje. Jeszcze niewiele lat temu baliśmy się maszyn, które spowodowałyby, że człowiek stałby się zbędny. Baliśmy się nieobliczalnych „replikantów”. Ale groźna nie jest nieobliczalność. Niebezpieczeństwo tkwi w przewidywalności. I to naszej własnej. Groźba ta nie pojawia się jako groźne mechaniczne urządzenie. Zjawia się pod postacią oprogramowania, po cichu wkrada się w nasze życie i je sobie podporządkowuje. Dopóki istnieje przypadek, możemy poznać informacje, ludzi i sprawy, o których nie wiedzieliśmy, że je polubimy albo będziemy ich potrzebować.

Odkąd algorytmy zaczną wypierać przypadek z naszego życia, będziemy zdani na samych siebie. Każdy użytkownik jest swym „własnym echem”. Można powiedzieć, że cyfrowa personalizacja jest kontynuacją procesu indywidualizacji, ale za pomocą innych środków. Można też uznać, że to apogeum zindywidualizowanego społeczeństwa bez poczucia wspólnoty, uczenia się i innowacji. Społeczeństwa, którego idolem jest cyfrowy narcyz o zawężonym polu widzenia. Byłoby dobrze, gdybyśmy mogli przynajmniej dokonać wyboru między Internetem ogólnym i spersonalizowanym. Być może natychmiast zalałaby nas fala informacji, bo już dawno oduczyliśmy się decydować, co jest ważne. Może życie stałoby się znowu bardziej kłopotliwe, ale zyskiem byłaby możliwość przypadkowego odkrycia wartościowych dla nas treści. Może bylibyśmy rozczarowani, zranieni i zrozpaczeni, bo zaburzono nam dotychczasowe, niczym niezakłócone delektowanie się tym, co zawsze lubiliśmy. Ale dzięki temu bylibyśmy w stanie przynajmniej od czasu do czasu podnieść głowę i ponownie objąć wzrokiem pozostałą rzeczywistość. Dojrzeć to, co się dzieje, gdy nie tkwimy pośrodku krzywego zwierciadła. I może dojdziemy do wniosku, że nie tylko świat jest czymś więcej niż sumą algorytmicznych podpowiedzi z Internetu.

Z drugiej strony, negatywne scenariusze dotyczące oprogramowania mogą wydawać się wyolbrzymione. Współczesny człowiek powinien dążyć do tego, żeby wiedzieć, jak naprawdę funkcjonuje oprogramowanie i ile władzy należy powierzyć specjalistom. Potrzeba dzisiaj społeczeństwa informatycznego, nastawionego refleksyjnie do technologii. Jest to niebywały problem, ponieważ nowoczesne technologie jawią się człowiekowi jako w całości dobre lub w całości złe. Niektórzy widzą w oprogramowaniu krzyżowca w otoczeniu prostodusznych akolitów, podczas gdy złowrogie postacie czyhają, żeby na zwycięstwie ignorancji zbudować nowy faszyzm. Inni właśnie w oprogramowaniu postrzegają wroga: technologiczna biurokracja – antyteza kultury – kontrolowana przez kapitalistów zainteresowanych wyłącznie zyskiem. Oba przedstawione sposoby pojmowania oprogramowania są błędne. Oprogramowanie nie jest ani szlachetnym rycerzem, ani bezlitosnym Molochem. Tak naprawdę oprogramowanie jest Golemem.

Golem to sztuczny człowiek z gliny i wody, stworzony przez człowieka przy pomocy zaklęć. Jest potężny. Codziennie staje się trochę potężniejszy. Będzie spełniał rozkazy, pracował dla ciebie i chronił przed każdym wrogiem. Jednak jest również niezdarny i niebezpieczny. Jeśli wymknie się spod kontroli, może przy użyciu nieposkromionej siły zniszczyć swego pana. Rozmaite legendy żydowskie nadają postaci Golema rożne znaczenia. Czasami uosabia przerażające zło, ale istnieje też inna tradycja. Wedle niej Golem to metaforyczne określenie potężnej istoty nieświadomej własnej siły, niezdarności i niewiedzy. Zastosowanie tej metafory do określenia oprogramowania wydaje mi się słuszne. Golem zwany oprogramowaniem nie jest istotą złą. Nie należy oskarżać go za błędy, bo to błędy człowieka. Nie powinniśmy również zbyt wiele od niego oczekiwać, bo jest wytworem naszej wiedzy. Oprogramowanie to nie problem do rozwiązania. To rodzaj układu wzajemnie powiązanych elementów. Jest tutaj miejsce na człowieka, nowoczesne technologie i relacje pomiędzy nimi. Z kolei metafora Golema może wzbudzić refleksję nad zadaniami, jakie stawiamy przed oprogramowaniem. Czy rzeczywiście są one odpowiednie, a może powinniśmy je przeformułować, tak jak nasze myślenie o oprogramowaniu?

Przypisy:

[1] M. Castells, Społeczeństwo sieci, przeł. K. Pawluś, Warszawa 2007, s. 46.
[2] http://otworzksiazke.pl/images/ksiazki/wolna_kultura/wolna_kultura.pdf (online: 10. 01. 2015 r.).
[3] J. Dovey, H. W. Kennedy, Kultura gier komputerowych, przeł. T. Macios, A. Oksiuta, Kraków 2011, s. 189.
[4] K. Krzysztofek, Świat w wersji hiper – od hipermedium do hiperspołeczeństwa, w: P. Zawojski (red.), Digitalne dotknięcie,  Szczecin 2010, s. 175.
[5]Z. Bauman, Płynne życie, Kraków 2007, s. 30.

Bibliografia:

[1] Bauman Z., Płynne życie, Kraków 2007.
[2] Castells M., Społeczeństwo sieci, przeł. K. Pawluś, Warszawa 2007.
[3] Dovey J., Kennedy W. H., Kultura gier komputerowych, przeł. T. Macios, A. Oksiuta, Kraków 2011.
[4] Krzysztofek K., Świat w wersji hiper – od hipermedium do hiperspołeczeństwa, w: P. Zawojski (red.), Digitalne dotknięcie, Szczecin 2010.
[5] http://otworzksiazke.pl/images/ksiazki/wolna_kultura/wolna_kultura.pdf (online: 10.01.2015 r.).