Algorytmy zamknęły nas w złotej klatce. Czas na technorealizm

Dane z raportu Global Peace Index pokazują, że w latach 2011-2019 liczba demonstracji, protestów i zamieszek wzrosła o 244%

Jakub Kamiński: Skąd w dzisiejszym społeczeństwie tyle niepokoju?

Natalia Hatalska: Przyczyn jest bardzo wiele – w tym między innymi to, że żyjemy dziś w świecie polikryzysów. Zmagamy się z kryzysem klimatycznym, energetycznym, żywnościowym, ekonomicznym. To naturalnie wzmaga niepokój. Jedną z przyczyn jest również fakt, że duża część naszego życia dzieje się w świecie cyfrowym, który oparty jest na algorytmach, a te wzmagają polaryzację. Algorytmy wrzucają nas bowiem w bańki informacyjne, dające nam złudne poczucie bezpieczeństwa. Gdy nagle przedostaje się do niej informacja, której nie znamy lub jest inna od tego, do czego przywykliśmy do tej pory, naszą pierwszą naturalną reakcją jest strach. A ten z kolei często wyzwala agresję. Żałuję, że jest wciąż tak mało krajowych systemów edukacyjnych, które uczyłyby społeczeństwo, i dzieci, i dorosłych rozpoznawania tych zależności, aby nie poddawać się ich wpływowi.

Dane z raportu Global Peace Index pokazują, że w latach 2011-2019 liczba demonstracji, protestów i zamieszek wzrosła o 244%. W samym 2020 r. liczba tego typu zdarzeń wyniosła 15 tys., co moim zdaniem i tak jest sporym niedoszacowaniem.

Jest to zatem zjawisko globalne.

Dziś ludzie na całym świecie znajdują się w stanie ciągłego poczucia zagrożenia. Jednym z czynników, który obrazuje nasz stan emocjonalny, jest używany przez nas język. W ubiegłym roku opublikowane zostały wyniki badań, których autorzy przeanalizowali 14 milionów tekstów literackich w trzech językach: angielskim, niemieckim i hiszpańskim – pochodzących z ostatnich 120 lat pod kątem używania w nich wyrazów związanych z niepokojem, smutkiem i strachem. I w ostatnich dwóch dekadach liczba tych słów wzrosła do poziomu wcześniej nienotowanego. Obecnie jest to poziom kilkukrotnie wyższy od tego, który miał miejsce po pierwszej czy drugiej wojnie światowej. Mamy do czynienia z generalnym obniżeniem nastroju, a ponadto epidemią depresji. Aby temu zaradzić, musimy inwestować w ochronę zdrowia psychicznego.

Zamiast tego, nasze polityki wciąż skupiają się przede wszystkim na budowie bogactwa, czy rozwoju technologicznym. Nawet wskaźniki, którymi staramy się badać dobrostan naszego życia, mają podłoże głównie ekonomiczne. Aby zapewnić ludziom możliwość dobrego życia, troska o ich potrzeby musi być wieloaspektowa.

Musimy inwestować w ochronę zdrowia psychicznego. Zamiast tego, nasze polityki wciąż skupiają się przede wszystkim na budowie bogactwa, czy rozwoju technologicznym. Nawet wskaźniki, którymi staramy się badać dobrostan naszego życia, mają podłoże głównie ekonomiczne

A więc technologia odgrywa kluczową rolę w tej układance. Określiłaby się pani mianem technosceptyczki?

Powiedziałabym, że jestem technorealistką. Przeszłam drogę od początkowego hurraoptymizmu do traktowania technologii jako narzędzia, którego skutki użytkowania zależą od człowieka. Dziś wiem, że to także nie do końca prawda. Technologia stała się bowiem w pewnym sensie niezależna, oddziałując przy tym na nas bezpośrednio, czego przykładem są wspomniane algorytmy. Czyni to każdą technologię przedmiotem podwójnego zastosowania. Może zapewniać korzyści człowiekowi, ale także stwarzać zagrożenie, nawet jeśli niewidoczne na pierwszy rzut oka lub w krótkim okresie.

Czy nasza pojmowana na sposób zachodni wolność również jest przez nią zagrożona?

Amerykański psycholog Burrhus Frederic Skinner prowadził w XX wieku eksperymenty z warunkowania behawioralnego u zwierząt. Za pomocą specjalnej klatki dostarczał on zamkniętemu w niej szczurowi różne bodźce, które miały go przekonać, że bez wypełnienia konkretnych zadań nie otrzyma pokarmu. Szczur utrzymywany był w iluzji, że to on decyduje o otrzymaniu jedzenia za określone czynności, mimo, że pojawiało się ono niezależnie od niego. Koncepcję tę rozwinął w latach 60. XX wieku Norbert Wiener, twórca cybernetyki. Twierdził on, że w przyszłości, przy odpowiednio zaawansowanych komputerach, wyposażonych w odpowiednie czujniki i systemy obliczeniowe, w takiej klatce mógłby zostać umieszczony człowiek niemający świadomości, że się w niej znajduje. Wiener uważał jednak, że zagrożenie jest czysto teoretyczne – klatka dla człowieka musiałaby być gigantyczna i opleciona ogromną siecią komunikacji.

Dziś, w 2022 roku to zagrożenie nie jest już tylko teoretyczne, w pewnym sensie znajdujemy się w klatce Skinnera. Taki wniosek płynie z obserwacji, jak działa Internet i algorytmy mediów społecznościowych. Budują w nas one uzależnienia behawioralne, pobudzając nas ciągłymi wyrzutami hormonów. Istnieją algorytmy traumy, które śledzą nasze zachowania, tylko po to, by dostarczyć nam treści wpływające na nasze emocje. Duża część z nas, nieświadoma tych mechanizmów, jest przez nie zniewolona – algorytmy mają wpływ na nasze zachowania, decyzje, nastrój i sposób myślenia. Katarzyna Szymielewicz z Fundacji Panoptykon stwierdziła kiedyś, że staliśmy się wobec algorytmów pasywną biomasą.

To, co do nas dociera i z czego możemy wybierać, to ułamek procenta dostępnych ogólnie treści

Zatem to nie jest nawet perspektywa zagrożenia, ale coś, co się dokonało?

Niektórzy powiedzą, że przecież mamy wolność wyboru treści, które konsumujemy. Ale to tylko iluzja, bo platformy, z których korzystamy podsuwają nam content, które same wyselekcjonowały. To, co do nas dociera i z czego możemy wybierać, to ułamek procenta dostępnych ogólnie treści.

Jak tą wolność w takim razie odzyskać?

Wierzę w siłę edukacji i idącej za nią świadomości. Bez tego nie ma wolności. Algorytmy robią za nas ogrom rzeczy; podsuwają pomysły na obiad, jakiej muzyki słuchać, jakie oglądać filmy. Nie znając schematu ich działania, nie mamy kontroli nad swoimi wyborami. Wszystko zmienia się, gdy rezygnujemy z tej pomocy. W ramach przykładu powiem, że kupuję dużo książek na Amazonie. Serwis ten ma funkcję podpowiedzi, jakie inne tytuły mogą mnie zainteresować. Celowo z niej nie korzystam, aby samej świadomie sprawdzić, co wybrać. To poszerza przestrzeń, na którą mam pełen wpływ.

Co jeśli nawet chwalebny wysiłek jednostki nie wystarczy? Myślę, że powinniśmy szukać także rozwiązań systemowych.

To się nie wyklucza. Zmiany systemowe powinny towarzyszyć działaniom jednostkowym. Trzeba jednak pamiętać o niedoskonałości tych pierwszych. Systemy działają z definicji z opóźnieniem. Posłużmy się metaforą motoryzacyjną. Jadąc samochodem, gdy na ulicę wkracza pieszy, wciskając hamulec nie zatrzymamy się natychmiastowo. Jadąc zbyt szybko, możemy nie zdołać zatrzymać się na czas, potrącając człowieka. W tych warunkach, zamiast bezrefleksyjnie pędzić, musimy funkcjonować uważniej.

Póki co mamy tylko jeden przykład rozwiązań prawnych, które wyprzedziły rozwój technologii –mówię tu o rozwiązaniach prawnych dotyczących inżynierii genetycznej. Wprowadzone były jeszcze zanim ta technologia osiągnęła dojrzałość. W Polsce rozwój internetu obserwujemy mniej więcej od początku lat 2000. Czy w tamtych latach byliśmy w stanie przewidzieć wszystkie problemy, z którymi zmagamy się dziś? Rozwój technologiczny postępuje tak dynamicznie, że niemożliwe jest zapobiegnięcie większości jego skutków. Z tego powodu, w interesie każdego z nas powinno być działanie jeszcze zanim nastąpi reakcja instytucjonalna. W przeciwnym wypadku, gdy już się ona dokona, może być za późno.

Póki co mamy tylko jeden przykład rozwiązań prawnych, które wyprzedziły rozwój technologii – mówię tu o rozwiązaniach prawnych dotyczących inżynierii genetycznej. Wprowadzone były jeszcze zanim ta technologia osiągnęła dojrzałość

Dziś stoimy w obliczu zagrożeń płynących z rozwoju technologii zebranych w akronimie GRINN (Geno-, Robo-, Info-, Nano-, Neuro-). Wiele z nich to bardzo zaawansowane rozwiązania, zdolne do samoreplikacji, które będą mogły przypominać pod pewnymi względami organizmy żywe. W ich kontekście możemy wprowadzać regulacje, ale siłą rzeczy będą one niewystarczające. Dajmy na przykład technologię rozpoznawania twarzy, obecną w naszych telefonach czy w kamerach CCTV. Jest ona de facto powszechna, a jednocześnie zupełnie nieuregulowana. Dziś pojawiają się projekty jej całkowitego prawnego zakazania z uwagi na zagrożenie dla naszej prywatności i możliwą inwigilację. Ale z drugiej strony – czy jako społeczeństwo jesteśmy gotowi poświęcić naszą wygodę? Przestać korzystać z tej technologii w naszych telefonach albo na lotniskach? Czy wciąż rozumiemy, czym ta prywatność jest; szczególnie młode pokolenia, które relacjonują w social mediach całe swoje życie?

Mimo opisanych stratzawsze warto próbować, nawet reaktywnie. Czy widać jakieś rozwiązania na horyzoncie?

Istnieje wiele koncepcji, w tym chociażby promowany przez Cala Newporta minimalizm cyfrowy. Warto też przyglądać się innym kulturom i społecznościom, często bardzo odległym. W swojej książce pisałam o amiszach – mają bardzo ciekawe podejście do wdrażania nowych technologii. Postrzegamy ich w bardzo stereotypowy sposób jako takich, którzy zatrzymali się w rozwoju cywilizacyjnym. Tymczasem korzystają oni z technologii bardzo intensywnie, ale w trochę inny sposób. Otóż wybierają te, które są zgodne z ich wartościami. Ponieważ jedną z najważniejszych wartości amiszów są bliskie relacje międzyludzkie, nie korzystają oni z telefonów komórkowych w domu, bo mogą one przeszkadzać w ich budowaniu. Ale korzystają już z telefonów w miejscu pracy. Z tego powodu amisze wciąż korzystają z charakterystycznych furmanek, a nie samochodów. Ale to nie tak, że nigdy samochodów nie testowali. Testowali. Okazało się jednak, że gdy w trakcie weekendów ludzie wyjeżdżali z wioski, traciły na tym relacje międzyludzkie. Dlatego z nich zrezygnowano.

Dajmy na przykład technologię rozpoznawania twarzy, obecną w naszych telefonach czy w kamerach CCTV. Jest ona de facto powszechna, a jednocześnie zupełnie nieuregulowana. Dziś pojawiają się projekty jej całkowitego prawnego zakazania z uwagi na zagrożenie dla naszej prywatności i możliwą inwigilację

Sugeruje pani, że mamy zacząć żyć jak amisze?

Oczywiście, że nie, warto jednak zainspirować się filozofią działania, która w dużo większym stopniu uwzględnia cenione przez nas wartości. W ubiegłym roku przeprowadziliśmy badania, z których wynika, że ponad 70% Polaków niezależnie od poglądów politycznych, zgadza się, że istnieją wartości wspólne dla wszystkich ludzi. Tymczasem przyzwyczailiśmy się myśleć, że wartości to coś, co w większym stopniu dzieli niż łączy.

W naszych badaniach, ludzie zarówno z lewej, jak i z prawej strony przyznawali, że liczą się dla nich takie rzeczy, jak bezpieczeństwo, rodzina, zdrowie, szacunek czy tolerancja. Przed wprowadzeniem nowej technologii na rynek, warto zastanowić się, na ile ta technologia może tym wartościom zagrażać. A jeśli zagraża – to jak możemy ją zmienić, zmodyfikować. Jest to osiągalne zarówno na poziomie systemowym, jak i indywidualnym. Wskazana jest też demokratyzacja dyskursu technologicznego. Organizacja debaty na ten temat. Dziś dyskusja toczy się w zasadzie bez udziału społeczeństwa – na poziomie rządów, naukowców, spółek technologicznych. A przecież temat ten dotyczy wszystkich.

Patrzy pani w przyszłość z nadzieją?

Optymizm jest nam potrzebny. Bliski jest mi termin “nadziei radykalnej”, ukuty przez Jonathana Leara. Polega ona na wierze w przyszłe dobro, nawet jeśli dziś nie wiemy, czym miałoby ono być. Nie chodzi o beztroskę, zamknięcie oczu na to, co się dzieje. Nadzieję można czerpać z aktywnego działania na rzecz tego dobra. Miejmy przy tym świadomość, że zmiany nie będą skokowe. Mamy tendencję do myślenia o postępie w kategoriach utopijnych. Opiera się ono na wierze, że pewnego dnia dotrzemy do krainy wiecznej szczęśliwości, a wszystkie problemy znikną. Faktyczny postęp tak nie działa. Bliżej mu do “protopii” (od słowa progress), czyli niewielkich kroków, które w długim okresie kumulują się, czyniąc świat lepszym miejscem.

Ponieważ jedną z najważniejszych wartości amiszów są bliskie relacje międzyludzkie, nie korzystają oni z telefonów komórkowych w domu, bo mogą one przeszkadzać w ich budowaniu. Ale korzystają już z telefonów w miejscu pracy

Patrząc z perspektywy nawet ostatnich kilku wieków, nasz świat pozwala na o wiele godniejsze życie. Jeszcze niedawno zwykły zawał serca stanowił wyrok śmierci, dziś niemal wszędzie w pobliżu znajduje się defibrylator. Jako kobieta, jeszcze sto lat temu nie mogłabym głosować ani skończyć studiów wyższych.Dziś skupiamy się zbyt mocno na postępie gospodarczym. To, czego potrzebujemy w równym stopniu, to postęp kulturowo-społeczny. A to wymaga nowych schematów myślenia.

**

Jakub Kamiński – współpracownik i publicysta Nowej Konfederacji. Współpracownik Instytutu Boyma. Student stosunków międzynarodowych na Uniwersytecie Warszawskim. Zainteresowany m.in. regionem Indo-Pacyfiku oraz przemianami w Chinach i ich polityce zagranicznej. Z trzecim sektorem związany od 2017 roku.

Natalia Hatalska – CEO i założycielka infuture.institute. Financial Times umieścił ją na liście New Europe 100. Dwukrotnie wyróżniona w rankingu „Kogo słucha polski biznes?”, jako jeden z 10 najważniejszych autorytetów polskiego biznesu, na Liście Kobiet Roku Forbes Women Polska, oraz Insight250 opublikowanej przez Esomar w 2022 r. Autorka książek m.in. “Wiek paradoksów. Czy technologia nas ocali?”.