Odzyskajmy kontrolę nad technologią

Nowe technologie wspierają autorytaryzm. Czy jeszcze możemy się przed tym uratować?

Tak jak samoloty i telewizja nie zmieniły świata na lepsze, tak pewnie nie dokonają tego też tak zwane nowe technologie. Wszystko zależy od tych, którzy mają nad tymi narzędziami władzę. A oni – w myśl zasady „jeśli nie może być lepiej, niech będzie inaczej” – niechętnie zmieniają obrane cele polityczne lub ekonomiczne, i coraz częściej zaprzęgają technologie do zbudowania lub wzmocnienia swojej pozycji. Bez wgłębiania się w konsekwencje dla państwa i dla obywateli.

Technologia powinna dawać obywatelom możliwość dokonywania własnych wyborów społecznych, ekonomicznych i politycznych bez przymusu lub ukrytej manipulacji

Wraz z rozwojem nowych technologii zmieniają się również modele systemów autorytarnych. Państwa-reżimy świadomie wykorzystują narzędzia cyfrowe do umacniania się w społeczeństwie, czego najgłośniejszym przykładem są Chiny z oficjalnym rankingiem społecznym, czy Rosja, obficie korzystająca z tzw. farm trolli. Mamy równocześnie do czynienia z fenomenem „prywatyzacji autorytaryzmu”, czyli z tworzeniem przez internetowych gigantów monopolu informacyjnego i narzędzi kontroli nad użytkownikami. Dodajmy do tego jeszcze nie mniej groźną fascynację państw demokratycznych narzędziami usprawniającymi (często pozornie) ich działanie, a zyskamy pełen obraz współczesnych zagrożeń technologicznych dla demokracji.

Technologiczna huśtawka nastrojów

Oś dyskusji o narzędziach technologicznych przesunęła się dość szybko z pozycji cyfrowego entuzjazmu do cyfrowego pesymizmu i dlatego częściej mówimy o zagrożeniu technologicznym autorytaryzmem niż wymieniamy, liczne przecież, korzyści z wpływu nowych technologii dla umacniania demokratycznych wartości. Skupienie się jednak wyłącznie na aspektach informatycznych oznacza niedocenienie kontekstu. Problemem w wykorzystywaniu narzędzi cyfrowych do umacniania autorytaryzmu pozostaje bowiem sprzyjające otoczenie społeczno-polityczne. Wspominał o nim zresztą niedawno Tony Blair, wskazując, że związek technologii z demokracją będzie udany, jeśli uwzględni się przy tym powszechne bezpieczeństwo ekonomiczne i gwarancje wpływu obywateli na władze. Nie oznacza to, że tradycyjnie demokratycznym krajom nie grozi – często nieświadome – przeobrażenie się w Wielkiego Brata ze wszystkimi tego negatywnymi konsekwencjami. I tu kluczowa, tak samo jak w świecie offline, jest rola, jaką dla obywateli przewidzieli rządzący.

Technologia powinna dawać obywatelom możliwość dokonywania własnych wyborów społecznych, ekonomicznych i politycznych bez przymusu lub ukrytej manipulacji. I często tak się dzieje. Świat internetu to jednak świat paradoksów, a nie czarno-białych podziałów. Tak jak w przypadku innych przełomowych wynalazków, i tu wszystko zależy od tego, kto i w jakim celu będzie chciał ów wynalazek wykorzystać, i jak chętnie go „zdemokratyzuje”. Coraz więcej zależy od bieżących interesów ekonomicznych firm informatycznych, a nie od presji wywieranej przez masy, zwłaszcza że dzięki szybkiemu internetowi i nieznośnie wrzącej atmosferze debaty politycznej coraz częściej oddajemy się porywającej rozrywce. Przy tym jednocześnie oddajemy pole swoim „reprezentantom” i animatorom technologicznych przyjemności.

Autorytaryzm odnowiony technologicznie

Pojęcie wspieranego technologicznie (informatycznie) autorytaryzmu doczekało się niedawno szerszego wyjaśnienia w Wikipedii. Zdaniem autorów definicji, jego celem jest wzmocnienie zdolności kontrolnej i władzy niedemokratycznego reżimu. W przeciwieństwie do tradycyjnych praktyk rządzenia w krajach autorytarnych, autorytaryzm wspomagany przez IT obniża konieczność stosowania fizycznego przymusu do wywierania wpływu. Pomaga ustanowić bardziej subtelny, automatyczny i niewidoczny rodzaj kontroli państwa. Autorzy definicji wskazują, że jest to intencjonalny przejaw wykorzystywania tychże rozwiązań do politycznych celów.

Otwartą kwestią pozostaje czy ów „informatyczny autorytaryzm” mieści się w ogóle w tradycyjnych ramach modelu systemu politycznego. Coraz częściej bowiem jego przejawy zauważyć można w działalności firm informatycznych, szczególnie tych zaliczanych do grona gigantów internetowych. W tym kontekście, autorytaryzm nie należy już tylko do zjawisk stricte państwowych, ale – dosłownie i w przenośni – przekracza tradycyjne granice politycznych wpływów. To zjawisko jest o tyle ważne, że determinuje możliwe sposoby radzenia sobie z ograniczeniem zdobyczy demokratycznych. Upraszczając: by obalić „technologicznego satrapę”, protesty w jednym kraju mogą nie wystarczyć. Potrzebna byłaby światowa rewolucja.

Ta synergia firm i władz została określona już w 2009 r. przez Luisa Suareza-Villę mianem technokapitalizmu. W książce o tym tytule pisał on, że nowe relacje władzy, które towarzyszą nowej wersji kapitalizmu, będą miały najprawdopodobniej wpływ na każdy aspekt rynku pracy i zarządzania, naszych relacji społecznych i samego życia

Widoczna jest również inna prawidłowość, która może w ograniczonym zakresie przypominać korporacjonistyczne akcenty systemów faszystowskich Włoch i nazistowskich Niemiec, ale i przecież wielu innych państw uznawanych za tradycyjnie demokratyczne. W erze przemysłu 4.0 państwo i firmy potrzebują siebie nawzajem, by wspierać budowanie swoich potęg – bo to głównie internet jest źródłem współczesnej kontroli i wpływu. W tym zakresie interesy państwa i biznesu są zbieżne. Państwo gromadzi dane dotyczące szerokiego zakresu działalności jednostek, ich zachowań finansowych, historii kredytowej, naruszeń ruchu lub transportu publicznego, działań w mediach społecznościowych, poglądów politycznych, wyrażanych na portalach internetowych, wyników egzaminów do szkół i uczelni itp. Firmy zaś traktują te dane jako paliwo swojego rozwoju. Nie bez powodu mówi się, że dane to nowa ropa, choć niektórzy nieco kąśliwie, ale nie bez racji twierdzą, że to raczej nowy azbest.

Ta synergia firm i władz została określona już w 2009 przez Luisa Suareza-Villę mianem technokapitalizmu. W książce o tym tytule pisał on, że nowe relacje władzy, które towarzyszą nowej wersji kapitalizmu, będą miały najprawdopodobniej wpływ na każdy aspekt rynku pracy i zarządzania, naszych relacji społecznych i samego życia. Kiedyś państwa autorytarne charakteryzowały się daleko posuniętą centralizacją wszelkich przejawów życia społecznego i politycznego, ale bez współcześnie rozwijających się technologii nie były w stanie ich skutecznie pozyskiwać i przetwarzać. W erze Big Data i sztucznej inteligencji jest to coraz prostsze. Wydaje się w rezultacie, że nie ma odwrotu od przynajmniej częściowej „prywatyzacji” autorytaryzmu.

Autorytarne partnerstwo publiczno-prywatne

Narzędzia technologiczne, tworzone przez sektor prywatny, często napędzają polityczne ambicje władz. Całkiem niedawno w Turcji Recep Tayyip Erdoğan wykorzystał media społecznościowe, aby wezwać do publicznego oporu przeciwko zamachowi wojskowemu, który miał obalić prezydenta i jego zaplecze polityczne. W tym samym czasie autorzy puczu ograniczyli się do zajęcia budynku telewizji państwowej, wywołując przy tym uszczypliwe komentarze odnoszące się do pewnej „staromodności” i odrealnienia rebeliantów. Erdoğan wykazał się po prostu większą wiedzą o współczesnym społeczeństwie informacyjnym. Zdawał sobie sprawę, że moc internetu może zarówno obalać reżimy, jak miało to miejsce w przypadku tzw. arabskiej wiosny, ale może je również skutecznie bronić, błyskawicznie mobilizując zwolenników. Z kolei władze w Teheranie rozwijają infrastrukturę rynku bitcoina, aby pomóc swoim bankom uodpornić się na sankcje Zachodu. I tak bitcoin, stanowiący przykład oddolnej, omijającej kontrolę rządu inicjatywy technologicznej, staje się narzędziem uniezależniającym się od międzynarodowych ograniczeń, nałożonych na Iran w związku z naruszaniem praw człowieka. Nie zaskakuje, że pomocą we wdrożeniu tej technologii służą Rosjanie.

Władimir Putin, o którym najbliżsi współpracownicy mówią, że jest „obsesyjnie zainteresowany nowymi technologiami”, z wrodzoną pewnością siebie przekonywał już dwa lata temu że „ktokolwiek będzie liderem w rozwijaniu sztucznej inteligencji będzie rządził całym światem”. I wygląda na to, że po raz kolejny miał rację.

Niezależnie od możliwego scenariusza nowej zimnej wojny, rozwój technologii może doprowadzić również do obrazów znanych z takich filmów jak „Ścigany”, tylko że w rolę doktora Richarda Kimble’a wcielą się ci obywatele, którzy będą uciekać przed totalną inwigilacją własnego państwa

Wzrost znaczenia sztucznej inteligencji powoduje, że coraz częściej współpraca między rządami a firmami technologicznymi staje się bezpośrednia, i obydwie strony muszą na sobie polegać, by realizować swoje cele. W zeszłym roku duże protesty wywołała koncepcja, by Google wybudował w Pekinie centrum badań nad sztuczną inteligencją. Na razie Chińczycy polegają w jej rozwoju na innych usługodawcach, ale to pewnie tylko kwestia czasu. Chiński rynek jest zbyt duży dla części liczących się graczy, by przejmowali się losem tybetańskich mnichów.

Ucieczka przed wspólnotą

Nicholas Wright pisze w tekście „How Artificial Intelligence Will Reshape the Global Order” („Jak sztuczna inteligencja przemodeluje porządek świata”), opublikowanym w „Foreign Policy”, że „pozwalając rządom kontrolować swoich obywateli znacznie bardziej niż kiedykolwiek wcześniej, sztuczna inteligencja zaoferuje autorytarnym krajom wiarygodną alternatywę dla liberalnej demokracji. To zainicjuje odnowioną międzynarodową rywalizację między systemami społecznymi”.

Niezależnie od możliwego scenariusza nowej zimnej wojny, rozwój technologii może doprowadzić również do obrazów znanych z takich filmów jak „Ścigany”, tylko że w rolę doktora Richarda Kimble’a wcielą się ci obywatele, którzy będą uciekać przed totalną inwigilacją własnego państwa. Jeśli taka ucieczka będzie w ogóle możliwa. Ukrycie się przed rozwiązaniami takimi jak chiński ranking społeczny oznacza bowiem, że faktycznie wykluczamy się ze wspólnoty. I nie chodzi tylko o ochronę prywatności, ale też o ograniczenie dostępu do usług i o pozbawienie obywateli aktywnego wpływu na podejmowane wybory. Jednocześnie również rządy, których mimo wielu zastrzeżeń nie można nazwać autorytarnymi, starają się często przedstawiać internet jako przerażający świat pełen politycznych zagrożeń, budując tym samym społeczne poparcie dla blokowania lub usuwania treści. Polacy zaakceptowali już cenzurę internetu w kontekście „treści terrorystycznych” czy stron oferujących hazard, a na stole są już kolejne pomysły na „uratowanie” obywateli przed internetem. To coś, co jeszcze 7 lat temu, w okresie protestów przeciw ACTA, było nie do pomyślenia.

Ma rację Yuval Harari, pisząc w „The Atlantic”, że „wielu ludzi traci swoją wartość ekonomiczną i może stracić swoją władzę polityczną. Te same technologie, które mogą sprawić, że miliardy ludzi nie mają znaczenia ekonomicznego, mogą również ułatwić ich monitorowanie i kontrolę”. Na łamach techcrunch.com, Tony Blair stawia tezę, że w celu przeciwdziałania wypchnięciu ludzi poza sferę względnej stabilności ekonomicznej i politycznej potrzebna jest „sejsmiczna” zmiana w polityce publicznej na miarę aktualnego „New Deal”. I chociaż dyskusja o technologii jako spoiwie wyzwań współczesności jest dla niego najważniejsza, to zdecydowanie opowiada się za tym, aby w tej debacie uwzględnić szerzej jeszcze jeden aspekt horyzontalny – ludzi. Z ich obawami, niedoskonałościami i indywidualnymi cechami, wyłamującymi się z inżynierii społecznej spod znaku Big Data.

Już przegrywamy z maszynami starcie na zdolności analityczne, a zaraz zaczniemy z nimi konkurować na umiejętności poznawcze, czy – ujmując to szerzej – na unikatową cechę człowieka: świadomość i wolność dokonywania wyborów

Wysiłek świadomego wyboru

I to jest chyba klucz do przeciwdziałania ryzykom „autorytaryzacji” przyszłych relacji państwo-firmy-obywatel.  Wszystko jest (jeszcze) w naszych rękach. W państwach, w których obywatele mają istotny wpływ na politykę, obserwujemy konkretne działania na rzecz zabezpieczenia zdrowych proporcji w tym trójkącie relacji. Komisja Europejska prowadzi otwarty proces opracowania strategii rozwoju sztucznej inteligencji, uwzględniając, że rodzi ona nowa wyzwania etyczne. By możliwe było zaufanie do nowych technologii, muszą się one rozwijać z poszanowaniem zasad etycznych i praw podstawowych. Harari radzi, aby uniknąć ryzyka wzrostu autorytaryzmu w kontekście technologii, za każdego dolara i każdą minutę, którą zainwestujemy w ulepszanie sztucznej inteligencji, rozsądnie byłoby zainwestować dolara i minutę w odkrywanie i rozwijanie ludzkiej świadomości. Bardziej praktycznie i krótkodystansowo: jeśli chcemy zapobiec koncentracji całego bogactwa i władzy w rękach małej elity, musimy uregulować własność danych.

Najbardziej przeraża nas w rozwoju sztucznej inteligencji nie tylko to, że odbierze nam pracę z uwagi na bardziej precyzyjne umiejętności. Już przegrywamy z maszynami starcie na zdolności analityczne, a zaraz zaczniemy z nimi konkurować na umiejętności poznawcze, czy  – ujmując to szerzej – na unikatową cechę człowieka: świadomość i wolność dokonywania wyborów. Wygramy tę konkurencję, jeśli będziemy mieli wpływ na zbieranie i używanie danych, które stały się dla nowych technologii tym, czym środki produkcji dla dyskursu politycznego w dziewiętnastowiecznym kapitalizmie. Bo tak jak w XIX wieku kształtowała się współczesna ekonomia i polityka, tak obecnie rozgrywa się spór o kształt państwa i gospodarki przyszłości. Wciąż do nas zależy wybór, czy będziemy używać samolotów do poszerzania horyzontów, czy do zabijania siebie nawzajem. Trzeba tylko pilnować producentów, pilotów i pracowników wież kontrolnych. I to nie tylko w internecie.

 

członek zarządu i dyrektor programowy Fundacji ePaństwo. Prawnik specjalizujący się w polskich i zagranicznych aspektach dostępu do informacji publicznej, ponownego wykorzystywania informacji sektora publicznego oraz nowych technologii. Autor publikacji na temat dostępu do informacji, konfliktu interesów, korupcji, kontroli społecznej oraz przejrzystości infrastruktury informatycznej państwa.

Komentarze

2 odpowiedzi na “Odzyskajmy kontrolę nad technologią”

  1. ja bym się nie przejmował pisze:

    Upadek systemu moralnego w połączeniu z tak olbrzymią władzą – no będzie strasznie, to już zresztą wyraźnie widać.

  2. andrzej andys pisze:

    “Tak jak samoloty i telewizja nie zmieniły świata na lepsze, tak pewnie nie dokonają tego też tak zwane nowe technologie.” Nieprawda!
    Prosze wyobrazić sobie świat bez samolotów i telewizji. Swiat jest coraz lepszy!!!!
    Przyzwyczajamy sie do nowinek i nie wyobrażamy sobie bez nich życia.

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *

Zobacz