„Mislim da je jedan od naših najvećih problema u savremenom dobu to što ne možemo da definišemo te nove vrste kontrole, nove vrste eksploatacije, nove radne odnose koji se uspostavljaju. I moje mape upravo o tome govore, sa više ili manje uspeha“

Razgovarao: Đorđe Petrović

Početkom septembra ove godine, u Lincu je održan Festival Ars Elektronika, najveći svetski festival novomedijske umetnosti. U izuzetnoj konkurenciji, jedno od najznačajnijih priznanja – Velika nagrada za umetničko istraživanje u kategoriji S+T+ARTS projekata – završilo je u rukama novosadskog vizuelnog umetnika dr Vladana Jolera. Nagrađeni rad Calculating Empires: A Genealogy of Power and Technology (1500–2025), koji je plod zajedničke saradnje dr Jolera i australijske istraživačice Kejt Kraford, kritički ispituje odnos između tehnologije i moći tokom poslednjih pet vekova. Calculating Empires je 24 metara dug i tri metra visok vizuelni manifest koji nam nudi nov način sagledavanja današnjih sistema kontrole, uranjajući nas u prošlost, od kolonijalizma i nastanka evropskih imperija do savremenih tehnoloških kompanija i modela veštačke inteligencije.

Pored toga što je umetnik, dr Joler je istraživač i redovni profesor na Odseku za nove likovne medije Akademije umetnosti u Novom Sadu, i gostujući predavač na mnogim svetskim univerzitetima. U njegovom umetničkom radu ukrštaju se vizuelna umetnost, nauka, tehnologija i ljudska prava, a posebno je prepoznatljiv po karakterističnom vizuelnom predstavljanju podataka koje on naziva „mapama“. Svoje radove dr Joler je izlagao na više od stotinu međunarodnih izložbi, a neke od njih, kao što je Anatomy of AI system, nalaze se u kolekcijama najpoznatijih svetskih muzeja, poput Muzeja moderne umetnosti (MoMA) u Njujorku, Muzeja Viktorije i Alberta u Londonu i Ars Elektronika centra u Lincu. Osnivač je SHARE fondacije, koja se bavi zaštitom ljudskih prava i sloboda u onlajn prostoru, a bio je i dugogodišnji kreativni direktor muzičkog festivala EXIT u Novom Sadu.

Povodom osvajanja prestižne nagrade na ovogodišnjem Festivalu Ars Elektronika, sa dr Jolerom smo razgovarali o njegovom radu Calculating Empires, o specifičnom jeziku mapa koji koristi u svojim radovima, neutralnosti tehnologije i tome šta običan pojedinac može da uradi spram današnjih moćnih sistema kontrole.

Kako ste došli na ideju da se, zajedno sa Kejt Kraford, upustite u tako ambiciozan poduhvat kao što je Calculating Empires? Koliko vam je vremena bilo potrebno za realizaciju?

Kejt i ja smo 2018. objavili jednu drugu mapu koja se zove Anatomy of AI System. Tada smo i počeli da sarađujemo. Ova mapa bavila se materijalnim aspektom veštačke inteligencije i čitavom infrastrukturom koja je neophodna za razvoj Amazonovog virtuelnog AI asistenta Aleksa. Drugim rečima, predstavljala je produženu anatomiju jednog uređaja – od neophodnih materijala, ruda, pa sve do Periodnog sistema elemenata i eksploatacije ljudskog rada. Pošto smo odlučili da nastavimo saradnju, želeli smo da odemo korak dalje. Hteli smo da nastanak i razvoj savremenih sistema veštačke inteligencije sagledamo iz jedne dublje istorijske perspektive. Odlučili smo da ćemo početi istraživanje od 1500. godine kako bismo ispitali kakve su sve tehnologije i ideje prethodile današnjim mehanizmima kontrole, kakav je, recimo, AI model za prepoznavanje lica. Onda smo počeli sa radom, što je bilo pre otprilike četiri ili pet godina. Četiri godine smo crtali ovu mapu. Onda je ona vremenom postala deo projekta Knowing Machines, koji se takođe dubinski bavio istraživanjem treninga deta-setova za veštačku inteligenciju. Na kraju smo sve to uklopili u jednu priču.

Ceo rad Calculating Empires: A Genealogy of Power and Technology (1500–2025) Vladana Jolera i Kejt Kraford možete videti na sledećem LINKU.

Mapa Calculating Empires proteže se na impresivnih 24 metra dužine i tri metra visine. Kako ste je strukturirali?

Ona je podeljena na četiri segmenta, četiri C: Communication, Classification, Computation i Control. Zašto? Zato što ako rastaviš proces stvaranja nekog visokotehnološkog proizvoda, koji je baziran na veštačkoj inteligenciji, doći ćeš do tri važna momenta. Prvi je komunikacija, a odnosi se na različite vrste medija koji služe kao nosioci podataka na kojima se obučava neki AI model. Reč je o materijalu, o svemu onome što spada u arheologiju medija: fotografije, zvučni i video zapisi, knjige itd. Drugi korak je klasifikacija. Jednom kada su prikupljeni podaci, sledi proces njihove klasifikacije. Na kraju dolazi treći korak, proces kompjutacije, u kom se uz pomoć nekog sistema za računanje klasifikovani podaci kompresuju u taj AI model. Nakon ova tri momenta sledi dodatni, četvrti, a to je kontrola, koja nam govori o tome na koji način su ti modeli ili visokotehnološki proizvodi integrisani u različite sisteme kontrole. To je bila neka početna ideja. Onda je to vremenom, tokom te četiri godine, preraslo u jednu ogromnu mapu.

To je jedan prostor u kom su informacije kondenzovane, koji odjednom postaje svet za sebe. U taj prostor možeš da uđeš i jednostavno odabereš put kojim ćeš da se krećeš i promišljaš istoriju. Ono što je nama bilo bitno je da ta mapa zahteva vreme. Ona je toliko obimna i toliko je velika da ne možeš da je savladaš za nekoliko minuta. I to je ono što ovu mapu danas, kada svi žive mnogo brzo i nikad nemaju vremena, čini vrlo subverzivnom. Subverzivna je čak i u tom smislu da smo mi u njeno stvaranje uložili toliku količinu vremena. A posebno mi je drago što ona nije proizvod veštačke inteligencije, nije vizualizacija podataka, nego je praktično od početka do kraja ručno crtana. Kad kažem ručno, mislim na kompjuteru, ali nije nešto što je nastalo automatskim procesuiranjem podataka, nego smo svaku tačku, jednu po jednu, ucrtavali, gledali i razmatrali šta još treba da se nađe na našoj mapi. Tako da mi je sam taj proces stvaranja veoma važan.

Vaše mape su jedna vrsta narativa koji nije linearan, već je nekako disperzivan, grana se u više smerova i na posmatraču je da odabere put kojim želi da se kreće. Kao u detektivskoj priči koja se nikad ne završava, jedan trag vodi do drugog, razotkrivaju se skrivene veze između savremene tehnologije i mračnih ideja iz prošlosti, ali nikad do kraja. Dosta toga ostaje otvoreno.

Jeste. Zato ja obožavam mape kao oblik izražavanja, baš zato što nisu linearne. Poslednjih desetak godina se bavim isključivo mapama kao formom. Mislim, naravno, na ono što ja nazivam mapom, odnosno na ono što crtam. Ona predstavlja, u stvari, jedan nelinearan prostor koji omogućava posmatraču da napravi neku svoju priču. Pošto verovatno neće čitati redom svaki natpis, nego će tražiti neki svoj put. Primetio sam da poslednjih godina sve veći broj ljudi ima problem sa čitanjem dužih narativnih formi. Neki ljudi su mi se čak zahvaljivali na tome što su im moje mape pomogle da razumeju neke stvari, jer imaju, recimo, problem sa disleksijom, čitanjem, ili im je naprosto vizuelna komunikacija mnogo prijemčivija.

„Veza između tehnologije i kontrole nije ništa novo. Ona postoji od početka, od prvog dana, što se može potkrepiti mnoštvom primera. Gutenbergova presa je, recimo, ujedno dovela do cenzure, do stvaranja autorskih prava, do gomile drugih stvari, jer pojava svake tehnologija sa sobom rađa jedan novi prostor. I taj prostor postaje neka vrsta ratišta za različite interese“

Esej je, kao uostalom i film i podkast, u većini slučajeva linearan, ima početak i kraj. Zato mislim da je mapa mnogo otvorenija forma u odnosu na njega. Mada, svaki put kada objavimo neku mapu, mi zajedno s njom objavimo i prateći esej, koji treba da pomogne ljudima da se lakše orijentišu dok je posmatraju. Ali, opet, i ta vrsta eseja, prema mom mišljenju, na kraju smanjuje mogućnost slobode čitanja. Mnogo mi je draže kad ljudi jednostavno, bez ikakvih instrukcija i predznanja, stanu ispred mog rada i interpretiraju ga na svoj način. Skoro sam bio u Njujorku, pa smo ponovo išli da vidimo tu našu postavku u Muzeju moderne umetnosti (MoMA). Bilo mi je veliko uživanje da stojim po strani i slušam šta ljudi govore, kako oni vide taj rad. Ponekad vide stvari koje meni nikad ne bi pale na pamet, a opet su deo priče koja se krije unutar mape. Tako da je to stvarno vrlo uzbudljiva forma.

Slavoj Žižek kaže da se sada osećamo slobodnima jer nam nedostaje pravi jezik da izrazimo svoju neslobodu. Da li su mape koje koristite u vašem radu jedna vrsta jezika koja pokušava da izrazi tu neslobodu?

Apsolutno. Sve kartografije koje sam do sad radio bile su način da pokušam da razumem savremene oblike kontrole. Ne samo kontrole, nego da razumem fabriku uopšte, šta ona jeste, kakvi su odnosi rada i eksploatacije uspostavljeni između kompanija i običnih ljudi, kao i brojnih drugih aktera u priči. Ove mape su za mene bile put u neku vrstu detektivskog istraživanja tehnologije, na osnovu koga stvaram vizuelni prikaz. Ovaj prikaz koristim da bih, na prvom mestu, sam razumeo koje se sve vrste kontrole kriju u njemu. Na kraju, to možda pomogne i drugim ljudima da dođu do sličnih ili čak novih uvida. Mislim da je jedan od naših najvećih problema u savremenom dobu to što ne možemo da definišemo te nove vrste kontrole, nove vrste eksploatacije, nove radne odnose koji se uspostavljaju. I moje mape upravo o tome govore, sa više ili manje uspeha.

Kroz Calculating Empires možemo da vidimo kako su ti sistemi kontrole zapravo oduvek postojali. Veza između tehnologije i kontrole nije ništa novo. Ona postoji od početka, od prvog dana, što se može potkrepiti mnoštvom primera. Gutenbergova presa je, recimo, ujedno dovela do cenzure, do stvaranja autorskih prava, do gomile drugih stvari, jer pojava svake tehnologija sa sobom rađa jedan novi prostor. I taj prostor postaje neka vrsta ratišta za različite interese. Da li je to država koja želi da novu tehnologiju iskoristi da nešto kontroliše ili kapital koji želi da samo raste, raste, raste. Ali svaka tehnologija donosi sa sobom neku formu moći, koja je kroz istoriju često korišćena u svrhu kontrole. I tu sad ima na hiljade primera. Recimo, prvo masovno fotografisanje ljudi dešavalo se po zatvorima. Prva masovna upotreba testova za inteligenciju zabeležena je u kasarnama i na granicama.

Ili, uzmimo za primer istoriju klasifikacije. Pre pravljenja ove mape nisam toliko razmišljao o sistemima klasifikacije. Prva asocijacija na to nam je nauka, jer ona stalno klasifikuje stvari. Švedski biolog Karl Line klasifikuje biljke, ali onda u jednom momentu pređe i na ljude i kaže: postoji pet vrsta ljudi. Jedna od prvih rasnih teorija proizašla je iz njegovog istraživanja, koje se jeste, pre svega, bavilo biljkama, ali čim se prešlo na klasifikaciju ljudi to je odmah postalo jedna vrsta sistema kontrole. I kad kreneš dalje da razmotavaš ovu priču dođeš do toga da su neke rane rasne teorije, koje su klasifikovale ljudska bića, često služile kao način opravdanja za različite forme eksploatacije. To se, naravno, dešavalo paralelno sa kolonijalnom ekspanzijom, pa su nastojali da nađu način da klasifikuju ljude da bi opravdali zašto sad odjednom ti drugi ljudi imaju mnogo manja prava od ovih prvih. I ukoliko uđeš dublje u istoriju klasifikacije, ti shvataš da se u njoj konstantno događaju greške, ali da ona nastavlja da se koristi u službi sistema moći ili kontrole.

Na klasifikaciju se oslanja i veštačka inteligencija.

Ako pogledamo šta je AI, ona je automatizacija klasifikacije. Jedan veliki deo veštačke inteligencije bavi se, u stvari, samo klasifikacijama. Ovo je lice, ovo je drvo, ovo je kuća, a ono je ulica itd. A da bismo mogli da vršimo klasifikaciju, mora da postoji neka matrica klasifikacije koja je, sama po sebi, forma kontrole. Kad se dublje zadre u ovu temu može da se vidi i koliko mogu da budu problematični AI modeli za prepoznavanje emocija. Ja ne mogu da znam da li je Darvin sa zlom namerom napisao knjigu u kojoj je tvrdio da su ljudske emocije univerzalne i da možeš da ih prepoznaš po izrazu lica. Međutim, iako se ova teorija odavno pokazala kao potpuno pogrešna, danas postoje sistemi veštačke inteligencije za detekciju emocija koji su zasnovani upravo na takvim idejama. I kad malo dublje zaronimo u istoriju ovih sistema i probamo da iščeprkamo odakle ideje na kojima se oni baziraju dolaze, što smo Kejt i ja radili u Calculating Empires, ispostavi se da često dolaze sa potpuno pogrešnih, pa čak i zastrašujućih mesta. To može biti eugenika, frenologija ili neka druga teorija koja je korišćena za opravdanje kolonijalne eksploatacije. Jedan od veoma važnih zaključaka do kojih sam došao posle ovog vrlo dubokog „kopanja“ po istoriji odnosa tehnologije i moći jeste da kada sistemi za klasifikaciju krenu da se primenjuju na ljudima, to veoma često završi u neetičkim formama upravljanja ili kontrole. Recimo, neki od najneprednijih modela veštačke inteligencije za prepoznavanje emocija ili lica i dan-danas se koriste na granicama ili u sklopu policijskih i vojnih sistema.

„Uvek se ponavlja isti obrazac: prvo tehnologija stvara teritoriju, teritorija postaje resurs, za resurs se takmiče igrači, zatim pobednik uspostavlja monopol nad teritorijom, što na kraju završava u uspostavljanju neke vrste hipermoći i kontrole. To je ono što se desilo i sa internetom“

Tehnologija, međutim, ima jednu vrstu dvostrukog karaktera. Nije sporno da se od svojih početaka koristila u svrhe kontrole, ali bi trebalo reći da je omogućila i različite vrste oslobođenja čoveka. U tom smislu, često se može čuti kako je tehnologija neutralna. Kako vi gledate na to?

Ako dekonstruišemo bilo koju tehnologiju, recimo, društvenu mrežu Instagram, neko je morao da odredi sve te forme koje se nalaze unutar njegovog interfejsa, čime je definisao pravila igre i ono što će ona proizvesti. Kada se pojavio Instagram sa svojim kvadratnim interfejsom, radovi mojih studenata odjednom su poprimili upravo takvu formu. Ranije je obično dominirala forma tzv. zlatnog preseka, odnosno papira ili slike i sve je bilo podređeno tome. Zatim se pojavljuje kvadratni intefejs i on počinje da proizvodi drugačije posledice. Tehnologija, u tom smislu, nikad nije neutralna, zbog toga što ona svojom materijalnošću, svojim interfejsom određuje šta s njom možeš da napraviš. Drugim rečima, ona svojim oblikom i postojanjem definiše šta je moguće i šta nije moguće. Stoga različite tehnologije omogućavaju različite stvari. Međutim, u našem radu probali smo da pokažemo da tehnologija ne samo da nije sama po sebi neutralna, već se uvek nalazi u jednom širem sistemu ideologije, vrednosti i pravila igre, kakav je danas, recimo, neoliberalni kapitalizam. Kad imate takav širi okvir, tehnologija će uvek na kraju završiti u istom ćorsokaku.

Uzmimo kao primer internet. Internet je, po mom mišljenju, i dalje fantastičan protokol. Egalitaran protokol, neki bi rekli. Svaka tačka, svaki nod je u isto vreme i pošiljalac i primalac. Deluje da je po svom karakteru neutralan. Ali pošto se nalazi u takvom okviru šire igre, koja je u ovom slučaju neoliberalni kapitalizam, neminovno je bilo da se pretvori u ovo što je sada. Uvek se ponavlja isti obrazac: prvo tehnologija stvara teritoriju, teritorija postaje resurs, za resurs se takmiče igrači, zatim pobednik uspostavlja monopol nad teritorijom, što na kraju završava u uspostavljanju neke vrste hipermoći i kontrole. To je ono što se desilo i sa internetom. Počelo je kao horizontalna struktura, u kojoj je svako mogao da napravi veb-sajt, ali je na kraju završilo u rukama pet ogromnih kompanija. Ali, kao što sam rekao, to nije produkt same tehnologije, iako ona sama po sebi ima svoja pravila igre, nego je problem šireg sistema pravila u kojem se ona nalazi. Da je taj širi sistem drugačiji, možda bi internet postao najveća otvorena biblioteka. To se, nažalost, nije desilo, već je postao polje „ekonomije reputacije“, gde je svako neka vrsta brenda i gde se svi sve vreme takmiče.

Vi se sistemima kontrole bavite kako kroz vašu umetnost tako i kroz SHARE fondaciju. Kako pojedinac danas može da se suprotstavi tim velikim i moćnim sistema kontrole?

Ja bih se pozvao na konstataciju Frensisa Bejkona da je znanje moć. Tu vidim neku vrstu mogućnosti. Na šta tačno mislim kad kažem znanje? Veoma je teško da razumemo nove forme eksploatacije ako ne možemo da sagledamo šta se tu dešava. Zato je transparentnost sistema kontrole od ključnog značaja. Drugim rečima, ako bi ti sistemi bili transparentni, mi bismo možda mogli da kažemo stani, upotreba ovakvog algoritma nije dobra jer diskriminiše neke ljude. Ali problem je u tome što trenutno nemamo nikakav uvid u to. A da bismo imali uvid, potrebna je transparentnost, ili razvoj određenih kritičkih alata koji bi nam omogućili da uočimo zloupotrebe. Onda bismo mogli da kritički preispitujemo ove sisteme i zalažemo se da se neke stvari ne dozvole. To bi trebalo da bude prvi korak u suprotstavljanju njihovoj dominaciji.

Ja sam, recimo, dosta praktikovao tzv. informacijsku dijetu, gde sam sebi uskraćivao da provodim mnogo vremena na telefonu. Ali to je, prema mom mišljenju, jedna vrsta strategije sa fokusom na krajnjeg potrošača, nalik onima koje se primenjuju u ekologiji: „nemoj da trošiš previše vode“, ili „nemoj da jedeš goveđe meso“. A iza toga imaš čitavu mašineriju koja proizvodi neverovatnu količinu ugljen-dioksida. Mislim da je daleko bolje rešenje da probamo da razumemo kako rade ti veliki sistemi i kakve nove odnose eksploatacije uspostavljaju, nego da se usmerimo na ponašanje običnog pojedinca, kao nekog ko se nalazi na samom kraju tog lanca. Naravno, treba svi da promislimo o tome kako koristimo tehnologiju i prirodu, ali taj deo je dosta lakši za rešavanje. Suštinski problem krije se u teško vidljivim ili dostupnim mehanizmima moći i kontrole.

Intervju originalno objavljen u 38. broju Elemenata.