Da li želite da preuzmete Nedeljnik android aplikaciju?

DA | NE

Le Monde

Svet

Šta posle afere Fejsbuk?

Već dugo vremena SAD tolerišu sve grehe informatičke industrije, bilo da se radi o fiskalnim prekršajima ili o onima vezanim za intelektualnu svojinu ili privatne živote pojedinaca. Prema rečima Marka Zakerberga, treba da se „krećemo brzo i lomimo stvari". Međutim, odnos moći između informatičkih kompanija i vlasti je promenljiv. Pitanje više nije da li će aktivnosti ovih grupa biti regulisane, već na koji način i u čijem interesu će se to dogoditi
PIŠE: FRENK PASKAL
Datum: 02/06/2018

Život Ketrin Tejlor se srušio onog dana kada je jedan broker ličnim podacima u njen dosije greškom upisao: „Pokušavala da prodaje i proizvodi metamfetamine". Ta lažna optužba raširila se kao šumski požar, posredstvom neobuzdane trgovine informacijama o potrošačima. Kad god bi pokušala da pronađe posao, ne bi mogla da se oslobodi ove digitalne stigme koja je rasterivala poslodavce. Nije mogla čak ni da podigne kredit kako bi kupila mašinu za pranje posuđa.

ChoicePoint, jedna od brojnih kompanija koje se bave prikupljanjem ličnih podataka, na kraju je ispravila ovu brljotinu. Međutim, brojna druga preduzeća koja su kupila dosije gospođe Tejlor nisu to učinila. Ona je morala da ih juri i sudski goni, što ju je iscrpelo. „Ne mogu stalno da budem na straži", poverila se novinaru Vašington posta koji je otkrio njenu priču (1). Trebalo joj je četiri godine da pronađe posao i, pošto nije uvek imala krov nad glavom, morala je da kupi kuću na ime svoje sestre. Takođe je rekla da je stres koji je preživela usled te situacije pogoršao njene srčane probleme.

Na svaku Ketrin Tejlor koja je svesna izvora svoje loše reputacije, pate hiljade ljudi nesvesne digitalnog profilisanja i špijunaže kojima su izloženi. Kompanije koje koriste sofisticirane algoritme kako bi nas nadzirale i manipulisale nama kriju se iza poslovnih tajni kada bivaju pozvane da polože račune.

Novinari i uzbunjivači povremeno uspeju da otvore prozor u skrivene procese rada nove informatičke ekonomije. Njihova otkrića o tome kako je kompanija „Kembridž analitika" prikupljala podatke o korisnicima i korisnicama Fejsbuka skrenula su pažnju javnosti na potrebu za kreiranjem javnih politika o podacima. Pod pritiskom, Sjedinjene Države su se osetile primoranim da regulišu njihovo korišćenje.

 

Privatni život se sužava

 

Dok se politički zvaničnici sa obe strane Atlantika pripremaju da uvedu nove (ili da bolje sprovode postojeće) zakone, ukazuje se neophodnost za stvaranjem mentalne kartografije ogromne infrastrukture u kojoj se nalaze podaci. Kako bismo mogli da se snađemo u tom lavirintu, moramo imati u vidu tri koraka obrade ličnih podataka kojima se koriste moderne kompanije: prikupljanje, analiza - sa ciljem izvlačenja zaključaka o konkretnim korisnicima - i eksploatacija. Specifični problemi vezani su za svaki od njih.

Kada građani podnesu zahtev Fejsbuku ili Guglu da im pošalju lični dosije, na svoj užas shvate da su ogromne količine video-zapisa, intimnih razgovora i fotografija koje su smatrali obrisanim besprekorno sačuvane u arhivama. Javljaju se i detaljni zapisi toga kuda su se kretali. Na android telefonima, specijalne mreže pritajeno skupljaju informacije o pozivima. Znatan broj dosijea otkriva da socijalne mreže čuvaju intimne detalje o životima svojih korisnika. U meri u kojoj senzori na mobilnim telefonima postaju sve osetljiviji, veb-giganti dolaze u priliku da skupljaju sve više i više informacija, do tačke gde raspolažu čitavim portretima korisnika i korisnica koji ogoljuju njihove ranjivosti, želje, slabosti, kao i njihova nedela.

Jeste li ikad u pretraživač ukucali: „simptomi gonoreje" ili „kako proglasiti bankrot"? Moguće je da ovi pojmovi pretrage još uvek postoje vezani za vaše ime, IP adresu vašeg kompjutera ili sopstveni jedinstveni metod identifikacije. Zahvaljujući njima, firme mogu lako stvarati spiskove „neurotičnih" ili „faličnih" pojedinaca. „Na osnovu istorije korišćenja vaše kreditne kartice, automobila koji vozite i drugih aspekata vašeg svakodnevnog života, možemo sa relativnom sigurnošću da zaključimo da li patite od bolesti koja nas zanima", izjavio je potpredsednik jedne farmaceutske kompanije (2). Određene druge se bave preprodajom imejl adresa i informacija o receptima pacijenata koji pate od depresije ili raka.

Obuhvat ovog prikupljanja se uglavnom obelodanjuje malo-pomalo, u meri u kojoj usled neopreznosti dolazi do curenja informacija iz kompanija. I zaista, izvesna kompanija je jednom prilikom poslala pošiljku adresiranu „Majk Sej; ćerka poginula u saobraćajnoj nesreći". Primaočeva ćerka je zaista poginula u nesreći manje od godinu dana ranije. Korisnost ove turobne informacije u okviru marketinške strategije ostaje nejasna. Firma od tada nije ponudila objašnjenje svog postupka niti je otkrila izvor informacije. Brokeri podacima mogu ugovorno obavezati klijente da ne otkrivaju svoje izvore.

Sakupljači, brokeri i preprodavci podataka ponekad trguju nedelikatnim informacijama, ali su stvorili i neverovatno cinične klasifikacije. Sastavili su spiskove žrtava seksualnog nasilja, osoba koje pate od HIV-side ili Alchajmerove bolesti. Takođe postoje spiskovi impotentnih ili depresivnih korisnika. Ove liste, koje se prodaju po ceni od par centi po imenu, koliko god nepouzdane bile, privlače profesionalce iz sveta marketinga, ali, sve više, i one iz finansijskih institucija koje istražuju profile svojih klijenata kako bi izbegle prevare; kao i poslodavce koji traže zaposlene. Brokeri, kao majstori tajnovitosti, ispraznili su pojam poverljivosti sveg nekadašnjeg značaja. Radi se o dinamici koja je odavno ustanovljena: privatni život se sužava onoliko koliko se širi zaštita poslovanja.

Neki od ovih podataka su pogrešni. Pisac jednog informativnog članka opisao je kako je jedna od njegovih prijateljica, žena savršenog zdravstvenog stanja, dobila misteriozni poziv za skup pacijenata koji pate od multiple skleroze. Kako se ispostavilo, ona je popunila prijavni formular za skup ljudi čiji prijatelji pate od te bolesti, a taj podatak je preprodan nekoj marketinškoj agenciji. Uz to, više se ne seća da li je u formularu bila navedena mogućnost njegovog korišćenja na taj način - ali ko bi mogao da se seti svih opštih uslova korišćenja koje prihvatamo jednim klikom i bez čitanja? Pa ipak, marketinška kompanija je potom preprodala svoje podatke grupi koja poseduje dve farmaceutske kompanije. Žena iz ovog primera je počela da sumnja o čemu se radi kada je krenula da dobija promotivni materijal za pomenuti skup. Koliko nas je već kategorizovano u ovim spiskovima, a da toga nismo svesni (3)?

Afera „Kembridž analitike" je pokazala da je ta kompanija koja se bavi uticajem na političke rejtinge prikupljala podatke miliona korisnika i korisnica Fejsbuka. Međutim, transferi podataka se još uvek retko kada otkriju. Sjedinjene Države bi morale da olakšaju posao ljudima koji su počeli da otvaraju ovu „crnu kutiju", tako što će naložiti kompanijama da otkriju tipove podataka koje prikupljaju. Kompanije bi takođe morale da omoguće korisnicima i korisnicama da spreče prikupljanje osetljivih organizacija, umesto dosadašnjeg postavljanja uslova korišćenja po principu „sve ili ništa". Jedan korisnik Fejsbuka će moći da zabrani toj društvenoj mreži da vodi potpunu evidenciju o svim njegovim posetama bolnici.

Sve veći rizik narušavanja privatnog života opovrgava opravdanja trgovine podacima u ime ciljanja potrošača. Koliko god sofisticirane i pažljive bile, i najveće kompanije su podložne napadima hakera. Sajber crno tržište podataka postalo je tabu tema. Pa ipak, zna se da je jedan američki broker greškom prodao brojeve socijalne zaštite, vozačkih dozvola, bankarskih računa i kreditnih kartica miliona osoba specijalistima za krađu ličnog identiteta (4).

 

Milioni fajlova na USB stiku

 

Javlja se potreba za boljim nadzorom izvora podataka i njihovih kupaca. Uprkos nastojanjima zakonodavaca da razumeju ovaj fenomen, trgovina medicinskim podacima i dalje je pokretna meta, jer se milioni fajlova mogu šifrovati i poslati jednim klikom. Ponekad možemo naići na tragove prodaje podataka, ali kako da se nosimo sa neformalnim dogovorima između brokera? Najobičniji USB stik može da sadrži milione fajlova. Službe nadzora su već imale problema da kontrolišu fizičke kompanije; širenje firmi za trgovinu podacima ih je potpuno potopilo. Dokle god nisu u obavezi da obelodanjuju izvore i tačna odredišta svih podataka kojima raspolažu, nećemo moći da procenimo obim u kom se oni koriste u svrhe prevare, niti da zaustavimo nelegalnu trgovinu.

Mimo toga da se firme koje prikupljaju podatke drže odgovornim, kao što to predviđa nova evropska regulativa, zakonodavci bi trebalo da zabrane širenje određenih informacija, uz izuzetke. Na primer, mnoge američke države zabranjuju poslodavcima da traže da im njihovi trenutni ili potencijalni zaposleni ustupe lozinke za pristup svojim nalozima na društvenim mrežama. Međutim, konkurencija može naterati određene kandidate da ih sami ponude. Oni kojima je stalo do zaštite svoje privatnosti bi tako mogli da budu oštećeni iako nisu uradili ništa osim što su koristili svoja prava - poslodavac bi dao prednost drugim kandidatima. Sve dok korišćenje osetljivih podataka ne bude zabranjeno i pod ozbiljnom kontrolom, ništa ne može sprečiti budućnost u kojoj privatni život neće postojati.

Prikupljanje podataka je samo prvi stadijum procesa koji vodi uništenju privatnosti. U trenutku kada prikupe podatke, kompanije ih analiziraju i iz njih izvlače korelacije i indukcije. Na primer, na početku trudnoće koja se okončala pobačajem, sociološkinja Meri Ebeling popunila je nekoliko formulara. Dok je još bila u stanju šoka, marketinške agencije su joj nudile proizvode za bebe. U brojnim digitalnim bazama podataka, ona je prosto bila zavedena kao majka. Napisala je knjigu o ovom iskustvu, iako nikad nije uspela da stekne uvid u čitav proces koji se odvijao na izvoru reklama koje su je godinama progonile (5). Drugi algoritmi oblikuju naše reputacije kao zajmoprimaca, studenata, vlasnika ili zaposlenih. Mnoge kreditne kompanije sada koriste informacije na potpuno nov način sa ciljem nuđenja svojih usluga potrošačima ili malim preduzećima. U našem društvu rejtinga, ljudi nisu svesni načina na koji se njihova potražnja za kreditima ispituje.

Ovi problemi imaju jasne i veoma zabrinjavajuće posledice. Skorašnji izveštaj Privacy Internationala otkrio je da kompanije za finansijske tehnologije koje se oslanjaju na digitalne alate kako bi ostvarile kontrolu nad delovima tržišta nisu oklevale da koriste poverljive informacije kako bi procenile solventnost potencijalnih kreditnih korisnika: njihove političke aktivnosti, pozive i poruke, korišćene aplikacije, geolokaciju, popunjene upitnike itd. (6).

Pored toga, softver koji se koristi za pravljenje i prilagođavanje predviđanja zasnovan na analizi masovnih podataka - sistemi automatskog učenja - koristi još intruzivnija sredstva radi procene solventnosti. Na primer, u jednom članku objavljenom pre godinu dana, tvrdi se da je moguće proceniti sklonost ka kriminalu na osnovu fizionomije pojedinaca (7). Istraživačka veštačka inteligencija takođe predviđa seksualnost i zdravstveno stanje na osnovu lica osoba, čije se fotografije relativno lako mogu naći preko Gugla ili Fejsbuka (8).

 

Oprez, „veštačka neinteligencija"

Iako su sistemi automatskog učenja važna inovacija na poljima borbe protiv raka ili informatičke piraterije, ne manjka im negativnih efekata po čovečanstvo. Znamo da najmanje jedna kompanija koja izdaje kreditne kartice prati događaje u našim životima, najpre one koji se odnose na našu psihologiju, kako bi stvarala prediktivne analize. Od kada su statistički podaci ukazali na to da parovi koji idu na terapiju imaju veće izglede da se razvedu od ostalih, ovaj faktor se pretvorio u „signal" za to da bračni problemi prete da se prevedu u finansijske tegobe. Ta „kazna zbog terapije za parove" predstavlja dilemu za zakonodavce. Ukoliko zaštite ovu informaciju, sakriće bitan aspekt solventnosti nosilaca kreditnih kartica; a ukoliko odluče da ona treba da bude dostupna, parovi mogu početi da odbijaju da krenu na terapiju neophodnu za njihov odnos.

Čak i kad ne bi postojala utvrđena veza između terapije za parove i neplaćanja rata kredita, ova korelacija bi bila dovoljna da informiše softversku odluku. Posledice su katkad pogubne i u slučajevima koji su objektivno dokazivi, poput trudnoće, ali su krajnje razorne za one koji su kategorisani kao „lenji", „nepouzdani", „u poteškoćama" ili gore. U doba kad digitalna alhemija stvara nove analogne stvarnosti, data drifting (mehanizam na kom se zasniva autonomno učenje veštačke inteligencije, prim. prev.) može da dovede do lavine problema. Jednom kad je softver odlučio da određena osoba predstavlja kreditni rizik, ne ispunjava svoje profesionalne obaveze ili ima marginalnu potrošnju određene robe, ove „etikete" mogu da utiču na odluke u mnogim drugim delovima ekonomskog sistema. Vlast bi morala da evaluira i reguliše funkcionisanje preduzeća za finansijske tehnologije; mešanje u određene aspekte života moralo bi da bude zabranjeno. Na primer, geolociranje može da igra ulogu u proceni solventnosti i da dovede do toga da se odbije kredit osobi povezanoj sa „problematičnim" delom grada.

Iako je svakodnevni život običnih građana i građanki pod stalnom državnom prismotrom, najmoćnije kompanije skrivaju svoje podatke i algoritme od vlasti koja bi trebalo da nas štiti. Zbog čega se njene institucije (i ona sama) ne trude da bolje vode računa o nedelima preduzeća? Uzevši u obzir njihove istorijate, Gugl i Fejsbuk bi trebalo da su pod ozbiljnom prismotrom. Pravni i tehnički okviri za tako nešto već postoje. Obaveštajne agencije širom sveta su udvostručile svoju revnosnost u ime „rata protiv terorizma". Rat protiv narušavanja privatnosti bi bio dobrodošla promena fokusa njihovih aktivnosti.

Zakonodavci bi trebalo da imaju mogućnost da nadziru procese automatskog učenja kako bi bolje razumeli da li izvori sumnjivih informacija utiču na velike kompanije. Ni automatsko učenje ni prediktivne analize nisu previše komplikovane da bi ih bilo moguće regulisati. Određene firme za finansijsku tehnologiju koje se oslanjaju na veštačku inteligenciju mogle bi da prigovore da su proračuni na kojima se njihove odluke zasnivaju postale forma kognicije koju je jednako teško objasniti koliko i proces ljudskog odlučivanja. Ovom argumentu o „beskrajnoj kompleksnosti" kojom se pravda deregulacija ne treba verovati. Veštačka inteligencija koju firme slave lako bi mogla da se pretvori u „veštačku neinteligenciju" ili nešto gore.

Sem toga, postoji više praktičnih i lako primenjivih mera za procenu solventnosti, čak i u najkompleksnijim slučajevima: zakon bi mogao da naloži da se za proračune koriste lični podaci osim, na primer, onih koji se tiču zdravstvenog stanja. Štaviše, prema okvirima Opšte regulative EU za zaštitu podataka (GDPR), koja će stupiti na snagu 25. maja, građani i građanke će moći da zahtevaju da im se pruži uvid u logiku automatizovanih procesa putem kojih se donose procene koje ih se tiču. Ovo „pravo na objašnjenje" bi trebalo uključiti u univerzalna ljudska prava, inače će mutne informatičke odluke imati sve više uticaja na naš svakodnevni život.

Kako bi se obnovilo poverenje javnosti u politički proces i demokratsku debatu, zakonodavci bi hitno trebalo da okupe kompanije koje se bave deljenjem podataka i algoritama, kako bi se utvrdio prikladan jezik za određene ciljne grupe, kao i same ciljne grupe. Zakonski okvir kakvo je GDPR-ovo pravo na objašnjenje pružio bi dodatnu potporu slobodi izražavanja. Ukoliko se kompanije budu pretvarale da su njihovi algoritmi previše komplikovani da bi ih otkrivale, vlasti bi trebalo da im zabrane da koriste informacije do kojih dođu njihovom upotrebom.

Najodlučniji aspekt regulacije bi trebalo da se odnosi na upotrebu podataka. Državama verovatno neće biti lako da zabrane analitičarima da se bave procenama solventnosti ili sklonosti ka kriminalnom ponašanju na osnovu podataka dobijenih, na primer, iz softvera za prepoznavanje lica: kako bi bilo moguće kontrolisati šta oni istražuju u moru podataka (čak i ako njihova istraživanja dovedu do netačnih korelacija)? Ipak, možemo zabraniti bankama da biraju klijente kojima (ne)će odobriti kredite bukvalno na osnovu izgleda lica, ili univerzitetima da primaju studente u zavisnosti od njihovih „nivoa agitacije" koji se mere od kad su bili deca.

Ovde se državna intervencija ispostavlja kao ključna, pre nego procena pojedinca. Zamislimo sledeći scenario: podaci kruže u okvirima potpune transparentnosti. Imate mogućnost da pratite najmanji podatak o sebi od izvora do krajnjeg korisnika. Možete da osporavate one koji stvaraju lažnu sliku o vama. Možete, ukoliko želite, i da stvarate više digitalnih verzija samih sebe, kako bi svaki prodavac imao najbolju i najsvežiju sliku vašeg ukusa, interesa i postignuća.

Ovakvo individualizovano tržište reputacija ne bi bilo ništa manje zastrašujuće. Pre svega, uz trenutni nivo povećanja protoka informacija, pojedinci bi - čak i uz pomoć savremenih programa i stručnjaka - imali velikih problema da saznaju tačno gde i na koji način su klasifikovani.

Takođe, u brojnim slučajevima istiniti podaci se mogu koristiti u nepravedne ili diskriminatorne svrhe; na primer, ukoliko neko kreditno društvo svoj softver programira tako da isplatu honorara bračnom terapeutu tumači kao povećanje rizika da kredit neće biti isplaćen, što bi dovelo do povećanja kamatne stope za nosioca kredita. Poseta specijalisti iz oblasti zdravstva ne bi trebalo da utiče na uslove kredita. Već je zabranjeno koristiti genetske podatke pri zapošljavanju uz obrazloženje da ne možemo imati kontrolu nad genima. Međutim, jesmo li više odgovorni za rak, polomljenu nogu, anksioznost ili depresiju kada se javljaju u vezi sa bračnim problemima?

Ne možemo očekivati od pojedinaca da otkrivaju probleme vezane za masovne podatke i probleme automatizovanog odlučivanja. Oni nemaju vremena da istražuju hiljade baza podataka koje bi mogle da imaju uticaja na njihov život. Otkrivanje grešaka u načinu na koji se te baze koriste je odgovornost vlasti koje bi morale da ispituju sadržaje servera velikih kompanija i brokera kako bi pronalazile sumnjive podatke, kao i da zahtevaju mogućnost praćenja podataka kako bi se omogućila procena verodostojnosti njihovih izvora. U oblasti zdravstva, američka država je već uputila apel stručnjacima da prijavljuju problematične prakse u bolnicama i klinikama. Blago povećanje poreza na trgovinu podacima bilo bi dovoljno da bi se obezbedila sredstva za finansiranje šireg obima kontrole.

Kompanije se sve više okreću automatizovanim procesima za utvrđivanje rizika, ali i za vođenje poslova. Preduzeća koja kontrolišu ove procese ubrajaju se u najdinamičnije i najrentabilnije aktere informatičke ekonomije. Sve te kompanije koriste algoritme - najčešće tajne - kako bi uređivale to more informacija. Privlačnost ove tehnologije leži u drevnoj želji da se budućnost predvidi, pomešanoj sa modernom statističkom trezvenošću.

U ovakvoj klimi tajnovitosti, postoji rizik da se lažne informacije predstave kao istinite, što može dovesti do nepravednih, ako ne i katastrofalnih, predviđanja. Ovaj model može da se ispostavi kao apokaliptičan kada se neosnovani ili netačni zaključci pomešaju sa moći algoritama i počnu da stvaraju probleme koje tvrde da treba da predvide.

Javna rasprava, poput one o mogućnostima građanki i građana da donose odluke imajući uvid u uzroke, zahteva više od pukog razumevanja državnog aparata. Radi se o obelodanjivanju metoda kojima se koriste kompanije koje imaju uticaja na našu vladu, naše društveno uređenje i našu kulturu. U informatičkoj eri, novi gospodari obećavaju slobodu i samoupravljanje dok njihove „crne kutije" rade na stvaranju digitalne oligarhije.

FRENK PASKAL je profesor prava na Univerzitetu Merilend, i autor knjige Black Box Society, Les algorithmes secrets qui contrôlent l'économie et l'information, FYP éditions, Limož, 2015.

 

PREVOD: Pavle Ilić

 

(1) Ilan K. Mui, „Little-known firms tracking data used in credit scores", Vašington post, 16. juli 2011.

(2) Džozef Voker, „Data mining to recruit sick people", Volstrit džornal, Njujork, 17. decembar 2013.

(3) Nicolas P. Teri, „Protecting patient privacy in the age of big data", University of Missouri-Kansas City Law Review, vol. 81, br. 2, Kanzas Siti, 2012. Lori Endrus, I Know Who You Are and I Saw What You Did: Social Networks and the Death of Privacy, Free Press, Njujork, 2011.

(4) „Experian sold consumer data to ID theft service", Krebs on Security, 20. oktobar 2013, .

(5) Meri Ebeling, Healthcare and Big Data. Digital Specters and Phantom Objects, Palgrave Macmillan, Njujork, 2016.

(6) „Case study: Fintech and the financial exploitation of customer data", Privacy International, 30. avgust 2017, https://privacyinternational.org.

(7) Blez Agera i Arkas, Margaret Mičel i Aleksander Todorov, „Physiognomy's new clothes", Medium, 6. maj 2017, https://medium.com.

(8) Sem Levin, „LGBT groups denounce 'dangerous' AI that uses your face to guess sexuality", Gardijan, London, 9. septembar 2017; Barbara Markan, „How your selfie could affect your life insurance", 24. april 2017, www.nerdwallet.com.


Ukupno komentara: 0



Sva polja su obavezna.