Cum devin orasele SUA centre de SUPRAVEGHERE TOTALITARA sub pretextul combaterii infractionalitatii

police-state

Oakland, California – Subventiile federale in valoare de 7 milioane dolariau fost acordate in acest oras, în mare parte, pentru a ajuta la contracararea atacurilor teroriste din acest port plin de viață. Dar, în schimb, banii se duc pe o inițiativă a poliției care va colecta și analiza date inregistrate cu ajutorul punctelor numeroase de supraveghere amplasate in oraș – de la senzori de detectare a armelor de foc în cartierele din zona de Est a Oakland-ului pana la cititoare ale placutelor de înmatriculare, acestea fiind montate pe mașinile de poliție ce patrulează dealurile de lux ale orașului.

Noul sistem, programat să înceapă vara viitoare, este cel mai recent exemplu al modului în care orașele se pregatesc pentru compilarea și procesarea unor cantități mari de informații, cunoscute sub numele de ”big data”. Și sistemul scoate in evidenta modul în care tehnologia a facut posibila urmărirea oamenilor în diverse aspecte ale vieții lor.

Poliția poate monitoriza „scurgerile” de mesaje de pe retelele sociale pentru a cauta dovezi ale activităților criminale; agențiile de transport in comun pot urmări plata taxelor de drum ale navetiștilor atunci când șoferii folosesc un abonament de calatorie electronic; și Agenția Națională de Securitate (NSA), asa cum au aratat rapoartele de știri în această vară, a scormonit înregistrările telefonice a milioane de clienti de telefonie mobila din Statele Unite.

Sunt si altii care doresc să utilizeze noile instrumente de supraveghere mai ales în aplicarea legii, toate acestea fiind susținute din bugetul federal. Departamentul de Poliție al statului New York, ajutat de finanțarea federală, are un sistem de ”big data” care leagă 3.000 de camere video de supraveghere cu cititoarele placutelor de înmatriculare, senzori de radiații, baze de date cu informatii despre criminali (infractori) și listele cu suspectii de terorism. Poliția din statul  Massachusetts a folosit fonduri federale pentru a cumpăra scanere automate pentru placutele de inmatriculare. Și poliția din Texas a cumparat o drona cu banii proveniti de la Departamentul de Securitate Nationala (Homeland Security), drona pe care si Alameda County, din care face parte si orasul Oakland, a încercat sa o achizitioneze, fiind nevoiti sa amane datorita protestului public.

Susținătorii inițiativei din Oakland, în mod oficial cunoscut sub numele de Domain Awareness Center, spun că va ajuta poliția orasului sa reduca o rata notoriu de ridicată a criminalității. Dar criticii spun ca programul, care va crea un bazin al informațiilor culese prin supraveghere, va aduna, de asemenea, si date despre actiunile de zi cu zi si obiceiurile locuitorilor care respectă legea, ridicând probleme juridice și etice legate de urmărirea atât de indeaproape a activitatilor cotidiene ale oamenilor.

Libby Schaaf, un consilier al orasului Oakland, a declarat că, din cauza ratei ridicate a criminalității din oraș, „este responsabilitatea noastră de a profita de noi instrumente care devin disponibile”. Ea a adăugat, însă, că centrul ar putea să “redea o imagine destul de detaliată a vieții personale a unei persoane care ar putea fi nevinovata”.

De exemplu, dacă doi bărbați ar fi filmati de catre camerele de supraveghere ale portului in timp ce fura bunuri și apoi pleaca de la locul faptei într-un Sedan negru Honda, autoritățile din Oakland ar putea cauta in baza de date unde anume în oraș a mai fost mașina respectiva în ultimele câteva săptămâni. Aceasta ar putea include semafoarele de care a trecut în fiecare dimineață sau dacă a mers în mod regulat pentru a vedea jocurile echipei de baseball din Oakland.

Pentru fortele de ordine ale legii, data mining (= extragerea de informatii din date) este un pas mare spre colectarea de informații mai complete. Poliția, în mod tradițional, face arestări bazate pe informatii minore – declaratii ale martorilor, inregistrari ale placutelor de inmatriculare, imagini de la o camera de supraveghere cocoțata sus deasupra unui automat de bancă. Noua capacitate de a colecta și trece prin toate aceste informații oferă autorităților o viziune mult mai largă asupra oamenilor pe care ii investighează.

Pentru companiile care creeaza aceste instrumente de procesare a informatiilor  mari, proiecte precum cel al lui Oakland sunt o mare oportunitate de afaceri. Microsoft a construit tehnologia pentru programul din New York City. IBM a vandut instrumente de data mining celor din orasele Las Vegas și Memphis.

Oakland a semnat un contract cu cei de la Asociatia Internationala de Aplicatii Stiintifice (SAIC), pentru a dezvolta sistemul său. (La sfârșitul lunii septembrie, compania a fost redenumită Leidos Holdings.)

Contractul companiei, ce consta in modernizarea sistemului de salarizare al  orasului New York folosind noi tehnologii cum ar fi cititoarele biometrice,  a fost banuit ca ascunzand o mita. Anul trecut, compania a platit autoritatilor orasului suma de 500 de milioane de dolari pentru a evita urmărirea penală federala. Suma a fost considerata a fi cea mai mare plătita vreodată pentru a soluționa acuzațiile de fraudă dintr-un contract guvernamental. Un reprezentant al SAIC (acum Leidos) a refuzat sa comenteze.

Chiar înainte de aceasta inițiativă, Oakland a cheltuit milioane de dolari pe camerele video din trafic, cititoarele placutelor de inmatriculare și o rețea de senzori de sunet menita sa detecteze armele de foc. Cu toate acestea, orasul are una dintre cele mai mari rate ale criminalității violente din țară. Și un audit intern în august 2012 a constatat că poliția a cheltuit 1,87 milioane de dolari pe instrumente de tehnologie care nu funcționează corect sau au rămas neutilizate, deoarece furnizorii lor au dat faliment.

Noul centru se doreste a fi mult mai ambițios. Pe langa pozitionarea centrală, aici se vor aduna date electronice culese non-stop printr-o varietate de senzori și baze de date, se vor analiza și se vor afișa unele informații pe monitoare gigant.

Orașul intenționează să angajeze personal pentru acest centru care sa lucreze, de asemenea, non-stop. Dacă există un incident, lucrătorii pot analiza mai multe surse de date pentru a furniza detalii poliției, pompierilor sau Garzii de Coasta. În absența unui incident, modul în care datele vor fi utilizate și cât de mult ar fi păstrate rămân, în mare măsură, neclare.

Centrul va colecta feed-uri de la camerele video din port, camerele video din trafic, cititoarele placutelor de inmatriculare și senzorii de detectare a armelor de foc. Centrul va fi, de asemenea, integrat vara viitoare cu o bază de date care permite poliției să aiba acces la inregstrarile apelurilor la 911. Renee Domingo, coordonatorul serviciilor de urgență a orașului, a declarat ca atat inregistrarile camerelor de supraveghere din școli, precum și datele video de la sistemul regional feroviar de navetiști și cel al autostrăzilor de stat pot fi adăugate mai târziu.

Programe de supraveghere mult mai putin avansate au provocat rezistenta la nivel local și de stat. Iowa City, de exemplu, a impus recent un moratoriu asupra unor dispozitive de supraveghere, inclusiv asupra cititoarelor placutelor de inmatriculare. Consiliul orașului Seattle a forțat departamentul propriu de poliție sa returneze producatorului o dronă finanțata din fonduri federale.

În Virginia, poliția de stat a „curățat” o bază de date cu milioane de plăcuțe de înmatriculare colectate de camere, inclusiv unele de la mitinguri politice, după ce procurorului general al statului a declarat ca metoda de colectare și salvare a datelor a încălcat legea. Dar, pentru un oras in mare nevoie de lichidități precum Oakland, speranța de finanțare din partea guvernului federal face proiectul deosebit de atractiv. Consiliul Local a aprobat programul la sfârșitul lunii iulie, dar protestele publice au obligat Consiliul sa adauge unele restricții. Consiliul a cerut oficialilor politici publice prin care sa detalieze ce fel de date pot fi colectate și protejate, precum și modul în care ar putea fi utilizate. Consiliul se așteaptă ca aceaste reguli de confidențialitate sa fie gata înainte ca centrul de supraveghere sa poata începe operațiunile.

Uniunea Civila Americana pentru Libertate din California de Nord a descris programul ca „o supraveghere fără mandat”, și a spus ca „orașul (n.a.: autoritatile acestui oras) va fi în măsură să colecteze și să stocheze informații complete despre locuitori ai Oaklandului care nu au fost implicati în nicio ilegalitate.”

Seful responsabil cu securitatea portului, Michael O’Brien, a încercat să calmeze temerile, spunând că centrul a fost menit pentru a grăbi timpul de răspuns de aplicare a legii pentru crime și situații de urgență. „Nu este vorba de a spiona oamenii”, a spus el.

Directorul in cercetare si tehnologie al Urban Strategies Council, Steve Spiker, o organizatie non-profit din Oakland, care a examinat eficacitatea instrumentelor tehnologice ale poliției, a declarat ca s-a simtit inconfortabil cu oficialii orasului, de vreme ce acestia din urma stiu atât de multe despre actiunile lui. Dar, a spus el, există deja atât de multe date publice încât ar avea sens sa fie permis oficialilor guvernamentali colectarea si analizarea acestor date pentru binele public. Totuși, el ar dori să știe cum vor fi păstrate și partajate toate aceste date. “Ce se întâmplă,” a întrebat, “atunci când cineva nu mă place și are acces la toate aceste informații?”

Cuvantul Ortodox

Cand vorbim despre guvernare electronica, supraveghere, monitorizare, spionaj prin intermediul smartphone-urilor si a retelelor sociale de pe internet, suntem tentati sa ne concentram mai degraba pe partea de prelevare a informatiei si sa uitam un aspect esential: aceste informatii sunt analizate prin intermediul unor algoritimi complicati care prelucreaza asa-numitele BIG DATA si tot traficul relevant de pe retelele sociale, scopul fiind micro-administrarea societii, realizarea de predictii si de modele comportamentale, de tipuri de profile si de relatii, (cum ar fi cea a formarii unor miscari de protest), intr-un cuvant, o guvernare totalitara in sensul unei “digitalizari” administrate a relatiilor interumane.

Simularea digitala a conflictelor sociale

Le Monde Diplomatique

De Pablo Jensen, aprilie 2013

In epoca internetului, populatia nu mai reprezinta o masa, ci o retea sofisticata de interactiuni. Marketingul si sociologia cautau sa determine tendintele; acum acestea sunt cautate in intimitatea legaturilor si gesturilor individuale.

Stapanirea viitorului prin stiinta si tehnologie: aceasta este ambitia mega-proiectului de cercetare FuturICT (“informare, comunicare, tehnologii”).

“Un mare numar de probleme curente – criza financiara, instabilitatile sociale si economice, razboaiele, epidemiile – este legat de comportamente umane, sustin cercetatorii care conduc acest proiect. Dar exista o serioasa lipsa de intelegere a manierei in care functioneaza societatea si economia (1).”

FuturICT fusese preselectionat in cadrul celui mai mare program de sustinere a cercetarii lansat vreodata de Uniunea Europeana. Chiar daca, intr-un final, el nu a fost ales pentru o finantare de 1 miliard de euro – UE a preferat sa aleaga pentru finantare alte doua proiecte: proiectul Creierul Uman (Human Brain Project), care urmareste simularea creierului uman, si un studiu despre aplicatiile grafenului in electronica si comunicatii – problemele ridicate de FuturICT raman pe ordinea de zi.

Este vorba, de fapt, de a profita de puterea de calcul a computerelor pentru a uni cunostintele de inginerie cu cele de stiinte naturale si umane in scopul administrarii societatii. Avalansa de informatii creata, printre altele, de dezvoltarea internetului, de multiplicarea captorilor si a schimburilor pe retele asa-zise “sociale”, permite prelucrarea masei de date (Big Data) ale carei aplicatii imaginabile sunt departe de a fi banale. In Statele Unite, agentia  IARPA (Intelligence Advanced Research Projects Activity), insarcinata cu cercetarea in domeniul informatiilor, finanteaza din 2011 un proiect lansat de universitati si de intreprinderi ce urmareste inregistrarea automata a datelor internet in tarile latino-americane pentru “dezvoltarea metodelor [matematice] de anticipare si prevenire a posibilelor revolte”.

Ideea de a folosi metode stiintifice pentru conducerea societatii nu e deloc recenta (2). Dar a trebuit sa asteptam inventia statisticilor pentru a o face operationala. Incepand cu secolul XIX, statele europene isi recenzeaza populatiile si bogatiile in scopul imbunatatirii colectarii impozitelor sau a inrolarii soldatilor. Aceasta necesita crearea unei infrastructuri juridice si materiale, generalizarea diferitelor instrumente, cum ar fi hartile sau cadastrul, omogenizarea unitatilor de masura si a limbii, sau stabilizarea numelor de familie. Pentru a permite exploatarea acestor informatii de catre administratiile centrale, s-a facut apel la marele matematician Pierre Simon de Laplace, care a inventat instrumentele matematice, cum ar fi calculul probabilitatilor, pentru a estima populatia plecand de la date fragmentare.

Dar adevaratul creator al “stiintei” societatii a fost un personaj putin cunoscut, astronomul belgian Adolphe Quételet. Alaturandu-se lui Laplace la Observatorul din Paris, s-a familiarizat cu recensamitele nationale si a fost fascinat de relativa constanta a numarului de sinucideri sau de crime. El a dedus ca imprevizibilitatile individuale se compenseaza atunci cand e adunat un mare numar de indivizi; ca ceea ce este specific speciei umane, in ansamblul sau, poate fi redus la aspecte ce tin de fizica. Asa ca a dorit sa creeze o “mecanica sociala” la fel de precisa ca “mecanica astrelor” a lui Laplace, capabila sa conduca masele umane. Aceasta analiza a regularitatii si predictibilitatii grupurilor sociale a servit ca punct de plecare filosofului si sociologului Emile Durkheim (1858-1917) si stiintei societatii moderne, sociologia.

Pana in “gloriosii ani ‘30”, statele centralizate vor guverna astfel populatii vazute ca grupuri sociale omogene, inlantuite de centre de putere pe criterii administrative pre-definite (varsta, sex, categorie socio-profesionala etc). Apoi, in anii 1980, statul neoliberal renunta la ideea unei societati structurate pe categorii. O priveste mai degraba ca pe o suprapunere de indivizi izolati, “atomi sociali” in concurenta pe piata libera, care ar trebui sa functioneze prin stimulente si premii, asa cum a aratat Alain Desrosières, care a disparut de curand si caruia ii datoram mult in elaborarea acestui text, in pretiosul volum “La Politique des grands nombres. Histoire de la raison statistique” (Politica numerelor mari. Istoria gandirii statistice).

FuturICT combina aceasta conceptie privind “atomii sociali” draga liberalismului cu vechea idee a lui Quételet privind existenta legilor sociale. Chiar unul dintre obiectivele sale este de a “dezvalui legile ascunse care subintind societatea noastra complexa”. Gratie acestuia, vom putea fabrica societati virtuale in care sa fie testate scenarii; aceasta va permite alegerea “celor mai bune”, astfel fiind “prevenite crizele care zguduie lumea cu regularitate”. Este deja posibil sa folosim simulatoare de trafic urban pentru a identifica modul ideal de functionare a semafoarelor masurand fluxul mediu de automobile. Insa Dirk Helbing, unul din cei doi responsabili ai proiectului FuturICT, studiaza o alta abordare: folosind datele privind traficul de automobile, a creat  impreuna cu echipa sa un model de comportament al soferilor, luand in considerare parametri cum ar fi timpul lor de reactie. Facand ca un mare numar de astfel de “soferi-robot” sa interactioneze intre ei in medii ce includeau semafoare coordonate in diferite moduri, el a putut sa studieze timpii obtinuti si sa arate ca, daca semafoarele ar fi capabile sa masoare fluxul masinilor in timp real si sa comunice informatii cu semafoarele vecine pentru a se coordona, am putea anticipa sosirea grupurilor de automobile. Aceasta inginerie “microsociala” poate fi utila in alte domenii: o echipa interdisciplinara de informaticieni, medici si fizicieni a stabilit astfel un model detaliat care sa permita anticiparea epidemiilor de gripa.

Prin FuturICT, aceasta abordare se intinde la toate problemele sociale. Recunoscand ca nu este posibil de creat un model care sa integreze toti locuitorii Terrei pornind de la informatiile legate de viata lor privata, FuturICT prevede, totusi, un “simulator terestru” alimentat de un “sistem nervos planetar”, o retea mondiala de captori inregistrand si centralizand in fiecare secunda miliarde de date individuale si de mediu. In mod ideal, acest simulator ar fi capabil sa replice functionarea societatii, cum este cazul deja al sistemelor fizice complexe, si astfel sa testeze efectele diferitelor politici. Asa cum chimistii pot spune astazi: “Uite, ce se intampla daca amestec cupru cu putin zirconium pentru a imbunatati catalizarea productiei de combustibil?” si ar testa ideea in silicio (pe computer), cercetatorii ar putea spune: “Uite, si daca as creste mobilitatea indivizilor, as putea obtine un societate mai solidara?”.

Totusi, aceste modele atomice, in care fiecare fiinta umana este reprezentata ca un agent economic urmand o regula simpla, de multe ori nu reuseste sa reproduca realitatea. Pentru a ne convinge, e suficient sa ne aplecam asupra sutelor de articole teoretice consacrate simularii “tragediei bunurilor comune”, acele situatii in care interesul personal l-ar impinge pe fiecare sa foloseasca peste masura un bun comun (o pasune comuna, spre exemplu), in detrimentul colectivitatii, toate confirmand dificultatea de a evita depasirea masurii (supra-exploatarea).  Asa cum a aratat un studiu empiric ce i-a adus lui Elinor Ostrom (3) Premiul Nobel pentru economie in 2009, normele comune, legaturile familiale, discutiile fata-n fata joaca un rol-cheie in stabilirea unei cooperari reale destinate sa evite “tragedia”. Or aceste elemente sunt dincolo de ce-si propun aceste simulari…

Analogia cu fizica e inselatoare in mai multe privinte. De fapt, simularile se dovedesc pertinente in masura in care oamenii de stiinta nu folosesc material natural, ci material artificial purificat si controlat in laborator. De altfel, aplicatiile promisiunilor acestor creuzete virtuale sunt inca rare, caci materialele optime sunt dificil de fabricat sau sunt prea scumpe. Rezultatele “simulatorului terestru” nu s-ar aplica deci decat societatilor structurate adecvat astfel incat sa garanteze pertinente “legilor sociale”, cam la fel cum “legile economice” sunt valabile doar intr-o lume nivelata (formatata) de economisti prin monetarizarea valorilor. A crede in aceste legi inseamna a uita ca pietele financiare au fost construite pe baza unui model teoretic considerat ideal si urmand o anumita ideologie (implicita sau nu). In domeniul social, inseamna a refuza sa pui sub semnul intrebarii dimensiunea politica ce justifica normele sociale. Este adevarat ca unul din termenii recurenti in prezentarile acestui proiect este cel de “rezistenta”, care neutralizeaza posibilitatea conflictelor.

In schimb, FuturICT are dreptate pe un aspect esential: importanta pentru comunitatea academica de a-si apropria informatizarea societatii. Un domeniu in care intreprinderile particulare, in special Google si Facebook, au preluat comenzile. Modul in care va fi folosita acesta informatizare pare sa nu poata evolua decat in doua directii: fie puterile computerului vor fi consolidate de un centru care-si va revendica conducerea societatii, fie vor fi dezvoltate instrumente ce vor permite coordonarea inteligentelor risipite pe glob. FuturICT a ales conceptia potrivit careia indivizii simulati reprezinta moleculele unui organism al carui creier se afla in alta parte, imbratisand o strategie de analiza a volumelor masive de date. Iar in spatele Big Data se ascunde Big Brother.

Totusi, daca recunoastem inteligenta persoanelor si nu doar pe cea a institutiilor centralizatoare, o alta lume informatica poate aparea. Deja in 1975 un amator imaginase un program care sa-i ajute pe oameni sa-si administreze o mica baza de date alimentare personala, introducand automat cumparaturile si propunand retete de mancare. Pe atunci tinea de stiintifico-fantastic; astazi, insa, apar programe de computer ce permit fiecaruia sa-si introduca datele, sa le organizeze si sa le comunice firmelor sau administratiilor, pastrand, in acelasi timp, controlul asupra acestora (4). Aceasta abordare e departe de obiectivul prezentat pe pagina de internet a Uniunii Europene: “crearea si lansarea unor observatoare de criza si a unor sisteme de sustinere a procesului decizional pentru responsabilii comerciali si decidentii politici”, care ar defini o ciudata democratie…

controlling

Supravegherea algoritmilor

Le Monde, 02 noiembrie 2013

Hubert Guillaud

Din ce în ce mai des, algoritmii decid relația noastră cu lumea. Fie pentru a ne pune în contact cu alte persoane pe site-urile de întâlniri sau pentru a estima capacitatea noastră de credit, pentru a ne orienta în oraș, prin intermediul GPS-ului sau chiar pentru a ne permite să retragem bani de la un bancomat ... algoritmii s-au infiltrat viața noastră de zi cu zi fără acordul nostru si moduleaza relatia noastra cu lumea, fără ca noi să fim cu adevărat conștienți de existența lor, de amploarea acțiunii lor, de puterea lor și de criteriile pe care le folosesc pentru a decide asupra vieții noastre, în locul nostru. Și fără ca noi să avem prea multe posibilități de a refuta sau a interveni asupra acestor criterii. “Prea adesea, calculatorul este cel care decide!”

A înțelege modul în care funcționează algoritmii care ne guvernează nu este totuși numai de resortul specialiștilor, estimează jurnalistul Frank Swain (@ SciencePunk). Într-una din ultimele postări de pe blog-ul său Future Exchange de pe Medium, acesta revine într-un mod foarte concret asupra felului în care algoritmii ne guvernează, aratând cum putem încerca să înțelegem procesările ale căror obiect suntem.

Frank călătorește în lumea întreagă … Și trebuie spus, algoritmului care supraveghează mișcările din contul său bancar, nu-i prea place. Cartea sa bancară de retragere a fost iar refuzată. El nu știe de ce … și nu poate ști de ce. Toată problema asta e!

Dansând cu algoritmii silențioși

De fiecare dată când retragem bani, automatul bancar trebuie să decidă dacă retragerea este autorizată, dacă este “normală”. El trebuie să decidă dacă într-adevăr noi suntem cei care retragem banii. Cartea noastră, codul nostru bancar nu sunt decât talismane pentru a face apel la un creier electronic complex situat undeva într-un centru de date cu aer condiționat. El este veritabilul administrator al ghișeului și el este cel care trebuie să-mi aprobe tranzacția pentru ca aceasta să fie autorizată. De fapt, cartea noastră și codul nostru nu sunt atât de importante pentru acest creier electronic.

“Ceea ce consultă înainte de toate este o vastă bază de date de înregistrări care include locația mea presupusă, tranzacțiile mele recente, tipul de tranzacție pe care îl cer, timpul care a trecut de la ultima tranzacție, suma pe care o cer, data acestei tranzacții și zeci de alte măsuri de care eu nu sunt conștient. Cântărește fiecare din acești factori și decide dacă eu sunt într-adevăr cel care pretind a fi. Le cântărește și decide să-mi dea sau nu banii mei”.

De fapt, aceste înregistrări, oricât de factuale sau minimale ar fi, prin acumulare, desenează o bază de date de comportamente, bazată pe analiza acestor înregistrări. Activitatea este o alternativă la identitate.

Problema este că atunci când algoritmul respinge tranzacția, mașina nu ne spune niciodată de ce.

“Acest lucru înseamnă că suntem în mod constant angajați într- un fel de dans cu algoritmul, un dans în care nu pot auzi muzica și în care singura reacție pe care o primesc este atunci când calc pe picioarele partenerului meu”.

Noi nu cunoaștem nici regulile algoritmilor, nici momentul în care acestea sunt modificate ... Singurul noastru reper consistă în observarea prin încercare/eroare, pentru a afla ceea ce nu-i convine. Noi învățăm dansând!

Și Frank Swain se referă la lucrările lui Timo Arnall (în special prin lumea vizibilă prin roboți) și ale lui James Bridle (a se vedea prezentarea sa de la Lift despre cum scriem cu mașinile) care ne explică cât de mult sunt în prezent viețile noastre influențate de tehnologie, nu numai de obiectele pe care le folosim în fiecare zi, dar și de sistemele invizibile care ne înconjoară și aceste arhitecturi modelează modul nostru de viață.

“Trăim în interiorul unor sisteme invizibile la fel de comune ca formularele de asigurare, cererile de împrumut, de locuri de muncă, de întâlniri … și încercăm să ne adaptăm la ele în mod conștient furnizând informațiile pe care le considerăm a fi cele mai pertinente sau cel mai puțin greșit interpretate de către aceste sisteme”.

Dar mașinile nu înțeleg foarte bine normalitatea, dincolo de o curbă statistică la care comportamentul meu trebuie să se conformeze. Munca noastră consistă deci în a ghici forma acestei curbe, estimează Frank Swain. Algoritmii bancari sunt concepuți pentru a detecta tranzacțiile frauduloase și nu-și împărtășesc secretele alarmelor de teamă că le-am putea conturna. Cu toate acestea, criminalii, în cele din urmă, nu știu ei mult mai multe lucruri despre acești algoritmi decât publicul? Nu știu ei mai bine decât noi să navigeze în creierul acestor mașini pentru a goli conturile noastre bancare?

Frank Swain a descoperit astfel că anulase o tranzacție la un distributor din Barcelona, deși banca sa îl acceptase, ceea ce explică faptul că retragerile ulterioare i-au fost refuzate … Se pare că acest comportament este condamnabil pentru mașină. Desigur, aceasta nu este mult, dar Frank a învățat un pas de dans în plus cu algoritmul. Desigur, acest pas de dans este destul de nesigur și arată probabil și limitele acestei tehnici prin încercare/eroare. Am ținut bine cont de parametrul pertinent? Aparatul a detectat într-adevăr această legătură logică? Făcând aceste raporturi, singuri si izolați, nu este sigur că vom reuși să păcălim algoritmii, dar cine știe, poate că dacă ne punem mai mulți…

 Ingineria inversă

Suntem obligați să constatăm că nu suntem atât de nepuntincioși în a înțelege algoritmii. Pentru a cunoaște șmecheriile lor, există o metodă simplă, spune Nicholas Diakopoulos (@ndiakopoulos) la The Atlantic: ingineria inversă! Adică să determini funcționarea unui sistem prin studierea răspunsurilor sale făcând să varieze semnalurile de intrare. Să facem din algoritmi terenul nostru de analiză, ne invită jurnalistul. Și să ne amintim că este deja cazul. La Wall Street Journal, o echipă de jurnaliști a testat niște platforme de e-commerce pentru a identifica prețurile dinamice (Vezi articolul nostru: “A căror procesări suntem noi pradă?“). Pentru Daily Beast, Michael Keller s-a uitat la funcția de corectare ortografică a iPhone-ului pentru a vedea cuvintele care nu erau în corector, cele pe care Apple nu vrea să le folosiți, ca de exemplu cuvintele “avort” sau “sinucidere”. Pentru Slate, Nicholas Diakopoulos a observat criteriile editoriale îmbarcate în algoritmii de autocompletare ale motoarelor de căutare Bing și Google, pentru a determina cuvintele cenzurate și marjele de eroare ale sistemelor de filtrare. La Harvard, Latanya Sweeney de la Data Privacy Lab, a pus în lumină discriminarea rasială din publicitatea online.

” Toate aceste povești au în comun mai mult sau mai puțin aceeași metodă. Algoritmii sunt cutii negre expunând intrări și ieșiri dar fără a trăda nici cel mai mic organ intern al lor. Nu poți vedea în mod direct ce se întâmplă în interiorul lor, dar dacă puteți varia intrările în diferite feluri și să acordați atenție rezultatelelor, puteți începe să adunați unele concluzii pentru a înțelege modul în care algoritmul transformă fiecare intrare în ieșire. Cutia neagră începe să divulge câteva secrete”.

Desigur, corelațiile constatate nu înseamnă neapărat intenție. Încă mai trebuie aprofudate motivele și intențiile de concepție din spatele algoritmilor. Având în vedere creșterea dominației algoritmilor asupra societății, este esențial să se facă lumină în continuare asupra acestor sisteme care nu oferă prea multă transparență sau claritate …

 Opacitatea : otrava

Sistemele noastre socio – tehnice nu sunt foarte transparente. Aceasta este ceea ce arată James Bridle (@jamesbridle), în foarte stimulantul său mic eseu despre videosupraveghere publicat de Matter, Ring of Steel, în care menționează sistemele de camere de supraveghere dedicate cu lectură automată a plăcilor de înmatriculare (LAPI) implementate în Marea Britanie și Statele Unite, dintre care cel mai cunoscut este cel care face să funcționeze peajul urban din Londra (supravegheat de aproape 700 de camere ).

Aceste rețele de videosupraveghere sunt foarte puțin documentate. “Aceasta opacitate este deliberată” își amintește Bridle, poliția refuzând să livreze amploarea rețelei sale de supraveghere rutieră. Deși există unele inițiative cetățenești pentru a documenta locația camerelor de luat vederi, cei mai mulți cetățeni nu știu exact cum este folosită tehnologia. Instalată pentru a detecta mașini furate, a controla traficul sau chiar a-l factura, aceste LAPI introduc o discretă supraveghere în masă, prin care orice mașină devine suspectă. De fapt, legislația britanică nu consideră aceste înregistrări de numere de plăci mineralogice ca fiind date cu caracter personal. Datele de înregistrare (fotografii ale vehiculelor cărora sunt asociate numere de plăci) sunt accesibile timp de 90 zile tuturor celor care sunt acreditați în acest scop, fără ca o hotărâre judecătorească să fie necesară pentru a avea acces la ele.

Pentru moment, nici un studiu nu a cuantificat eficacitatea lor nici nu a măsurat nivelul de supraveghere pe care îl generează. Totuși, contrar a ceea ce se crede, sistemul pus în funcțiune nu este numai un sistem de supraveghere în timp real. Istoricul înregistrărilor este folosit mai mult decât alertele în timp real și multe alte tehnici au fost imaginate pentru a face datele să vorbească. Analiza convoaielor vă permite astfel să căutați în baza de date dacă un alt vehicul a făcut același traseu ca și dumneavoastră. Sistemul generează , de asemenea, un raport de trasee imposibile pentru a detecta plăcile mineralogice care crează probleme și generează alerte … Alte investigatii algoritmice sunt, de asemenea, posibile cum ar fi predicția permițând să fie reintrodusă o supraveghere umană pe o țintă care a dispărut sau să fie analizat locul unde o mașina în infracțiune ar putea merge pentru a o intercepta … La Londra, sistemul generează mai multe alerte decât poate poliția trata. Datele colectate de aceste sisteme sunt sărace la prima vedere : un număr de placă, un loc și o oră, și o imagine care nu este pasionantă. Dar analiza și regruparea acestora permite detectarea unor corelații cu mult superioare efectului lor inițial.

Pe scurt, “rețeaua aceasta nu este numai o rețea de identificare în timp real, ci este un sistem pervaziv de supraveghere algoritmică, conchide Bridle. Recent, o companie de investigații privată americană, TLO, a deschis un serviciu care permite oricui să aibă acces la înregistrările legate de un număr de înmatriculare, în schimbul a câtorva dolari (vezi NBCNews). În 2010, Mike Katz – Lacabe, un consultant din San Leandro, California, a cerut datele sale la poliție și a primit un raport conținând 112 imagini cu vehiculului său permițând cel mai adesea identificarea ocupanților (a se vedea reportajul foarte complet al Wall Street Journal pe această temă).

Problema acestor sisteme este faptul că înregistrează date fără un motiv predeterminat, afirmă Bridle. Aceste tehnologii de analiză fac din retenția de informații opțiunea standard … Și James Bridle amintește că legea britanică privind datele cu caracter personal a fost concepută într-un moment în care s-a pus accentul pe accesul la date, nu pe interogări algoritmice. Bineînțeles, sistemul se confruntă cu derive. Bridle de exemplu povestește cazul unui om arestat de 25 de ori sub diferite pretexte. De fapt, inițial, era pentru că placa sa mineralogică a fost reperată în preajma unei manifestații împotriva vânătorii ! Iată o utilizare suplimentară a acestei rețele. De fapt, consideră Bridle bazându-se pe aceste directive interne ale poliției, ​​supravegherea și urmărirea vehiculelor asociate demonstrațiilor publice nu sunt o rutină, dar sunt încurajate în mod activ de către poliție. Dar toate acestea nu au putut fi documentate decât pentru că oamenii afectați de aceste sisteme tehnice le raportează … Infractorii știu mai bine decât alții să conturneze aceste sisteme : modificându-și plăcile ca să fie mai puțin lizibile de captoarele infraroșii, folosind hărți ale acestor camere ca să-și schimbe itinerariile de conducere sau producând daune sistemelor, mai ales în anumite puncte.

“Acestea sunt legi care scutesc datele vehiculelor de protecția necesară a confidențialității, și tot aceste legi nu menționează posibilitatea foarte reală de hărțuire, de invadare a vieții private și de arestare ilegală devenită posibilă datorită acestor sisteme, ceea ce reprezintă riscurile inerente ale unei acoperiri în sisteme automatizate de supraveghere” , avertizează Bridle.

Înțelegerea a ceea ce se întâmplă în aceste sisteme de supraveghere este imposibilă fără vizibilitate.

“Atunci când există o presiune de a întuneca o infrastructură – camuflarea camerelor, închiderea rețelelor, sau restrângerea libertății de cerere de informații – o presiune corespondentă este exercitată asupra democrației pe care pretinde a o apăra”.

Forbes raporta recent că un hacker, @PukingMonkey, a demonstrat că badge-urile electronice de peaj fără contact folosite în New York, e – Zpass, nu erau citite numai la barierele de peaj … sub pretext de a ajuta autoritatea de transport să cunoască mai bine condițiile de trafic (fără ca acest lucru să fi fost precizat în condițiile de acces la serviciu). Instalând un captor luminos la pass-ul său pentru a ști când badge-ul i-a fost citit, Puking Monkey a făcut o demonstrație foarte vizuală (video) a modului în care suntem citiți în prezența noastră …

Din nou, în lipsa transparenței din partea serviciilor de proiectare, ingineria inversă pare a fi efectiv una din puținele noastre arme pentru a lupta împotriva algoritmilor și sistemelor tehnice opace. Totuși, pentru a fi eficace, ea va trebui să fie mai colaborativă decât cea schițată de lansatoarele de alerte …

traducere pentru razbointrucuvant de C.C.

digital-signage screens

Lasă un răspuns

Completează mai jos detaliile despre tine sau dă clic pe un icon pentru autentificare:

Logo WordPress.com

Comentezi folosind contul tău WordPress.com. Dezautentificare / Schimbă )

Poză Twitter

Comentezi folosind contul tău Twitter. Dezautentificare / Schimbă )

Fotografie Facebook

Comentezi folosind contul tău Facebook. Dezautentificare / Schimbă )

Fotografie Google+

Comentezi folosind contul tău Google+. Dezautentificare / Schimbă )

Conectare la %s