Supravegherea științifică: îndrumarea secretă a Europei spre tehnologia biometrică

 Finanțarea UE pentru știință este cheltuită pentru dezvoltarea de noi instrumente pentru poliție și securitate. Dar cine decide cât de departe trebuie să ne supunem inteligenței artificiale?

 Patrick Breyer nu se aștepta să fie nevoit să ducă comisia europeană în instanță. Europarlamentarul german vorbit cu blândețe a fost surprins când, în iulie 2019, a citit despre o nouă tehnologie pentru a detecta din „micro-expresiile” faciale când cineva minte în timp ce răspunde la întrebări.

 Și mai surprinzător a fost că UE finanțează cercetarea în acest cititor mental virtual printr-un proiect numit iBorderCtrl, pentru o utilizare potențială în poliția frontierelor Europei. În articolul citit de Breyer, un reporter descria efectuarea unui test la granița dintre Serbia și Ungaria. Ea a spus adevărul, dar polițistul de frontieră AI - inteligență artificială en - a spus că a mințit.

Membru al comitetului pentru libertăți civile al Parlamentului European și unul dintre cei patru europarlamentari ai Partidului Pirat, Breyer și-a dat seama că implicațiile etice și de confidențialitate ale iBorderCtrl erau imense. El s-a temut că dacă o astfel de tehnologie - sau așa cum o numește el acum, „hocus pocus de securitate pseudo-științifică "- va fi disponibilă celor responsabili cu poliția frontierelor, atunci oamenii de culoare, femeile, persoanele în vârstă, copiii și persoanele cu dizabilități ar putea fi mai probabil ca alții să fie denunțați în mod fals ca mincinoși.

Folosind legile UE privind transparența, el a solicitat mai multe informații de la comisia europeană cu privire la etica și legalitatea proiectului.

Răspunsul său a fost discordant: acces refuzat, în numele protejării secretelor comerciale.

Așa că Breyer a pornit un proces la Curtea de Justiție a Uniunii Europene (CJUE).

El dorește ca instanța de justiție europeană să decidă că există un interes public primordial în comunicarea documentelor. „Uniunea Europeană finanțează tehnologii ilegale care încalcă drepturile fundamentale și nu sunt etice ", a susținut Breyer.

Cazul lui Breyer, care se așteaptă să vină în fața instanței în 2021, are implicații de anvergură.

Miliarde de euro în finanțare publică revin anual pentru cercetarea tehnologiilor de securitate controversate și cel puțin 1, 3 miliarde de euro în plus vor fi eliberați în următorii șapte ani.

Fețe, voci, vene

 Horizon 2020 este programul emblematic al UE de cercetare și inovare. Din 2014 până în 2020 s-au cheltuit aproape 80 de miliarde de euro pentru finanțarea subvențiilor oamenilor de știință. Concurența pentru banii Horizon este acerbă.

 Se plătește pentru cercetarea unor lucruri precum cancerul colorectal, boala transmisă de țânțari și îmbunătățirea irigațiilor pentru agricultură.

 Anul acesta, finanțarea Horizon a sprijinit compania germană BioNTech, una dintre primele companii care a anunțat succesul în studiile cu vaccin Covid-19. 1, 7 miliarde de euro din program în ultimii șapte ani au sprijinit dezvoltarea de produse de securitate pentru forțele de poliție și agențiile de control la frontieră din sectoarele public și privat.

 O mare parte din acestea implică tehnologie de ultimă oră: inteligență artificială- AI-, drone fără pilot și realitate augmentată, precum și recunoașterea feței, vocii, venelor și irisului și alte forme de biometrie care ar putea fi utilizate pentru supraveghere.

 Consorțiul din spatele tehnologiei de detectare a minciunilor iBorderCtrl a primit 4, 5 milioane EUR din portofoliul de securitate Horizon 2020 și a petrecut cei trei ani până în august 2019 dezvoltându-l și testându-l.

 Acesta este format din 13 parteneri, inclusiv Centrul pentru Studii de Securitate din Grecia, Universitatea Leibniz din Hanovra și companii de tehnologie și securitate precum BioSec din Ungaria, Everis din Spania și JAS din Polonia.

 Oficialii UE spun că o astfel de inovație este crucială pentru a face față criminalității, terorismului și dezastrelor naturale.

 Scopul strategic este de a consolida companiile de securitate ale blocului pentru a concura cu SUA, Israel și China.

 Există o îngrijorare în ceea ce privește obiectivele, supravegherea publică și influența percepută a intereselor corporative asupra componentei de securitate pe viitor. Șapte experți etici actuali și foști care lucrează la proiecte de securitate finanțate de UE și-au exprimat îngrijorarea în interviurile cu The Guardian.

 Ei s-au întrebat dacă unele cercetări susținute de Horizon 2020 au fost cu adevărat în interes public.

 O preocupare majoră în rândul eticienilor este că examinarea și critica par să fie ignorate în încercarea de a aduce pe piață noile tehnologii, chiar și atunci când tehnologiile ridică preocupări clare privind confidențialitatea și libertățile civile.

 Puțin din acest lucru este făcut public.

 La fel ca Breyer, lui The Guardian i s-a refuzat accesul de către comisie la documente privind activitățile, legalitatea și etica a peste o duzină de proiecte de securitate Horizon 2020, pe motiv că eliberarea acestora ar putea submina securitatea publică și „protecția intereselor comerciale ".

Interese corporative

 Investițiile la scară largă efectuate de UE de la începutul anilor 2000, după 11 septembrie, invazia Irakului și o creștere a atacurilor teroriste interne. Liderii UE, îngrijorați de greve viitoare, precum și de bandele de crimă organizată și de securizarea frontierelor, au extins foarte mult cooperarea cu industria europeană de apărare. 
 În 2004, instituțiile UE au lansat un program de cercetare în domeniul securității prin reunirea unor oficiali înalți din ministerele naționale de interne și agenții de aplicare a legii, alături de corporații multinaționale de arme și IT, cum ar fi BAE Systems, Finmeccanica (acum Leonardo), Siemens AG și compania franceză de apărare și aerospațială Thales . Acest program ar pune bazele finanțării de securitate a Orizont 2020, care s-a concentrat din ce în ce mai mult pe dezvoltarea biometrică și a altor tehnologii de supraveghere.

 Burgess a subliniat rolul jucat de interesele corporative. „Deja în faza pregătitoare a existat o mare implicare a industriei”, a spus el. Dar a existat o presupunere comună în rândul participanților din sectoarele public și privat că „gadgeturile te fac mai sigure - arme mai mari, pereți mai înalți, biometrie”. El a adăugat: „Încă de la 11 septembrie și de la atacurile teroriste de la Madrid în 2004 și Londra în 2005, este o afacere mare”.

 Cifrele compilate de The Guardian din înregistrările disponibile publicului sugerează că Horizon 2020 a fost deosebit de benefic pentru sectorul privat: din 2007, companiile private au primit 42% din 2,7 miliarde de euro distribuiți de programul de cercetare în domeniul securității - aproape 1,15 miliarde de euro. De asemenea, au fost partenerul principal în aproape jumătate din cele 714 de proiecte finanțate. Alți participanți, cum ar fi institutele de cercetare și organismele publice, se află în urmă.

„Aceasta a fost abordarea comisiei, în bine sau în rău: să facem ceea ce este mai bun pentru Europa”, a spus Burgess. „Nu era un sistem secret, corupt, era o politică publică”.

 În timp ce deciziile finale privind finanțarea sunt luate de oficialii naționali și ai UE, un organism numit Grupul consultativ pentru protecție și securitate (PASAG) oferă consiliere cu privire la programele anuale de cercetare în domeniul securității, care stabilesc tipurile de cercetare care vor fi finanțate.

 Criticii ridică întrebări în ceea ce privește responsabilitatea pentru îndrumarea direcției cercetării de securitate finanțate de UE. PASAG are 15 membri proveniți în principal din sectorul privat și din instituțiile de cercetare din întreaga Europă. Documentele publice ale Comisiei Europene sugerează contribuția PASAG la stabilirea priorităților de cercetare și la promovarea legăturilor dintre programul existent de cercetare în domeniul securității și noile finanțări pentru tehnologia militară.

 Zece membri PASAG și-au declarat interese legate de activitatea lor la Horizon 2020, arată documentele publice înregistrate la comisie. Grupul este condus de Alberto de Benedictis, fost director executiv al diviziei britanice Leonardo, o companie italiană de apărare care a participat la 26 de proiecte și a primit 11,3 milioane de euro din bugetul UE pentru cercetare în domeniul securității din 2007. De Benedictis s-a alăturat PASAG în 2016 , după ce s-a retras de la Leonardo anul trecut. Un alt membru conduce o firmă de consultanță, MSB Consulting, care lucrează cu sectoarele de apărare și securitate și ai cărei clienți sunt listați ca companii de securitate, precum și cu comisia europeană și EDA - Agenția europeană de apărare -. Un alt membru PASAG lucrează pentru Universitatea Louvain din Belgia, care a primit milioane de la Horizon 2020 și alte programe de securitate de-a lungul anilor.

 În prezent, doar unul dintre cei 15 membri lucrează pentru o organizație a societății civile și niciunul nu a declarat afiliere la organizații pentru drepturile omului sau etică. 

 Un purtător de cuvânt al comisiei europene a spus: „Componența PASAG reflectă cea mai largă reprezentare posibilă”. Aceștia au spus că "niciunul dintre interesele declarate ale membrilor grupului nu poate „compromite (sau să fie perceput în mod rezonabil ca fiind compromisor) capacitatea expertului de a acționa independent și în interes public”.

 De Benedictis a spus că PASAG a oferit doar direcții la nivel înalt și că implicarea industriei în grup nu a reprezentat un conflict de interese. „PASAG, la fel ca alte grupuri consultative de experți, a fost format de comisie pentru a se asigura că ar putea accesa expertiza în tot spectrul de părți interesate care contribuie la succesul programului de cercetare”, a spus De Benedictis. „Industria este una dintre aceste părți interesate, la fel ca universitățile, institutele de cercetare și departamentele și agențiile guvernamentale care reprezintă comunitățile de practicieni.”
El a subliniat că responsabilitatea pentru prioritățile de finanțare a cercetării revine guvernelor. „Statele membre sunt în cele din urmă factorii de decizie.”

 Jean-Luc Gala, fost ofițer al armatei belgiene și academician la Universitatea din Louvain, specializat în arme bio, a respins, de asemenea, orice conflict de interese. Gala a sugerat că experții din industrie și din domeniul securității academice care sfătuiesc comisia cu privire la proiectele de tehnologie de securitate au fost net pozitive. 

 PASAG a avut un rol colectiv în care nu a existat „niciun loc pentru puncte de vedere individuale și nici oportunitate de a stimula un interes individual”, a adăugat el.

 Un purtător de cuvânt al Universității din Louvain a spus: „Profesorul Gala nu se află la acest grup consultativ ca reprezentant al universității, ci a fost invitat datorită expertizei sale științifice. Universitatea consideră că contribuția la grupurile de consultanță științifică la nivel național și internațional este o parte importantă a misiunilor personalului nostru academic. ”

 Iskra Mihaylova, un europarlamentar din Bulgaria care lucrează la legislația pentru Horizon Europa, succesorul programului Horizon 2020, a susținut că implicarea industriei este inevitabilă. „Dacă sunteți în căutarea unei persoane competente, el sau ea are experiență în acest domeniu”, a spus ea.

Se folosesc de motivul COVIT

 În următorii șapte ani (2021-27), Horizon 2020 va fi rebrănduit sub Horizon Europa, cu un buget global estimat de 86 miliarde EUR și o finanțare de securitate de aproximativ 1,3 miliarde EUR.

 Cu toate acestea, un buget complementar de cel puțin 8 miliarde EUR va fi destinat cercetării și dezvoltării tehnologiilor militare. Scopul explicit este finanțarea tehnologiilor cu dublă utilizare cu aplicații civile și militare, iar o serie de proiecte preliminare cum ar fi „roiurile” de drone fără pilot și alte dispozitive de supraveghere.

 Lupta împotriva Covid-19 a accelerat și mai mult impulsul guvernelor europene de a dezvolta tehnologii de supraveghere, inclusiv utilizarea fără precedent a supravegherii dronelor, urmărirea datelor, recunoașterea facială și alte forme de biometrie pentru aplicarea carantinei și urmărirea contactelor. 

 Polonia, de exemplu, a lansat o aplicație care solicită cetățenilor aflați în carantină să încarce selfie-uri pe tot parcursul zilei pentru a dovedi că stau acasă. Aplicația se bazează pe tehnologia de localizare și recunoaștere facială și notifică poliția atunci când utilizatorii nu răspund.

 Recunoașterea facială sau algoritmii de poliție bazate pe AI sunt notorii pentru întărirea prejudecăților rasiale și de altă natură. Aplicațiile naționale de urmărire Covid nu au fost finanțate de Horizon, totuși unii cercetători care lucrează sau au lucrat la proiecte susținute de UE se tem de o cursă finanțată de UE pentru a dezvolta și testa noi tehnologii biometrice și alte tehnologii de securitate, mai ales într-un moment în care temerile privind sănătatea publică au a determinat mulți europeni să fie mai toleranți.

 Se pune întrebarea: cine decide cu ce tip de supraveghere guvernamentală ar trebui să trăiască europenii?

 Deocamdată nu este clar cât de eficientă este finanțarea UE în introducerea pe piață a unor noi produse de securitate și, în unele cazuri, se pare că nu respectă propriile sale legi.

 Site-ul web al proiectului iBorderCtrl a declarat că unele dintre tehnologiile sale „nu erau acoperite de cadrul juridic existent -UE nr-”. European Dynamics Luxembourg, compania principală din consorțiul iBorderCtrl, nu a răspuns solicitărilor pentru The Guardian de a oferi lămuriri.

 Cu toate acestea, nu există o modalitate semnificativă pentru publicul european de a rămâne informat, cu atât mai puțin să aibă o dezbatere dacă își doresc ca banii din impozite să contribuie la biometria orwelliană și la alte tehnologii de supraveghere. 

 La fel ca Breyer, The Guardian a solicitat (conform legislației UE privind transparența) accesul la zeci de documente produse de 15 proiecte finanțate de Horizon 2020 care urmăresc dezvoltarea de noi forme de tehnologie biometrică. Acestea au inclus analize etice și juridice ale fiecărui proiect. Dar, după luni de așteptare și depunerea contestațiilor, s-a spus că multe dintre rapoartele de activitate și unele dintre rapoartele de etică trebuiau să rămână confidențiale din motive de securitate și protecția intereselor comerciale.

 Breyer a spus că i se pare ciudat că un europarlamentar ar trebui să dea în judecată UE pentru a obține informații despre un proiect finanțat din fonduri publice. „Nu vor lansa critici asupra acestui proiect, deoarece nu îi vor ajuta să vândă tehnologia”, a sugerat Breyer. „Este acesta un motiv legitim pentru UE, pentru o autoritate publică, să refuze informațiile?”

 Mihaylova, europarlamentarul bulgar, a fost de acord că trebuie să existe mai multă transparență în programul de cercetare. Dar ea a argumentat: „Nu putem opri tehnologia. Trebuie să lucrăm la echilibrul dintre ambele părți ale acestui proces ”pentru a încerca să contracarăm pericolele pe care le prezintă noile dispozitive de supraveghere.

 Pentru Breyer, există o întrebare mai mare în joc, referitoare la cine decide ce fel de dezvoltare tehnologică este cu adevărat în interesul public. „Vrem să finanțăm aceste tehnologii dubioase?” el a intrebat. „Aceasta este o decizie care ar trebui luată democratic”.