Drieu Godefridi. Chat Control: ES planas stebėti visas jūsų žinutes
Tai dar vienas reguliacinio imperializmo pavyzdys, būdingas nekompetentingiems žmonėms, kurie šiandien valdo ES. Europoje ginčai dėl vadinam...
Europoje ginčai dėl vadinamojo „Chat Control“ projekto – oficialiai ES siūlomo reglamento, kurio tikslas yra kovoti su vaikų seksualinio išnaudojimo medžiaga – jau kelis mėnesius kelia didžiulį pasipriešinimą technologijų ir pilietinės visuomenės srityse.
Pagrindiniai šio teisės akto principai yra aiškūs:
„Aptikimo programinė įranga būtų įdiegta į žinučių programą arba operacinę sistemą, kad nuskaitytų pokalbių turinį ir automatiškai perduotų bet kokią medžiagą, pažymėtą kaip draudžiamą, teisėsaugos institucijoms.“
Automatinis privačiojo turinio (tekstų, vaizdų, vaizdo įrašų), siunčiamo per žinučių platformas, pvz., „WhatsApp“ ir „Telegram“, arba į AI platformas (pvz., „ChatGPT“) siunčiamų užklausų nuskaitymas vyktų „kliento pusėje“, prieš šifravimą, t. y. tiesiogiai jūsų telefone, planšetiniame kompiuteryje ar kompiuteryje. Sveiki atvykę į 1984 m. Pirmajame 2022 m. pokalbių kontrolės projekto pasiūlyme toks nuskaitymas buvo privalomas. Dabartiniame pasiūlyme jis yra neprivalomas, bet labai rekomenduojamas.
Kai tik kyla noras išplėsti kontrolę Europos piliečių atžvilgiu, prisimenamas „terorizmas“ arba pedofilija. Tai protinga taktika: kas norėtų būti laikomas teroristų rėmėju arba pedofilų simpatiku?
Tačiau, žinoma, tai neatrodo esąs tikrasis reglamento tikslas. Tikroji problema, atrodo, yra vyriausybės noras kontroliuoti, reguliuoti, prižiūrėti ir stebėti Europos piliečius iki mažiausio jų žingsnio.
Neišrinkta, neskaidri ir neatskaitinga ES nesirūpina jūsų laisve, jos kovoja prieš ją (to pavyzdžiai čia ir čia).
Kodėl daugelis ekspertų mano, kad automatinis aptikimas yra pavojingas
Pagrindiniai techniniai apribojimai
Kai kurie žymiausi Europos kibernetinio saugumo ir privatumo tyrėjai pasirašė atvirą laišką, kuriame įspėja, kad „kliento pusės nuskaitymo“ (turinio nuskaitymo vartotojo įrenginyje) plėtra atveria kelią masiniam stebėjimui. Tai švelnus teiginys: dešimčių milijonų vartotojų pranešimų nuskaitymas, pagal apibrėžimą, yra masinis stebėjimas.
Pradiniame ES pasiūlyme buvo reikalaujama nuskaityti visas žinutes ES – be išimčių. Susidūrusi su didžiuliu pasipriešinimu, ES grįžo su dokumentu, kuris tik leidžia – bet neįpareigoja – taikyti tą pačią praktiką. Siunčiate žinutę savo vaikui ar galbūt bankui? Jūsų žinutė nuskaitoma. Siunčiate užklausą ChatGPT? Nuskaitoma. Jūsų gyvenimas yra nepertraukiamas nuskaitymas, ir viskas, ką įvedate ir kas stebėjimo programinės įrangos laikoma „draudžiamu“, perduodama teisėsaugos institucijoms.
100 % skaidrumas; 100 % kontrolė: kiekvieno totalitarinio projekto nuo XX a. leitmotyvas.
Akademiniame tyrime „Bugs in Our Pockets: The Risks of Client-Side Scanning“ (Blakės mūsų kišenėse: kliento nuskaitymo rizika) įspėjama apie šio metodo pavojus. Cornell universiteto autorių teigimu, nuskaitymas „neužtikrina efektyvios nusikaltimų prevencijos, neapsaugo privatumo“. Tyrimas rodo, kad tokia sistema gali būti apeita, netinkamai naudojama ar užtvindyta klaidingais teigiamais rezultatais bei sukurti naujas saugumo spragas.
Akivaizdu, kad šie algoritmai negali patikimai atskirti nekaltų pokalbių nuo neteisėto elgesio. Ši problema ypač aktuali rašytiniams pokalbiams, kur kontekstas, ironija, sarkazmas ar šeimos keistenybės gali lengvai sukelti klaidingą interpretaciją. Pavyzdžiui, paimkime naujagimį, kuris dažnai būna nuogas. Nusiųskite savo kūdikio nuotrauką giminaičiui, ir algoritmas gali pranešti apie jus valdžios institucijoms kaip apie pedofilą, kuriuo, jo manymu, esate. Policija jau paruošusi išsiųsti laišką, kuriame jūs kviečiamas paaiškinti „vaikų pornografiją“, kurią tariamai platinate.
Masiniai klaidingi teigiamieji rezultatai – ir jų pasekmės
Anksčiau minėto atviro laiško autoriai teigia, kad šis nesugebėjimas teisingai analizuoti komunikaciją gali lengvai įtraukti milijardus teisėtų privačių pokalbių dalyvių į didžiulį tinklą.
Aš esu laimingas 18 mėnesių mergaitės tėvas. Dėl profesinių priežasčių jos motina ir aš ne visada gyvename kartu, todėl nuolat keičiamės savo dukters nuotraukomis – iki dešimties kartų per dieną. Pakanka, kad algoritmas vieną kartą pažymėtų bet kurią nuotrauką, ir mes taptume įtariamaisiais, tyliai patektume į begalę kriminalinių duomenų bazių, pateisinančių stebėjimą, oficialų įsikišimą ir dar daugiau. Net Rytų Vokietijos Stasi niekada nesvajojo apie tokią galią.
Problema dėl klaidingų teigiamų rezultatų (false positives) jau buvo pastebėta esamose pranešimų sistemose: atostogų nuotraukos, pavyzdžiui: vaikai, žaidžiantys paplūdimyje, automatiškai pažymimi, kas sukelia nepagrįstas procedūras, tyrimus ar informacijos nutekėjimą, atskleidžiantį nekaltų žmonių privatų gyvenimą. Šie atvejai iliustruoja plačiai paplitusios orveliškos policijos veiklos pavojų: kaltės prezumpciją.
Šifravimo ir bendro saugumo pažeidimas
Pagrindinis privatumo gynėjų ir saugių žinučių paslaugų teikėjų – „WhatsApp“, „Telegram“, „Signal“ ir kitų – prieštaravimas yra tai, kad nuskaitymas iš esmės pažeidžia visapusišką (end-to-end) šifravimą. Iš tiesų, jis jį panaikina.
Kokia prasmė šifruoti tai, kas jau yra stebima? Šis siūlomas ES reglamentas iš esmės paverčia bet kurį telefoną ar kompiuterį stebėjimo ir įsibrovimo į privatumą priemone. „Siri, pasakyk man: kiek valstybės tarnautojų skaito mūsų pokalbius?“ Žinoma, tik prevenciškai: kovai su blogiu.
Kai kurios įmonės, pavyzdžiui, „Signal“, grasina palikti ES, neišduodamos šifravimo. Tačiau norint paveikti Europos Komisiją reikia kur kas daugiau: juk Europos ekonomika klesti taip „puikiai“, kad ji gali lengvai sau leisti išvaryti geriausias pasaulio įmones.
Naujausia reglamento projekto versija, pateikta socialistinės Danijos ES pirmininkavimo metu, paverčia skenavimo reikalavimą „savanoriška galimybe“, leidžiančia valstybių narių politinį susitarimą. Šis apsisukimas yra tik greitas kosmetinis pataisymas: pasiūlyme išlaikomi visi mechanizmai, kurie praktikoje įtvirtina plačią, savavališką ir masinę kontrolę. Iš esmės tai yra totalitarinė struktūra.
„Nextcloud“, privatumo ir šifravimo gynimo organizacija, įspėja, kad siūlomas reglamentas kelia „mirtiną grėsmę mūsų demokratijoms“. Jis sukuria infrastruktūrą, leidžiančią masiškai šnipinėt privačius pokalbius, padarydamas juos prieinamus vienu paspaudimu net ir pačiam nereikšmingiausiam valstybės tarnautojui.
Kai kurios pastabos dėl siūlomo reglamento atkreipia dėmesį į korespondencijos slaptumo, pagrindinių laisvių ir teisės į tinkamą teismo procesą pažeidimus. Bus tikrinami advokatų ir jų klientų susirašinėjimai, taip pat „WhatsApp“ žinutės su gydytoju apie erekcijos sutrikimus ar įtariamą vėžį. Pagal apibrėžimą, niekas neišvengia jo atidžios priežiūros. Viskas yra įtartina. Jūs esate įtariamasis.
Deja, nė vienas iš šių prieštaravimų greičiausiai nepakeis rafinuotų Europos Komisijos protų. Ideologai retkarčiais būna nejautrūs realybei, protui ar bet kokioms vertybėms, išskyrus savąsias. ES koridoriuose kontrolė atrodo esanti dominuojanti vertybė. Visi šie žmonės girdi tik jėgą.
Būtent tai ir gali mums grėsti.
Monstriškas reguliavimas
Kadangi dauguma tikslinių interneto ir technologijų paslaugų teikėjų yra amerikiečiai, „Chat Control“, net ir savo nauju veidmainišku „Stasi-lite“ pavidalu, neišvengiamai sukels konfrontaciją su JAV vyriausybe. „Chat Control“ būtų taikomas ne tik komunikacijai, kuri kyla Europoje ir yra skirta Europai, bet ir ES valstybių narių piliečiams, esantiems Amerikos teritorijoje, taip pat komunikacijai iš bet kurios pasaulio vietos į Europą.
Trumpai tariant, žinučių ir AI platformos netrukus neišvengiamai bus priverstos išplėsti „Chat Control“ taikymą visai komunikacijai. Tai dar vienas reguliacinio imperializmo pavyzdys, būdingas nekompetentingiems žmonėms, kurie šiandien valdo ES.
Ar tikrai tikime, kad amerikiečiai toleruos naują represijų bangą iš dekadentinio žemyno, paminančio principus, kurie kadaise darė jo civilizaciją didžia?
Rašyti komentarą