Aksioni mbi imazhet e abuzimit seksual është i vonuar, kurse propozimet e Apple-it sjellin rreziqe të tjera

Javën e kaluar, Apple-i nxori dy të fshehta në SHBA për kriptimin që mbron pajisjet e saj.

Njëra do të monitorojë iMessage ku nëse ndonjë fotografi e dërguar nga një person nën 13 vjeç duket se përmban lakuriqësi, përdoruesi mund të sfidohet dhe prindërit e tyre mund të informohen.

E dyta, do të shohë që Apple-i të skanojë të gjitha imazhet në rrotullën e kamerës së një telefoni dhe nëse ato janë të ngjashme me imazhet e njohura të abuzimit seksual, i shënojnë ato si të dyshuara.

Nëse mjaft imazhe të dyshimta rezervohen në një llogari iCloud, ato do të deshifrohen dhe inspektohen. Nëse Apple-i mendon se ato janë të paligjshme, përdoruesi do të raportohet tek autoritetet përkatëse.

Veprimet në qarkullimin e imazheve të abuzimit seksual ndaj fëmijëve janë prej kohësh të vonuara.

Mekanizmat efektivë për të parandaluar ndarjen e imazheve dhe ndjekjen e fuqishme të autorëve të krimit duhet të marrin përparësinë politike që meritojnë. Por masat e propozuara të Apple-it nuk arrijnë të trajtojnë problemin dhe të sigurojnë arkitekturën për zgjerimin masiv të mbikëqyrjes shtetërore.

Historikisht, ideja e skanimit të pajisjeve të klientëve për dëshmi të krimit vjen nga Kina. U prezantua në vitin 2008 kur një sistem i quajtur Green Dam u instalua në të gjithë kompjuterët e shitur në vend. Ai u përshkrua si një filtër pornografik, por qëllimi i tij kryesor ishte të kërkonte fraza të tilla si “Falun Gong” dhe “Dalai Lama”. Ai gjithashtu i bëri kompjuterët e përdoruesve të tij të prekshëm nga kontrolli në distancë.

Trembëdhjetë vjet më vonë, firmat teknologjike në Kinë janë plotësisht të nënshtruara ndaj shtetit, përfshirë Apple-in, i cili mban të gjitha të dhënat iCloud të klientëve të tij kinezë në qendrat e të dhënave të drejtuara nga një kompani shtetërore.

Është e ndërlikuar të skanosh fotografi në madhësinë e kërkuar sa për të zgjidhur problemin.

Së pari, nëse një program bllokon vetëm kopjet e sakta të një imazhi të njohur si ilegal, njerëzit mund ta modifikojnë atë. Njerëzit më pak të aftë mund të dalin dhe të bëjnë imazhe të reja, që në rastin e imazheve të abuzimit seksual, do të thotë krime të reja.

Pra, një censurues dëshiron software që etiketon imazhe të ngjashme me ato në listën e bllokut. Por ka alarme të rreme dhe një sistem i vogël i këtij lloji që do të funksionojë në një telefon mund të ketë një normë gabimi deri në pesë për qind. Duke aplikuar atë normë gabimi në 10 miliardë fotografitë e iPhone-ve të marra çdo ditë, një normë alarmi e rremë pesë për qindëshe mund të nënkuptojë 5oo milionë imazhe të dërguara për shqyrtim dytësor.

Për të parandaluar këtë, Apple-i do të veprojë vetëm nëse shqyrtimi kryesor në një telefon zbulon një prag të caktuar të imazheve të dyshuara, ndoshta 10 prej tyre. Çdo fotografi e shtuar në një rrotull të kamerës do të inspektohet dhe kur të rezervohet në iCloud, do të shoqërohet me një “kupon sigurie” të koduar duke thënë nëse është e dyshimtë apo jo.

Kriptografia është krijuar në mënyrë që sapo 10 ose më shumë kuponë të shënohen si të pasigurt, Apple-i të mund të deshifrojë imazhet. Nëse ato duken të paligjshme, përdoruesi do të raportohet dhe llogaria e tij do të kyçet.

Një dobësi e njohur e sistemeve të mësimit makinerik siç është ajo që Apple-i propozon është se është e lehtë të ndryshosh një fotografi në mënyrë që ta kategorizojë atë gabimisht. Megjithatë, imazhet janë vetëm një pjesë e problemit.

Çuditërisht, Apple-i propozon të mos bëjë asgjë në lidhje me transmetimin e drejtpërdrejtë, i cili ka qenë mediumi dominues për abuzimin në internet që në vitin 2018. Dhe kompania nuk ka thënë asgjë se si do të gjurmojë ardhjen e imazheve ilegale.

Por nëse pyetjet teknike janë të vështira, pyetjet e politikës janë shumë më të vështira. Deri tani, demokracitë kanë lejuar mbikëqyrjen e qeverisë në dy rrethana: e para, nëse është e kufizuar në një qëllim specifik; e dyta, nëse synohet te njerëzit e veçantë.

Shembuj të mbikëqyrjes me qëllime të veçanta përfshijnë kamerat e shpejtësisë dhe software-in në fotokopjues që ju ndalon të kopjoni kartëmonedha. Synimi i mbikëqyrjes së veçantë zakonisht kërkon dokumente të tilla si një urdhër.

Sistemi i Apple-it duket si lloji i parë i këtyre, por pasi të jetë ndërtuar në telefona, Mac dhe madje edhe orë, në një mënyrë që anashkalon mekanizmat e tyre të sigurisë dhe privatësisë, ai mund të skanojë për çdo gjë tjetër që kërkon një qeveri.

Këto shqetësime nuk janë abstrakte. Ato nuk kufizohen vetëm në vendet që konsiderohen autoritare. Në Australi, qeveria kërcënoi të ndiqte një gazetar për fotot e trupave australiane që vrisnin civilë në Afganistan, duke argumentuar se imazhet e krimeve të luftës ishin të mbuluara nga ligjet e sigurisë kombëtare.

Për më tepër, ligji australian i fuqizon ministrat të detyrojnë firmat të ritrajnojnë një sistem ekzistues të mbikëqyrjes në imazhe të ndryshme, duke zgjeruar në masë të madhe fushën e kërkimit të propozuar nga Apple-i.

Për të ardhur më afër shtëpisë, Bashkimi Evropian sapo përditësoi ligjin që lejon firmat e teknologjisë të skanojnë komunikimet për imazhe të paligjshme dhe njoftoi se një nismë e re për mbrojtjen e fëmijëve do të shtrihet në “pastrim”, duke kërkuar që firmat të skanojnë gjithashtu edhe tekste.

Në Britani, Akti i Kompetencave Hetimore do t’u mundësojë ministrave të urdhërojnë një firmë të përshtatë sistemet e saj aty ku është e mundur për të ndihmuar në përgjimin. IPhone-i juaj mund të jetë në heshtje duke kërkuar fëmijë të zhdukur, por gjithashtu mund të jetë duke kërkuar “më të kërkuarit” e policisë.

Ligjërisht, lufta e parë e madhe ka të ngjarë të jetë në SHBA, ku kushtetuta i ndalon urdhrat e përgjithshëm. Por në një rast për qentë nuhatës të drogës, një gjykatë zbuloi se një kërkim që gjen vetëm kontrabandë është i ligjshëm. Prisni që gjykata supreme të dëgjojë avokatët e privatësisë që thonë se iPhone-i juaj tani është një defekt në xhepin tuaj, teksa Apple-i dhe FBI-ja argumentojnë se është vetëm një qen nuhatës.

Politikisht, industria e teknologjisë shpesh i ka rezistuar presionit për të rritur mbikëqyrjen. Por tani që Apple-i ka thyer gradat, do të jetë më e vështirë për firmat e tjera t’i rezistojnë kërkesave të qeverive.

Mbrojtja e fëmijëve në internet është një problem urgjent, por ky propozim do të bëjë pak për të parandaluar këto krime të tmerrshme teksa hap portat e vërshimit në një zgjerim të konsiderueshëm të gjendjes së mbikëqyrjes.