Sidste uge skrev Ava Kofman et interessant, men alligevel skræmmende stykke i The Intercept om Voice RT. Du har sandsynligvis aldrig hørt om Voice RT før, fordi det har været en af de ting, som den amerikanske regering gør i hemmelighed; i dette tilfælde udviklede det teknologi, der positivt kan identificere nogen ved lyden af deres stemme. Sørg for at læse det. Det er vigtig information, som alle har brug for at vide.
Vores stemme er den perfekte biometriske identifikator; det er stabilt og unikt.
Nu er ideen om at genkende nogen ved deres stemme let at forstå. Vi gør det hver dag, når vi taler med de mennesker, der er tæt på os. En persons stemme er temmelig unik, og det kræver ikke meget behandlingskraft - hverken den organiske slags i vores hoveder eller silicium-typen i vores gadgets - for at vide, hvem du snakker med, bare fra at høre dem tale. Men NSA var i stand til at føre tingene til det ekstreme. De har evnen til at lytte til alt overalt. Hvis du bruger en betalingstelefon midt i intetsteds, kan de lytte. De har måske endda myndighed til at gøre det, og det betyder, at vi måske har et stort problem ved at sidde på vores natborde eller sofaborde kaldet Google Home og Amazon Echo.
I en tale med The Verge sagde Albert Gidari, direktør for privatlivets fred i Stanford Center for Internet and Society, at disse produkter "er sårbare over for regeringens krav om adgang og videregivelse. Jeg tror, at regeringen kunne få en teknisk bistandsordre for at lette scanningen, og under FISA, måske også for at bygge værktøjet. " Jeg er sikker på, at Gidari har ret, fordi regeringen allerede kan stævne vores telefoner, vores computere og endda vores fjernsyn for at lette en efterforskning. Senatorerne Wyden (D., Oregon) og Paul (R., Kentucky) mener, at FISA også kan blive misbrugt på denne måde.
Og det er ikke et spørgsmål om et regeringsorgan, der spionerer efter, hvad vi siger eller gør, når vi taler med Alexa eller Google Home. De har ikke brug for den information; alt hvad de ønsker er en optagelse af vores stemmer.
Både Echo og Google Home gemmer optagelser af de ting, vi siger, når vi taler med dem. Begge transmitterer også stemmedata til en skyserver til behandling også. Heldigvis registreres hver eneste, når det varme ord er fundet, og alle data, der forlader din enhed, er krypteret og anonymiseret. Uanset om de kunne aflytte og dekryptere dataene, kræve dem gennem domstolene eller trække dem lige fra enheden, alt hvad de vil høre, er folk som dig og mig, der fortæller assistent eller Alexa at skifte kanal eller give en vejrprognose - mundlige oplysninger om du prøver ikke at holde hemmelig. Politiet i Bentonville Arkansas fandt netop det, da en Amazon Echo blev stævnet i en mordssag i 2016. Men igen, det var ikke det, NSA indsamlede med Voice RT; de ville bare have nogle eksempler på en stemme, så de kunne matche dem, mens de gjorde spionage i realtid.
Det er ikke, hvad du siger. Det er det faktum, at det er dig, der siger det, der gør det interessant for NSA.
Ved at grave gennem dokumenter lækket af Edward Snowden fandt Kofman, at NSA har indsamlet stemmegenkendelsesdata i årevis. Denne teknologi blev brugt til at identificere Saddam Hussein og matche nogle tidligere optagelser, der blev fanget. Stemmeaftryk til Osama Bin Laden og andre højtstående Al Qaida-medlemmer blev oprettet, og et memo fortæller, hvordan Abu Musab al-Zarqawi blev fundet at være taleren i online lydfiler, som CIA var meget interesseret i. Disse klassificerede dokumenter viser, at mellem 2004 og 2012 raffinerede og anvendte NSA deres højttalergenkendelsesteknologi til bekæmpelse af terrorisme og internationale narkotikagreb.
Hvis du synes, at landets øverste spionagentur, der indsamler tilfældige optagelser af, hvad folk siger for at hjælpe, når de bekæmper terrorisme eller narkotikahandel, er OK, er det ikke mange, der vil diskutere dig. Google og Facebook (og sandsynligvis ethvert andet internetfirma) scanner indsamlede data for ting som børnepornografi eller misbrug, krænkelse af ophavsret og terroraktivitet, fordi nogen føler det er til det bedre. Jeg vil ikke argumentere. Men Snowden afslørede også, at NSA planlægger at anvende den samme teknik for at forhindre, at varslere som ham udsætter deres forseelser år, før bekendtgørelse 13587 blev underskrevet.
NSA har planer om at bruge de taktikker, der hjælper med at fange Bin Laden til at overvåge amerikanerne.
Det går for langt, og det har folk som den tidligere rådgiver for Det Hvide Hus til direktøren for National Intelligence Timothy Edgar bekymret for vores privatliv og følgerne fra et anmassende regeringsagentur, hvis de tror, vi har sagt eller gjort noget, de ikke kan lide. Vi har alle hørt sager, hvor en meget tynd linje blev gået og krydset, og alt var ikke helt lovligt i henhold til ånden i forfatningen. Når det kommer til vores stemmer, mener eksperter i borgerfriheden, at Google og Amazon er nødt til at ændre, hvordan Home and Echo fungerer, så der ikke opbevares stemmedata.
Vores stemmer er stabile; noget, som jeg sagde for 10 år siden, kan identificeres positivt gennem en stemmeudskrivning, som kommer fra mig i dag. Med stemmeoptagelser til rådighed, selvom det er filer, der siger noget i retning af "OK Google, dæmp stuen lys til 50%", er det let at bruge dem mod os til enhver undersøgelse eller operation. Jeg kan forestille mig, at NSA har masser af stemmedata, der kan identificere en person, der serverede drinks til en efterspurgt terrorist på et hotel, eller agenten ved billetdisken i en lufthavn. Jeg kan også forestille mig, at disse uskyldige blev afhørt og derefter tjent med en gag-ordre, selvom de var uskyldige over for nogen forbrydelser, og NSA og CIA og FBI vidste, at de var uskyldige.
Tro ikke den tale, at programmer som FISA kun er designet og bruges til at beskytte os. Vi har masser af bevis for det modsatte.
Dette skal afmaskeres og drøftes offentligt. Teknologi, der kan bruges til at spore journalister eller udsætte deres kilder, er farlig, når den ikke bruges korrekt og bør ikke være skjult bag en mur af regeringsklassificering. Mens grupper som EFF og Freedom of the Press Foundation prøver at få det til, er der pres på Google og Amazon for at stoppe med at gemme og analysere stemmedata, som de gør nu. Det lægger ganske spjældet på et system designet til at analysere alt og blive smartere. Maskinindlæring har brug for rigelige mængder data for at analysere igen og igen for at "lære". Google og Amazon er nødt til at bekymre sig om at indsamle og opbevare det hele på en måde, der holder det anonymt i stedet for at bekymre sig om, hvordan deres læringsmaskiner kan lære uden de data, de har brug for.
En maskine har brug for data for at lære. En masse data gentages igen og igen og igen.
At pege fingeren mod Alexa og assistent som roden til problemet er ikke godt for enhver, der finder dem nyttige. Vi er nødt til at fokusere på roping i vores regering og sætte en stopper for uberettiget overvågning af amerikanere. Og dette er ikke kun en ting i USA; Interpol og Storbritanniens GCHQ har "arbejdet tæt sammen" med NSA og kreditprogrammer som Voice RT som "spiller en vigtig rolle i vores forhold til NSA." Det siges, at Kina har den samme type program og er nu i stand til positivt at identificere titusinder eller måske hundreder af tusinder af kinesiske borgere ved hjælp af deres stemme automatisk.
Jeg stoler ikke på, at NSA har hemmelig teknologi, der kan identificere nogen af os til enhver tid og ikke bruge den upassende. Jeg er enig med eksperter inden for civil frihed, at dette er en farlig sti og bør offentliggøres. Jeg er ikke enig med at presse Google og Amazon til at stoppe med at innovere, mens vi venter. Vi ser fremtiden udfolde sig for vores øjne, og indtil de "smarte" maskiner Google og Amazon bruger for at bringe den til os viser, at de har brug for at regere i, lad os ikke holde fremtiden tilbage.
