Af Palle Vibe, Alt om Data
Denne artikel er oprindeligt bragt på Alt om Data. Computerworld overtog i november 2022 Alt om Data. Du kan læse mere om overtagelsen her.
Når du beder Siri om noget, er hun naturligvis lydhør. Men når du har sagt, hvad du vil, lytter hun stadig med lange ører. Det samme gør Microsofts Cortana og også Amazons Alexa og Google assistant. Digitale assistenter er som oftest designet til altid at lytte efter ordrer. Det kan selvfølgelig være meget udmærket, men det kan også være meget lidt udmærket. For stemmestyrede digitale assistenter kan på den måde være kilde til fremtidens største tag-selv-hacker-bord.
Når du skriver på en computer, er du også godt klar over, at alt der står på skærmen, også eksisterer digitalt i cyberspace. En stille samtale i et rum derimod, er ikke noget, vi normalt opfatter som data eller som noget, der måske bliver forvandlet til digitale data i skyen. Og de mange personlige assistenter som Siri, Cortana, Jarvis og hvad de ellers alle sammen hedder og kaldes, er alle eksempler på, at det du siger til dem, kan forvandle sig til mere gennemgribende overvågning. Elektronik, der altid er tændt, kan have store konsekvenser for dit privatliv.
For ganske vist vågner sådanne assistenter generelt først op til en lytter, når du kalder på dem ved navn, men du kan sagtens komme ud for, at din assistent vågner op uden for nummer, fordi ”hun” opfatter sit navn blive nævnt, uden at det er tilfældet.
Et stemmestyret tv er måske nok bekvemt, men det lytter også med, når det måske ikke skulle.Stemmestyrede assistenter er nemme at hacke
Da det kun kræver en stemme at skaffe sig adgang til og få en dialog i gang med en elektronisk assistent, er det relativt let at hacke sig ind i assistentens system. Under et forsøg er det bl.a. lykkedes at sende beskeder fra en Android mobiltelefon via et spil, der er baseret på Google-kommandoer. På lignende vis er det muligt at få Siri til at reagere på radiobølger uden, at brugerne selv opdager, at deres assistent modtager ordrer udefra.
Men aflytning er ikke den eneste form for overvågning, de digitale assistenter kan foretage. For skal de gøre dig de tjenester, som de er udviklet til, forudsætter det, at du giver dem adgang til en del oplysninger om dig selv. Hvis du eksempelvis beder Siri købe noget for dig, skal hun have adgang til dine bankkonti og kontooplysninger. Skal hun vejlede dig om bedre motion, må du op med data fra dit fitness-armbånd, eller hvad du nu bruger til at aflæse din kondi og fysiske helbredstilstand.
På mange områder har foretagender som Google og Facebook allerede et ganske godt overblik over, hvad du interesserer dig for, og hvad du bedriver. Og såmænd også hvor du er, og måske er på vej hen. Det kaldes lokations-logning, og disse oplysninger gemmer de to nævnte tjenester konstant. Så hvad kan der egentlig ske ved, at du også giver adgang til andre oplysninger og giver tilladelse til, at dine data bliver indsamlet centralt?
Du slipper jo så for den myriade af apps, som hver især har forskellige udbydere, og som gør forskellige ting med de data, de indsamler. Joh, der sker såmænd ikke andet, end at it-kæmperne får endnu mere magt og større kontrol med dig, end de har i forvejen.
Jarvis er selveste Mark Zuckerbergs personlige assistent. Gad vidst, hvad han må lægge øre til?
Op lille assistent
De digitale assistenter fungerer over én kam ved konstant at lytte efter det såkaldte ‘wakeword’, som vækker enheden til live, så den begynder at sende al lyd, den hører, ud i skyen til udbyderens enorme centrale database. Det kan være ”Hey Siri” eller ”OK, Google”. Men det kan også være, at du skal trykke på en særlig knap. Det giver trods alt en vis tryghed, for så længe du ikke har vækket assistenten, sker al databehandling internt i enheden, og enheden sender ikke nogen data ud i skyen. Ofte er det dog ikke kun selve lyden, der bliver sendt fra de digitale assistenter.
Såvel Cortana som Siri sender også data om din placering, og Siri sender oven i købet også information om dine kontaktpersoner og meget andet på din telefon videre til Apple. Det sker angiveligt for at lære dig og din stemme bedre at kende. Men du har ingen mulighed for at forhindre det. Optagelserne gemmes dog i reglen i krypteret form, så en eventuel it-kriminel ikke umiddelbart kan få så meget ud af at hacke sig med på en lytter.
Men du kan så indvende, at både Alexas, Siris og Googles indbyggede sikring mod utilsigtet aflytning alene består i, hvor præcist enhederne kan skelne wake-ordene fra al anden tale. Og her viser forskellige test, at i hvert fald Alexa pludselig kan bryde ind i en samtale, fordi stemmegenkendelsen tror, at den har hørt sit navn blive ”råbt op” i den generelle baggrundslyd.
Google og Amazon giver derimod deres brugere mulighed for både at lytte til og også slette de optagelser, de har sendt videre til skyen. Men begge udbydere betoner, at optagelserne bliver brugt til at forbedre assistenternes stemmeforståelse, og du bliver derfor kraftigt opfordret til at røre så lidt som muligt ved disse lydfiler, der gemmes i lange tidsrum.
Apple gemmer eksempelvis alle optagelser i to år, men sletter angiveligt data om brugerens identitet efter seks måneder. Årsagen til gemmeriet er blandt andet, at politi og efterretningstjeneste mv. kan anmode om at få udleveret disse lydfiler som led i efterforskning. Det er så op til udbyderne at bestemme, om filerne skal udleveres eller ej. Kun efter retskendelse kan de blive tvunget til at udlevere materialet.
En fortrolig snak mellem barn og bamse kan sagtens komme uvedkommende for øre.Legetøjet med på en lytter
Problemet er, at du ikke kan være sikker på, hvad udbyderne egentlig bruger optagelser af din og dine digitale assistenter til. Det skal siges, at store virksomheder som Apple, Amazon og Google er kendt og anerkendt for at føre en forsvarlig datapolitik og have udmærket styr på deres datasikring. Men de er langtfra de eneste selskaber, som nu og fremover tilbyder elektronik, der lytter.
Det kan eksempelvis være legetøj som feks. Hello Barbie, der med et tryk på en knap kan svare på et spørgsmål fra det barn, der leger med dukken. Ulykkeligvis har det vist sig, at uvedkommende forholdsvis let kan tænde mikrofonen og lytte til barnets og dukkens ”samtaler”, uden at nogen er klar over det. På samme måde kan børn føre samtaler med de legetøjsbamser, der hedder CloudPets, og som har indbygget mikrofon. Disse samtaler sendes videre til skyen, og kan tilgås med relativt enkle kodeord.
Samsung har været udsat for en del kritik, fordi nogle af deres intelligente tv-modeller, der reagerer på stemmekommandoer, sender dialogerne direkte videre til en købende og betalende tredjepart. I starten var disse beskeder ikke engang krypterede, og Samsung rådede selv forbrugeren fra at undgå at foretage fortrolige samtaler eller videregive følsomme oplysninger foran tv’et. Faktisk siger de rent ud, at ”hvis din stemmestyrede enhed er vågen, optager den ikke bare din kommando, men også eventuelle samtaler, der finder sted i baggrunden.”
Tendensen er ret klar. Ved at lade digitale assistenter overtage flere og flere funktioner, kan du spare en masse apps, men samtidig lægger du stadigt flere personlige data ud i udbydernes databaser. Til gengæld bliver assistenterne så også bedre og bedre til at hjælpe os, og derfor forudser sikkerhedsforskere, at vi bare efterhånden vil trække på skuldrene. Det er så svært at forholde sig kritisk over for ting, der bare virker.