Af Henrik Malmgreen, Alt om Data
Denne artikel er oprindeligt bragt på Alt om Data. Computerworld overtog i november 2022 Alt om Data. Du kan læse mere om overtagelsen her.
Kunstig intelligens er nu for alvor på vej ind i sikkerhed. AI gør det nemmere for virksomhederne både at opdage cyberangreb og at identificere potentielle sikkerhedsrisici på et tidligt tidspunkt – nærmest at forudsige dem, før de sker.
Men spørgsmålet er, hvorvidt kunstig intelligens også gør det nemmere for hackerne at udføre deres lyssky handlinger.
I den seneste trusselsvurdering fra Center for Cybersikkerhed står der, at ”den teknologiske udvikling, herunder udviklingen af kunstig intelligens og kvanteteknologi, skaber både nye muligheder og udfordringer for cybersikkerheden”.
På den ene side giver algoritmer drevet af maskinlæring mulighed for aktiv overvågning af netværkstrafik, lige som algoritmerne konstant lærer at identificere nye trusler plus at eliminere dem i realtid. Her kan som eksempel nævnes automatisk frasortering af phishing-mails, så de slet når frem til brugeren. På den anden side er hackerne begyndt at anvende samme algoritmer til automatisk at generere endnu mere troværdige phishing-mails.
Biometriske data misbruges
Ifølge den aktuelle trusselsvurdering sker det blandt andet ved, at algoritmerne i stigende grad indarbejder information om modtageren, fakta, som blandt andet er hentet på modtagerens konti på de sociale medier, for eksempel Facebook. Desuden giver kunstig intelligens mulighed for at udføre langt mere målrettede hackerangreb. Blandt andet er det nu muligt at indlejre maskinlæringsalgoritmer i malware, der udnytter ansigts- og talegenkendelse, således at den først slippes løs, når et specifikt ansigt eller en specifik stemme genkendes.
Kunstig intelligens har dermed gjort det muligt at misbruge vores biometriske data mod os selv. I takt med at anvendelsen af kunstig intelligens vinder stadig mere udbredelse, er det derfor vigtigt, at cybersikkerhed tænkes ind allerede i udviklingsfasen, når nye løsninger er på tegnebrættet. Ligeledes skal sikkerhed tænkes ind som en kontinuerlig proces i anvendelsesfasen. Den tid, hvor man blot hægtede en sikkerhedspakke på virksomhedens it-infrastruktur, er for længst slut.
En af aktørerne i sikkerhedsbranchen er Heimdal Security, og her bekræftes det, at man i stadig højere grad oplever hackerne anvende kunstig intelligens. Ikke alle angreb er drevet af kunstig intelligens, fordi der stadig er andre angrebstilgange – for eksempel direktørsvindel, som er så profitable, at det ikke giver nogen mening fuldstændigt at skifte platform, men ifølge Miriam Cihodariu, der er kommunika-tionschef hos Heimdal Security, hjælper kunstig intelligens i en lang række sammenhænge med til at forfine hackernes teknik.
Flere gode hjælpeværktøjer
På digitaliseringsstyrelsen kan du hente denne nye publikation om AI og sikkerhed.
Da kunstig intelligens ofte er baseret på anvendelsen af store mængder af data, hvilket giver nye angrebsflader, har Digitaliseringsstyrelsen og Erhvervsstyrelsen i samarbejde med blandt andet Boston Consulting Group udsendt en vejledning til, hvordan danske myndigheder og virksomheder kan tage de nødvendige forholdsregler.
Desuden udgav Dansk Standard i foråret to nye sæt specifikationer, der skal gøre det nemmere og mere trygt at anvende kunstig intelligens. Det ene har fokus på at sikre relevante overvejelser i brugen af kunstig intelligens i offentlig sagsbehandling, mens den anden henvender sig til udviklere og projektledere, der arbejder med kunstig intelligens på tværs af brancher.
Nøglefærdige løsninger
”Det sker blandt andet med henblik på optimering af konverteringsfrekvensen for de ondsindede e-mails, udarbejdelse af det perfekte phishing-pitch, omhyggelig testudsendelse etc. Bare i løbet af den seneste uge har vi bemærket en markant stigning i ondsindede e-mails, der drager fordel af kunstig intelligens, dels med henblik på at optimere leveringstiden, dels med henblik på at skabe lige præcis den dækhistorie, der skal få folk til at klikke på linkene,” siger Miriam Cihodariu.
AOD talte med hende midt i ferietiden, hvor hackerne efter Cihodarius opfattelse udmærket ved, at paraderne i højere grad er tilbøjelige til at være nede, når man tjekker mail, mens man ligger på stranden under sydens sol. Miriam Cihodariu siger videre, at hackerne anvender kunstig intelligens til dels at automatisere deres angreb, dels skalere dem op efter behov. Og lad det være sagt med det samme: Du behøver ikke engang være i stand til at skrive så meget som en linje kode.
Det er allerede kendt, at alle og enhver kan købe sig til en nøglefærdig løsning på nettet, og det samme gør sig gældende i forhold til løsninger, som anvender kunstig intelligens. Både i forhold til RaaS (Ransomware-as-a-Service) og CCaaS (Cyber-Crime-as-a-Service). Ifølge Miriam Cihodariu anvender mange virksomheder stadig ikke pålidelige sikkerhedsforanstaltninger i form af eksempelvis et stærkt DNS-forsvar, og derfor vil disse automatiserede, ondsindede strategier i form af ”angreb-i-en-boks” ikke foreløbig ophøre med at være rentable.
”Kunstig intelligens kan fungere rigtig godt, men kun når den fodres ordentligt og anvendes korrekt på et specifikt område. Selv hvis en algoritme er designet fejlfrit, er den nemlig kun så god som de data, der indlæses i den. Så set med sikkerhedsbrillerne på betyder det, at jo bedre intelligens, man kan tilføre algoritmen, jo bedre bliver den til at forudsige angreb – men stadig kun inden for det område, den er defineret til at arbejde med.
”Jeg kan som eksempel henvise til en nylig bølge af bruteforce-angreb og udnyttelse af sårbar RDP-adgang (Remote Desktop Protocol). Da ingen af udbyderne arbejdede med kunstig intelligens på firewall-komponenten, kom mange virksomheder i farezonen, heriblandt også store danske virksomheder. Men da vi begyndte at anvende kunstig intelligens på området, var vi i stand til at registrere og blokere yderligere forsøg på dybere niveauer,” forklarer Miriam Cihodariu.
Det vil tage et stykke tid, før hele sikkerhedsbranchen mestrer kunstig intelligens, vurderer Miriam Cihodariu, kommunikationschef hos Heimdal Security.
Våbenkapløbet fortsætter
Hun understreger dog, at kunstig intelligens i sig selv ikke er nok til at standse hackernes angreb. Teknologien skal være koblet til andre beskyttelsesforanstaltninger. Det er med andre ord ikke nok blot at kunne se og identificere et angreb. Virksomheden skal også have de relevante forsvarsmekanismer på plads, hvis det skal lykkes at afværge det. Men selv, hvis det er tilfældet, vil våbenkapløbet fortsætte ufortrødent.
”Selvom vi er sikre på effektiviteten i de løsninger, vi arbejder med, tror jeg, det vil tage et stykke tid, inden vi kan sige, at hele cybersikkerhedsindustrien mestrer kunstig intelligens på et effektivt niveau. På et tidspunkt vil kunstig intelligens blive brugt med endnu større succes af hackere, for de bliver jo stadig bedre til det, de gør. Men sikkerhedsløsningerne vil også blive bedre. Så hvis virksomhederne løbende holder sig informeret om de nyeste trusler og opdaterer deres forsvar i overensstemmelse hermed, er det stadig muligt at være et skridt foran hackerne”, slår Miriam Cihodariu fast.
Kvantecomputere er en ny trussel
Hos Digitaliseringsstyrelsen kan du hente denne nye publikation om AI og sikkerhed.
I sin seneste trusselsrapport anfører Center for Cybersikkerhed, at også kvantecomputere vil udgøre en potentiel trussel mod datasikker-heden på internettet.
Kommunikationen krypteres i øjeblikket med komplicerede beregninger, der beskytter data på en måde, som en almindelig computer skal bruge ekstremt langt tid på at bryde. I fremtiden vil kvantecomputerne muligvis være i stand til at klare opgaven på få sekunder således, at kommunikationen potentielt bliver læsbar.
En af de mest udbredte krypteringsmetoder i dag er RSA, men ifølge det amerikanske forskningsinstitut National Institute of Standards and Technology (NIST) vil kvantecomputere efter al sandsynlighed kunne bryde RSA om blot 10 år. Derfor har NIST igangsat en international konkurrence om udviklingen af en ny, kvantesikret krypteringsmetode, der kan erstatte RSA.
Kvantecomputerne er måske ikke så langt væk. Sidste år byggede Google ifølge Center for Cybersikkerhed en kvantecomputer, der på lidt over tre minutter løste et regnestykke, som en almindelig computer skulle bruge 10.000 år på at løse.