Kunstig intelligens, et tveegget sverd

Hvordan har «The AI Act» utviklet seg fra å være en ren politisk teori til å bli et praktisk rammeverk? Har vi her hjemme klart å tilpasse oss de stadig skiftende reglene? Hvor utbredt er egentlig KI i samfunnet, og hvordan blir det fremover?

Skrevet av Espen Rahd, senior informasjonssikkerhetskonsulent, Watchcom Security Group.

I denne artikkelen vil vi ta for oss noen av alle de muligheter og utfordringer knyttet til anvendt KI, og se på hvorfor det er viktig å henge med i utviklingen og hvordan dette påvirker både risikobildet og trusselnivået for norske virksomheter.

I denne ekspansivt voksende teknologiutviklingen har kunstig intelligens blitt stadig viktigere. Fra debatter, kronikker, reportasjer og bestselgende bøker, fra eksperter innen feltet til nysgjerrige entusiaster som meg selv. Temaet engasjerer, noe vi ser i antall saker i media og ellers.

Med applikasjoner som ChatGPT (ca. 100 millioner aktive brukere globalt) har vi nysgjerrige fått tilgang til en digital "superkraft". Men det virker som om mange fortsatt er uvitende, usikre på, eller lite interessert i, denne fantastiske teknologien.

Det å befinne seg midt i denne revolusjonen føles nesten som da internettets bølge traff verden på slutten av 1990-tallet – en følelse av uutforsket potensiale og anarki. Slik internett endret verden, er KI-teknologier i ferd med å forme fremtiden. Det er bare et spørsmål om tid, mer brukervennlighet og tilgjengelighet, før virksomheter og resten av befolkningen kommer ombord og tar del i denne (nye) digitale revolusjonen.

 

EUs Regelverk i Endring: fra Teori til Handling

EUs «AI Act» er et skritt nærmere gode, solide regler rundt KI-teknologien, men det virker som om KI-utviklingen løper fra lovverket.

Dette skaper utfordringer for regulering og kontroll, og når loven trer i kraft kan den allerede være utdatert. Heldigvis nærmer vi oss i hvert fall prosessen med å oversette lovens teori til praktisk arbeid.

 

Implementeringen av The AI Act vil kreve en stor koordinert innsats fra myndighetene for å etablere og overvåke etterlevelsen av loven. Det vil også være nødvendig med ressurser og kompetanse for å sikre at KI-systemene opererer innenfor lovens rammer. Og som sagt vil dette utvilsomt introdusere nye utfordringer gitt teknologiens raske utvikling

Offentlig bevissthet og utdanning vil være avgjørende for å sikre at både utviklere og brukere av KI-systemer forstår deres plikter og rettigheter. I tillegg vil internasjonalt samarbeid og harmonisering av regler være viktig for å skape en felles forståelse og tilnærming til styring av KI. Dette har EU gjort før med godt resultat.

 

Hva kan vi lære av GDPR?

Det kan være fornuftig å se mot GDPR-lovgivningen for å danne oss et bilde av hvordan KI-lovgivingen vil slå ut i praksis. Fem år etter implementeringen av GDPR ser vi tydelig lovens påvirkning og relevans. EUs holdning til personvern er ikke bare teori, men har resultert i konkrete tiltak og håndfaste konsekvenser.

Det er registrert over 1500 bøtesaker, som beløper seg til nesten 3 milliarder euro. Dette viser at regelverket fungerer, men viser også at det er mange som ikke tar hensyn til lovverket. Vi ser også hvordan det tette samarbeidet og den felles forståelsen mellom Norge og EU fungerer i praksis.

Det europeiske personvernrådet bestemte nylig at det norske forbudet mot adferds-basert markedsføring på Facebook og Instagram (Meta) skal bli permanent og utvides til å gjelde hele EU/EØS. Ikke overraskende er det de store amerikanske selskapene Meta, Amazon og Google som mottar de største bøtene, til tross for at de har de beste forutsetningene, ressursene og kompetansen til å forstå og følge lovene.

Big Tech sier de støtter nye reguleringer for en etisk forsvarlig KI, men det viser seg at de prøver å unngå strenge regler som kan begrense hvordan de bruker de kraftigste KI-modellene sine (foundation models). Når en i tillegg vet at 66% av alle KI-relaterte møter i EU-parlamenetet er lobbymøter, og at nevnte selskaper har avskjediget ansatte i sine KI-etikkteam, er det god grunn til bekymring.

Vi får håpe teknologi-gigantene planlegger å etterleve den kommende KI-loven og ikke tøyer menneskeretiggheter, demokratiske spilleregler og etikk, til fordel for profitt og makt.

 

Norge ved KIs Frontlinjer: En Nasjonal Strategi

Den norske regjeringen tok et viktig skritt ved å lansere Nasjonal strategi for kunstig intelligens i 2020. Regjeringen uttalte blant annet, «Norge skal være en global aktør innen KI-forskning og utvikling», samtidig som man skulle fremme bærekraft og etisk bruk av teknologien, noe de fulgte opp med å bevilge 1 milliard ekstra til formålet. Vi er mange som følger nøye med på hva disse midlene vil gå til.

Norge og de andre nordiske landene var imidlertid ikke invitert til toppmøtet i London nylig, der 27 land, samt EU, deltok. Møtet hadde deltakelse fra flere teknologiledere som Sam Altmann fra OpenAI, Elon Musk fra X og Demis Hassabis fra Google DeepMind. Også USAs visepresident Kamala Harris og EU-kommisjonens president Ursula von der Leyen var til stede.

Flere initiativer, inkludert høringer om KI-regulering, opprettelse av en KI-taskforce (vurdere risiko og trusler fra KI-systemer), og store investeringer i ulike sektorer samt opplæring ble adressert. Det arbeides nå med flere konkrete planer fra toppmøtet som vil bli delt i fremtidige oppdateringer.

La oss håpe at når mange av verdens mektigste spiser middag sammen så er det ikke for å snakke om været.

 

Superstjerne og UiA's Ambisjoner

Norges engasjement innen KI er ikke begrenset til regjeringens uttalelser og handlinger. Vi har fostret KI-talenter som fanger offentlighetens interesse, blant annet takket være deres evne til å oversette komplekse KI-konsepter til engasjerende dialog for oss dødelige.

Fremfor alt har vi Norges KI-superstjerne, Inga Strumke, hvis nerde-bok om KI gikk rett til topps på salgslistene og sikret henne Brage-prisen. En annen kunnskapsrik KI-forsker, Professor Ole-Christoffer Granmo, utfordrer tech-gigantene med en grønnere og mer demokratisk tilnærming til KI og maskinlæring.

 

Universitetet i Agder med Granmo i spissen skal bruke seks superdatamaskiner for å oppnå enorm regnekraft (208 petaflops = 2 milliarder arbeidsstasjoner). Formålet er primært bruk av KI i helsevesenet. De ønsker bygge mer transparent og demokratisk ved å utvikle forståelige KI-modeller, som står i kontrast til komplekse "black box"-modeller (hvor man ikke vet hvordan KI kom frem til svaret). Dette fem år lange prosjektet tar også sikte på å få til balansen mellom teknologisk fremgang og samfunnsmessige konsekvenser, med hovedvekt på personvern, sikkerhet og etikk.

 

KI i Praksis: Nyvinninger og Samfunnspåvirkning

KI i næringslivet og helsevesenet

Kunstig intelligens står bak store endringer i næringsliv og helsevesen, og innen bank- og forsikringssektoren har KI allerede satt sine spor.

I oljeindustrien spiller KI en nøkkelrolle i å effektivisere prosesser. Ved å bruke KI til å analysere geologiske data, har industrien kunnet redusere omfanget av boring, noe som bidrar til både kostnadsbesparelser og miljøbeskyttelse.

I helsevesenet er KI i ferd med å forandre mange aspekter av pasientbehandling. For eksempel har KI-systemer blitt brukt til å analysere medisinske bilder, som har forbedret nøyaktighet. Dette har ført til bedre behandlingsplaner og muligheten for mer personlig tilpasset pasientbehandling. Et konkret eksempel er bruk av KI i onkologi, hvor KI-algoritmer hjelper til med å identifisere kreftsvulster tidligere og mer nøyaktig.

 

Teknologiske fremskritt og samarbeid mellom sektorer

Takket være både private selskaper og et økende samarbeid mellom offentlige og private aktører drives KI teknologien raskt fremover.

EU har blant annet vært katalysator for innovasjon gjennom sine Europeiske Innovasjonsprosjekter. Her har store teknologifirmaer som SAP og Siemens arbeidet sammen med universiteter for å utvikle avanserte KI-applikasjoner i industriell automatisering, hvilket demonstrerer potensialet for samarbeid over sektorgrenser.

I Norden har 'Nordic AI Initiative' fremmet KI-forskning og utvikling gjennom samarbeid mellom regjeringer og private selskaper. Dette initiativet har som mål å styrke den nordiske regionens rolle i den globale KI-arenaen ved å samle eksperter og ressurser på tvers av landegrenser.

Innen helsevesenet ser vi et økende antall offentlig-private partnerskap. Disse samarbeidene søker å utvikle KI-løsninger som spenner fra diagnostiske verktøy til forbedrede pasientbehandlingsmetoder gjennom dataanalyse.

KI spiller også en viktig rolle i utviklingen av smarte byer. Flere europeiske byer, inkludert Oslo, samarbeider med private teknologiselskaper for å innlemme KI i alt fra trafikkstyring til energiforvaltning.

 

Demokratisering og generativ KI

Demokratiseringen av kunstig intelligens markerer en revolusjonerende endring. Takket være brukervennlige plattformer, kan nå folk uten dyptgående teknisk kunnskap bidra til innovasjon i KI. Dette har åpnet døren for et mangfold av mennesker til å utforske og bruke KI, noe som igjen har ført til en bølge av kreativitet og nye bruksområder.

Generativ KI er et særlig fascinerende aspekt av denne utviklingen. Denne typen KI lærer fra eksisterende data for å skape realistisk nytt innhold, som tekst og bilder. For eksempel har plattformer som DALL-E og ChatGPT demonstrert hvordan generativ KI kan brukes til å skape alt fra kunstverk til komplekse litterære tekster. Dette har ikke bare åpnet opp for nye former for kunstnerisk uttrykk, men også for praktiske og nyttige anvendelser.

Samtidig reiser generativ KI viktige spørsmål rundt opphavsrett og etikk, som diskusjonene om eierskap til kunst skapt av KI, og hvorvidt KI-generert innhold kan betraktes som originalt. Disse debattene peker på behovet for retningslinjer og reguleringer som kan håndtere de unike utfordringene generativ KI bringer med seg.

 

Generelt viser demokratiseringen og fremveksten av generativ KI at vi er inne i en æra hvor teknologien ikke bare er forbeholdt eksperter, men tilgjengelig for alle som ønsker å utforske dens potensial. Denne tilgjengeligheten lover godt for fremtidige innovasjoner og anvendelser, men understreker også nødvendigheten av å navigere i de etiske og juridiske komplikasjonene som følger med.

I kontrast til Europa, tar Kina en aggressiv tilnærming i sin KI-utvikling med mål om være i front innen 2030. Kinas bruk av KI, blant annet i omfattende ansiktsgjenkjenningssystemer, har reist etiske bekymringer og ville mulig brutt europeiske lover som GDPR og "The AI Act". Kontrasten mellom Kinas og EUs tilnærminger understreker viktigheten av internasjonale standarder.

 

KI og Cybersikkerhet: Utfordringer og Løsninger

Cyberangrep utgjør en alvorlig trussel mot bedrifter, regjeringer, kritisk infrastruktur, helsetjenester, finansielle institusjoner, individer og samfunnet som helhet. Angriperne er alt fra enkeltpersoner som driver hærverk til organisert kriminalitet og statlige aktører. Felles for de fleste er at de bruker kunstig intelligens for å forbedre angrepsmetodene, noe som fører til økt frekvens og alvorlighetsgrad av angrep.

Eksempler på slike angrep inkluderer angrepet på TaskRabbit allerede i 2018, der 3,75 millioner brukere fikk sine personnummer og bankkontoopplysninger kompromittert. Angriperne brukte et  enormt botnet styrt av KI for å utføre en ødeleggende distribuert tjenestenekt (DDoS)-angrep på TaskRabbits servere, noe som førte til midlertidig stans av hele nettstedet. I tillegg ble ytterligere 141 millioner brukere offer for angrepet mens serverne var nede.

 

Deepfake – hvem er hvem?

Deepfake-teknologi har eksistert i noen år, men har nå blitt så autentisk at det er nærmest umulig for det menneskelige øyet å skille falske videoer fra virkeligheten. Dette misbrukes av kriminelle til å skape falske identiteter, manipulere bevis, og forstyrre finansmarkeder. Det brukes også til nettbasert trakassering, seksuell utnyttelse og for å spre desinformasjon som kan undergrave offentlig mening og øke sosial og politisk polarisering.

Det var nok noen fra Labour partiet i England som fikk kaffen i halsen da kriminelle brukte KI-teknologien til å etterligne leder Keir Starmers stemme og la ut et tilsynelatende lite flatterende lydklipp på X (Twitter) under oppstarten av partikonferansen i slutten av oktober. Det var umulig å skille dette fra den ekte stemmen til lederen, og det viser at deepfake er en stor bekymring også i politiske sammenhenger.

Vi får håpe The AI Act kan hjelpe oss.

 

KI effektiviserer hverdagen, også for de cyberkriminelle

Uroen knyttet til bruk av KI for å automatisere cyberangrep, som phishing-kampanjer eller DDoS-angrep, er høyst reell og stigende. Dette fordi KI forsterker effektiviteten og omfanget av angrepene, og gjør det enklere for angripere å skjule sin aktivitet og omgå tradisjonelle sikkerhetssystemer. Dette setter både individer og organisasjoner i en sårbar posisjon. Om KI ble benyttet da NRK ble ranet (svindlet) for 1 million kroner er uvisst, men angrepet beskrives som meget avansert.

Et eksempel på hvordan KI benyttes i cyberkrigføring er det russiske hackerangrepet på Ukrainas kraftnett i forkant av invasjonen, et angrep bekreftet av ukrainske regjeringsoffisielle og det anerkjente cybersikkerhetsfirmaet ESET. Angrepet involverte skadevare med hensikt å slette nøkkeldata og gjøre systemene ubrukelige, en forlengelse av Russlands militære aggresjon, utført av Russlands militære etterretning.

For å utvikle effektive forsvarsmekanismer er det viktig å holde seg oppdatert på angripers taktikker, og verdien av god overvåkning og innsikt i angripers metoder ble godt synlig da et russisk KI-angrep nylig ble stoppet takket være solid etterretningsarbeid.

 

En Digital Rustning i Cyberalderen

Selv om 'The AI Act' setter viktige standarder for kunstig intelligens, står vi overfor kriminelle som bryter loven uten å blunke. For å håndtere dette, er det nødvendig med et samspill mellom KI-lovgivningen, andre lovverk som GDPR, og innsats fra politi og andre rettshåndhevere. Sammen gir disse lovene en sterkere forsvarsmur mot cybertrusler.

'The AI Act' kan identifisere og regulere risikable KI-systemer, GDPR passer på at dataene behandles forsvarlig, og rettshåndhevere må læres opp, fange og dømme de kriminelle. Internasjonalt samarbeid mellom eksperter, produsenter, og myndighet er derfor essensielt.

Håpet er at 'The AI Act' og lignende lovgivning blir mer enn bare regler. De kan bli en katalysatorer for globalt samhold i kampen mot (KI-drevet) cyberkriminalitet.

Cyberforsvar bruker KI-teknologi i dag, for raskt å gjenkjenne unormale aktiviteter og iverksette tiltak for å forhindre eller minimere skade. Phishing-angrep, som er en stor trussel, blir nå nøytralisert ved at KI benyttes til å analysere e-posttrafikk og webinnhold for å avsløre skjulte phishing-forsøk og advare brukere før de går i fellen.

Ved å automatisere rutinemessige sikkerhetsoppgaver, frigjør KI menneskelige ressurser, som dermed kan bruke tiden på mer komplekse problemer og avvik. Dette øker effektiviteten, og reduserer risikoen for menneskelige feil som kan føre til sikkerhetsbrudd.

KI-teknologien effektiviserer også studier av nettverkstrafikk og brukeratferd, og oppdager raskerer og mer nøyaktig avvik i datatrafikken (anomali). Dette øker muligheten for tidlig varsling og automatiske blokkeringer av mulige trusler, og frigir tid til sikkerhetsteamet, som kan konsentrere seg om pro-aktivt arbeid.

Innen sårbarhetsstyring er også KI på fremmarsj, og fungerer nærmest som en digital helseinspektør som finner og reparerer sikkerhetshull før de kan bli utnyttet av ondsinnede aktører. KI bidrar også til analyser av cybersikkerhetstrender for å forutse fremtidige trusler, noe som gir verdifull innsikt til å forberede forsvarsstrategier i god tid før et eventuelt angrep.

Effektiviteten og automatiseringen som KI bringer til bordet, strekker seg også til Governance, Risk Management, og Compliance (GRC)-området. Ved å automatisere overvåkningen av compliance-krav og gi realtidsrapportering, frigjøres tid for GRC-personell til å jobbe på mer komplekse oppgaver. KI-teknologi kan også forbedre og effektivisere risikoanalyser, policy management, data governance, og regulatorisk intelligens, noe som resulterer i mer nøyaktige og effektive prosesser.

 

Oppsummering

The AI Act er den første store KI-reguleringen. Med klare retningslinjer kan bedrifter utvikle nye KI-teknologier og vite at de følger loven. Dette er en trygghet for deg og meg, og oppmuntrer til sunn konkurranse og fornuftig innovasjon samtidig som den sikrer at utviklingen av KI skjer på en ansvarlig og bærekraftig måte. Effekten av loven vil strekke seg langt utover Europa, og vil påvirke både globale markeder og internasjonale standarder.

I takt med utviklingen av KI-teknologien, vil dens innflytelse på samfunnet og næringslivet bare øke. Det er opp til oss - fra regjeringer og industrier til enkeltpersoner og samfunn - å utnytte denne kraftige teknologien på en ansvarlig og bærekraftig måte for å skape en tryggere, mer velstående, og mer motstandsdyktig digital fremtid.

Denne vekstfasen for KI oppleves som utrolig spennende. Selv om KIs nåværende tilstand kan føles som et vakuum med mangel på fastsatte regler, er det nå vi har muligheten til å påvirke og skape, i en verden der teknologien ikke bare endrer hvordan vi jobber og lever, men også utfordrer vår forståelse av etikk, sikkerhet og samfunnsansvar.

Vi står ved en korsvei, der beslutningene vi tar i dag kanskje vil påvirke generasjoner fremover. Ved å omfavne denne utfordringen med åpenhet, nysgjerrighet og en vilje til å lære og tilpasse oss, kan vi sørge for at utviklingen av KI blir til fordel for alle, og det er en mulighet vi må gripe med begge hender.