Säkerhetsblogg

Artificiell intelligens – Pandoras ask eller fullt av möjligheter?

human brain and robot brain

Artificiell intelligens (AI), är en avancerad teknik baserad på hjärnans funktioner. AI kan registrera, lära, förstå, agera och tänka som vi människor. AI kan driva innovation inom många områden, och företag utforskar olika sätt de kan använda tekniken i tjänster och processer.

När man nämner artificiell intelligens möts man antingen av entusiasm eller oro. Det är svårt att förutspå hur AI kommer att utvecklas och det största frågetecknet är nog – vad kommer att hända när vi bygger maskiner som är smartare än oss själva?

AI kan göra skillnad i samhället. Teknologin kan göra nytta i flera olika branscher, och kommer antagligen utföra många av våra jobb bättre än vad vi gör. Som med alla nya teknologier finns det risker. Informationssäkerhet och AI är värt att lyfta. Inte minst för att AI har väckt oro gällande både integritet och säkerhet.

Deepfakes och Deep voice

Ni kanske har hört talas om deepfakes, där man genom maskininlärning (machine learning) kan byta ut ett ansikte mot ett annat i t.ex. filmer. Detta började inom porrvärlden där man bytte ut kvinnors ansikten mot kända skådespelerskors som Gal Gadot och Scarlett Johansson. Tekniken har också används mer skämtsamt, som t.ex. när face-swap gjorde att Nicholas Cage medverkade i filmer som James Bond och Indiana Jones. Online-plattformen Reddit har nu förbjudit AI genererade face-swaps i bilder och filmer, men frågan är hur man ska kunna se till att det efterföljs allteftersom tekniken utvecklas.

Det börjar låta som ett avsnitt av Black Mirror, eller hur? Det kan bli värre, eller häftigare beroende på din inställning till AI.

Vi har nyligen sett uppkomsten av ”Deep Voice” – programvara som med hjälp av en AI-algoritm kan klona en röst. Med bara 3,7 sekunder av en röstinspelning kunde det kinesiska företaget Baidu klona en röst och ändra dialekt, tal och tonläge. Här kan du höra några exempel. Även om detta är en innovativ användning av teknik, så kan man inte förneka att tekniken gör det möjligt att rätt enkelt ’hitta på’ intervjuer, nyhetssegment, tillkännagivanden etc. Nu får vi avvakta och se hur klonade röster kan komma att påverka marknaden för röstigenkänningsprogram och röst-autentisering.

Uppmaning till diskussion om AI och informationssäkerhet

Dessa exempel visar att AI kan använda personuppgifter, för dit måste vi ju räkna min röst och bild, på skadliga sätt. Artificiell intelligens lyfter fram behovet av informationssäkerhet och bra lagstiftning, processer och rutiner. De företag som använder och utvecklar AI bör ha säkerhetsåtgärder på plats och vidta de åtgärder som krävs (t ex. sårbarhetsskanningar) för att säkerställa att man trots teknikens potential inte kompromissar på säkerhet. 

  • 24 Solutions AB
  • Smedjegatan 2C
  • SE-13154 Nacka, Sweden
  • +46 (0)8 535 24 100
  • info@24solutions.com