Select your country

Not finding what you are looking for, select your country from our regional selector:

Search

| Blog

Du har redan AI i organisationen. Frågan är var.

Typing on a laptop keyboard

Jag brukar ställa en fråga när jag träffar säkerhetschefer och ledningsgrupper: Hur många AI-tjänster används hos er just nu? Svaret är nånstans mellan jag vet inte till 5. Copilot, kanske ChatGPT eller Claude, ett eller flera verktyg utvecklarna skaffat. 

När vi sedan tittar i loggarna hamnar vi på ett tvåsiffrigt till tresiffrigt tal. Det beror inte på att någon gör något fel, det beror snarare på att eran verksamhet vill vara effektiva och nånstans på den resan tappade man kontrollen. 

Siffrorna är rätt entydiga

Oktas undersökning från i våras visade att två tredjedelar av amerikanska kunskapsarbetare använder osaktionerade AI-verktyg (dvs verktyg arbetsgivaren inte godkänt) och 16 procent hade lämnat ifrån sig inloggningsuppgifter till sådana verktyg. PagerDuty frågade 1 250 kontorsanställda i stora bolag och fick fram att 72 procent anser sig förstå AI bättre än den avdelning som ska styra AI-användningen. BlackFog landade i att 60 procent tycker att det är värt säkerhetsrisken om de hinner klart i tid, och att hälften har kopplat ihop AI-verktyg med andra system utan att fråga IT. 

Igenkännandet är högt från min sida utifrån vad jag ser ute hos kund. Inte som siffror, men som beteenden. En transkriberingstjänst för mötena. En plugin i webbläsaren som sammanfattar mejl. Ett bildverktyg för marknadsteamet. Varje enskilt val är fullt rimligt. Tillsammans blir det ett dataflöde ut ur organisationen som ingen kan redogöra för samt en förvaltningsskuld ingen vill ta ägarskap för. 

Varför det spelar roll

Tre saker brukar få ledningsgruppen att vakna till. 

Den första är datan. Kundlistor, HR-underlag, avtalsutkast och källkod hamnar i tjänster där villkoren är okända. ofta kan det vara en gratis konsumentversion där innehållet får användas för träning av modellen. Ibland är det en företagsversion med rimliga villkor. Skillnaden är stor, och utan visibilitet vet du inte vilken du har. 

Den andra är besluten. Det som kommer ut ur verktygen går rakt in i offerter, kod och kundkommunikation. Shadow IT handlade om var filerna låg. Shadow AI handlar om vad som faktiskt skrivs och bestäms. 

Den tredje är regelverken. EU:s AI-förordning gäller fullt ut sedan augusti, NIS2 ställer krav på att man känner sin egen miljö, och revisorer har börjat ställa AI-specifika frågor. Kan du inte redogöra för vilken AI som används kan du inte redogöra för riskerna. 

Och det är inte längre bara chattfönster i webbläsare. Agenter som kopplas till mejl, filer och kalendrar har egna behörigheter och agerar på egen hand, AI klienter installeras och kan köras utan adminrättigheter. Där räcker det inte att veta att verktyget finns, du behöver veta vad det får göra. 

Förbud löser ingenting

Det många tänker först är att blockera. Jag har sett det prövas och resultatet är värre än grundproblemet: användningen flyttar till mobilen, dokument mailas ut till privata mailen och privata konton, och organisationen får en tyst AI-kultur i stället för en öppen. Nätverksbaserade verktyg missar dessutom ungefär hälften av trafiken, så du ser inte ens vad du blockerat. 

Man förlorar dessutom det som var poängen. Medarbetarna använder de här verktygen för att de vill vara mer effektiva. Det vill man inte ta ifrån dem, man vill styra det. Lägg dessutom till att många kanske känner "jobb-protection" om de inte använder dessa verktyg, dvs, deras trygghet beror på detta. 

Börja med att se

Det är här AI discovery kommer in, och det är enklare än det låter. Målet är ett nuläge, AI-Visibilitet: vilka tjänster används, av vilka användare, vad gör de där och hur är tjänsterna konfigurerade. Går inloggningen via SSO eller privata konton? Finns det ett företagsavtal? Används innehåll för träning? 

Det mesta av det här finns redan i verktyg som organisationen äger. Microsoft Purview tillsammans med Defender for Cloud Apps och Defender for Cloud ger en bra bild i en Microsoft-miljö. Zscaler har AI-visibilitets förmåga för den som kör det. Palo Alto, Check Point och Varonis har alla sina varianter som kan lösa ut era use case. 

Resultatet brukar bli en lista på mellan 50 och 150 tjänster, sorterad efter risk och användning. Därifrån går det att fatta riktiga beslut: det här godkänner vi, det här ersätter vi med en företagsversion, det här stänger vi. Och listan blir underlaget för en AI-policy som faktiskt stämmer med verkligheten i stället för en som är skriven vid skrivbordet. 

Vi har paketerat det här som en tjänst på Orange Cyberdefense, men poängen är inte tjänsten. Poängen är ordningen: se först, styr sedan. Att börja i andra änden, med en policy blir bara en pappersprodukt, istället för något som möjliggör er AI-resa. 

Tre råd

  1. Utgå från att shadow AI redan finns hos er
  2. Mät innan du bestämmer. Ett nuläge tar ett par veckor och ändrar oftast hela diskussionen
  3. Gör de godkända verktygen enklare att använda än de ogodkända. Det är den enda regleringen som håller över tid
24/7 incident hotline