AI-governance, har ni kontroll över kraven och riskerna?

Kraven beror på verksamheten, informationen och hur AI används. EU:s AI-förordning, GDPR, NIS2 och DORA har olika syften och tillämpningsområden. Samma AI-lösning kan beröras av flera regelverk samtidigt.

Första steget är att kartlägga era AI-system, dataflöden och roller. Utvecklar ni en egen lösning, integrerar ni en extern modell eller använder ni en färdig tjänst? En tydlig bedömning av vilka krav som gäller gör säkerhetsarbetet mer träffsäkert och minskar risken att viktiga skyldigheter faller mellan stolarna.

En leverantörs dokumentation är ett underlag. Ni behöver också bedöma hur tjänsten används i just er verksamhet.

EU:s AI-förordning, AI Act, ställer olika krav beroende på systemets riskklass och organisationens roll. För högrisksystem omfattar regelverket bland annat riskhantering, dokumentation, mänsklig kontroll, robusthet och cybersäkerhet. Vilka skyldigheter som ligger på leverantören respektive användarorganisationen måste klarläggas, liksom när de blir tillämpliga. (Shaping Europe’s digital future)

För er innebär det att upphandling, införande och löpande förvaltning behöver hänga ihop. Vem godkänner användningen? Vem följer upp förändringar? Och vem agerar om systemet börjar bete sig på ett sätt som skapar risk?

När AI behandlar personuppgifter gäller GDPR. Ni behöver bland annat ha rättslig grund, tydliga ändamål och en säkerhetsnivå som motsvarar riskerna. Dataminimering, lagringstider, behörigheter och personuppgiftsbiträdesavtal behöver hanteras. Vid behandling som sannolikt medför hög risk kan en konsekvensbedömning krävas. (imy.se)

Informationsflödet omfattar mer än dokumenten ni laddar upp. Även instruktioner, svar, loggar och säkerhetskopior kan innehålla skyddsvärda uppgifter. Ni behöver veta vad som sparas, hur länge det finns kvar och om informationen används för andra ändamål.

Lagring inom EU besvarar inte heller automatiskt frågan om tredjelandsöverföring. Åtkomst från en mottagare utanför EU/EES kan omfattas av överföringsreglerna. Då behöver ni bedöma tillämpligt överföringsstöd och eventuella kompletterande skyddsåtgärder. Kryptering kan bidra till skyddet, men ersätter inte den rättsliga bedömningen. (imy.se)

NIS2, genomfört i Sverige genom cybersäkerhetslagen, ställer krav på säkerhetsarbete för verksamheter som omfattas. Centrala områden är riskhantering, incidenthantering, kontinuitet, leveranskedjor, åtkomstkontroll och användning av kryptografi. AI-tjänster behöver ingå i bedömningen när de påverkar verksamhetens nätverks- och informationssystem. (mcf.se)

För berörda finansiella företag ställer DORA krav på digital operativ motståndskraft. Det omfattar bland annat IKT-riskhantering, incidentrapportering, testning och kontroll över externa IKT-leverantörer. En AI-tjänst behöver därför bedömas utifrån sin betydelse för verksamheten och hur ett fel eller avbrott skulle påverka den. (eba.europa.eu)

Även leverantörer som inte själva omfattas direkt kan möta säkerhetskrav genom kundernas avtal och upphandlingar. Förmågan att redovisa säkerhetsarbetet blir därmed också en kommersiell fråga.

Kryptering vid lagring och överföring är viktiga skydd. Men hur skyddas informationen under själva bearbetningen? Vem kontrollerar nycklarna, och vilka användare, administratörer eller underleverantörer kan få tillgång?

DORA:s kompletterande tekniska regler kopplar kryptografiska kontroller till informationsklassning och riskbedömning. De behandlar kryptering av lagrad och överförd information, vid behov även information under användning, samt nyckelhantering och uppdatering av kryptografisk teknik. (EUR-Lex)

Det kräver en sammanhängande bedömning av tekniken, behörigheterna och arbetssätten. En krypterad anslutning skyddar exempelvis inte mot att en behörig AI-agent delar information med fel mottagare.

Cyber Resilience Act, CRA, kan bli relevant när ni tillhandahåller programvara eller andra produkter med digitala element på EU-marknaden. Regelverket omfattar cybersäkerhet och sårbarhetshantering under produktens livscykel. Omfattningen behöver bedömas för den konkreta produkten; alla fristående AI-molntjänster omfattas inte automatiskt. (Shaping Europe’s digital future)

För verksamhet av betydelse för Sveriges säkerhet tillkommer säkerhetsskyddslagen. Då behöver AI-användningen prövas mot säkerhetsskyddsanalysen och kraven på informationssäkerhet. Upphandlingar och samarbeten kan också kräva säkerhetsskyddsavtal. (sakerhetspolisen.se)

Policyer behöver omsättas i ansvar, kontroller och uppföljning. Ni behöver kunna visa vilka risker som identifierats, vilka åtgärder som genomförts och hur avvikelser hanteras.

ISO/IEC 27001 för informationssäkerhet och ISO/IEC 42001 för AI-ledningssystem kan ge struktur åt arbetet. De är standarder, inte lagar, och en certifiering innebär inte automatiskt att samtliga rättsliga krav är uppfyllda. (Popular standards)

Tillräckligt kraftfulla kvantdatorer skulle kunna bryta centrala asymmetriska kryptosystem som RSA och ECC. När detta blir praktiskt möjligt är osäkert, men information med lång skyddstid är redan relevant för hotbilden Harvest Now, Decrypt Later: angripare kan samla in krypterad information i dag för att försöka dekryptera den senare. Postkvantkryptografi, PQC, är utvecklad för att stå emot sådana kvantangrepp. (NIST)

EU:s samordnade färdplan anger att medlemsstaterna bör inleda övergången senast vid utgången av 2026 och att kritisk infrastruktur bör övergå till PQC senast vid utgången av 2030. Det är en gemensam färdplan, inte ett generellt lagkrav på att varje företag ska vara helt kvantsäkert 2030. (Shaping Europe’s digital future)

Samtidigt gör NIS2:s och DORA:s riskbaserade säkerhetskrav det relevant att bedöma kvantrelaterade risker och behovet av att uppdatera kryptografin. Bristande efterlevnad kan leda till tillsynsåtgärder och sanktioner, men det finns inte en generell PQC-sanktionsfrist för alla verksamheter. Börja med att inventera kryptografiska beroenden, identifiera information som måste förbli hemlig länge och ställa krav på leverantörernas migrationsplaner. (EUR-Lex)