1. Innledning

Kunstig intelligens («KI») er i ferd med å bli nærmere regulert gjennom forordning om kunstig intelligens («KI-forordningen»), populært kalt «AI Act».^{(1)Europaparlaments- og rådsforordning (EU) 2024/1689.} EU-rettsakten skal etter planen bli gjennomført i norsk rett sommeren/høsten 2026.

Et krav som allerede er tredd i kraft innenfor EU, er plikten til å sørge for tilstrekkelig kompetanse (engelsk: «AI literacy») for nærmere bestemte personer, som lyder slik i den danske oversettelsen:

Artikkelen har ingen parallell i norsk lovgivning i dag. Målet om KI-kompetanse er begrunnet i tre ulike formål:^{(2)KI-forordningen fortalepunkt 20, jf. fortalepunkt 91.} For det første skal kravene sørge for størst mulig fordeler ved bruk av KI-systemer, ved at «den brede gennemførelse af foranstaltninger vedrørende AI-færdigheder og indførelsen af passende opfølgende tiltag [kan] bidrage til at forbedre arbejdsvilkårene og i sidste ende understøtte konsoliderings- og innovationsstien for troværdig AI i Unionen». For det annet skal kompetansen beskytte«de grundlæggende rettigheder, sundheden og sikkerheden». Til sist skal kompetansen«muliggøre demokratisk kontrol», trolig for å unngå at«big tech» og andre mektige aktører skal få ubegrenset spillerom.

På mange måter kan man anse kravet som en del av allmennutdanningen, der man både skal tilegne seg ferdigheter og kunne bli et selvstendig, tenkende menneske.^{(3)Elora Fernandes, Wayne Holmes og Sopio Zhgenti, «Article 4 AI Literacy», 2024, punkt 1 Purpose. I: Ceyhun Necati Pehlivan, Nikolaus Forgó og Peggy Valcke, The EU Artificial Intelligence (AI) Act: A Commentary.} Samtidig er kravet begrenset til en nærmere krets.

KI-forordningens krav om KI-kompetanse er imidlertid nokså uklart, og i litteraturen er det påpekt at: «The reality is that AI literacy remains a novel and fuzzy concept which, despite receiving some attention from researchers, has yet to be fully elaborated or to have consensus.»^{(4)Fernandes, Holmes og Zhgenti (2024) punkt 3.2 Defining AI Literacy.}

Målsettingen med min artikkel er derfor å tydeliggjøre hva kravet til KI-kompetanse innebærer i praksis.

Siden det ennå ikke finnes en norsk oversettelse, vil jeg henvise til den danske og engelske oversettelsen for å belyse innholdet i bestemmelsen. Språklige nyanser kan også illustrere hva som ligger i artikkelens krav.

2. Hva er KI-kompetanse?

KI-kompetanse omfatter en rekke ulike aspekter ved å håndtere KI på en forsvarlig måte. I Norge har departementet først og fremst fokusert på oppnåelse av tilstrekkelig kunnskap.^{(5)Se Regjeringens EØS-notatbase, som påpeker at «Art. 4 angir et særlig krav til ‘AI literacy’, som kan forstås som kunnskap om KI-systemer.» Lest 5. mai 2025: https://www.regjeringen.no/no/sub/eos-notatbasen/notatene/2021/juni/forslag-til-forordning-om-kunstig-intelligens-ki-forordningen/id2884935/} Den danske oversettelsen viser til «ferdigheter» – mens den engelske språkdrakten bruker uttrykket «literacy», dvs. en form for«alfabetisme», som trolig henspiller på både teoretisk og praktisk kyndighet.

KI-kompetanse er definert i artikkel 3(56):

«færdigheder, viden og forståelse, der giver udbydere, idriftsættere og berørte personer mulighed for under hensyntagen til deres respektive rettigheder og forpligtelser i forbindelse med denne forordning at idriftsætte AI-systemer på et informeret grundlag samt at øge bevidstheden om muligheder og risici ved AI og den mulige skade, som den kan forvolde»

Definisjonen tydeliggjør at KI-kompetanse vil kreve at leverandører, profesjonelle brukere og berørte personer i vid forstand må forstå hvordan KI «fungerer» og kunne bruke det på en forsvarlig måte. Dette er også påpekt i fortalepunkt 20:

«Disse begreber kan variere med hensyn til den relevante kontekst og kan omfatte forståelse af den korrekte anvendelse af tekniske elementer i AI-systemets udviklingsfase, de foranstaltninger, der skal anvendes under dets anvendelse, passende måder at fortolke AI-systemets output på, og i tilfælde af berørte personer den viden, der er nødvendig for at forstå, hvordan beslutninger truffet med hjælp fra AI vil have indvirkning på dem.»

Definisjonen tydeliggjør at KI-kompetanse vil kreve at leverandører, profesjonelle brukere og berørte personer i vid forstand må forstå hvordan KI «fungerer» og kunne bruke det på en forsvarlig måte.

Med «færdigheder» siktes trolig til at relevante personer skal rent faktisk kunne bruke kunstig intelligens på en tilfredsstillende måte. Kunnskap, «viden», innebærer nok at personer som bruker KI-systemer må vite hva som skjer i systemet, og hvordan det (overordnet) fungerer. Trolig betyr «forståelse» at brukeren får innsikt og kan se sammenhenger, f.eks. klarer å utlede/tolke hva en frembringelse uttrykker (med svakheter og styrker), og forstår hva slags virkning bruken av kunstig intelligens kan ha både direkte og mer indirekte.

I praksis vil dette bety at de som oppnår KI-ferdigheter skal kunne håndtere varierende tekniske, juridiske og etiske problemstillinger som kan oppstå, kanskje (særlig) i utviklingsfasen, bl.a. i forbindelse med å identifisere problemer, datainnsamling, databehandling, valg av modeller, trening osv.^{(6)Fernandes, Holmes og Zhgenti (2024) punkt 3.1 Responsibilites and Obligations.}

3. Hvem er omfattet av plikten til å sørge for tilstrekkelige KI-ferdigheter?

4. Hvem skal oppnå KI-kompetanse?

Både «personale og andre personer, der er involveret i drift og anvendelse af AI-systemer på deres vegne» skal tilegne seg KI-kompetanse.

Med «personale» (engelsk: «staff») siktes det primært til en virksomhets ansatte. Det må legges til grunn at både midlertidige og faste ansatte omfattes. EU-kommisjonen har påpekt at: «This concerns anyone in the organisation directly dealing with an AI system and reinforces the provisions of transparency (Article 13 of the AI Act) and human oversight (Article 14 of the AI Act) included in the Regulation.»^{(10)EU-kommisjonen, AI Literacy - Questions & Answers, 2025. Lest 20. mai 2025: https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers}

«Andre personer» er formodentlig en nokså vid gruppe. Både konsulenter og andre oppdragstakere, tredjepartsleverandører og individer fra andre avdelinger i virksomheten vil trolig omfattes – så fremt de tidvis befatter seg med KI-systemet.^{(11)Fernandes, Holmes og Zhgenti (2024) punkt 3.1 Responsibilites and Obligations.}

Plikten i KI-forordningen artikkel 4 er ikke ment for bred, allmenn opplysning eller for å løfte kompetansen for utsatte eller marginaliserte grupper.^{(12)Fernandes, Holmes og Zhgenti (2024) punkt 3.1 Responsibilites and Obligations.} Primært er målgruppen «alle relevante aktører i AI-værdikæden den indsigt, der er nødvendig for at sikre passende overholdelse og korrekt håndhævelse heraf».^{(13)KI-forordningen fortalepunkt 20.}

Likevel nevner både artikkel 3(56) og fortalepunkt 20 at KI-kompetanse skal «udstyre udbydere, idriftsættere og berørte personer med de nødvendige begreber til at træffe informerede beslutninger vedrørende AI-systemer.» Trolig betyr dette at KI-kompetanse også bør oppnås for bl.a. studenter eller foreldre til elever som går på skolen, som på en eller annen måte vil interagere med eller bruke KI-systemer.^{(14)Fernandes, Holmes og Zhgenti (2024) punkt 3.1 Responsibilites and Obligations.}

5. Hva slags tiltak må gjennomføres for å oppfylle plikten?

6. Hva er tilstrekkelig KI-kompetanse?

7. Sanksjoner ved brudd

Brudd på plikten til å sørge for tilstrekkelig KI-kompetanse er ikke nevnt blant pliktbruddene som medfører administrative gebyrer i henhold til artikkel 99 nr. 3 og 4. Det må derfor legges til grunn at manglende overholdelse av plikten i utgangspunktet mangler sanksjonering.^{(23)Tiago Sérgio Cabral, AI Literacy Under the AI Act: An Assessment of its Scope, 2025 https://eulawanalysis.blogspot.com/2025/02/ai-literacy-under-ai-act-assessment-of.html} Det gjenstår derfor å se om Norge vil innføre særlige reguleringer for å sanksjonere slike pliktbrudd, i den grad det åpnes for det innenfor rammene av KI-forordningen.^{(24)EU-kommisjonen påpeker i sin Q&A 2025 (lenke i note 10) at: «National market surveillance authorities could impose penalties and other enforcement measures to sanction infringements of Article 4. This will be based on national laws that Member States are due to adopt by 2 August 2025.» (Min understrekning)}

Det er imidlertid naturlig å se for seg at brudd på andre plikter i KI-forordningen, som kan knyttes til manglende KI-kompetanse, vil bli vektlagt i vurderingen. Eksempelvis krever artikkel 26 nr. 2 at «Idriftsættere overdrager varetagelsen af det menneskelige tilsyn til fysiske personer, der har den nødvendige kompetence, uddannelse og myndighed samt den nødvendige støtte.» Dette vil vanskelig kunne gjøres uten tilstrekkelig KI-kompetanse, og manglende oppfølging av artikkel 4 kan lede til brudd på artikkel 26 nr. 2.