Slik sikrer du ansvarlig bruk av kunstig intelligens med ISO 42001

Skrevet av Ida Nordahl, seniorrådgiver og Elisabeth Ulsund, seniorrådgiver i Advansia.

For å sikre god styring og kontroll ved bruk av kunstig intelligens, kan det være hensiktsmessig å støtte seg på ISO 42001. Men hva innebærer egentlig ISO 42001, og hvordan kan denne standarden kan hjelpe virksomheter med å sikre ansvarlig, effektiv og bærekraftig bruk av KI?

Hva fokuserer ISO 42001 på?

ISO 42001 hjelper virksomheter med å etablere og implementere et styringssystem for KI-løsninger, samtidig som den legger til rette for vedlikehold og kontinuerlig forbedring. Dette er avgjørende i en tid med rask teknologisk utvikling. Et slikt styringssystem vil være en nødvendig del av det sentrale styringssystemet i en virksomhet.

Standarden er et nyttig rammeverk for virksomheter som ønsker en ansvarlig og etisk bruk av KI. Standarden dekker mange ulike områder, men fokuserer i stor grad på å følgende fem områder:

KI-policy

KI-policyen definerer virksomhetens holdning til kunstig intelligens og fungerer som en veiviser både for de som jobber med utvikling og implementering av KI-løsninger, samt brukerne av disse løsningene. I en slik policy skal det være tydelig hvilke retningslinjer virksomheten har satt for KI. Hvilke mål og prinsipper gjelder for KI-bruken? Hva er rammene for risikostyring? Hvordan forholde seg til datakvalitet? Dette er spørsmål standarden skal hjelpe virksomheter med å besvare.

Ansvarlighet

Virksomheter må kunne vise hvordan de følger både etiske og juridiske standarder og forpliktelser knyttet til kunstig intelligens. ISO 42001 stiller krav til at slike forpliktelser er tydelig forankret i virksomhetens styringssystem, med en tydelig og dokumentert ansvarsfordeling. Det skal også fremgå tydelig hvilken rolle i selskapet som har ansvar for KI-systemet gjennom hele livssyklusen – fra design og utvikling til drift og evaluering.

Risikohåndtering

Kunstig intelligens kommer med nye typer risiko som må integreres i virksomhetens eksisterende risikoprinsipper. ISO 42001 gir et rammeverk for å identifisere og håndtere disse risikoene på en systematisk måte. KI-systemer kan ha stor påvirkning på både enkeltpersoner og hele samfunn, og konsekvensene av uønskede hendelser kan være betydelige. Risiko bør vurderes på flere områder, inkludert rettferdighet (fairness), tilgjengelighet og kvalitet på testdata, samt sikkerhet.

Transparent beslutningstaking

KI benyttes ofte i beslutningssammenhenger, enten ved å analysere dataunderlag for beslutninger eller ved å ta beslutninger selv. ISO 42001 fremhever behovet for etterprøvbarhet og forståelighet i slike prosesser. Manglende transparens kan skape utfordringer, spesielt når det gjelder å forklare hvordan beslutninger eller avgjørelser faktisk er tatt. Kort sagt: Hvis noen spør hvordan en beslutning ble fattet, må du kunne vise til en transparent prosess som tydelig forklarer hvordan KI-systemet ditt kom frem til akkurat den avgjørelsen.

Kontinuerlig læring

KI-systemer og KI-teknologi utvikler seg i et raskt tempo, og virksomheter møter stadig høyere forventninger om å utvikle seg og holde seg oppdatert – både internt, fra kunder og fra samfunnet generelt. ISO 42001 fremmer en praksis for kontinuerlig forbedring og læring som en integrert del av styringssystemet. For å lykkes med dette må virksomheten sikre kontinuerlig læring og bruke denne innsikten til å videreutvikle både styringssystemet og de eventuelle KI-løsningene. For at KI-systemene skal forbli relevante og effektive over tid, er det avgjørende å ha kontroll på hvordan de tilpasser seg nye data og situasjoner – uten at det går på bekostning av påliteligheten.

Hvorfor ISO 42001?

ISO 42001 tilbyr et omfattende rammeverk for å håndtere utfordringer som risikovurdering, datastyring, sikkerhetskontroller og overvåking. Standarden sikrer også at pålitelighet, sikkerhet, transparens og datakvalitet ivaretas gjennom hele prosessen – fra design og utvikling til distribusjon av KI-systemer.

Som en integrert del av virksomhetens styringssystem er ISO 42001 et godt verktøy for å sikre kontroll og ansvarlighet i arbeidet med KI. Standarden legger grunnlaget for ansvarlig og effektiv bruk av KI.

Advansia har lang og bred erfaring med styring av komplekse teknologiinitiativer, og vi ser at ISO 42001 gir et robust fundament for å bygge videre på. Vi har flere konsulenter sertifisert innen denne standarden, og med dette kan vi hjelpe din virksomhet med å forene ansvar og ambisjoner i KI-arbeidet – og sikre en trygg og strategisk vei fremover.