Parat vil ha eget algoritmetilsyn

Støtter ny KI-lov

Parat støtter arbeidet med å regulere kunstig intelligens gjennom den nye KI-loven, som skal gjennomføre EUs AI Act i norsk rett. Fagsjef Arve Sigmundstad sier reguleringen er viktig for å sikre at kunstig intelligens blir menneskesentrert, pålitelig og trygg å bruke, samtidig som den stimulerer til innovasjon.
– Vi har stor respekt for Nkom, men mener de allerede har et svært bredt ansvarsområde. Kunstig intelligens utvikler seg raskt, og det krever et spesialisert fagmiljø for å kunne følge opp lovverket på en god måte, sier Sigmundstad.

Vil ha eget tilsyn

Parat går i sitt høringssvar imot at Nkom får rollen som koordinerende tilsyn for KI-loven. Forbundet foreslår i stedet å opprette et algoritmetilsyn – et organ med smalere mandat og tett kontakt med EU.
– Nkom har allerede et veldig bredt ansvarsområde. Kunstig intelligens krever et spisset fagmiljø som kan følge utviklingen tett og ha kontakt med EU. Derfor mener vi at ansvaret bør legges til et eget algoritmetilsyn, eller til Datatilsynet, sier Sigmundstad.

Som alternativ foreslår Parat at Datatilsynet kan overta rollen. Datatilsynet har allerede kompetanse innen personvern, som overlapper med KI-regelverket, og etablerte relasjoner til EU på digitaliseringsområdet.

Kritisk til prosessen

Regjeringen har allerede bevilget ekstra midler til Nkom for å bygge opp fagmiljø på kunstig intelligens. Parat mener dette kan skape inntrykk av at beslutningen er tatt før høringsprosessen er fullført.
– Vi synes det er uheldig at regjeringen har plassert ansvaret hos Nkom og bevilget penger før høringen er ferdig. Høringen skal nettopp avklare hvordan dette best kan organiseres, og da bør prosessen være reell, sier Sigmundstad.

Sandkasser kan hjelpe småbedrifter

I høringssvaret støtter Parat forslaget om å etablere såkalte «sandkasser» for KI, altså testordninger der virksomheter kan prøve ut teknologi under trygge rammer og med veiledning fra myndighetene.

Parat mener dette vil være særlig nyttig for små- og mellomstore virksomheter, og at det samtidig vil styrke arbeidstakernes vern i en arbeidshverdag hvor KI-systemer tas i bruk.

Forskere støtter tilsyn

Parats forslag får støtte i fagmiljøene. KI-forsker Inga Strümke (NTNU) har ved flere anledninger tatt til orde for at Norge bør etablere et algoritmetilsyn, etter modell av tilsyn som finnes i andre sektorer. Hun har vist til erfaringer fra Nederland, hvor revisjon av ni algoritmer avdekket at seks ikke oppfylte kravene, og til Danmark, som har konkludert med at algoritmer må reguleres.

Også OECD peker på rammer og ansvar.

Les også: OECD: Bruken av KI stopper uten kompetanse og rammer

Kunstig intelligens (KI) finner veien inn i stadig flere arbeidsplasser, men mye stopper opp før prosjektene tas i bruk for fullt. OECD peker på mangel på kompetanse og tydelige rammer som viktige hindringer, mens norske tall viser at arbeidstakere ofte får for liten innflytelse på hvordan teknologien innføres.

I en fersk rapport trekker OECD frem at mange KI-prosjekter stopper opp fordi kompetanse og tydelige rammer mangler. Også SINTEF og YS’ Arbeidslivsbarometer viser at arbeidstakere ofte får for lite innflytelse når KI tas i bruk.

Parat mener dette understreker behovet for et tilsyn med spisskompetanse, som kan sikre at regelverket blir fulgt opp i praksis.

Flere alternativer på bordet

En rapport fra Direktoratet for forvaltning og økonomistyring (DFØ) vurderer tre mulige modeller for tilsyn i Norge: Nkom, Datatilsynet eller et nytt organ. Rapporten peker på at et eget tilsyn kan gi spisskompetanse, men krever ressurser å etablere. Uansett valg er konklusjonen at det trengs tilstrekkelige ressurser, faglig tyngde og tett samarbeid med EU.