Gå til hovedinnhold

Sikkerhet og GDPR

Sikker AI-bruk på skolen​

AI-School er tilrettelagt for ansvarlig AI-bruk i utdanningen med:

  • Skolepålogging
  • Veiledning og overvåking av lærere
  • Tekniske og organisatoriske tiltak for personvern
  • Mulighet for anonyme kontoer uten personopplysninger

Hvordan AI-School støtter GDPR-overholdelse​

GDPR krever at utdanningsinstitusjoner behandler personopplysninger forsvarlig og beskytter elevenes personvern. AI-School støtter dette med:

  • Inngåelse av databehandleravtale med skolene, som fastsetter behandlingen av personopplysninger.
  • Bruk av modellavtalen fra Privacyconvenant Onderwijs som grunnlag for databehandleravtalen.
  • Anonym levering av prompts til AI-modeller via en generell konto, uten kobling til en identifiserbar bruker.
  • Informasjon til skoler, lærere og elever om at personopplysninger ikke skal inkluderes i prompts eller dokumenter.
  • Bruk av reserverte tagger og lokal erstatning i dokumentmaler, slik at kjente opplysninger som skolens navn, adresse, kontonavn, e-postadresse og stilling ikke trenger å sendes til språkmodellen.
  • Inngåelse av databehandleravtaler eller Data Processing Addenda med leverandørene av de brukte AI-modellene.

Skolen forblir behandlingsansvarlig for den valgte organiseringen, autorisasjoner, lagringstider og bruken innen egen organisasjon.

Begrepsramme for databehandling​

Konto- og elevadministrasjonsdata: data som navn, e-postadresse, brukernavn og elevnummer som AI-School bruker for tilgang, administrasjon og veiledning. Disse dataene legges ikke automatisk til en AI-modell.

Promptinnhold: spørsmålet eller oppgaven en bruker skriver inn. Den valgte AI-modellen mottar dette innholdet for å generere et svar. Hvis en bruker legger inn personopplysninger i prompten, kan modelltilbyderen behandle disse dataene.

Chatkontekst: tidligere spørsmål og svar som er nødvendige for å gi et sammenhengende svar. Relevant chatkontekst kan sendes sammen med den nye prompten til den valgte modellen.

Tilleggsinformasjon: ved funksjoner som chatting med dokumenter, bilder og verktøy kan valgte dokumentutdrag, bilder, søkeresultater eller verktøyresultater legges til modellens input. Også dette innholdet kan inneholde personopplysninger.

Underleverandør: en ekstern part som behandler data på oppdrag, for eksempel for hosting, autentisering eller kjøring av en AI-modell. Databehandleravtalen og vedleggene er styrende for aktuelle parter, datakategorier, lokasjoner og garantier.

Dokumentmaler og personvernfølsomme data​

Ved opprettelse av dokumenter via Word-maler bruker AI-School et system med reserverte tagger. I malen kan det for eksempel stå {naam_school}, {adres_school}, {naam_account} eller {email_account}. Språkmodellen får da kun feltnavnet og oppgaven om å fylle ut skjemaet. De faktiske person- og organisasjonsdataene erstattes først senere av AI-School i applikasjonen.

Dermed trenger ikke disse kjente opplysningene å inkluderes i prompten til AI-modellen. Dette reduserer mengden personvernfølsom informasjon som behandles utenfor applikasjonen.

Tillegg til PII-beskyttelse

Dette tag- og erstatningsmekanismen er ikke en erstatning for PII-beskyttelse. Det forhindrer først og fremst at kjente data fra applikasjonen unødvendig sendes til språkmodellen. Hvis en bruker selv legger inn personopplysninger i en prompt eller et dokument, er PII-beskyttelse fortsatt viktig.

Tilsyn og innholdsfiltre​

Chathistorikk: Lærere har kun innsyn i chathistorikken til elever de er ansvarlige for. Dette innsynet kan begrenses ytterligere per rolle.

Lærerovervåking: Lærere kan starte timer og overvåke elever under timen ved behov.

Innholdsfiltre: AI-School og modelltilbyderne bruker sikkerhetstiltak og innholdsfiltre for å begrense uønsket eller risikofylt output. Slike filtre reduserer risiko, men kan ikke garantere at hvert uønsket svar blir stoppet.

Under "Innsyn i historikk" kan du lese mer om mulige innstillinger for tilsyn.

Pålogging med skolekonto​

Vi kobler AI-School til Microsoft eller Google for sikker pålogging med deres skolekonto. Skolen må gi samtykke til bruk av Microsoft 365- eller Google Workspace-integrasjonen i AI-School.

Integrasjonen sjekker om e-postadressen er registrert i AI-School-applikasjonen. Slik forhindrer vi at ikke-registrerte e-postadresser får tilgang til skolemiljøet. Utover e-postadressen utveksles ingen ytterligere personopplysninger i denne prosessen.

Undersøkelser og kontroller​

DPIA: Grip IT Consultancy — 8. september 2026. Risiko ved innsamling av data i AI-School: hvilke data som er tilgjengelige, hvem som har tilgang, og hvordan data leveres og hentes ut. For databehandlingen som ble vurdert, ble den gjennomsnittlige personvernrisikoen vurdert som lav, og ingen høye restrisikoer ble identifisert. Skoler kan be om rapporten.

Sårbarhetsskanning: Grip IT Consultancy undersøkte ai-school-pro.web.app eksternt og delvis automatisert fra 16. april til 16. juni 2025. Det ble blant annet sett på SQL-injeksjon, cross-site scripting, øktkapring, kodeinjeksjon, åpne omdirigeringer, sikre tilkoblinger og kryptering, og autentiseringssider. Den globale scoren var 8 (lav risiko), med noen oppmerksomhetspunkter og anbefalinger. Skanningen gjenspeiler situasjonen innenfor den undersøkte rammen og perioden, og er ingen garanti for at det ikke finnes sårbarheter. Rapporten er fortrolig; vi forklarer resultatene på forespørsel til personvernombudet (DPO) ved en skole eller et styre.

Risikoanalyse informasjonssikkerhet: analysen fra 19. juni 2025 kartlegger trusler, eksisterende tiltak og restrisikoer, inkludert risikoen for at en bruker legger inn personopplysninger i en prompt. Også denne analysen er et øyeblikksbilde.

Sertifiseringer​

ISO 27001-sertifiseringen som nevnes under Underbehandlere, tilhører Google Cloud og gjelder infrastrukturen AI-School kjører på. Det er ikke en egen sertifisering av HandiHow, leverandøren av AI-School. DPIA-en og sårbarhetsskanningen er også uavhengige undersøkelser og ikke en generell sertifisering. Vil du vite den aktuelle sertifiseringsstatusen til HandiHow, kan du spørre AI-School om det.

Verktøy, koblinger og prompt injection​

Jo flere verktøy og koblinger en AI-modell får bruke, desto større kan konsekvensene bli av en ondsinnet instruksjon i et dokument, på en nettside eller i en e-post (prompt injection). Administratorer kan redusere denne risikoen:

  • Koblinger til Microsoft og Google er ikke obligatoriske. Uten koblinger jobber AI-en bare med informasjonen en bruker selv deler. Koblinger kan legges til senere, målrettet.
  • Verktøy kan begrenses eller deaktiveres per miljø under Verktøy.
  • Skrivehandlinger i Microsoft 365, som e-postutkast, sending, kalenderavtaler og Teams-meldinger, har hver sin administrasjonsrettighet. Serveren kontrollerer denne rettigheten på nytt rett før utførelsen. Se Microsoft-integrasjon.
  • Med en egen Microsoft Entra-app bestemmer organisasjonen din selv hvilke Microsoft-rettigheter AI-School får, både for pålogging og for koblinger.
  • Lukket modus begrenser tilleggsfunksjonene for elever.

Ingen av disse tiltakene utelukker prompt injection fullstendig. Slå derfor bare på funksjonene og rettighetene som virkelig er nødvendige.

AI Act og ansvarlig bruk​

AI Act ser på den tiltenkte bruken av en AI-applikasjon. Leksjonsforberedelse og generell støtte med AI er i seg selv ikke høyrisikoapplikasjoner. Vurdering av elever med AI kan derimot falle under høy risiko. Bruk derfor ikke AI til å vurdere elever uten at en kvalifisert lærer har det endelige skjønnet. AI-School kan ikke fullt ut forhindre dette teknisk; fastslå det i organisasjonens bruksregler.

Styret er fortsatt ansvarlig for AI-policyen, opplæringen av personalet og AI-kompetansen i egen organisasjon.