# AI i medicinsk udstyr: validering, bias og AI-forordningen > AI i medicinsk udstyr skal opfylde MDR eller IVDR, IEC 62304 og ISO 14971 og fra 2. august 2028 AI-forordningen. Sådan validerer du model, data og bias. - URL: https://bon.do/artikler/ai-i-medicinsk-udstyr - Markdown: https://bon.do/artikler/ai-i-medicinsk-udstyr.md - Author: Kirsten Bondo Vraa - Published: 2025-05-15 - Updated: 2026-11-09 - Reading time: 6 minutes - Section: AI · Reguleret ## In 30 seconds - AI i medicinsk udstyr handler om en påstand om klinisk funktion, ikke om en modelfunktion. Du validerer det tilsigtede formål, ikke demoen. - MDR-klassen afgør, om AI-forordningens højrisikokrav gælder. Kræver udstyret et bemyndiget organ, gælder de fra 2. august 2028. - Data, bias og modelændringer er regulatoriske spørgsmål. Planlæg håndteringen af dem i kvalitetssystemet fra starten. ## Key facts - **Regulering:** MDR · IVDR · AI-forordningen - **Højrisiko-AI i udstyr:** Fra 2. august 2028 - **Softwarestandard:** IEC 62304 - **Risikostyring:** ISO 14971 - **QMS:** ISO 13485 - **AI-principper:** GMLP (IMDRF N88, 2025) --- AI i medicinsk udstyr er tilladt og bliver brugt, men en model, der virker i en notebook, er ikke et produkt, der må bruges på patienter. Når AI-software har et medicinsk formål, skal den opfylde MDR eller IVDR, udvikles efter IEC 62304, risikostyres efter ISO 14971 og valideres til sit tilsigtede formål. Kræver udstyret et bemyndiget organ, gælder AI-forordningens højrisikokrav også fra 2. august 2028. Denne artikel handler om arbejdet mellem den lovende model og den CE-mærkede version: klassificering, regler, validering, data, bias og opdateringer. ## Hvornår er AI-software medicinsk udstyr? AI-software er medicinsk udstyr, når fabrikanten tilsigter, at den skal diagnosticere, forebygge, overvåge, forudsige eller behandle sygdom hos det enkelte menneske. Det er formålet, ikke teknologien, der afgør det. En AI-model, der planlægger vagter, er ikke medicinsk udstyr. En AI-model, der markerer mistænkelige fund i et røntgenbillede, er. Klassen følger af regel 11 i bilag VIII til [forordningen om medicinsk udstyr (EU) 2017/745](https://eur-lex.europa.eu/legal-content/DA/TXT/?uri=CELEX:32017R0745). Software, der leverer information til diagnostiske eller terapeutiske beslutninger, tilhører som udgangspunkt klasse IIa, men klasse IIb eller III, hvis en forkert beslutning kan føre til alvorlig forværring eller død. Software, der overvåger fysiologiske processer, er klasse IIa. Al anden software er klasse I. Software til in vitro-diagnostik klassificeres efter IVDR's egne regler. Den europæiske vejledning [MDCG 2019-11 rev.1](https://health.ec.europa.eu/document/download/b45335c5-1679-4c71-a91c-fc7a4d37f12b_en?filename=mdcg_2019_11_en.pdf), revideret i juni 2025, gennemgår reglerne med eksempler, også for AI. [Lægemiddelstyrelsen](https://laegemiddelstyrelsen.dk/da/udstyr/) har en dansk vejledning til fabrikanter om software og apps. Vores køreplan [fra idé til CE-mærkning](https://bon.do/artikler/fra-ide-til-marked-medicinsk-software) viser, hvordan klassen påvirker tid og budget. ## Hvilke regler gælder for AI i medicinsk udstyr? AI i medicinsk udstyr skal opfylde de samme regler som anden medicinsk software, og derudover AI-forordningen, når udstyret er højrisiko. Arbejdet med de forskellige regelsæt overlapper i høj grad: En god kravproces, risikovurdering og teststrategi kan bruges på tværs af regelsættene, hvis de er ordentligt dokumenteret fra starten. | Regelsæt | Hvad det dækker | | --- | --- | | MDR / IVDR | Om produktet er medicinsk udstyr, klassen, klinisk evidens og overvågning efter markedsføring | | IEC 62304 | Softwarens livscyklus: krav, arkitektur, verifikation, vedligeholdelse og SOUP | | ISO 13485 | Kvalitetsstyringssystemet, herunder styring af design og udvikling samt ændringsstyring | | ISO 14971 | Risikostyring, også for risici, der skyldes modellens fejl og skævheder | | AI-forordningen | Datastyring, dokumentation, transparens, menneskeligt tilsyn og robusthed for højrisiko-AI | | GMLP | Ti principper for god praksis inden for maskinlæring, udgivet af IMDRF i [N88 (januar 2025)](https://www.imdrf.org/sites/default/files/2025-02/IMDRF_AIML%20WG_GMLP_N88%20Final.pdf) | ## Hvornår gælder AI-forordningen for medicinsk udstyr? [AI-forordningen (forordning (EU) 2024/1689)](https://eur-lex.europa.eu/legal-content/DA/TXT/?uri=CELEX:32024R1689) gør AI i medicinsk udstyr til højrisiko-AI, når to betingelser er opfyldt: AI-systemet er selve udstyret eller en sikkerhedskomponent i det, og udstyret skal vurderes af et bemyndiget organ under MDR eller IVDR. Software i klasse IIa og derover er derfor typisk omfattet. Selvdeklareret klasse I-software er det ikke. Datoerne er ændret undervejs: - **2. februar 2025:** Forbudte AI-praksisser og reglerne om AI-kendskab gælder. Efter ændringen i 2026 skal udbydere og brugere af AI iværksætte tiltag, der understøtter AI-kendskab hos deres medarbejdere. - **2. august 2026:** Transparenskravene i artikel 50 gælder, fx at brugere skal vide, de interagerer med AI. - **2. august 2028:** Højrisikokravene gælder for AI i produkter som medicinsk udstyr. Datoen var oprindeligt 2. august 2027, men blev udskudt med [Digital Omnibus-forordningen (EU) 2026/1744](https://eur-lex.europa.eu/legal-content/DA/TXT/?uri=CELEX:32026R1744), som blev offentliggjort 24. juli 2026 og trådte i kraft 27. juli 2026. MDCG og AI-boardets fælles vejledning [MDCG 2025-6](https://health.ec.europa.eu/document/download/b78a17d7-e3cd-4943-851d-e02a2f22bbb4_en?filename=mdcg_2025-6_en.pdf) fra juni 2025 beskriver samspillet. Kort fortalt ændrer AI-forordningen ikke MDR-klassen, det bemyndigede organ vurderer begge regelsæt i én proces, og AI-kravene kan bygges ind i det eksisterende kvalitetssystem og den tekniske dokumentation. ## Hvordan validerer man en AI-model i medicinsk software? Du validerer modellen ved at dokumentere, at produktet gør det, du påstår, for de brugere og patienter, det er tiltænkt. For AI kommer der et ekstra lag: modellens adfærd afhænger af data, og data ændrer sig. En praktisk rækkefølge: 1. **Definér det tilsigtede formål.** Hvem bruger produktet, til hvilken beslutning, og for hvilken patientgruppe? Det er det, du skal validere. 2. **Lås data og model.** Versionér træningsdata, kode, hyperparametre og den færdige model, så resultatet kan genskabes. 3. **Test på uafhængige data.** Testdata må ikke overlappe med træningsdata og skal afspejle den kliniske virkelighed. De må gerne komme fra andre steder end træningsdataene. 4. **Dokumentér ydeevne og fejl.** Både samlet og for relevante delgrupper, med kliniske mål som sensitivitet og specificitet frem for en enkelt accuracy-score. 5. **Test arbejdsgangen.** Brugervenlighed efter IEC 62366-1: forstår klinikeren outputtet, og hvad sker der, når modellen er usikker? 6. **Overvåg efter frigivelse.** Som led i overvågningen efter markedsføring skal datadrift og fald i ydeevnen opdages, før de bliver et klinisk problem. ## Hvilke krav stilles til data? En AI-model er kun så god som de data, den er trænet og testet på, og i medicinsk udstyr skal du kunne dokumentere dem. Kan data ikke dokumenteres, kan modellen ikke valideres. - **Kvalitet.** Manglende værdier, forskellige måleenheder og støj i signalet skal håndteres eksplicit og beskrives. - **Repræsentation.** Data skal dække den population, produktet skal bruges på, ikke kun de patienter, der var nemme at rekruttere. - **Sporbarhed.** Hvert trænings- og testsæt skal kunne spores til en version, en kilde og en databehandling. - **Databeskyttelse.** Helbredsoplysninger tilhører de særlige kategorier af personoplysninger efter GDPR artikel 9. Du skal have et behandlingsgrundlag, pseudonymisering og adgangsstyring, og en databehandleraftale med de leverandører, der behandler data. ## Hvordan håndterer man bias i medicinsk AI? Håndtér bias i medicinsk AI som et sikkerhedsspørgsmål, ikke kun som et etisk spørgsmål. Hvis modellen præsterer dårligere for en patientgruppe, er det en forskel i sikkerhed og ydeevne, som skal håndteres i risikostyringen. Arbejd med bias som en del af designet: - Kortlæg, hvilke grupper der er underrepræsenteret i data, fx efter alder, køn, etnicitet eller udstyrstype. - Test ydeevnen separat for de relevante grupper, og fastsæt acceptkriterier på forhånd. - Dokumentér, hvilke beslutninger der er taget for at håndtere skævhed, og hvilke begrænsninger der står i brugsanvisningen. - Overvåg, om fordelingen ændrer sig efter frigivelse. Ingen teknisk løsning fjerner al bias. Du kan gøre den synlig, håndtere den og dokumentere den. ## Hvad sker der, når modellen skal opdateres? Gentræning af en AI-model er en ændring af udstyret. Under MDR skal du vurdere, om ændringen er væsentlig, og en væsentlig ændring af klasse IIa-software og derover skal godkendes af det bemyndigede organ, før den frigives. AI-forordningen åbner for planlagte ændringer: Ændringer, som er beskrevet på forhånd og indgår i den tekniske dokumentation ved den første overensstemmelsesvurdering, er ikke en væsentlig ændring. I USA har FDA siden december 2024 haft en endelig vejledning om Predetermined Change Control Plans (PCCP) for AI-udstyr. Ifølge [FDA's gældende PCCP-vejledning](https://www.fda.gov/regulatory-information/search-fda-guidance-documents/marketing-submission-recommendations-predetermined-change-control-plan-artificial-intelligence) (august 2025) beskriver en PCCP de planlagte ændringer, hvordan de udvikles og valideres, og hvilken betydning de har, og FDA vurderer planen som en del af markedsføringsansøgningen. I praksis betyder det, at de fleste AI-produkter frigives med en låst model. Skal modellen lære løbende, skal ændringsprotokollen, testene og grænserne for, hvad der må ændre sig, ligge klar fra starten. ## Hvad vi ser i praksis hos bon.do Når vi bygger software omkring AI i regulerede miljøer, går spørgsmål om sporbarhed, modeludskiftning og menneskelig kontrol igen. Vi byggede backenden til [et CE-mærket medicinsk udstyr](https://bon.do/cases/seismofit), hvor en seismografisk AI-algoritme estimerer VO₂max ud fra hjertets vibrationer. Kravet var, at hvert resultat skulle kunne spores tilbage til den rå optagelse, enheden, operatøren og forsøgspersonen. Den sporbarhed er det, der gør algoritmens output brugbart i en audit. På [QualiBooking](https://bon.do/cases/qualibooking), en klinikplatform der ikke er medicinsk udstyr, kører AI-noterne gennem et provider-lag, og behandleren gennemgår og signerer hver note. Det er samme princip: modellen kan skiftes, og et menneske har kontrollen. Uanset om I bygger selv eller med en partner, bør I kunne svare på: - Hvem ejer data, modellen og koden? - Kan modellen udskiftes, uden at resten af produktet skal bygges om? - Hvordan dokumenteres og godkendes ændringer af modellen? - Hvem overvåger modellen i drift, og hvad udløser en handling? Det er de spørgsmål, der stilles ved due diligence og audit. ## Næste skridt Start med et afgrænset klinisk problem, og afklar klassen, før I bygger. Byg den mindste version, der kan testes, dokumentér data, model og beslutninger, og vælg en arkitektur, hvor modellen kan skiftes uden at bygge hele produktet om. Læs mere om [ISO 13485 og kvalitetssystemet](https://bon.do/artikler/iso-13485-certificering) og om [GDPR og helbredsdata](https://bon.do/artikler/gdpr-sundhedsdata). Vil du have et andet blik på jeres AI-produkt, kan du [booke en gratis projektvurdering](https://bon.do/kontakt). Vi gennemgår arkitektur, data og dokumentation sammen med jer, uden forpligtelse. Du kan også læse, hvordan vi [udvikler reguleret software til sundhed og life science](https://bon.do/ydelser). --- ## Questions we get asked ### Må man bruge AI i medicinsk udstyr? Ja. AI-software kan CE-mærkes som medicinsk udstyr, hvis den opfylder MDR eller IVDR og er valideret til sit tilsigtede formål. Modellen er en del af udstyret og kræver styring af design og udvikling, risikostyring efter ISO 14971 og klinisk evidens. ### Hvornår gælder AI-forordningen for medicinsk udstyr? AI-forordningens højrisikokrav gælder for AI i medicinsk udstyr, der kræver et bemyndiget organ under MDR eller IVDR. Efter Digital Omnibus-ændringen (forordning (EU) 2026/1744) gælder de fra 2. august 2028. Reglerne om AI-kendskab hos medarbejdere har gældt siden 2. februar 2025. ### Hvordan validerer man en AI-model i medicinsk software? Definér det tilsigtede formål, lås data og model, test på et uafhængigt og klinisk relevant datasæt, dokumentér ydeevnen for relevante patientgrupper, og overvåg modellen efter markedsføring. ### Hvad er GMLP? Good Machine Learning Practice er ti principper for udvikling af AI i medicinsk udstyr: tilsigtet formål, repræsentative data, adskilte trænings- og testdata, menneskelig kontrol og overvågning i drift. IMDRF udgav den endelige version i januar 2025. ### Kan man opdatere en AI-model efter CE-mærkningen? Ja, men en væsentlig ændring kan kræve en ny vurdering hos det bemyndigede organ. Under AI-forordningen er ændringer, der er beskrevet på forhånd i den tekniske dokumentation, ikke en væsentlig ændring. I USA bruger FDA en Predetermined Change Control Plan (PCCP).