Vil EU’s nye AI Act medføre større efterspørgsel på AI-løsninger?

Den nye AI-forordning fra EU er på trapperne. Men hvad betyder den for virksomheder, der udvikler AI-løsninger til sundhedssektoren? AI-forordningen vil skabe bedre sikkerhed og dermed større efterspørgsel på AI-løsninger – men den vil også stille højere krav til virksomhederne, vurderer to internationale eksperter.

26. marts 2024 | Lotte Overbjerg, loov@danishlifesciencecluster.dk

Europa-Parlamentet har godkendt Artificial Intelligence Act, EU’s forordning om kunstig intelligens. Den forventes at få stor betydning for virksomheder og organisationer, der arbejder med AI-systemer, der er på markedet i EU.

Den nye forordning skal sikre balancen mellem innovation og etiske overvejelser. Derudover skal den etablere harmoniserede standarder for AI-systemer på tværs af EU-medlemsstaterne.

Men hvilken indvirkning får den nye forordning på markedet på sundhedsområdet?

– Det står formentlig klart, at vi vil se en stigning i den regulatoriske byrde. Omkostningerne ved at drive forretning og usikkerheden i det juridiske landskab vil stige, vurderer Sandra Liede, Senior Legal Specialist, Healthtech Finland.

Strenge krav kan blive en fordel for AI som værktøj

– Jeg kan frygte, at de nye krav vil gøre det sværere at tiltrække AI-startups til Europa i fremtiden. Men samtidig får forordningen forhåbentlig positive konsekvenser for virksomheder, der udvikler AI-løsninger, fordi de bliver blåstemplede af de sikkerhedskrav, der bliver stramt reguleret fra EU, mener Dr. Oliver Eidel, openregulatory.com.

Sandra Liede og Dr. Oliver Eidel var begge oplægsholdere, da Danish Life Science Cluster var vært på webinaret ‘The coming AI legislation – will change everything..… or will everything change?’

Webinaret var en del af en række på fire i projektet CAIDX – Clinical AI-based Diagnostics. Se links til webinarerne nederst på siden.

Parallel til MDR og IVDR

Det overordnede mål med EU’s AI-forordning er at fremme ansvarlig AI-udvikling og implementering. Herudover skal den søge at beskytte grundlæggende menneskerettigheder og miljømæssig bæredygtighed mod højrisiko AI.

Den endelige tekst til forordningen er ikke lagt fast, men formodningen fra de to eksperter er, at AI-forordningen kommer til at komplimentere et allerede tungt reguleret område.

Den bliver formentlig en parallel til MDR, Medical Device Regulation, der er et sæt regler, der regulerer produktion og distribution af medicinsk udstyr i Europa og IVDR, In Vitro Diagnostic Regulation, som har til formål at sikre effektive diagnostiske tests på det europæiske marked.

Brug for forståelse for kæmpe opgave

Èn af Sandra Liedes bekymringer er, at man kan frygte, at der på EU-niveau ikke er stor nok forståelse for, hvad det kræver, at implementere et så stort stykke regulering som AI-forordningen, der er endnu større end MDR.

– Der er behov for en betragtelig mængde harmonisering inden for bl.a. tekniske standarder, guidelines, kontraktmæssige termer og templates. Derudover er der brug for adgang til dataset af høj kvalitet, evt. et samarbejde med European Health Data Space. Og ikke mindst bliver det nødvendigt at simplificere compliances for virksomhederne, påpeger Sandra Liedes.

Klasse 1 bliver fritaget

Også Dr. Oliver Eidel, som bl.a. lever af at rådgive virksomheder om MDR og IVDR, ser frem mod med nye forordning med en vis spænding.

– Vi har ingen data, der viser at de foreslåede regler fører til højere sikkerhed, så vi kender reelt først effekten flere år ud i fremtiden.

Han vurderer derfor, at det stadig er uvist, hvad AI-forordningen kommer til at betyde for virksomheder, der producerer medicinsk udstyr.

Èn ting er rådgiveren dog rimelig sikker på. Den kommende AI-regulering vil næppe påvirke løsninger klassificeret som klasse 1 medicinsk udstyr, fordi de ikke er klassificeret som højrisiko AI; kun medicinsk udstyr af klasse IIa og højere vil blive klassificeret som højrisiko AI-løsninger (hvis de indeholder AI), fordi de i øjeblikket allerede kræver en audit af et bemyndiget organ, mener Dr. Oliver Eidel.

National myndighed skal udpeges

Vi afventer nu offentliggørelsen af den endelige tekst for The European Artificial Intelligence Act, og herefter kan der komme nationale tilpasninger. Desuden skal der besluttes, hvilken myndighed, der skal være ansvarlig for at føre tilsyn med reglerne i Danmark.

Læs om: Læs mere om CAIDX – Clinical AI-based Diagnostics.

Se webinarerne, der er afholdt i regi af CAIDX.

Næste CAIDX webinar: Hvor kan du finde professionel sparring, når du udvikler AI
diagnostiske løsninger til sundhedssektoren? afholdes 22. april 2024 kl. 13-14

Tilmeld dig webinar

CAIDX er medfinansieret af Den Europæiske Union.