AI-verordening gepubliceerd: nu wordt het menens
De Artificiële Intelligentie (AI) verordening is op 12 juli 2024 gepubliceerd in het publicatieblad van de Europese Unie en treedt begin augustus in werking. Vanaf augustus hebben de regels in de AI-verordening voor de ontwikkeling en het gebruik van AI-systemen bindende rechtskracht zowel op Europees als op nationaal niveau. Omdat er verschillende termijnen voor de toepassing van de AI-verordening zijn, afhankelijk van het type AI-systeem, risicocategorie en nog een aantal andere factoren, zal de implementatie geleidelijk aan plaatsvinden. Het doel van de AI-verordening is om te garanderen dat iedereen in Europa erop kan vertrouwen dat AI-systemen veilig zijn en dat grondrechten beschermd zijn.
Nieuwe regels en rechten voor wie?
De AI-verordening heeft een breed toepassingsgebied, en richt zich op publieke en private partijen (o.a. (her-)verzekeringsmaatschappijen). Voor ondernemingen die AI ontwikkelen is nu duidelijk aan welke eisen AI-modellen en systemen moeten voldoen. Ze moeten bijvoorbeeld blijven monitoren op bestaande en nieuwe risico’s. Ondernemingen die AI gebruiken moeten ook aan verplichtingen voldoen, en ze dragen de verantwoordelijkheid om het AI-systeem te gebruiken volgens de gebruiksaanwijzing die de aanbieder van het AI-systeem ontwikkeld heeft. In de AI-verordening worden deze ondernemingen daarom ook aangeduid als ‘gebruiksverantwoordelijke’.
De strengheid van de regels in de AI-verordening hangt af van het niveau van risico’s verbonden aan een AI-systeem. AI-systemen die een onaanvaardbaar risico (bijv. onterechte social scoring) met zich meebrengen worden verboden. AI-systemen met een hoog risico brengen hoge vereisten met zich mee. Dit zijn bijvoorbeeld AI-systemen die bedoeld zijn om te worden gebruikt voor risicobeoordeling en prijsstelling met betrekking tot natuurlijke personen in het geval van levens- en ziektekostenverzekeringen. Er zijn ook nog extra regels voor AI-systemen met een hoger risico op misleiding, deze AI-systemen die content generen moeten de content markeren als ‘gegenereerd’ of ‘gemanipuleerd’. Voor chatbots gelden er ook regels: personen moeten worden geïnformeerd dat zij interageren met een AI-systeem.
Stapsgewijze implementatie
Bindende rechtskracht vanaf augustus betekent nog niet dat er gehandhaafd kan worden en dat er al aan verplichtingen moet worden voldaan. Dat kan bijvoorbeeld pas na zes maanden vanaf de inwerkingtreding van de AI-verordening (in augustus) voor de verbodsbepalingen. De governanceregels en de verplichtingen voor AI-modellen voor algemene doeleinden worden na twaalf maanden van toepassing.
Bovendien is de AI-verordening een eerste stap voor de AI-regulering, aangezien een reeks aan gedragscodes, praktijkcodes en richtsnoeren worden verwacht, zowel vanuit de nationale overheid als vanuit de Europese Unie.
Toezicht van de AI-verordening
De handhaving van de AI Act vindt grotendeels plaats op nationaal niveau dankzij de aanmeldende autoriteit en de markttoezichtautoriteit. Zij houden toezicht op de naleving van de vereisten met betrekking tot verboden AI-systemen, hoog-risico AI-systemen en transparantieverplichtingen. Het is nog niet bekend welke nationale toezichthouder dit op zich gaat nemen. België moet uiterlijk op 2 augustus 2025 informatie bekendmaken over de wijze waarop met de bevoegde autoriteiten contact kan worden opgenomen. Bovendien, de Gegevensbeschermingsautoriteit is bevoegd voor het toezicht op de naleving van de grondbeginselen van de bescherming van de persoonsgegevens. België moet ook uiterlijk op 2 november 2024 bepalen welke overheidsinstantie de nakoming van verplichtingen zal controleren of handhaven ter bescherming van grondrechten (bijv. recht op non-discriminatie).
Op Europees niveau zullen de ‘EU AI Board’ en de ‘AI Office’ toezicht houden op grote AI-modellen.
Conclusie
Verzekeringsmaatschappijen die nu al AI inzetten, of dat in de toekomst gaan doen, moeten nu rekening houden met veel meer regels. Ze dienen ervoor te zorgen dat de AI-systemen die ze willen gebruiken betrouwbaar en van hoge kwaliteit zijn.