EU sluit voorlopig akkoord (AI Act) over regels voor kunstmatige intelligentie

Volgens de Nederlandse Europarlementariër Bart Groothuis (VVD) moeten al deze modellen, dus niet alleen nieuwe versies, straks voldoen aan specifieke transparantieverplichtingen. Ze mogen in de EU pas op de markt worden gebracht als de Europese toezichthouder daar het groene licht voor geeft. Eurocommissaris Thierry Breton spreekt van een historisch akkoord.

De nieuwe wetgeving, die de AI Act wordt genoemd, wordt gezien als een cruciale stap om meer grip te krijgen op kunstmatige intelligentie en moet “de grondrechten, democratie, rechtsstaat en het milieu” beschermen tegen bepaalde AI-toepassingen. Systemen worden opgedeeld in risicoklassen: hoe hoger het risico, hoe strenger de vereisten.

Verschillende verboden

Ook wordt een aantal vergaande AI-toepassingen, zoals het ongericht opbouwen van databases met (beveiligings)beelden voor gezichtsherkenning, verboden. Dit geldt ook voor systemen die punten geven of straffen voor bepaald gedrag.

Verder wordt het verboden voor werkgevers of onderwijsinstellingen om emoties te herkennen met kunstmatige intelligentie. Voor politiediensten geldt in sommige gevallen een uitzondering op de regels, bijvoorbeeld in de zoektocht naar slachtoffers of daders bij zware misdrijven.

Het overtreden van de afgesproken regels kan leiden tot boetes die variëren van 35 miljoen euro tot een percentage van de omzet van een bedrijf.  Al binnen zes maanden na stemming gaan de diverse verboden in.

Lange onderhandelingen

Over de AI Act is de dagenlang zeer intensief onderhandeld. Vlak voor het bereiken van een akkoord draaiden de drie grootste EU-landen, Duitsland, Frankrijk en Italië, opeens van standpunt. Die waren bang dat te strenge regels niet alleen Amerikaanse techgiganten treffen, maar juist ook Europese partijen, en dat willen ze voorkomen.

De landen zijn overeengekomen dat de wet “de fundamentele rechten en de democratie respecteert, terwijl bedrijven kunnen floreren en uitbreiden”. De wetgeving is de eerste ter wereld in zijn soort. Verwacht wordt dat de wet pas op zijn vroegst in 2025 van kracht wordt. Het Europees Parlement moet nog over de wet stemmen. Al binnen zes maanden na stemming gaan de diverse verboden in.

Alexandra van Huffelen, demissionair staatssecretaris van Binnenlandse Zaken, zegt “ontzettend blij” te zijn met een Europees akkoord. “Maar dit ontslaat ons niet van de verplichting om te blijven kijken naar de kansen en risico’s van inzet van AI-technologie en de handhaving van de regels”, vindt Van Huffelen.

Hoewel AI al jaren wordt toegepast in onze maatschappij, heeft de komst van AI-tools als ChatGPT de urgentie van wetgeving enorm vergroot. Dergelijke tools worden door de nieuwe wet gereguleerd. Zo moeten zij de risico’s van hun technologie inschatten en ondervangen, en rapporten over hun energieverbruik.

Met AI-tools kunnen teksten en niet van echt te onderscheiden afbeeldingen worden gegenereerd, maar ook stemmen worden nagemaakt. Daarom zijn er brede zorgen over onder meer privacy, baanzekerheid en het auteursrecht. Ook kan kunstmatige intelligentie worden toegepast voor bijvoorbeeld gezichtsherkenning, onder meer door politiediensten.

De ontwikkelingen hebben een wedstrijd onder grote techbedrijven ontketend om met eigen toepassingen te komen. Deze week nog kondigde Google zijn eigen concurrent van de meest geavanceerde versie van ChatGPT aan.

Meer weten?

Meer weten over de impact van AI-oplossingen voor uw organisatie? Neem dan vrijblijvend contact met ons op.