AI Act

AI is een hot topic. Het wordt niet voor niets de vierde industriële revolutie genoemd: een tijdperk waarin mens en machine steeds nauwer samenwerken. De kans is groot dat je inmiddels wel eens van ChatGPT hebt gehoord — of het zelfs al gebruikt hebt. Maar AI gaat veel verder dan dit. Zonder dat je het doorhebt, nemen slimme algoritmes en geavanceerde systemen al dagelijks beslissingen die invloed hebben op jouw werk, je gezondheid of je financiën.

Denk aan een AI die cv’s selecteert, medische scans beoordeelt of automatisch kredietrisico’s inschat.

Op 1 augustus 2024 is de Europese AI Act officieel in werking getreden. Deze wet markeert een belangrijke stap in de regulering van kunstmatige intelligentie binnen de EU. We zijn inmiddels een jaar verder, maar het lijkt erop dat veel ondernemers nog onvoldoende beseffen wat er precies op hen van toepassing is — en vooral wat de gevolgen zijn van niet-naleving.

Wat is de AI Act?

De AI Act is de eerste uitgebreide wetgeving ter wereld die kunstmatige intelligentie reguleert. De wet is direct van toepassing in alle EU-lidstaten en geldt voor alle organisaties die AI-systemen ontwikkelen, gebruiken, importeren of distribueren binnen de EU – ongeacht sector of omvang.

De kern van de wet is een risicogebaseerde aanpak:

• Onacceptabele risico’s: verboden AI-toepassingen, zoals sociale scoring of emotieherkenning op de werkvloer.
• Hoog-risico: strenge eisen voor toepassingen zoals werving, kredietbeoordeling, medische diagnostiek of rechtspraak.
• Beperkt risico: transparantieverplichtingen, zoals het melden dat een gebruiker met een AI-systeem communiceert.
• Minimaal risico: geen specifieke verplichtingen, maar wel algemene zorgplichten.

Wat is een AI-systeem

De AI Act hanteert een brede definitie:

Een op een machine gebaseerd systeem dat ontworpen is om met verschillende niveaus van autonomie te functioneren, dat zich kan aanpassen na ingebruikname, en dat — voor expliciete of impliciete doelen — op basis van input bepaalt hoe het output genereert, zoals voorspellingen, aanbevelingen, inhoud of beslissingen die invloed hebben op fysieke of virtuele omgevingen.

Deze definitie omvat veel meer dan alleen geavanceerde deep learning-modellen. Ook eenvoudige algoritmes of tools die beslissingen ondersteunen kunnen hieronder vallen.

Denk aan een tool die automatisch sollicitaties scant en kandidaten rangschikt op basis van trefwoorden, opleiding en werkervaring. Hoewel het systeem relatief eenvoudig lijkt, neemt het zelfstandig beslissingen op basis van inputdata — en valt het dus onder de AI Act.

Wat betekent dit concreet voor ondernemers

De AI Act raakt niet alleen techbedrijven. Ook organisaties in de zorg, het onderwijs, de financiele sector, HR, marketing en e-commerce krijgen ermee te maken. Denk aan:

• Een recruitmenttool die automatisch cv’s filtert – hoog risico;
• Een verzekeraar die AI gebruikt voor risicoprofielen – hoog risico;
• Een webshop met een AI-chatbot – beperkt risico;
• Een bedrijf dat AI inkoopt van een leverancier buiten de EU – verantwoordelijk als deployer.

De verplichtingen verschillen per rol (provider, deployer, distributeur, importeur), maar kunnen onder andere ook bestaan uit:

• Risicoclassificatie en impactanalyse;
• Technische documentatie en conformiteitsverklaring;
• Transparantie richting gebruikers;
• Governance- en kwaliteitsmanagementsystemen;
• Meldplicht bij incidenten;
• Aansprakelijkheid bij schade.

Waarom nu actie ondernemen?

Hoewel de AI Act gefaseerd wordt ingevoerd (met deadlines in 2025, 2026 en 2027), is het voor ondernemers essentieel om nu al te starten met voorbereidingen. De wet kent geen uitzonderingen voor mkb’ers of startups. En de boetes zijn fors:

• Tot €35 miljoen of 7% van de wereldwijde omzet bij verboden AI;
• Tot €15 miljoen of 3% bij niet-naleving van verplichtingen voor hoog-risico AI.

Daarnaast biedt de wet ook kansen:

• Voorsprong op concurrenten door aantoonbare compliance;
• Versterking van vertrouwen bij klanten, investeerders en toezichthouders.

Nieuwe fase AI Act van kracht: transparantie verplicht bij beperkt risico-AI

Op 2 augustus 2025 is een nieuwe fase van de Europese AI Act ingegaan. Vanaf 1 augustus 2025 gelden er specifieke verplichtingen voor het gebruik en beschikbaar stellen van zogeheten beperkt risico-AI. Dit betreft onder andere systemen die zich voordoen als een mens, zonder dat gebruikers daarvan op de hoogte zijn — denk bijvoorbeeld aan een chatbot op een website.

De kern van de regelgeving voor beperkt risico-AI is transparantie. Gebruikers moeten duidelijk geïnformeerd worden wanneer zij communiceren met een AI-systeem. Daarnaast moet het voor lezers van content helder zijn dat deze (deels) met behulp van AI is gegenereerd.

Wat betekent dit concreet?

• Vermeld bij AI-gegenereerde content dat deze met behulp van kunstmatige intelligentie is gemaakt.
• Informeer gebruikers van een chatsysteem dat zij communiceren met een chatbot of AI-assistent.

Kortom: wees open over de inzet van AI. Transparantie is niet alleen een wettelijke verplichting, maar draagt ook bij aan vertrouwen en verantwoord gebruik van technologie.

Hoe kunnen wij helpen?

Als kantoor helpen wij organisaties bij:

✅ Het juridisch toetsen van AI-toepassingen

✅ Het opstellen van verplichte documentatie en contracten

✅ Risicoclassificatie en impactanalyses

✅ Voorbereiding op audits en toezicht

✅ Training en bewustwording binnen jouw organisatie

Of je nu AI ontwikkelt, inkoopt of gebruikt — wij zorgen dat je juridisch voorbereid bent op de toekomst.

Klaar om compliant te worden?

Wil je weten of jouw AI-toepassing onder de AI act valt? Of twijfel je over je verplichtingen?

Neem contract op voor een vrijblijvende intake. Samen zorgen we dat jouw organisatie klaar is voor de toekomst van AI.