AI Act en AVG: wat moet je nu regelen?

Je mensen gebruiken al AI. In een chatvenster, in een samenvatting, in een tool die iemand zelf heeft aangezet. De vraag is niet of je eraan moet, maar of je kunt laten zien wat er gebeurt met welke gegevens. Twee regimes bepalen dat: de AVG, die al jaren geldt, en de EU AI Act, die stapsgewijs van kracht wordt.

Dit artikel geeft een werkwijze, geen juridisch advies. Toets je aanpak met je privacyfunctionaris of een jurist.

Waar raken de AVG en de AI Act elkaar?

De AVG gaat over persoonsgegevens. Zodra je AI loslaat op cv's, klantdossiers, e-mail of personeelsdata, geldt hij. De AI Act gaat over het AI-systeem zelf: wat het doet, hoeveel risico dat met zich meebrengt en welke waarborgen daarbij horen, ook als er geen persoonsgegevens in zitten.

Ze overlappen op de punten die er in de praktijk toe doen: transparantie, menselijk toezicht, vastleggen wat er gebeurt, en afspraken met je leveranciers. Regel je die vier goed, dan heb je het grootste deel van beide te pakken.

Wat de AVG van je vraagt als je AI gebruikt

Vijf punten komen steeds terug.

• Grondslag: je moet kunnen benoemen waarom je deze gegevens mag verwerken voor dit doel.
• Dataminimalisatie: het model krijgt niet meer gegevens te zien dan de taak nodig heeft.
• Transparantie: mensen weten dat je AI gebruikt en waarvoor.
• Geautomatiseerde besluitvorming: voor besluiten die uitsluitend geautomatiseerd tot stand komen en iemand in aanmerkelijke mate treffen, gelden extra eisen.
• Verwerkers: met elke partij die namens jou gegevens verwerkt, sluit je een verwerkersovereenkomst en leg je vast waar dat gebeurt.

Bij toepassingen met een hoog risico voor betrokkenen hoort daar een gegevensbeschermingseffectbeoordeling bij. Dat is werk vooraf, en het scheelt je een hoop discussie achteraf.

Wat de AI Act daar bovenop legt

De AI Act deelt toepassingen in naar risico. Een klein aantal praktijken is verboden. Een aantal toepassingen geldt als hoog risico, waaronder AI die wordt gebruikt bij werving en selectie, bij beslissingen over arbeidsvoorwaarden, bij toegang tot onderwijs en bij kredietbeoordeling. Daarvoor gelden eisen aan onder meer risicobeheer, datakwaliteit, technische documentatie, logging en menselijk toezicht.

Voor systemen die rechtstreeks met mensen communiceren of inhoud genereren, gelden transparantieverplichtingen. De rest valt onder minimaal risico, waar je eigen beleid geldt. De verordening werkt gefaseerd, en over die fasering is discussie geweest. Controleer de actuele stand van zaken voordat je ergens op plant.

Let ook op je rol. Bouw je zelf een AI-systeem en zet je het in de markt, dan ben je aanbieder en gelden er zwaardere verplichtingen dan wanneer je een bestaand systeem gebruikt. Zet je een ingekocht systeem onder je eigen naam in of pas je het wezenlijk aan, dan kun je alsnog als aanbieder worden aangemerkt.

Stap 1: maak een lijst van waar AI al wordt gebruikt

Begin met inventariseren, niet met beleid. Vraag per afdeling welke tools worden gebruikt, ook de tools die niemand heeft aangevraagd. Zet per toepassing neer: wat doet het, welke gegevens gaan erin, wie gebruikt het, en wat gebeurt er met de uitkomst.

Die lijst is bijna altijd langer dan verwacht, en hij is de basis voor alles wat daarna komt. Je kunt niets beoordelen wat je niet weet. Zet er ook bij wat je van plan bent te bouwen; de rollen die wij daarvoor inrichten staan in het overzicht van AI-medewerkers.

Stap 2: bepaal per toepassing het risico

Loop de lijst langs met twee vragen. Zitten er persoonsgegevens in, en zo ja welke? En wat gebeurt er met de uitkomst: is het een hulpmiddel voor een mens, of leidt het tot een besluit over iemand?

Een samenvatting van een openbaar document is iets anders dan een voorselectie op sollicitanten. Zet je toepassingen in drie bakjes: gewoon gebruik, extra aandacht, en niet doen zonder beoordeling. Grover dan de wet, maar meteen werkbaar.

Stap 3: leg vast wat het systeem doet en wie erop let

Voor elke toepassing die verder gaat dan hulpmiddel, leg je vier dingen vast: wat het systeem doet en wat niet, welke gegevens erin gaan, wie de uitkomsten controleert, en hoe iemand bezwaar kan maken.

Zorg daarnaast dat het systeem zelf vastlegt wat het doet. Welke invoer, welke bronnen, welke uitkomst, en wie eventueel heeft goedgekeurd. Bij toepassingen met een hoog risico is die logging een verplichting, en in alle andere gevallen is het de enige manier om een fout terug te vinden.

Menselijk toezicht betekent meer dan een knop met akkoord. Wie goedkeurt, moet de onderbouwing zien, kunnen afwijken en er tijd voor hebben. Hoe wij dat in de basis inrichten, staat bij AI-implementatie.

Stap 4: regel je afspraken met leveranciers

Vraag elke leverancier vier dingen. Waar worden de gegevens verwerkt en opgeslagen? Worden mijn gegevens gebruikt om modellen te trainen, en kan ik dat uitzetten? Hoe lang wordt er bewaard? En welke informatie krijg ik om zelf aan mijn verplichtingen te voldoen? Leg de antwoorden vast in de verwerkersovereenkomst, inclusief doorgifte buiten de EU, en controleer ze jaarlijks.

Waar let je op bij ChatGPT en andere publieke modellen?

Het grootste risico is niet het model, maar het plakken. Iemand zet een klantcontract of een personeelsdossier in een chatvenster om er snel een samenvatting van te krijgen. Zonder afspraken weet je niet waar dat terechtkomt.

Regel daarom drie dingen: een zakelijke omgeving in plaats van persoonlijke accounts, een korte huisregel over wat er wel en niet in mag, en een alternatief dat net zo makkelijk is. Dat laatste is het belangrijkste. Een verbod zonder alternatief wordt omzeild.

Voor gevoelige gegevens kun je een model binnen de EU laten draaien, of een model dat je zelf beheert. Hoe je die modellen koppelt aan je eigen systemen, staat bij ChatGPT en Claude.

Wanneer hoef je hier niet zwaar aan te tillen?

Gebruik je AI alleen op openbare of eigen niet-persoonlijke informatie, en leidt de uitkomst nooit tot een besluit over een persoon, dan zit je in de lichtste categorie. Denk aan het samenvatten van een openbaar rapport of het opstellen van een conceptmail die je zelf nog nakijkt.

Ook dan is een korte huisregel nuttig: welke informatie mag erin, wie is aanspreekpunt, en waar meld je het als er iets misgaat. Eén A4 is genoeg. Een beleidsstuk van dertig pagina's leest niemand.

Wil je in kaart brengen wat er in jouw organisatie al draait en wat dat vraagt, dan doen we dat in de AI Opportunity Audit. Wat die oplevert, staat bij de AI Opportunity Audit. Your Tech Club is ISO 9001- en ISO 27001-gecertificeerd door Kiwa; dat gaat over hoe wij werken en vervangt geen beoordeling per toepassing.