Wat is een gebruiksverantwoordelijke onder de AI Act?
Door Joey van Vliet, oprichterBijgewerkt
Kort gezegd
Een gebruiksverantwoordelijke (in de Engelse tekst van de AI Act: deployer) is een organisatie die onder eigen verantwoordelijkheid een AI-systeem gebruikt dat een ander heeft ontwikkeld en op de markt gebracht. Wie ChatGPT, Copilot of AI-functies in bestaande software gebruikt, zit meestal in deze rol. De plichten zijn lichter dan die van een aanbieder.
Ook wel: deployer
Waarom de rol zoveel uitmaakt
Of je aanbieder bent of gebruiksverantwoordelijke, bepaalt het grootste deel van wat de AI Act van je vraagt. Een aanbieder van een hoog-risico systeem houdt technische documentatie bij, richt risicobeheer en datagovernance in, zorgt voor logging en doorloopt een conformiteitsbeoordeling. Een gebruiksverantwoordelijke hoeft dat niet.
Wat een gebruiksverantwoordelijke wel moet: het systeem gebruiken volgens de instructies van de leverancier, zorgen dat medewerkers voldoende AI-geletterd zijn (artikel 4), menselijk toezicht regelen waar dat vereist is, en in bepaalde gevallen laten weten dat er AI in het spel is, bijvoorbeeld bij gegenereerde beelden of teksten die je publiceert (artikel 50). Bij een hoog-risico AI-systeem komen daar taken bij.
In welke rol zit je?
Drie vragen helpen je op weg:
- Breng ik dit systeem onder mijn eigen naam of merk op de markt? Dan ben je aanbieder.
- Heb ik het systeem zo aangepast dat het iets anders doet dan waarvoor het bedoeld was? Dan ben je waarschijnlijk aanbieder.
- Gebruik ik het zoals de leverancier het levert, binnen mijn eigen organisatie? Dan ben je gebruiksverantwoordelijke.
Waar het in de praktijk toe doet
Bedrijven die AI in hun eigen product verwerken, denken vaak dat ze gebruiker blijven omdat ze het model niet zelf hebben gebouwd. Maar zodra je klanten een AI-functie aanbiedt onder jouw naam, schuift de verantwoordelijkheid jouw kant op.
Beantwoord de vraag daarom voordat er gebouwd wordt, niet erna. Het verschil in verplichtingen, en dus in werk en kosten, is groot genoeg om een ontwerpkeuze te beïnvloeden. Wat je verder regelt, staat in AI Act en AVG: wat moet je regelen.
Veelgestelde vragen
Wanneer word je van gebruiksverantwoordelijke toch aanbieder?
Onder meer als je een bestaand AI-systeem onder je eigen naam of merk aan anderen aanbiedt, of als je het zo wezenlijk aanpast dat het beoogde doel verandert. Een custom GPT die je intern gebruikt, maakt je geen aanbieder. Dezelfde assistent onder jouw logo in een klantportaal kan dat wel doen.
Welke verplichtingen heeft een gebruiksverantwoordelijke?
Het systeem gebruiken volgens de instructies van de leverancier, zorgen voor AI-geletterdheid bij medewerkers (artikel 4), menselijk toezicht regelen waar dat vereist is, en in bepaalde gevallen transparant zijn dat er AI in het spel is (artikel 50). Bij hoog-risico systemen komen daar extra taken bij.
