AI in je werk: wanneer moet je vermelden dat je het hebt gebruikt?

AI is voor veel organisaties in de creatieve sector inmiddels een vast onderdeel van het werkproces. Gegenereerd beeld in een productie, een AI-stem onder een commercial of een chatbot die klanten te woord staat. Maar hoe weet je dat je met een mens te maken hebt of toch met AI?

Sinds 2 augustus gelden de transparantieverplichtingen uit de Europese AI Act, die (kort samengevat) voorschrijven in welke situaties je moet vermelden dat er AI is gebruikt. Wat houden de nieuwe regels in? En wat betekent dit voor organisaties in de creatieve sector? We leggen het hieronder uit.

Waarom nieuwe regels over transparantie?

Het uitgangspunt van de nieuwe transparantieverplichtingen lijkt op dat van de reclameregels: het publiek moet in bepaalde situaties weten dat het om gesponsorde content gaat zodat het niet misleid wordt.

Nu zijn er dus ook nieuwe regels met een soortgelijk uitgangspunt. Het moet duidelijk zijn dat je met een AI te maken hebt en niet (alleen) met een mens. Ook op de naleving van deze regels wordt toezicht gehouden door onder andere de Autoriteit Persoonsgegevens (AP). Dat betekent ook dat er boetes kunnen worden opgelegd, als de regels niet (voldoende) worden nageleefd.  

Wat houden de nieuwe regels in?

De transparantieverplichtingen gelden voor vier specifieke situaties:

1. Communicatie met AI

Wie met een AI communiceert via bijvoorbeeld de chatbot van een klantenservice, moet dat weten. Aanbieders van dit soort AI-systemen moeten ervoor zorgen dat het voor de persoon die met het AI-systeem interacteert, duidelijk is dat het om een AI gaat en niet een mens.

2. AI-gegenereerde content

Bij AI-systemen die beeld, geluid, video’s of teksten genereren moet de output ‘machineleesbaar’ zijn gekenmerkt, bijvoorbeeld met een digitaal watermerk of via de metadata. Die verplichting geldt voor de aanbieder van het AI-systeem.

3. Deepfakes

Gebruikers die met AI deepfakes maken, waarbij bestaande personen, objecten of gebeurtenissen worden nagebootst, moeten duidelijk maken dat deze zijn gemaakt of gemanipuleerd door een AI-systeem. Hiervoor kunnen de goedgekeurde EU-iconen (onder andere met de woorden  “AI”, “AI generated” of “AI modified”) worden gebruikt.

4. Emotieherkenning of biometrische categorisering

Ook voor AI-systemen die emoties kunnen herkennen of afleiden, en AI-systemen die biometrische gegevens verwerken om mensen in categorieën in te delen, gelden strengere regels. Gebruikers van dit soort AI-systemen moeten de personen die hiermee te maken krijgen, op de hoogte brengen van de emotieherkenning en biometrische categorisering.

Wat betekent dit voor jouw creatieve organisatie?

Werkt jouw organisatie met AI in creatieve producties en campagnes? Of maak je gebruik van gezichtsherkenning of chatbots? Zorg er dan voor dat het AI-gebruik kenbaar is voor degenen die ermee te maken krijgen, en dat je aan alle geldende verplichtingen voldoet.

Daarnaast kan het verstandig zijn om:

• De EU-iconen te gebruiken om deepfakes op de juiste wijze te markeren.

• Een intern AI-beleid op te (laten) stellen, zodat medewerkers weten hoe er binnen je organisatie wordt omgegaan.

• Duidelijke afspraken te maken over je AI-gebruik met opdrachtgevers en samenwerkingspartners.

• De kennis van je medewerkers over de regels rond AI up-to-date te houden, zodat AI op de juiste manier wordt gebruikt binnen je organisatie.

• De regels van het portretrecht en het auteursrecht in acht te nemen bij het maken van deepfakes.

Heb je hier hulp bij nodig? Plan een gratis gesprek in met één van onze juristen om de mogelijkheden te bespreken.