Regulering deepfakes Internationaal
- “Tackling deepfakes in European policy” een
studie van de Denktank van de European Parliamentary Research Service (EPRS), juli 2021
- “Probleem van deepfakes zit niet in wetgeving, maar vooral in handhaving daarvan”
rapportage
van het WODC, november 2021
- Online nieuwsartikelen
Wetgeving Europa
- General Data Protection Regulation (GDPR). Deze wet reguleert de verzameling en het gebruik van persoonsgebonden gegevens. Volgens de GDPR mag persoonsgebonden data alleen op een aantal legitieme gronden verwerkt worden, waaronder geïnformeerde toestemming en legitiem belang (waaronder persvrijheid, vrijheid van meningsuiting, en vrijheid van kunst).
- Auteursrecht (copyright) en zogenaamde image rights, waarin het beeld of portret van personen beschermd wordt. Het gaat er hierbij om dat het gebruik van beelden waarop mensen te herkennen zijn ingaat tegen de bescherming van persoonlijk leven. Deze wet is echter niet geharmoniseerd, en verschilt sterk per lidstaat Over het algemeen geldt binnen deze twee wetten een uitzondering voor het gebruik van materiaal met copyright of te identificeren personen voor wetenschappelijk gebruik, karikaturen of parodie.
- e-Commerce Directive. In deze wet is vastgelegd dat intermediaire dienstverleners zoals online media platformen content niet zelf hoeven te monitoren, maar wel verplicht zijn om, zodra er een melding wordt gedaan van illegale content wordt gedaan, deze offline te halen. Het begrip ‘illegale content’ wordt echter niet verder gedefinieerd, dus het is niet duidelijk aan welke (nationale) wetgevingskaders de providers moeten voldoen. Deze wetgeving zal worden vervangen door de Digital Services Act en de Digital Markets Act. In deze wetten worden platforms verplicht om transparant te maken op welke basis zij content monitoren, en zijn procedures omtrent het blokkeren van gebruikers vastgesteld
- AI regulatory framework van de Europese Unie. In deze geplande wetgeving staat dat makers van een deepfake moeten aangeven dat het om gemanipuleerde beelden gaat. Deze regel vervalt als het bedoeld is voor handhavingstaken (het detecteren, voorkomen, en onderzoeken van criminele activiteiten), of als de beelden nodig zijn voor het uitoefenen van het recht van vrijheid van meningsuiting of het recht op vrijheid van kunst en wetenschap. Dit Europese wetsvoorstel is bekritiseerd vanwege onduidelijke definiëring en het ontbreken van straffen bij overtreding.
Ten slotte is het belangrijk om te vermelden dat het gebruik van deepfake detectiesoftware door handhavingsorganisaties door de EU wordt gecategoriseerd als hoog-risico, omdat dit een dreiging kan vormen voor individuele vrijheden van burgers. Dit betekent dat er extra risico-inschattingen en veiligheidswaarborgen verplicht zijn voor het gebruik ervan.
Wetgeving buiten Europa (bron EPRS & WODC-rapport)
Ook buiten de EU wordt beleid ontwikkeld dat de schadelijke gevolgen van deepfakes moet tegengaan. Zo is in Engeland wetgeving in voorbereiding rondom het nemen, maken en verspreiden van intieme afbeeldingen.
China
In China is het gebruik van deepfake- en virtual reality-technologieën voor de productie en verspreiding van desinformatie/ misinformatie en nepnieuws, zowel door aanbieders van audio-videodiensten als door hun gebruikers, verboden. Ook moeten aanbieders audio-/video-informatie controleren en filteren als onrechtmatige content wordt gevonden. Zodra aanbieders van netwerkdiensten informatie of inhoud aantreffen die illegaal is, moeten zij de verwerking daarvan stopzetten en de verdere verspreiding blokkeren.
Eind januari 2022 is
nieuwe regulering aangekondigd die meer inzet op regulering in plaats van alleen verbieden.
Verenigde Staten
In de Verenigde Staten hebben drie staten tot dusver wetgeving vastgesteld om het probleem van het zonder toestemming creëren en verspreiden van expliciet seksueel materiaal aan te pakken - Californië, Virginia en New York. Terwijl Virginia het zonder toestemming maken en verspreiden van seksueel expliciete deepfakes strafbaar heeft gesteld, heeft Californië wetgeving aangenomen die personen die daarin worden afgebeeld een privaatrechtelijke grond tot het instellen van een vordering biedt. Interessant is dat de wetgeving van New York ook voorziet in een rechtsvordering wegens ongeoorloofd commercieel gebruik van deepfakes, gemaakt met gebruikmaking van de beeltenis van een overleden uitvoerende kunstenaar.
Eind januari 2022 is in Florida wetgeving vastgesteld waarin gefabriceerde sexuele afbeeldingen aangepakt worden: Prohibit someone from knowingly, willfully, and maliciously disseminating "deepfake" sexually explicit images without the victim’s consent.
https://www.flsenate.gov/Media/PressReleases/Show/4098