Een advocaat legt ons uit hoe het zit met de legaliteit van AI-gegenereerde muziek

Dit artikel verscheen oorspronkelijk op VICE US.

Mocht je om de een of andere reden nog niet over het (vermeende) AI-gegenereerde Drake-nummer hebben gehoord, dan praat ik je even snel bij: een pseudonieme poster met de naam “Ghostwriter” claimde onlangs in een inmiddels verwijderde TikTok dat-ie “AI had gebruikt om een Drake-nummer te maken, met een feature van The Weeknd.” Het nummer, “Heart on my Sleeve,” werd op TikTok, Spotify, Apple Music en YouTube en andere streamingplatforms miljoenen keren beluisterd – en toen verdween het, schijnbaar als gevolg van verzoeken om het te verwijderen van Universal Music Group, het label van Drake en The Weeknd.

Dat is in ieder geval de korte versie van het verhaal. Ghostwriter heeft niet precies uitgelegd hoe het nummer tot stand is gekomen, en niemand heeft de claim dat het met AI is gemaakt – of dat Ghostwriter het überhaupt heeft gemaakt – kunnen bevestigen. Voor zover we weten zou het een bonafide Drake-nummer kunnen zijn dat zich om publiciteitsredenen voordoet als een AI-gegenereerd nummer. Het zou een merkwaardig goede na-aap van een Drake-nummer kunnen zijn, gemaakt door iemand die erg als Drake klinkt en goed met autotune om kan gaan. Zoals Mia Sato en Richard Lawler in The Verge schrijven, of het nou “een toevallige viral hit is, een rommelige stunt door een crypto-geaffilieerde startup, een wraak-prank van Drake zelf, of het begin van de juridische strijd omtrent AI-gegenereerd dat nu het internet overspoelt,” we weten eigenlijk alleen dit: “Hier is iets raars aan de hand.”

Wat de onderliggende feiten ook zijn, het enorme succes van “Heart on my Sleeve” roept wel een paar stekelige juridische vragen op, die grotendeels te maken hebben met auteursrechten. Laten we omwille van de discussie aannemen dat Ghostwriter AI gebruikte om “Heart on my Sleeve” te maken. Zijn de publiciteitsrechten van Drake of The Weeknd geschonden door het onbevoegde gebruik van hun namen, gelijkenissen, afbeeldingen, en – met name – hun stemmen? Kennelijk is het niet Drake’s echte stem die we horen, maar een stem die precies hetzelfde klinkt. Wat zou een rechtbank daarover te zeggen hebben?

Om nog een stapje verder te gaan: als dit nummer echt met AI is gemaakt en zodanig als de echte artiesten klinkt, dan zijn we een belangrijke technologische drempel gepasseerd. Er zullen geheid nog duizenden dergelijke nummers op het internet worden gepompt. Wie – of wat – beheert de rechten daarover? Wie bepaalt er of ze online mogen blijven staan of moeten worden verwijderd? Wie krijgt ervoor betaald? En hoe moeten ouderwetse, door mens-gegenereerde nummers het opnemen tegen AI-gegenereerde nummers, die aanzienlijk minder tijd en geld kosten om te produceren?

Om me te helpen dit  moeras van onzekerheid te doorkruisen waar we dankzij de Ghostwriter-saga met zijn allen in zijn beland heb ik Chris Mammen opgebeld, een Amerikaanse expert over het kruispunt van intellectuele eigendomsrechten, muziek en kunstmatige intelligentie, en een partner bij Womble Bond Dickinson. Pak er maar een drankje bij – het is nogal een wilde rit.

VICE: Ik zou allereerst graag over het Ghostwriter-nummer willen praten. Welke juridische vragen riep het voor jou op, met name wat betreft auteursrechten?
Chris Mammen: Het is een flinke kluwen aan vragen. Je zou kunnen beginnen met: hoe zouden we hierover nadenken als het niet door een AI was gemaakt? Je hebt coverbands en imitators en al dat soort dingen, en die zijn er al vele jaren. Dus wat als iemand een originele compositie opneemt en die, door een selectie van artiesten en/of wat autotune, precies als een Drake-nummer met The Weeknd als feature laat klinken? Dan moet je nadenken over de outputs, en het feit dat het met AI is gemaakt er nog bij in beschouwing nemen. 

Dus wat zou er gebeuren als iemand dit zonder behulp van AI zou doen? 
Het hangt ervan af wat het beweert te zijn. Als iemand het zou uitbrengen en erbij zou zeggen, “Hey, dit is een nieuw nummer van Drake met The Weeknd als feature,” dan profiteert diegene zowel van het geluid van de stemmen als van de naam, dan ontstaat er verwarring en wordt er verkeerd voorgesteld van wie het afkomstig is. Dat is één kant waarbij er mogelijk significante problemen komen kijken. 

Als je zegt: “Dit is een tributeband die klinkt zoals Drake met een The Weeknd-feature” dan roep je de namen van de artiesten aan, dus daar profiteer je van, maar je maakt ook duidelijk dat het niet door die artiesten is gemaakt. Er is een soort evoluerende vraag in de wetgeving over hoe dat soort gevallen moeten worden behandeld.

Stel, ze zeggen: “Dit is een werk van Shmake”, en ze gebruiken Drake’s naam niet en laten het aan het publiek over om de link te leggen? Of in een extremer voorbeeld: ze zeggen gewoon  “Hey, dit is een leuk nieuw nummer van een anonieme artiest.” In hoeverre profiteer je dan van de naam, het imago, de gelijkenis en de overeenkomst met een gevestigde artiest, op een manier die verwarring veroorzaakt en misschien de waarde van het imago van een artiest afzwakt? 

De titel van de TikTok-post lag een beetje op die grens. Er stond, “Hey, kijk wat ik met AI heb gemaakt: het is Drake met een The Weeknd-feature” of iets dergelijks. Het zit er een beetje tussenin, meer van, “Hey, dit klinkt precies als Drake,” of, “Dit is een eerbetoon” – het equivalent van een tributeband.

Wat verandert er als er AI bij komt kijken?
De grote vraag is, was de AI met Drake’s muziek getraind? Werd die daarmee gevoerd om een output te krijgen die klinkt als Drake? Of was het puur mechanisch: een andere opname gebruiken en daar genoeg aan sleutelen tot het er genoeg op leek? Aangezien Ghostwriter er naar eigen zeggen AI voor heeft gebruikt, ga ik daaruit opmaken dat de AI met Drake’s muziek is getraind. Er hangt nu een grote vraag in de lucht over of het gebruik van auteursrechtelijk beschermd materiaal als trainingsdata volgens de auteurswet als eerlijk gebruik kan worden gezien. 

Kun je het concept van fair use kort uitleggen, en hoe het betrekking heeft op AI en muziek?
Een auteursrecht beschermt elk origineel werk van auteurschap, of dat nou geschreven werken zijn, foto’s, films, muziek – dat soort dingen. Het namaken ervan is niet toegestaan. Sommige soorten gebruik van auteursrechtelijk beschermd materiaal zijn echter toegestaan en worden als “redelijk gebruik” beschouwd. Dan kun je denken aan dingen als educatie, commentaar, parodie, enzovoorts. Als je auteursrechtelijk beschermd materiaal als trainingsdata gebruikt, genereer je een nieuwe output – je genereert geen foto of een nummer of een exacte kopie van wat er als trainingsdata werd gebruikt. Dus de vraag is: is het ontoelaatbaar gebruik of fair use van het materiaal?

De manier waarop AI met dit soort dingen werkt is dat je het algoritme hebt, waar je een hele hoop data in stopt, en het algoritme kan die data op een bepaalde manier analyseren of ontleden om outputs te genereren. Als je bijvoorbeeld een muziek-genererende AI hebt, en sommige van de inputs zijn gelabeld met “Drake”, dan zal de AI bij een prompt als “Geef me een output die als Drake klinkt” focussen op het onttrekken van de, volgens het algoritme, karakteristieke aspecten van de muziek die met “Drake” gelabeld is. 

Er zijn op dit moment meerdere rechtszaken aan de gang die over dit onderwerp gaan, in andere contexten dan muziek. Eén daarvan werd door Getty Images aangespannen. De aanklacht zit vol met voorbeelden van auteursrechtelijk beschermde foto’s van Getty Images en outputs van de aangeklaagde AI, die er hetzelfde uitzien als die foto’s. Soms is er zelfs een vervormd Getty Images-watermerk op de output-foto’s te zien. Er is ook een class-action-rechtszaak aangespannen door een paar onafhankelijke fotografen die beweren dat hun werk bij het genereren van AI-afbeeldingen is gebruikt. En dan heb je nog een rechtszaak omtrent computercode, waar de aantijging luidt dat de AI zonder toestemming van de gebruikers was getraind op broncode-archieven. 

Die drie zaken sluiten aan op hoe je zou kunnen nadenken over het gebruiken van het werk van beroemde artiesten om AI te trainen. Als in deze zaken de uitspraak wordt gedaan dat het gebruik van auteursrechtelijk beschermde werken als trainingsdata fair use is, biedt dat redelijk wat bescherming aan mensen als Ghostwriter. 

Als het niet zo loopt zullen mensen wel twee keer nadenken voordat ze doen wat Ghostwriter heeft gedaan. 
Precies. Ik verwacht de komende zes tot twaalf maanden wel een idee te krijgen van hoe die zaken zullen lopen. Maar gezien dingen steeds in verandering zijn en er de afgelopen zes maanden een hoop is gebeurd op het gebied van generatieve AI, zouden de vragen in die rechtszaken weleens achterhaald kunnen zijn tegen de tijd dat er uitspraken worden gedaan.

Denk je dat Universal Music Group juridische stappen tegen Ghostwriter zou kunnen nemen? Hoe zou dat eruitzien?
Dat zou betrekking kunnen hebben op auteursrecht en fair use: werd Drake’s auteursrechtelijk beschermde werk gebruikt om de AI te trainen? Ook zou het gezocht kunnen worden in de naam, het imago, de gelijkenis en het publiciteitsrecht omtrent de publicatie van het resulterende werk, en of het op ongepaste wijze profiteert van de bestaande rechten en imago’s van Drake en The Weeknd. Ik zou verwachten dat dat laatste, zoals ik suggereerde, zou worden geanalyseerd aan de hand van jurisprudentie omtrent tributebands en coverbands, enzovoorts. 

Misschien heb ik het fout, maar over het algemeen kun je niet zomaar zonder iemands toestemming een opname van hun stem gebruiken, die in een nummer verwerken, het uitbrengen, en er geld aan verdienen. Dat is een schending van hun publiciteitsrechten.
Juist. 

Hoe werkt dat dan als je iemands stem via een AI genereert en dat in een nummer verwerkt? Het is niet een letterlijke opname van hun stem, maar het is wel soort van hun stem?
Momenteel vindt iedereen het moeilijk om over die vraag na te denken. Want het is niet een letterlijke opname. Je hebt het precedent van impressionisten, die gewoon hun brood kunnen verdienen door beroemdheden na te apen. Daarmee overtreden ze geen regels. Dit zit er ergens tussenin. Is er iets mis mee? Zo ja, wat precies? Want de vraag focust nu op het gebruik van trainingsdata. Er zouden nog verdere vragen kunnen zijn. Wat als je een trainingsdataset gebruikte die specifiek alle muziek van Drake uitzondert, en je op de een of andere manier nog steeds een prompt aan de AI kon geven waarmee die iets zou kunnen genereren dat op Drake lijkt? Is dat nog steeds problematisch? Misschien.

Als Universal besluit aan te klagen, is Ghostwriter dan aansprakelijk terwijl dit lied door een machine is gemaakt? Is de machine aansprakelijk? Hoe pak je dat überhaupt aan?
In de huidige hangende zaken zijn de benoemde beklaagden de platforms – de AI-platforms die de trainingsdata hebben opgenomen en die hebben gebruikt om het algoritme te trainen. Dus niet per se de individuele gebruikers die een prompt invoerden of de tool anderzijds gebruikten om output te genereren. Je zou dan meer moeten weten over hoe Ghostwriter dit heeft gegenereerd: heeft-ie het algoritme gebouwd en iets persoonlijk aangepast, of heeft-ie gewoon gebruik gemaakt van een publiek beschikbaar platform?

In rechtszaken hebben beide partijen altijd de kans om te zeggen: “Hey, deze andere partij zou bij de rechtszaak betrokken moeten worden.” In deze hypothetische rechtszaak zou Ghostwriter misschien een zogenoemde cross-claim indienen om het platform erbij te betrekken, zodat het platform overal aansprakelijk voor is waar Ghostwriter aansprakelijk voor wordt bevonden. Of hij zou kunnen voorstellen dat de aanklager het platform als een beklaagde zou moeten toevoegen. 

Stel dat Universal toch geen juridische actie onderneemt. Zet jezelf even in de schoenen van Ghostwriter: je hebt dit nummer gemaakt, mensen waren er gek op, het was erg succesvol, en je kan er misschien een carrière uit voortbouwen. Nu is het van alle streamingplatforms gehaald en kan niemand er meer bij. Zou Ghostwriter Universal – en misschien Spotify, Apple Music en YouTube – kunnen aanklagen en stellen dat hij niemands auteursrecht heeft geschonden en dat het opnieuw geüpload zou moeten worden?
Het is een interessante vraag. Er zijn een aantal processen die kunnen worden gevolgd als iemand dingen heeft die zijn neergehaald en ze zeggen: “Nee, dit zou weer online moeten mogen staan.” Er is ook de gerelateerde vraag of Ghostwriters gebruik commercieel gebruik was, of commentaar. Dan kom je eigenlijk bij de kwestie van fair use terecht – een hoop kwesties. En eigenlijk is dat hier ook een soort van ambigu. Aan de ene kant is het posten van een nummer dat daarna viral gaat mogelijk niet commercieel op dezelfde manier als het proberen veel exemplaren te verkopen. Aan de andere kant, als het op Spotify staat en je elke keer dat het wordt afgespeeld een fractie van een cent krijgt, is dat dan commercieel genoeg? Er zitten hier allerlei complexe vraagstukken aan vast.

In hoeverre is de wetgeving rondom AI en muziek gewoon een geschift moeras van grijze gebieden?
Het is in alle aspecten een geschift moeras van grijze gebieden. De wet is een instituut dat zich maar langzaam voortbeweegt. En de wet ontwikkelt zich aan de hand van analogie. Er steekt iets nieuws de kop op, we kijken of het ergens enigszins analoog aan is, en dat wordt dan geleidelijk gevestigde wetgeving. Nu verandert alles zo snel dat het überhaupt moeilijk is om analogieën te verzinnen om te bedenken hoe we hier over na willen denken voor het weer verandert. En als er geen analogieën zijn, welke nieuwe juridische doctrines moeten we dan ontwikkelen om met deze kwestie om te gaan?

Ik debatteer al een tijdje over problemen omtrent auteursrecht, en daarvoor was ik bezig met discussies over soortgelijke problemen zoals of AI-algoritmes als uitvinders voor patenten beschouwd kunnen worden. Ik denk dat de fundamentele vraag in allebei deze gevallen neerkomt op: Wat beschermen onze intellectuele eigendomsrechten? Zijn ze er om menselijke creativiteit en innovatie te beschermen? Of bestaan ze slechts als een vorm van economisch en industrieel beleid om ervoor te zorgen dat degenen die dingen met enige commerciële waarde maken, die dingen het beste kunnen beschermen en die commerciële waarde kunnen benutten?

Is er een manier om, in goed vertrouwen, met alle grote aandeelhouders een grote discussie te houden over hoe we willen dat de wereld eruit ziet met betrekking tot AI en intellectuele eigendomsrechten?
Ik denk niet dat er een manier is om dat op een grondwettelijk verdrag-achtige wijze te laten gebeuren, waarbij iedereen samenkomt en erover gaat brainstormen tot er een oplossing is. Maar die conversatie is wel gaande naarmate we er in algemenere termen over praten. Gesprekken zoals die we nu aan het hebben zijn, zijn daar een onderdeel van. Rechtszaken ook. Er is ook meer academisch werk over in omloop. Door al deze dingen krijgen we meer inzichten over hoe de vragen zouden moeten worden opgelost en hoe we erover na zouden moeten denken. En gaandeweg zullen er daar – nogmaals, een stuk langzamer dan dat de technologie zich ontwikkelt – wat dingen uit opborrelen. Iemand zal een heel goed inzicht hebben, wat bij de rest zal aanslaan en waardoor het denkkader voor iedereen kan worden vastgesteld. 

Wat heeft het Amerikaanse Auteursrechtenbureau tot dusver gezegd over diens standpunt jegens AI en muziek? 
Ik denk dat de vraag over trainingsdata nog redelijk open blijft. Het auteursrechtenbureau heeft eerder dit jaar een nieuwe rondzendbrief uitgevaardigd die verduidelijkt dat werken die puur door AI zijn gemaakt – inclusief een mens die een prompt aan een generatief AI-algoritme invoert en de outputs die daaruit voortkomen – niet in aanmerking komen voor auteursrechtelijke bescherming. Het auteursrechtenbureau houdt al lange tijd de houding aan dat er voldoende menselijke betrokkenheid bij de creatie van een werk moet zijn geweest, wil het auteursrechtelijke bescherming krijgen. 

Op dit moment zijn er een aantal rechtszaken die veel in het nieuws worden besproken. Er is een beeldroman waarvan de schrijver alle tekst heeft geschreven en prompts bij een generatieve AI heeft ingevoerd om de illustraties te maken. Het auteursrechtenbureau vond dat de beeldroman als geheel wel in aanmerking kwam voor auteursrechtelijke bescherming, maar de individuele afbeeldingen niet, omdat die door een algoritme zijn gegenereerd. Je hebt ook de hangende zaak van een AI-algoritme genaamd DABUS, die naar verluidt wat afbeeldingen had gecreëerd, en de eigenaars van de computer waar DABUS op stond wilden auteursrechten registreren. Het auteursrechtenbureau wees het af omdat er volgens hen niet genoeg menselijke betrokkenheid was. De eigenaars van het AI-algoritme hebben een aanklacht ingediend, en die zaak baant zich nu langzaam een weg door de rechtbanken. In het VK is er opvallend genoeg wel auteursrechtelijke bescherming voor werken die door computers zijn gegenereerd. Die bescherming duurt minder lang dan voor door mensen gemaakte werken, maar sinds de jaren tachtig is auteursrechtelijke bescherming voor die dingen ook toegestaan.  

Het wordt echt tot in de puntjes ontleed. De vraag wordt dan: geven we rechten aan de AI, of geven we rechten aan iemand die betrokken was bij werken die door de AI zijn gemaakt? Met andere woorden, zeggen we dat de AI het auteursrecht of het patent zou moeten bezitten, of zeggen we dat een mens of een instelling, zoals een bedrijf, de rechten op iets dat door een AI is gemaakt zou moeten kunnen bezitten? Hoe we die vraag beantwoorden en hoe we dat ontwerpen beïnvloedt hoe we over het hele proces nadenken. 

Als we het over de vraag hebben over of je auteursrechten aan een AI-gegenereerd nummer kunt verlenen, is de vraag dus eigenlijk: hoeveel van het product is van jou afkomstig, en hoeveel van de AI?
Precies. En als je er auteursrechten aan wil verlenen, wil je in je ondersteunende materialen ook zoveel mogelijk in detail gaan over hoeveel betrokkenheid je erbij had. Als je gewoon bij ChatGPT inlogt en zegt, “Schrijf wat lyrics voor een nieuw nummer,” dan gaat dat hoogstwaarschijnlijk niet voldoende zijn. 

In hoeverre zullen AI en de juridische kwesties daaromheen volgens jou in de komende vijf tot tien jaar een probleem worden in de muziekindustrie? 
Ik denk dat het echt een groot probleem is. Dat komt door het vermogen van algoritmes om dingen van hoge kwaliteit te genereren op een schaal en tempo die mensen gewoon niet kunnen bijhouden. Een deel van de vraag is: genereert het dingen die als populair worden gezien omdat het net zoals onze favoriete menselijke artiest klinkt? Of zullen we al snel op een punt komen waar er dingen worden gegenereerd die nergens op lijken, of waarvan beweerd wordt dat het nergens op lijkt – maar het klinkt wel catchy en populair en het wordt op hoog tempo de wereld in gepompt? Wat betekent dat voor de hele muziekindustrie? Wat betekent dat voor de traditionele prijsmodellen? Zal de waarde van door mensen gemaakte werken daardoor verminderen? Het zal de hele markt op zijn kop zetten. In plaats van dat er jaarlijks een album uitkomt zou een AI honderd albums per dag kunnen uitbrengen. Duizend zelfs. 

Zitten advocaten die muzikanten en andere artiesten vertegenwoordigen nu met de handen in het haar? Hoe zien hun gesprekken eruit?
Hun gesprekken lijken erg op het gesprek dat wij nu voeren. Zeg maar, hoe denken we er überhaupt over na? Wat betreft patenten lopen er nu over de hele wereld rechtszaken, waaronder in Engeland. Toen het AI-als-patent-uitvinder-probleem opkwam, keken de rechters naar Blackstone, een juridisch commentator in de achttiende eeuw. Hij schreef over het geval van een stuk land waarop een boom staat waar een appel aangroeit– is die appel dan in het bezit van de eigenaar van het stuk land? Die analogie gebruiken ze om te begrijpen of de eigenaar van een computer, die een algoritme heeft dat een nuttige uitvinding genereert, ook die uitvinding zou bezitten. Ze proberen letterlijk een analogie te creëren tussen de output van een AI-algoritme en een 18de-eeuwse appel.

Dus wat is het alternatief op de landeigenaar die de appel bezit? Is de appel eigendom van de boom?
Of: het is geen eigendom. Eén van de alternatieven is dat als je een uitvinder hebt die onderhevig is aan het Amerikaanse wetssysteem, maar er geen mensen betrokken zijn bij het uitvindingsproces, het misschien geen octrooieerbare uitvinding is. Dergelijke vragen onthullen de menselijke instincten over of we hier zijn om menselijke bloei aan te moedigen, of om industrieel beleid aan te moedigen en er waarde aan te onttrekken. Als je reactie daarop is, “Hoe kunnen we iets nuttigs en waardevols hebben als het niemands eigendom is? We kunnen er geen waarde uit halen” – dan laat je wat sympathie voor het argument van industrieel beleid zien. Maar als je zegt, “Er zijn geen mensen bij betrokken, dus er is natuurlijk ook geen menselijke uitvinder,” dan laat je wat sympathie voor de andere kant zien. 

Laten we zeggen dat we daar eindigen: het is niet octrooieerbaar, het komt niet in aanmerking voor auteursrechtelijke bescherming, het is gewoon een appel. Als iemand als Universal een aanklacht doet of een nummer van streamingdiensten afhaalt of het werk anderzijds niet beschikbaar maakt voor het publiek, wie vecht er dan voor het nummer? Niemand verdient er geld aan. De argumenten over het illegaal uitbuiten van het auteursrecht en de publiciteitsrechten enzovoorts vallen in duigen als niemand er geld aan verdient, toch? Het is geen commerciële uitbuiting. 
Dat is een erg feit-specifieke vraag, en – om de cirkel weer rond te maken – het zou wel of niet op de feiten van Ghostwriter kunnen aansluiten. Als het op Spotify staat, of op een streamingplatform dat door advertenties wordt ondersteund, verdient hij er dan geld aan? Is het genoeg om het als commercieel gebruik te beschouwen? Ik weet het niet. 

Volg VICE België en VICE Nederland ook op Instagram.