Noah Korevaar Films & Series 10 okt 2023, 12:26

Leestijd: 4 minuten

Marvel onder vuur na ontmantelde AI in hitserie Loki seizoen 2

Disney is met Loki seizoen 2 weer de mist in gegaan met het inzetten van AI. Een schrijnende voorbode van de toekomst van Hollywood? De praktijk is iets genuanceerder dan dat.

Afgelopen juni raakte Marvel Studios in opspraak nadat oplettende kijkers opmerkten dat de intro van Secret Invasion met AI was gegenereerd. Een onhandige zet, zeker met de stakingen in Hollywood en de algemene tendens rondom het MCU en AI in het algemeen.

Disney, Marvel en kunstmatige intelligentie

Dat Disney, de miljardenmachine die alles opslokt, dan kunstmatige intelligentie in plaats van ‘echte mensen’ inzet, is ietwat wrang. Hoe tof het resultaat ook is. Marvel gebruikte meteen het excuus dat de inzet van AI juist ‘meta-commentaar’ is, maar op Twitter moest men daar niets van weten.

Nu, krap vier maanden later, lijkt het weer raak te zijn. Afgelopen weken ging het tweede seizoen van Loki van start op Disney+. De langverwachte terugkeer van Tom Hiddlestons Marvel-antiheld werd uiteraard uitgebreid door Disney gepromoot. Een poster sociale media was onderdeel van de campagne.

Madly disappointed they're using AI generated imagery to promote Loki. https://t.co/SFhWpQfWE7

— Katria (@katriaraden) October 3, 2023

Niets mis mee, zou je zeggen. Tot je inzoomt op de achtergrond. Illustrator Katria Raden merkte afgelopen week op Twitter op dat je dan duidelijke hints ziet naar het gebruik van AI.

Loki betrapt

Let op de details van de Romeinse cijfers. Die lijken op afstand te kloppen, maar van dichtbij beginnen opeens ‘foutjes’ op te vallen. Vervaagde uiteindes van getallen, squiggles die zo vervormd zijn dat ze betekenisloos worden: welbekende weeffoutjes in door kunstmatige intelligentie gegenereerde afbeeldingen.

Voor nu. In nieuwe tools zoals DALL·E 3 komen dat soort artifacts al minder voor.

Maar goed, terug naar Loki. Het lijkt er dus sterk op dat Marvel Studios opnieuw, ook al is het misschien per ongeluk, AI heeft ingezet voor een nieuwe serie. Ja, het is maar promotiemateriaal, maar het gaat om meer dan dit ene beeld.

De AI die hiervoor gebruikt wordt is namelijk getraind op het werk van ‘echte’ artists, die door dit soort praktijken minder werk krijgen, terwijl de AI in kwestie door hun werk kan bestaan.

De toekomst van stockbeeld

Oplettende Twitteraars vonden vervolgens al snel de originele afbeelding die voor de achtergrond is gebruikt. Het gaat om een stookbeeld genaamd “Surreal Infinity Time Spiral Space Antique.” Het met AI gegenereerde plaatje is sinds eerder dit jaar te koop op Shutterstock.

Running the actual image itself through various AI image checkers (aiornot, illuminarty, huggingface, hive), led to 3/4 stating its AI (not a large sample size I know) pic.twitter.com/xhbjwqhBuy

— Angel 🕷️ (@thepokeflutist) October 3, 2023

Potentieel betekent dat dat de ingezette AI enkel is getraind op beelden van Shutterstock zelf. Dat is namelijk hoe de stockfoto-website omgaat met kunstmatige intelligentie: het platform heeft een plaatjesgenerator die enkel getraind is op eigen beelden. Zo ontsnapt het bedrijf dus aan het risico beschuldigd te worden van het stelen van andermans werk.

Desalniettemin zijn ook in die context artists in de industrie niet blij met de move. Het kiezen van een met AI gegenereerde stockfoto betekent dat Disney niet een stockfoto van een ‘echte’ vormgever heeft gekocht. “Het licenseren van foto’s en illustraties op stocksites is een manier waarop veel hardwerkende artiesten hun brood verdienen. Ik denk niet dat het vervangen van hen door gegenereerd beeldmateriaal via technologie die gebouwd is op massale uitbuiting en loondiefstal ethischer is dan het vervangen van Disney’s eigen werknemers,” vat Illustrator Katria Raden de situatie genadeloos samen tegenover The Verge.

Broodnodige discussies

Is dat oordeel te hard? Wellicht, zeker in een tijdperk waarin de opkomst en het gebruik van AI onvermijdelijk lijkt te zijn. Desalniettemin is op het zijn minst simpelweg slechte PR voor Disney en Marvel zelf. Juist in een tijdperk waarin ze als grote studio’s onder het vergrootglas liggen, juist nu er net AI-gerelateerde stakingen tot een einde zijn gekomen in Hollywood.

Of het dan om een logisch foutje gaat of niet maakt eigenlijk niet meer uit. Vervelend of niet, in ieder geval is het goed dat dit soort onhandige situaties ervoor zorgen dat er discussies over het gebruik van kunstmatige intelligentie ontstaan.

Want waar het nu nog bij half mislukte met AI gegenereerde stockfoto’s blijft, hebben we het voordat je het weet over compleet met AI gegenereerde filmscènes. Liever nu een pittig gesprek voeren, dan als het al half te laat is. Loki seizoen twee is nu te streamen op Disney+. Of lees wat voor exorbitant bedrag je kunt verdienen als AI-kunstenaar bij Netflix.