Generatieve AI vult het internet in snel tempo, en terwijl we de gevolgen voor het onderwijs, de energie en de menselijke creativiteit tegen elkaar afwegen, wordt het veel moeilijker om alles wat online verschijnt te vertrouwen. Is het echt, of wordt het door AI gegenereerd?
Op dit moment beschikken we niet over een 100 procent betrouwbare manier om AI-inhoud elke keer opnieuw te detecteren, maar er zijn enkele veelbetekenende tekenen van door de computer gegenereerde tekst, audio, afbeeldingen en video’s die de moeite waard zijn om op te letten. Voeg daar een beetje menselijke intelligentie aan toe en je kunt meestal zien wanneer de kans groot is dat iets door AI wordt gegenereerd.
Hier gaan we ons concentreren op door AI gegenereerde video, geproduceerd door tools zoals Sora van OpenAI, en we hebben ook enkele voorbeelden toegevoegd. De volgende keer dat je een video tegenkomt waarvan je niet zeker bent, kijk dan hoe deze zich verhoudt tot deze criteria.
Slechte tekst
Je zult merken dat er in veel AI-video’s (en afbeeldingen) tekst ontbreekt. Generatieve AI is niet echt goed in tekst, omdat het geen letters of taal begrijpt – althans niet zoals mensen dat doen. AI-borden zien er vaak uit alsof ze in een vreemde taal zijn geschreven, dus let op onleesbare tekst of helemaal geen tekst.
Dat wil niet zeggen dat goede tekst niet in AI-video's zal verschijnen, maar als dat wel het geval is, is deze waarschijnlijk later toegevoegd. Indeze Monster Camp-trailer(hieronder ingesloten) gegenereerd door Luma AI, een deel van de bewegwijzering ziet er goed uit (en is hoogstwaarschijnlijk handmatig toegevoegd) - kijk eens naar de letters op de bus en de beurskraampjes voor wat onzin. Je moet goed kijken, want de vreemde tekst blijft niet lang zichtbaar.
Snelle (of langzame) sneden
Dat brengt ons bij een ander kenmerk van door AI gegenereerde video: je zult vaak merken dat de fragmenten erg kort zijn en dat de actie erg snel verloopt. Gedeeltelijk is dit bedoeld om inconsistenties en onnauwkeurigheden te verbergen in de video's die je te zien krijgt. Het idee is om je de indruk te geven dat iets echt is, in plaats van het echte ding zelf.
Aan de andere kant – en om in tegenspraak te zijn met wat we zojuist zeiden – wordt de actie soms helemaal vertraagd. Het einddoel is echter hetzelfde: voorkomen dat de naden zichtbaar worden aan de rand van de mogelijkheden van de AI.
Indeze door AI gegenereerde muziekvideo(hieronder ingesloten) van Washed Out, het is de eerste: alles is snel en snel en weg voordat je er goed naar kunt kijken. Probeer de video op verschillende punten te pauzeren om te zien hoeveel vreemdheid je kunt zien (we hebben gemerkt dat minstens één persoon opgaat in een muur).
Slechte natuurkunde
Generatieve AI weet hoe hij bewegende pixels moet samenvoegen om iets weer te geven dat lijkt op een kat, een stad of een kasteel. Het begrijpt echter de wereld, de 3D-ruimte of de wetten van de natuurkunde niet. Mensen verdwijnen achter gebouwen, of zien er tussen scènes anders uit, gebouwen worden op vreemde manieren gebouwd, meubels staan niet goed op één lijn, enzovoort.
Overwegendeze drone-opname(hieronder ingesloten) gemaakt door Sora van OpenAI. Houd je ogen gericht op het groepje mensen dat naar de onderkant van de scène in de linkerbenedenhoek loopt: ze absorberen elkaar allemaal en gaan uiteindelijk op in de reling, omdat de AI ze als pixels ziet in plaats van als mensen.
De griezelige vallei
AI-video heeft vaak een glans die onnatuurlijk lijkt, en we zijn al bekend met de term ‘uncanny valley’ als het gaat om computergegenereerde graphics die proberen te reproduceren wat echt en natuurlijk is. Je bezoekt vaak de griezelige vallei als je AI-video's bekijkt, ook al is het maar voor korte momenten.
Als je een kijkje neemtde merkfilmgemaakt door Toys R Us met de hulp van Sora AI, zie je dat de glimlach en de haarbewegingen van het jonge kind er verdacht onnatuurlijk uitzien. Het ziet er ook uit als een ander kind van scène tot scène, omdat hij geen acteur is: hij is een gegenereerde 2D-weergave gebaseerd op hoe de AI denkt dat een jongen er waarschijnlijk uit zou moeten zien.
Perfecte (of imperfecte) elementen
Dit is er weer een waar sprake is van een tegenstrijdigheid, omdat AI-video's kunnen worden verraden door elementen die te perfect of niet perfect genoeg zijn. Deze clips worden immers door computers gegenereerd, dus ontwerpen op gebouwen, voertuigen of materialen kunnen keer op keer worden herhaald, in patronen die te foutloos zijn om in het echte leven te bestaan.
Aan de andere kant blijft AI worstelen met alles wat natuurlijk is, of het nu een hand, een kin of bladeren zijn die in de wind waaien. Indeze videovan Runway AI van een rennende astronaut zul je merken dat de handen een puinhoop zijn (en dat veel van de achtergrondfysica verkeerd is en dat de tekst vlekkerig is).
Controleer de context
Je beschikt dan over alle tools die we al hadden om desinformatie te identificeren: zelfs voordat er generatieve AI was, bestond er Photoshop, dus sommige regels voor het opsporen van vervalsingen blijven hetzelfde.
Context is essentieel: als een video afkomstig is van het officiële sociale media-account van de New York Times, is deze hoogstwaarschijnlijk betrouwbaar. Als het wordt doorgestuurd door een anonieme persoon op X met veel cijfers in zijn gebruikersnaam, misschien minder.
Controleer of de actie in de video vanuit andere hoeken is vastgelegd, elders breed is uitgemeten, of eigenlijk ergens op slaat. Je kunt ook contact opnemen met de mensen die in de video voorkomen: als er een verhaal van Morgan Freeman op de achtergrond staat, kan Morgan Freeman dit verifiëren.op de een of andere manier.