Snap heeft aangekondigd dat het geen “volledig AI gegenereerde video’s” meer zal aanbevelen in de Spotlight feed. In plaats daarvan geeft het bedrijf voortaan voorrang aan content die door mensen is gemaakt.
Met deze beslissing volgt Snap het voorbeeld van YouTube, LinkedIn en Substack, die de afgelopen weken eveneens maatregelen namen om volledig AI gegenereerde content, vaak aangeduid als “AI slop”, te beperken. Video’s die met behulp van AI zijn bewerkt of verbeterd, blijven wel in aanmerking komen voor aanbevelingen in Spotlight.
Snap verklaarde vrijdag dat volledig AI gegenereerde content vaak van lage kwaliteit is, repetitief overkomt en doorgaans niet aansluit bij de voorkeuren van gebruikers.
Snap sluit zich aan bij andere platforms in de strijd tegen AI slop
De wijziging heeft alleen betrekking op aanbevelingen in de Spotlight feed en betekent geen volledig verbod op AI content. Het platform zal volledig AI gegenereerde video’s niet langer promoten in Spotlight en richt zich voortaan op authentieke, door mensen gemaakte content. Video’s die met de AI tools van Snapchat zijn bewerkt of verrijkt, blijven wel aanbevolen worden.
Snap erkent dat volledig AI gegenereerde content doorgaans “van lage kwaliteit” en “repetitief” is en niet goed aansluit bij de interesses van gebruikers. Onderzoek ondersteunt deze bevindingen. Daarnaast laat een afzonderlijke enquête zien dat een grotere blootstelling aan AI gegenereerde content het vertrouwen van gebruikers in de authenticiteit van online materiaal vermindert.
De aankondiging van Snap volgt op vergelijkbare maatregelen die andere platforms de afgelopen weken hebben ingevoerd.
Substack introduceerde een hulpmiddel waarmee lezers AI gegenereerde teksten kunnen herkennen. Medeoprichter en CEO Chris Best zei: “Het wordt steeds moeilijker om te onderscheiden wat echt is op internet.” Hij verwees daarbij naar onderzoek waaruit blijkt dat inmiddels tot 40% van alle teksten op sociale media nep of door AI gegenereerd is. “Platforms die nepcontent belonen, veroorzaken een race naar de bodem,” aldus Best.
LinkedIn introduceerde een functie waarmee gebruikers berichten en reacties kunnen melden die AI gegenereerd lijken. Chief Product Officer Hari Srinivasan meldde dat het platform inmiddels “miljarden” pogingen heeft geblokkeerd om AI gegenereerde reacties te plaatsen en tegenwoordig dagelijks honderdduizenden nieuwe pogingen onderschept.
Daarnaast verwijdert LinkedIn de AI functie waarmee gebruikers berichten konden verbeteren en keert het terug naar een eenvoudige proefleesfunctie. Het bedrijf benadrukt dat gebruikers die AI gebruiken om hun eigen berichten te verfijnen niet door deze maatregelen worden getroffen.
YouTube paste deze maand zijn monetisatiebeleid aan en verduidelijkte dat generieke, repetitieve of op sjablonen gebaseerde content niet langer in aanmerking komt voor advertentie inkomsten.
Onderzoek van vorig jaar bracht aan het licht dat er veel YouTube kanalen bestaan die volledig uit AI gegenereerde content bestaan. Sommige daarvan hebben miljoenen abonnees en genereren aanzienlijke inkomsten.
Matt Halprin, hoofd vertrouwen en veiligheid bij YouTube, verklaarde dat AI technologie “geweldige mogelijkheden biedt”, maar ook het massaal produceren van content mogelijk maakt “dat we niet willen hebben.”
Wat de beleidswijziging van Snap betekent voor AI content
De verschillende platforms hanteren dezelfde benadering; volledig AI gegenereerde content van lage kwaliteit wordt aangepakt, terwijl AI tools die worden gebruikt om door mensen gemaakte content te bewerken of te verbeteren wel zijn toegestaan.
Snap, LinkedIn en de andere platforms benadrukken dat zij AI als technologie niet afwijzen. Hun maatregelen zijn specifiek gericht op geautomatiseerde, op sjablonen gebaseerde content die dankzij generatieve AI eenvoudig op grote schaal kan worden geproduceerd.
Snap heeft nog niet toegelicht hoe het onderscheid zal maken tussen volledig AI gegenereerde video’s en video’s die slechts met AI zijn bewerkt of verbeterd in de Spotlight feed. Ook is nog niet bekend hoe deze controle op grote schaal zal worden uitgevoerd.
Daarnaast is onduidelijk of de wijziging uitsluitend geldt voor aanbevelingen in Spotlight of ook gevolgen heeft voor andere onderdelen van Snapchat. Snap heeft evenmin gegevens gepubliceerd over de verwachte impact van de maatregel. Hoe effectief deze aanpak uiteindelijk zal zijn tegen AI slop, zal pas duidelijk worden naarmate de uitrol vordert.