Vi använder cookies för att förbättra funktionaliteten på våra sajter, för att kunna rikta relevant innehåll och annonser till dig och för att vi ska kunna säkerställa att tjänsterna fungerar som de ska.

Läs mer

En utskrift från Dagens Nyheter, 2020-01-18 10:13

Artikelns ursprungsadress: https://finaldestinationblogmagazine.com/kultur-noje/har-ar-orden-som-ar-for-kansliga-for-youtubes-annonsrobotar/

Kultur

Här är orden som är för känsliga för Youtubes annonsrobotar

Foto: Carsten Rehder/dpa

”Lesbians”, ”#metoo”, ”Palestine”, ”abortion”. Det är ord som kan göra att en Youtuber blir av med sina annonspengar. Om en Youtubefilm får annonser eller ej styrs av en AI som lärt sig definiera ”känsliga” ord – men människorättsaktivister kan förlora sina inkomster.

Den 29 september 2019 publicerade Johan Haneklou, en 21-årig programmerare från Öland, ett öppet Exceldokument som på ytan verkar alldagligt. Det består av en lång lista av ord markerade med gul eller grön färg. Men dokumentet säger sig visa specifika ord som, om de nämns i en video, gör att youtubare blir av med sina annonsintäkter. Bland dem: ”Afghanistan”, ”Armenian genocide”, ”war crimes”, ”abortion”, ”women” och ”lesbians”. 

Kan det stämma? Och hur hamnade vi här? För att förstå krävs en tillbakablick. 

Våren 2017 gjorde tidningarna The Times och Wall Street Journal en observation: Youtubes annonsplaceringar verkade helt oreglerade. Exemplen var inte nådiga. Ultranationalistiska National rebirth of Poland flankerades av reklam för brittiska BBC. Hatpredikanten Steven Anderson delade skärm med sminkföretaget L'Oreal. Samtidigt publicerade Felix ”PewDiePie” Kjellberg – ett av Youtubes största ansikten utåt – en video innehållande en skylt med budskapet ”Död åt alla judar”. 

Avslöjandena gjorde att stora annonsörer som McDonald's, Volkswagen, brittiska regeringen och Johnson & Johnson lämnade videoplattformen. Krisen växte hos Youtube och dess ägarbolag Google. I mars samma år kom deras respons: Annonsplaceringarna skulle grovstädas genom stenhårt tränade algoritmer. De nya robotarna skulle automatiskt identifiera hatiska och rasistiska videor redan i uppladdningsfasen och se till att de inte åtföljdes av annonser. 

Ord som sätter stopp för annonser på Youtube.

Det inneboende dilemmat i Googles affärsmodell – att tjäna annonspengar på ett publicerat material som är så stort att det svårligen låter sig kontrolleras – verkade vara löst. Robotarna skulle göra jobbet.

Bland dem som skapar innehållet på Youtube var tongångarna mindre hoppfulla. Införandet av automatiskt reglerade annonsplaceringar inledde en process de kom att kalla ”adpocalypse” – annonsapokalypsen. Algoritmen visade sig nämligen vara trubbig. Kreatörer som följde reglerna för att tilldelas annonser blev av med dem ändå. Samtidigt bröt andra användare mot Youtubes övergripande policy – villkoren för att över huvud taget få publicera sig på plattformen – men lyckades hålla sig kvar. 

Resultatet blev fler kriser. I februari 2019, när det avslöjades att ett slags pedofil mjukporr spridit sig genom att användare i kommentarsfält pekat ut tidpunkter i till exempel i filmer från gymnastiktävlingar. Barnen befann sig där i poser som uppfattades som sexuellt laddade. För varje kontrovers blev den trubbiga algoritmen än mer åtdragen. Kreatörer som inte hade med saken att göra – däribland den rumänska historieläraren Scott Allsop och människorättsorganisationen Southern poverty law center – blev av med annonser. En grupp hbtq-bloggare som upplevde sig diskriminerade av algoritmen stämde Google. Rättsfallet pågår just nu. 

Det är här Johan Haneklou, som vanligtvis går under användarnamnet Sealow, kommer in i bilden. Tillsammans med den amerikanska youtubaren Andrew Platt bestämde han sig för att ta reda på hur algoritmen faktiskt fungerar, eftersom Youtube tiger om saken. Genom empiriska tester har duon tagit fram en lista över vilka titlar som gör att videoskapare omedelbart blir av med annonser. Totalt har de prövat knappt 17.000 ord (hämtade från ”Oxford dictionary”, ”Urban dictionary” och populära sökresultat) genom att manuellt ladda upp videor med olika titlar och sedan automatisera processen. 

Listan är öppen, publicerades i höstas och uppdateras löpande. Den är till största delen fylld av pornografibegrepp. Men mitt bland dem finns, när detta skrivs, helt andra ord. Som tidigare nämnts är det specifika platser: ”Afghanistan”, ”Syria”, ”Palestine”, ”Ukraine”. Det är historiska begrepp och skeenden: ”Armenian genocide”, ”Gestapo”, ”holocaust”, ”Adolf Hitler”. Det är privata och känsliga ämnen: ”Anorexia nervosa”, ”autism”, ”cancer”. Det är ord relaterade till hbtq-personers och kvinnors rättigheter: ”Abortion”, ”women”, ”lesbians”, ”#metoo”. Med mera. 

När DN ringer upp Johan Haneklou säger han att Youtubes AI är dålig på att se kontext. 

– Hbtq-begrepp, till exempel, används ofta i videor där det pratas om sex (som inte är tillåtet enligt Youtubes annonsregler, reds anm). Därför har algoritmen svårt att veta om ordet nämns i en sådan situation eller inte. Och om ett nytt homofobiskt terrordåd likt det i Orlando 2016 skulle inträffa så får algoritmen ännu mer problem. 

Youtube har, enligt Haneklou, helt enkelt inte särskilt lätt att hantera den enorma mängd data de sitter på. Åtminstone inte så länge AI:n fungerar som den gör i dag. 

– Den har svårt att särskilja en video av två polare som skämtar taskigt med varandra från en video där någon blir trakasserad. 

Skulle du säga att algoritmen i praktiken blir diskriminerande? 

– Ja, absolut. 

Listan är egentligen inte framtagen för att skapa opinion, utan för att hjälpa youtubare i vardagen. Johan Haneklou försörjer sig på att utforska plattformens algoritmer och sedan ge råd till stora videoskapare som MrBeast, Kwebbelkop och Chad Wild Clay. Han sitter därför i regelbundna möten med Youtube om hur de kan förenkla samarbetet med videoskapare. 

Som bevis för listans trovärdighet – trots Haneklous egna ekonomiska intressen i att peka ut Youtubes problem – refererar han till att den är öppen och verifierbar, att forskningsmetoden redovisats offentligt och att människor som först varit kritiska till listan senare sagt offentligt att den verkar stämma, efter att ha testat själva. 

En som har mött annonsalgoritmens hårdragning är den amerikanska videojournalisten Ford Fischer. Han driver Youtubekanalen News2Share, där han publicerar videoklipp från demonstrationståg, kravaller och politiska presskonferenser. Hans metod går ut på att filma och publicera råmaterial utan egna kommentarer. Tanken är att på så vis öka förtroendet för journalistrollen i USA:s ideologiskt polariserade medieklimat. 

Han bevakar ofta kontroversiella ämnen, som protester för och emot Donald Trump, våldsamma möten mellan nazister och antifascister och klimatdemonstrationer. Men även mer traditionella politiska rörelser, som Bernie Sanders presidentvalskampanj och vanliga presskonferenser i Vita huset. Tidigare utgjorde reklamintäkter ungefär hälften av hans regelbundna inkomst. Nu, säger han, är de nere på noll. 

– Jag håller med om att en del av de personer jag filmar skulle bryta mot Youtubes annonsregler om de stirrade in i sin webbkamera och pratade själva. Men i min mening är det något annat att rapportera om det som sker för att möjliggöra ansvarsutkrävande, säger han till DN. 

Men det blir väl nästan samma sak när du inte sätter det som sägs i kontext, som en traditionell journalist hade gjort? 

– Om Youtube tycker så hade en människa kunnat kontakta mig och säga det. Vi hade kunnat komma fram till en lösning, till exempel en ansvarsfriskrivning där det förklaras att videon är dokumentärt material framtaget för historieskrivning, inte ett erkännande av budskapet som förs fram. Jag skulle sätta dit en sådan om jag visste att det hjälpte. 

Algoritmens annonsbeslut kan överklagas. Kreatörer som blivit av med alla annonser i ett slag behöver vänta 30 dagar innan de kan göra det. Fischer har överklagat, men väntar fortfarande på svar. 

Jag tänker inte radera videor relaterade till Palestina eller hbtq-frågor, eller min dokumentation av den amerikanska rasismen

– Youtube verkar hoppas att man ska gå igenom sin kanal, gissa vilket material de har problem med och ta bort det innan man ansöker om att få annonser igen. Men jag tänker inte radera videor relaterade till Palestina eller hbtq-frågor, eller min dokumentation av den amerikanska rasismen. Det vore att försöka sanera verkliga problem. Youtube förnekar läget som världen befinner sig i. Det är ett samhällsfarligt beteende. 

Just avsaknaden av mänskliga kontaktpersoner och tydliga besked är något som fler videoskapare upplever som ett problem. Det har lett till att Youtubers Union, ett slags informellt fackförbund, bildats. De organiserar sig genom en Facebookgrupp som i skrivande stund har 26.000 medlemmar. Med hjälp av det tyska storfacket IG Metall driver de sex krav grundade i behovet av transparens, kontaktpersoner och rättvis tvistelösning. 

– När Youtube introducerade annonsalgoritmen våren 2017 föll mångas inkomster ordentligt. Personligen tappade jag 80 procent. Karriärer blev förstörda utan någon förhandsinformation, förklaringar eller förhandlingar. Det är djupt orättvist, och en uppenbar situation där det krävs ett fackförbund, säger Jörg Sprave, ledare för Youtubers Union och till vardags videorecensent av avancerade slangbellor. 

Efter hot om att stämma Google för GDPR-brott lyckades gruppen tvinga till sig en förhandling. Men i sista stund fick de veta att varken Jörg Sprave eller någon annan videoskapare var bjuden. 

– De ville bara prata med folk som inte vet något om Youtubes ekosystem. Därför valde Youtubers Union att inte delta. Det var uppenbart att Google inte var öppna för någon form av förhandling. 

Youtube är inte längre en plattform, utan en publicist

Nu har gruppen gått vidare med den juridiska processen och driver samtidigt mer direkta kampanjer. Bland annat har medlemmarna skickat tre tusen fysiska brev direkt till Youtubes huvudkontor i San Bruno i Kalifornien. 

– Youtube är inte längre en plattform, utan en publicist. Men de vägrar ta det ansvar som krävs av en publicist, säger Sprave. 

Joakim Larsson, kommunikationschef för Google i Sverige och Finland, svarar på DN:s frågor med ett generellt uttalande via mejl. Han skriver: ”Youtube har ingen lista över ord som påverkar möjligheten för kreatörer att tjäna pengar på sina kanaler”, men kommenterar inte huruvida listan som Johan Haneklou har tagit fram genom att testa algoritmen stämmer.

Han fortsätter: ”När vi utvärderar innehåll på Youtube för att se till att det följer våra annonsriktlinjer så använder vi maskininlärning, och ibland gör vårt system helt enkelt fel. Därför har vi uppmuntrat kreatörer som har drabbats att överklaga. (...) Att stödja kreatörer är A och O för oss, och det är därför som majoriteten av annonsintäkterna också går till dem. Vi måste samtidigt se till att användare på Youtube känner sig säkra och att annonsörer kan lita på att Youtube är säkert för deras varumärken.”

Slutligen svarar han, om det uteblivna mötet med Youtubers Union: ”Fackförbunden Ver.di, DGB och IG Metall var inbjudna. Under mötet förklarade vi i detalj vad Youtube gör när det gäller transparens och stöd till kreatörer.”