Vance

Dit is hoe YouTube erin slaagt extremistische video’s te weren met kunstmatige intelligentie

Iedereen kan video’s op YouTube plaatsen en in veel gevallen is dat materiaal niet voor iedereen geschikt. Zo wordt het videoplatform ook dagelijks ingezet voor de verspreiding van extremistische content. Het online verspreiden van terreur wordt erg serieus genomen en YouTube werkt samen met Google om dit tegen te gaan. “Er zou geen plek moeten zijn voor terroristische content op onze diensten”, vertelt Vice-President bij Google, Ken Walker, in de Financial Times.

YouTube zet alles op alles om kwetsende of traumatiserende content te weren van gebruikers. De dienst zet ook kunstmatige intelligentie in om extremistisch materiaal te verwijderen, vaak zelfs voordat gebruikers de kans krijgen hier een melding van te maken. Gisteren maakte YouTube bekend dat ze er nu in slagen ruim 75% van de extremistische content te weren.

Accuraat

De videodienst maakt met trots bekend dat het aantal verwijderde video’s in de afgelopen maand in verdubbeld. Kunstmatige intelligentie speelt hier een grote rol in. Zo kunnen algoritmes bepaalde content veel sneller detecteren en uit de miljoenen video’s filteren. “Met meer dan 400 uur aan geplaatste content per minuut, vormt het vinden van extremistische content een belangrijke uitdaging”, vertelt YouTube. Daarnaast vertelt de dienst dat de kunstmatig intelligente systemen in vele gevallen zelfs accurater waren dan de mensen die video’s bij hen melden.

Maatregelen

YouTube vertelt in haar aankondiging dat de dienst binnenkort ook andere video’s op het platform zal weren. Zo zijn er nog genoeg voorbeelden te noemen van video’s die niet de richtlijnen van het platform schenden, maar wel kwetsend zijn. De videodienst vertelt maatregelen te nemen zoals het waarschuwen van kijkers, het niet aanbevelen van de content en reacties en likes uitschakelen. Ook komt controversiële content niet in aanmerking voor advertenties.

YouTube lijkt steeds meer aandacht te besteden aan het bestrijden van kwetsende video’s en het wijzigen van beleidsplannen. De dienst vertelt nu samen te werken met 15 organisaties die zich specialiseren op gebied van radicalisering en het aanzetten tot haat. “Dit zal ons helpen met het beter identificeren van radicale content. We zullen ook regelmatig experts om raad vragen als wij ons beleid aanpassen.”

YouTube’s beleid wat betreft het blokkeren van online content verloopt niet altijd even soepel. Zo kwam de videodienst afgelopen jaar in opspraak toen LHBT video’s werden geblokkeerd onder een ‘safe mode’. In reactie hierop maakte het platform de belofte meer aandacht te schenken aan hun beleidsplannen.