- YouTubes forslagalgoritmer blir kalt ut av New York Times i en ny artikkel.
- I følge forskning utført avTidene, YouTubes algoritmer vil foreslå grenseinnhold til de som søker pedofile videoer.
- Dessuten kan algoritmene også skyve grenseinnhold til de som ikke nødvendigvis søker det.
I går,New York Times publiserte en alarmerende artikkel som sentrerte seg om hvordan YouTubes algoritmer for å foreslå nytt innhold utilsiktet kan hjelpe pedofile. Noe informasjon som er hentet fra forskning for stykket antyder faktisk at algoritmene til og med kan bidra til å presse pedofilt innhold til de som ikke nødvendigvis er ute etter det.
Like etter at artikkelen landet, la YouTube ut en ny oppføring til bloggen sin som indirekte adresserer artikkelen. I YouTube-innlegget beskriver selskapet handlingene det har iverksatt det siste året for å bekjempe pedofili på plattformen, samt de forskjellige anstrengelsene det er gjort for å beskytte barn.
YouTube-innlegget tilbyr imidlertid ingen nye strategier; snarere oppsummerer den bare sin nåværende innsats som en forsikring.
I artikkelen som vises iNew York Timesforteller forfatterne historien om en mor som lykkelig gikk med på å la hennes 10 år gamle datter legge ut en video til YouTube av seg selv og en venn som lekte i bakgårdsbassenget. Moren ble sjokkert over å senere finne denne videoen - som ganske enkelt skildrer to unge jenter som svømte og slapper rundt bassenget i sine todelte badedrakter - hadde over 400 000 visninger.
Videoen ble så populær delvis på grunn av YouTubes forslagalgoritmer. Disse algoritmene er ansvarlige for å foreslå innhold til seerne basert på annet innhold de har sett. På en måte traff YouTube pedofile til denne videoen av barna som lekte i bassenget.
Pedofile trenger ikke å søke etter grenseinnhold på YouTube fordi YouTube ganske enkelt vil foreslå dem.
Dessuten fant et brasiliansk forskerteam at YouTubes algoritmer har en tendens til å skyve stadig mer ekstrem innhold med forslagene. For eksempel kan en person begynne å se på en video om hvordan du reparerer en sykkel, og så se en video av folk som faktisk sykler. Deretter kan YouTube foreslå at de ser en video av syklister som krasjer, og deretter andre kjøretøyer krasjer. Før seeren vet ordet av det, får de forslag til voldelig og urovekkende innhold - alt sammen kommer fra å se en video om hvordan du reparerer en sykkel.
Se også: YouTube Originals er gratis for alle å se på, bare med annonser
Tilsvarende kan svømmebassengvideoen kobles til suggererende innhold for voksne. En person kan forsøke å se erotisk-men-lovlig innhold på YouTube - for eksempel en bikinimodells hjul.Dette innholdet kan føre til forslag til annet erotisk badedraktinnhold, som gradvis fører til videoer med yngre og yngre modeller. Etter hvert fører det til nesten en halv million utsikt over to tiåringer i et basseng.
YouTube har et alvorlig problem på hånden som vil kreve at selskapet handler etter etikk på bekostning av fortjeneste.
NårTidene informert YouTube om dette problemet angående svømmebassengvideoen, fjernet selskapet flere relaterte videoer, men la mange andre, inkludert noen som ser ut til å være fra falske kontoer. Den finjusterte også forslagene sine slik at annet grenseinnhold ikke dukket opp. Imidlertid nektet YouTube å gjøre dette med vilje, i stedet hevdet algoritmen fortsetter å lære.
Nå, i sitt svarblogginnlegg, fremhever YouTube sin nylige innsats for å holde barna trygge på plattformen, inkludert fjerning av kommentarer fra nesten alle videoer med mindreårige, begrensning av mindreårige fra live streaming uten at en voksen er tilstede i videoen, og begrenser anbefalinger som den de som er beskrevet avTidene.
Imidlertid har YouTube ikke gjort den omfattende endringen som ville forhindre hele dette problemet: å slå av forslag til videoer med mindreårige. Selv om YouTube har muligheten til å gjøre dette ganske enkelt, har det ikke gjort det, sannsynligvis fordi videoforslag har rundt 70 prosent av visningene. Det er mange inntekter som står på spill.
Etter den uventede populariteten til datterens video, sa moren som godkjente den at hun ikke lenger vil la datteren legge ut noe på plattformen.
