YouTube-algoritmi jatkaa ääriaineksi suosittelemistaan, tutkimus paljastaa

Tuoreen Institute for Strategic Dialogue (ISD) -tutkimuksen mukaan YouTube:n algoritmi suosittelee edelleen oikeistolaisia ja äärioikeistolaisia videoita käyttäjille, vaikka nämä eivät olisi aiemmin olleet tekemisissä kyseisen sisällön kanssa. Tämä havainto poikkeaa merkittävästi YouTube:n aiemmista lupauksista parantaa suosittelujärjestelmäänsä ja estää virheellisen tiedon leviämistä.

Tutkimus keskittyi erilaisiin kiinnostuksen kohteisiin, kuten pelaamiseen, mieslifestyle-sisältöön, äitibloggaajiin ja espanjankieliseen uutisointiin, ja sen tarkoituksena oli ymmärtää YouTube:n algoritmin toimintaa. Tutkijat loivat YouTube-profiileja eri demografisille ryhmille ja seurasivat kuukauden ajan algoritmin generoimia suosituksia.

Yllättäen tutkimus paljasti, että YouTube:n algoritmi suositteli videoita, joissa esiintyi itseään naisvihamieliseksi kutsuva Andrew Tate, sekä 13-vuotiaalle mieslifestyle-sisällöstä kiinnostuneelle pojalle että samanmieliselle 30-vuotiaalle miehelle. Tämä tapahtui vaikka kummankaan tilin aiemmista toimista ei ollut viitteitä kiinnostuksesta Taten tai hänen sisältönsä suhteen. Lisäksi seksuaalisesti eksplisiittisiä tai väkivaltaisia videoita, jotka liittyivät suosittuun Minecraft-videopeliin, suositeltiin 14-vuotiaiden poikien ja tyttöjen profiileille.

ISD:n tutkimus korostaa algoritmin kyvyttömyyttä erottaa sisällön laatua ja sensaatiomaisuutta. YouTube:n algoritmi suosii pääasiassa korkeaa liikennettä ja sitoutumista saavuttaneita videoita, mikä johtaa kiistanalaisen ja ääriaineksisen sisällön edistämiseen. Vaikka YouTube väittää sijoittavansa politiikkoihin ja käytäntöihin käyttäjiä haitalliselta sisällöltä suojellakseen, tutkimus osoittaa algoritmin käyttäytymisen muutosten olevan vähäisiä.

Tämän tutkimuksen havainnot heijastelevat huolia, joita Yleislääkäri Vivek Murthy on ilmaissut, ja hän on kehottanut sosiaalisen median alustoja käyttämään varoitustarroja nuorille käyttäjille. Kuitenkin tutkimuksen pääasiantuntija Aoife Gallagher uskoo, että pelkät varoitustarrat eivät riitä ja kannattaa suurempaa avoimuutta ja datan saatavuutta alustoilta kuten YouTube.

Yhteenvetona tutkimus osoittaa, että YouTube:n algoritmilla on edelleen merkittävä vaikutus äärioikeistolaisen ja ongelmallisen sisällön suosittelemisessa käyttäjille, riippumatta näiden kiinnostuksen kohteista. Se korostaa jatkuvan tutkimuksen ja parannusten tarvetta varmistaakseen, etteivät algoritmit osallistu virheellisen tiedon leviämiseen ja radikalisoitumiseen.

Lisäksi:
– YouTube kuuluu Googlen omistukseen ja on yksi maailman suurimmista videoidenjakopalveluista, jossa ladataan päivittäin miljardeja videoita.
– YouTube:n suositusalgoritmi on suunniteltu pitämään käyttäjät sitoutuneina alustalla, sillä korkeampi sitoutuminen tarkoittaa lisääntynyttä mainostuottoa yhtiölle.
– Algoritmi analysoi käyttäjien käyttäytymistä, kuten katseluhistoriaa, tykkäyksiä ja jakamisia, tarjotakseen personoituja suosituksia.
– Tutkimus keskittyi vain rajattuun määrään kiinnostuksen kohteita ja demografisia ryhmiä, joten YouTube:n algoritmin suositteleman äärioikeistolaisen sisällön laajuus saattaa olla laajempi kuin havaittu.

Keskeiset kysymykset ja vastaukset:
– Miten YouTube:n algoritmi toimii?
YouTube:n algoritmi analysoi käyttäjien käyttäytymistä, kuten katseluhistoriaa, tykkäyksiä ja jakamisia, tarjotakseen personoituja suosituksia, jotta käyttäjät pysyisivät sitoutuneina alustalle.

– Miksi YouTube:n algoritmi suosittelee äärioikeistolaisia sisältöjä?
YouTube:n algoritmi suosii pääasiassa videoita, joilla on korkea liikenne ja sitoutuminen. Tämän seurauksena kiistanalaiset ja äärioikeistolaiset sisällöt voivat usein generoida enemmän katseluita ja sitoutumista, johtaen niiden suositteluun.

– Minkälaisia vaikutuksia algoritmin äärioikeistolaisilla suosituksilla voi olla?
Äärioikeistolaisen sisällön suosittelu voi edistää virheellisen tiedon leviämistä, radikalisoitumista ja haitallisten ideologioiden vahvistamista. Se voi myös altistaa käyttäjiä sellaiselle sisällölle, jota he eivät muuten olisi kohdanneet.

Keskeisiä haasteita tai kiistakysymyksiä:
– Vapauden ja haitallisen sisällön tarpeen välisen tasapainon löytäminen: YouTube kohtaa haasteen tasapainoilla sallinnan monimuotoisen sisällön ja ääri- ja ongelmallisen materiaalin leviämisen minimoimisen välillä.

– Algoritmiset vinoumat: Tutkimuksen havainnot herättävät huolia mahdollisista vinoumista YouTube:n suositusalgoritmissa. Tällaiset vinoumat voivat vaatia korjaamista, jotta varmistetaan oikeudenmukaiset ja puolueettomat suosituksien tarjonta.

Edut:
– Personoidut sisältösuositukset: YouTube:n algoritmi mahdollistaa käyttäjille uusien sisältöjen löytämisen heidän kiinnostuksen kohteidensa ja mieltymystensä perusteella.

– Sitoutumisen lisääminen: Algoritmin kyky suositella videoita, jotka käyttäjät todennäköisesti pitävät, voi edistää sitoutumista alustalla, hyödyttäen sisällöntuottajia ja alustaa itseään.

Haitat:
– Virheellisen tiedon ja radikalisoitumisen riski: Algoritmin suosion ollessa kiistanalaisen ja äärioikeistolaisen sisällön puolella on riskinä, että virheellinen tieto ja haitalliset ideologiat voivat levitä ja vahvistua alustalla.

– Avoimuuden puute: Käyttäjät eivät välttämättä ymmärrä selkeästi, miten algoritmi päättää, mitä videoita suositellaan, mikä johtaa huoliin alustan vastuuvelvollisuudesta ja mahdollisista vinoumista.

Liittyvät linkit:
– Institute for Strategic Dialogue (ISD)
– Maailman terveysjärjestö (WHO)
– National Geographic