Yle loi tekoälyn avulla kuvitteellisen henkilön, 13-vuotiaan Ellan. Toimittaja lähti testaamaan kiinalaiseen alustapalvelu Tiktokiin, millaisia videosisältöjä se tarjoaa tytölle, joka palvelussa kertoi tuntevansa itsensä masentuneeksi ja lihavaksi.
Lopputulos oli järkyttävä. Jo muutaman tunnin someselailun jälkeen Ellalle tarjottiin lähes pelkästään vaaralliseksi tai vähintäänkin haitalliseksi luokiteltavaa sisältöä.
Ella on tekoälyn luoma hahmo ja esimerkki kuvitteellinen. Valitettavasti Ellan kohtalon jakavat myös lihaa ja verta oleville nuoret, jotka palvelua käyttävät.
Haitallisten ja mielenterveyttä horjuttavien sisältöjen tarjoamisen ohella runsas videopalvelun käyttö on asiantuntijoiden mielestä haitallista nuorten kehitykselle ja keskittymiskyvylle.
Kyse ei ole marginaali-ilmiöstä. Esimerkiksi Tiktokilla on Suomessa jo 1,5 miljoonaa käyttäjää. Valtaosa heistä on nuoria.
Amerikkalaiset sosiaalisen median palvelut kuten Facebook, Instagram ja X toimivat samalla logiikalla. Nekään eivät ole käyttäjien kannalta pelkästään hallittavaa ja harmitonta viihdettä. Algoritmit vievät käyttäjää kuin litran mittaa.
Tiktokin tekee tällä hetkellä suurimmaksi uhaksi se, että palvelua pidetään käyttäjiensä koukuttamisessa maailman parhaana. Kiinalaiskoodari on päihittänyt Amerikan serkkunsa.
Tiktokin arveluttavuutta lisää kiinalaisomistus. Tiktokin emoyhtiön Bytedancen yhteydet Kiinan valtioon ovat ilmeiset.
Tiktok tarjoaa kiinalaisille nuorille erilaisia sisältöjä kuin vaikkapa suomalaisille. Kiinalaisnuorille algoritmi suosittaa enemmän oppimiseen liittyviä sisältöjä kuten kielten opiskelua ja ongelmanratkaisutaitoja.
Suomalaiskäyttäjälle algoritmi tarjoaa lyhyempiä videoita, joissa on esimerkiksi kosmetiikkaa ja kouluhuumoria.
Bytedance pyrkii myös laajentamaan Tiktokin tarjontaa lyhyistä videoista muunkaltaisiin verkkosisältöihin. Se kehittää muun muassa suoratoistopalvelua, verkkokauppaa, lifestylepalvelua ja hakukonetta. Näin se pyrkii ottamaan kokonaisvaltaisen otteen käyttäjistään.
Se taas kasvattaa entisestään palvelun mahdollisuuksia kerätä käyttäjistään tietoa. Kerätty data mahdollistaa entistä tarkemman käyttäjien profiloinnin ja mielipiteiden manipuloinnin.
Viime kevään eduskuntavaaleissa Tiktokia käyttäneistä 18–30-vuotiaista äänestäjistä puolet kertoi sovelluspalvelun vaikuttaneen siihen, mitä puoluetta he äänestivät.
Asiantuntijat ovat yksimielisiä siitä, että Tiktokin ja vastaavien palveluiden haittavaikutukset ovat niin suuria, että niiden käyttöä tulisi jollain keinoilla rajoittaa. Kuten niin usein, tässäkin säätely on jo auttamatta myöhässä. Henki on ulkona pullosta eikä sitä enää saa sinne takaisin työnnettyä.
Yritystä on. EU:ssa on tehty useita päätöksiä, joilla digijättejä yritetään suitsia. Elokuussa voimaan tullut digimarkkinasäädös (DMA) säätelee verkon suuria portinvartijoita eli somealustojen lisäksi myös hakukoneita ja käyttöliittymiä. Sillä yritetään suojella kuluttajia.
Digitaalisten palveluiden säädös (DSA) puolestaan velvoittaa poistamaan laittomat sisällöt ja estämään niiden levittäjät. Sen avulla pyritään pakottamaan media-alustoja avaamaan salakavalia algoritmejaan. Tavoitteena on suojella erityisesti lapsia.
Myös datan ja tekoälyn käyttöä koskevia säädöksiä on unionissa tekeillä.
Eri asia on se, kuinka hyvin näillä säädöksillä voidaan somejättejä kontrolloida ja estää käytön haittoja.
Mitä vanhemmatta voivat tehdä? Kannattaa ainakin mennä palveluun ja tutustua sen tarjontaan.
Vanhemmat voivat myös yrittää rajoittaa lasten Tiktokin liikakäyttöä aikarajoituksin. Teknisesti se on jo mahdollista.Onko se realistista nykymaailmassa? Tuskin.