Tekoälyä käytetään yhä enemmän nettikeskustelujen moderoinnissa: "Tekoäly on demokraattisempi kuin ihminen"

Tekoäly pystyy käsittelemään suuria viestimääriä ja sen hyviin puoliin kuuluu nopeus ja puolueettomuus. Liian nopealla moderoinnilla voi tosin olla myös haittapuolensa.

kulttuuri
tekoäly-kuvitus
AOP

Yksi tällä hetkellä käytetyistä tekoälymoderaattoreista on Utopia Analyticsin kehittämä suomalainen innovaatio Utopia AI Moderator. Sitä käyttävät muun muassa Aller Median omistama Suomi.24, norjalaisomisteinen Tori.fi sekä lasten Facebookina tunnettu Momio.

Utopia Analyticsin toimitusjohtajan Mari-Sanna Paukkerin mukaan tekoäly päihittää moderointityössä ihmisen etenkin puolueettomuudessa.

– Se on todella demokraattinen. Jos ihminen tekee moderointityötä ja huomaa, että taasko tuo sama käyttäjätunnus täällä huutelee, saattaa hän poistaa herkästi ihan asiallisenkin viestin, koska henkilö on aiemmin käyttäytynyt huonosti. Koneelle voidaan opettaa, ettei näin saa toimia, vaan katsotaan pelkästään viestin sisältöä eikä sitä, kuka on kirjoittaja.

Paukkerin mukaan esimerkiksi Utopia AI Moderatorin kaltaiselle tekoälykoneelle on ollut tarvetta.

– Kun oikeassa elämässä järjestetään musiikkitilaisuus, siellä on paikalla järjestyksenvalvoja, toisin kuin sosiaalisessa mediassa. Tällainen sieltä puuttui ja me päätimme sellaisen tehdä.

Ironian ja sarkasmin vaikeus

Myös Yle ryhtyi viime vuonna moderoimaan keskusteluja tekoälyn avulla. Tekoälyä on mahdollista kustomoida ja hienosäätää käyttäjän toiveiden mukaisiksi, ja esimerkiksi Ylen käyttämälle koneelle opetetaan Ylen journalistisia periaatteita.

Mutta pystyykö tekoäly esimerkiksi tunnistamaan ironiaa ja sarkasmia? Mari-Sanna Paukkerin mukaan sarkasmi on vaikea laji – ihmisellekin.

– Myös ihmisen on toisinaan vaikeaa tunnistaa sitä, mikä on ironiaa ja mikä huumoria. Ja jos se on vaikeaa ihmisellekin, niin emme saa konetta tunnistamaan näitä asioita paremmin. Kuitenkin yleensä jos ihmismoderoijat kokevat, että viesti on tulkittavissa ikäväksi, pystyy tekoäly oppimaan asian samalla tavalla.

Olisiko tekoäly ratkaisu groomingiin?

Suurista sosiaalisen median jäteistä esimerkiksi Facebook käyttää tällä hetkellä tekoälymoottoria, joka tekee pelkästään hälytyksiä, muttei päätä siitä, onko viesti epäasiallinen vai ei. Tekoälymoottorin hälytyksiä taas käyvät läpi ihmiset, mikä on Mari-Sanna Paukkerin mukaan hidasta puuhaa.

– Iso osa käyttäjien tekemistä ilmoituksista on pikemminkin kiusantekoa kuin oikeita, aitoja ilmoituksia, joten ne pitää käydä läpi käsin, jos käytössä ei ole kokonaisvaltaista tekoälysysteemiä.

Viime aikoina otsikoissa on ollut netissä tapahtuva grooming eli lasten houkuttelu seksuaalisiin tarkoituksiin. Olisiko mahdollista, että vaikkapa tekoälymoderoinnin avulla groomingiin syyllistyviä henkilöitä saataisiin helpommin kiinni? Periaatteessa kyllä, poliisitarkastaja Kimmo Ulkuniemi Poliisihallituksesta toteaa.

– Erilaiset sähköiset toimijat käyttävät tekoälymoderointia lähinnä siksi, että ne voivat pitää alustojaan puhtaina epäasiallisesta keskustelusta tai laittomasta materiaalista. Toiminnan tarkoituksena on totta kai se, että käyttäjät viihtyisivät ja että käyttäjiä olisi enemmän, mikä tarkoittaa yritykselle enemmän tuloja. Olisi tietenkin mahdollista, että tekoäly poimisi jonkun tietyn sille opetetun tavan mukaisesti sellaisia tapauksia, joissa laitonta materiaalia levitettäisiin ja yritys ilmoittaisi siitä poliisille.

Ulkuniemen mukaan poliisi tekee jo läheistä yhteistyötä erilaisten sähköisten palvelujen tarjoajien, muun muassa Facebookin kanssa. Yhteistyö liittyy nimenomaan rikostorjuntaan.

– Poliisilla voi olla rikostutkintaa varten tarvetta saada esimerkiksi joltakin sosiaalisen median toimijalta tietoa, jolloin toimijaa lähestytään yksittäisellä pyynnöllä. Joissain tapauksissa sosiaalisen median toimijat tai alustojen ylläpitäjät välittävät poliisille tietoa myös oma-aloitteisesti, jos he havaitsevat jotakin laitonta.

Valoakin nopeammin

Nykymoderoinnissa valttia on nopeus, mutta nopeudella voi olla myös varjopuolensa. Kimmo Ulkuniemen mukaan hyvin nopeasti tapahtuvan moderoinnin kohdalla käyttäjä ei välttämättä itse tiedä, mitä on tehnyt väärin ja kuinka voisi korjata käyttäytymistään.

– Poliisitoiminnassa on tottunut rikosoikeudessa siihen, että kun tekee virheen, niin järjestelmä reagoi siihen ja kertoo kuinka olisi voinut toimia toisin. Nettimaailmassa näin ei aina ole, jolloin käyttäjä jää limboon.

Suomen poliisissa on yleisesti selvitetty tekoälyn, robotiikan ja koneoppimisen hyödyntämisen mahdollisuuksia kaikessa poliisitoiminnassa, ei pelkästään rikostorjunnassa. Tällä hetkellä poliisin käytössä ei kuitenkaan ole tekoälyyn perustuvia ratkaisuja.

– Kyse on siitä, että tällainen teknologia kehittyy hyvin nopeasti. Toisekseen, osa näistä sovelluksista on hyvin hinnakkaita. Lisäksi poliisin täytyy jokaisen sellaisen tekoälyratkaisun kohdalla, joka mahdollistaa tietojen analysoimisen ja yhdistelemisen, katsoa mitä lainsäädäntö sallii poliisille ja mitä ei, Kimmo Ulkuniemi sanoo.