Hyppää pääsisältöön

Valheenpaljastaja: Tulevaisuuden propagandabotti esittää kaveriasi – ja sinä uskot

Kaksi robottia koneen ääressä.
Kaksi robottia koneen ääressä. Kuva: Yle, Unsplash / Brett Jordan robotit,Botti

Tekoälybotit tunkeutuvat yksityisiin viestintäkanaviin ja räätälöivät juuri sinulle sopivaa propagandaa.

Verkon disinformaatiosta puhuttaessa keskustelu kääntyy usein botteihin. Niillä tarkoitetaan tavallisesti osin tai täysin automatisoituja sosiaalisen median tilejä, jotka suoltavat poliittisia tai kaupallisia viestejä. Bottitilit pyrkivät esittämään todellisia ihmisiä, mutta todellisuudessa satojen tai jopa tuhansien tilien verkostoja voi ohjailla tietokoneohjelmalla.

Uskottavimmat botit ovat tavanneet olla sellaisia, jotka joku ihminen ottaa välillä käyttöönsä. Näin tilejä on vaikeampi osoittaa boteiksi niiden käyttäytymisen perusteella.

Neudertin mukaan uuden sukupolven botteja on entistä vaikeampi erottaa oikeista ihmisistä.

Tekoälyn käyttäminen poliittisissa boteissa on toistaiseksi harvinaista. Tyypillisissä bottikampanjoissa automatisoidut tilit levittävät tekstiä, joka on alun perin ihmisten kirjoittamaa. Ne voidaan myös valjastaa tiettyjen vaikuttajien, kuten poliitikkojen, viestien jakamiseen ja vahvistamiseen.

Tilanne on kuitenkin on muuttumassa. Tekoälypohjaisten ohjelmistojen kehitys on viime vuosina kiihtynyt. On vain ajan kysymys, koska niitä aletaan hyödyntää täysimittaisesti propagandan ja disinformaation levittämisessä.

Oxford Internet Instituten tutkija Lisa-Maria Neudert kirjoitti vuonna 2018 MIT Technology Review’ssa, miten tulevaisuuden vaaleihin voivat vaikuttaa älykkäät chatbotit. Chatbotiksi kutsutaan keskustelevaa, sosiaalista tai vuorovaikuttavaa bottia. Tyypillisesti näitä käyttävät nykyisin yritykset ja viranomaiset asiakaspalvelunsa tukena. Botit, jotka myyvät ja markkinoivat tai palvelevat asiakkaita, kertovat auliisti keskustelukumppanilleen olevansa botteja. Propagandabotti ei varmasti kerro.

Neudertin mukaan uuden sukupolven botteja on entistä vaikeampi erottaa oikeista ihmisistä. Tämä johtuu koneoppimisen ja luonnollisen kielen käsittelyn (natural language processing eli NLP) nopeasta kehityksestä. Neudert ennustaa, että muutaman vuoden kuluessa näemme keskustelevia botteja, jotka etsivät sopivia kohteita ja hakeutuvat juttusille yksityisviestien avulla. Ne analysoivat kohteensa dataa ja tuottavat juuri hänelle räätälöityä propagandaa.

– Sen sijaan, että levittäisivät propagandaa kaikille, nämä botit suuntaavat toimintaansa vaikutusvaltaisiin ihmisiin tai poliittisiin toisinajattelijoihin. Ne hyökkäävät yksilöitä vastaan käsikirjoitetulla vihapuheella, hukuttavat heidät spämmiin tai raportoivat kohteidensa tilien sisällön loukkaavaksi, jolloin tilit suljetaan, Neudert kirjoittaa.

Neudert ei ehtinyt antaa Valheenpaljastajalle haastattelua, mutta kertoi seisovansa edelleen pari vuotta vanhan artikkelinsa takana.

Poliittinen botti voisi yrittää vaikuttaa epävarmoihin

Helsingin yliopiston Yhteiskuntadatatieteen keskuksen yliopistonlehtori Matti Nelimarkka toteaa, että AI-botteja on jo olemassa. Vaikka uskottava vuorovaikutus ihmisen kanssa on niille edelleen haaste, ne muodostavat “riskaabelin tulevaisuuskuvan”.

– Viestien tarkka kohdennus tiettyihin yksilöihin on ihan arkipäivää jo esimerkiksi markkinoinnissa. Teknologian rajat tulevat vastaan merkityksellisissä keskusteluissa ja syvällisessä vuorovaikutuksessa. Vielä on matkaa siihen, että botit pystyvät ymmärtämään paremmin konteksteja ja nyansseja. Mutta on se tulossa.

Tosin tekoälykin on terminä liukuva. Monet asiantuntijatkin saattavat kiistellä siitä, täyttääkö jokin tapaus tekoälyn määritelmän vai ei, Nelimarkka huomauttaa.

– Näen vähän turhana keskustelun siitä, missä tekoälyn rajat menevät. Esimerkiksi markkinoinnissa mikä tahansa keskusteleva järjestelmä myydään sillä, että mukana on tekoälyä, mutta teknologiaihmiset näkisivät asian aivan toisella tavalla. Se on liukuva termi.

Nelimarkka pohdiskelee, että poliittiset botit voisivat kohdentaa viestejään esimerkiksi sellaisille ihmisille, jotka eivät vielä ole täysin ostaneet jotakin salaliittoteoriaa, mutta ovat kiinnostuneita siitä.

– Ongelma tulee eteen, kun ihminen yrittää kysyä botilta mitään vähänkään monimutkaisempaa. Toki silloin botilla voisi olla jokin geneerinen puppuvastaus, poliittista jorinaa. Kyllähän se voisi mennä läpi.

Jokainen internet-keskusteluissa aikaa viettänyt tietää, etteivät aidot ihmisetkään aina ole johdonmukaisia vastauksissaan.

Kone osaa jo kirjoittaa propagandaa

Luonnollisen kielen käsittelyssä tarvitaan valtavia määriä dataa, ja tällaisia datavarantoja on esimerkiksi suurilla teknologiayhtiöillä, kuten Googlella. Ne kehittävät tämän datan avulla omia tekoälyjärjestelmiään, mutta myös yhtiöiden ulkopuoliset ohjelmistokäsittelijät pääsevät materiaaleihin käsiksi niin kutsuttujen avoimien rajapintojen kautta. Googlen kaltaiset yhtiöt hyötyvät siitä, että ne antavat omia algoritmejaan avoimesti kehitettäviksi.

– Ongelma on, että tällaiset palvelut ovat avoimia lähes kenelle tahansa – myös niille, jotka rakentavat poliittisia botteja. Kun teknologiayhtiöt tarjoavat työkaluja keskustelujen automatisointiin, ne tulevat samalla opettaneeksi propagandaa puhumaan, kirjoittaa Neudert.

Pian kaikilla propagandan levittäjillä on mahdollisuus tuottaa periaatteessa loputon määrä automatisoitua, harhaanjohtavaa sisältöä.

OpenAI-niminen riippumaton tutkimuskeskus julkaisi hiljattain GPT-3-nimisen ohjelmiston, joka pystyy luomaan monenlaisia tekstityyppejä sille syötetyn datan perusteella. Se ennustaa, mitä sanoja seuraavaksi voisi tulla. Tulokset ovat varsin uskottavia.

The Guardian -lehti julkaisi syyskuussa pääkirjoituksen, joka oli täysin GPT-3:n kirjoittama – tosin toimitus oli editoinut tekstin kahdeksasta eri tekstistä, joita ohjelma oli tuottanut.

Ohjelmiston aiempi versio, GPT-2, oppi jo tuottamaan äärioikeistolaista vihapuhetta. Terrorismin ja ekstremismin tutkijat syöttivät ohjelmalle tunnettujen äärioikeistolaisten joukkomurhaajien, kuten Anders Breivikin ja Dylann Roofin, verkossa julkaistuja manifesteja ja katsoivat, millaista tekstiä ohjelma alkoi suoltaa. Tutkijat kokeilivat samaa ISIS-johtajan puheilla, marxilaisilla teksteillä ja anarkististen kirjojen ja lehtien materiaaleilla.

Turvallisuusyhtiö FireEye puolestaan syötti GPT-2:lle kahdeksan miljoonaa verkkosivua ja miljoonien venäläisiksi arvioitujen sometilien tuotantoa. Ohjelma oppi kirjoittamaan muodollisesti päteviä propagandatviittejä.

Disinformaation määrä vain kasvaa ja kasvaa

Kun puhutaan disinformaation tulevaisuudesta, ainakin yhtä asiaa voi pitää varmana. Sen määrä vain kasvaa kasvamistaan. Tämä on väistämätöntä jo siksi, että ihmiskunta tuottaa päivittäin koko ajan kasvavan määrän dataa. Osa tuosta datasta on disinformaatiota eli tarkoituksellisesti harhaanjohtavaa tietoa.

Toinen syy on se, että automatisoidun sisällön tuottaminen ja jakaminen muuttuu koko ajan halvemmaksi ja tehokkaammaksi.

– Kyllähän se muuttaa radikaalilla tavalla todellisuussuhdetta, sanoo Matti Nelimarkka.

Tietokoneohjelmat pystyvät jo generoimaan täysin uskottavia ihmisten kasvoja. Tekstin tuottaminen on jo lasten leikkiä. Myös valokuvia ja videoita pystytään luomaan koneoppimisen menetelmillä.

– Ennen propagandan kirjoittamiseen tarvittiin ihmisten käsiä, kirjoittaa Stanford Internet Observatoryn tutkimuspäällikkö Renée DiResta The Atlanticin artikkelissaan.

Pian kaikilla propagandan levittäjillä on mahdollisuus tuottaa periaatteessa loputon määrä automatisoitua, harhaanjohtavaa sisältöä. Sitä tuotetaan tulevaisuudessa niin paljon, etteivät sosiaalisen median yhtiöt ja muut internetsisällön julkaisijat voi enää määritellä yksittäisten viestien sisällön aitoutta. Sen sijaan uskottavuutta aletaan määritellä identiteetin avulla.

– Monet käyttäjät haluavat tietää, onko heidän lukemansa tai näkemänsä takana oikea henkilö eikä tekoälyn luoma henkilö, DiResta kirjoittaa.

Hänen mukaansa informaatioympäristömme on luisumassa kohti epätodellisuutta, tilannetta, jossa faktaa ja fiktiota on entistä vaikeampi erottaa toisistaan.

Valheenpaljastaja käsittelee faktaa ja fiktiota uutisissa ja sosiaalisessa mediassa. Lähetä juttuvinkki: valheenpaljastaja@gmail.com.

Valheenpaljastaja

Kommentit