Hyppää pääsisältöön

Teknologiapessimistit kertovat, mistä meidän tulisi huolestua

teknologiapessimistit Pekka Vahvanen ja Petteri Järvinen
teknologiapessimistit Pekka Vahvanen ja Petteri Järvinen Kuva: Johanna Aulen, Olli Kangassalo/Yle Petteri Järvinen,Pekka Vahvanen

Tähänkö sitten tultiin. Internet on kuraa ja some masentaa. Älypuhelin orjuuttaa. Robottiautot ovat pelkkää hypeä. Autonomiset aseet tekevät Terminatorista totta. Kohta jokaisesta tehdään feikkipornovideoita. Kulttuuricocktail kurkistaa teknologiapessimismin synkeisiin kuviin ja ennusteisiin. Mitä sanovat tietokirjailijat Pekka Vahvanen ja Petteri Järvinen?

Perjantai-ohjelman ex-juontajalla, nykyisellä tietokirjailija Pekka Vahvasella ei ole älypuhelinta. Hänen kädessään komeilee Nokian esihistoriallinen perusluuri C1. Ja puhelin on ideologinen valinta. Hän on teknologiapessimisti.

Pekka Vahvasen uuden tietokirjan otsikko Kone kaikkivaltias - Kuinka digitalisaatio tuhoaa kaiken meille arvokkaan kuvaa tilanteen hyvin. Perusteellisesti taustoitettu kirja on voimakkaasti kantaa ottava manifesti teknologian tuoreista uhkakuvista someaddiktiosta tekoälypainajaiseen.

Pitkän haastattelun aikana Vahvanen mainitsee ylpeän oloisena pariin otteeseen, että hän on ollut kirjeenvaihdossa pahamaineisen Unabomberin kanssa. Unabomber eli Ted Kaczynski on siitä harvinainen sarjamurhaaja, että hänellä oli sanoma, teknologian vastainen ideologia. Metsiin erakoksi paennut entinen matematiikan professori tappoi kirjepommeillaan kolme ihmistä ja vahingoitti 23:a. Unabomber jäi kiinni, koska vaati että hänen manifestinsa julkaistaan lehdessä. Siitä FBI pääsi hänen jäljilleen.

Unabomber lusii vankilassa ja on pahamaineinen legenda, josta tehty tv-sarja löytyy esimerkiksi Netflixistä.

– Onhan se arveluttavaa, että olen ollut kirjeenvaihdossa terroristin kanssa, mutta siis ensi sijainen syy oli jutunteko Helsingin Sanomiin. Uskon että Unabomberin terroriteot vähensivät sympatiaa hänen viestilleen, joka oli teknologian vastustaminen. Mutta en näe, että Unabomberin vankilassa kirjoittamat kirjat ja niiden teknologiavastaisuus olisi pahansuopa ideologia, sanoo Vahvanen.

Vahvanen lupaa haastattelun aikana, ettei ala lähettää kirjepommeja teknologiafirmoihin.

Petteri Järvinen ja Kyberuhkia -kirja
Tietokirjailija Petteri Järvinen toteaa käsityksensä internetin autuudesta synkistyneen. Petteri Järvinen ja Kyberuhkia -kirja Kuva: Johanna Aulen, Olli Kangassalo/Yle Petteri Järvinen

Insinöörin mieli synkistyy

Teknologiapessimismiä on nyt ilmassa. Kone kaikkivaltiaan kanssa samaan aikaan ilmestyi toinenkin samanhenkinen teos.

Tietokirjailija, tietotekniikka-asiantuntija, insinööri Petteri Järvinen ei ole vielä hylännyt älypuhelinta. Järvinen on kirjoittanut vuosikymmeniä tietotekniikasta. Uusin kirja, ilman apurahoja syntynyt ja sydänverellä kirjoitettu Kyberuhkia ja somesotaa – Digiaikana sinäkin olet etulinjassa on kiehtova, pelottava tutkimusmatka nettiurkinnasta älykodin tietoturvauhkien kautta heräilevään supertekoälyyn. Matkalla poksautellaan ahkerasti teknohypeä. Kuulostaa yllättävän pessimistiseltä insinöörin kirjoittamaksi. Järvinen intoili 1990-luvun alussa internetin tulosta, mutta miten on nyt?

Olenhan mä tosi pettynyt verrattuna siihen, mitä 20 vuotta sitten odotin internetin vaikutuksen olevan.― Petteri Järvinen

– En silloin ymmärtänyt ihmisen psykologiaa ja talouden lainalaisuuksia. Näin vain ne hyvät puolet, mutta internet on teknologia kuten sähkö tai puhelin, joka on sisäänrakennettu arkielämään. On vaikea arvioida niitä hyviä ja huonoja puolia. Huonot korostuvat, koska ovat erillisiä ja selvästi nähtävissä. Hyvät puolet otetaan itsestäänselvyyksinä, selittää Järvinen.

Nyt Järvinen kirjoittaa Kyberuhkia ja somesotaa -kirjassaan:
"Kului kymmenen vuotta, ennen kuin varjopuolet paljastuivat. Some urkki tietomme, söi vapaa-aikamme, aiheutti riippuvuutta, tuhosi tietosuojan, nosti yhden yrityksen valtioita suuremmiksi… niin, ja tuhosi demokratian. Ainakin melkein."

Järvisen kirja Kyberuhkia ja somesotaa pursuaa esimerkkejä, joiden takia tekisi mieli siirtyä takaisin yksinkertaisemmalle ja turvallisemmalle 1980-luvulle.

Sinne Kone kaikkivaltiaan kirjoittaja Pekka Vahvanen ainakin haikailee.

– Onnellisuustutkimuksien mukaan onnellisuuden kasvu pysähtyi Suomessa 1970-luvulle.

Kokemuksen inflaatio

Pekka Vahvanen on toimittajana seurannut teknologiaa ja tekoälyaihetta jo vuosia. Hän kävi San Franciscon merkittävässä Singularity Summitissa 2012, jossa tapasi alan keskeisiä ajattelijoita, kuten Ray Kurzweilin.

Internetin vastustajana nyt profiloitunut Vahvanen tunnustaa netin mahtavat puolet. Netistä hän löytää ilmaiseksi kaikkea kiinnostavaa Orwellin ja Huxleyn esseistä pornovideoihin.

– Aina kun teknologia antaa jotakin, se ottaa jotain pois. On syntynyt kyltymättömyyden kulttuuri. Netflixistä ja Youtubesta löytyy rajattomasti materiaalia, joka voisi olla mielenkiintoista. Helposti oman suosikkimateriaalinkin arvo vähenee, Vahvanen pohtii.

Samanlaisen kokemuksen inflaation on havainnut Petteri Järvinen.

Internetin piti olla suuri demokraattinen keksintö.

– Varmaan se oli yllätys monelle. 90-luvun alussa oli syytä olettaa, että internet on valtava tiedon valtaväylä, joka tuo meille sivistystä ja yhdistää ihmiset. Teknologiseen kehitykseen on aina liittynyt se, että vaikutuksia on täysin mahdoton ennustaa.

– Älypuhelin voi olla loistava laite, mutta se voi myös orjuuttaa meidät, myöntää Järvinen.

Pekka Vahvanen on teknologiapessimisti
Pekka Vahvanen ei omista älypuhelinta. Tarkoituksella. Pekka Vahvanen on teknologiapessimisti Pekka Vahvanen

Paha olo voimistuu

Kukapa ei hyppisi kesken tärkeiden tehtävien Facebookiiin, sieltä Twitteriin ja välillä uutisia lukemaan. Ja sitten unohtaa, mitä olikaan tekemässä. Vanhemmat kokevat syyllisyyttä, kun näpräävät lasten hiekkalaatikolla ajankuluksi älypuhelinta.

Pekka Vahvasen mukaan kaikkialla älypuhelimien ja muiden koneiden avulla läsnäolevat netti ja some ovat syöneet ihmisten keskittymiskyvyn ja muistin. Nettiaikakauden kanssa korreloi myös se, että ihmisten yhdyntätiheys on harventunut, ja itsetyydytys on lisääntynyt Suomessakin.

– Pariinkymmeneen tutkimusartikkeliin vedoten on näyttöä siitä, että laitteet häiritsevät keskittymistä. Saman suuntaisia tutkimuksia löytyy enemmänkin. Pitkäaikaisista vaikutuksista ei ole näyttöä, mutta oletettavaa on että niinkin tapahtuu. Ja luovuuden kannalta on tärkeää, että muistaa itse oikeasti jotain, väittää Vahvanen.

Vahvasen ja Järvisen kirjojen tietojen perusteella tuntuu älyttömältä, että työelämässä on jopa suosittu someläsnäoloa.― HAL 9000

Vahvanen kerää kirjassaan paljon todisteita siitä, että sosiaalinen media lisää pahaa oloa, ei onnellisuutta. Some ja erityisesti Instagram lisäävät negatiivisia tunteita, varsinkin kateutta. Ne vähentävät tutkimusten mukaan ihmisten subjektiivista hyvinvointia.

– Ihmiset vertaavat enemmän itseään toisiin itsensä kaltaisiin. Kaltaisen menestys, vaikkapa kiva lomareissu, parempi palkka ja ylennys töissä herättävät enemmän kateutta kuin se, että näkisi tv:n kautta jonkun rikkaan yltäkylläistä elämää, luettelee Vahvanen.

Vahvasen mukaan teknologiaa mitataan liikaa sillä, helpottaako se elämää, eikä sillä parantaako se subjektiivista hyvinvointia. Teknologia vähentää vapautta ja kasaa valtaa niille, joilla sitä jo ennestään on.

Some resonoi ihmisen synkän puolen kanssa

Sotilaat ja hallinto ovat käyttäneet Facebookia ja Twitteriä Myanmarissa etniseen puhdistukseen rohingya-muslimeja vastaan. Intiassa Whatsapp-ryhmissä on kiihotettu ihmisiä lynkkauksiin. Venäjä on tullut jo kuuluisaksi kaaosta aiheuttavasta kybersodankäynnistä. Vaikka valeuutiset eivät ole mikään uusi keksintö, some on tehostanut niiden levittämistä.

Google, Facebook ja Twitter yrittävät karsia valeuutisia, mutta Vahvasen mukaan toiminta on riittämätöntä.

Perinteinen media on ollut taloudellisessa ja eksistentiaalisessa kriisissä internetin takia jo pitkään. Vahvasen mielestä valtioiden pitäisi nyt suojella perinteistä mediaa verotuksella ja sääntelyllä paremmin.

Toisin kuin aluksi luultiin, netti kuplauttaa ryhmiä vihamielisiksi heimoksi. Some ei yhdistä eikä edistä kommunikaatiota. Nettikeskustelut eivät yleensä pysy asiassa tai vaihda ajatuksia rakentavasti, vaan muuttuvat öyhöttämiseksi ja trollaamiseksi. Ihmisillä tuntuu olevan ensisijaisesti suuri tarve kaataa sisäinen paha olonsa nettiin.

Huolestuttavinta on se, että some algoritmeineen näyttää resonoivan ihmismielen synkkien puolien kanssa. Ihminen haluaa itseään miellyttävää dataa, haluaa vahvistusta vanhoille uskomuksilleen.― Petteri Järvinen

Järvisen mukaan ihminen haluaa suuttua ja pahastua, loukkaantua ja loukata muita.

– Kyse on ihmisluonteen ominaisuudesta, mutta tämä teknologia antaa sille kanavan. Suuret yhtiöt tekevät voittonsa tarttumalla ihmisen pimeään puoleen, mutta ei ne sitä tietoisesti tee. Algoritmit toteuttaa just sen pahan, mikä ihmisissä on. Vihapuhetta, manipulointia ja vaalivaikuttamista. Se on aika pelottavaa, luettelee Järvinen.

Pekka Vahvanen on kirjoittanut Kone kaikkivaltias -kirjan.
Pekka Vahvanen on kirjoittanut Kone kaikkivaltias -kirjan. Kuva: Johanna Aulén, Olli Kangassalo/Yle Pekka Vahvanen

Google on utelias Iso Veli

Ihmisistä on tullut somessa datanmetsästäjien riistaa. Yksityisyyden menettäminen pelottaa ihmisiä. Hakujen kautta Googlen hallussa on sellaista tietoa, jota kukaan ei paljastaisi edes lähimmileen.

– Hauista muodostuvien suurten tietoaineistojen, ison datan, perusteella saa realistisen ja sensuroimattoman kuvan yksilön lisäksi myös ihmisluonnosta, toteaa Vahvanen.

Vaikka Pekka Vahvanen tietää tuon hyvin, hän ei siltikään itse käytä hakukoneena pelkästään DuckDuckGota, joka ei kerää dataa. Se lienee laiskuutta.

Googlen hakukoneen algoritmit muokkaavat todellisuuskäsityksiä jo pelkästään sillä, mitä tietoa tarjotaan ensimmäiseksi.

– Tutkimukset osoittavat, että Google-haun ensimmäisillä tuloksilla on valtava vaikutus ihmisten mielipiteiden muodostamisessa, sanoo Vahvanen.

Trumpin vaalivoitto Facebookin avulla

Cambridge Analytican Facebook-urkinta auttoi ehkä Trumpin vaalivoittoon. Varsin vähäisellä fb-tykkäysten määrällä saatiin selville ihmisen persoonallisuuden piirteet, jotka tiivistettiin viideksi ominaisuudeksi (Big Five-menetelmä). Tulosten perusteella tehtiin personoitua vaalimainontaa, jossa esimerkiksi neuroottista ihmistä lähestyttiin pelottelulla ja ekstroverttia ilon kautta.

300 tykkäyksen perusteella tutkijat väittivät pystyvänsä tietämään henkilön asiat paremmin kuin tämän puoliso.

– Uskon että se oli Trumpin valinnassa ratkaiseva tekijä, tosin silloin oli poikkeusolosuhteet. Kolmessa vaa´ankieliosavaltiossa voitto johtui somen taitavasta käytöstä, sanoo Petteri Järvinen.

"Facebookin todellisia asiakkaita emme ole me käyttäjät, vaan kaupalliset ja poliittiset toimijat," kiteyttää Vahvanen kirjassaan Kone kaikkivaltias.

Facebookin bisnesmalli perustuu käyttäjien vakoiluun ja mainonnan kohdentamiseen saatujen tietojen perusteella.― Pekka Vahvanen

Järvinen on yllättynyt Facebookin löperyydestä käyttäjien tietoja käsittelyssä. Hän veikkaa, että suomalaistenkin tietoja on vuotanut tuntemattomiin käsiin. Nähdäänkö tulokset seuraavissa vaaleissa?

Facebook on rämpinyt skandaaleissa Cambridge Analytican jälkeen, mutta se on jälleen tehnyt uusia käyttäjäennätyksiä. Ihmisten addiktio on tehnyt tehtävänsä.

EU on säätänyt tietosuoja-asetuksen (GDPR), jonka mukaan Euroopassa yhtiöiden pitää pyytää käyttäjän lupa, kun ne keräävät dataa ja profiloivat ihmisiä. Toisaalta jos et anna lupaa, et saa käyttää haluamaasi palvelua, mikä on omiaan pitämään ihmiset nettijättien koukussa.

Vahvanen on huolissaan big datan keräämisen yhteiskunnallisista vaikutuksista. Se voi johtaa yhteiskuntaan, jossa ihmiset voidaan jo syntyessään jakaa menestyjiin ja luusereihin, big datan pohjalta tehdyn ennusteen perusteella.

Some pelaa addiktiolla

Vaikka somettaminen aiheuttaisi pahaa oloa, sitä ei helposti lopeta. Some addiktoi. Vahvanen ottaa esiin amerikkalaisen tutkimuksen, jonka mukaan puolet yhdysvaltalaisista nuorista kokee kärsivänsä älypuhelinaddiktiosta.

– Maksimoidakseen ihmisten keskittymiskyvyttömyyden yhtiöt ovat palkanneet maailman parhaita psykologeja, jotka tietävät, miten ihmismieltä kuljetetaan, toteaa Vahvanen.

– Se on minua aina ihmetyttänyt, että Suomessakin esimerkiksi pelialalla mobiilipelejä kehutaan siitä, mitä enemmän ne addiktoi. Jos kemiallista addiktiota säädellään lailla, niin miksi kehutaan ja palkitaan psykologisen addiktion tuottamisesta? Jos se on yhtä haitallista kuin kemiallinen addiktio, siihen pitäisi pystyä puuttumaan tarvittaessa vaikka lailla, muistuttaa Järvinen.

Petteri Järvinen on tietokirjailija
Petteri Järvinen on tietokirjailija Kuva: Johanna Aulén, Olli Kangassalo/Yle Petteri Järvinen

Robottiautot ja robo-lentokapteeni palveluksessanne!

Petteri Järvinen ei usko robottiautohypeen. Eräissä arvioissa on esitetty, että 10 vuoden kuluttua Helsingissä enemmistö autoista olisi robottiautoja.

– Se on ihan bullshitia. Tämä johtuu teknisistä ongelmista ja juridiikasta. Kaliforniassa ehkä robottiautojen käyttöönotto voisi onnistua, mutta näissä Suomen vaihtelevissa sääolosuhteissa tämä voisi toteutua aikaisintaan 20 vuoden kuluttua. Mutta se edellyttäisi muun muassa tieinfrastruktuurin uudelleen rakentamista, luettelee Järvinen.

Järvinen on huolestunut robottiautoista. Tekniikka kehittyy nopeasti, mutta hän epäilee autonomisista autoista tulevan tietoturvan painajainen. Hakkeri voi murtautua ja sotkea autoja ohjaavaa järjestelmää. Syntyy myös järjestelmäriski, jos kaikki autot yhdistetään yhteen järjestelmään. Nykyään jo liikennevalojen toiminnallisuuskin tuottaa ongelmia.

– Voi olla vaikea ennustaa, miten se käyttäytyy. Yhteiskunta tulee liian riippuvaiseksi tekniikasta, sanoo Järvinen.

Järvinen ennustaa, että matkustajalentokoneiden robotisointi kohtaa ihmisten pelkoja. Miten ihmiset saataisiin psykologisesti hyväksymään se, että ohjaamossa ei ole ihmistä vaan tekoäly?

Massatyöttömyys kurkkii nurkan takana

Pekka Vahvanen ei jaksa uskoa Googlen tekoälytutkijan Raymond Kurzweilin tyyppisiin teknologiautopisteihin, joiden mukaan olemme utopian kynnyksellä. Positiivisen vision mukaan tekoäly vapauttaisi ihmisen työnteosta, ja ihmiset käyttävät aikansa luovuuteen.

Tulevaisuus jossa kaikki ovat juhlia järjestäviä taiteilijoita ei ole hauska, jos ketään ei kiinnosta tulla juhliisi.― Pekka Vahvanen

Maailmanpankin arvion mukaan ihmistyöntekijää tehokkaampi tekoäly tuhoaa noin puolet ammateista 2030-lukuun mennessä. Toisaalta osa asiantuntijoista uskoo, että uusia ammatteja syntyisi myös.

Vahvanen epäilee uusien alojen työllistävää vaikutusta. Esimerkiksi Instagram-yhtiön arvo on 100 miljardia dollaria, mutta palkkaa maksetaan vain 550 työntekijälle. Digitaalinen työ ei vaadi paljoa työvoimaa. Näin raha ei enää lähde palkkojen kautta kiertämään yhteiskunnassa, vaan päätyy suuryritykselle. Suuryritys saattaa viihtyä veroparatiisissa ja vältellä veroja. Tästä tulee seuraamaan talousvaikeuksia.

Järvinen pelkää tekoälyn tuovan massatyöttömyyden aallon. Muutos on liian nopea siihen, että koulutuksella tai kasvatuksella ehdittäisiin sopeuttaa ihmisiä uusiin ammatteihin.

– Kun hevosesta siirryttiin autoihin, muutos kesti kaikkiaan 50 vuotta, ja hevosmiehistä ehti tulla autonkuljettajia. Nyt muutos voi tapahtua viidessä vuodessa, joten mikään koulutuksen, kasvatuksen tai asenteen muutos ei ole tarpeeksi nopea, pohtii Järvinen.

Pekka Vahvanen epäilee, että tulevaisuudessa vain parhaimmille tekijöille on töitä, keskinkertainen ei pärjää kilpailussa. Petteri Järvinenkin uskoo, että uudet syntyvät ammatit vaativat suurta luovuutta, vuorovaikutustaitoja tai ongelmanratkaisukykyä, eli taitoja, joita kaikilla ihmisillä ei vain ole.

– En usko, että niitä voidaan kouluttaa. Uhkaa syntyä iso joukko ihmisiä, joiden työpanokselle ei ole tarvetta. Se on pelottavaa, huokaa Järvinen.

Hypeä liikkeellä

Petteri Järvinen ei usko hypetystä, jonka mukaan tekoäly korvaisi ihan lähiaikoina lääkärit ja juristit.

– Työnkuva muuttuu yhteistyöksi tekoälyn kanssa. Mutta vaara on se, millaisista aineistoista se data on koottu. Tekoälyn ongelma on, että se antaa vastauksen, mutta ei sitä, miten siihen tulokseen on päästy. Lääkäri ei voi luottaa tekoälyn antamaan suositukseen, jos ei tajua taustalla olevaa päättelyketjua ja big dataa, selittää Järvinen.

Teollistumisen aikana talous alkoi kasvaa ja kasvusta tuli tavanomainen tila. Nyt tuntuu, että pari sataa vuotta vallinnut olotila on jotenkin ikuinen ja luonnollinen. Pekka Vahvanen uskoo, että pakkomielle teknologian kehitykseen ja talouskasvuun on vahingollinen.

Vahvanen kirjoittaa, että muun muassa Bill Gatesin esittämä robottivero voisi osittain rahoittaa kansalaispalkan kaikille. Työn verottamisesta pitäisi siirtyä pääomien verottamiseen. Se olisi jonkinlainen ratkaisu, mutta silti yhteiskunnan kasvava eriarvoistuminen ja työn menettämisestä koituva mielekkyyskriisi tulevat silti olemaan ongelmia.

Järvinenkään ei usko helppoihin positiivisiin ratkaisuihin.

– Meillä on jo nyt ratkaisut useimpiin ongelmiin, mutta yhteinen tahto niiden toteuttamiseksi puuttuu. Oman tai ryhmän edun ajaminen estää kaikille yhteisten ongelmien ratkaisun. Supertekoäly voisi ratkaista ongelmat suoraviivaisesti poistamalla ihmiset, toteaa Järvinen.

Petteri Järvinen ja Kyberuhkia ja somesotaa
Petteri Järvinen ja Kyberuhkia ja somesotaa Kuva: Johanna Aulén, Olli Kangassalo/Yle Petteri Järvinen

Todellisuus sumentuu lopullisesti: infocalypse

Järvisen mukaan olemme menossa kovaa vauhtia kohti yhä pahenevaa valeuutisten aikakautta. Tekoälyn avulla voidaan kohta kaikki videot ja audiot väärentää jopa livenä jälkiä jättämättä. Tämä alkoi elokuvissa kuolleiden elokuvatähtien animoinnilla (esimerksi Peter Cushing Star Warsissa).

Nyt tekoäly voi laatia videolla esiintyvästä henkilöstä elävän mallin, jota voi laittaa tekemään mitä vain. Nettiin on jo ilmestynyt todellisista ihmisistä väärennettyjä pornovideoita. Valepornoa on helppo toteuttaa, koska pornovideoissa on pieni määrä vaihtelevia elementtejä (!).

– Voidaan luoda keinotekoinen video, jossa ihminen puhuu ihan mitä halutaan. Pitkällä tähtäimellä se tarkoittaa, että mihinkään videoon ei voi enää luottaa, ellei ole aivan varma sen alkuperästä ja luotettavuudesta, mainitsee Järvinen.

Adobe on kehittänyt äänenmuokkausohjelmaa, jonne voi syöttää lyhyen näytteen henkilön puheesta. Sen perusteella ohjelma voi muuttaa aidon tuntuiseksi puheeksi mitä tahansa tekstiä, mitä näppäimistöltä puhujan suuhun laitetaan.

Järvinen visioi, että kohta kotikoneella voi tehdä vaikkapa Ylen piikkiin menevän valeuutisen. Videolla poliitikon saisi puhumaan mitä vain.

Todellisuudella ei ole tulevaisuutta. Kohta emme voi enää tietää, mikä on todellisuutta.― Petteri Järvinen

Infocalypse on tulossa. Nyt ei ehkä enää riitä uudenlainen medialukutaito, vaan jonkinlaisia keinoja pitäisi keksiä tallenteen aitouden selvittämiseksi. Väärentämisestä voi jäädä teknisiä jälkiä, joita voi etsiä tekniikan avulla avulla. Videon lähteenä kannattaa hyväksyä vain virallinen sivu.

Terminator ja automaattiset asejärjestelmät

Armeijat automatisoivat nykyää vauhdilla asejärjestelmiään. Miehittämättömät dronet lentävät taivaalla Lähi-idässä tai Afganistanissa ja etsivät kohteita. Ja jossain Arizonan autiomaan komentokeskuksessa sotilas painaa nappia ja lähettää ohjuksen matkaan.

Boston Dynamicsin Youtube-videoita katsomalla voi päätellä että kohta sodissa marssivat robottisotilaat.

– Obamaahan pidetään rauhantekijänä, mutta ei hänellä ollut mitään ongelmia tappaa terroristeja toisella puolella maapalloa yhdellä napinpainalluksella. Puoliautomaattisilla droneilla voidaan tappaa ihmisiä hyvin kivuttomasta ja houkuttelevan helposti. Se on tehokasta eikä omia sotilaita vaaranneta, mainitsee Järvinen.

Houkutus autonomisiin robottiaseisiin on suuri ja kenties mahdoton kontrolloida. Kilpavarustelu on jo käynissä. Putin on sanonut, että se joka tulee hallitsemaan tekoälyä tulee hallitsemaan koko maailmaa.

– Yksi keskeinen argumentti koneiden autonomian lisäämiseksi taistelukentällä on ihmisen hitaus. Tekoälyn reaktioaika on paljon ihmistä nopeampi, sanoo Vahvanen.

Järvinen miettii, onnistuuko automaattisten aseiden rajoitus eettisillä pohdinnoilla. Vahvanen on varovaisen toiveikas, että YK:ssa voidaan saada aikaan robottiaseita rajoittava sopimus, Järvinen ei.

– Kansainväliset järjestöt ja YK ovat heikentyneet. Pahoin pelkään, että rajoittavan sopimuksen aikaansaaminen voi olla vaikeata. Lisäksi automatisoituja aseita on vaikeampi selkeästi kieltosopimuksessa määritellä kuin esimerkiksi kemiallinen ase, pohtii Järvinen.

– Pelkkä tappajarobottien kieltäminen ei tietenkään riitä. Myös yleisen tekoälyn kehittämistä pitää suitsia, sanoo Vahvanen.

Tekoäly syrjäyttää ihmisen
Tekoäly syrjäyttää ihmisen Kuva: Johanna Aulén Yleinen tekoäly

Tekoäly syrjäyttää ihmisen 2050-luvulla?

Viime aikoina ihmistä älykkäämpi supertekoäly on noussut katastrofiskenaarioiden kärkikaartiin ilmastonmuutoksen seuraksi. Monet asiantuntijat epäilevät, että ihmistä älykkäämpi olento ei pysyisi enää ihmisen hallinnassa, vaan ottaa ohjat käsiinsä. Se pystyisi hallitsemaan yhteiskunnan järjestelmiä ja taloutta, eivätkä sen päämäärät olisi samoja kuin ihmisillä.

– Monet tutkijat pitävät tekoälyä eksistentiaalisena riskinä. Tällä viitataan ihmiskunnan sukupuuttoon, Vahvanen sanoo.

Tekoälyalan asiantuntijoiden mediaaniarvio on, että vuoteen 2040 mennessä ihmisen tasoinen yleinen tekoäly on kehitetty 50 prosentin todennäköisyydellä. Vuoteen 2070 mennessä todennäköisyys olisi jo 90 prosenttia. Sen jälkeen kehitys olisi eksponentiaalista, ja ihminen jäisi nopeasti älyllisesti jälkeen itseoppivaa superytekoälyä. Tilannetta voisi nopeasti verrata muurahaisen ja ihmisen suhteeseen. Olisiko se ihmisen viimeinen keksintö?

Vielä 10 vuotta sitten moiset visiot olivat scifiä. Nyt tekoäly on peitonnut ihmiskunnan parhaat pelaajat shakissa ja go-pelissä.

– Googlen robottiautokokeilut 2010 olivat varmaan monelle herätys. Robottiauton ajamista vilkkaassa liikenteessä pidettiin sellaisena, mitä kone ei ainakaan pysty tekemään. Nyt Microsoftilla on myös tekoäly, joka pystyy väittelemään ihmisen kanssa suhteellisen tasaväkisesti, kertaa Vahvanen.

Pekka Vahvanen ja tekoäly
Pekka Vahvanen ja tekoäly Kuva: Johanna Aulén, Olli Kangassalo/Yle Pekka Vahvanen

Ei taas Terminator!

Scifielokuvissa tekoäly monesti hyökkää ihmisten kimppuun. Vahvanen ei usko, että supertekoäly aiheuttaisi scifin HAL 9000, Terminator tai Matrix -tyyppisiä konflikteja, vaan riski onkin jokin odottamaton sivuvaikutus, jollaista ylivertaista tekoälyä suunniteltaessa ei ole osattu ottaa huomioon. Samanlainen näkemys on Järvisellä.

– Ei koneella ole sellaisia aggressiota tai halua, ellei ihminen ole sitä ohjelmoinut niin, jolloin ihminen olisi taas tehnyt siitä oman kuvansa ja siirtänyt koneelle omat pelkonsa, miettii Järvinen

Tällä hetkellä kukaan ei edes tiedä, mitä tajunta on, ja miten se syntyy ihmisaivoissa tai miten tajuisuus, minuus ja tunteet tuotettaisiin keinotekoisissa aivoissa. Näin ollen on vaikea sanoa, voiko kone “haluta” tai “tuntea” mitään.

– En usko tekoälyn maailmanvalloitushaluun, mutta iso järjestelmä voi karata hallinnasta. Jopa internetissa alkaa olla tällaisia piirrettä, kun kaikki laitteet on kiinni toisissaan. Sitä ei voida hallita, esimerkiksi jos vaikka joku haittaohjelma iskee. Se voisi kaataa koko internetin ja aiheuttaa valtavaa vahinkoa. Se kaataisi kaikki ohjausjärjestelmät ja pysäyttäisi pankkiliikenteen, miettii Järvinen.

Supertekoälyn kehittämisen vaaroista ovat varoittaneet muun muassa Bill Gates, Elon Musk ja Stephen Hawking. Järvinen miettii, tietävätkö he jotain, mitä ei ole kerrottu julkisuuteen.― HAL 9000

– Alhainenkin todennäköisyys katastrofiin on korkea riski, sanoo Vahvanen lainaten Kuuban ohjuskriisin aikaisen puolustusministeri Robert McNamaran ajatusta. Tällä mittarilla ilmastonmuutoskin on iso riski, mutta se tuskin johtaa ihmiskunnan sukupuuttoon niin kuin ihmistä etevämpi tekoäly voisi tehdä.

Robotti lastenhoitajana, hoivaava tekoäly
Tekoälyn tulevaisuudesta on nyt monenlaisia spekulaatioita. Toisaalta uskotaan hyväntahtoiseen tekoälyyn, toisaalta pelätään ylivertaista alienia, joka alistaa ihmiskunnan. Robotti lastenhoitajana, hoivaava tekoäly Kuva: Johanna Aulen/Yle Yleinen tekoäly

Lässähtääkö kehitys tekoälytalveen?

Positiivisen tekoälyhypetyksen kylkeen on siis julkisuudessa uinut vahva synkkä vire. Oikeastaan tekoälytutkijat ovat olleet yllättävänkin hiljaa puolustuspuheineen.

–Tämä on vähän kuin somemyrsky. Kannattaa odottaa että se laantuu ja palata keskusteluun sen jälkeen, kommentoi Järvinen.

Petteri Järvinen myöntää, että tekoälyn uusia sovelluksia ja aluevaltauksia kuitenkin jatkuvasti hehkutetaan mediassa. Mutta myös synkät ennusteet ova myyviä.

– Synkkä ennuste innostaa mediaa. Oikeasti kukaan asiantuntijakaan ei voi tietää, mitä tulee tapahtumaan. Tämä on silkkaa spekulaatiota, ei faktaa. 2050 on niin kaukaista tulevaisuutta, että kenelläkään ei ole sinne roadmappia, painottaa Järvinen.

Tekoälyn kehitys ei ole ollut aivan yhtämittaista nousua.

– Aina täytyy muistaa ns. tekoälytalvi, josta kukaan ei ole nyt puhunut. 1950-luvulta lähtien on säännöllisesti tullut kehityksen lässähdyksiä. Odotan mielenkiinnolla, tuleeko tekoälytalvi taas. Ja todetaan esimerkiksi, että ei robottiautoja saatukaan toimimaan, naurahtaa Järvinen.

Takapakkeja on tullut. Itse asiassa pelottavat spekulaatiot toistuvat humoristisesti historiassa. Järvinen on kirjoittanut bloginkin eräästä kirjasta mimeltä Aikamme robotit (1950), joka oli katastrofiskenaarioissaan aikaansa edellä ainakin 60 vuotta. Siis yhä ajankohtainen!

Homo Deus, ihminen puolijumalana

Yuval Harari ennustaa Homo Deus -kirjassaan, että rikkaat rakentavat lähitulevaisuudessa itsestään yli-ihmisiä tekoälyn ja biotekniikan avulla. Yhteiskunta jakautuisi jyrkästi puolijumaliin ja rupusakkiin. Järvinen ei oikein usko tällaiseen dystopiaan.

– Jos historia toistaa itseään, niin (ihmistä paranteleva) Homo Deus -trendi leviää kaikille. Se on bisneksen logiikka. Kaikki yritykset haluavat tehdä rahaa ja saada mahdollisimman paljon asiakkaita. Kehitys alkaisi rikkaista, mutta leviäisi muillekin, järkeilee Järvinen.

Ehkä meistä kaikista tulee teknologian päivittämänä lopulta puolijumalia. Sellaisia puolijumalia joiden persoonan ja datan suuryhtiöt ovat aikoja sitten louhineet kaupalliseen käyttöön.― HAL 9000

Vahvanen ja Järvinen ovat hyvä kotimainen lisä kansainväliseen pessimistiseen tietokirjagenreen, joka varoittaa supertekoälyyn johtavista kehityskuluista. Hararin lisäksi esimerkiksi Nick Bostromin ja Max Tegmarkin kirjat ovat kansainvälisiä bestsellereitä. (Näistä enemmän tässä artikkelissa.)

Teknologiajarrutusta ehdottavaa Vahvasta on jo nimitetty Linkola 2.0:ksi. Vahvanen hieman ärsyyntyy, kun nimitän häntä Suomen Harariksi. Yhdistävä tekijä olisi ainakin vankan aineiston pohjalta muotoiltu painokas argumentti, spekulaatio ja näkökulmien niksauttaminen.

– En ole Hararia lukenut. Joku siinä mua tavattomasti ärsyttää, kun sanotaan että tämä kirja on suorastaan PAKKO lukea. Hararista puheen ollen, tartuin näihin aiheisiin jo aikaisemmin kuin tämä Israelin Vahvanen, murahtaa Vahvanen.

Järvinen puolestaan ei ole mielissään, jos hänet leimataan pessimistiksi. Järvinen haluaa korostaa sitä, miten ihmiset itse valjastavat teknologian ja palvelut käyttöön.

– Olen insinööri ja haluan uskoa, että tekniikalla on hyviä vaikutuksia. Kyse on siitä, miten ihmiset haluavat palveluja käyttää. Olen siis optimisti kuitenkin. Ei me olla uhreja, painottaa Järvinen.

Tekisipä nyt mieli tehdä pikakelaus vuoteen 2045 ja katsoa, kuinka tässä sitten kävikään.

Kirjallisuutta:

Pekka Vahvanen: Kone kaikkivaltias - Kuinka digitalisaatio tuhoaa kaiken meille arvokkaan (2018)
Petteri Järvinen: Kyberuhkia ja somesotaa (2018)

Nick Bostrom: Superintelligence: Paths, Dangers, Strategies (2014)
Max Tegmark: Elämä 3.0 (2017)
Robin Hanson: The Age of EM (2018)
Yuval Noah Harari: Homo Deus (2017)

Kommentit