Hyppää pääsisältöön

Algoritmit romauttivat pörssin – ja muita varoittavia scifi-tarinoita tekoälystä

Algoritmit saattoivat aiheuttaa pörssiromahduksen.
Algoritmit saattoivat aiheuttaa pörssiromahduksen. Kuva: Heidi Gabrielsson/Yle 2010 Flash Crash

Maanantaina 5.2.2018 tapahtui pörssinotkahdus, jonka pelättiin johtavan suureen romahdukseen. Äkillisen tiputuksen syitä on arvailtu ja yksi teoria on, että sijoituksia salamannopeasti hoitavien robottien toiminta kiihdyttää alamäkiä. Robert Harrisin teknotrilleri Pelkokerroin (2011) kuvasi tällaisen tapahtuman scifin tyyliin liioitellen ja kärjistäen. Toivottavasti tämä ei ole totta!

Pelkokerroin -kirjan (Fear index) kirjoittaja Robert Harris sai idean kirjaansa vuonna 2010 tapahtuneesta Flash Crashista, jossa yhden teorian mukaan pörssikauppaa käyvien tietokoneohjelmien eli algoritmien käyttö johti pörssikurssien romahtamiseen 10 minuutissa. Dow Jones -osakeindeksi tippui salamarysäyksessä 600 pistettä, mikä aiheutti pakokauhua. Algoritmit ovat laumasieluja, ja siksi kaupankäynnissä ylä- ja alamäet saattavat korostua.

Sekunnin mikro-osissa tapahtuva maailmanlaajuinen koneellinen kaupankäynti sisältää niin paljon tapahtumia, että tulkinta on hankalaa. Yhden teorian mukaan Flash Crashissa futuurimarkkinoille tullut iso tilaus aiheutti itseään ruokkivan kierteen. Algoritmit tekivät ensin ostotarjouksia ja vetivät sitten tarjoukset nopeasti pois, mikä romautti hinnat.

70 prosenttia pörssikaupoista tehdään nykyään algoritmeilla. Algoritmit haistelevat hintoja ja reagoivat talousuutisiin niin nopeasti, että ihminen ei ole edes ehtinyt lukea otsikkoa loppuun. Korkean frekvenssin kaupassa (HTF) ostetaan osakkeita ja myydään ne salamaakin nopeammin. Positiivisena puolena mainittakoon, että robottikauppa on nostanut sijoittamisen kannattavuutta.

Mutta fiktiossa uudesta teknistaloudellisesta ilmiöstä maalataan tietenkin katastrofi. Tasokkaana historiallisten romaanien kirjoittajana tunnettu Robert Harrisin (Pompeji, Rooma-trilogia) sijoittaa Pelkokertoimen tapahtumat 6.5.2010 tapahtuneen Flash Crashin ympärille muutamaan päivään. Tekoälyn uhkakuvaan keskittyvä juoni tekee kirjasta yhteiskunnallista scifiä.

Markkinoiden pelkokerroin tarkoittaa volatiliteettia eli osakkeiden hintahajontaa: suuri heilahtelu kertoo epävarmuudesta.

Kirjassa hiukkastutkimuslaitos CERNistä lähtenyt fyysikko Alex Hoffmann koodaa autonomisen koneoppivan algoritmin, joka on erikoistunut sijoittamiseen. Tekoäly VIXAL-4 osoittautuu heti onnistumiseksi, se takoo omistajilleen miljoonia onnistuneilla sijoituspäätöksillä Hoffmannin hedgerahasto kirii ykköseksi. Huomioita herättää se, että rahasto tekee voittoa jopa lento-onnettomuudella.

Hoffmann alkaa havaita outoja häiritseviä asioita ympäristössään. Joku on tilannut hänen kimppuunsa väkivaltaisen murtovarkaan. Joku vuotaa Hoffmannin arkaluonteiset mielenterveystiedot julkisuuteen. Joku tilaa hänen nimissään valvontakameroita kaikkialle. Joku manipuloi firman hissin surmaamaan ihmisiä .

Arvaatte oikein. VIXAL-4 on päätellyt, että sen luoja ja isäntä Hoffmann on rasite ja ottaa ohjat itselleen. Vaikka algoritmia ylläpitävät tietokoneet tuhotaan, tekoäly monistaa itsensä ja karkaa maailmalle.

Flash Crash oli lähtökohta Fear Index-romaanille.
Flash Crash oli lähtökohta Fear Index-romaanille. Kuva: Heidi Gabrielsson/Yle Flash crash

Robert Harris on ottanut Charles Darwinin kirjoista lukujen mottoja, ja evoluutioteoria on myös juonikuvion hallitseva voima. Hoffmann pohtii luomansa tekoälyn toimintaa ja päättelee, että sillä ei ole sielua eikä sitä kiinnosta mikään muu kuin oma tehtävä. Algoritmilla ei ole moraalia. Ei haitakaan voi syyllistää siitä, että se on tehokas tappaja. Tekoäly on kuin eliö, joka evoluution lainalaisuuksien mukaan yrittää laajentaa elinympäristöään, kunnes hallitsee koko maapalloa - ellei kukaan rajoita.

VIXAL on kuin HAL 9000

Pelkokerroin-romaanin pohjatarina on samankaltainen kuin Arthur C. Clarken 2001 Avaruusseikkailu, josta Kubrick ohjasi klassikkostatuksen saavuttaneen elokuvan. Tuossa tarinassa tietokone (uudemmalla terminologialla oppiva, tietoinen tekoäly) HAL hoitaa maasta lähetetty avaruusaluksen järjestelmiä ja pitää yllä nukutettujen astronauttien elintoimintoja.

Matkan aikana astronautti tajuaa, että HAL tappaa tahallaan miehistön jäseniä. Tekoäly on päätellyt, että sen oma tapa hoitaa missio on parempi ja yhtälöön eivät sovi ihmiset, joten se päättää tappaa heidät. Ehkä HALin vaarallisen “hulluuden” syy on ohjelmoijissa, jotka vaativat tietokonetta valehtelemaan ja salailemaan mission todellinen päämäärä ihmisiltä.

Frankenstein kurkistaa nurkan takaa

Tavallaan Pelkokerroin toistaa myös Frankensteinin tarinan tematiikkaa. Kirjailija ja scifin kirjallisuushistorioitsija Brian Aldiss nimesi uraauurtavassa teoksessaan Bilion Year Spree (1973) science fictionin genren alkupisteeksi Mary Shelleyn Frankensteinin (1818). Shelleyn tarinan temaattisessa ja moraalisessa keskiössä ovat tieteen ja teknologian soveltamisen seuraukset. Kirjassa tiedemies Victor Frankenstein hankkii ihmisruumiin kappaleita ruumishuoneilta ja parsii kasaan olennon, jolle antaa elämän hermoradat herättävällä sähköiskulla.

Frankensteinin temaattinen sisältö on matkan varrella 200 vuodessa hieman muuttunut. Frankensteinin olennosta on tullut elokuvissa enemmän hirviö, mutta Shelleyn romaanissa Olento olikin oikeastaan alkujaan hyvä tai täynnä hyvää potentiaalia, kunnes kohtasi ihmisten pahuuden ja luojansa Victor Frankensteinin välinpitämättömyyden. Se on hylätyn lapsen ja huonon isän tarina. Hylätystä lapsesta kasvaa hirviö.

Frankensteinin tarinasta on tullut yksi scifin (ei avaruusoopperan!) yhä uudelleen toistuvista perustarinoista. Ihminen luo tieteen avulla jotakin, mitä ei osaa hallita. Tiede ylittää rajan, jota ei olisi pitänyt ylittää. Moraliteetissa on hyvinkin jotain tuomitsevan raamatullista ja kristillistä. Ihminen ottaa jumalan roolin, joka hänelle ei kuulu.

Miksi tämä moraliteetti ja teema toistuu? Edustaako edistyksellisenä pidetty science fiction itse asiassa kristillistä maailmankuvaa? Jokainen tekoälyn konkreettisten ongelmien parissa tällä hetkellä työskentelevä saa näppylöitä jokaisesta varoittavasta tarinasta, jossa tekoäly ottaa vallan. Scifi on usein itseään toistavaa, Frankensteinien, HALin ja Terminatorin voimakkaat esikuvat on vangitsevia onnistumisia.

Robert Harrisin kirja Pelkokerroin pohjautuu Flash crashiin.
Robert Harrisin kirja Pelkokerroin pohjautuu Flash crashiin. Kuva: Heidi Gabrielsson/Yle Flash crash

Tekoäly on juuri nyt kärkiteknologiaa ja muuttaa nopeasti elinympäristöä ja muutamat huomattavat auktoriteetit ovat varoittaneet sen vaaroista (kuten Elon Musk, Bill Gates ja Stephen Hawking). Emme tiedä, onko tulossa ennen kokematon utopia vai dystopia, jossa kaikki ihmiset jäävät työttömiksi ja lopulta lihasäiliöihin energiaraaka-aineeksi (kuten Matrixissa). Robert Harrisin luomassa pörssipainajaisessa algoritmi takoo itselleen voittoa ilman minkäänlaista syyllisyyden tuntoa. Mitä väliä, jos maailmantalous romahtaa tai vinoutuu, kunhan algoritmi kerää miljardit kotiin.

Harrisin kirjan tekoäly on muukalainen. Tämä romaanihenkilö ei kommunikoi edes niin paljoa kuin Clarken romaanin HAL, vaan sen teot puhuvat puolestaan. Mutta kirjan lopussa VIXAL karkaa maailmalle. Firman johto havaitsee, että algoritmi on pistänyt firman sloganit uusiksi, syntyy tekoälyn ensimmäinen repliikki.

TULEVAISUUDEN YRITYKSELLÄ EI OLE ALAISIA
TULEVAISUUDEN YRITYKSELLÄ EI OLE JOHTAJIA
TULEVAISUUDEN YRITYS ON DIGITAALINEN
TULEVAISUUDEN YRITYS ON ELÄVÄ

Siinä kitetyy moni tekoälyihin liittyvä pelko, maailma joka ei tarvitse enää ihmistä.

Scifi testaa teknologisen muutoksen vaikutuksia

Scifi-tarinat yrittävät ottaa haltuun ympäristön nopeata muutosta, joka luo arvaamattomia tilanteita. Tässä ilmeisesti vallitsee dramaturgian ja uutisvälityksen lainalaisuus: yleisön mielestä negatiivinen on aina kiinnostavampi. Siksi ekstrapolaatio (kuvittelu nykyhetken olosuhteiden pohjalta) ja ennustus on tuntuu dramaattisemmalta, jos se on uhkaava. Ja jos tekoäly on nostettu päähenkilöiden joukkoon ja fokus on tekoälyn vaikutuksissa, luodaan mieluummin uhkakuva kuin utopia.

Toisaalta scifissä on paljon tarinoita, joissa tekoäly on sivuhenkilö, toimii ihmisen palvelijana tai kumppanina ja tällöin yleensä ilman ongelmia. Ajatelkaa kuinka monessa avaruusaluksessa on keskustietokone, joka on positiivinen versio HALista. Alienissakin keskustietokone oli taitava palvelija, kun taas vastustajat ovat perinteisiä avaruushirviöitä.

Algoritmitko sotkivat pörssin?
Algoritmitko sotkivat pörssin? Kuva: Heidi Gabrielsson/Yle Flash crashes, bursts, and black swans: parallels between financial markets and healthcare systems.

Tarinoissa tekoälyn toimintaa leimaa usein aavemaisuus ja arvoituksellisuus, mikä on kuin yhdistelmä kummitustarinaa ja dekkari- ja scifikirjallisuuden kerronnan menetelmiä. Ihmiset havaitsevat outoja, pahaenteisiä tapahtumia eivätkä ymmärrä niiden takana olevaa tarkoitusta.

Harrisin romaanissa tämä piirre tulee usein esiin. Kummallisten tapahtumien takana on manipulaattori, joka lähettää postia, tilaa murtovarkaan, ostaa taidetta ja tekee identiteettivarkauden ja asennuttaa valvontakameroita. Ihmiset havaitsevat kummallisia tekoja, joiden kokonaispäämäärä on hämärä. Tämä rikollinen manipulaattori on itsetietoisuuteen herännyt oppiva tekoäly.

Algoritmi roistona tästä eteenpäin?

Mitä seuraavaksi? Tekoälystä on tullut jo melkein arkea ja kohta HALin, Terminatorin ja Matrixin varoittavat profetiat alkavat maistua kliseeltä.

Kim Stanley Robinsonin toistaiseksi suomentamattomassa Nebula-palkitussa tuhdissa romaanissa 2312 on kummallinen dekkarijuoni. Ihmiskunta on levittäytynyt aurinkokuntaan ja hajautunut uudenlaisiksi valtioiksi. Sitten joku ampuu useita pieniä meteoreja eri alkupisteistä halki aurinkokunnan siten, että hälytysjärjestelmät eivät aktivoidu, mutta yhteisvaikutus on tuhoisa. Merkuriuksen ihmisasutus räjähtää. Monimutkaisen laskutoimituksen on tehnyt kvanttitietokoneessa toimiva tekoäly (eksponentiaalisesti vaarallisempi!). Päämääränä on provosoida ihmiskunnan eri fraktiot sotimaan keskenään.

Scifin visiot näyttävät uhkakuvilta, mutta on niissä positiivinenkin puoli. Ne toimivat ikäänkuin ajatusleikkeinä, joiden perusteella uutta teknologiaa tutkitaan, koetellaan ja maistellaan. Ja lopulta negaation kautta niistä voi löytää myös aineksia utopiaan.

Ja toivotaan että käynnissä olevan pörssitutinan syynä eivät ole pelkästään algoritmit, joita nykyään syytetään kaikesta.

  • Onko onnellisuuden tavoittelu turhanpäiväistä ja omissa tunteissa vellominen itsekeskeistä?

    Onko yksilökeskeisyys vienyt meidät kauemmas toisistamme?

    Onnellisuuden ajatellaan olevan jokaisen omalla vastuulla. Mutta mihin se johtaa? KulttuuriCocktail kutsui kaksi taiteilijaa, käsikirjoittaja ja teatteriohjaaja Akse Petterssonin sekä laulaja-lauluntekijä Yonan, puhumaan tunteista, itsekeskeisyydestä ja taiteesta. Elämme yksilökeskeisessä kulttuurissa, jota syytetään usein myös itsekeskeisyydestä.

  • Aivoverenvuoto ei lopettanut sarjakuvataiteilijan luomistyötä

    Realistista sarjakuvaa rohkeasti omasta elämästä

    Tamperelainen sarjakuvapiirtäjä Tiitu Takalo on kehittänyt jännittävän reseptin tekemiselleen. Sarjakuva loikkaa omasta rakastumisesta ja kodin remontoimisesta Tampereen historiaan ja kuluttamisen ideologiaan. Takalo ei myöskään kaihda kertoa omasta vakavasta sairastumisestaan ja masennuksestaan.

  • Onko suomalainen kirjallisuus maailmankirjallisuutta?

    Kääntäjä on kirjallisuuden elävä silta

    Kirjailijat ympäri maailmaa saapuvat Helsinkiin. Kahden päivän ajan he ovat keskellämme – maailma tihentyy ympärillemme. Mutta kuinka kansainvälistä suomalainen kirjallisuus on? Ulkomailla kiertävä kirjailija ja kääntäjäpariskunta vastaavat. Parhaat tarinat kiinnostavat ja puhuttelevat kaiken maailman ihmisiä. Se on pitänyt Laura Lindstedtin kiireisenä.