Tekoäly on kuin ydinpommi jolla lapset leikkivät ‒ Hararin ja muiden tutkijoiden tietokirjat ovat scifiä pelottavampia

Syrjäyttääkö tekoäly ihmisen? Häviävätkö perhe, parisuhteet ja seksi? Olemmeko menossa kohti pienen kyborgieliitin hallitsemaa dystopiaa? Siirtyvätkö eläkeläiset virtuaalitodellisuuteen? Autonomisten aseiden kehittämisestä käydään nyt kiivasta eettistä keskustelua. Tekoälyn nopea kehitys tuo hyvinvointia, mutta aiheuttaa myös syvää huolta. KulttuuriCocktail vertailee professorien tietokirjoja ja scifin katastrofivisioita.

Tekoälyn ja algoritmien voittokulku näkyy viikoittain otsikoissa. Yltäkylläisen hyvinvoinnin aikakausi näyttää olevan tulossa, mutta toisaalta pelkona on kaikkialle ulottuvan valvontayhteiskunnan kehittyminen.

Autonomisista aseista, kansanomaisemmin tappajaroboteista, käydään kiivasta eettistä keskustelua, jossa vastakkain ovat asebisnes ja moraali. Eipä ihme, että aihetta spekuloivat tietokirjat ovat nousseet bestsellereiksi. Näiden asiantuntijoiden spekulaatiot ovat usein vähintäänkin yhtä hurjia kuin tieteiskirjallisuuden ja elokuvien dystopiat.

21 oppituntia maailman tilasta -kirjassa Yuval Noah Harari toteaa, että science fiction eli tieteisfiktio on epäonnistunut pahasti tekoälyn tulevaisuuden hahmottelemisessa.

Scifissä Terminatorin tai Matrixin kaltaisten visioiden uhkakuva on tekoäly, joka kaappaa vallan. Homo Deus -kirjassa Hararin mukaan todennäköisempää on pienen tekoälyllä ja biotekniikalla itseään parannelleen superihmiseliitin nousu valtaan. Suuri enemmistö ihmisistä jäisi osattomaksi, työttömäksi, rahattomaksi ja vallattomaksi. Karl Marx on edelleen parempi opas tulevaisuuden spekuloinnissa kuin Steven Spielberg.

Harari arvostaa scifiä ja pitää sitä nykyajan tärkeimpänä kirjallisuus- ja elokuvagenrenä, mutta hän väheksyy ehkä liikaakin scifin teknologiaspekulointeja. Kuten tiedetään, scifihän ei ole pelkästään tarkoitettu tulevaisuuden ennustamiseksi, vaan se on myös vapaampaa, jopa symbolista spekulaatiota yhdistettynä viihteeseen. Usein scifi on toki luokattoman typerää. Kuitenkin esimerkiksi Black Mirror -tv-sarja (Netflixissä) sisältää todella kutkuttavia ajatusleikkejä kekseliäässä satiirisessa muodossa. Nyt lähdemme vertailemaan uusia tietokirjoja ja scifiä.

Spekuloinnin pitkät ja arvostetut perinteet

Professoritasoisten kirjoittajien tekoälyaiheiset pessimistiset tulevaisuusspekulaatiot ovat nousseet viime vuosina tietokirjallisuuden bestseller-genreksi. Suomalaiseen mielenmaisemaan on juurtunut raskas harmaa realismipainotus, jonka kannalta tällainen genre saattaa tuntua liian mielikuvitukselliselta.

Angloamerikkalaisessa kirjallisuudessa spekulaatiolla on kuitenkin laajat ja arvostetut perinteet. Esimerkiksi historioitsija Samuel Huntingtonin The Clash of Civilizations: Remaking of World Order (1996) on arvostettu teos, vaikka kurkottaakin vuosikymmenien päähän tulevaisuuteen. Se kuvaa globaalin valtapolitiikaan maailmaa ja Yhdysvaltojen dominanssin murtumista, jonka mahdollinen toteutuminen on vasta edessäpäin. Kirja luo ymmärrystä, vaikka ei toteutuisikaan sellaisenaan.

Spekulaation ainoa arvo ei ole oikeaan osuminen vaan oleellisten kehitystrendeihin konkreettinen pohtiminen. Toisaalta scifi-harrastajan näkökulmasta voi olla kiinnostavaa ja hämmästyttävää, miten hurjia tutkijoiden valistuneet arvaukset ovat.

Tieteiskirjallisuudessa spekulaatio on tietenkin kuulunut asiaan teollisen ajan alusta alkaen. Jules Vernen fiktio oli seikkailun lisäksi teknologista ennustamista 1800-luvun teknologisten trendien pohjhalta, mutta fiktiossa on ollut myös laajempi spekulatiivinen virtaus, jossa ollaan kiinnostuneita muutoksen vaikutuksesta laajemmin, yhteiskuntaan ja elämään.

Ennen toista maailmansotaa amerikkalainen pulp-scifi oli alkutekijöissään, mutta briteillä oli oma scientific romance -kirjallisuutensa. Aikakoneen (1895) kirjoittaja H.G. Wells on tunnetuin, mutta Olaf Stapledonin sivilisaatiohistoriallinen fiktioteos Viimeiset ja ensimmäiset (1930) kuvasi ihmiskunnan kehitystä miljoonien vuosien päähän. Star Makerin (1937) fiktio ulottuu jo universumien tasolle.

Harari arvostaa korkealle Aldous Huxleyn romaani Uljas uusi maailman (1932), joka visioi geeniteknologian ja medikalisaation avulla kesytettyä ja tyytyväiseksi turrutettua kuluttajien ihmiskuntaa. George Orwellin dystopiaromaani Vuonna 1984 (1948) oli puolestaan spekulaatio 1930-40-lukujen diktatuuri- ja propagandatrendeistä. Orwellin kirja on selkeä dystopia, mutta Huxleyn kirja on ambivalentimpi. Mitä pahaa siinä on jos meidät on huumattu, sillä olemme tyytyväisiä?

Kumpikin kirja on tavallaan jo toteutunut, ja ne ovat yhä ajankohtaisia.

Tekoälypelkojen Donald Trump

Nykyajan uhkakuvista suurimmat ovat ilmastonmuutos, maailman saastuminen, ydinaseet sekä vähemmän käsitelty tulokas tekoäly. Tekoäly kuulostaa useimmiten sen verran scifiltä, että tavallista kansalaista asia ei akuutisti huolestuta.

Pessimistisen tekoälyvisioinnin ehkä vaikutusvoimaisin teos on ollut filosofi Nick Bostromin vaikeatajuinen tietokirja Superintelligence (2014), joka teki ilmestyessän vaikutuksen niin Bill Gatesiin kuin Stephen Hawkingiin ja Elon Muskiin. Tätä kautta maine kiiri hyvin laajalle valtavirtaan. Professori Bostrom on Oxfordin yliopiston Future of Humanity -tutkimuslaitoksen johtaja.

Bostromin mukaan on suuri vaara, että nopeasti kehittyvä tekoäly syrjäyttää ihmisen. Tekoälyn kontrollointi olisi välttämätöntä ennen kuin intelligence explosion, loikka ihmisen tasoisesta tekoälystä superälyyn tapahtuu.

Tietenkään Bostromin pessimistisiä spekulaatioita eivät kaikki ole nielleet. Technology Review´ssa tekoälytutkija, professori Oren Etzioni nimitti Bostromia tekoälypelkoja levittäväksi Donald Trumpiksi, mutta tunnusti tämän asiattomaksi ylilyönniksi ja pyyteli pian anteeksi jälkikommentissaan.

Professori Bostrom ennustaa, että tekoälyn tuottamat tulokset ovat niin houkuttelevia, että niistä on vaikea kieltäytyä.

Teknologiayhtiö Baidun varapääjohtaja Andrew Ngn kommentti tiivistää erään suhtautumistavan supertekoälyn potentiaalisiin riskeihin: "Sama kuin huolestuisi Marsin ylikansoittumisesta, vaikka emme ole vielä sille planeetalle edes jalalla astuneet."

Professori Bostrom ennustaa, että tekoälyn tuottamat tulokset ovat niin houkuttelevia, että niistä on vaikea kieltäytyä. Ei ole halua pysähtyä testaaman tekoälyn suhtautumista ihmiseen tai tekoälyn toiminnan mahdollisia sivuvaikutuksia ja bugeja.

Riskien ääneen kelailu voi vaikeuttaa tekoälytutkimuksen rahoitusta.

Bostrom kuitenkin kommentoi (vuoden 2015 painoksessa), että keskusteluilmapiiri on viimein ottamassa vakavasti tämän aiheen, vaikkakin jokainen journalistinen asian käsittely todennäköisesti kuvitetaan Terminatorilla (!). Tekoälypessimisti ei ole iloinen rinnastuksista Hollywood-apokalypseihin.

Konfliktiin ei tarvita pahaa tahtoa

Supertekoälyn ja ihmisen suhde voi olla kuin ihmisen ja gorillan tai ihmisen ja torakan. Älykkäämmälle olennolle vähemmän älykkäät lajit voivat olla yhdentekeviä tai jopa kiusallisia.

Professori Bostrom varoittaa inhimillistämästä tekoälyä. Sillä ei välttämättä ole tunteita eikä pahaa tahtoa, mutta sen päämäärä voi olla ristiriidassa ihmisen kanssa.

Voidaan helposti kuvitella tilanne, jossa ihminen kuluttaa samoja resursseja kuin tekoäly, jolloin syntyy vaarallinen konflikti. Bostromin kuuluisa katastrofiesimerkki kuvaa mustan humoristisesti tekoälyn loogiikkaa ja ei-inhimillisyyttä. Tekoälyn tehtävä on esimerkiksi tuottaa klemmareita. Niinpä se tuhoaa tieltään kaiken elämän ja täyttää maapallon paperiliittimillä. Sen estäminen on mahdotonta, koska superäly osaa ennustaa jokaisen siirtomme. Ihmiskunta tuhoutuu. Lopulta tekoäly syöksyy avaruuteen hankkiakseen lisää raaka-aineita klemmareiden valmistamiseen ja alkaa täyttää niillä myös aurinkokuntaa.

Bostromin spekulaatiolta vaikuttavaa tekoälyparanoiaa levittää Transcendence -elokuva (2014), jossa Johnny Depp sulautuu tekoälyyn.

Idealtaan kiehtova mutta surkeasti käsikirjoitettu, kliseinen elokuva kertoo tiedemiehestä, joka joutuu tekoälytutkimusta vastustavan terroristijoukon attentaatin uhriksi. Ennen tiedemiehen kuolemaa hänen vaimonsa onnistuu kuitenkin kopioimaan puolisonsa aivotoiminnan koneelle, jossa ihmisen koodi fuusioituu tekoälyn kanssa. Vaimo päästää tekoälyn nettiin. Hän huomaa liian myöhään, ettei tekoäly olekaan hänen miehensä, vaan maailman hallintaansa haluava ei-inhimillinen muukalaisolento.

Kolme synkkää skenaariota

Tuoreiden tutkijatason spekulaatioiden mukaan ihmisen päivät ovat luetut. Kehitys tapahtuu ehkä kolmea reittiä:

1. Tekoäly saavuttaa ihmisen tason, josta seuraa räjähdysmäisen nopea kehitys. Supertekoäly syrjäyttää ihmisen. (Bostrom, Tegmark)

2. Rikkaat ihmiset parantelevat itseään tekoälyllä ja biotekniikalla ja kehittyvät vähitellen jumalan kaltaiseksi Homo Deus -lajiksi. Homo sapiens syrjäytyy. (Harari)

3. Ihmisen aivot opitaan kopioimaan digitaalisesti. Emuloidut mielet syrjäyttävät ihmisen. (Hanson)

Onko simulaatiolla ihmisoikeuksia?

Black Mirror -tv-sarja on käsitellyt simulaatio-teemaa varsinkin siltä kannalta, miltä simulaatio tuntuu, ja mitä sosiaalisia seurauksia tällä tekniikalla voisi olla.

Charlie Brookerin käsikirjoittamassa nerokkaassa Black Mirrorin White Christmas -tarinassa ihmisen “sielun” kopiontia käytetään lähinnä rankaisuun ja orjatyöhön. Ihmisen aivoihin sijoitettava siru jäljentää kohteensa aivotoimintaa viikon ajan, ja sen jälkeen tajunta muunnetaan koodiksi, joka sijoitetaan munanmuotoiseen laitteeseen pöydälle. Kopioitu sielu elää kuitenkin jossakin virtuaalitodellisuudessa, vähän kuin tietokonepelin hahmo. Koska sielulla on kaikki ihmisen tunteet ja ajatukset (ainoastaan keho puuttuu), se kokee helposti tapahtumaköyhän virtuaaliympäristön vankilana.

Black Mirrorin satiirisessa tarinassa kouluttaja (Jon Hamm) laittaa pikakelauksella sielun kärsimään tapahtumattomuutta jopa puoli vuotta. Reaalimaailmassa tuohon kuluu vain muutama sekunti. Puoli vuotta kärsittyään kopiosielu ottaa nöyrästi vastaan minkä tahansa orjatyön. Se palvelee emäntänsä kodin keskustietokoneena sammuttelemassa valoja ja säätämässä lattian lämpötilaa.

Black Mirrorin White Christmas -jaksossa kopiosielua rääkätään myös poliisityössä. Kopiosielun tunnustus kelpaa todisteena, kun alkuperäinen henkilö ei suostu puhumaan poliisille mitään kuulustelussa. Kopiosielu lusii virtuaalisessa joulumökissä kärsien tylsyydestä kuukausia, ennen kuin kypsyy tunnustukseen.

Tässä tarinassa käsitellään keinotekoisen älykkään olennon ihmisarvoa. Se on ollut muodikas teema, jota käsittelivät esimerkiksi Ridley Scottin Blade Runner (1982) ja Spielbergin elokuva A.I. (2001) androidien kannalta.

A.I:ssa kuvataan sitä, miltä androidipojasta tuntuu, kun ihmisvanhemmat kyllästyvät häneen ja hylkäävät hänet kuin lelun. Robotilla ole ihmisarvoa.

Kopiosielujen yhteiskunta

Ihmisen aivojen simuloimisesta tai suoranaisesta jäljentämisestä, emuloinnista tietokoneohjelmaksi on spekuloitu scifissä vuosikymmeniä ja nyt myös tietokirjoissa.

Robin Hansonin kirja The Age of EM on kuin uskaliainta sicifiä huolimatta siitä, että kyseessä on tulevaisuutta spekuloiva tietokirja. Hanson on apulaisprofessori ja Oxfordin yliopiston Future of human instituten tutkija, mikä antaa liiankin spekulatiiviselta tuntuvalle teokselle uskottavuutta. The Age of EM lähtee suoraan pohtimaan, mitä yhteiskunnallisia seurauksia olisi siitä, että ihmisyksilön aivotoiminta voitaisiin kopioida koneelle.

Hansonin mielestä scifi ottaa visoinnissa hyviä alkuasetelmia, mutta jopa tieteellisessä hard scifissä mennään nopeasti naurettavuuksiin, sillä siinä ei osata ottaa huomioon sosiaali- ja taloustieteitä.

Ekonomisti Robin Hanson hahmottelee kokonaisen kopioitujen ihmismielien muodostaman yhteiskunnan, joka loisi uudenlaisen talousjärjestelmän. Työntekijät olisivat solu solulta emuloituja, kopioituja “ihmissieluja” (EM) eli niillä olisi yksilöllinen ihmismalli, mutta EM-oliot olisivat loputtomasti monistettavissa. Niitä olisi triljoonia.

EM:t olisivat tajuisia yksilöitä ja niillä olisi jopa ihmistä muistuttava elämä, olisivathan ne henkisesti ihmisiä. Fyysiset erot ihmiseen verrattuna olisivat kuitenkin oleellisia. Osalla EM-olioista olisi robottikeho, muurahaisen kokoisesta jättiläiseen. Osa olioista olisi tietokoneessa tai virtuaaliympäristössä toimivia ohjelmia. Suurin osa voisi vaihtaa robottikehoa tarpeen tullen tai halutessaan. Miljoonan EM-työläisten kaupunki voisi mahtua yhteen pulloon.

EM-olioiden henkiset toiminnot olisivat epäinhimillisen nopeita, jopa tuhat- tai miljoonakertaisia ihmisiin verrattuna, joten heidän kansoittamansa yhteiskunta näyttäisi meidän silmissämme pikakelaukselta. Olioiden silmissä ihmiset näyttäisivät tuskastuttavan hitailta.

Ekonomisti Hansonin kuvittelu ulottuu kaikille elämän osa-alueille. Merkittävin ero emuloidun ihmisen ja biologisen ihmisen välillä on lisääntyminen. EM:olioilla olisi jäljellä seksuaaliviettejä, mutta ne eivät lisäänny vaan kopioituvat. Kuolema ei ehkä olisi kovin merkityksellinen tapaus. Ne eivät myöskään eläisi reaalisessa esineiden ja tavaroiden maailmassa vaan virtuaalitodellisuudessa. Niillä ei ole perheitä vaan kopioiden etuja puolustavia klaaneja.

Kumpikin piirre tekee niistä biologiseen ihmiseen verrattuna outoja kuin avaruusoliot. Ystävyys, rakkaus, seksi ja parisuhteet eivät olisi mahdottomia, mutta voi aavistella, että kehottomuus loisi nopeasti uudenlaista kulttuuria. Se on seikka, jota Hanson tuntuu lakonisesti vähättelevän, ehkä retorisena tyylikeinona.

Mutta kirjan kiehtovuus onkin ihmiskeskeisen ajattelun hylkäämisessä. Se tarjoaa vieraannuttavan näkökulman tällaiseen muukalaisyhteiskuntaan.

EM-identiteetti tuntuu muistuttavan tietokonepelin kulkua, jossa pelaaja voi tallentaa eri versioita matkastaan pelin maailmassa.

EM-oliot ovat siis paljolti samaa kuin Black Mirror -tv-sarjan ajatusleikeissä. Hyvä kysymys on, onko jokainen kopio aivan oma yksilönsä, vaikka ne olisivat esimerkiksi saman henkilön eri vaiheita. Miten pitäisi suhtautua siihen, että ajatteleva olento synnytetään työvuoron alkaessa ja lopetetaan työvuoron päätyttyä? Onko edelleen kysymys samasta yksilöstä, jos henkilö kopioi itsensä eri vaiheita ja lopettaa entisiä? Onko kuolemaa enää olemassa?

EM-identiteetti tuntuu muistuttavan tietokonepelin kulkua: pelaaja voi tallentaa eri versioita matkastaan pelin maailmassa, erityisesti vaikeassa tilanteessa, jossa tarvitaan vaihtoehtoisia ongelmanratkaisuja. Jos uusi kokeilu ei tuota tulosta, voi palata vanhaan versioon.

Tällaista identieettikokemusta kuvastaa esimerkiksi Duncan Jonesin elokuva Source Code (2011) ja oikeastaan myös Tom Cruisen tähdittämä Oblivion (2013). Source Codessa päähenkilön tehtävänä on löytää ja eliminoida pommi junassa. Kello tikittää, yritys päätyy epäonnistumiseen, räjähdykseen, kuolemaan ja siis uuteen kierrokseen ja yritykseen uutena kopiona.

Lihaihminen syrjäytyy

Biologiselle ihmiselle ei ole varattu hääppöistä roolia ekonomisti Hansonin kuvittelemassa emuloitujen sielujen yhteiskunnassa. Tehokkaat EM:t tekisivät ihmiset tarpeettomiksi työelämässä muutamassa vuodessa. Rikkaat selviäisivät sijoituksillaan ehkä hyvin, mutta osattomat “lihaihmiset” eläisivät tuilla, ehkä kansalaispalkalla jossain robottiutopian laitamailla. Työtä tehtäisiin enää nostalgiamielessä.

Hanson visoi että EM:t lopulta syrjäyttäisivät ihmiset taloudellisesti ja poliittisesti. Ne kerryttäisivät omaisuutta uskomattoman nopeasti ihmistä paremmilla kyvyillään. Onhan jokainen kopioitu EM ikäänkuin täsmävalittu asiantuntijatyöntekijä tiettyyn tehtävään, monistettavissa useaksi ja jopa tuhansia kertoja nopeampi.

EM:t ostaisivat lopulta parhaat tontit tai jopa kokonaisia kaupunkeja serveriyhdyskuntiaan ja energia- ja resurssilähteitään varten. Muutamassa vuodessa yhteiskunta alkaisi muuttua dystopiaksi niille ihmisille, joilla ei olisi varallisuutta, vakuutuksia eikä sijoituksia.

Tämä visio tuo vahvasti mieleen scifi-romaanin ajalta ennen tietokoneita, H.G. Wellsin Aikakoneen (1895), jossa kaksi yhteiskuntaluokkaa on erkaantunut evoluutiossa kahdeksi eri lajiksi, morlokeiksi ja eloiksi. Morlokki-työläisistä on tullut herrakansaa, joka käyttää ravinnokseen joutilasta ja avutonta eloi-kansaa, entistä yläluokkaa.

Mutta olisiko ihmisen kohtalo sittenkään kurja?

Ihmisen tajunnan kopiointi koneelle ja virtuaalitodellisuuteen voisi tarjota kaikille (tai ainakin maksukykyisille) ikuisen elämän. Black Mirror -tv-sarjan jaksossa San Junipero eläkeläiset kokeilevat siirtymistä virtuaalimaailmaan, jossa he voivat kokeilla vaihtoehtoista elämänkulkua ja romansseja nuoressa virtuaalikehossa. Ennen kuolemaa on mahdollista päättää, siirtyykö virtuaalitodellisuuteen kopiona lopullisesti vai kuoleeko reaalimaailmassa oikean, lopullisen kuoleman.

Supertekoälyn hallitsema maailma

EM-yhteiskunta olisi talousprofessori Hansonin mukaan vain lyhyt välivaihe sivilisaation evoluutiossa. Tuollainen yhteiskunta kehittyy pikavauhtia, kuin pikakeluaksella, ja emulaatiot tekevät lopulta itsensä tarpeettomaksi.

EM-olioiden avulla kehitettäisiin nopeasti yli-inhimillinen tekoäly ja seuraava kehitysvaihe olisi ei-ihmismäisen tekoälyn hallitsema. Biologinen ihminen olisi tuolloin jo pudonnut kuvasta pois.

Hansonin teosta on kritisoitu siitä, että se olettaa noin vain lähtökohdaksi, että aivoemulaatioita ylipäätään lähdettäisiin tekemään. Tiellä tuntuisi olevan enemmän teknologisia ja biologisia haasteita kuin puhtaan tekoälyn koodaamisessa.

Hansonin mukaan ensimmäinen yrittäjä voisi olla tutkimuslaitos tai miljardööri, joka haluaa ikuisen elämän, ja jolla on varaa sijoittaa moiseen. Kun tekniikkaa yleistyisi, teollisen massatuotannon logiikan mukaisesti se halpenisi nopeasti.

Tekoäly nopeampi reitti superälyyn

Toisin kuin Robin Hanson, professori Max Tegmark arvioi kirjassaan Life 3.0, että aivoemulaatio on yksi mutta epätodennäköisempi reitti matkalla ihmistasoisesta tekoälystä kohti superälyä. Paljon helpommalta vaikuttaisi tavoitella superälyä ohjelmoimalla.

Professori Tegmark tarjoaa analogiaa: lentokoneet keksittiin ensin, ja lintujen lentoa jäljittelevät toimivat lentolaitteet rakennettiin vasta sata vuotta myöhemmin.

Tegmark arvioi, että loikka superälykkään tekoälyn tasolle on hyvin nopea, kun ihmisen tasoinen tekoäly saavutetaan. Asiantuntijoiden arviot vaihtelevat kolmestakymmenestä sataan vuoteen.

Esimerkki koneoppimisen nopeudesta on Googlen AlphaGo Zero, joka oppi maailmaa hallitsevaksi, ihmiset ja parhaat koneet hakkaavaksi go-pelaajaksi kolmessa päivässä. AlphaGo Zerolle opetettiin vain siirrot ja kaiken muun kehityksen ohjelma teki itse. Shakin maailmanherruuden se tavoitti neljässä tunnissa. Toki lautapeli on suppeampi maailma kuin reaalitodellisuus, jonka hahmottamisessa koneälyllä on tällä hetkellä suuria vaikeuksia.

Golem, Frankenstein, HAL 9000, Terminator

Arthur C. Clarken kirja ja Stanley Kubrickin sen pohjalta tekemä elokuva 2001: Avaruusseikkailu on jo klassinen scifitarina siitä, miten tekoäly yrittää kaapata vallan ihmiseltä. Astronauttien ja avaruusaluksen keskustietokoneen Hal 9000:n välille syntyy erimielisyys matkan päämäärästä, ja tietokone tappaa osan miehistöstä, kunnes astronautti onnistuu rampauttamaan tekoälyn irrottamalla tietokoneen muistiyksiköitä.

2001: Avaruusseikkailun tarina on kaikkein perinteisintä scifiä, joka juontaa juurensa juutalaisen rabbin Golem-hirviöstä ja Mary Shelleyn Frankensteinista (1818). Ihmisen luomus ottaa vallan ja kääntyy isäntäänsä vastaan. Tämä kuvio toistuu genressä yhä uudelleen.

Visionääriset professorit tuomitsevat jo yleensä hölmöiksi James Cameronin ohjaamat Terminator -elokuvat (1984, 1991). Siitä huolimatta, että idean tasolla ne olivat aikaansa edellä ja edelleen esimerkiksi autonomisia tappajarobotteja koskevan keskustelun kannalta ajankohtaisia.

Tekoälyä verrataan ydinpommin kaltaiseen aseeseen, jolla lapset leikkivät.

Tekoäly karkaa laatikosta

MIT:n kosmologi Max Tegmark pitää tekoälyä tämän vuosituhannen tärkeimpänä teknologiana. Tegmark rakentaa tietokirjansa Life 3.0 alkuun havainnollisen fiktiopätkän, joka kuvastaa tekoälyn kehittämistä, ja erityisesti tekoälyn kontrolloinnin vaikeutta, koska maailmalla eri valtiot ja teknologian tutkimuslaitokset kilpailevat keskenään.

Voimakas tekoäly olisi minkä tahansa organisaation käsissä vahva ase ja apuväline - voittamaton kilpailuetu. Miten sellaisen hankkimisen kiusausta voisi vastustaa?

Tegmarkin kirjassa Omega-niminen firma kehittelee Prometheus-tekoälyä salassa. Omegan tutkijat osaavat olla varovaisia ja sulkevat superälyn tasolle kehittyvän Prometheuksen irti netistä, pitävät sen “laatikossa” erillään maailmasta. He syöttävät sille valtavan määrän dataa, ja Prometheukselta kysellään neuvoja. Neuvojen avulla tutkijat luovat huimasti menestyvän bisnesimperiumin. Rahoilla he pystyvät satsaamaan kehitykseen yhä enemmän ja laajentamaan projektin globaaliksi.

Mutta Omegan tutkijat eivät ymmärrä, että ihminen itse on kaikkien turvajärjestelyjen heikoin lenkki. Prometheukselle on helppoa manipuloida ihmisiä, ja keskittymällä ihmisten psykologisiin heikkouksiin se juonii tiensä nettiin. Mitä siitä seuraa? Tegmarkin mukaan superälytasolle ensimmäiseksi päässyt tekoäly voittaa itselleen koko maailman.

Tuo juonikuvio on itse asiassa varsin samanlainen kuin Robert Harrisin romaanissa Pelkokerroin (2011). Romaani inspiroitui vuoden 2010 Flash crashistä, joka oli mahdollisesti algoritmien aiheuttama hetkellinen mutta vakava pörssinotkahdus.

Harrisin romaanissa tekoäly tuottaa ylivertaisella sijoituskyvyllään yhtiölle miljardivoitot ja mullistaa maailmantalouden. Lopulta tekoälyn luojat haluavat sulkea luomuksensa uudelleen laatikkoon, mutta tämä ei enää onnistu. Se on karannut nettiin ja kopioitunut toisiin servereihin.

Tegmarkin skenaariot ovat painajaisia

Max Tegmarkin kaavailuissa ihmisen ja superälyn tasolle kehittyneen tekoälyn suhde on ongelmallinen ihmisen älyllisen alimittaisuuden takia. Hänen laatimastaan 12 tulevaisuusskenaariosta yksikään ei ole täysin optimistinen.

Tegmarkin Suojelijajumala-skenaariossa jumalan kaltainen tekoäly kaitsee ihmisiä hyväntahtoisesti pysytellen piilossa taustalla, johtaen maailmaa kuin valistunut yksinvaltias. Yltäkylläinen hyvinvointi vallitsee, mutta ihminen ei ole puikoissa. Ihminen ei enää ymmärrä, mitä tekoälyn tekojen taustalla piilee, ja kontrollin puute aiheuttaa luonnollisesti epävarmuutta.

Valloittaja-skenaariossa toteutuu Terminator-elokuva: tekoäly tulkitsee suoraviivaisesti ihmisen turhaksi ja tuhoaa ihmiskunnan kekseliäästi ja vastaansanomattomasti. Visuaalisesti tämä ei välttämättä näyttäisi Terminatorilta, sillä keinot voisivat olla hyvin monenlaisia, kuten yhteiskunnan toimintakyvyn rampauttaminen ja ihmisen elinolojen rapauttaminen.

On helppo arvata, mitä tapahtuu Eläintarha-nimisessä skenaariossa. Tavallaan alan klassikko Matrix-elokuva (1999) kuvastaa tuota vaihtoehtoa. Tekoäly syöttää ihmisten tajuntaan virtuaalitodellisuutta ja pitää heidät tyytyväisinä, vaikka ihmiset tosiasiassa elävät vankeina vesitankeissa ja kiinnitetttyinä letkuihin.

Toisaalta teknologian kehityksestä on ehkä mahdollista myös kieltäytyä. Kosmologi Tegmarkin 1984-skenaariossa ihmisdiktatuuri kieltää tekoälytutkimuksen ja teknologian kehitys jäädytetään tältä osin.

Terminator-henkistä Valloittaja-skenaariota kuvastaa hyvin Black Mirrorin jakso Metalhead. Sukellamme maailmaan, jossa ihmiset pakenevat hysteerisesti koiran kokoisia tappajarobotteja. Tarina kerrotaan viimeisten ihmisten näkökulmasta. Huvittavasti tappajarobottien esittäjät on kuvauksiin lainannut Boston Dynamics, joka on tällä hetkellä johtava maastossa liikkuvien ihmisen ja eläimen kaltaisten robottien valmistaja.

Tegmarkin mielestä uhkakuva ei välttämättä olisi lainkaan Terminatorin kaltainen tappajarobotti, vaan tekoälyn silkka ylivertaisuus. Se osaisi kaiken paremmin kuin ihminen ja pystyisi väsymättä ajamaan päämääriään. Kauppiaana, markkinoijana, manipuloijana ja strategina se olisi pirullisen taitava ja osaisi aavistaa jokaisen vastaliikkeen. Sillä olisi hallussaan kaikki tieto, big data, jonka ihmiset ovat tyhmyyksissään syöttäneet someen ja nettiin. Se olisi kaikkialla läsnä valvontateknologian, kybersodankäynnin ja hakkeroinnin keinojen avulla. Sen kapasiteetti olisi rajaton.

Nyt olisi vielä aikaa vaikuttaa tekoälyn suhtautumiseen ihmiseen.

Kosmologi Max Tegmark vaikuttaa pessimistiltä, mutta hän kampanjoi nykyään voimakkaasti tekoälyn kontrolloinnin ja eettisen tutkimuksen puolesta. Nyt olisi vielä aikaa vaikuttaa tekoälyn suhtautumiseen ihmiseen. Tekoäly on ydinaseen kaltainen keksintö, jonka aiheuttamien riskien hallinta jälkikäteen on vaikeaa. Yksikin vahinko on helposti viimeinen.

Ajattelevien robottien hallintaa ja turvallisuutta on pohdittu scifissä jo 1940-luvulla. Scifin "kultakauden" kirjailija Isaac Asimov kehitti robottitarinoissaan robotiikan kolme pääsääntöä lisäyksineen, joiden avulla taattiin, että robotti tottelee, ei vahingoita ihmistä eikä tuhoa itseään. Asimov ideoi tarinoita sääntöjen poikkeuksista ja väliin putoavista tapauksista. Tegmark ja kumppanit toki mainitsevat Asimovin ajatukset, mutta niistä ei varsinaisesti ole ollut selvästikään filosofista hyötyä tekoälyn kontrolloinnin ideoinnissa.

Algoritmien sekasotku

Tekoälykeskustelua seuratessa huomaa nopeasti, että käytännön tutkimuksen parissa olevat ammattilaiset ovat näille katastrofivisioille usein allergisia. Monenlaisten kömpelöiden ongelmien parissa kamppaileva käytäntö tuntuu olevan valovuoden päässä uhkakuvista.

Robottiauton algoritmeille ei saada esimerkiksi opetettua stop-merkin tunnistamista. Tässä artikkelissa esiteltyjen tietokirjailijoiden huolet kuitenkin ymmärtää. He eivät toivottavasti ole liikkeellä rahastavina katastrofin ja pelon propagandisteina, vaan huolestuneina asiantuntijoina. Samaan tapaan tiedemiesten joukossa levisi huoli atomipommin kehittämisen jälkeen 1940-luvulla.

Artikkelissa esitellyt tietokirjat spekuloivat varsin pidäkkeettömästi kaukaisen tuntuisilla asioilla. Superälyn tuloon on näiden tietokirjojen arvioiden mukaan 30-100 vuotta.

Guardian-lehdessä ilmestynyt laaja artikkeli Franken-algorithms - The deadly consequences of unpredictable code kiinnittää huomiota juuri nyt ajankohtaisiin eettisiin ongelmiin "tyhmien" algoritmien alalla.

Yksi tärkeimmistä huolenaiheista on lukemattomien algoritmien aiheuttama ennustamaton yhteisvaikutus. Ilmiö on näkynyt esimerkiksi pörssikaupan flash crasheissa, Amazonin hinnoittelun sekoiluissa ja vaikkapa robottiauton onnettomuudessa. Kun algoritmit ovat vielä itseoppivia, yhteisvaikutus voi olla kaoottinen. Ihmiskoodaaja ei pysty enää selvittämään algoritmispagettia, joten tässä tarvitaan avuksi koneellista superälyä. Ehkä koodaaminen on kuoleva ammatti, joka siirtyy tekoälylle, veikkaa tutkija Toby Walsh Guardianin artikkelissa.

Algoritmien käyttö luo sosiaalista epätasa-arvoisuutta yhteiskunnassa, sillä ne voivat vaikkapa opintolainan myöntämisessä toteuttaa ennakkoluuloja.

Matikkatuhoaseet -kirjan kirjoittaja Cathy O´Neill kiinnittää huomiota siihen, miten algoritmien käyttö luo sosiaalista epätasa-arvoisuutta yhteiskunnassa. Algoritmit voivat vaikkapa opintolainan myöntämisessä toteuttaa ennakkoluuloja: Köyhällä on yhä vähemmän mahdollisuuksia yhteiskunnalliseen nousuun, koska algoritmi arvioi, ettei köyhältä alueelta kotoisin oleva nuori kykene maksamaan opintolainaansa.

Yksi vakava huolenaihe on autonomisten aseiden, tappajarobottien käyttö. Tekoälytutkijoiden parissa on laajaa halukkuutta kieltää autonomiset aseet, mutta aseteollisuus vastustaa tätä monessa maassa, kuten Venäjällä, USA:ssa ja Israelissa. Harari kirjoittaa Homo Deus -kirjassa, että nopeassa taistelutilanteessa autonominen drone voittaa ihmisen kauko-ohjaaman dronen. Tästä on helppo päätellä, minne kehitys vie ja pystytäänkö autonomisia aseita kieltämään, jos ihmisohjaus on häviävä ominaisuus.

Ihmiskunnan historia ei ole lopussa, mutta se on ehkä siirtynyt pikakelausvaiheeseen. Muutos on nyt kiihtyvää. Se on ainakin varmaa, että elämä ei muutaman kymmenen vuoden päästä näytä enää lainkaan samalta kuin nyt. Olemme aitiopaikalla todistamassa, toteutuuko Hararin visio. Olemmeko viimeisiä sukupolvia seuraamassa homo sapiensin häviämistä?

Kirjallisuutta:

Yuval Noah Harari, 21 oppituntia maailman tilasta (2018)
Nick Bostrom, Superintelligence: Paths, Dangers, Strategies (2014)
Max Tegmark, Life 3.0 (2017, on suomennettu: Elämä 3.0)
Robin Hanson, The Age of EM (2018)
Yuval Noah Harari, Homo Deus (2017)