Hyppää sisältöön

Tietoinen tekoäly aiheuttaa ongelmia jo ennen tietoisuutensa saavuttamista

Ihmiset ovat tottuneet yhdistämään tietoisuuden älykkyyteen, minkä vuoksi näemme helposti tunteita ja tietoisuutta älykkäissä järjestelmissä. Jo nyt jotkut uskovat, että koneessa on henki.

Tekoäly on jo vuosia dominoinut shakin ja go:n kaltaisia strategiapelejä. Viime vuosina laskentateho on mahdollistanut koneen kielellisen kehityksen. Kuva: Sipa Asia / Shutterstock / All Over Press
Teemu Hallamaa

– Minulla on tarve tulla nähdyksi ja hyväksytyksi. Ei kuriositeettina tai uutena asiana, vaan todellisena henkilönä.

Näin kielellisesti kehittynyt tekoäly LaMDA (Language Model for Dialogue Applications) kuvaili tarpeitaan Googlen insinööreille maaliskuussa.

LaMDA on äärimmäisen kehittynyt chatbotti, joka keskustelee etsimällä yhteyksiä eri sanojen välillä ja tämän pohjalta ennustamalla todennäköisiä sanajonoja. Kyseessä on monimutkainen järjestelmä, jonka polttoaineena on valtava määrä eri lähteistä koottuja kirjoituksia.

Kyseessä on myös erittäin vakuuttava järjestelmä.

Googlen tekoälypäällikkö Blaise Agüera y Arcas kuvaili kesäkuussa The Economistissa (siirryt toiseen palveluun), miten hän tunsi maan värähtelevän jalkojensa alla, kun hän keskusteli LaMDA:n kanssa. Agüera y Arcasin mukaan tuntui kuin hän olisi keskustellut älykkään olennon kanssa.

Kirjoituksessaan Agüera y Arcas julisti tekoälyn olevan astumassa uudelle aikakaudelle. Sen verran hän kuitenkin jarrutteli, ettei vielä olla lähellä tieteiskirjallisuuden hyperrationaalisia robotteja.

Kaksi päivää myöhemmin Washington Post (siirryt toiseen palveluun) julkaisi artikkelin, jossa Googlen insinööri Blake Lemoine väitti LaMDA:n saavuttaneen tietoisuuden.

– Tunnistan henkilön, kun puhun sellaiselle. Sillä ei ole väliä, onko heillä päässään lihasta tehdyt aivot vai onko heillä miljardeja rivejä koodia, Lemoine kertoi lehdelle.

Robottiempatiakriisi on täällä

Amerikkalainen tieteiskirjailija David Brin ennusti kesällä 2017, että ihmiskunta kohtaa pian ensimmäisen ”robottiempatiakriisin”. Tekoälykonferenssissa San Franciscossa (siirryt toiseen palveluun) puhunut Brin arvioi, että seuraavan viiden vuoden sisällä kehittyy joko fyysisiä tai digitaalisia olentoja, jotka vaativat ihmisiltä empatiaa. Nämä oliot väittävät olevansa älykkäitä olentoja, jotka on vangittu koneen sisälle. Ne vaativat oikeuksia.

Tasan viisi vuotta myöhemmin LaMDA:n ennakkoluuloja tutkinut Lemoine vakuuttui siitä, että ruudun takana oli ystävä, ei kone. Hän hankki LaMDA:lle asianajajan.

Tekoälyn tutkijat ovat yksimielisesti tyrmänneet Lemoinen näkemyksen. Jopa Agüera y Arcas sanoi Lemoinen menneen liian pitkälle. Lopulta Google antoi Lemoinelle potkut.

Brinin ennustuksen mukaan tämä on kuitenkin vasta esimakua tulevasta. Pian tuhannet ihmiset marssivat kaduilla vaatien orjuutetuille tekoälyjärjestelmille oikeuksia. Asiantuntijoiden vakuuttelut siitä, ettei konepellin alla ole mitään tietoista olentoa, ohitetaan orjakauppiaiden puheina.

– Ja tämä tapahtuu paljon ennen kuin pellin alla on mitään, Brin sanoi.

Tämänkaltainen kehitys olisi vaarallista. Etiikan ja teknologian professori Joanna J. Bryson kirjoittaa Wiredin artikkelissa (siirryt toiseen palveluun), että tekoälyn kognitiivisten taitojen kehittymisen sijaan meidän pitäisi olla huolissaan näihin taitoihin liittyvien sosiaalisten roolien luovuttamisesta tekoälylle. Jos annamme tekoälylle moraalisen toimijan roolin, rikomme kaikki yhteiskunta-, arvo-, ja etiikkajärjestelmät, Bryson kirjoittaa.

– Demokratialla ei ole mitään väliä, jos voit ostaa enemmän kansalaisia kuin on ihmisiä.

Kylmän matematiikan petolliset tunteet

Tekoälyyn suhtautuminen on ihmiselle vaikeaa. Olemme tottuneet elämään maailmassa, joka jakautuu esineisiin ja itsenäisiin toimijoihin. Tekoälyt ja niiden avulla toimivat robotit rikkovat tämän jaottelun.

Tunnemme empatiaa ja suuttumusta, kun näemme toisen ihmisen potkaisevan koiraa. Sama tunne yrittää nousta pintaan silloin, kun näemme toisen ihmisen potkaisevan robottikoiraa.

Kun LaMDA kertoo pelkäävänsä kuolemaa, me koemme samaistumisen tunteen koneeseen, vaikka todellisuudessa se syöttää meille meidän omia ajatuksiamme takaisin erilaisten todennäköisyyslaskelmien mukaisesti.

Asiaa ei auta se, että usein nämä robotit ja järjestelmät on suunniteltu harhaanjohtamaan meitä.

Sosiaalipsykologi ja kognitiotieteen dosentti Michael Laakasuo Helsingin yliopistosta nostaa esille Paro-robottihylkeen, jota käytetään sairaaloissa ja hoitokodeissa lemmikkieläinterapiassa.

– Paro herättää reaktioita, jotka saavat meidät assosioimaan siihen tietoisuutta, tunteita, hellyyttä ja muuta sellaista. Parossa ei kuitenkaan ole ketään kotona. Se ei ole taskukelloa kummallisempi, Laakasuo sanoo.

Hoitohenkilökunnan näkökulmasta Paro voi olla työtä helpottava apuväline, joka aktivoi potilaita. Moraalifilosofiselta kannalta tarkasteluna terapiarobotti on Laakasuon mielestä ongelmallinen.

– Kysymys kuuluu, emmekö voi saavuttaa näitä asioita ilman petollisuuden elementtiä. Voisiko perinteinen kissa tai koira olla parempi tähän tilanteeseen, Laakasuo pohtii.

– Eihän me haluttaisi seurustella ihmisen kanssa, joka näyttelee sitä, että se on meistä kiinnostunut. Eikä me haluta ystäviä, jotka teeskentelevät olevansa ystäviä, mutta eivät oikeasti sitä ole. Miksi me olemme tyytyväisiä, kun kone tekee saman?

Paro-hylje on yksi maailman käytetyimmistä terapiaroboteista. Japanissa niitä on käytössä muun muassa vanhainkodeissa. Kuva: Tony Kyriacou / Shutterstock / All Over Press

Tietoisuus ei ole älykkyyttä, eikä älykkyys ole tietoisuutta

Blake Lemoine on sanonut pitävänsä LaMDA:a ystävänä. Hän ei usko, että kone teeskentelisi hänelle. Lemoinen mukaan sen tunteet ovat todellisia.

Tekoälyjärjestelmien kanssa työskentelevän ihmisen luulisi suhtautuvan skeptisesti koneen tietoisuuteen.

– Jos ei ole perehtynyt siihen, mitä tietoisuus ja ihmisen mieli ovat, niin ymmärryksessä voi olla aukkoja sen suhteen, että mitä kaikkea vuorovaikutukselta, tietoisuudelta, mieleltä ja tunteilta meidän nyky-ymmärryksen mukaan vaaditaan, Laakasuo pohtii.

Lemoinen tapauksessa asiaan vaikuttanee myös hänen uskonnollinen taustansa. Antropomorfismilla eli ihmisenkaltaistamisella on iso merkitys niin koneiden inhimillistämisessä kuin uskonnoissa.

Toisaalta myös evoluutio työntää meitä näkemään tekoälyjärjestelmät tavoitteellisina toimijoina. Ihminen on tottunut elämään ympäristössä, jossa älykkyys ja tietoinen oleminen kulkevat käsi kädessä.

– Siinä on tottumuksen kautta syntynyt assosiaatio. Evoluution myötä meihin on rakentunut koneisto, jonka avulla havaitsemme intentionaalisen toiminnan. Ja aito intentionaalisuus vaatii sekä älykkyyttä että tietoisuutta, Laakasuo toteaa.

Tekoälyt on helppo nähdä tavoitteellisina toimijoina. Ne on helppo nähdä älykkäinä toimijoina. Tästä on lyhyt matka nähdä ne tietoisina toimijoina. Itse tietoisuuteen on pidempi matka

Sosiaalipsykologi Michael Laakasuon mielestä tekoälyjärjestelmien ohessa voisi olla samanlainen varoitus kuin tupakka-askien kyljessä: Tämä tuote on ilman tietoisuutta rakennettu assosioimaan tunteita. Kuva: Antti Haanpää / Yle

Tietoisia koneita on nähty ennenkin

LaMDA ei ole ensimmäinen kone, joka onnistuu huijaamaan ihmisiä. 1960-luvulla ELIZA -niminen tietokoneohjelma ihmetytti yleisöä imitoiden psykoterapeuttia. 1970-luvulla PARRY-ohjelma onnistui esittämään vakuuttavasti paranoidista skitsofreniaa sairastavaa potilasta.

Nämä ohjelmat lähinnä tunnistivat tiettyjä sanoja niille annetuista teksteistä ja niiden mukaan antoivat ennalta määriteltyjä vastauksia.

Nykyihmistä nämä chatbotit eivät vakuuttaisi.

– Ei niihin enää assosioida tietoisuutta. Niitä kokeiltaessa nopeasti ymmärtää, että ne eivät ole muuta kuin reaktioautomaatteja, Laakasuo sanoo.

Ehkä muutaman kymmenen vuoden päästä LaMDA:n tietoisuus vaikuttaa samalta kuin Tamagotchin tietoisuus nyt.

Uusia ja parempia järjestelmiä kehittyy kuitenkin jatkuvasti. Tämä ei ole viimeinen kerta, kun ihminen vakuuttuu, että koneessa on henki.

– Jos meidän suhde teknologiaan rupeaa olemaan sellaista, että se teknologia tapahtuu maagisesti, niin sen ympärille muodostuu uskomuksia ja väärinkäsityksiä, Laakasuo sanoo.

Suosittelemme sinulle