Miten säilyttää äly älymaailmassa – miksi ihmisäly voittaa edelleen algoritmit on heuristiikkaan ja rajoitettuun rationalisuuteen keskittyneen saksalaispsykologi Gerd Gigerenzerin toinen suomennettu teos. Loistavan Riskitietoisuuden jälkeen sukelletaan ajankohtaisen tekoälyn maailmaan ja säikähdetään digialustojen vallasta.
Tekoäly ja ihminen ovat parhaimmillaan eri asioissa. Tekoäly ei kykene esimerkiksi ymmärtämään, miksi ulos kannattaa ottaa sateenvarjo (ulkona sataa eikä ole kiva jos kastuu). Hahmojentunnistuksessa ihminen on ylivoimainen, kissan nähnyt pikkulapsi oppii kerrasta tunnistamaan mikä on kissa, kun tekoäly vaatii tuhansia toistoja. Ja jos kuvasta pitäisi ratkaista mitä siinä tapahtuu, kompastuu tekoäly totaalisesti arkijärjen puutteeseen.
John Locke kertoi 1600-luvulla tarinaa Siamin kuninkaasta, joka ei uskonut Hollannin suurlähettilään kertomusta veden muuttumisesta kylminä päivinä niin kovaksi, että se kantaa norsun. Jos olit nähnyt jäätä, tiesit väitteen todeksi, mutta kertomus oli ristiriidassa Siamin kuninkaan kokemusten kanssa, ja hän syytti suurlähettilästä valehtelijaksi. Locke erotti toisistaan varmuuden (tiedon) ja todennäköisyyden (järkevyyden), Gigerenzer selittää eron avulla miksi uskomme netin typeryyksiä, miksei tekoäly älyä, ja miksi faktantarkistajat syyttävät toisia faktantarkastajia huijareiksi.
Asian toistaminen tekee siitä ihmisten mielessä uskottavan. Kun Putinin bottiverkko, poliitikko tai mainostaja tuuttaa somessa silmille höpöjuttuja, muuttuu satu ensin järkeväksi ja sitten tiedoksi. Kriittinen ajattelu on kriisissä, koska vain 40% Standfordin viimeisen vuoden opiskelijoista ja 60% professoreista osasi testissä arvioida oikein verkkosivuston luotettavuutta. Mikä on tilanne väestötasolla?
Yksityisyys vaarassa
Postikortin esittely sai ihmiset barrikadeille, koska kuka vaan saattoi lukea viestin. Enää yksityisyys ei kiinnosta ihmisiä, ja suurin osa ei jaksa miettiä mitä tietoa teknojäteille jakaa. Minäkään en jaksa foliohattuilla, koska se tekisi elämästä liian vaikeaa; ainoastaan ajan somet eri selaimella (kännykässä en käytä somesovelluksia) ja kiellän evästeet. Kirjaa lukiessa mietin, että pitäisi sittenkin foliohattuilla.
Gigerenzer kritisoi verkkopalveluiden lainsäädäntöä aiheellisesti. Kuluttajan eteen lyödään sivutolkulla epäselvää lakitekstiä, jotta äly-tv:n tai jääkaapin saa edes käynnistettyä, ja säikytellään ”emme voi taata turvallisuuttasi jos et hyväksy tätä kohtaa”. Lopputulemana GDPR täyttyy, ja lukuisat laitteet nauhoittavat kaiken mitä kokona tapahtuu. Pikaisella nettihaulla wifi löytyy nykyisin jopa induktioliesistä ja sängyistä!
Gigerenzer ehdottaa ratkaisuksi maksimissaan yhden sivun käyttöehtoja, joiden on korkeintaan 500 sanan mittaisia ja kieleltään ymmärrettäviä. Saksan kuluttajavirasto ajaa muutosta, mutta sitä luonnollisesti vastustetaan. Ajatus on hyvä, ja samaa pitäisi soveltaa aluksi vaikkapa vakuutus- ja sijoitusaloille, joissa asiakas myös vakuuttaa lukeneensa ja ymmärtäneensä satoja sivuja kapulakieltä.
Somejättien vaalimanipulaatioita ja niiden vaikutuksen suuruutta on spekuloitu pitkään. Gigerenzer ottaa varovaisen linjan ja osoittaa, että jo hienovarainen postausten painotus voi ratkaista vaalit. Päätökset tehdään tunteella ja niihin vaikuttamisessa some on tehokas työkalu.
Algoritmien liikesalaisuuksina pitäminen on toinen ongelma. Kun kuluttaja ei tiedä kuinka häntä pisteytetään, on mahdotonta kohdellaanko ihmisiä tasapuolisesti. Olen samaa mieltä kirjoittajan kanssa siitä, että kaikki yritysten käyttämien analyysien tulisi olla pääpiirteissään julkisia ihan jo niiden arvioimiseksi. Julkisuus ei tarkoittaisi kriteereillä pelaamista, vaan mahdollistaisi oman käytöksen muuttamisen toivotummaksi.
Sosiaalinen pisteytys ei innosta minua lainkaan. Pelkään, että joku ehdottaa massiivista seurantaa Kiinan tyyliin meillekin. Jos ajatus tuntuu mukavalta, koska ”eihän minulla ole mitään salattavaa”, niin kannattaa lukea tämä kirja.
Suuraineistot sekoittavat pään
Suuraineisto (big data) saa myös kritiikkiä. Ihmisten on välillä vaikea ymmärtää, ettei korrelaatio ole kausaliteetti, mutta miten ihmeessä korkeakoulun käyneet tutkijat eivät tajua tätä? Uutisotsikoissa väitetään milloin minkäkin aineen joko olevan terveellistä tai epäterveellistä, vaikka syy on puhtaasti satunnaisuudessa. Gigerenzerin tarina luottoluokitusfirmasta on kuvaava: ”huomasimme, että ihmiset jotka eivät maksa laskuja käyttävät tietokoneella tiettyä fonttia”.
Suuraineistojen käyttö on yksi syy sille, ettei lääketieteellisiä tutkimuksia kyetä toistamaan. Gigerenzer perää itsestäänselvyyttä: ensin pitää olla teoria ja vasta sitten tutkitaan antaako aineisto sille tukea. Tällä hetkellä toimitaan toisin päin: haetaan aineistoista korrelaatiota, oletetaan sen tarkoittavan kausaliteettia, ja yritetään vasta lopuksi keksiä teoria. Arvioilta 85% (!) lääketieteen tutkimuksista menee tällä hetkellä hukkaan puutteellisten metodien takia – koska niitä ei voida toistaa – ja tämän typeryyden hintalappu on vaatimaton 170 miljardia euroa.
Suuraineistoista on odotettu apua syövän vastaiseen taisteluun. Gigerenzer heittää kylmää vettä syöpälääkkeitä odottavien niskaan: lääkkeiden ja uusien hoitomuotojen vaikutus on pieni ja hinta kallis. Järkevämpää olisi panostaa ennaltaehkäisyyn, koska kolmannes syövistä johtuu elintavoista, tärkeimpinä tupakoinnista, ruokavaliosta ja ylipainosta.
Suuraineistoja käytetään tuhoisasti myös muilla aloilla. Sosiaalityössä on yritetty ennakoida syrjäytymisriskiä – tuloksetta. Netissä profiloidaan ihmisiä mainosten myymiseksi – tuloksetta (yllätyin, ettei edes tämä toimi kunnolla, vaikka dataa kerätään hurjasti). Muistutan itseäni vielä kerran: korrelaatio ei ole kausaliteetti.
Tekoälyä siellä missä se ei toimi
Tekoälyn osalta pari vuotta vanha kirja ei ole aivan ajan tasalla. Gigerenzer suhtautuu esimerkiksi autonomiseen ajoon skeptisesti, mutta nykytilan valossa kenties turhaan. Teslan FSD:llä on ajettu Amerikan halki rattiin koskematta, joten ollaan jo lähellä riittävän hyvää järjestelmää. Austinin robotaksitkin näyttävät toimivan.
Gigerenzerin perustelut eivät oikein vakuuta. Esimerkiksi ratikkaongelmalla pelottelu on jopa vähän lapsellista, koska ei tekoäly todellisessa tilanteessa pohdi tappaako kuljettajan vai sivullisen, tekoäly vain yrittää estää onnettomuuden. En ymmärrä miksi moni vaatii tekniikalta täydellisyyttä puhumattakaan kyvystä ratkaista ihmisellekin mahdottomia moraalisia dilemmoja; riittää, että auto ajaa vähän paremmin kuin ihminen.
Olen kummastellut Euroopan hitautta sallia Teslan FSD, joka ei siis ole automaattiajo, vaan vaatii vielä kuljettajan seurantaa. Ymmärrän takamatkalla olevien eurooppalaisvalmistajien lobbauksen ja jarrutuksen, mutten päättäjien laskutaidottomuutta: AI havainnoi liikennettä väsymättä ja paljon ihmistä luotettavammin. Onnettomuuksia sattuisi merkittävästi vähemmän kun riskitiedottomat kuljettajat näpläisivät kännykkäänsä FSD päällä, eivätkä ajaessaan itse! Gigerenzer vahvistaa havaintoni, että useimmat ihmiset käyttävät kännykkää ajaessaan, vaikka tietävät ettei kannattaisi. Teinin kanssa ajoharjoitellessa tulee havainnoitua karmeita suorituksia, viimeksi eräs kahden lapsen kanssa autoillut äiti nosti katseensa kännykästä 5-7 sekunnin välein ajaessaan moottoritietä (ohitimme autoa pienellä nopeuserolla ja laskin useita kertoja ajan joka kuluu vilkaisujen välillä).
Tekoälyä sovelletaan paikoissa joissa se ei yksinkertaisesti toimi. Gigerenzer kertoo, ettei ennustava poliisityö on antanut kehnot tulokset. Myös pidätettyjen päästämisestä vapaalle jalalle sovelletaan tekoälyä kehnoin tuloksin, ja satunnaisesti valitut maallikot pärjäävät arvioinnissa yhtä hyvin. Läpinäkymätön tekoälyalgoritmi on ongelmallinen kun sen päätöskriteerejä ei tiedetä, joten kannattaisi mieluummin käyttää julkisia ja läpinäkyviä nyrkkisääntöjä (pisteytys sen mukaan onko ennen rötöstellyt tai vältellyt oikeutta), jotka toimivat yhtä hyvin.
Lopputulemana tekoälyn käytölle löytyy varsin helpot säännöt. Tekoäly toimii mainiosti, kun käsitellään numeroarvoja, toimitaan tiettyjen rajojen sisällä, ja tavoiteltu lopputulos on selkeä. Tekoäly pureskelee helposti dataa ja tuottaa siitä yhteenvedon, koodaa käsittääkseni erittäin hyvin, ja on erittäin hyvä apuri fyysikaalisten, luonnonlakeja noudattavien järjestelmien suunnittelussa ja optimoinnissa. Tekoäly ei kuitenkaan toimi, kun pitää ennustaa asioita joissa ihmisillä on näppinsä pelissä; ei varsinkaan ihmisten käyttäytymistä.
Sekava kokonaisuus
Kirja ei nouse Riskitietoisuuden tasolle. Teos kärsii pomppimisesta, sekavuudesta ja punaisen langan puutteesta. Gigerenzer yrittää ympätä kaikki huolenaiheensa samaan kirjaan, ja samoissa kansissa käsitellään tekoälyä, algoritmeja, yksityisyyttä, demokratiaa, medialukutaitoa, ja lainsäädäntöä. Kokonaisuus olisi ollut vahvempi kun olisi keskitytty yhteen asiaan.
Asia on sinänsä tärkeää ja tämän lukee mielellään. Tekoälyn osalta kirja tuntuu vanhentuneelta alan nopean kehityksen ansiosta, mutta muuten asia on ajattomampaa. Ihan OK jatko Riskitietoisuudelle, joka kuitenkin kannattaa lukea ensin.
Arvosana: 3+/5
