Uhraatko itsesi tekoälyn alttarille?
URN:
Johdanto
Kaksi teollista vallankumousta antoivat meille koneet ja massatuotannon. Kolmas vallankumous opetti meidät digitoimaan ja siirtämään tietoa internetin avulla. Nyt tekoälyn luotsaama neljäs vallankumous on parhaillaan opettamassa meitä hyödyntämään tätä internetiin kerääntynyttä valtavaa datamäärää.
Tärkeä tarkennus heti tähän alkuun. Kun puhumme nykyään tekoälystä, tarkoitamme generatiivista tekoälyä (GenAI), joka tuottaa olemassa olevan datan pohjalta uutta tekstiä, kuvaa, ääntä, videota tai vaikkapa ohjelmointikoodia. Jo ennen GenAI:ta on ollut toinen tekoälyn muoto eli laskennallinen älykkyys (computational intelligence). Tätä tekoälyä käytetään ratkaisemaan monimutkaisia matemaattisia ja optimointiongelmia, joita ei voi ratkaista perinteisillä sääntöpohjaisilla logiikoilla tai ihmisten aivokapasiteetilla.
Eikä myöskään GenAI;ta käyttämällä, koska sen toiminta perustuu todennäköisyyksiin ja ennustamiseen. CompAI:n ns. heuristinen toiminta sen sijaan perustuu analytiikkaan ja matemaattisiin sääntöihin perustuviin ratkaisuihin.
Tässä artikkelissa käsittelemme generatiivista tekoälyä, ja erityisesti sen kahta vaaraa ihmiskunnalle. Tekoälystä on toki paljon hyötyä meille, kuten ihmisten suorittamien rutiinitehtävien vähentyminen ja sitä kautta tehokkuuden moninkertaistuminen. On mielenkiintoista havaita, että kaksi ensimmäistä vallankumousta vei ihmiset koneiden luo, ja kaksi seuraavaa hakee heidät pois sieltä. Kohdennetumpia hyötyjä ovat mm. lääketieteellisen diagnostiikan tarkentuminen ja räätälöidympi hoito sekä rahanpesun ja verkkohuijausten esto.
Tekoälyn vaaroista nostetaan yleensä esiin väärän ja/tai manipuloidun tiedon levittäminen, esimerkkinä some-kanavissa jaettu disinformaatio tai deepfake-videot. Toisena yleisenä vaarana mainitaan työmarkkinoiden murros, kun älykkäällä automatisoinnilla korvataan nykyisiä työtehtäviä, mikä väistämättä syventää digitaalista kuilua työntekijöiden välillä.
Tekoälyä syytetään myös virheellisestä päätöksenteosta tai vaikkapa tunneälyn ja inhimillisen ymmärryksen puutteesta. Mutta onko se tekoälyn vai ihmiskunnan syy? Tässä artikkelissa käsittelen kahta tieteellisessä kirjallisuudessa viime aikoina esiin nostettua tekoälyn käytön varoitussignaalia: kognitiiviset vaarat ihmiselle ja ilmiöiden keskiarvoittuminen. Artikkelin lopussa kerron, miten näitä vaaroja taklataan viisaalla tekoälyn käytöllä.
Kolme kognitiivista vaaraa
Nykytutkimuksen mukaan tekoälyn käytön kognitiiviset vaarat ja ilmiöiden keskiarvoittuminen ovat suurimpia hiljaisia uhkia ihmiskunnalle. Ne eivät tuhoa meitä fyysisesti, vaan rapauttavat kykyämme ajatella itsenäisesti, luoda uutta ja tehdä monimutkaisia hyvin perusteltuja päätöksiä.
Aloitetaan kognitiivisista vaaroista. Kun ihmiset käyttävät tekoälyä ajattelun korvikkeena, aivoissa tapahtuu neurobiologisia ja psykologisia muutoksia, joita tutkijat kutsuvat kriittisen ajattelun surkastumiseksi ja jopa ihmisen heikentymiseksi [1,2]. Tekoälyn käyttö tiedonhaussa vähentää aivojen otsalohkon aktiivisuutta. Kun ihminen ei joudu itse ponnistelemaan yhdistääkseen ristiriitaisia tietoja, aivojen neuroplastisuus vähenee.
MIT Media Labin tekemässä paljon viitatussa empiirisessä tutkimuksessa seurattiin EEG-aivomittausten avulla tekoälyä käyttäviä henkilöitä [3]. Tulokset osoittivat, että kriittisen ajattelun prosessit ja itsenäisen ongelmanratkaisun mekanismit heikkenivät mitattavasti, kun ihmiset luottivat tekoälyyn kokonaisnäkemysten ja yhteenvetojen tekemisessä. Tuoreet neurotieteelliset tutkimukset varoittavat kognitiivisen kuorman liiallisesta keventämisestä. Kun aivot pääsevät liian helpolla, aivokuoren aktiivisuus laskee ja kriittiset virheiden tunnistamisen mekanismit eivät käynnisty [4].
Kriittisen ajattelun surkastumisen lisäksi ihmisessä tapahtuu kognitiivinen ankkuroituminen. Kognitiivinen ankkuroitumisen eli automaatiovääristymä perustuu Mosierin ja Skitkan (1996) tutkimukseen [5], jossa he määrittelivät ilmiön ihmisen taipumukseksi käyttää automaation antamia vihjeitä heuristisena oikotienä sen sijaan, että tietoa etsittäisiin ja käsiteltäisiin analyyttisesti. Ihminen luottaa luonnostaan koneen antamaan vastaukseen, kun tekoäly muotoilee sen itsevarmasti.
Puhutaan koneen illuusiosta. Tekoäly ei itse asiassa ole mitään muuta kuin kone, joka ennustaa seuraavaa todennäköistä sanaa, mikä tekee siitä suurmestarin akateemisessa vakuuttavuudessa sekä retorisessa ja kieliopillisessa muotoilussa. Pinnan alla kuitenkin kytee alkava roihu. Tutkimukset osoittavat, että tekoäly voi romahtaa, kun sille annettuihin kysymyksiin lisätään epäolennaista häiriödataa [6, 7].
Tekoäly ei siis ”ajattele”, eikä se ”tiedä” mitään, vaan se matkii sitä, miltä viisas vastaus näyttää! Tämä on se syy, miksi se voi tuottaa täysin virheellistä tietoa (hallusinaatioita) niin vakuuttavassa paketissa, että asiantuntijankin on vaikea havaita virhettä ensisilmäyksellä [8].
Kolmantena kognitiivisena vaarana on ymmärryksen ulkoistaminen. 1990-luvun lopulta asti olemme ensin ulkoistaneet muistiamme hakukoneille. Tekoälyn myötä olemme nyt ulkoistamassa itse prosessoinnin ja ymmärryksen. Tämä johtaa siihen, että meidän kykymme hahmottaa suuria kokonaisuuksia ja syy-seuraussuhteita heikkenee.
Puhutaan myös metakognitiivisesta kuopasta. Koska tekoälyn luoma lopputuote on loistava, ihmiselle syntyy psykologinen harha, että hän itse hallitsee aiheen. Todellisuudessa ihminen on hypännyt yli oppimisprosessin vaikeimman vaiheen – tiedon etsimisen, ristiriitojen ratkomisen ja muistiinpanojen tekemisen [9].
Ilmiöiden keskiarvoittuminen
Asioiden ja ilmiöiden keskiarvoittuminen on toinen suuri hiljainen uhka ihmiskunnalle. Koska tekoälyä koulutetaan olemassa olevan datan massalla, niiden tuottama sisältö on määritelmällisesti historian matemaattinen keskiarvo. Tämä johtaa keskinkertaisuuden loukkuun.
Kun tekoäly generoi yhä suuremman osan verkon teksteistä ja markkinointimateriaaleista, maailma alkaa näyttää ja kuulostaa samalta. Uniikit mielipiteet, epätavalliset ilmaisut sekä marginaaliryhmien ja alakulttuurien kokemukset karsiutuvat pois, koska ne eivät mahdu tekoälyn tilastolliseen keskiarvoon, koska tekoäly suosii todennäköisintä (keskimääräistä) sanayhdistelmää. Tämä johtaa päätöksenteon keskiarvoistumiseen [10,11].
Tämä kehityskulku muodostaa vaarallisen pahan kehän. Ilmiö muistuttaa valokuvakopion kopioimista kopiokoneella yhä uudelleen: jokainen kopiointi (sukupolvi) kadottaa tarkkuutta. Tekoäly tuottaa ensin keskiarvoistettua, helposti pureskeltavaa tietoa. Ihmiset käyttävät tätä tietoa omissa kirjoitelmissaan. Seuraavaksi tekoäly kouluttaa itseään lisää näillä ”uusilla” jo valmiiksi keskiarvoistetuilla tiedoilla. Tekoäly tuottaa sen jälkeen ihmisille vieläkin keskiarvoistetumpaa tietoa.
Pitkälle ”jalostettuna” tästä on seurauksena tekoälyn taantuminen, ja lopulta se menettää toimintakykynsä. Ilmiötä kuvataan myös tekoälyn kannibalismiksi. Oxfordin ja Cambridgen yliopistojen tutkijaryhmä on todistanut ilmiön matemaattisesti [12].
Keskiarvoistumisen seurauksena on vääjäämätön innovaatioiden tukahtuminen. Jos/kun ”kaikki” tietyllä aihealueella toimivat yritykset ja tutkijat käyttävät samoja tekoälymalleja ideointiin ja itsensä sparraamiseen, he päätyvät samoihin ratkaisuihin. Todelliset innovaatiot ja läpimurrot eivät synny keskiarvoista vaan laitakohinoista, oudoista assosiaatioista, onnekkaista virheistä ja puhtaasta intuitiosta. Sellaisista, joita tekoäly yrittää aktiivisesti eliminoida!
Viisauden illuusio
Tekoälyn yhteydessä viisauden illuusiolla tarkoitetaan psykologista ja kognitiivista harhaa, jossa tekoälyn tuottama virheetön muotoilu saa ihmisen luulemaan, että kone – tai hän itse – ymmärtää käsiteltävää asiaa syvällisesti [13]. Tämä on suora jatkumo aiemmin käsitellyille kognitiivisille vaaroille ja keskiarvoittumiselle. Viisauden illuusio perustuu kolmeen harhaluuloon, joita olemme jo aiemmin käsitelleet:
- Kun tekoäly vastaa asiantuntevalla ja itsevarmalla suomen tai englannin kielellä, oletamme automaattisesti, että sen taustalla on looginen päättelykyky.
- Tekoäly on ”lukenut valtavat määrät oppikirjoja”. Kun sille antaa ratkaistavaksi tehtävän, se todellisuudessa vain "toistaa" oppimansa vastauksen. Kun tehtävänantoa muutetaan monimutkaisemmaksi, se epäonnistuu tehtävän ratkaisemisessa.
- Markkinoinnissa termejä AI ja tekoäly käytetään nykyään virheellisesti kaikesta, mikä tuntuu älykkäältä.
Viisauden illuusio, kognitiiviset vaarat ja keskiarvoittuminen muodostavat yhdessä modernin yrityselämän ja myös koulutuselämän suurimman riskin [14]. Vakavana seurauksena ihmisiltä katoaa pohjatietoon perustuva kyky kyseenalaistaa tekoälyn tuottamaa tekstiä, koska he eivät ymmärrä tuotettuun tekstiin johtaneen prosessin taustoja. Tekoälyn tuottama tilastollinen materiaali näyttää turvalliselta (kliseiseltä), jolloin ihminen käytännössä lukitsee keskinkertaisuuden.
Miten estää ajautuminen tekoälyn alttarille?
Asiantuntijatyön oman ajattelun, luovuuden, viisauden ja älykkyyden valumiselta suojautuminen vaatii siirtymistä pelkästä tekoälyn tehokkuuden mittaamisesta ihmisen kognitiivisen toimintakyvyn suojelemiseen. Koska tekoäly automatisoi tiedon pureskelun, organisaatioiden on luotava rakenteita, jotka pakottavat ihmisaivot pysymään aktiivisina ja kriittisinä.
Tekoäly pyrkii poistamaan kaiken vaivan ja kitkan työstä, mikä on kognitiivisesti vaarallista. Oppiminen ja syväymmärrys vaativat aivoilta vaivannäköä. Kognitiivisen kitkan lisäämiseksi kannattaa ottaa käyttöön kolme hyödyllistä organisaatiotason toimintamallia:
- Kriittiset päätökset, monimutkaiset ongelmanratkaisut ja luovat työpajat toteutetaan perinteisin menetelmin valkotauluilla, kynällä ja paperilla ilman tekoälyn reaaliaikaista konsultointia.
- Uusien projektien ideointi ja strategioiden perusrungot luodaan ensin täysin ilman tekoälyä. Tekoälyä käytetään vasta sen jälkeen, kun ihmisten oma ajatustyö on saavuttanut ensimmäisen version päätepisteen.
- Tekoälyä käytetään kriitikkona, joka etsii tuotetuista ratkaisuista loogisia aukkoja ja vasta-argumentteja.
Yleissääntönä on ehdottoman kannatettavaa kannustaa tietoisesti sellaisten ratkaisujen esiin tuomista, jotka sotivat tekoälyn antamia "optimaalisia" (eli keskiarvoistettuja) suosituksia vastaan. Uniikki kilpailuetu syntyy siitä, mitä tekoäly ei ehdota!
Yksilön kohdalla kognitiivista kitkaa voi lisätä lukuisilla eri tavoilla. Voisi jopa sanoa, että kannattaa toimia kuten ennen tekoälyä, eikä uskoa siihen, että muuten putoaa työelämän kelkasta. Tekoäly on toki oikein käytettynä hyvä pelkääjän paikalla istuva kriitikko. Viisaan tekoälykäytön huoneentauluun voisi valita vaikkapa seuraavat viisi kohtaa:
- Ajattele ensin itse ja konsultoi tekoälyä vasta sitten.
- Ratko monimutkaisiakin solmuja ensin kynällä ja paperilla ja keskustelemalla kollegan kanssa kasvotusten vaikkapa kahvilla.
- Taistele tekoälyn tuottamaa keskiarvoistumista vastaan suosimalla omia outoja ajatuksiasi.
- Pidä vastuu johtopäätöksistä itselläsi. Anna tekoälyn ehdottaa, mutta päätä itse.
- Harjoita taitoja, joita et halua menettää: ajattelemista, suunnittelemista, laskemista, kirjoittamista, asioiden hahmottelua piirtämällä ja tiivistämistä.
Yleissääntönä voidaan todeta, että tekoälyä ei tule käyttää korvaamaan ajattelua, vaan laajentamaan sitä.
Yhteenveto ja suositukset
Tässä artikkelissa käsiteltiin kahta tekoälyn käytön varoitussignaalia: kognitiiviset vaarat ihmiselle ja ilmiöiden keskiarvoittuminen. Kognitiivisista vaaroista nostettiin esiin kriittisen ajattelun surkastuminen, kognitiivinen ankkuroituminen koneen luomaan illuusioon sekä oman ymmärryksen ulkoistaminen.
Keskiarvoittumisen yhteydessä keskusteltiin keskinkertaisuuden loukusta, päätöksenteon keskiarvoistumisesta ja innovaatioiden tukahtumisesta. Viisauden illuusio, joka on suora jatkumo kognitiivisille vaaroille ja keskiarvoittumiselle, muodostaa modernin yrityselämän ja myös koulutuselämän suurimman riskin. Tältä riskiltä tulee suojautua suojelemalla ihmisen kognitiivista toimintakykyä lisäämällä kognitiivista kitkaa.
Kitkan lisäämiseksi suositeltiin kolmea hyödyllistä organisaatiotason toimintamallia ja yksilötasolla viiden kohdan tekoälykäytön huoneentaulua. Nämä kohdat voi kiteyttää toteamalla, että tieto on halpaa, mutta ymmärrys on arvokasta. Vastaavasti vastaus on halpaa, mutta hyvä kysymys on arvokasta. Ajatteleminen on edelleen ihmisen tärkein tehtävä!
Kimmo Nurmi
Tutkimusjohtaja, 0000-0001-8278-9874, SAMK
Nurmi on laskennallisen älykkyyden, algoritmien ja optimoinnin asiantuntija.
