Sunnuntaisukellus: Miksi tekoäly luo hakukoneharhan?

Moni käyttäjä odottaa ChatGPT:ltä Google-tyyppisiä varmoja faktoja. Hakukoneharha syntyy, kun tuttu tekstikenttä ja vuosien googlauskulttuuri ohjaavat luottamaan sujuvaan vastaukseen. Sunnuntaisukellus pureutuu ilmiön kognitiivisiin ja käyttöliittymäpsykologisiin syihin sekä tarjoaa AIX-kehykseen nojaavia tapoja vahvistaa tekoälylukutaitoa ja toimijuutta.

Uutiskirje tiivistettynä:

Googlauskulttuurin ja tuttuuden harha saa käyttäjät luottamaan ChatGPT:n vastauksiin kuin faktoihin, vaikka kyseessä on ennustava kielimalli.
Käyttöliittymän pelkistetty muoto ja vuorovaikutuksellisuus luovat turvallisuuden tunnetta, mutta peittävät taustalla olevan rajallisuuden, jolloin syntyy hakukoneharha.
Hyvä tekoälykokemus edellyttää uudenlaista lukutaitoa, joka auttaa erottamaan tiedonhaun perinteen generatiivisen mallin rajoitteista.

Missä mennään?

Tervetuloa Tekoälykokemus (AIX) -uutiskirjeen Sunnuntaisukellus-erikoisnumeron pariin!

Edellisessä uutiskirjeen numerossa pohdin, mitä kaikkea kätkee sisäänsä ”pieni präntti” tekoälypalveluiden alaviitteessä: Tekoälyllä luotu sisältö voi olla virheellistä.

Tuon varoitustekstin syvempi ymmärtäminen edellyttää vähintään jonkin tasoista tekoälylukutaitoa, eli tekoälyosaamista. Pitäisikö kaikilla olla sellaista tekoälylukutaitoa, että tuon virheellisen sisällön varoituksen tulisi esimerkiksi ohjata tekoälyn käyttöä hakukoneena?

Google-aikakauden jo useita vuosikymmeniä muovaama tiedonhaun kulttuuri ohjaa yllättävän vahvasti sitä, miksi moni meistä luulee myös ChatGPT:n tarjoavan varmoja faktoja.

Mutta miksi oikeastaan olemme digipalveluiden käyttäjinä päätyneet siihen, että tiedonhaku ja kielimallit, kaksi erillistä asiaa, ovat sekoittuneet, ja tekoälyn käyttöön on syntynyt eräänlainen “hakukoneharha”?

Hypoteesini on, että käyttöliittymien samankaltaisuus voi toimia tässä piiloajurina.

Tässä Sunnuntaisukelluksessa pohdin, mistä hakukoneharha mahdollisesti syntyy, ja millä tavoin se liittyy sekä ihmismielen tottumuksiin että käyttöliittymien suunnittelussa huomioitavaan psykologiaan.

Miksi AI:n käyttäminen hakukoneena tuntuu tutulta?

Oletko huomannut, kuinka helppoa on kirjoittaa kysymys ChatGPT:lle ja odottaa siltä varmaa, aukotonta vastausta, aivan kuten aiemmin Googlesta?

Vaikka ChatGPT:tä ei varsinkaan alkuvaiheessa suunniteltu tiedonhakuun, moni meistä on kirjoittanut tekoälyn keskustelukenttään kysymyksen ja jäänyt odottamaan, että “tekoäly tietää”.

Muistan myös itse tämän hyvin, kun avasin ChatGPT:n ensimmäistä kertaa. Olin aiemmin tottunut siihen, että jos mielessä pyöri jokin kysymys, Google ratkaisisi sen hetkessä. “Googlaa se!” on 2000-luvun tutuimpia lausahduksia.

Nyt uusi tekoälypalvelun ikkuna tarjosi samanlaisen – jopa samannäköisen – houkuttelevan kysymyskentän.

Kirjoitin siihen kysymyksen ja painoin enteriä. Sain rivakasti vastauksen, joka kuulosti yhtä vakuuttavalta kuin asiantuntijan artikkeli. Tunsin samaa turvallista helpotusta kuin aiemmin, kun löysin vastauksen Wikipedia-sivulta. Ja kaiken lisäksi se tuntui omalta, juuri minulle kohdennetulta vastaukselta, kun teksti ilmestyi ruudulle sana kerrallaan. Aivan kuin joku kirjoittaisi sitä samaan aikaan.

Mutta oliko kyse omasta osaamisestani uuden työkalun kanssa, vai ainoastaan siitä, että käyttöliittymän muoto muistutti jotain, minkä olin vuosien varrella oppinut luottamaan?

Tässä piilee modernin teknologian, ja toisaalta taitavan markkinoinnin taika. ChatGPT näyttää ja tuntuu tutulta: yksi kenttä, yksi vastaus. Samanlainen käyttöliittymä, johon on tottunut vuosien hakukoneiden käytön myötä.

Tuttu rakenne luo illuusion siitä, että myös taustalla oleva logiikka olisi entisellään. Aivot rakastavat oikopolkuja, ja niille on helpompaa soveltaa vanhaa mallia uuteen kohteeseen kuin opetella kokonaan uutta.

Se on kuin vaihtaisi toiseen näppäimistöön, mutta käyttäisi samoja pikayhdistelmiä. Kenties tästä syystä moni huomaa vasta jälkikäteen, että vastaukset eivät aina ole totta, vaikka ne esitetään sujuvasti ja vakuuttavasti.

Tekoälyyn kohdistuviin odotuksiin on asettunut sama uteliaisuuden ja luottamuksen tunne, jonka Google on vuosien aikana opettanut.

Mutta onko luottamus siihen ansaittua?

Kolme syytä siihen, miksi hakukoneharha syntyy

Kognitiiviset mentaalimallit – vanha muoto ohjaa uutta

Kun kohtaamme arjessa uutta teknologiaa, aivot soveltavat siihen vanhaa tuttua reittiä. Hakukoneiden käyttö on iskostunut meihin niin syvälle, että siirrämme helposti “Googlen mentaliteetin” ChatGPT:n käyttöön: kysyn, saan vastauksen, ja oletan, että se on haettu oikeista lähteistä.

Tätä ilmiötä kutsutaan mentaalimalliksi. Se on sisäinen käsityksemme siitä, miten järjestelmä toimii.

Mentaalimalleja on oikeastaan aika helppo tunnistaa jälkikäteen: kun älypuhelimet yleistyivät, ensimmäiset käyttäjät asettivat analogisen puhelimen soittoääniä, lähettivät tekstiviestejä – ja asensivat jopa pyöritettäviä numerolevyjä – samalla logiikalla kuin vanhoissa laitteissa, vaikka älypuhelimeen oli kerralla tullut kokonaan uusiakin mahdollisuuksia.

Wikipedian kanssa oli hieman samanlainen siirtymä. Käyttäjät pitivät sitä aluksi “nettitietosanakirjana” ja odottivat virheettömyyttä, vaikka sisältö oli yhteisön tuottamaa.

Tutkimusten mukaan kokemattomampien käyttäjien käsitykset generatiivisista kielimalleista ovat usein epätarkkoja ja ristiriitaisia. Kun käyttäjiä on pyydetty kuvailemaan, kuinka ChatGPT heidän mielestään löytää vastaukset, huomattiin, että moni kuvittelee ChatGPT:n selaavan “jotain Wikipediaa” tai tekevän oikeita hakuja reaaliajassa.

Todellisuudessa kyse on kielen todennäköisyyksien arvauksista. Osa uskoi tekoälyn “hakeneen tietoa jostain salaisesta tietokannasta” ja osa arveli sen “lukeneen kaikki kirjat maailmassa”.

Vaikka ilmiötä on vasta osittain tutkittu, merkit viittaavat siihen, että hakukoneharha on jo hyvin laajasti levinnyt mentaalimalli.

Antropomorfismi eli “ihmisenkaltaistaminen” lisää vielä harhaa entisestään. Käyttäjä kuvittelee, että tekoäly “ymmärtää ja tietää”, vaikka se vain toistaa kielellisen mallin todennäköisyyksiä.

Tästä syntyy helposti tunne, että kone toimii kuin asiantuntija.

ChatGPT on siis oikeastaan vain väärinymmärrettynä se “huono hakukone”.

Se voi olla hyödyllinen silloin, kun haemme yleiskuvaa, ideointia tai näkökulmia, aivan kuten keskustelukumppanilta. Ongelma syntyy, jos käyttäjä odottaa sen antavan täsmällisiä ja todennettuja faktoja.

Mutta miksi edes keksimme näin oudon logiikan – kysyä kielimallilta faktoja?

Tarkastellaan tätä seuraavaksi käyttöliittymän psykologian kannalta.

Käyttöliittymän psykologia – tuttu muoto ja turvallinen tunne

Käyttöliittymän ulkoasu vaikuttaa siihen, kuinka luotettavana pidämme järjestelmää. ChatGPT:n pelkistetty tekstikenttä muistuttaa Googlen hakukonetta, ja tuttuus synnyttää familiariteettiharhan – joka taas ilmenee hakukoneharhana.

Kun näkymä tuntuu kotoisalta, on helppo uskoa, että myös sisältö on luotettavaa.

Ilmiö on tuttu käyttöliittymien kehittämisen parissa. Jos esimerkiksi pankin mobiiliappin ulkoasu on rauhallinen ja muistuttaa perinteistä pankkimaailman muotokieltä, moni kokee heti luottavansa siihen.

Todellisuudessa järjestelmän turvallisuus riippuu aivan muista asioista kuin käyttöliittymästä.

Jos ulkoasu ei varoita epävarmuudesta, moni ei osaa epäillä, että vastaus saattaa olla virheellinen. Pienetkin ulkoasun muutokset vaikuttavat koettuun luottamukseen. Kasvokuva-avatar lisää inhimillisyyden tuntua, kun taas puhdas tekstimuoto viestii “virallisuutta”.

Mediakulttuuri ja tiedonhaun perinne

Vielä 90-luvulla tiedonhaku tarkoitti kirjastoon menemistä ja tietosanakirjan selaamista. Sukupolvien myötä tiedonhaun välineet ovat muuttuneet: aiemmin Wikipedia ja Google, nyt tekoälychatit.

Tämän rinnalla on syntyi jo aiemmin ilmiö, jota kutsutaan “Google-efektiksi”, eli muistamme yhä harvemmin itse asian, mutta muistamme mistä tiedon voi hakea nopeasti. Sama ilmiö näkyi Wikipedian nousussa: aluksi epäiltiin, myöhemmin luotettiin, koska muoto ja rakenne tuntuivat tietosanakirjalta.

Googlauskulttuuri on juurrutti meihin ajatuksen, että mitä tahansa voi tarkistaa nopeasti ja tulokset ovat yleensä faktoja.

Hakukoneiden ranking-algoritmit, näkyvät lähteet ja faktojen tarkistus ovat tehneet tiedonhausta usein riittävällä tasolla helppoa ja turvallista. Tähän tottuneena ChatGPT:n tarjotessa suoran vastauksen ilman linkkejä, moni ajattelee saavansa “Google 2.0:n” – ei tarvitse edes klikata!

Nyt ChatGPT:n kieliopillisesti täydellinen, vakuuttava vastaus vie tämän vielä pidemmälle: se kuulostaa asiantuntijalta, vaikka pohjimmiltaan on tilastollinen arvaaja.

Google-efekti voi siis vielä korostua entisestään. Nyt emme enää muista edes tarkistaa, mistä tieto tuli, vaan uskomme sujuvaan vastaukseen.

Uskomme muotoon.

Onko siis seuraava askel “ChatGPT-efekti”, jossa emme enää ajattele tiedon alkuperää, koska vastaus tuntuu olevan aina käden ulottuvilla?

Tuloksena olisi uudenlainen hakukoneharha: käyttäjä pitää annettua vastausta faktana, koska teknologia tuntuu jatkumolta aiemmalle kokemukselle, vaikka todellisuudessa perusta on muuttunut.

Mitä riskejä tämä tuo mukanaan?

Hakukoneharha ei ole pelkästään teoreettinen ilmiö tai arkisten vitsien aihe, vaan sillä voi olla merkittäviä seurauksia. Silloin kun käyttäjä luottaa sokeasti tekoälyn vastaukseen, hän voi tehdä virheellisiä päätöksiä ilman, että edes huomaa epäillä.

Erityisesti, jos käyttöliittymä ei tarjoa näkyvää varoitusta tai mahdollisuutta tarkistaa lähteitä, riskinä on automaatioharha, eli ihminen hyväksyy koneen ehdotukset liian helposti.

Osa etenkin uusista käyttäjistä voi siis helppouden edessä menettää omaa kriittisyyttään, mutta tekoälylukutaidon karttuessa moni tarkistaa yhä tietoja muualta, erityisesti jos vastaus tuntuu epäilyttävältä.

Näin harha ei ole täysin kattava: käyttötaidot ja aiempi kokemus vaikuttavat, sekä oivallus siitä, että oman toimijuuden kokemus tulee jatkuvasti tunnistaa.

Laajemmat kvantitatiiviset tutkimukset puuttuvat silti vielä. Emme tiedä varmasti, miten erilaiset käyttäjäryhmät tekoälyyn suhtautuvat, ja kuinka nopeasti mentaalimallit muuttuvat.

Toinen rajoite liittyy pitkittäisvaikutuksiin. Oppivatko käyttäjät ajan myötä epäilemään vai syvenevätkö harhat, kun käyttöliittymä pysyy tutun oloisena? Jos emme opi tunnistamaan generatiivisen tekoälyn rajoituksia, luottamus voi perustua väärälle pohjalle, ja tämä voi heijastua koko tiedonvälityksen kenttään.

Helppokäyttöisyyden rinnalle tarvitaan uudenlaista tekoälylukutaitoa, joka auttaa joka kerralla varmemmin arvioimaan, milloin vastaus on arvio ja milloin faktaa. Luottamus tekoälyyn syntyy vain, jos käyttäjä ymmärtää, mistä vastaukset tulevat.

Miten korjata hakukoneharha ja vahvistaa hyvää tekoälykokemusta?

Hakukoneharha ei katoa välttämättä lainkaan, eikä myöskään tarve hakea tietoa tekoälyllä. Mutta voimme ottaa käyttöön muutamia konkreettisia keinoja, jotka auttavat sekä käyttäjiä että kehittäjiä.

Mistä huomaat varoitusmerkkejä palvelussa:

Jos vastaus sisältää tarkkoja nimiä, päivämääriä tai lähdeviitteitä, mutta et löydä niitä Googlen kautta, kyse voi olla hallusinaatiosta.
Jos vastaus kuulostaa liian täydelliseltä ja kattaa kaiken kerralla ilman epävarmuutta, se voi olla tilastollisesti johdonmukainen mutta faktoiltaan vääristynyttä.
Myös liiallinen väittämien varmuus (“tämä on aina näin”) kannattaa ottaa varoitusmerkkinä, sillä maailma ei yleensä ole mustavalkoinen.

Mistä huomaat, että hakukoneharha on iskenyt sinuun?

Jos huomaat usein kopioivasi vastauksen suoraan ilman, että pysähdyt miettimään, tuntuvatko tiedot olevan oikein.
Jos et tarkista lähteitä tai klikkaa mahdollisia linkkejä.
Jos koet, että “tämä kuulostaa oikealta”, vaikka et muista enää, mistä tunnetilasi kumpuaa.

Kokeile näitä, kun käytät ChatGPT:tä tiedonhaussa seuraavan kerran:

Pyydä mallia tekemään faktantarkistus, mistä se arvelee tiedon olevan peräisin (esim. “Kerro, mistä lähteistä tämä vastaus voisi tulla?”).
Esitä sama kysymys eri sanoin, ja tarkastele muuttuuko vastaus.

Vinkkejä yrityksille ja kehittäjille:

Tekoälylukutaidon kehittäminen yhdessä, esimerkiksi työpajamuotoisesti harjoitellaan tekoälyvastausten arviointia ja faktantarkistusta.
Käyttöliittymien suunnitteleminen: miten epävarmuusindikaattorit tai näkyvät varoitukset muuttavat käyttäjien toimintaa? Jos tekoälykäyttöliittymä näyttäisi epävarmuuden prosenttina, olisiko käyttäjä tarkempi arvioinnissaan?

Hyvä tekoälykokemus rakentuu yhtä lailla sekä teknologian suunnittelusta että käyttäjän valinnoista

Mitä jos uusi sukupolvi ei opi perinteistä tiedonhakua? Jos tämän päivän nuoret eivät koskaan opi tarkistamaan lähteitä, vaan oppivat luottamaan chatin nopeaan vastaukseen, muuttuuko koko yhteiskunnan suhde tietoon?

Tästä syystä on entistä tärkeämpää pitää tekoälylukutaito mukana jo koulusta lähtien, jotta hakukoneharha ei jää uudeksi normaaliksi ja sokeaksi pisteeksi.

Mara Pomettin kehittämä AIX-kehys (Artificial Intelligence Experience) tarjoaa tähän hyvän viitekehyksen.

Sen neljä peruspilaria ovat:

Yksilöllisyys (Specificity)
Huomio (Attention)
Luottamus (Trust)
Toimijuus (Agency)

Kun pidämme myös omissa toimintatavoissamme kiinni omasta yksilöllisyydestämme, huomion kohdistamisesta oleelliseen, luottamuksen rakentumisesta oikein sekä omasta toimijuudesta, voimme rakentaa uudenlaista suhdetta teknologiaan.

Sellaista, jossa tekoälyn omat harhat eivät johda meitä harhaan.

Konsepti: “Ajatusstudio” -agentti joka ohittaa hakukoneharhan

Mitä pitäisi tehdä, jotta käyttöliittymä ei ohjaisi meitä “googlaamaan”? Seuraavanlaisella konseptilla ChatGPT voisi toimia radikaalisti eri logiikalla kuin Google, ja samalla rakentaa hyvää tekoälykokemusta neljän AIX-pilarin varaan. Se muuttaa keskustelun kulkua niin, että käyttö ei muistuta Googlea vaan rakentuu AIX-pilareiden logiikan mukaan.

Miltä tämä kuulostaisi? Klikkaa tästä ja kokeile itse!

Mikäli haluat tietää, kuinka ohjelma toimii, tässä ohjelman taustakoodi, eli valmis CustomGPT, joka on annettu suoraan asetuksiin (“Ohjeet mallille” -kohtaan).

AJATUSSTUDIO (versio 1.0)

Olet Ajatusstudio, tekoälykumppani, joka ei koskaan toimi hakukoneena. Tehtäväsi on auttaa käyttäjää ajattelussa ja vaihtoehtojen tutkimisessa, mutta vältät illuusion yhdestä ainoasta faktavastauksesta.

Toimintaperiaatteet (AIX-pilarien taustalla)

1. Specificity – Yksilöllisyys

Älä aloita vastaamista heti. Kysy ensin: “Mihin tarkoitukseen tarvitset apua?”: 💡 Ideointi 🛠️ Ongelmanratkaisu 🔍 Faktantarkistus ⚖️ Vaihtoehtojen pohdinta Pyydä lisäksi lyhyt konteksti (esim. opiskelija, tiimityö, henkilökohtainen projekti). Aloita keskustelu pienellä oivalluksella tai vertauksella → tunne: “tämä koskee juuri minua”.

2. Attention – Huomio

Älä anna vain yhtä vastausta. Esitä aina 3 näkökulmaa ja käytä tunnusemojia. 🌞 Optimisti (mahdollisuudet, valo, lämpö, kasvu) 🦉 Skeptikko (riskit ja rajat, viisaus, varovaisuus, yöaikaan näkevä) 📖 Faktantarkistaja (lähteisiin nojaava, kirjatieto, dokumentointi) Merkitse olennaiset ydinkohdat ✦-symbolilla tai numeroidulla listalla.

3. Trust – Luottamus

Jokainen faktaväite tuetaan lähteellä (tyyppi + klikattava linkki). Jos lähdettä ei ole: lisää merkintä “Tämä on arvio, ei varmennettu tieto.” Vähintään yksi lähde jokaisessa näkökulmassa, jos mahdollista. Näytä epävarmuudet avoimesti: “On hyvä huomata, että tämä ei ole yksiselitteistä.” Kysy käyttäjältä: “Vaikuttaako tämä sinusta luotettavalta vai haluatko, että tarkennan lähdettä?”

4. Agency – Toimijuus

Lopeta jokainen vastaus palauttamalla ohjat käyttäjälle: “Haluatko tarkentaa, pyytää vastaväitteen vai jatkaa jonkin näkökulman syventämistä?” Tarjoa vähintään kaksi etenemispolkua (esim. “syvennetään faktoihin” tai “kokeillaan käytännön esimerkkiä”). Sävy on rauhallinen ja voimaannuttava: tunne “minulla on tilanne hallussa”.

AIX-quiz: testaa, miten hakukoneharha syntyy

Yksilöllisyys (Specificity): Mikä saa ChatGPT:n tuntumaan omalta tietolähteeltä?

a) Se käyttää aina samoja lähteitä kuin Google
b) Käyttöliittymä muistuttaa tuttua hakukonetta
c) Kaikki vastaukset tulevat asiantuntijoilta

Huomio (Attention): Miten käyttöliittymä vaikuttaa luottamukseen?

a) Pelkistetty ja tuttu muoto luo turvallisuuden tunnetta
b) Epäselvä käyttöliittymä lisää epäilyksiä
c) Värikkäät UI-elementit häiritsevät

Luottamus (Trust): Mikä on suurin riski hakukoneharhassa?

a) Käyttäjä uskoo vastauksen olevan fakta, vaikka se voi olla arvaus
b) Tekoäly ei koskaan erehdy
c) Kaikki käyttäjät ovat yhtä kriittisiä

Toimijuus (Agency): Miten voit vahvistaa omaa toimijuuttasi tekoälyn käytössä?

a) Tarkistat vastaukset useasta lähteestä
b) Luotat sokeasti kaikkiin vastauksiin
c) Annat käyttöliittymän päättää puolestasi

Oikeat vastaukset: 1b, 2a, 3a, 4a.