AI mitä? Tekoälyllä luotu sisältö voi olla virheellistä?

ChatGPT ja muut kielimalleihin perustuvat tekoälypalvelut kuulostavat vakuuttavilta, mutta silti ruudun alareunassa näkyy aina pieni präntti: “Tekoälyllä luotu sisältö voi olla virheellistä”. Ensimmäiset varoitukset ilmestyivät jo vuonna 2022, ja niiden tarkoitus oli muistuttaa, ettei tekoäly ole tietokanta vaan arvailija. Miten tämä vaikuttaa tekoälykokemukseen, ja mitä voit itse tehdä pysyäksesi ohjaksissa?

Uutiskirje tiivistettynä:

Tekoälyn tuottama sisältö voi olla virheellistä, ja tästä on varoitettu käyttäjiä jo ChatGPT:n alkuajoista asti.
AIX-kehyksen näkökulmasta erityisesti huomio (Attention) ja luottamus (Trust) horjuvat, kun käyttäjä kohtaa virheitä.
Hyvä tekoälykokemus syntyy, kun käyttäjä osaa tunnistaa riskit, tarkistaa lähteet ja hyödyntää tekoälylukutaitoa hallinnan säilyttämiseen.

Missä mennään?

Tervetuloa Tekoälykokemus (AIX) -uutiskirjeen uuden numeron pariin!

Viime kerralla tarkastelimme mukavuudenhalun voimaa tekoälypalveluiden suunnittelun ajurina, eli miten tekoälyn sujuvuus ja kitkattomuus houkuttelevat meitä hyväksymään palvelun, tai sen tuottamat vastaukset?

Se voi joskus käydä liiankin helposti.

Siksi tekoälypalveluissa on tarvittu rinnalle se pieni varoitusteksti. Kun tekoäly tekee käytöstä helppoa, korostuu entisestään käyttäjän vastuu huomata, että virheet ovat mahdollisia.

Osaammeko erottaa helppouden ja luotettavuuden toisistaan?

Tekoälylukutaito auttaa pitämään pään kylmänä, kun vastaukset tuntuvat ”liian hyvältä” ollakseen totta.

Luitko sinäkin pienellä präntätyn?

Oletko sinäkin joskus hurahtanut tekoälyn vastaukseen ja vasta myöhemmin huomannut, että mukana olikin virhe? Juuri silloin muistat, että alalaidassa lukee pienellä:

“ChatGPT voi tehdä virheitä. Suosittelemme tarkastamaan tärkeät tiedot.”

Tämä muistutus on ollut olemassa jo ensimmäisistä versioista alkaen. Kun OpenAI julkaisi ChatGPT:n beta-versiona vuonna 2022, käyttöliittymässä varoitettiin, että mallin avulla tuotetut vastaukset voivat olla virheellisiä, puolueellisia tai vanhentuneita.

Tuo yksinkertainen lause sisältää ikkunan hyvään tekoälykokemukseen.

Käyttäjälle halutaan tehdä selväksi, että kyse ei ole “googlaamisesta”, vaan järjestelmästä, joka rakentaa lauseita todennäköisyyksien varassa.

Mutta voiko ymmärryksen sisällyttää yhteen lauseeseen?

Miksi tekoälysisältö voi olla virheellistä?

Tekoäly ei tiedä, vaan se arvaa – kuin säätiedotuksen todennäköisyyslaskelmat. Tämä yksinkertainen totuus on taustasyy moniin tekoälyn tekemiin “virheisiin”.

Tämä voi myös toteutua jatkumona:

Hallusinaatiot: Malli voi sepittää lähteettömiä faktoja, koska sen tavoite on tuottaa uskottavaa tekstiä.
Väärä konteksti: Jos käyttäjä ei anna riittävästi taustatietoa, AI täyttää aukot, eli hallusoinoi, omilla oletuksillaan.
Lähdekritiikin puute: Tekoäly ei arvioi tiedon arvoa, kontekstiin nähden, vaan kaikki lähteet ovat sille yhtä painavia.

Tekoälykokemukseen perehtyneen AI-strategi Mara Pomettin ehdottaman AIX-kehyksen näkökulmasta tämä liittyy ennen kaikkea huomion (Attention) pilarin toteutumiseen.

Hyvä tekoälykokemus edellyttää, että AI keskittyy siihen, mikä on käyttäjälle olennaista. Jos se harhautuu, tulos voi olla silti vakuuttavan tuntuinen, mutta vääränlainen.

Tekoälylukutaito rakentaa luottamusta

Vuonna 2023 OpenAI korosti ChatGPT:n käyttöliittymässä disclaimereita entistä selvemmin, koska käyttäjien luottamus horjui hallusinaatioiden vuoksi. Mutta varoitus itsessään ei vielä luo turvaa.

Käyttäjän täytyy itse ymmärtää, mitä varoituksella tarkoitetaan, jolloin puhutaan tekoälylukutaidosta.

Ilman perustaitoja tuon pienen präntin merkitys jää hämäräksi, mutta lukutaitoinen käyttäjä tunnistaa sen muistutuksena kriittisen arvioinnin tarpeellisuudesta. Näin hän osaa myös helpommin erottaa empaattisen mutta virheellisen vastauksen asiantuntijan varmuudesta.

AIX-kehyksen pilari luottamus (Trust) ei rakennu vain luottamuksesta palveluun, vaan tekoälylukutaidon luoman kyvyn kautta. Silloin käyttäjä hallitsee sen, miten varoituksia tulkitaan ja miten tietoja voi tarkistaa.

Tekoälylukutaito pitää sinut kuskin paikalla

Tekoälyn virheitä ei käytännössä voi poistaa, mutta voit oppia hallitsemaan niitä.

Tekoälylukutaito on tässä kuin yksi yhteen AIX-pilarin toimijuus (Agency).

Se antaa työkalut säilyttää ohjat itselläsi, kun:

osaat pyytää lähteitä ja vertailla niitä
kykenet kysymään uudelleen eri tavoin
tunnistat, milloin tekoälyä voi hyödyntää ja milloin pitää hakea varmistus muualta

Ilman näitä taitoja tekoäly vie sinua – mutta niiden avulla sinä viet tekoälyä.

Hyvä tekoälykokemus ei siis synny siitä, että AI olisi täydellinen, vaan siitä, että käyttäjä on taitava ohjaaja. Disclaimereiden pieni präntti muuttuu silloin passiivisesta varoituksesta aktiiviseksi ohjekyltiksi: “tässä kohtaa sinun kannattaa tarttua rattiin.”

Tekoälylukutaitoa kaikille!

Nämä peruskurssit sopivat jokaiselle, joka haluaa ymmärtää tekoälyn perusteita ja oppia lukemaan “pientä pränttiä”:

Elements of AI (Helsingin yliopisto / MinnaLearn) – maailman tunnetuin ilmainen verkkokurssi tekoälyn perusteista, saatavilla suomeksi.
AI Literacy Fundamentals (Microsoft + Sulava) – maksuton verkkokurssi generatiivisen tekoälyn käytöstä arjessa ja työssä.

Kun perusteet ovat hallussa, verkosta löytyy myös syvempää näkemystä tekoälylukutaitoon liittyvistä oikeuksista, velvoitteista ja yhteiskunnallisista vaikutuksista – riippuen siitä, mihin itse tekoälyä käytät.

EU:n tekoälyasetuksen mukaan tekoälylukutaito tuleekin nähdä ensisijaisesti omaan tarpeeseen sovellettuna osaamisena, eli syventyminen käytännössä tapahtuu esimerkiksi omasta työtehtävästä katsottuna.

💡 Tulossa myöhemmin tässä uutiskirjeessä:

Oletko tullut ajatelleeksi, että ChatGPT:n käyttöliittymä näyttää hämmästyttävän tutulta, vähän kuin Googlen hakukenttä? Entä jos käyttöliittymä tekoälyyn olisikin jokin ihan muu, hakisimmeko siltä faktatietoa niin helposti?

Ajattelen, että tämä samankaltaisuus käyttöliittymän suunnittelun valintana luultavasti ohjaa meitä kyselemään tekoälyltä faktoja, vaikka sen toimintaperiaate on aivan toinen. Tukeeko tutkimus tätä ajatusta, ja miten se vaikuttaa luottamukseemme tekoälyyn?

Sukellan aiheeseen myöhemmin erikoisartikkelissa!