Miten tekoäly (LLM) toimii?
Tekoälyjärjestelmät, kuten ChatGPT, voivat vaikuttaa monimutkaisilta, koska niiden taustalla on monia erilaisia teknologioita. Suuren kielimallin eli LLM:n perusidea voidaan kuitenkin selittää melko yksinkertaisesti.
Helpoin tapa ymmärtää ChatGPT:n kaltaista tekoälyä on tämä:
Se on valtava kielen ennustuskone.
Ei tietokanta.
Ei hakukone.
Ei digitaalinen henkilö.
Se on koulutettu valtavilla määrillä tekstiä, ja koulutuksen aikana se on oppinut tunnistamaan yhteyksiä sanojen, asioiden, faktojen ja erilaisten ilmaisutapojen välillä.
Perusidea: mitä tulee seuraavaksi?
Oletetaan, että kirjoitat:
Ranskan pääkaupunki on…
Todennäköinen jatko on:
Pariisi.
Tai:
Vesi jäätyy lämpötilassa…
Todennäköinen jatko on:
0 °C.
LLM toimii samantapaisesti. Se tarkastelee saamaansa tekstiä ja laskee, mitä sen jälkeen todennäköisesti pitäisi tulla.
Sen jälkeen se lisää pienen osan tekstiä ja toistaa saman prosessin.
Vastaus syntyy pala palalta.
Tämä kuulostaa yksinkertaiselta, mutta ennustuksen tekevä järjestelmä on valtavan suuri ja on oppinut suunnattoman määrän erilaisia yhteyksiä.
Se ei tarkastele vain viimeistä sanaa. Se voi hyödyntää koko keskustelua, ohjeita, esimerkkejä, asiakirjoja ja muuta sille annettua tietoa.
Miten se oppii?
Koulutuksen aikana mallille annetaan valtavia määriä tekstiä.
Se voi esimerkiksi nähdä tekstin:
Kissa istuu…
Malli yrittää ennustaa, mitä seuraavaksi tulee.
Jos ennustus on väärä, järjestelmä muuttaa hieman niitä sisäisiä lukuja, jotka vaikuttavat sen toimintaan.
Tämä tapahtuu uudelleen ja uudelleen valtavien tekstimäärien avulla.
Ajan myötä malli oppii ennustamaan kieltä paremmin.
Jotta se voisi tehdä tämän hyvin, sen täytyy samalla oppia monia kielessä esiintyviä yhteyksiä.
Se voi esimerkiksi oppia, että:
- Pariisi liittyy Ranskaan
- jää liittyy kylmyyteen ja veteen
- lääkärit liittyvät potilaisiin ja lääketieteeseen
- ohjelmointikoodi noudattaa tiettyjä sääntöjä
- kysymyksiä seuraavat yleensä vastaukset
- ohjeisiin vastataan eri tavalla kuin tarinoihin
Kukaan ei syötä kaikkia näitä yhteyksiä malliin käsin.
Kielimalli oppii ne koulutuksen aikana.
Mitä mallin sisällä oikeastaan on tallennettuna?
Pääasiassa numeroita.
Suuri kielimalli sisältää valtavan määrän numeerisia arvoja, joita on muokattu koulutuksen aikana.
Yhdessä nämä luvut edustavat mallin oppimia rakenteita ja yhteyksiä.
Mallissa ei yleensä ole yhtä yksittäistä paikkaa, johon olisi tallennettu esimerkiksi tällainen fakta:
Shakespeare kirjoitti Hamletin.
Tällainen tieto muodostuu monien opittujen yhteyksien yhteisvaikutuksesta.
Tämän vuoksi LLM eroaa tietokannasta.
Tietokanta tallentaa tarkkoja tietueita.
LLM tallentaa opittuja malleja ja yhteyksiä.
Muistaako se kaiken?
Ei.
Osa tiedosta voi jäädä malliin hyvin tarkasti, varsinkin jos se on esiintynyt koulutusaineistossa monta kertaa. Suuri osa mallin hyödyllisyydestä perustuu kuitenkin yleisten mallien oppimiseen.
Voit esimerkiksi pyytää siltä:
Selitä sähkö veden virtausta putkessa esimerkkinä käyttäen.
Tätä täsmälleen samaa lausetta ei ehkä ole koskaan ollut sen koulutusaineistossa.
Malli on kuitenkin oppinut riittävästi sähköstä, vesiputkista, vertauksista ja selittämisestä voidakseen yhdistää nämä asiat uudeksi vastaukseksi.
Tätä kykyä soveltaa opittuja malleja uusiin tilanteisiin kutsutaan yleistämiseksi.
Miksi se pystyy vastaamaan niin monenlaisiin kysymyksiin?
Kieli sisältää tietoa lähes kaikista ihmisen toiminnan alueista.
Kirjat, artikkelit, käyttöohjeet, verkkosivut, ohjelmakoodi, keskustelut, tieteelliset tekstit ja monet muut lähteet sisältävät tietoa ja malleja esimerkiksi seuraavista aiheista:
- historia
- tiede
- ohjelmistot
- liiketoiminta
- laki
- matematiikka
- kirjoittaminen
- arkielämä
Oppimalla suurista tekstimääristä malli muodostaa hyödyllisiä tapoja käsitellä monia näistä aiheista.
Tämä ei tarkoita, että se tietäisi kaiken.
Se tarkoittaa, että se on oppinut riittävästi malleja voidakseen tuottaa hyödyllisiä vastauksia monilla eri alueilla.
Kielimalli voi käsitellä muutakin kuin tekstiä
Vaikka kielimallin perusidea on helpointa selittää tekstin avulla, tekoälymallit voivat käsitellä myös esimerkiksi kuvia, ääntä ja muuta niille annettua tietoa.
Perusperiaate on kuitenkin samankaltainen: järjestelmä muuttaa saamansa tiedon sellaiseen numeeriseen muotoon, jota malli pystyy käsittelemään, ja etsii siitä oppimiaan yhteyksiä ja rakenteita.
Siksi tekoäly voi esimerkiksi tarkastella kuvaa, lukea asiakirjan tai käyttää tietokoneen muita ohjelmia pelkän tekstikeskustelun lisäksi.
Mitä tapahtuu, kun kysyt siltä jotain?
Oletetaan, että kysyt:
Miksi taivas on sininen?
Malli vastaanottaa kysymyksesi ja käsittelee sen yhdessä muun käytettävissä olevan asiayhteyden kanssa.
Sen jälkeen se laskee useita mahdollisia tapoja aloittaa vastaus.
Se valitsee yhden pienen osan.
Sitten se laskee seuraavan osan.
Ja sen jälkeen seuraavan.
Tämä jatkuu, kunnes vastaus on valmis.
Malli ei yleensä hae valmista vastausta jostakin tallennetusta paikasta.
Se muodostaa vastauksen samalla kun sitä tuotetaan.
Laskutoimitukset tapahtuvat niin nopeasti, että vastaus voi ihmisen näkökulmasta vaikuttaa siltä kuin se tulisi niin sanotusti ”kuin suoraan kaupan hyllyltä”.
Miksi tekoäly voi olla väärässä?
Koska malli on suunniteltu tuottamaan todennäköinen ja hyödyllinen jatko annetulle tekstille.
Todennäköinen vastaus ei kuitenkaan aina ole tosi.
Yleisissä asioissa opitut yhteydet voivat olla hyvin vahvoja.
Esimerkiksi:
Japanin pääkaupunki on Tokio.
Jos taas kysyt hyvin harvinaisesta tapahtumasta, henkilöstä, kirjasta tai tieteellisestä tutkimuksesta, malli voi tuottaa uskottavalta kuulostavaa, mutta virheellistä tietoa.
Tätä kutsutaan usein hallusinaatioksi.
Tärkein asia on tämä:
Hyvin kirjoitettu vastaus ja faktuaalinen oikeellisuus eivät ole sama asia.
Vastaus voi kuulostaa selkeältä ja vakuuttavalta ja silti sisältää virheen.
Tärkeät faktat kannattaa siksi tarkistaa luotettavista lähteistä.
Mallin kouluttaminen ja käyttäminen ovat eri asioita
Koulutus on prosessi, jossa malli oppii.
Koulutuksen aikana sen sisäisiä numeerisia arvoja muutetaan jatkuvasti.
Kun koulutettu malli otetaan käyttöön ja se alkaa tuottaa vastauksia, tätä vaihetta kutsutaan inferenssiksi.
Normaalissa käytössä annat koulutetulle mallille tietoa, ja se tuottaa vastauksen sen perusteella, mitä se on aiemmin oppinut ja mitä nykyisessä keskustelussa on mukana.
Keskustelu tekoälyn kanssa ei tarkoita, että malli kouluttaisi itseään jokaisen viestin perusteella.
Mitä konteksti tarkoittaa?
Malli voi käyttää myös tietoa, joka ei kuulunut sen alkuperäiseen koulutukseen.
Voit esimerkiksi antaa sille:
- asiakirjan
- taulukon
- sähköpostin
- aiempia viestejä
- hakutuloksia
- tietoa toisesta järjestelmästä
Tätä tilapäisesti käytettävissä olevaa tietoa kutsutaan kontekstiksi.
Jos annat mallille yrityksen raportin, se voi analysoida raporttia, vaikka se ei olisi koskaan nähnyt sitä aikaisemmin.
Tämä on eri asia kuin koulutuksen aikana opittu tieto.
Miksi ulkoiset työkalut ovat hyödyllisiä?
LLM on paljon luotettavampi, kun se voi käyttää erikoistuneita työkaluja.
Esimerkiksi:
- hakutyökalu voi löytää ajankohtaista tietoa
- laskin voi tehdä tarkkoja laskutoimituksia
- tietokanta voi antaa tarkkoja yritystietoja
- kalenteri voi näyttää todellisen aikataulusi
- ohjelmistotyökalut voivat suorittaa ja testata ohjelmakoodia
Näin mallin ei tarvitse arvailla silloin, kun tarvitaan tarkkaa tai ajankohtaista tietoa.
Jos esimerkiksi kysyt:
Mikä on tämän päivän valuuttakurssi?
hyvän järjestelmän pitäisi tarkistaa tieto ajantasaisesta lähteestä sen sijaan, että se luottaisi vain siihen, mitä malli on aiemmin oppinut.
Mikä on tekoälyagentti?
Tekoälyagentti on järjestelmä, jossa kielimalli voi tehdä tehtävän useassa vaiheessa sen sijaan, että se vain vastaisi yhteen kysymykseen.
Yksinkertainen keskustelu toimii suunnilleen näin:
Kysymys → Vastaus
Agentti voi toimia esimerkiksi näin:
Kysymys → Hae tietoa → Tarkista tulos → Tee seuraava vaihe → Muodosta vastaus
Jos agenttia pyydetään esimerkiksi etsimään sopiva hotelli, se voi hakea vaihtoehtoja, vertailla hintoja ja sijainteja, karsia huonosti sopivia vaihtoehtoja ja esitellä lopuksi parhaat vaihtoehdot.
Kielimalli ohjaa työskentelyä, mutta voi käyttää apunaan muita työkaluja, kuten nettiselainta, laskinta, kalenteria tai muita ohjelmistoja.
Uusimmat mallit, kuten GPT-6 Astra ja Grok 4.6, on suunniteltu juuri tällaisiin monivaiheisiin tehtäviin, joissa malli käyttää työkaluja ja jatkaa työskentelyä niiden antamien tulosten perusteella.
Miksi tekoäly voi olla erittäin hyvä yhdessä tehtävässä ja huono toisessa?
LLM:t eivät ole yhtä luotettavia kaikentyyppisissä tehtävissä.
Ne ovat usein erittäin hyviä esimerkiksi:
- selittämisessä
- tiivistämisessä
- tekstin uudelleenkirjoittamisessa
- kääntämisessä
- tekstin käsittelyssä
- ohjelmakoodin tuottamisessa
- tiedossa esiintyvien mallien löytämisessä
Ne voivat olla epäluotettavampia tehtävissä, joissa tarvitaan:
- täsmällistä faktojen muistamista
- ajankohtaista tietoa
- tarkkoja laskutoimituksia
- hyvin pitkiä päättelyketjuja
- tietoa, joka oli koulutusaineistossa harvinaista tai puuttui kokonaan
Tämän vuoksi hyvät tekoälyjärjestelmät yhdistävät kielimalleihin muita työkaluja ja tiedon tarkistusmenetelmiä.
Tiivistettynä
Suuri kielimalli (LLM) on erittäin suuri matemaattinen järjestelmä, joka on koulutettu valtavilla tekstimäärillä.
Koulutuksen aikana se oppii yhteyksiä ja malleja.
Kun annat sille viestin, se käyttää oppimiaan malleja yhdessä nykyisen kontekstin kanssa laskeakseen, mitä tekstiä seuraavaksi pitäisi tulla.
Se toistaa tämän prosessin monta kertaa ja muodostaa näin vastauksen.
Tämä on perusidea.
Järjestelmä voi vaikuttaa erittäin kyvykkäältä, koska kieli sisältää valtavan määrän tietoa maailmasta. Kun malli oppii kielessä esiintyviä malleja, se oppii samalla monia hyödyllisiä yhteyksiä eri asioiden ja ajatusten välillä.
Se ei kuitenkaan ole automaattisesti oikeassa.
Se toimii parhaiten silloin, kun sen vahvuudet yhdistetään luotettavaan tietoon, ulkoisiin työkaluihin ja faktojen tarkistamiseen.