Puheenvuoro-blogit
Oppiiko tekoäly antamistasi vastauksista?
Tekoälyä ei voi opettaa muuta kuin viemällä saunan taakse ja lopettaa.
Ei vaiskaan.
Raimo Ilaskivi kirjoitti blogin ”Korjasin tekoälyn virheen” jota kommentoin.
https://puheenvuoro.uusisuomi.fi/raimoilaskivi/korjasin-tekoalyn-virheen/
Koska asia on mielestäni tärkeä ja ajankohtainen, teen vastauksestani oman blogin ”spin-offina” tälle Ilaskiven blogille.
Nykyinen tekoäly ei muuta kannassaan olevaa dataa interaktiivisesti (tavallisen) käyttäjän vastausten tai ilmoitusten perusteella.
Voit kyllä vaikuttaa viiveellä tekoälyn tietoon – jos olet aktiivinen.
Syitä on useita tärkein lienee taloudellinen: dynaamisen verifiointiprosessin rakentaminen on vielä liian kallista, vaikka on todennäköisesti käynnissä tai kehitysohjelmassa.
Kielimalli on opetettu luojiensa/ylläpitäjien toimesta heidän valitsemallaan datalla. Tämän lisäksi AI käyttää dynaamista tietolähdehakua. Nämä kolme, opetusdata + dynaaminen tietohaku + mallin sisäinen päättely muodostavat kielimallin kehittyneisyyden ohella AI:n ”älyn”.
Vain auktorisoidut kannan ylläpitäjät ja kehittäjät voivat muuttaa dataa.
Käyttäjä voinee tehdä virallisen ilmoituksen/pyynnön korjauksesta osoitteeseen joka löytynee tekoälyn sivuilta.
Ylläpito julkaisee tekoälystä aika-ajoin uusia versioita joissa myös opetusdatan sisältöä on yleensä päivitetty.
Mikä tarkkaan ottaen on uusintamisprosessi, on tekoälykohtainen.
Itse en ole vaivautunut yhtään ilmoitusta tekemään.
Copilot antoi taannoin seuraavan vastauksen ja kehoitti olemaan aktiivinen kun kysyin korjaako tämä välittämänsä väärän tiedon:
- Et voi “opettaa” mallille uutta faktaa suoraan palautteella.
- Et voi korjata mallin koulutusdataa reaaliaikaisesti.
- Et voi vaikuttaa mallin sisäiseen tietopohjaan ilman fine‑tuningia tai uudelleenkoulutusta.
- Palautteesi menee ylläpitäjien järjestelmiin, ei suoraan mallin muistiin
(Copilotin vastaus)
Logiikka saattaa vaihdella tekoälystä riippuen.
Tekoäly varmasti on kehittymässä siihen suuntaan että se kykenee entistä paremmin hyödyntämään käyttäjien palautetta liittämällä siihen jokin automatisoitu verifiointiprosessi.
Tiedemiehenä Ilaskivi tietää että tieteen yksi ylivoimatekijä ihmisen tiedon kumuloijoina on itseään korjaavuus, avoimuuden ja toistettavuus -vaatimusten ohella.
Tieteellinen tieto korjaa itseään siten että tiedeyhteisö on tässä ”filtterinä” ja verifikaattorina. Tiedeartikkeleissa ja opinnäytetöissä vertaisarviointi noudattaa myös tätä logiikkaa.
Kun tekoäly tulevaisuudessa muodostaa globaalin, keskenään verkottuneen ”tiedeyhteisön” joka jatkuvasti, dynaamisesti korjaa itseään, siitä tulee ylivoimainen.
Uuden Suomen blogipalvelussa bloggaajat julkaisevat tekstinsä itse ja niissä esitetyt näkemykset ovat kirjoittajien omia.
Kommentit (3)
Kommentoi
Sinun täytyy kirjautua sisään, jotta voit kommentoida.Uutiset/Nostot
”Kun tekoäly tulevaisuudessa muodostaa globaalin, keskenään verkottuneen ”tiedeyhteisön” joka jatkuvasti, dynaamisesti korjaa itseään, siitä tulee ylivoimainen.”
Ei sitä mikään tekoäly tee vaan data.
Ja tuo on muuten keksitty. Wikipedia on varsin lyömätön. Jos korjaa detaljit sinne niin parin vuoden kuluttua se on helposti kielimalleissa.
Kielimallien kehitys kyllä aivan varmasti painottaa tulevaisuudessa enemmän koulutusdatan laatua eikä määrää.
Ilmoita asiaton viesti
”Ei sitä mikään tekoäly tee vaan data.”
Kyllä sen tekee ohjelmisto ja kielimalli sekä hardware, data on raaka-ainetta.
”Ja tuo on muuten keksitty. Wikipedia on varsin lyömätön. Jos korjaa detaljit sinne.”
Puhumme nyt eri asiasta johon viittaan blogissa.
Ilmoita asiaton viesti
Niin kyllä siellä chatboteissa on ne peukutusnapit ja tietoa kerätään jo mallin parantamiseksi myös käyttäjiltä.
Mutta kerronpa mikä tämän seuraus on: Malleihin tulee vinouma että tekevät sellaisia vastauksia mitkä miellyttävät ihmisiä. Ei välttämättä oikea vastaus, vaan kysyjää miellyttävä. Tämän takia on chatboteille kysymys kannattaa esittää puhtaalla kontekstilla sama kysymys myös päinvastoin, että pyrkii saamaan vahvistusta päinvastaiselle käsitykselle. Helposti huomataan, että täysin sama malli on vaihtaa mielipidettä kuin Donald Trump atlantin ylityksen jälkeen.
Toisin sanoen, ei oikeastaan toimi hyvin. Pitää nyt ymmärtää jos koulutusmateriaalina on kirjaimellisesti myös Reddit ja käyttäjien peukutukset että mitä sieltä tulee sitten pihalle.
Oikeasti homma paranee parantamalla koulutusdataa ja vähemmän sitä sotkua.
Sitten on se tietosuoja toki. Google sanoo että maksavien yritysasiakkaiden syötettä ei käytetä koulutuksessa, oletan että Microsoftilla ihan sama.
Claude taas on tavan vakoilukone.
Pääsääntöisesti frontier malleissa on kaikissa pahoja vinoumia. Pienemmät mallit joita on tislattu ja valikoitu puhtaampaa dataa ovat sitten antavat generalisoidumpaa vastausta ja vähemmän vinoumaa. Jos haluaa tehdä vähän laadukkaampaa vehjettä niin sitä oikeasti antaa sen puhdistetun datan RAG:n siihen kylkeen ja mallin jonka koulutusdata on puhdasta.
Ilmoita asiaton viesti