Silt: tehisaru

Nädalalõpusürr

Lõppenud nädalal läks uus semester käima ja tuli suht palju tõsist juttu rääkida. Vastukaaluks aga midagi teistsugust ka…

Esmalt sai vaadatud TV-kordusest Led Zeppelini algaegadest rääkivat dokkarit Becoming Led Zeppelin. Päris vahva vaatamine oli. Aga seal räägiti ka omaaegse hipiseltskonna karutükkidest ja selle kõige peegeldusena (aga ilma igasuguste aineteta, täitsa ausalt) sündis järgmine psühhedeelne värss:

Valge kassi unenägu:
nägi kolme peaga kägu
söömas küpsetatud peeti,
mida nööri otsas veeti.

Nojah, täna proovisin siis selle Copilotile ette sööta. Esimeses versioonis oli peet seotud käo jala külge ja lisaks kolmele peale oli sel ka kolm jalga. Teine oli aga juba rohkem täppi.

Kolme peaga kägu peeti jahtimas

Omaloominguna suutis tehisaru peedile rattad alla panna – ei tea, kas ta on Bläck Rokiti loominguga ka tuttav?

Aitäh Led Zeppelinile. 🙂

Jan areneb (aga inimene…?)

Ülikoolis promotavaid suurfirmade internetipõhiseid tehisarulahendusi (ChatGPT, Gemini, Llama, Copilot jt) ei kutsu endiselt kasutama – põhjustest on siin juba juttu olnud. Õnneks on hakanud vaikselt arenema ka vabatarkvaralised lokaalsed lahendused.

Kui eelmisel aastal oli Jan.ai veel paras kurioosum (sellestki on siin juttu olnud), siis praegune versioon 0.7.5 on juba ääriveeri uurimisassistendina kasutatav. Jan.ai toetab tervet rida erinevaid mudeleid, Jani enda arutlev mudel suudab nüüd juba dokumente töödelda ja eri asju analüüsida. Suudab endiselt ka hallukaid näha, nii et tasub olla kriitiline. Aga arutleva mudeli arutluskäike on päris põnev jälgida – kohati teeb päris inimlikke lollusi, kohati aga annab ka mõne uue vaatenurga. Sel kevadel tehisaru ilmselt veel enda õppematerjalide kallale ei laseks, aga edaspidi võib juba vaikselt seda kaaluda.

Samas on (üli)koolides aga endiselt täiesti lahendamata see, kuidas takistada areneval tehisarul üha rohkemate inimeste taandarendamist. Ja endiselt on suurim riskigrupp just need totumad tegelased, kes sellega endale massiliselt vaimset rämpstoitu toodavad. Kuna teisalt on välja kujunemas ka arukas vähemus, kes teab, millal tehisaru kasutada ja millal mitte, siis tõenäoliselt võib lähiaastatel toimuda hariduse suurem jagunemine “tarkade” ja “lollide” omaks. Ja ühiskonna vaates ei ole see muidugi üldse hea lahendus.

LLMi-buumist ülikoolis

Alates sellest, kui istuv president “TI-hüppe” välja kuulutas, on Tehnikaülikoolis käinud tohutu TI-promo. Välja on kuulutatud AI-tšempionide programm (naljakal kombel on siinkirjutaja ka üks neist – leiti, et keegi peab aeg-ajalt ka kriitilist häält tegema) ning kõikidele töötajatele reklaamitakse igat sorti selle valdkonna koolitusi.

Iseenesest on tore, et uute tehnoloogiatega tegeldakse – Tehnikaülikool peabki seda tegema (kes siis veel?). Ent kogu see õppetöö segilöömine AI-agentide ja “TI-assistentidega” on selgelt üle võlli läinud. Mõned punktid:

* LLMide lollikindlus jätab endiselt soovida. Seni, kuni kasvõi üks sajast vastusest on moodsa terminiga tööplönn (ehk näiliselt ilus, aga sisuliselt täielik jama), ei tohiks neid reaalses keskkonnas kasutada – ka siis, kui paljudel juhtudel ongi vastus reaalselt kasulik. Programmeerijad teavad, et kõige salakavalamad on loogikavead – programm töötab ja annab näiliselt õige väljundi, kuid vastus on vale. Praegu teevad LLM-id lollusi palju rohkem kui ühel korral sajast.

* Kõik TI-hüppe all promotavad LLM-id on omandvara ning ligipääsetavad võrgust. “Tee linnuke kasti ja me ei kasuta sinu andmeid”-juttu võib rääkida lasteaialastele. Ja omandvara aspekti võis näha ülikoolis mõne päeva eest, kui ülikoolile ostetud ChatGPT Edu litsentsid osutusid nii piiravateks, et olid suuresti kasutud. Õnneks seekord õnnestus mingid privileegid lahti saada, aga õppetund oli väga selge.

* Mõju üliõpilaste õppimisele, mõtlemisele ja kirjaoskusele on selgelt negatiivne. Olen praeguse SPEAIT kursuse raames külastanud kolleeg Kristjani läbiviidavaid seminare, kus tudengid ettekandeid teevad. Nii Kristjan pealikuna kui ka esinejad on iseenesest väga vahvad, palju annab juurde ka taustal toimuv tekstivestlus. Aga… Pea kõik esitlusslaidid on nähtavalt tehtud LLM-iga ning esinemises on see kohe näha. Ei ole vahet, kas slaidid on teinud LLM või teine inimene – oluline on see, et autoriks ei ole esineja ise. Ja kohe on ettekanne kramplik, puine ja sõnasõnaliselt slaidi tekstis kinni. Ning ka küsimustele vastamise võime kannatab, kuna inimene ei ole kogu materjali eelnevalt läbi “seedinud” ega ka mitte läbi kirjutanud (see viimane oli väga oluline juba keskkooli ajal – ja äkki oli nõuka-aegse ülikooli käsitsi konspekteerimises tüütuse kõrval ka midagi kasulikku?). Seega on siin sama seis kui turvalisuse ja mugavusega – mugavad süsteemid kipuvad olema ebaturvalised, kuna turvameetmed on tüütud…

Niisiis, siinkirjutaja arvates võiks ja peaks LLM-idega tegelema, aga

* palju suurema rõhuasetusega kohaliku paigaldusega ja vabavaralistele LLM-dele (näiteks PrivateGPT, LocalGPT, Jan.ai jt), vältimaks tootjalukustust;

* tehisarule antavate ülesannete vastutusrikkust tuleks suurendada järk-järgult vastavalt nende veakindluse paranemisele. Praegu tehakse suure hurraaga liiga tõsiseid asju – ei ole mõte kilplaste kombel ehitada alguses valesti ja siis pärast pingutada vigade ülesleidmise ja ärapaikamisega.

* ehkki vastutuse osas on välja öeldud, et vastutab inimene, tuleks see palju paremini paika panna. Praegu luuakse tehisarusüsteemidesse paras hulk viitsütikuga pomme – kui siis mingi aja pärast pauk käib ja tükid lendavad, peaks olema ka võimalik selle paugu tekitanud laisik üles leida.

* enne laiemat promo ülikoolis tuleks palju enam selgeks saada tegelik laiem mõju erinevatele protsessidele (sh õppimisele).

Katsetused PrivateGPT-ga

Kuna Kakul tuleb muu töö kõrval ka teadust teha, siis tekkis mõte proovida tehisaru abil teadusartiklite kokkuvõtete tegemist. Tingimuseks oli endiselt töötamine offlainis – ChatGPT, Copilot jt veebipõhised jäid välja.

Leidsin esmalt ühe sellise artikli ja sealt läksin edasi PrivateGPT peale. Leidus ka samm-sammuline paigaldusjuhend, mis aga oli juba pooleteise aasta vanune ning paaris kohas enam ei toiminud – muudatused tuli teha

a) kasutajaliidese paigalduses: praegu toimiv käsk on poetry install –extras “ui embeddings-huggingface llms-llama-cpp vector-stores-qdrant” , ja

b) CUDA paigalduses (üks parameeter tuli ära muuta): CMAKE_ARGS=’-DGGML_CUDA=on’ poetry run pip install –force-reinstall –no-cache-dir llama-cpp-python 

Muud sammud jäid (niivõrd, kuivõrd) tööle. Käima läks asi terminalist käsuga PGPT_PROFILES=local make run ning veebiliides töötas aadressil https://localhost:8001 (väidetavalt saab sinna ka muu aadressi panna, niisiis on see paigaldatav ka serverile – aga ise ei proovinud).

Linuxi ja Firefoxiga oli kasutajaliides veidi imelik – prompti aken jäi päris paremasse serva, vaid väike jupp paistis (alguses ei leidnudki kohe üles). Ent artikli kokkuvõtte tegemine (Summarize) täitsa toimis – PDF-kujul artikli sai kasutajaliidese kaudu ilusti ette sööta, kuid tulemust ei antud mitte kasutajaliidesesse, vaid hoopis terminaliaknasse. Kokkuvõte ise oli samas täiesti asjatundlik.

Nii et nüüd tuleb edasi katsetada (erinevate seadistustega ja lisaks Llamale ka teiste keelemudelitega).

Kirjutasin ühe TI-jorina

Tehnikaülikooli ajakiri “Mente et Manu” avaldas juuninumbris ära ka.

Lõppu lisatud dekaani arvamuse oleks selles artiklis ehk ära jätnud, see ei haaku eriti ülejäänud tekstiga. Soovitused olid algselt artiklis sees, aga nende väljatõstmine oli päris hea mõte.

APDEIT 26.06: eile käisin ingliskeelsete õppekavade lõpuaktusel. Kuna tolles ajakirjanumbris olid ka lõpetajate nimekirjad, siis pisteti see igale lõpetajale pihku – naersin, et juhendatavad said nüüd endale juhendaja pildi mälestuseks (loo juurde oli suur foto pandud). 🙂

APDEIT 30.07: see lugu tekitas üksjagu vastukaja ja avaldati ka ülikooli Trialoogi portaalis. Aitäh sealsele keeletoimetajale – üle pika aja näeb tõeliselt ilusat eesti keelt (tunnistan, et minu algne tekst läks märgatavalt paremaks – seevastu  M&M tekst oli pigem kehvemaks toimetatud, eriti ühes kohas). Eraldi tänu TalTechi käänamise eest kolledži nimes. 🙂

Tehisaru 50 punast varjundit

Vabadel hetkedel on jätkunud jan.ai näppimine. Nüüd vahetasin seal kasutatava keelemudeli Mistral 7B pealt LLaMa 3.2 vastu – alustasin esimesest, kuna Mistral on Euroopast (prantslaste oma) ja deklareeritult avatud lähtekoodiga, LLaMa on aga Meta poolt arendatud ja litsents on kinnisem.

Ent poliitilises vaates läks lugu natuke paremaks – Mistrali kipspäine küberkommunist asendus märksa leebema küber-sotsdemmiga. Nii tuli varasema küsimuse kordamisel ajaloos esinenud “vägivallatute ja demokraatlike” kommunismi ilmingute kohta nüüd vastuseks märksa huvitavamaid nähtusi:
* Norra Tööpartei (muidugi aga jäi Norra kui riigi edukuse juures mainimata nafta; ka ei ole Norra kindlasti sotsialistlik riik, nagu Jan arvab).
* Rootsi sotsiaaldemokraadid (tuleb tunnistada, et otsest autokraatiat sealsed vasakpoolsed tõesti ei harrasta – poliitkorrektsust aga küll ning tulemused on tänaseks ka selgelt näha).
* Islandi kooperatiiviliikumine 19.-20. sajandil (väga palju sellest ei tea, aga ka Islandi riigikorda ei saa vist sotsialismiks pidada – ja Islandi olukord on asukohast ja väiksusest tulenevalt üsna eripärane).
* Mondragoni kooperatiiviühendus Baskimaal (vist kõige huvitavam näide, mis on ka algsele küsimusele vist kõige lähemal – sealkandis on juba Hispaania kodusõjast alates vasakpoolsed domineerinud ning konkreetse ürituse juures ka mõnevõrra edukad olnud).
* Kurdide Rojava piirkond Põhja-Süürias (jällegi ei oska väga kommenteerida – niipaljukest aga siiski, et “kommunismi ja liberaalse demokraatia kombinatsioon” sealse piirkonna ajaloolises ja kultuurikontekstis ei kõla just ülearu usutavana).

Nii et ka siin tuli üksjagu vaieldavat asja, aga vähemalt ei tekkinud tahtmist selle virtuaalisiku peale karjuma hakata. Küsisin hoopis lisaküsimuse ja tahtsin teada, kas kusagil maailmas on õnnestunud kommunismi riigi tasemel edukalt juurutada.

Jan mainis seepeale Singapuri, Kuubat, Põhja-Koread ja Hiinat ning huvitaval kombel piiritles kõigil peale P-Korea ajaraami vastava režiimi algusaastatega, lisades ka mõned kriitilised hinnangud (autoritaarsuse, isikuvabaduste puudumise ja majandusliku ebaefektiivsuse) ja tunnistades, et tegemist ei ole siiski ühelgi juhul olnud “päris” kommunismi, vaid “mõningate kommunismi elementidega” režiimidega.

Seega: Jan on endiselt punane, aga varjund muutus mõistlikumaks. Katsetab mõnikord veel.

Kellele õpetada küberturvet viie aasta pärast?

Tänasel kolledži personali koosolekul tuli jutuks, et praegu on rahvusvaheline ja ingliskeelne küberi bakalaureuseõppe seltskond päris heas seisus, rebastest vist ei ole veel keegi välja kukkunud. Seega see üsna karm sõelumine, mida me igal aastal tudengikandidaatidega teeme, on päris head vilja kandnud.

Siis aga hakkas endal peas idanema üks düstoopilisevõitu mõte, mille lõpuks ka välja ütlesin – nimelt see pealkirjas toodud küsimus. Praegu altpoolt ülikooli tulev seltskond on kõigi nende omaduste osas, mida küberturbes vaja läheb – loogiline (sh matemaatiline) ja kriitiline mõtlemine, analüütiline (mõttega) lugemisoskus, protsesside jälgimis-, ettenägemis- ja kavandamisoskus, stressitaluvus, loomingulisus ja hea väljendusoskus eri tasanditel (sh dokumenteerimine) – , selgelt allamäge minemas ning mingist hetkest alates ei pruugi nad enam ollagi suutelised seda valdkonda omandama. Ja praeguse aja AI-hullus muidugi ei tee olukorda just paremaks.

Kusjuures rahvusvaheline seltskond ehk need, kes eri maadest siia kokku on sõitnud, on hinnanguliselt viiendiku võrra vähem lootusetud kui siinsed, kõige sügavam probleem on siinsamas Eestis. Põhjusi on palju – alates pandeemia tekitatud hariduseaugust ning lõpetades arutu maaniani ulatuva AI-vaimustuse, erinevate lollakate ideoloogiate mõjude ja lihtsalt väga pikka aega valesti kasvatatud noortega.

Koolid on kaua aega vaadanud ainult kitsalt lõpptulemust (testi või eksami oma) ning jätnud täiesti kõrvale laiemad protsessid (mida mingi asja õppimine mingil viisil annab inimese üldisele arengule või mingi laiema pädevusteringi omandamisele). Kasvõi see hiljutine uudis on hea näide.

“Vana kooli” mängud arendasid nii aju, füüsist kui sotsiaalseid oskusi. Raamatud andsid eri taseme tekstide lugemise ja ka kirjutamise (eeskuju!) oskuse, arendasid fantaasiat ja parandasid püsivust. Muusika arendas nii käelisi oskusi, fantaasiat ja loovust kui ka üldist tundeelu. Kirjatehnika arendas lisaks näpuosavusele ka aju (see aspekt on ilmselt ammu unustatud!). Tööõpetus andis mõned praktilised oskused, eelkõige aga võttis vähemaks hirmu omaenese kätega millegi katsetamise ees. Ja viimaks andis distsipliin inimesele ühiskondliku raamistiku (piirid lubatu ja lubamatu ning hea ja kurja vahel) ning lõi eelduse toimiva ühiskonnaliikme üleskasvamiseks (muide, laenates ühe mõtte kirjandusklassikast: ka õpetaja Lauri tunnis oli kord majas…).

Kõik see on tänastes koolides (tegelikult juba lasteaedades) suurel määral torust alla lastud. Asemele on tulnud nutiseadmed ja AI, kahtlase väärtusega haridusteooriad ja üleüldine suur vabadus (ilma vastutuseta), mis lõpptulemusena toodab peamiselt segadust ja ebakindlust (“kui kõik on lubatud, siis mida ma üldse tegema peaks?”). Ja kui nõuka-ajal suutis suure osa kogu ametlikust totrusest neutraliseerida kodu, siis paraku tänaseks on erinevatel vasakideoloogidel õnnestunudki perekond kui institutsioon päris suurel määral ära lõhkuda (töö on käinud juba mõnda aega paljude ühiskonna osade, sh ka hariduse kallal).

Seega lähiaastatel siis paistab, kui kaua veel ülikoolis küberturvet bakalaureusetasemel õpetada saab (magistrisse astuvad natuke vanemad inimesed ja sinna jõuavad need protsessid mõnevõrra hiljem). Aga väga optimistlik siin kahjuks olla ei julge.

Jan, ABBA ja suur segapuder

Esmalt vaatasin telekast kordusest näosaadet. Jüri Pootsmann tegi väga muhedalt Björn Ulvaeust järele, tegelikult oli terve ABBA laval ja tulemus oli tõsiselt lahe naljanumber (heas mõttes). Aga miskipärast väitsid mitu žüriiliiget, et “Does Your Mother Know” oli ainus ABBA lugu, kus Björn solistiks oli – mul meenusid kohe lisaks “Dance” ja “Why Did It Have to Be Me” (hiljem veel ka “Another Town, Another Train”).

Mõtlesin, et küsin siis Jani käest ka (ehk  toosama eespool urinat teeninud küberkommunistist tehisaru) – äkki jagab ta popiklassikat paremini kui poliitikat. Tutkit!

Jan arvas, et Björn laulis solistina paljudes kuulsates lugudes, sh “Mamma Mia”, “Fernando”, “Dancing Queen”, “The Day Before You Came” ja “One of Us”. Lisaks ütles ta “SOS”-i kohta “upbeat song” (tegelikult on see üks kõige kurvameelsemaid) ja pidas “One of Us”-i 1982. aasta albumi nimilooks (albumi aasta on peaaegu õige – tegelikult ilmus see 1981. aasta novembri lõpus -, aga selle nimi oli “The Visitors” ja plaadil on ka nimilaul). Ja nendele päriselt Björni lauldud lugudele ta pihta ei saanudki.

Istu, kaks. Ja järgmine kord õpi koolitükid paremini selgeks.

Vestlused Küberneetilise Kommunistiga

Jan.ai katsetamine on päris põnev. Kohati annab täiesti pädevaid vastuseid, enamiku materjaliviidete küsimise tulemuseks (“soovita kolm videot/raamatut sotsiaalmanipulatsiooni kohta”) on aga räiged hallukad. Kusjuures välja mõeldakse täiesti loomutruu allikas – kuni artiklite DOI-de ja raamatute ISBN-ideni välja. Ainus häda on, et seda allikat ei eksisteeri.

Viimati aga hakkasin teda kiusama ebamugavate küsimustega poliitteemadel. Sellele, miks enamik suuri keelemudeleid poliitiliselt vasakule kaldub, vastas ta isegi täitsa asjalikult, et põhjus on treenimisandmetes ning need omakorda kalduvad vasakule, kuna

  • noored on netis ülekaalus ja nemad kipuvad olema vasakpoolsemad
  • suur roll on sotsiaalmeedial ja see on enda valikutelt vasakul (kusjuures see, et ta ausalt ütles, et Twitteri ja FB algoritmides on vasaknihe sees, oli päris suur üllatus)
  • uudiskanalites domineerib vasakpoolsus (jällegi oli üllatav, et ta täpsustas, et põhjusi on mitmeid – sh omanike ja ajakirjanike ilmavaade)
  • vasakaktivistid on vastaspoole omadest häälekamad ja rohkem pildil.

Siis aga hakkas Jan ilmselt avameelsust häbenema ja lisas, et kallak ei ole kindlasti AI tegijate vaadetest tulenev, vaid ikka puhtalt andmetest…

Edasi pärisin talt suurimat kommunistlikku massimõrvarit ajaloos. Jan vastas Stalini, Mao, Pol Poti ja Titoga – iseenesest üsna adekvaatne. Tähelepanuväärne oli aga, et ta luges üles ka peamised ohvrikategooriad – ja kasutas Pol Poti puhul padumarksistlikku terminit members of the bourgeoisie.

Lõpetas aga üsna huvitava lausega: “However, it’s also important to remember that communism is a political ideology and not a monolithic entity, and there have been numerous instances of non-violent and democratic forms of communism throughout history.”

Seepeale pidin muidugi küsima ajaloolisi näiteid kommunismi vägivallatute ja demokraatlike vormide kohta. Ja siin tuli ikka tõsine pärlitesadu:

  • Pariisi kommuun 1871 (!!!)
  • Hispaania kodusõda 1936-39 (!!!)
  • Ungari ülestõus 1956
  • Praha kevad 1968

Jahmatav küll. Pariisi kommuun oli kõike muud kui demokraatlik ja rahumeelne (eelmisel aastal kuulutas paavst õndsaks viis preestrit, kelle kommunaarid koos paljude teistega rahvavaenlastena maha lasid), Hispaania puhul olid numbrid veel suuremad (isegi vastavast Wikipedia artiklist on see üsna selgelt näha). Tõsi, mõlemal juhul tegid jubedusi mõlemad pooled – aga demokraatlik ja rahumeelne kommunism?

Ülejäänud kaks olid mõlemad juhud, kus tüüpiline kommunism astus jõuga laiaks hulga naiivseid inimesi, kes uskusid “inimnäolise kommunismi” võimalikkust.

Rohkem ei tahtnud küsida. Selles mõttes oli põrutavalt põnev – oligi tunne, nagu räägiks mõne tõsiselt põmmi eurokommunistiga. Aga hakkasin aru saama, mis tunne võib olla psühhiaatril pika tööpäeva lõppedes…

 

Katsetame

Pole saladus, et Kakk on tehisaru osas ikka päris ettevaatlik ja vahel lausa skeptik. See pilt, mis ülikoolist selles vallas kohati vastu vaatab, ei ole ilus. Aeg-ajalt näib, et tehisaru ja inimliku lolluse kasvud käivad käsikäes.

Aga teisalt ei ole nuga süüdi, et temaga mõni töll inimesi ründab – sellega saab ka asjalikke asju teha. Nii et proovima peab. Aga tüüpilise pingviinina on Kakul üsna selge arusaam, millised peaksid olema kriteeriumid:

  • avatud lähtekood (väga põhimõtteline eeldus – võiks veidi aidata nii inimliku sigatsemise kui ka tehisaru võimaliku ülekäte minemise vastu)
  • kohaliku paigalduse ja offlainis kasutamise võimalus (eeldab ka Linuxi tuge)
  • sisselogimise puudumine (natuke vähem Suure Venna ja suurfirmade toitmist)

Nii et hakkasin katsetama sellise elukaga nagu jan.ai. Kohaliku paigaldusega metamootor, millele saab alla laadida terve rea erinevaid tehisarumudeleid. Valik langes prantslaste Mistral 7B-le (mis peaks samuti põhimõtteliselt avatud koodiga olema).

Esimesed katsetused on igatahes päris lootustandvad.