HUMAL > Töövood > ERA fotoarhiivi ruumilised ja ajalised mustrid

ERA fotoarhiivi ruumilised ja ajalised mustrid

Käesoleva töövoo eesmärk on uurida Eesti Rahvaluule Arhiivi (ERA) fotokogu ruumilisi ja ajalisi mustreid ning muuta suur ja raskesti hoomatav andmestik kasutajale paremini uuritavaks interaktiivse visualiseeriva tööriista abil. Projekt keskendub ERA fotokogu ligikaudu 88 000 fotost koosneva kogu esimesele 10 000 mustvalgele fotole koos metaandmetega, mille põhjal analüüsitakse fotode jaotumist ajas, ruumis, märksõnades, kogumisprojektide, isikute ja fotograafide lõikes. Analüüsi aluseks olevad metaandmed saadi Eesti Rahvaluule Arhiivi digitaalsest fotokogust CSV-vormingus eksportidena. Asukoha puhul on suurem tähelepanu ajaloolistel kihelkondadel, sest paljude fotode asukohainfo on seotud kihelkonnaga või on geolokeerimine õnnestunud kihelkonnakeskpunkti tasemel.


Töövoog ühendab digihumanitaaria meetodeid, metaandmete analüüsi ja masinõpet. Kuna rakendusse ei lisata pilte autoriõiguste, andmemahu ja tehniliste piirangute tõttu, keskendub masinõppeline osa metaandmetega seotud märksõnade analüüsile. Selleks kasutati CLIP-teeki, et uurida, kas masin suudab tuvastada inimeste poolt määratud märksõnu ja määrata ka märksõnadeta piltidele kategooriad. Projekti tulemuseks on analüütiline raport ja Streamliti interaktiivne töölauarakendus, mis on kättesaadaval järgneval veebilehel: https://era-dashboard.streamlit.app/.

Töövoo sammud

Märksõnad: Avastamine, kontekstualiseerimine

Tutvutakse ERA fotokogu struktuuri ja metaandmetega: analüüsitakse olemasolevaid CSV-faile, väljade tähendusi, andmeformaate ning hinnatakse andmekvaliteeti. Erilist tähelepanu pööratakse sellele, milline ruumi- ja ajainfo on fotode juures olemas ning millised piirangud tulenevad ajaloolisest kogumispraktikast. Selle põhjal sõnastatakse uurimisküsimused: kuidas fotod jaotuvad ajas ja ruumis, millised märksõnad erinevates piirkondades korduvad ning kas andmestikus esineb kogumislaineid või piirkondlikke eripärasid.

Märksõnad: Andmete kogumine, korraldamine

Fotokogu metaandmed paiknesid mitmes tabelis. Koondamise käigus koostati üks suur tabel, mis hiljem grupeeriti omavahel seotud CSV-tabelitesse (nt fotode põhiandmed, märksõnad, isikud fotodel, asukohad). Tabelite omavaheliseks sidumiseks kasutatakse iga foto unikaalset tunnust – PID-identifikaatorit (numbrite ja tähtede jada). Ühtlustatakse veerunimed, andmetüübid ja andmestruktuurid. Lisaks luuakse analüüsi jaoks uued tunnused näiteks isikute ja märksõnade kategooriad. Ruumiandmete käsitlemiseks luuakse ühtne loogika: kui täpne geolokatsioon puudub, kasutatakse ajalooliste kihelkondade keskpunktide koordinaate.

Märksõnad: Andmete puhastamine, annoteerimine

Andmete puhastamine toimub iteratiivselt kogu töö vältel. Korrastatakse kuupäevad, kohanimed, isikunimed ja märksõnade kirjapildid. Suur osa puhastamisest toimub Google Colabis ning käsitsi OpenRefine’i keskkonnas. 517 algset märksõna koondati käsitsi OpenRefine’is 19 laiemasse temaatilisse kategooriasse, et vähendada kirjapildi varieeruvusest tulenevat müra ning võimaldada üldisemate sisuliste mustrite analüüsi. Kategooriad loodi andmestikus korduvate teemade põhjal, koondades sarnase tähendusväljaga märksõnad ühtsetesse temaatilistesse rühmadesse (nt inimese alla märgitakse esineja, koguja, laps, ämm jm).

Töövoog ei ole lineaarne, vaid iteratiivne — analüüsi ja visualiseerimise käigus ilmnenud probleemid tingivad vajduse pöörduda tagasi andmete puhastamise etappi.

Märksõnad: Analüüsimine, ruumiandmete analüüs, avastamine

Analüüsitakse fotokogu jaotumist ajas, ruumis ja teemades: millistes piirkondades ja perioodides on kõige rohkem fotosid, millised märksõnad domineerivad ning kuidas jaotuvad fotograafid ja kogumisprojektid. Mustrite tuvastamisel kasutatakse kirjeldavat statistikat, ajajaotusi, ruumilisi visualiseeringuid ja filtripõhist võrdlevat analüüsi.

Märksõnad: analüüsimine

Kasutatakse CLIP-teeki, et hinnata, kuivõrd hästi on olemasolevad 19 märksõnakategooriat masinõppeliselt eristatavad. CLIP on OpenAI loodud masinõppemudel, mis seob pildid ja tekstilised kirjeldused ühisesse tähendusruumi. Masinõppe eesmärk ei ole luua lõplikku automaatset märgendussüsteemi, vaid võrrelda olemasolevaid metaandmeid mudeli ennustustega ning hinnata, milliste teemade puhul suudab CLIP visuaalseid mustreid kõige paremini tuvastada. Tulemused aitavad hinnata metaandmete järjepidevust ja pakuvad alust tulevastele automaatsetele märgenduslahenduste arendamiseks.

Masinõppe tulemusi ei kasutatud automaatselt Streamliti rakenduse filtreerimissüsteemis, vaid neid käsitleti eraldi eksperimentaalse analüüsina olemasolevate metaandmete kvaliteedi ja järjepidevuse hindamiseks.

Märksõnad: Andmete visualiseerimine, disain

Luuakse interaktiivne töölauarakendus Streamlitis. Streamlit on Pythonil põhinev tööriist interaktiivsete andmeanalüüsi veebirakenduste loomiseks. Käesolev rakendus võimaldab kasutajal uurida fotokogu filtrite kaudu: fotograaf, märksõna kategooria, märksõna, isik fotol, žanr, ajavahemik. Rakenduse keskne osa on kihelkonnapõhine kaart, mis visualiseerib fotode ruumilist jaotust kihelkonnakeskpunktide abil. Lisaks kuvatakse ajalised jaotused ja statistilised kokkuvõtted. Rakendus võimaldab uurimistulemusi nii analüüsida kui ka avalikult esitleda ilma originaalfotosid kuvamata.

Märksõnad: Kontekstualiseerimine, avaldamine

Analüüsi tulemusi tõlgendatakse kultuuriloolises ja arhiivinduslikus kontekstis: kuidas kogumispraktikad, ajaloolised sündmused ja piirkondlikud eripärad kujundavad andmestiku mustreid. Kriitiliselt hinnatakse ka andmestiku piiranguid — kogumiskallutatust ja puudulikke metaandmeid.

Valminud töövoog, kood ja analüüs dokumenteeritakse GitHubis ja Kirjandusmuuseumi Webrepos. Koostatakse raport ja esitlus peamiste tulemuste kohta: ruumilised mustrid, ajaline jaotus, märksõnade esinemine ja masinõppe analüüsi tulemused.