Mašīnmācīšanās mācās atpazīt dezinformāciju
2023. gada 27. septembrī Latvijas Universitātē notika ideju konference “Informācija, puspatiesība, meli – kas ir kas?”. Ar priekšlasījumu “Izaicinājumi globālajā mediju monitoringā” konferencē uzstājās LU Datorikas fakultātes asociētais profesors, Matemātikas un informātikas institūta Mākslīgā intelekta laboratorijas vadītājs Normunds Grūzītis. Ar Normundu Grūzīti sarunājas Māris Zanders.
Ja
mēs paliekam jūsu priekšlasījuma tematiskajā lokā, tad pirmais jautājums ir šāds: vai, mēģinot pamanīt agresijas, naida runas izpausmes tīmeklī, algoritms – man vienkārši apnicis lietot apzīmējumu “mākslīgais intelekts” – pamana konkrētus vārdus – vai arī spēj novērtēt kontekstu? Paskaidrošu. Vārdi “vatņiks”, “fašists” – te viss it kā skaidrs. Tomēr ir, piemēram, neonacistu aprindās vesela šķietami nevainīgu jēdzienu
4
buķete. “88” – man un jums ir skaitlis. Noteiktās aprindās tie ir alfabēta burti pēc kārtas, kas nozīmē “Heil Hitler”. Tātad algoritms “saprot” nepārprotamas pazīmes – vai arī spēj “saprast” kontekstu? Patiesībā jau tieši konteksts ir tas, kas apmēram pēdējo gadu laikā ir “cēlis zirgā” visus šos mākslīgā intelekta modeļus. Agrāk patiešām konteksts, ko šie modeļi spēja aptvert, bija salīdzinoši neliels. Aptvērums pēdējo gadu laikā ir palielinājies no dažiem desmitiem vārdu līdz
vairākiem tūkstošiem vārdu, un šie modeļi strādā tik labi, ka spēj pamanīt kopsakarības. Proti, skaidrs, ka izolētam vārdam vai vārdu kopai – sauksim tādas par “atslēgvārdiem” – var dot tikai norādes par kādu potenciālu kontekstu. Savukārt tā sauktie transformeru tīkli tiek lietoti gan attēlu, gan tekstu, gan audio tekstu saprašanai. Labi. Ja turpinām runāt par to, cik pareizi tiek saprasts izteikuma konteksts, labs piemērs ir dažādu indivīdu sociālajās platformās,
