Algoritmi contro i pregiudizi

chiedere a GPT-3, versione precedente di ChatGPT, di analizzare le parole usate nel coprire il fatto di cronaca, dimostrando «come un modello linguistico ideato per generare testi può essere usato anche come strumento di ricerca per analizzarli». Un approccio innovativo e interdisciplinare che l’ha portata a essere premiata tra gli studenti più promettenti di tutti gli Stati Uniti.

Quando alla premiazione ha sentito il suo nome chiamato sul palco non poteva crederci. «Ero scioccata, come mai in vita mia», dice Emily, «oltre che del riconoscimento, sono onorata di aver mostrato che la ricerca sulle scienze sociali è ricerca a tutti gli effetti».

Emily amministra un’organizzazione no-profit, la Girls Computing League, che contribuisce a fornire un'istruzione di alta qualità nelle discipline tecnico scientifiche a persone di ogni estrazione sociale. Crede nella giustizia sociale e negli sforzi per rendere il mondo un posto più equo, ma la sua passione nel voler contribuire era soffocata dal fatto che «i gruppi di ricerca in economia, scienze sociali e sociologia in genere non accettano studenti delle scuole superiori», continua la studentessa. «Dovevo essere in grado di contribuire con un'abilità o un'idea nuova, non avevo un dottorato o esperienze di ricerca».

Non solo creazione di contenuti, le AI generative offrono diverse opportunità di sperimentazione

INNOVAZIONE

di Enzo Panizio

Gli algoritmi di intelligenza artificiale replicano i pregiudizi degli umani e spesso li amplificano. La ricerca lo ha rilevato da tempo: le macchine sono costruite per emulare il comportamento delle persone e, nel farlo, imitano anche gli atteggiamenti discriminatori che emergono dai dati usati per addestrarle. C’è chi ha dimostrato, però, che è possibile usare l’AI anche come strumento per riconoscere le discriminazioni.

«Io volevo capire come i media parlano delle minoranze, usando l’intelligenza artificiale in un modo nuovo», dice Emily Ocasio, 18 anni, studentessa alla New School del Northern Virginia (ma già ammessa alla Stanford University).

Emily ha provato che algoritmi e reti neurali possono essere validi alleati per riconoscere i pregiudizi delle nostre società. Le sue intuizioni le sono valse il se- condo posto al Regeneron Science Talent Search, il più antico e prestigioso riconoscimento per studenti di matematica e scienze negli Stati Uniti, che prevede un premio da 175.000 dollari.

Il suo progetto ha provato che i minorenni vittime di omicidio ricevevano un trattamento diverso dai giornali a seconda del colore della pelle: i ragazzi bianchi erano più «umanizzati» nel racconto dei giornali rispetto ai ragazzi neri, trattati invece in maniera impersonale. Emily ha analizzato, con l’aiuto delle macchine, oltre un milione di articoli di giornale, tutti quelli pubblicati dal Boston Globe, il quotidiano di Boston, tra il 1976 e il 1984.

Dopo una prima selezione, ha confrontato quelli utili alla sua ricerca con i corrispondenti report dell’FBI, nei quali venivano riportati i dati anagrafici delle vittime. Poi ha studiato dei comandi per

Il suo successo è dovuto all’approccio interdisciplinare, al fatto che sia riuscita a bilanciare l’aspetto informatico-statistico a quello sociologico. Emily ne è consapevole. «L’utilizzo di GPT-3 è stato fondamentale, ma lo è stato altrettanto l’approccio intersezionale e il modo sfumato di esplorare l'"umanizzazione" al di là del linguaggio razzista e dispregiativo». D’altronde lei ha detto alla macchina come effettuare le comparazioni, sfruttando la sua potenza statistica.

Ora spera di continuare la sua ricerca su dati più recenti e in autunno inizierà a frequentare l’università, «felice di essere in grado di coprire quasi tutte le tasse universitarie con i soldi del premio!».

Anche per questo dice di sentirsi fortunata, ma soprattutto perché ha avuto l’opportunità di coltivare «due passioni completamente diverse mentre era ancora al liceo, per poi essere in grado di unirle. Temo che la maggior parte dei liceali americani non abbia accesso a un'istruzione di alta qualità, figuriamoci in più campi». ■