IN EVIDENZA
l’analisi
IN EVIDENZA
TECNOLOGIA OSTILE O RESPONSABILE? DIPENDE DA NOI
Come poter creare tecnologia nel modo giusto, responsabile, rispettoso dei singoli? Gli hackeraggi, i ransomware, le violazioni dei dati e gli attacchi DDoS sono protagonisti del racconto mediatico sulla tecnologia ostile, e indubbiamente possono creare danni. Ma sono solo un tassello di un quadro molto più ampio ed esiste una tecnologia ben più ostile di quella degli attacchi informatici. Oggi i pericoli di una tecnologia sbagliata sono maggiori rispetto al passato. Se un sito di e-commerce ci raccomanda un prodotto per noi non interessante, ci basta semplicemente ignorarlo. Ma se un sito, usando una tecnologia di intelligenza artificiale, ci consiglia un farmaco sbagliato, allora le conseguenze possono essere gravi. A volte la tecnologia è ostile in modo del tutto involontario. I software di riconoscimento facciale che producono risultati imprecisi nell’identificare le donne di colore non vengono creati intenzionalmente, il problema sta nella base di dati utilizzati. Spesso non siamo bravi a comprendere quali saranno le conseguenze di una tecnologia sbagliata, perché ci focalizziamo solo sulle persone a cui quella tecnologia è rivolta o sul singolo problema da risolvere. Per questo dovremmo allargare lo sguardo, pensando non solo all’obiettivo o agli obiettivi specifici per cui quella soluzione tecnologica è stata cre-
ata, bensì all’impatto sulle persone, anche su quelle che non sembrano direttamente coinvolte. Dal mio ingresso in Thoughtworks, alla fine degli anni Novanta, ho visto l’azienda crescere da cento a undicimila persone, una crescita che è stata per lo più organica e solo recentemente alimentata dalle acquisizioni. Siamo nati con l’ambizione di voler rivoluzionare l’industria tecnologica, un’ambizione audace. Ma fin dall’inizio avevamo un’idea molto definita di come poter creare tecnologia in modo giusto. Guardavamo ai numerosi progetti di alto profilo che erano
Rebecca Parsons
falliti dopo aver mobilitato enormi investimenti e per noi rappresentavano tutto ciò che di sbagliato si può fare con la tecnologia. Quindi abbiamo iniziato a incapsulare nel nostro lavoro una nozione di tecnologia responsabile, sviluppata non solo per risolvere un problema ma anche in modo da agire creando il minor danno possibile. Alla base c’è la capacità di riconoscere le conseguenze non desiderate delle scelte che compiamo. Mettendo insieme tecniche strutturate, strumenti e metodi definiti da altri soggetti, abbiamo realizzato il Responsible Tech Playbook, una guida che aiuta le aziende a prendere decisioni migliori sulla tecnologia. Porsi delle domande è essenziale. I gruppi di persone che testano i prodotti e servizi in fase di sviluppo riflettono davvero gli utenti finali a cui ci rivolgeremo? E c’è un’adeguata rappresentanza? La qualità e l’accuratezza dei dati usati per alimentare le soluzioni data-driven è sufficiente, e i dati sono liberi dal bias? Nella progettazione, si tiene conto adeguatamente dell’usabilità e dell’accessibilità? Le scelte sono in linea con gli obiettivi di sostenibilità o potrebbero avere un impatto negativo sull’ambiente? Questo approccio rappresenta il modo in cui da sempre abbiamo sviluppato software. I metodi sono diventati più sofisticati negli anni ma il principio alla base è rimasto lo stesso: non fare la cosa sbagliata. Vogliamo sviluppare soluzioni tecnologiche che siano non soltanto utili, ma anche giuste. Rebecca Parsons, chief technology officer di Thoughtworks
11
