prova

nodes

Any 2019. Número 58 PVP: 3 euros

El butlletí de l’ACIA

Democràcia i Intel·ligència Artificial

Sumari Edita: Associació Catalana d’Intel·ligència Artificial (ACIA) www.acia.cat @acia_cat @AssocCatIA @acia_cat_rep Consell editorial: Marco Schorlemmer, (IIIA-CSIC), coord.

Ulises Cortés (UPC) Pilar Dellunde (UAB) Emilia López-Iñesta (UV) Javier Poveda (UAB) Eloi Puertas (UB) Josep Puyol-Gruart (IIIA-CSIC) Marc Torrens (ESADE-URL) Revisió ortogràfica: Núria Altés Dipòsit legal i ISSN: GI 1348/94 ISSN 2171-5602 ISSN 2014-5020 (internet) Copyright: Tots els autors identificats a cada article retenen els drets d’autor dels seus treballs. L’ACIA no es fa responsable de les opinions expressades pels seus socis o col·laboradors.

Editorial

pàgina 3

Ciència ficció L’elector únic i el candidat massa perfecte Miquel Barceló

pàgina 4

Tendències i futur Innovació en votació electrònica quan tenim el Blockchain Josep Lluís de la Rosa, Andrés El-Fakdi pàgina 7

Emprenedoria i empresa Democràcia electrònica – Seguretat i transparència: Scytl Jordi Puiggalí pàgina 13

Democràcia i Intel·ligència Artificial La IA en democràcia – De les grans dades a l’acció deliberada Enric Plaza pàgina 16 Democràcia, participació ciutadana i Intel·ligència Artificial Maite López-Sánchez, Patricio Escobar, Marc Serramià, Juan Antonio Rodríguez-Aguilar pàgina 22 El capitalisme de la vigilància Shoshana Zuboff

pàgina 30

Entrevista a... David Ferrer i Canosa Marc Torrens, Genís Cormand

pàgina 40

Què en pensen els socis?

Josep Puyol-Gruart

pàgina 43

Consell Rector de l’ACIA: President: Vicepresident: Secretari: Tresorera: Vocals:

2

Josep Puyol-Gruart David Riaño Marco Schorlemmer Eva Armengol Jaume Cunill Ramón Béjar Joaquim Meléndez Lledó Museros Eloi Puertas Albert Samà Martí Sánchez-Fibla

El butlletí de l’ACIA

Premi Marc Esteva Vivanco 2018 Aprenentatge de similituds entre parells d’objectes mitjançant classificació supervisada Emilia López-Iñesta pàgina 46

Editorial

De nou en paper Benvolguts socis, Benvolgudes sòcies, Després d’una aturada de quatre anys, tornem a publicar un nou número de NODES, el butlletí de l’ACIA, i ho fem amb una edició impresa en paper, tal com ho va aprovar l’assemblea general de l’associació l’octubre de 2018 a Peralada. Creiem que, a banda de l’exemplar en format digital, convenia tornar a disposar de la revista NODES en versió paper.

A diferència dels períodes anteriors del butlletí, ens hem posat l’objectiu d’editar només un número a l’any, coincidint amb la celebració del congrés de l’associació, el CCIA, i de dedicar aquest número anual a un tema central. Pel que fa a la imatge i el disseny, hem volgut ser fidels als números de NODES que s’havien publicat en paper entre els anys 2008 i 2010.

El número que teniu entre mans el dediquem a la relació entre Democràcia i Intel·ligència Artificial. Per abordar aquest tema comptem amb una contribució d’Enric Plaza i també de Maite López-Sánchez, Patricio Escobar, Marc Serramià i Juan Antonio Rodríguez-Aguilar.

A més, en Josep Puyol-Gruart ha traduït al català un fragment del llibre de Shoshana Zuboff The Age of Surveillance Capitalism, el qual es va publicar a inicis d’any. Les contribucions que configuren aquest tema central el conclouen l’entrevista que Marc Torrens ha fet al secretari de Polítiques Digitals de la Generalitat de Catalunya, David Ferrer, i els resultats recollits per Josep Puyol-Gruart d’una petita enquesta que vam fer a tots els socis i totes les sòcies de l’ACIA sobre la temàtica central d’aquest número.

A banda dels articles, l’entrevista i l’enquesta que formen el tema central, en aquest i els propers números de NODES també hi haurà diverses seccions fixes (però no sempre presents), per a les quals cercarem les persones col·laboradores oportunes. A diferència dels anteriors números de la revista, aquestes col·laboracions no cal que siguin sempre les mateixes, per així oferir més diversitat d’opinions i punts de vista. Aquestes seccions s’anomenen “Ciència ficció”, “Tendències i futur”, “Emprenedoria i empresa”, “Filosofia i pensament” i “Societat”. En aquest número hem comptat amb contribucions per a les tres primeres seccions: de Miquel Barceló, de Josep Lluís de la Rosa i Andrés El-Fakdi, i de Jordi Puiggalí, respectivament. Molt escaientment, les tres seccions guarden també relació amb la temàtica central del número, tot i que no sempre serà així.

Completem aquest número amb un article de divulgació del treball guardonat amb el Premi Marc Esteva Vivanco a la millor tesi doctoral en Intel·ligència Artificial, i que en la seva darrera edició va guanyar Emília López-Iñesta de la Universitat de València.

En nom del consell editorial voldria donar les gràcies a tots els autors de les contribucions que formen aquest número 58 de NODES, i restem a la vostra disposició per als suggeriments i les propostes que ens vulgueu fer arribar per als propers números del nostre butlletí.

Marco Schorlemmer

El butlletí de l’ACIA

3

Ciència ficció

L’elector únic i el candidat massa perfecte Miquel Barceló

Portada de la novela d’Isaac Asimov

4

El butlletí de l’ACIA

De fet, parlem d’Intel·ligència Artificial tan sols des de 1956. Fou en aquell any quan, en la trobada del Darmouth College a Hannover, es va encunyar (possiblement per part de John McCarthy) el nou terme Intel·ligència Artificial (IA), per tractar d’una mena de problemes (i solucions) que eren diferents al que s’estava fent fins llavors en el camp general de la informàtica.

Val a dir que, en aquells moments, poc es parlava de la intel·ligència de dofins i ximpanzés i, per tant, la referència era bàsicament la intel·ligència humana. Fet, tal vegada insospitat i inesperat, que va acabar creant unes expectatives molt altes i feu que el terme IA es convertís, possiblement, en el terme tecnològic amb major potencialitat de màrqueting de la història.

Això va portar, de manera del tot inevitable, a possibles (i per a alguns del tot desitjables) intervencions de la IA en la vida quotidiana. I, com era d’esperar, també en la democràcia.

La primera referència tradicional, imaginada fins i tot abans de la invenció del terme IA, la va aportar Isaac Asimov amb algunes de les seves suggeridores històries sobre robots. Cal pensar que, als anys quaranta, per a gent com Asimov, un robot no era altra cosa que una IA dotada de mobilitat i que moltes de les imaginatives especulacions que Asimov va assignar als robots avui les consideraríem molt més típiques de la IA. Normalment (i ara s’ha convertit quasi en una obligació), abans d’unes eleccions, hi ha una certa indeterminació i dubte. Per això es fan enquestes i s’intenta saber l’orientació del vot popular mitjançant sondejos. Es tracta, simplement, de substituir l’univers de votants per una mostra estadísticament triada la manifestació de la qual pugui anticipar el resultat final. No sol ser senzill i, avui dia, tots coneixem les incerteses del procediment i, també, el sorprenent pes d’un grapat d’indecisos en el resultat final.

Com ha passat sovint també al nostre país, no sempre es prediu el resultat correcte. Hi ha casos històrics d’errors manifestos, sobretot en les primeres enquestes electorals. Així va passar, per exemple, en el cas de les eleccions presidencials estatunidenques de 1948 que enfrontaven Truman amb Dewey.

En aquest cas, pràcticament tots els sondejos previs a les eleccions van vaticinar un triomf de Dewey, tot i que al final Truman va vèncer encara que fora per un marge reduït.

Però també hi ha èxits clamorosos: les estimacions sobre el resultat de l’enfrontament d’Eisenhover contra Stevenson, en les eleccions estatunidenques de 1952, van resultar prou exactes després del greu error de 1948. Les dades obtingudes del procés estadístic, no sempre acceptades atès l’error de les prediccions de les enquestes de l’anterior elecció presidencial, van anticipar el triomf d’Eisenhover. Aquest va ser un dels primers èxits populars de l’estadística automatitzada, que va ser seguit per les adequades previsions de les enquestes en les eleccions, aquestes ja no presidencials, de 1954.

Ciència ficció Tal vegada per això, Isaac Asimov, després famós com a divulgador científic i autor de ciència-ficció, va imaginar un curiós futur per als sondejos electorals. Ho va fer en el relat curt “Franchise” (1955 - “Sufragi universal” en l’edició espanyola posterior), publicat a la revista If a l’agost de 1955.

Amb tota seguretat, Asimov coneixia l’existència de l’UNIVAC 1, el primer ordinador d’ús no militar de la història, comercialitzat des de 1951. De manera molt coherent, Asimov va imaginar un gran macro-ordinador del futur amb un nom summament semblant: Multivac. El pas de la unicitat a la multiplicitat, implícit en el nom, venia a suggerir el gran augment de potència que s’esperava dels futurs ordinadors.

Extrapolant el que se sabia de la predicció estadística del resultat de les eleccions que van enfrontar Eisenhower amb Stevenson, Asimov va imaginar que, en les futures eleccions presidencials estatunidenques de l’any 2008, el procés de sondeig es reduiria al mínim. Multivac, el gran i super-potent ordinador que, a l’any 2008, segons imaginava Asimov, governaria pràctica i benèvolament la vida de la humanitat, seria l’encarregat de triar la mostra d’un sondeig que, per raons bàsicament econòmiques, ha de convertir-se en l’elecció definitiva.

Encara que no es tractaria d’una elecció solament humana...

En 1955, Asimov imaginava que, l’any 2008, les tècniques de prospecció de l’opinió pública serien tan potents que permetrien que la mostra de l’enquesta fora d’una única persona, el “pseudo-elector” Norman Muller. Encara que va incloure un matís innovador...

Tal com ho narra el mateix Asimov: “Multivac sospesa tots els factors coneguts, milers de milions.

Però hi ha un factor desconegut que continuarà sentho durant molt de temps. Aquest factor és el mòdul de reacció de la ment humana”. Per a obtenir aquesta dada, Multivac conversarà durant tres hores amb l’”elector únic” Norman Muller. Així aconseguirà percebre l’abast del “factor desconegut” (en realitat, segons se’ns diu en un altre lloc del relat, aquest factor ignot procedeix del fet que tots els estatunidencs estan sotmesos a la pressió del que fan i diuen altres estatunidencs), i podrà, per fi, decidir qui serà el nou president: triat en definitiva per Multivac, tenint en compte fins i tot aquest “factor desconegut” humà que li ha proporcionat aquest curiós “elector únic”. Econòmica, encara que curiosa, solució...

Una altra història asimoviana que té a veure amb la IA i la democràcia seria “Evidence” (1946 –Evidència, inclosa en el recull “Jo, robot” de 1950).

Vista l’escassa capacitat de la majoria de polítics que tenen el poder actual-

El butlletí de l’ACIA

5

Ciència ficció

“Amb les IAs imaginades a certa ficció ja es plantejaven alguns dels problemes principals que les IAs d’avui ens acabaran presentant.”

ment, no sembla cap bajanada pensar en IAs que governin comunitats humanes. Altra vegada, el primer cas el trobem en una història d’ .

La història, una de les protagonitzades per la robotpsicòloga Susan Calvin, tracta de Stephen Byerley que comença com a fiscal de districte (i al final del conte ens assabentarem que, després d’una llarga carrera política, arribarà a alcalde, coordinador regional i, finalment, el primer coordinador mundial de tot el planeta). El dubte surt quan un polític comença a sospitar que Byerley no és pas un ésser humà, sinó un robot que es fa passar per humà. Resulta massa assenyat, just i, en definitiva, perfecte per a la seva tasca.

Byerley va trampejant els problemes que se li plantegen i negant ser un robot (recordem una IA mòbil...) tot i que el dubte ha estat ben arrelat en l’opinió popular. Li demanen que demostri d’alguna manera la seva humanitat i, tot i que ell s’hi nega, un bon dia un dels seus discursos resulta tallat quan un energumen el provoca demanant-li que el pegui per demostrar que és humà.

Byerley ho fa, el pega, els dubtes s’esvaeixen i resulta elegit.

S’entra aquí en el vell somni d’Asimov dels cervells positrònics (en certa forma de manera quasi mimètica i poc raonada per superar la “vella” electrònica: s’imaginen un petit fregament entre el cervell positrònic i l’interior d’un crani de matèria “normal” electrònica...?) que, inevitablement, porten gravades les Tres Lleis de la Robòtica. Entre elles la primera i més potent que diu: “Un robot no podrà mai causar dany a un ésser humà, o, per inacció seva, deixar que li passi res de dolent”. Per tant, pegar a un humà no està dins de les capacitats d’un robot (recordem, donada l’època, una IA mòbil...).

L’acte sembla satisfer a tots, fins i tot a l’experta Susan Calvin, malgrat que, abans d’acabar el conte, la mateixa Calvin demostra que li és del tot igual si el que mana es humà o IA, mentre ho faci bé i honradament. I, com sempre, Calvin sap més del que diu...

Com a resum, sembla que puguem dir que Susan Calvin (com Asimov) s’apunta a la vella idea de la república dels savis de Plató, i qui pot ser més savi que una IA dissenyada per ser-ho en el seu camp d’aplicació...?

Hi ha molt d’altres exemples, fins i tot alguns de més recents, però valguin aquestes mostres per deixar clar que, fins i tot abans de la invenció del terme IA, amb les IAs imaginades a certa ficció (la dels bons autors...) ja es plantejaven alguns dels problemes principals que les IAs d’avui ens acabaran presentant.

6

El butlletí de l’ACIA

Tendències i futur

Innovació en votació electrònica quan tenim el Blockchain Votar té un paper important en una societat democràtica. Tanmateix, històricament molts processos electorals han estat plens d’acusacions d’il·legitimitat. Tot i així, les societats democràtiques es resisteixen a adoptar tecnologia, sobretot la digitalització, per millorar l’eficiència dels processos electorals.

El motiu ha estat que alguns tipus de tecnologies es van mostrar vulnerables, cosa que pot influir injustament en el resultat de les votacions. Mitjançant la tecnologia avançada de Blockchain (o el seu nom genèric DLT - Distributed Ledger Technology) es pot obtenir transparència en les eleccions digitalitzades, sense comprometre la privadesa dels votants i demostrar matemàticament que els resultats de les votacions són exactes. A més, a petició del votant, s’ha de permetre que emeti el seu vot online i assegurar-se que el seu emmagatzematge de forma segura no serà alterat de cap manera.

L’augment de la participació dels votants serà una conseqüència probable de fer eleccions online de manera segura. Moltes organitzacions han intentat realitzar eleccions online però han fracassat, en part, a causa del plantejament tecnològic inadequat que van adoptar i, en part, al mal mecanisme participatiu que van triar. Si es supera la idea errònia que la votació online mai no és segura es podria encoratjar una nova onada de votants a emetre el seu vot online.

I, tornant al tema, per què introduir un nou algorisme de votació? Per reduir costos, augmentar la participació dels electors, assegurar-se que les eleccions siguin honestes, tranquil·litzar els electors que la seva decisió serà observada pel seu govern, i fer eleccions més convenients i accessibles per a tothom. Per fer eleccions, les autoritats destinen una gran part del seu pressupost a proporcionar els sistemes de vot més robusts i confiables que ajudin en la verificació alhora que preserven el secret dels electors i promocionen la participació.

Avui, no sembla que hi hagi ningú que no proposi processos participatius amb DLT, els quals funcionen de la manera següent: d’entrada, el cens d’electors o el procés de registre encara hauria de tenir lloc fora de la xarxa o fora del llibre distribuït. Una vegada que una agència de registre de votants o un organitzador determini qui és elegible per votar, el cens, tothom del cens rebria un “token” o clau que el permeti votar únicament una vegada: Aquest mecanisme, utilitzat en el Blockchain originalment per evitar el problema de la despesa doble, s’empra de la mateixa forma amb el vot. Efectivament, es poden registrar les votacions com a transaccions en un registre (distribuït) dels vots emesos i evitar la doble emissió de vots, igual que es fa amb moneda virtual. A més, el procés de votació es descentralitzaria, sense la necessitat d’una agència central per dur a terme les eleccions de forma justa. Tothom podria participar i convertir-se en un node en el nou sistema DLT sempre que confirmessin els requisits del cens durant el registre, que garantiria col·lectivament la disponibilitat del sistema durant tota la consulta i que els vots es comptabilitzessin correctament.

Josep Lluís de la Rosa, Andrés El-Fakdi

El butlletí de l’ACIA

7

Tendències i futur

“Volem que sigui un nou model de participació, un canvi de paradigma del model de votació, i de votació online.”

“Per augmentar la participació hem d’alterar el repartiment de vots individuals vers les persones que voten en nom seu i d’altres.”

8

El butlletí de l’ACIA

L’objectiu d’aquest article no aborda només una solució concreta de DLT per resoldre els problemes de transparència, rendició de comptes, immutabilitat, secret i seguretat de les eleccions, sinó que contribueix amb una col·lecció de nous requisits perquè la tecnologia proposada assoleixi un nou model de participació on es permeti votar de forma múltiple per part d’una persona real que encara no hagi votat. VoteVote volem que sigui un nou model de participació, un canvi de paradigma del model de votació, i de votació online, on les persones puguin votar en nom d’altres persones després d’haver emès el seu vot. Les persones que estan representades són informades del seu vot que pot ser confirmat o canviat a continuació. A la vegada, les persones que confirmen o canvien el seu vot poden emetre el vot d’altres persones, d’aquí el nom de VoteVote, és a dir, “emeto el meu vot així com el teu”.

Dit això, ens sentim il·lusionats pels esquemes directes que fomentin la participació de la gent, on la transparència i el retre comptes són imprescindibles, i pot ser que siguin la forma més senzilla perquè la gent comenci a interactuar amb DLT. La missió és possibilitar que emetre el vot sigui un acte tan senzill i gratificant que valgui la pena fer-ho. Si tenim sort i ho implementem correctament això pot impulsar els augments necessaris de participació, ja que nous usuaris crearien el seu vot digital o emetrien els seus vots en nom d’altres persones amb l’objectiu d’impulsar les seves idees.

En aquest article, postulem la necessitat de la gent per a un sistema de democràcia funcional, i creem el marc i la plataforma per a una nova categoria de democràcia de participació universal, amb característiques compartides de democràcia directa i representativa.

Casos que motiven millorar la participació Un cas d’ús són les consultes ciutadanes. Si mirem les convocatòries de pobles, barris, ciutats o grans urbs, veurem que no és estrany que poca gent, sovint poques desenes de persones, es presentin a les consultes i decideixin coses que afecten a moltes desenes o centenars de milers.

Hi ha moltíssimes aplicacions de votació, votació electrònica i de votació amb Blockchain a plataformes com Ethereum, EOS, TRON, etc. En el criptoespai, la competència està en puixant, ja que la votació sembla ser una de les aplicacions directes i directes del DLT. Així, les empreses que intenten aplicar el vot DLT són innombrables, mentre que les empreses consolidades de votació electrònica són molt poques, sent Scytl un dels líders mundials.

Un altre cas il·lustratiu i d’ús és el votar en la governança de companyies que cotitzen, societats anònimes o en cooperatives. Les seves Assemblees Generals (AG) solen ser esdeveniments de gran cost amb també baixa participació dels accionistes o cooperativistes. En el cas de les grans empreses, a mesura que creixen les inversions transfrontereres, cada vegada hi ha més

Tendències i futur demanda de compromisos per als inversors més importants, que demana una solució segura i rendible que faciliti la participació i el vot dels accionistes des de la distància.

Aquest darrer cas, amb un augment de la participació, afavoriria la comunicació entre inversors i representants de l’empresa.

En aquesta categoria fracassen moltes solucions de votació electrònica, perquè encara hi ha una preferència preferida pels inversors per assistir i emetre el seu vot personalment a l’AG. A més, els inversors sovint no tenen control sobre els seus vots, sobretot si donen dret de vot als seus representants.

Fins al moment, quan s’havien introduït tecnologies d’avantguarda al mercat, hi havia una despesa més gran suportada pels adoptants primerencs que estaven disposats a pagar el major cost per aprofitar els avantatges que proporcionen les noves tecnologies. Creiem que, al contrari d’aquesta tendència, l’aprofitament de la DLT podria reduir dràsticament els costos de les eleccions i alliberar els diners dels contribuents, cooperativistes o accionistes per gastar-se en altres aspectes importants de les nostres societats, com millorar la qualitat dels serveis bàsics o la reconstrucció d’infraestructures obsoletes.

Doncs, el nostre objectiu és que la plataforma VoteVote faciliti la possibilitat de votar a la gent i, finalment, es fomenti més vot en la seva atrevida missió d’augmentar dràsticament la participació i fer-ho de forma segura i transparent, i li ho posi difícil al Blockchain.

Hipòtesis Cada vot compta. Aquest és el mantra de la democràcia. Tot i així el vot universal es posa sovint en qüestió malgrat els millors esforços per mantenir-se en forma i, de fet, per tenir una democràcia sana, tots els processos participatius pateixen d’interferències, lobbies i pressions un dia o altre. Sembla que el mateix succeeix amb la condició de ciutadà lliure: tard o d’hora tens dubtes sobre si has de votar o no. Així que la mateixa comunitat com a sobirana pot decidir adoptar nous esquemes de participació, com VoteVote, com a garantia de progrés democràtic a l’augmentar la participació i la representació. Dit això, algunes persones exerceixen el seu vot a plena consciència individual i social. És el nostre punt de vista que per augmentar la participació hem d’alterar el repartiment de vots individual vers les persones que voten en nom seu i d’altres, tot reforçant el sentit de comunitat i obrint una categoria de vot totalment nova i de valor creixent a mesura que s’hi afegeixen ciutadans i que a la vegada no posi en qüestió sinó retorni la sobirania als mateixos ciutadans.

La nostra hipòtesi és ambiciosa: quan érem nens participàvem amb passió en el que passava en el nostre entorn, tot i que no votàvem sinó que érem representats pels nostres adults, i quan a la fi hem estat majors d’edat hem anat corrents a votar. VoteVote reprodueix aquesta emoció i provoca urgència en la votació quan una persona descobreix que han votat per ell com si fos un nen. Per donar transparència, contractes intel·ligents (Smart Contracts en un Ledger o registre distribuït) podrien implementar la votació i permetre sempre revocar els teus vots emesos per d’altres. A més, es pot gaudir d’identitats digitals sobiranes i potents amb el Blockchain. Aleshores, com a hipòtesi, defensem que els ciutadans emetran els seus vots els uns pels altres, el quals al seu torn confirmaran o negaran el sentit del vot emès, i en resultarà una

“VoteVote podrà ser emprat com a un mecanisme de participació universal i inclusiu que és una combinació de democràcia directa i representativa a la vegada.”

El butlletí de l’ACIA

9

Tendències i futur “Defensem que els ciutadans emetran els seus vots els uns pels altres, el quals al seu torn confirmaran o negaran el sentit del vot emès.”

emissió efectiva del vot que conduirà a la participació més àmplia que hi hagi hagut mai.

El disseny de VoteVote segueix aquestes suposicions: A. L’ Exemple de #MyVoteMyVoice L’octubre del 2018, una coalició d’activistes llançaren un repte en vídeo, la campanya #MyVoteMyVoice, que va ser ideada per aprofitar la gran capacitat d’incitació a votar que es pot desplegar per mitjans socials: la vergonya de no fer-ho.

La suposició era que si algú es comprometia a votar públicament i parlava a les xarxes socials sobre per què i què anava a votar, comprometria a d’altres votar i, sobretot, es recordarien de votar i animarien també d’altres a fer-ho.

B. La gent vol influir o animar els altres a decidir i votar Suposem que la gent li agrada suggerir, o simplement dir, als altres què votar. Aquesta pot ser un altra fonament per a un altra tipus de #MyVoteMyVoice on la gent no empra necessàriament les xarxes socials per votar o donar sentit de vot sinó que directament i simplement vota pels altres.

El “altres” que han estat reptats a votar poden sempre confirmar o canviar el vot que han emès en nom seu. Si el canvien, seríem al cas d’un vot directe i, altrament, si el confirmen o no en fan res, seríem al cas de vot representatiu.

L’efecte esperat que la gent que vulgui votar per altres impulsarà una viralització de la votació que resultarà tant o més inclusiva que #MyVoteMyVoice vers una participació universal i a la vegada dona idea de quines regles i opcions Premium es podrien inventar per convidar molts i molts d’altres votants i que hi hagi molts més vots.

C. Hipòtesi La gent promourà les seves idees i aspiracions a través de votar amb VoteVote, el qual podrà ser emprat com a un mecanisme de participació universal i inclusiu que es una combinació de democràcia directa i representativa a la vegada.

També, en comptes de votar per d’altres, es pot simplement convidar-los a votar, cosa que representa un esforç social que podria tenir el seu equivalent en esforç econòmic, com per exemple rebre un vot addicional per cada 3 persones convidades o simplement pagar 1 euro per cada vot addicional.

A més a més, l’organitzador de les eleccions pot estar interessat a gestionar el cens. En aquest cas, l’organitzador també podria pagar per cada vot del cens cridat a votar donat que la crida (invitació) ja la fa.

En el futur, quan la gent s’avesi a aquesta mecanisme, directe i representatiu a la vegada de votacions, podrà aprendre a crear d’altres tipus d’esdeveniments participatius, lobby, i els votants influenciadors tindrien un canal per exercir la seva influència i lobby de forma digitalitzada però transparent.

Súper bé!

10

El butlletí de l’ACIA

Tendències i futur Algorisme L’algorisme proposat és una evolució del #MyVoteMyVoice per millorar la participació mentre es simplifica l’ús explícit de contingut en xarxes socials per a la crida a la participació. a) L’usuari llegeix la qüestió per emetre el seu vot L’usuari programa que els participants poden triar entre determinades respostes, en quines dates i hores s’obre i tanca la votació, i opcionalment en el cas que l’usuari optés per censos geolocalitzats, hauria de proveir el centre geogràfic de la votació i el radi de vots acceptats. b) En votar, els participants trien entre aquestes respostes, a més poden escriure o seleccionar el telèfon (o mitjans socials per contactar) de qui vulgui desafiar i el seu vot. d) Aquelles persones que se’ls ha informat, mitjançat un missatge instantani en WhatsApp, Telegram, Facebook, altres xarxes socials o simplement en SMS, que l’usuari ha votat una determinada opció per a ells, sempre poden confirmar, invertir o revocar el vot emès i encara poden votar per altres persones, si volen. e) Cada persona pot emetre 2 vots: un per ella mateixa i l’altre per una persona que triï. Al seu torn, la persona que ha votat per ella pot confirmar o re-emetre el seu vot i emetre el vot a la següent. Pot emetre més vots: 1 vot addicional per cada 3 invitats, com a regla de community building, o també el pot pagar i no li cal invitar. f) El cens verifica que els votants tenen les condicions per votar en aquesta votació. Per exemple, provar que ets més gran de 16 o 18 anys i, si es considera oportú, en versions lleugeres per a consultes de ciutat o barri es poden fer geolocalitzats, com per exemple fer una consulta als votants de Barcelona amb centre plaça Catalunya i un radi de 5 km.

Els requeriments per a la tecnologia de registre distribuït són encara més rigorosos que en votacions convencionals: Requeriment #1: La implementació DLT encara ha d’assegurar que 1 persona 1 vot, i evitar el doble vot, a excepció precisament del vot en representació d’altres, cosa que requereix ser curós amb el cens per decidir quina validesa tenen els vots i segons els vots emesos i, com a millora, avisar i proposar al primer votant que repti a persones alternatives.

Requeriment #2: També, la implementació DLT ha de vetllar per la seguretat i el secret dels vots: sí, encara que els usuaris reptats els pot semblar que el seu vot és públic, almenys conegut pels seus primers votants, no ho ha de ser i han de poder exercir el seu dret d’acceptar, canviar, o fer el que sigui amb el seu vot, només presentant públicament que han emès el vot, sense saber el sentit final del seu vot. I, el que encara ho fa més difícil, poden decidir fer campanya en un sentit diferent del que han rebut sense que sigui públic, ja que no

El butlletí de l’ACIA

11

Tendències i futur hi ha una relació directe entre el sentit dels seus segons vots emesos respecte dels seus primers vots, si no és que ells mateixos ho facin públic.

Amb aquests reptes, el VoteVote necessita encara més una implementació en registre distribuït que les votacions electròniques habituals. Els primers experiments de l’algorisme van ser emprant consultes directes a classe i grups de whatsapp. En aquells experiments inicials hi ha hagut indicis de gran increment de participació, sovint amb un increment del vot en blanc, altres vegades trencat l’empat a la votació o fins i tot invertint un resultat, tot pel fet d’haver-hi més participació.

La raresa de l’algorisme de votació en qüestió i la preocupació de privacitat però transparència a l’hora en el seguiment de regles tant exòtiques no ha estat objecte de preocupació un cop els usuaris han conegut que hi havia un Blockchain al darrera, tot i que no ho han ni tan sols comprovat. És un bon començament. El Blockchain pot aportar molt a les votacions electròniques.

I a continuació, un seguit d’afirmacions que acompanyen a l’assimilació i adopció d’idees noves disruptives:

Comentaris Finals En totes les organitzacions i societats, votar és clau per assegurar una bona representació i vot per a tothom a l’hora de prendre decisions. Quantes més conseqüències tingui la decisió, tanta més gent hauria de participar en la consulta. Així, a més de la seguretat i l’eficiència en les consultes, hi ha altres qüestions primordials a complir com ara evitar la manca de transparència i la potencial corrupció que s’ha d’evitar perquè desanimen a la participació.

Amb la introducció del registre distribuït (ergo el Blockchain) i la votació electrònica es pretén millorar les consultes i processos participatius. I hem aprofitat aquestes innovacions per proposar mètodes estranys però efectius a l’hora d’augmentar la participació com és el VoteVote, i que requereixen encara de més transparència per trencar d’entrada el principi d’una persona, un vot, tot i que al final compleix aquest principi.

La idea d’aquest article ha estat no només agafar els long-hanging fruits d’aplicar directament Blockchain a les votacions, sinó de mostrar que amb aquesta tecnologia disruptiva pots crear nous invents de major abast i impacte, i mostrar els requeriments de les votacions electròniques a aquesta nova tecnologia.

RECONEIXEMENTS Gràcies a Xavier Damman per les seves idees de crear serveis centrats en l’usuari i les discussions excitants que vam experimentar a la primavera del 2019 a Brussel·les amb la fundació les Voltes i a l’equip de DLT del TECNIO Centre EASY a Girona.

12

El butlletí de l’ACIA

Emprenedoria i empresa

Democràcia electrònica

Seguretat i transparència: Scytl Un dels principals referents internacional en l’àmbit de la democràcia electrònica és la empresa catalana Scytl. Scytl és un spin-off d’un grup de recerca en criptografia aplicada en el vot electrònic de la Universitat Autònoma de Barcelona. Va ser fundada l’any 2001 pel doctor Andreu Riera amb la missió de facilitar la modernització dels processos electorals, tenint en compte la rellevància que té la seguretat i la transparència d’aquests processos. De fet tots dos aspectes són clau a l’hora de poder implementar electrònicament processos electorals amb plenes garanties.

Un dels problemes principals que apareix quan introduïm tecnologia als processos electorals és l’impacte que té des del punt de vista de la transparència. En una elecció tradicional, la transparència es basa en l’ús de paper en el desenvolupament de l’elecció, fent que tant el procés de vot com el de recompte siguin fàcils d’entendre i observar per a tothom. D’aquesta manera es poden resoldre ràpidament els dubtes que puguin sorgir sobre la seguretat del procés i la integritat dels resultats. Per exemple, en una elecció tradicional, la privadesa del vot queda protegida en posar la papereta dins d’un sobre de paper o doblegant-la, de forma que no es puguin veure a simple vista les seleccions del votant. L’anonimat s’aconsegueix quan el votant introdueix la papereta (sense cap marca que la identifiqui) dins l’urna, amb la qual cosa s’aconsegueix trencar físicament el vincle entre la papereta i el votant. D’altra banda, la fiabilitat del resultat es basa a observar que ningú manipula o afegeix vots durant els processos de votació i recompte. Quan ens movem dins el món del vot electrònic, la reproducció d’aquests mecanismes esdevé més complexa, ja que tant els vots com les urnes deixen de ser elements tangibles (físics) i, per tant, no són observables per l’ull humà.

En un sistema de vot electrònic, els vots es processen en la memòria interna de l’ordinador i s’acaben emmagatzemant en el disc dur. És a dir, que tots aquests elements només són observables en una dimensió lògica i no física, com en el cas del vot en paper. Per exemple, un votant o un observador pot veure allò que se li mostra a la pantalla de l’ordinador, però no podrà veure si aquestes són les mateixes dades que es guarden en la memòria o en el disc.

Per tant, si no és que es donen eines als votants o als observadors per poder verificar que els vots es processen correctament, la seguretat i la integritat dels resultats depenen en gran mesura de la confiança en què els sistemes informàtics no es vegin compromesos. Aquesta no és una situació nova, ja que en el cas del vot postal els votants ja han de confiar en un intermediari (servei postal) que farà arribar els seus vots correctament a les autoritats electorals.

La diferència és que, així com en el vot postal és difícil poder auditar el procés logístic darrera el transport i lliurament dels vots, en el vot electrònic si que és factible desenvolupar els processos d’auditoria.

La manca de transparència és la principal raó per la qual es qüestiona la seguretat dels sistemes de vot electrònic, que és la base de qualsevol projecte

Jordi Puiggalí

El butlletí de l’ACIA

13

Emprenedoria i empresa “És clau que els processos de vot electrònic incorporin mecanismes que permetin certificar que tots els processos s’han dut a terme correctament i d’aquesta manera poder recuperar la transparència perduda.”

Autor: Element5 (Unsplash.com)

14

El butlletí de l’ACIA

de democràcia electrònica. Així doncs, és clau que els processos de vot electrònic incorporin mecanismes que permetin certificar que tots els processos s’han dut a terme correctament i d’aqueta manera poder recuperar la transparència perduda. Aquesta ha estat la principal aportació de Scytl.

Scytl és experta en el disseny de protocols criptogràfics que no només permeten garantir el secret del vot i la integritat dels resultats, sinó que a més a més faciliten l’auditoria de tot el procés electoral, de forma que es pot certificar que en cap moment s’ha compromès cap dels vots emesos. D’aquesta manera es poden utilitzar mecanismes d’Intel·ligència Artificial per auditar les eleccions i garantir que aquesta auditoria no comprometi el secret del vot. En aquest sentit, els sistemes de vot dissenyats per Scytl ofereixen als votants proves que el contingut del vot emmagatzemat en l’urna electrònica és el mateix que ha estat triat pel votant. Així, el votant pot detectar qualsevol intent de manipulació del seu vot. A més a més de la prova d’integritat dels continguts, els sistemes també ofereixen al votant una prova que li permet fer un seguiment que el seu vot està present en el procés de recompte. En ambdós casos, aquests tipus de proves només permeten que la auditoria la pugui dur a terme el votant; per tant, garanteix la confidencialitat de les seves seleccions. Aquest tipus d’auditoria per part del votant es coneix tècnicament com a “verificabilitat individual”.

Els sistemes de vot de Scytl també generen proves per a auditors independents o altres entitats que participin en l’observació electoral. Aquests tipus de proves permeten que persones sense privilegis en el sistema puguin observar que mai no es manipula cap dels vots emmagatzemats en l’urna electrònica durant els processos de desxifrat i recompte dels vots. Aquesta mena de proves també faciliten fer la observació sense córrer el risc que els auditors puguin comprometre la privadesa dels votants. Aquesta observació és coneguda com a “verificabilitat universal” i els sistemes de vot que combinen la verificabilitat individual i la universal són coneguts com a “sistemes verificables extrem a extrem”. I és aquí on entra en joc l’ús de la Intel·ligència Artificial, perquè ajuda a processar aquestes proves i a detectar si hi ha patrons que puguin ser sospitosos de possibles atacs. Amb aquest procediment es pot automatitzar l’auditoria d’una elecció i cobrir el 100% dels vots. En conseqüència, si un sistema és verificable extrem a extrem es pot considerar que és tècnicament tan transparent com el d’una elecció tradicional. Així es resolen molts dels dubtes que es generen quan es vol implantar un sistema de vot electrònic.

En aquest sentit, Scytl ha facilitat la introducció del vot per Internet a diferents països, com ara Suïssa, França, Austràlia i Canadà.

Un dels principals avantatges de la introducció del vot electrònic és que facilita la participació a col·lectius de votants amb problemes d’accés al procés de vot (persones amb discapacitat o residents a l’estranger). A més a més, l’ús del vot electrònic també obre la porta a la implementació de nous processos de participació democràtica, menys costosos i més inclusius. És a dir, facilita que es puguin realitzar consultes ciutadanes o referèndums més sovint, i obre la porta a una democràcia més directa o, fins i tot, a models de democràcia líquida, un híbrid entre la representació i la participació on els votants decideixen si volen participar directament o delegar el seu vot a un representant cada cop que s’ha de prendre una decisió. Per tant, permet implementar models alter-

Emprenedoria i empresa natius a les democràcies representatives actuals, en les quals els votants no participen directament en la presa de decisions públiques i només poden triar un representant amb aquesta responsabilitat cada 4 anys. En aquesta línia, una aportació rellevant de la Intel·ligència Artificial és ajudar a processar l’opinió que es recull de la ciutadania per ajudar que les decisions es preguin buscant el màxim de consens, identificant també els casos que surtin menys beneficiats. Efectivament, en aquest àmbit es treballa combinant la Intel·ligència Artificial amb tècniques de privadesa, que maximitzen la utilitat de les dades sense comprometre la privadesa dels votants (Statistical Disclosure Control).

Tot i això, és important entendre que la introducció de la tecnologia en els processos democràtics no es limita només al vot, sinó que també té cabuda en altres àmbits com el de l’agregació i la publicació dels resultats. És per això que, des de fa anys, les noves tecnologies s’utilitzen per transmetre i tabular els resultats dels recomptes de les eleccions, de forma que es puguin publicar els resultats provisionals la mateixa nit electoral. L’objectiu és, per una banda, donar un primer resultat provisional de les eleccions, abans que es faci el recompte oficial (per part de les juntes electorals) i, per altra banda, també facilita l’auditoria de l’elecció, ja que en publicar resultats provisionals en l’àmbit municipal o inclús dels col·legi electoral, els partits polítics poden verificar més fàcilment si aquests es corresponen amb aquells que han observat durant la jornada electoral. Així poden reclamar a la Junta Electoral durant el recompte oficial, abans que es publiquin els resultats finals. Mitjançant la publicació de resultats provisionals, algunes democràcies més joves també aconsegueixen millorar la confiança dels votants i els partits polítics vers la gestió del procés electoral fins que es publiquin els resultats definitius (i eviten que es produeixin conflictes quan els candidats es proclamen guanyadors abans que els resultats estiguin disponibles). La Intel·ligència Artificial s’utilitza en aquests casos per detectar possibles patrons de frau i identificar com n’és de fiable el resultat de l’elecció, amb recomptes paral·lels coneguts com a Risk Limiting Audits. Scytl també ha facilitat la implementació de sistemes de recompte i publicació de resultats provisionals per a diferents països arreu del món, com ara a Costa de Marfil, Equador, Suïssa i Espanya.

Finalment, cal tenir en compte que en els darrers anys hem anat veient com les noves tecnologies s’estan utilitzant també per a influir en la presa de decisió dels votants. De fet, l’ús de les xarxes socials per a transmetre notícies falses que miren d’inclinar els votants cap a una forma de votar determinada (o que fins i tot busquen confondre el votant per tal que aquest acabi decidint no emetre el seu vot el dia de l’elecció) és un dels principals reptes als quals han de fer front els gestors electorals. Principalment perquè aquestes campanyes de desinformació poden estar promocionades per actors externs (i fins i tot per altres països). És amb aquest objectiu que Scytl també està participant en projectes europeus que busquen desenvolupar nous mecanismes per tal que els ciutadans puguin detectar aquestes campanyes, accedir a informació veraç, i evitar que es continuïn propagant les notícies falses. Novament la Intel·ligència Artificial té un rol important en aquest àmbit, perquè ajuda a processar gran volums de dades per poder detectar patrons que indiquin campanyes de desinformació.

“Una aportació rellevant de la Intel·ligència Artificial és ajudar a processar l’opinió que es recull de la ciutadania per ajudar que les decisions es prenguin buscant el màxim de consens.”

El butlletí de l’ACIA

15

Democràcia i Intel·ligència Artificial

La IA en democràcia

De les grans dades a l’acció deliberada Enric Plaza

“Haurem de discutir quina democràcia tenim i quina democràcia voldríem tenir. Personalitzar la informació política, per se, no ha de ser dolent.”

“Si volem pensar el rol de la IA en una societat democràtica, o millor dit en els Estats democràtics existents, haurem de considerar què caram és això de l’Estat, del demos i de la demo-cràcia.”

16

El butlletí de l’ACIA

Actualment les iniciatives de suport als processos democràtics, en general, han emprat tecnologies basades en Internet i la Web, i no gaire encara en idees o tecnologies d’IA. Les iniciatives tecnològiques s’han concentrat en l’anomenada “democràcia participativa”, i l’ús de tecnologies estàndard: distribució d’informació per web o xarxes socials; fòrums de missatges i respostes que es consideren “debats”; i, per últim, els intents d’implementar votació per internet (usualment en institucions privades, no per les grans decisions polítiques).

Sabem també del mal ús que s’han donat a tècniques d’anàlisi de dades en processos electorals recents, que han permès personalitzar la informació que rebien els votants, ara convertits en usuaris de Facebook i targets de Cambridge Analytica en la votació de la Presidència americana o del Brexit per part de la campanya pel Leave. La Federal Communications Commission (FCC) acaba d’imposar una multa de 5.000 milions US$ a Facebook per violacions de la privadesa de dades. Però això és business as usual.

Ara bé, si donem per bo que ha estat un “mal ús” haurem de discutir quina democràcia tenim i quina democràcia voldríem tenir. Personalitzar la informació política, per se, no ha de ser dolent. Així, Obama va guanyar la Presidència amb un equip que personalitzaven la informació que rebien per e-mail els ciutadans. De fet, si la democràcia la definim com un règim de govern que es basa en el consentiment dels governats (aquesta definició prové de John Locke que va participar a la Revolució Gloriosa a Anglaterra el 1688 contra Jaume II, i es va consolidar un segle més tard com idea-força a la Revolució Americana del 1775), si la repressió estatal i la violència militar han de quedar fora d’un estat democràtic, l’únic instrument restant és la persuasió. En una societat industrialitzada com l’actual, la propaganda i la publicitat política són eines de persuasió, i podem esperar que continuïn i evolucionin, però no que desapareguin.

El problema amb Cambridge Analytica va ser una violació de la privadesa de dades, però la personalització es va realitzar a partir de models psicològics manllevats del món de la publicitat, i sense els quals el big data no hauria estat tan útil. En el fons es tracta de continuar fent el mateix en un nou medi; ja sabem que la IA es farà servir en aquest àmbit i caldrà anar fent una anàlisi crítica d’aquests processos.

De fet, la qüestió important serà qui sap fer servir més efectivament aquest nou medi; com va escriure Régis Debray a Cours de médiologie générale (1991), cada media (diaris, ràdio, TV, email, Twitter) té avantatges i inconvenients que cal saber gestionar bé o deixar-s’hi les dents: ara tenim, a Twitter, el millor debat entre @AOC i @realDonaldTrump. Si volem pensar el rol de la IA en una societat democràtica, o millor dit en els Estats democràtics existents, haurem de considerar què caram és això de l’Estat, del demos i de la demo-cràcia.

Democràcia i Intel·ligència Artificial Vots i eleccions Eleccions i democràcia ens semblen que van plegades, i sovint el periodisme quan parla d’eleccions a Iraq o Afganistan, a Rússia o a Turquia, ho fa sinònim de democràcia (o “democràcies imperfectes”). La cosa és estranya perquè, a l’origen de la democràcia a Atenes, les eleccions no eren gens importants. De fet, alguns politòlegs insisteixen que en lloc d’anomenar el nostre sistema polític parlamentari-liberal actual “democràcia representativa”, seria més exacta dir-ne “govern representatiu”. Altres activistes polítics proposen una “democràcia participativa” que, segons el corrent, complementaria (o substituiria) la democràcia representativa. És en aquest sentit que les iniciatives d’usar tecnologies de la informació i Internet en particular s’han focalitzat en “millorar” (o més exactament “incrementar”) la participació ciutadana en processos de presa de decisions polítiques.

Ara bé, és millor, o és més legítima, la participació directa dels ciutadans (d’alguns ciutadans) que els representants dels ciutadans? Aquest és una qüestió no consensuada en teoria política. Per exemple, Barcelona va realitzar un referèndum sobre fer o no un tram a la Diagonal. El govern de la ciutat (democràcia representativa, escollit amb molts vots) ho proposava, grups de ciutadans s’hi oposaven, i el vot al referèndum va resultar negatiu, cosa que va aturar el tram, malgrat que el nombre de participants en el referèndum era molt menor que els votants a les eleccions municipals. Quina opció té més legitimitat: el vot directe (però menys nombrós) o els (molt pocs) representants (escollits per una multitud de vots). Pensar en la legitimitat, en el que volem, és important perquè si desenvolupem sistemes d’IA hem de ser conscients que estem donant suport a un model o altre de política i de model democràtic.

Retorn a Atenes Un model que voldria considerar és no fer eleccions, sinó fer com els atenencs de l’època clàssica. Per bé que el règim democràtic persisteix en el món grec durant un 400 anys [4] a diverses ciutats-estat, em concentraré aquí en l’Atenes democràtica que va durar 180 anys (fins al 322 BCE). Llevat d’alguns càrrecs (com el comandament militar que s’escollia per eleccions entre candidats), tots els càrrecs polítics s’assignaven per sorteig: jurats per impartir justícia i grups de treball (no tenien funcionaris, per tant cada decisió de l’Assemblea havia de tenir un grup de gent encarregat de dur-la a terme reeixidament). Els escollits que s’hi estaven un any no podien repetir; altres assignacions eren per un dia, com fer de jurat. El procés era tan complex que varen inventar un dels primers mecanismes de processament d’informació que es coneixen: el klerioton (un fragment conservat es mostra a la fig.1). Els ciutadans que es registraven per càrrec públic tenien un pinakia (targetes metàl·liques d’identificació) que ficaven a una bossa i l’archon encarregat treia un dels pinakia i aquesta persona escollida així introduïa la resta dels pinakia a les ranures del klerioton. Els atenencs es distribuïen en 10 grups (ara en diríem districtes electorals) i s’havia d’escollir un grup aleatori però amb gent de tot arreu (cada districte tenia una

“Pensar en la legitimitat, en el que volem, és important perquè si desenvolupem sistema d’IA hem de ser conscients que estem donant suport a un model o altre de política i de model democràtic.”

Figura 1.

Part conservada d’un Kleroterion

El butlletí de l’ACIA

17

Democràcia i Intel·ligència Artificial

“El mot democràcia es referiria a la capacitat col·lectiva de fer coses en el domini públic, de fer canvis efectius i prendre decisions.”

18

El butlletí de l’ACIA

columna, en 2 kleirotons de 5 columnes). El mecanisme tenia un conducte on s’introduïen com unes ‘bales’ de pedra negres i blanques (kyboi); quan sortia negra s’eliminava una fila; quan sortia blanca, aquella fila escollia els pinakia dels ciutadans que rebien l’assignació. El procediment no s’ha entès fins molt modernament en la historiagrafia, perquè es pensava que el mot kleiroton es referia a una ‘habitació d’assignació’; recentment es van adonar que es referia a un mecanisme. De fet, ara s’entén una mica millor des que es va trobar un text d’Aristòtil (“La Constitució dels atenencs”) que descrivia el kleiroton i en resumia el funcionament. Deia d’Aristòtil, per exemple: «Es considera democràtic que els càrrecs públics s’escullen per sorts, i oligàrquic quan s’assignen per elecció». No comment.

Per què és tan important fer-ho a sorts? Els seus crítics (abans i ara) assenyalen el problema d’escollir “gent no preparada” prenent decisions. Però quan funciona bé unifica els principis de la democràcia deliberativa i de la democràcia epistèmica. Josiah Ober, en el seu llibre Democracy and knowledge: Innovation and learning in classical Athens, concep democràcia com un mecanisme basat en coneixements de resolució de problemes (no com ‘govern representatiu’). Ober argumenta que -kratos i -arche són arrels amb significat mot diferent: hi ha democràcia en grec antic, i també hi ha aristocràcia (no autocràcia, terme més modern). No hi ha ‘demarquia’ quan sí que hi ha oligarquia, anarquia i monarquia. La seva hipòtesi és que kratos i arche es refereixen a diferents aspectes del poder. Arche sembla descriure diferents règims del poder, descriu si els ocupants dels llocs de poder són un sol, uns pocs, o molts. Kratos tindria un significat de ‘poder’ amb un abast semàntic que aniria de ‘dominar’, a ‘governar’, i a ‘tenir la capacitat’. Per tant, el mot democràcia es referiria a la capacitat col·lectiva de fer coses en el domini públic, de fer efectius canvis i decisions. En conceptes actuals, seria un “empowered demos” en la seva capacitat d’acció col·lectiva [3] Ober entén que la democràcia atenenca estava formada per tres processos d’agregació, d’alineació i de codificació de coneixements -la codificació seria un procés que cerca un equilibri entre la innovació (generació de noves solucions) i l’aprenentatge social (de bones pràctiques). Processos semblants s’han proposat avui dia en teoria de l’organització (pel sector privat i pel públic).

L’acció col·lectiva és eficaç quan és deliberativa i epistèmica; és a dir, quan els grups deliberatius aconsegueixen d’agregar els coneixements dispersos a la societat (però coneguts pels ciutadans participants) que són rellevants a la qüestió que ha de resoldre cada grup. No es tractava de votar i tenir majories: es tractava de decidir objectius (cosa que feia l’Assemblea i altres ens deliberatius) i després de ser capaços d’assolir els objectius amb els coneixements i els recursos disponibles (knowledge in action).

Cal tenir present que no es tracta sols d’Atenes, en aquest període es va constituir una constel·lació d’un miler de ciutats-estats, molts d’ells democràtics i semi-democràtics. Els intents de fer imperis (colonitzar altres ciutats i subordinar-les) van fracassar, i el que va funcionar va ser una cooperació basada en koina (federacions d’estats), tractats multi-estatals, i aliances capaces de mantenir els equilibris. Els historiadors han comptabilitzat 35 altres civilitzacions de ciutats-estat, però cap d’aquestes va ser tan gran ni duradora. L’Imperi Romà, en canvi [2], té un procés de formació semblant als que anomenem

Democràcia i Intel·ligència Artificial estats-nació (que efectivament, excepte els petits estats no plurinacionals, són les restes d’antics imperis).

Representació sense eleccions De fet, escollir a sorts s’ha fet servir com a mecanisme per escollir responsables a d’altres llocs i en altres temps. La insaculació, antigament anomenada a Catalunya elecció de sac o de sac i sort, s’instaurà per escollir els responsables municipals primer a Xàtiva i Menorca (probablement provinent de ciutats nord-italianes), desprès a d’altres municipis, i a partir del seu ús a la Generalitat (1493) i a la ciutat de Barcelona (1498), es va estendre a totes les ciutats, viles i gremis de Catalunya. A Barcelona la representativitat del sistema va anar millorant, ja que la pressió de gremis i grups no representats va aconseguir que els seus electors també s’incorporessin al sac del sorteig. Al Consell de Cent hi va arribar a haver 32 representats gremials dels menestrals i 32 dels artistes (professionals en diríem avui). A més, els gremis controlaven la Coronela, la milícia civil de defensa de Barcelona que no depenia del virrei i que, amb 10.000 homes, era l’organització militar més potent de Catalunya.

El poder reial capturà i dominà aquest procés dos segles més tard, on només podien presentar-se com a electors “dins el sac” els membres d’una llista aprovada per la corona; el sistema fou abolit pel Decret de Nova Planta.

El procés d’ampliació de la representació també es va donar a la Generalitat en aquests segles, com explica Josep Fontana a “La formació d’una identitat. Una Història de Catalunya”. El procés és semblant a la democràcia parlamentària anglesa que, quan el Parlament va organitzar un exèrcit propi i va derrotar el monarca, només representava un 10% de la població. Però el fet important va ser que la sobirania passava del Rei al Parlament, i en els segles subsegüents la població representada va anar augmentant. L’èxit del model anglès també es deu a la teorització de la Revolució Gloriosa, que es legitima amb el principi que els governants legítims només poden governar amb el consentiment dels governats. Aquest principi fou reprès per la Revolució Americana (que originalment volia un parlament deliberatiu i no basat en parties— “grups” en anglès).

Malgrat això, aquest model anglosaxó instaura la representació basada en parlaments escollits per parties, el qual s’estendrà a d’altres llocs (on els bàndols, com es dia en català, passen a anomenar-se “partits”). Així arribem als “estats moderns liberals”.

Mentre que els parlaments han sigut els dipositaris de la ‘representació’ popular i del ‘rendiment de comptes’ (accountability, entesa com les eleccions basades en partits), la incapacitat i ineptitud d’aquest sistema per funcionar sense bloquejos constants i fer efectius els canvis i les transformacions que els mateixos representants proclamen com imprescindibles, ha portat a teòrics i activistes polítics a pensar com introduir alternatives complementàries dins l’odre polític modern. Una d’aquests propostes és la de tenir cossos deliberatius no designats pel poder ni escollits pel poble, sinó assignats per sorteig (sortition), com es fa amb els jurats que representen la gent d’aquell lloc dins el sistema judicial.

Una proposta que ha guanyat força és la d’instituir una Citizen Assembly (Assemblea de Ciutadans, AC) per determinats processos polítics. La AC ha estat emprada en diversos països, especialment a Irlanda, on la constitució

Bossa d’insaculació

By Histanna - Treball propi, CC BY-SA 4.0, https://commons. wikimedia.org/w/index.php?curid=61329718

El butlletí de l’ACIA

19

Democràcia i Intel·ligència Artificial

“Si ens fixem en la IA com a tecnologia, la seva possible acció positiva no anirà més enllà de com s’usa avui la tecnologia digital per ‘incrementar la participació.”

“La IA pot ajudar si desenvolupa models deliberatius basats en coneixements per a l’acció col·lectiva.”

20

El butlletí de l’ACIA

obliga que certes decisions siguin validades en referèndum pel poble. Així, van crear unes ACs el 2016 per examinar una sèrie de qüestions “polèmiques” (difícils de resoldre pels enfrontaments entre partits i amb grups de pressió de la societat). La versió irlandesa consta de 99 persones seleccionades a l’atzar del cens electoral, que es reuneixen durant una sèrie de caps de setmana per conèixer, debatre i votar sobre qüestions polèmiques, com ara el dret de l’avortament o el canvi climàtic. A hores d’ara, els resultats han estat sorprenents: l’assemblea de ciutadans va dona l’impuls de la legalització de l’avortament (que es va debatre al Oireachtas i finalment es va aprovar en referèndum) i, recentment, el 2018 ha votat de manera aclaparadora a favor d’una sèrie de mesures per reduir les emissions de gasos d’efecte hivernacle que els polítics havien descartat perquè eren “inviables”.

La dinàmica d’aquestes persones (acompanyats d’un grup de facilitadors de les dinàmiques de grup), que primer són desconegudes, però que es van coneixent, que debaten en grups petits (democràcia deliberativa) i desprès presenten i discuteixen la seva feina (conclusions i dubtes) davant l’Assemblea, les presentacions i preguntes a experts amb diferents biaixos (democràcia epistèmica), la iteració d’aquest procés durant una sèrie de caps de setmana, crea una sentit de comunitat i un coneixement comú que fa possible (si tot va bé) superar els prejudicis i avaluar les opcions reals i llurs conseqüències amb força més equitat per arribar a un acord col·lectiu. Un aspecte d’importància és que totes les deliberacions són privades i lluny dels mitjans de comunicació— com els parlaments abans de la ràdio i la TV. També hi ha exemples negatius; British Columbia va fer també una AC però, sense passar per Parlament ni tenir una publicitat suficient per al públic general, el referèndum final va ser amb poca participació i no va acceptar la proposta de l’AC. Intel·ligència en acció Ara ja sabem com s’usarà la IA, i especialment l’aprenentatge artificial: s’aplicarà el big data, tant al big government com a les big corporations. Concretament en ‘procés polític’ dels estats democràtics s’usarà com a eina de persuasió i confusió massives. Si ens fixem en la IA com a tecnologia, la seva possible acció positiva no anirà més enllà de com s’usa avui la tecnologia digital per ‘incrementar la participació’. L’alternativa és veure la IA dins el marc d’Ober, on la democràcia és epistèmica i pragmàtica, i per millorar (o reformular) la democràcia caldrà imaginació i nous moviments socials. La IA pot ajudar si desenvolupa models deliberatius basats en coneixements per a l’acció col·lectiva. Les Assemblees de Ciutadans poden funcionar bé o malament (possiblement millorin amb la pràctica), i no necessiten una gran tecnologia, mentre que inclouen democràcia epistèmica i deliberativa.

Ens calen propostes d’uns models per a l’acció col·lectiva més enllà de la teoria de jocs i les funcions d’utilitat del fracassat model de l’homo economicus. Un exemple de model d’IA és la feina de Pablo Noriega (IIIA-CSIC) on s’usen valors per decidir polítiques públiques de gestió de l’aigua en comunitats de regants [5] Aquest estudi vol entendre com és que una part de la gent implicada acceptarà certes polítiques, o les rebutjarà, en relació amb el seu rol (regant, funcionari públic), els seus interessos, els seus coneixements i els seus valors.

Democràcia i Intel·ligència Artificial Altres maneres low tech de millorar l’accountability (retre comptes) existeixen de fa temps, com ara fer eleccions pels càrrecs de jutges, fiscals i caps de policia als EUA. És una idea molt dolenta que els jutges jutgin els jutges; el principal avantatge d’escollir jutges i fiscals és que hi ha un mínim control d’aquests càrrecs: al cap de 4 anys poden perdre el càrrec, en no ser reelegits.

L’altre avantatge és la distribució del poder: el Fiscal General de l’Estat de New York pot investigar i potser acusar el President dels EUA perquè no depèn del President sinó dels seus electors. També és possible fer reformes en sistemes antics: Anglaterra i Gal·les des del 2012 escullen, a cada regió policial (excepte Londres), el Comissionat de Policia, que està per damunt del cap de policia i el supervisa. Aquesta reforma es va fer per millorar la manca d’accountability de la policia respecte la gent del seu territori. Hi ha gent que diu que no es pot votar tot; potser no, potser no es pot votar el sheriff com als EUA, però es pot votar el que supervisa el cap de policia, com a Anglaterra i Gal·les. Potser no es pot votar tot, però es poden votar més coses que no fins ara. O fer sac i sort.

Referències (1) Josiah Ober, Democracy and Knowledge: Innovation and Learning in Classical Athens, Princeton: Princeton University Press, (2008) (2) Eich, Armin, and Peter Eich. “War and State-Bulding in Roman Republican Times.”

Scripta Classica Israelica 24:1–33. (2005). [Citat per (1)] (3) Josiah Ober, “The Original Meaning of ‘Democracy’: Capacity to Do Things, Not Majority Rule”, Constellations 15(1): 1-9. Available at SSRN: https://ssrn.com/abstract=1024775w or http://dx.doi. org/10.2139/ssrn.1024775 (4) Josiah Ober, Demopolis: Democracy Before Liberalism, Cambridge: Cambridge University Press, (2018) (5) Perelló-Moragues, A., Noriega, P.: “Using Agent-Based Simulation to understand the role of values in policy-making”. In: Verhagen, H., Borit, M., Bravo, G., Wijermans, N. (Eds.) Advances in social simulation — Looking in the mirror. Springer (In Press).

El butlletí de l’ACIA

21

Democràcia i Intel·ligència Artificial

Democràcia, participació ciutadana i IA Maite López Sánchez, Patricio Escobar, Marc Serramià, Juan Antonio Rodríguez Aguilar

“L’aportació essencial de les TIC es troba en permetre que es reinstal·lin elements que resulten essencials a la democràcia, com ara la co-creació de propostes, la deliberació pública o la presa de decisions conjuntes.”

22

El butlletí de l’ACIA

Un dels aspectes més preocupants de la societat contemporània és l’aparent deteriorament del model democràtic (Kane, J. 2009). Una explicació d’aquest fenomen és que el model majoritàriament adoptat és el de la democràcia representativa, on les decisions les prenen polítics electes (Fernández-Martínez, J.L. et al. 2017). No obstant això, el model de democràcia representativa està en crisi. L’evidència d’això és la progressiva desafecció política de la ciutadania i la pèrdua de confiança en les institucions que el sostenen, i l’abstenció o la baixa participació en són alguna de les manifestacions. Així, la legitimitat de l’estament polític es troba seriosament minvada davant els ulls de la societat. Això, i el context socio-històric en què la participació en política s’ha realitzat tradicionalment a través del vot a unes eleccions, provoca en última instància una crisi en la participació. De fet, abans que la ciutadania decideixi no concórrer a expressar la seva opinió respecte a diferents alternatives electorals o ni tan sols se senti convocada a prendre aquest tipus de decisió, en bona part ja ha abandonat la discussió política i ha perdut l’interès a participar dels assumptes públics (Castells, M. 2009; Crouch, C. 2004). La percepció de llunyania que les persones adverteixen provoca una sensació d’irrellevància de la política com a afer social.

Tanmateix, estudis recents d’opinió mostren que, tot i que la majoria de la ciutadania considera que les decisions són preses només per polítics electes, es prefereixen processos de presa de decisions que impliquin tant els polítics com la ciutadania (Font et al. 2015). Amb aquest esperit apareixen diferents esforços de desenvolupament de noves eines de participació ciutadana basades en les tecnologies de la informació i la comunicació (TIC) que suscitin l’interès de la ciutadania en els temes públics i la política.

Innovació democràtica, tecnologia i participació.

La incorporació de les TIC en la política ha introduït canvis fonamentals en els sistemes polítics democràtics i ha suposat noves possibilitats de relació entre la ciutadania i els representants polítics, que han generat les condicions necessàries per a facilitar el retrobament entre els dos móns.

En primera instància, les TIC permeten minimitzar les limitacions de temps i distància que poden afectar la participació política, disminueixen els costos d’organització de col·lectius i augmenten les oportunitats de comunicació entre persones i d’intercanvi de continguts (Colombo, C. 2006).

Però la seva aportació no s’atura en el fet de facilitar la participació de les persones a qui se’ls dificulta aquesta acció o han perdut l’interès, ja que la seva sola existència no canvia per se les condicions que han donat lloc a la progressiva desafecció de la societat respecte a la política. L’aportació essencial de les TIC es troba en permetre que es reinstal·lin elements que resulten essencials a la democràcia com ara la co-creació de propostes, la deliberació pública o la presa de decisions conjuntes.

Democràcia i Intel·ligència Artificial El trànsit d’una democràcia procedimental cap a una democràcia deliberativa, en què la gestió dels béns públics es basa en propostes codissenyades i construïdes des dels grups socials mitjançant la deliberació, s’aprecia avui com l’únic camí efectiu per a salvar-la de l’obsolescència. En aquest context es troben les iniciatives d’innovació democràtica basades en les TIC, que donen suport als models de democràcia participativa en línia. A l’àmbit nacional, Parlement et Citoyens a França1, Petitions al Regne Unit2 o la plataforma Rousseau3 a Itàlia, i també a l’àmbit local, Better Reykjavik4 o Decidim Barcelona5, constitueixen alguns dels exemples paradigmàtics de plataformes per a la participació i la deliberació política.

Les versions més avançades d’aquestes plataformes proporcionen la possibilitat de proposar idees, debatre sobre els seus avantatges i inconvenients i fins i tot poden donar lloc a modificar les pròpies opinions fruit d’aquest debat.

Així, els ciutadans i les ciutadanes surten de la condició restrictiva que els i les limita a simplement votar a favor d’una d’entre diverses alternatives, per a formar part del procés de co-disseny de les propostes. En concret, Decidim Barcelona és una plataforma en línia implantada per l’Ajuntament de Barcelona per donar suport als seus processos participatius. L’objectiu és inscriure la ciutadania en una lògica de co-producció durant un determinat període, on es pot discutir i donar suport a les propostes fetes pel govern i la ciutadania (Aragón, P. et al. 2017). La Figura 1 mostra un exemple d’una proposta realitzada a la plataforma Decidim Barcelona.

Parlement et Citoyens.

Portal de participació institucional per a la discussió de lleis franceses. https:// parlament et citoyens.fr/ 1

Petitions.UK Government and Parlament. https://petition.parliament.uk/ 2

Plataforma Rousseau: https://rousseau.movimento5stelle.it/sso_home.php 3

City of Reykjavik participation portal. http://reykjavik.is/en/participation 4

Decidim Barcelona. Portal de participació de la ciutat de Barcelona. https://decidim.barcelona 5

Figura 1. Exemple de proposta a Decidim Barcelona sobre el foment del carril bici a la ciutat. Sota la proposta es mostren dos dels sis comentaris aportats a favor i en contra de la proposta.

Les iniciatives existents tenen semblances i diferències importants. En alguns casos, com ara Petitions UK, els ciutadans i les ciutadanes poden donar suport o rebutjar propostes, però no discutir-les. D’altres plataformes, com Rousseau, permeten a la ciutadania aportar les seves opinions sobre les propostes mitjançant comentaris, però sense que es puguin articular diàlegs de forma natural. També hi ha aquells casos en què es poden dur a terme discussions, però no compten amb una interfície que assenyali i diferenciï clarament comentaris a favor o en contra de les propostes. Finalment, en les interfícies com ara la de Decidim Barcelona, en la qual sí que es pot visualitzar aquesta característica, no s’aporta informació agregada sobre les opinions expressades envers aquests arguments. Tal com descriu la secció següent, proposem l’ús d’operadors d’agregació per a visibilitzar aquesta informació (Rodríguez-Aguilar, J.A. et al 2016).

El butlletí de l’ACIA

23

Democràcia i Intel·ligència Artificial

“La millora de la presa de decisions ha de ser el fil conductor en el trànsit des de la democràcia representativa cap a la democràcia participativa, i la deliberació resulta clau per a ampliar les formes de participació.”

Figura 2: Distribució d’arguments a favor (columna esquerra) i en contra (columna dreta) d’una proposta al PAM. Les opinions agregades envers cada argument es visualitzen mitjançant estrelles i el nombre de participants que han emès aquestes opinions.

24

El butlletí de l’ACIA

Un segon àmbit en què la participació ciutadana es materialitza de forma molt tangible és en els processos de construcció de pressupostos participatius, on la ciutadania té la potestat per a escollir en quins projectes s’invertiran els pressupostos assignats. Òbviament, els avantatges de poder donar suport a aquests processos mitjançant plataformes en línia segueixen sent clars a l’hora d’acostar la ciutadania a la presa de decisions. Però en aquest cas té l’al·licient que les institucions impulsores dels processos es comprometen a materialitzar les decisions col·lectives.

Agregació d’informació a la deliberació La millora de la presa de decisions ha de ser el fil conductor en el trànsit des de la democràcia representativa cap a la democràcia participativa, i la deliberació resulta clau per a ampliar les formes de participació. La seva inclusió ens porta cap a un model de democràcia deliberativa, on les decisions es fonamenten en una participació ciutadana informada i una discussió raonada realitzada de forma conjunta. En aquest entès, suposa la possibilitat de proposar idees, debatre sobre els seus avantatges i inconvenients, i, fins i tot, la possibilitat de modificar les pròpies opinions fruit d’aquest debat.

Sota la premissa que la interacció entre els i les participants del debat es pot fer de forma estructurada, s’ha desenvolupat un model de deliberació amb elements d’Intel·ligència Artificial anomenat PAM (de l’anglès Proposal Argument Map) (Rodríguez-Aguilar, J.A. et al 2016), que defineix un marc de decisió col·lectiva. A partir d’una proposta que ha pogut ser presentada tant per les institucions com per la ciutadania, aquest model permet que la ciutadania elabori diferents arguments a favor o en contra de la proposta esmentada.

De manera convencional, les comunitats en línia a les quals es produeixen debats al voltant de determinats temes, aquests debats es desenvolupen en fils de discussió, seguint una lògica en què les opinions emeses es succeeixen unes a les altres de forma seqüencial. A mesura que avança la discussió o augmenta el nombre de participants, la falta d’estructuració d’aquests fils dificulta la identificació tant de les argumentacions matrius del debat com de les contra-argumentacions que es produeixen. És per això que resulta de cabdal importància assenyalar i agrupar els arguments a favor i en contra de la proposta objectiu del debat. La Figura 2 mostra com la interfície del PAM presenta a la part de dalt la proposta a debatre (en aquest cas es tracta d’una norma per a prohibir l’afegir spam a una secció d’una comunitat virtual) i estructura els arguments a favor i en contra en dues columnes contraposades, que reforcen l’argumentació i la contraargumentació amb un codi de colors verd i vermell, respectivament.

Democràcia i Intel·ligència Artificial A les plataformes participatives més avançades, com ara Parlement et Citoyens, els i les diferents participants poden indicar el seu acord, desacord o opinió neutre sobre cadascun dels arguments. Amb el PAM, aquesta opinió es pot expressar amb un grau dins d’un interval que marca el possible espectre d’opinió. A la interfície, aquest interval es mostra de forma intuïtiva mitjançant una escala de cinc estrelles, tipus Likert, sent cinc estrelles l’opinió de major suport a l’argument. La Figura 2 mostra com la interfície del PAM indica, a més, el nombre de persones que han expressat la seva opinió per a cadascun dels arguments. La riquesa de l’expressivitat d’opinió permet aplicar operadors d’agregació d’informació per a, en comptes de simplement indicar l’opinió majoritària, combinar les diferents opinions en un únic valor que representi una opinió conjunta.

Tot i que es podria fer servir la mitjana per a combinar les opinions individuals, no és l’operador més adient, perquè hi ha casos on es distorsionarien les opinions aportades. Així, davant de valoracions molt polaritzades, la mitjana condueix a una puntuació que ningú ha atorgat, obtenint un resultat que en realitat no reflecteix cap opinió donada (per exemple, la mitjana dels valors 5, 1, 1, 5, 1 i 5 correspon al valor 3, que ningú no ha donat). L’altre efecte que s’observa, seguint aquesta lògica de tendència a la centralització de la mitjana, és que els valors extrems desapareixen i queden subsumits en un valor moderat (central/neutral), que emmascara opinions extremes (p.ex., la mitjana de 3, 5, 3, 3, 3, 3, 5, 3, 5, 3, 3 i 3 és 3,5).

Alternativament, per a calcular el suport de la ciutadania a un argument, es pot fer servir operadors d’agregació més sofisticats que tinguin en compte aspectes com ara la importància de les opinions (les opinions centrals poder ser associades a indecisió mentre que les opinions extremes poden reflectir opinions més clares) o la quantitat d’opinions expressades. Això ens permet descartar arguments febles i evitar que afectin negativament l’agregació del suport a conjunts d’arguments i la pròpia proposta. En concret, l’operador que es proposa aplicar és l’operador WOWA (Weighted Ordered Weighted Average) (Torra, V. i Narukawa, Y, 2007). La Figura 2 també mostra, en forma d’estrelles omplertes, els valors de suport agregats calculats tant a nivell d’argument individual, de conjunt d’arguments a favor i de conjunt d’arguments en contra, com de la proposta global. En aquest exemple concret, la proposta obté un suport agregat de 2 i, per tant, no seria acceptada. Aquest resultat s’alinea amb el fet que, tal com es pot observar, els arguments en contra tenen major suport que els arguments a favor.

Aquest mètode permet a la ciutadania expressar els seus raonaments a favor i en contra de les propostes, les seves opinions sobre aquests raonaments i obtenir una agregació del suport global atorgat per tal de sintetitzar una decisió col·lectiva. Amb això, aquesta tècnica d’agregació facilita als i a les participants fer un seguiment de l’impacte tant dels seus raonaments com de les valoracions que realitzin sobre els raonaments emesos per altres participants. Addicionalment, pot representar un estímul a la participació, ja que, si es dona el cas que el suport agregat no coincideix amb l’opinió personal del ciutadà o de la ciutadana, aleshores aquesta persona estarà més predisposada a llegir les raons de per què és així (és a dir, a llegir els arguments publicats) i a expressar les seves pròpies opinions per contrarestar les puntuacions actuals.

El butlletí de l’ACIA

25

Democràcia i Intel·ligència Artificial Aquest supòsit es troba alineat amb les troballes envers l’estímul al debat que es produeix dins la plataforma de Decidim Barcelona quan hi ha opinions contraposades (Aragón, P. et al. 2017).

“La participació ciutadana en els processos de generació de les polítiques públiques que afecten la població té una expressió per excel·lència en la construcció pressupostària.” https://www.participatorybudgeting.org/whatis-pb/ 6

26

El butlletí de l’ACIA

Planificació estratègica: pressupostos participatius La participació ciutadana en els processos de generació de les polítiques públiques que afecten la població té una expressió per excel·lència en la construcció pressupostària. Els pressupostos participatius constitueixen processos democràtics en els quals els membres d’una comunitat donada decideixen conjuntament a quins projectes o iniciatives destinar l’execució del seu pressupost. De fet, en els últims anys, s’ha proposat l’ús dels pressupostos participatius com a mètode de satisfacció de demandes socials i com a via d’incentivació de la participació social per tal d’enfortir el sentit comunitari (i democràtic) i de promoure una millor distribució dels recursos públics.

Les institucions locals han estat les que han adoptat en major mesura els pressupostos participatius, i l’any 2019 han arribat al voltant de les 3000 ciutats arreu del món que l’han implementat. Malgrat això, la part de recursos públics destinada a aquests processos ha estat força desigual, perquè els ajuntaments hi han destinat entre l’1 i el 15% del seu pressupost6. De la mateixa manera que en el cas de les plataformes de deliberació ciutadana, es planteja la necessitat que les persones que hi participin se sentin recompensades per la seva dedicació al procés: obtinguin satisfacció de l’exercici realitzat i tinguin la percepció que la seva participació sigui efectiva. En aquest cas especialment, la ciutadania requereix, potser més que sigui acceptada la seva proposta de despesa, tenir la percepció que hagi estat considerada.

Tot procés de pressupostos participatius requereix comptar amb una metodologia per a seleccionar les propostes realitzades per la ciutadania. El sistema actualment emprat de forma generalitzada als processos participatius consisteix a establir un rànquing basat en les adhesions que recullen les propostes individuals, de forma que queden ordenades en primer lloc aquelles que tinguin més suports i en darrer lloc les que hagin rebut menys suport de la ciutadania. El pas següent és incorporar-les al pressupost de despesa, seguint aquest ordre, partint de les que tenen major adhesió, fins que l’ítem pressupostari s’esgoti. La Figura 3 a) il·lustra aquest procés amb un exemple de pressupost participatiu que té assignat un pressupost total de 90.000 euros (considerant que cada quadrat representa una unitat monetària de 10.000 euros) i per al qual la ciutadania ha proposat un total de quatre propostes que corresponen a diferents àmbits. En concret, la proposta A pertany a l’àmbit de la gestió mediambiental, que té un cost associat de 80.000 euros i que ha rebut un suport ciutadà de 3. De forma similar, les propostes B, C i D pertanyen, respectivament, als àmbits de transport, educació i enllumenat públic, que suposen un cost de 40.000, 30.000, i 20.000 euros i que han recaptat un total de 7, 2 i 1 suports, respectivament. La part esquerra de la Figura 3 b) mostra l’ordenació d’aquestes quatre propostes d’acord amb el suport individual obtingut.

Llavors, com que el mètode actual selecciona les propostes a executar seguint aquest ordre, només la proposta B pot ser seleccionada, perquè escollir la proposta A següent implicaria destinar un total de 120.000 euros, que excediria el pressupost total assignat de 90.000 euros. Per tant, aquesta selecció de

Democràcia i Intel·ligència Artificial la proposta B implica que es recaptin un total de 7 suports i només s’executin 40.000 dels 90.000 euros disponibles. De fet, aquesta situació s’agreuja en processos amb pressupostos limitats i als quals les primeres propostes resulten molt més cares que les següents, tot i tenir un suport només lleugerament superior a aquelles. D’aquests casos se’n deriven situacions a les quals només se seleccionen unes poques propostes cares i es deixen fora d’altres propostes amb un suport similar que comporten una fracció del cost de les seleccionades.

Figura 3:

a)

b)

No obstant això, és possible trobar combinacions alternatives que podrien recaptar més suports. En particular, la combinació de les propostes B, C i D que es mostra a la part dreta de la igura 3 b) acumularia un total de 10 suports i executaria el total del pressupost assignat. Aquesta combinació permet incloure les propostes C i D al pressupost a causa del seu baix cost, tot i haver recaptat pocs suports (potser per tenir un impacte limitat). Efectivament, aquesta combinació B, C i D maximitza el suport ciutadà que es pot recaptar atès el pressupost màxim fixat i, per tant, és l’òptima respecte a aquesta dimensió.

La selecció de la millor combinació de propostes es pot calcular definint el problema com el problema d’optimització combinatòria de la motxilla (Sinha, P. i Zoltners, A.A.,1979). Llavors, es pot codificar com un programa lineal i resoldre’l de forma estàndard fent servir qualsevol llibreria d’optimització com ara CPLEX7 o Gurobi8, que disposi d’un solver per a programació lineal.

A més, el mètode actual de selecció no considera possibles incompatibilitats entre propostes (per exemple, una proposta de fer un parc a una plaça és incompatible amb una altra que proposi un aparcament a la mateixa plaça) ni possibles duplicitats entre propostes que representen alternatives que, si se seleccionen a la vegada, serien redundants. En aquest escenari, el procés al-

a) Exemple de procés participatiu amb un pressupost total de 90.000 euros (cada quadrat correspon a 10.000 euros) i quatre propostes (A, B, C i D) amb diferents costos i suports associats

b) Selecció de propostes. Esquerra: llista de propostes ordenada de major a menor suport. Centre: selecció, segons el sistema actual, de la proposta B fins a exhaurir pressupost. Dreta: selecció optimitzada de les propostes B, C i D dins del pressupost.

CPLEX https://www.ibm. com/analytics//data-science/prescriptive-analytics/ cplex-optimizer,1988.

7

Gurobi Optimization. http://www.gurobi. com/2010 8

El butlletí de l’ACIA

27

Democràcia i Intel·ligència Artificial

“La creació d’un espai de deliberació comuna, en què la presa de decisions es realitza de forma transparent i verificable, afavoreix la participació, que a la vegada enforteix la democràcia com a pràctica social real.”

28

El butlletí de l’ACIA

ternatiu d’optimització que es proposa combina en un sol algoritme el grau de suport que té cadascuna de les propostes amb les relacions d’incompatibilitat, redundància i generalitat que s’ hi identifiquin entre les propostes i considerant, a més, el cost total que suposa l’execució de les propostes seleccionades.

D’aquesta manera, el resultat que el sistema lliura és la combinació òptima de màxim suport agregat del mix de propostes seleccionades, tenint com a efecte addicional un alt nivell d’execució pressupostària.

Aplicació i línies de futur L’aplicació de tècniques específiques d’Intel·ligència Artificial constitueix una línia de treball de gran potencial per a desenvolupar plataformes de participació en línia perquè, més enllà de fer més accessible la participació ciutadana, poden ajudar a assolir consensos i incrementar la satisfacció de les persones que participen en aquesta modalitat del quefer polític. És aquesta satisfacció la que contribuirà decisivament al fet que la participació creixi de forma sostinguda. La democràcia pot comptar amb diferents suports que la facin possible, però té com a condició sine qua non, el que la societat la faci seva.

Decidim Barcelona és una de les plataformes que així ho consideren i en els darrers anys ha apostat per a la recerca en aquesta direcció. Una prova d’això n’és que l’estudi d’aplicació de les tècniques presentades en aquest article ha estat realitzat en el context de dos projectes finançats per l’Ajuntament de Barcelona. Amb aquests treballs s’ha provat com, per una banda, els operadors d’agregació proposats, tot i comportar-se de forma similar a la mitjana a la majoria de casos, no pateixen de la seva tendència a la centralització i són capaços d’identificar quan no es disposa d’informació suficient per a avaluar de forma correcta una proposta (Serramià et al. 2019a). Per altra banda, s’ha aplicat el mètode d’optimització a dades de dos pressupostos participatius realitzats prèviament a dos barris de la ciutat i s’ha pogut constatar com aquest mètode pot arribar a seleccionar propostes que en conjunt reben, respectivament, fins a un 72% i 92% més de suports que el que acumularien la selecció aplicada pel mètode aplicat actualment (Serramià et al. 2019b). A més, als casos estudiats, l’optimització selecciona de forma consistent un nombre superior de propostes i és més eficient en termes d’execució pressupostària.

Aquestes millores als sistemes de participació mostren que és possible promoure alternatives reals als vicis que la ciutadania associa als models democràtics tradicionals. A més, els processos digitals, en fer públiques les dades i els procediments emprats, suposen una aposta inequívoca per la transparència, un valor intrínsecament democràtic. Hi ha una bretxa secular entre l’opinió de la ciutadania i les polítiques que efectivament els governs implementen, i moltes vegades resulta impossible identificar els vincles entre els dos extrems del que hauria de ser un continu en el context d’un sistema democràtic. La creació d’un espai de deliberació comuna, en què la presa de decisions es realitza de forma transparent i verificable, afavoreix la participació, que a la vegada enforteix la democràcia com a pràctica social real.

Els projectes desenvolupats posen a disposició de Decidim Barcelona eines de suport a la presa de decisió que fan servir tècniques d’Intel·ligència Artificial que enforteixen la seva capacitat de materialitzar la seva missió, mitjançant la facilitació de les interaccions entre els i les participants de la deli-

Democràcia i Intel·ligència Artificial beració que representen un exercici de co-construcció d’un model d’interacció política. Les funcionalitats concretes, que donen suport a un debat raonat i que optimitzen la selecció de propostes, el que finalment fan és aprofundir la democràcia.

Més enllà del treball realitzat, la Intel·ligència Artificial pot ajudar a abordar altres reptes. En primera instància, tècniques relacionades amb el processament de llenguatge natural (NLP) poden ser molt útils per a donar suport als administradors de la plataforma en la identificació de relacions entre propostes, permetent, per exemple, que propostes similars siguin fusionades en una única. En una segona instància, tècniques d’anàlisi de dades es poden fer servir per a extreure les preferències i necessitats de la ciutadania. Per tant, la democràcia participativa constitueix un domini que representa una oportunitat per a l’aplicació d’una varietat de tècniques d’Intel·ligència Artificial.

Bibliografia Aragón, P; Kaltenbrunner, A.; Calleja-López, A.; Pereira, A.; Monterde, A.; Barandiaran, X.; Gómez, V. (2017). “Deliberative Platform Design: The Case Study of the Online Discussions in Decidim Barcelona”. International Conference on Social Informatics. pp.277-287.

Castells, M. (2009): Communication power. Oxford University Press Crouch, C. (2004): Post-democracy. Polity Cambridge Keane, J. (2009): The life and death of democracy. Simon and Schuster Fernández-Martínez, J. L.; López-Sánchez, M.; Rodríguez-Aguilar, J.A.; Sánchez-Rubio, D.; Zambrano Nemegyei, B. (2018). “CoDesigning Participatory Tools for a New Age: A Proposal for Combining Collective and Artificial Intelligences”. International Journal of Public Administration in the Digital Age (IJPADA) Vol 5 (4) pp. 50-68.

Font, J., Wojcieszak, M., & Navarro, C. J. (2015). “Participation, representation and expertise: Citizen preferences for political decision-making processes”.

Political Studies, 63(1), pp. 153-172.

Rodríguez-Aguilar, J.A.; Serramià, M.; Lopez-Sanchez, M. (2016). “Aggregation operators to suport collective reasoning”. In Modeling Decisions for Artificial Intelligence, pages 3–14. Springer.

Serramià, M.; Ganzer, J.; Lopez-Sanchez, M.; Rodriguez-Aguilar, J.A.; Criado, N.; Parsons, S.; Escobar, P; Fernández, M. (2019a). “Citizen support aggregation methods for participatory platforms”. Frontiers in Artificial Intelligence and Applications: Artificial Intelligence Research and Development. IOS Press.

Serramià, M.; Lopez-Sanchez, M.; Rodriguez-Aguilar, J.A.; Escobar, P (2019b).

“Optimising participatory budget allocation: the Decidim use case”. Frontiers in Artificial Intelligence and Applications: Artificial Intelligence Research and Development. IOS Press.

Sinha, P. i Zoltners, A.A. (1979) “The multiple-choice knapsack problem”. Operations Research, 27(3):503–515.

Torra, V. i Narukawa, Y. (2007). Modeling decisions: information fusion and aggregation operators. Springer Science & Business Media.

El butlletí de l’ACIA

29

Democràcia i Intel·ligència Artificial

El capitalisme de la vigilància Shoshana Zuboff

Charles Edward Wilson Professor Emerita, Harvard Business School (Traducció de l’anglès de Josep Puyol Gruart)

Shoshana Zuboff, In the Age of Smart Machine: The Future of Work and Power, New York, Basic Books, 1988.

1

30

El butlletí de l’ACIA

Aquest text s’ha extret del llibre The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power (Public Affairs Books, 2019). El capitalisme de la vigilància és una nova forma de capitalisme que fa servir com a matèria primera el fruit de la digitalització del nostre món: s’acumulen i analitzen les dades sobre els comportaments humans, les de les transaccions comercials, de les interaccions a les xarxes socials, etc.

Shoshana Zuboff creu que la concentració de saber, autoritat i poder dels capitalistes de la vigilància fa perillar les llibertats individuals i col·lectives i, en definitiva, la democràcia.

“Tots estarem treballant per a una màquina intel·ligent, o bé tindrem persones intel·ligents al voltant de la màquina?” Un jove directiu d’una fàbrica de paper em va fer aquesta pregunta el 1981, entre el peix fregit i el pastís de nous de pacaner, durant la meva primera nit, passada en una petita vila del sud dels Estats Units, on aquesta fàbrica gegant es va instal·lar, i que seria periòdicament la meva llar en els sis anys següents. Durant aquella nit plujosa, les seves paraules van inundar el meu cervell, ofegant l’accelerat xip-xap de les gotes de pluja sobre el tendal damunt la nostra taula. Vaig recordar les qüestions polítiques més antigues: casa o exili? Sobirà o subjecte? Mestre o esclau? Aquests són els temes eterns del saber, l’autoritat i el poder que mai no es poden resoldre definitivament per a totes les èpoques. És una història sense final, cada generació ha de fer valer la seva voluntat i imaginació, ja que les noves amenaces requereixen que ho tornem a intentar a cada època.

Durant els anys que van seguir aquell vespre plujós, vaig observar de prop la digitalització del treball a la fàbrica de paper. Tal com l’he descrit a In the Age of the Smart Machine, el canvi cap a la tecnologia de la informació va transformar la fàbrica en un “text electrònic”, que era el principal focus d’atenció de cada treballador1. En lloc de les tasques manuals associades a les matèries primeres i l’equipament, fer una “bona feina” es va convertir a fer un seguiment de les dades a les pantalles i a dominar les competències necessàries per entendre, aprendre i actuar mitjançant aquest text electrònic.

Vaig argumentar també que tots aquests canvis obvis assenyalaven cap a una significant i profunda transformació. El principi de l’organització de l’empresa havia passat d’una divisió del treball a una “divisió del saber”. Vaig escriure sobre les moltes dones i homes que es van sorprendre a si mateixos i als seus directius al conquerir noves habilitats intel·lectuals i a l’aprendre a desenvolupar-se en un entorn ric en informació, però també vaig documentar els conflictes amargs que van assistir aquests èxits, resumits en els dilemes del saber, l’autoritat i el poder.

Democràcia i Intel·ligència Artificial Qui sap?

Qualsevol consideració sobre la divisió del saber ha de resoldre aquests dilemes expressats en tres preguntes essencials. La primera pregunta és “Qui sap?” Aquesta és una pregunta sobre la distribució del coneixement i de si un està inclòs o exclòs de l’oportunitat d’aprendre. La segona pregunta és “Qui decideix?” Aquesta és un pregunta sobre l’autoritat: quina gent, quines institucions o quins processos determinen qui es beneficia de l’aprenentatge, què pot aprendre, i què podrà fer amb el seu coneixement.

Quin és el fonament legítim d’aquesta autoritat? La tercera pregunta és “Qui decideix qui decideix?” Aquesta és una pregunta sobre el poder. Quina és la font de poder que té l’autoritat de compartir o restringir l’accés al coneixement?

El jove directiu finalment trobaria les seves respostes, però no eren les que cap dels dos hauríem esperat.

A pesar de les lluites, sovint victorioses, dels treballadors de la fàbrica de paper, la concepció del món segons Hayek triomfava als nivells més alts de la política, i les disciplines de funcionament de Jensen buscaven amb ànsia un bon acolliment a Wall Street, que ràpidament aprendria a imposar-les a totes les empreses de la borsa. El resultat va ser un model de negoci de reducció de costos orientat als inversors de Wall Street, que insistia en deslocalitzar i automatitzar treballs abans que invertir en les habilitats digitals i les capacitats dels treballadors americans. La resposta a la pregunta “Qui sap?” va ser que la màquina sap, junt amb una elit, manegar les eines analítiques per solucionar problemes i extreure valor de la informació. La resposta a “Qui decideix?” va ser que decideix una forma de mercat restringit i el seu model de negoci. Finalment, a falta d’un doble moviment2 significatiu, la resposta a “Qui decideix qui decideix?” es deixa enterament al capital financer lligar a les disciplines de maximització del valor per als accionistes.

No és sorprenent que uns quaranta anys més tard un informe de l’Institut Brookings lamentés que milions de treballadors americans estaven “fora de les oportunitats de tenir una formació digna” a causa de la “ràpida digitalització.”

L’informe exhortava les empreses a “invertir urgentment en estratègies per a millorar les capacitats del treballadors en tecnologies de la informació, sabent que les habilitats digitals representen un element clau per al guany de productivitat.3” Com de diferent podria ser la societat si les empreses americanes haguessin escollit invertir en les persones tant com en les màquines?

La majoria de les companyies van preferir les màquines intel·ligents a les persones intel·ligents, i van produir un patró ben documentat que afavoreix la substitució dels treballadors humans per màquines i els seus algorismes en una àmplia varietat de tasques. Això va produir el que els economistes anomenen “polarització del mercat de treball”, amb unes feines que requereixen molta qualificació i altres que requereixen molt poca qualificació. L’automatització desplaça la majoria de les professions que alguna vegada havien estat “al mig” dels requeriments de qualificació. I encara que alguns líders de negoci, economistes i tecnòlegs, descriuen aquest desenvolupament com a necessari i com una conseqüència inevitable de les tecnologies basades en els computadors, la recerca mostra que la divisió del saber en el domini econòmic reflecteix la

Autor: Lianhao Qu (unsplash.com)

n. del t: Terme de Karl Polanyi per descriure els moviments alternatius entre la creació d’una societat basada en el mercat sense limitacions, i la reacció (contramoviment) social amb mesures de protecció contra aquest propi mercat.

2

Mark Muro, Sifan Liu, Jacob Whiton et Siddarth Kulkarni, “Digitalization and the American workforce”, Washington, Metropolitan Policy Program, Brookings Institution, novembre 2017.

3

El butlletí de l’ACIA

31

Democràcia i Intel·ligència Artificial Voir Kathleen Thelen, Varieties of Liberalization and the New Policits of Social Solidarity, Cambridge, Cambridge University Press, 2014.

4

Martin R. Gillings, Martin Hilbert et Darell J. Kemp, “Information in the biosphere: biological and digital worlds”, Trends in Ecology and Evolution, vol. 31, núm.

3, 2016.

5

“El món i les nostres vides es converteixen íntegrament en informació.”

força de la ideologia, la política, la cultura i les estructures institucionals neoliberals. Per exemple, a l’Europa continental i del nord, on els elements claus del doble moviment han sobreviscut d’alguna manera, la polarització del mercat treball es modera fent una considerable inversió en l’educació de la força de treball, que produeix una divisió del saber més inclusiva i també productes i serveis innovadors d’alta qualitat4.

El més greu per al nostre relat és que ara ens trobem en una segona fase històrica d’aquest conflicte. La divisió del saber en el domini econòmic de la producció i l’ocupació ja és important, però només és el començament d’un nou inici de la lluita per la qüestió encara més important de la divisió del saber dintre la nostra societat. Els dilemes de saber, autoritat i poder han irromput a través de les parets del lloc de treball per aclaparar la nostra vida diària. Mentre que les persones, els processos i les coses es reinventen com a informació, la divisió del saber esdevé el principi d’organització social predominant en el nostre temps.

Ara, un nou text electrònic s’estén més enllà dels confins de la fàbrica o l’oficina. Gràcies als nostres computadors, a les targes de crèdit i als telèfons, i a les càmeres i sensors que proliferen en l’espai públic i privat, gairebé tot el que fem està mediatitzat pels computadors que registren i codifiquen els detalls de la nostra vida diària a una escala que hauria estat inimaginable només fa uns anys. Hem arribat al punt que poques coses passen per alt al creixement continu d’aquest nou text electrònic. Aquest nou text electrònic es difon silenciosament, però implacable, com una colossal taca d’oli que ho engoleix tot al seu pas: la vostra conversa de l’esmorzar, els carrers del vostre veïnat, les dimensions de la vostra sala d’estar, la sessió de córrer al parc.

El resultat és que el món i les nostres vides es converteixen íntegrament en informació. Si un es plany del seu acne o s’enganxa en un debat polític a Facebook, busca una recepta o informació sensible sobre salut a Google, encarrega sabó de roba o fa fotografies al fill de nou anys, somrient o pensant enutjat, mira la TV o crema roda a l’aparcament; tot això és matèria primera per a desenvolupar aquest text soterrat. L’expert en informació Martin Hilbert i els seus col·legues remarquen que fins i tot els elements fonamentals de la civilització, incloent “llenguatge, béns culturals, tradicions, institucions, regles i lleis... actualment s’estan digitalitzant i, per primera vegada, explícitament transformats en codi,” i després retornats a la societat a través del filtre dels ”algorismes intel·ligents” instal·lats per dirigir un ampli espectre de funcions comercials, governamentals i socials5. Seguim enfrontats a les preguntes essencials de cada vegada: Qui sap? Qui decideix? Qui decideix qui decideix?

El capital de la vigilància i els dos textos Hi ha importants paral·lelismes amb finals del segle XIX i principis del XX, quan la divisió del treball va emergir com el principi d’organització social més important en les societats industrials d’Europa i Amèrica del Nord. Aquestes experiències ens poden servir de guia i advertir-nos del que hi ha en joc.

Per exemple, quan el jove Emile Durkheim va escriure The Division of Labor in Society, el mateix títol ja va ser controvertit. La divisió del treball s’havia entès com un mitjà decisiu per augmentar la productivitat laboral a través de l’especialització de tasques. Adam Smith havia escrit sobre aquest nou principi

32

El butlletí de l’ACIA

Democràcia i Intel·ligència Artificial d’organització industrial en la seva descripció de la fàbrica d’agulles, i la divisió del treball va seguir sent un tema controvertit per la ciència econòmica durant tot el segle XIX. Durkheim va reconèixer que la productivitat laboral era un imperatiu econòmic del capitalisme industrial que dirigiria la divisió del treball cap a una aplicació extrema, però això no era el que li produïa més fascinació.

Durkheim es va concentrar en la transformació social que ja podia veure al seu voltant, i va observar que l’“especialització” estava guanyant “influència” en la política, l’administració, la justícia, la ciència i les arts. Va arribar a la conclusió que la divisió del treball ja no era un fenomen exclusiu dels llocs de producció industrial. Saltava per sobre els murs de la fàbrica per esdevenir el principi organitzador de la societat industrial. També hi ha un exemple de la perspicàcia d’Edison: que els principis del capitalisme inicialment dirigits a la producció acabarien configurant-se en un entorn social i moral més ampli.

Durkheim va escriure que “sigui quina sigui l’opinió que es tingui sobre la divisió del treball, tothom sap que existeix, i que està esdevenint cada vegada més una de les bases fonamentals de l’ordre social.6” Els imperatius econòmics previsiblement dirigeixen la divisió del treball en la producció, però quina és la finalitat de la divisió del treball en la societat?

Aquesta era la pregunta que va motivar l’anàlisi de Durkheim, i les seves conclusions de ja fa un segle encara són rellevants per a nosaltres. Ell va argumentar que la divisió del treball explica les interdependències i les reciprocitats que lliguen els diversos membres d’una societat industrial moderna en una perspectiva més gran de solidaritat. Les reciprocitats nodreixen la necessitat mútua, el compromís i el respecte, que donen força moral a aquest nou principi organitzador.

En altres paraules, la divisió del treball va ser introduïda a la societat al començament del segle XX a causa de les circumstàncies que canviaven ràpidament per als nous individus de la modernitat. Era una resposta fonamental per a les seves noves “condicions d’existència”. Mentre que gent com els meus besavis es van unir a la migració cap al món modern, s’enfonsaven les velles fonts de significat que havien lligat les comunitats en l’espai i els temps. Què és el que farà cohesionar una societat sense les regles i els rituals del clan i del parentiu? La resposta de Durkheim era la divisió del treball. La necessitat de la gent de trobar una nova font de significat i estructura era la causa, i l’efecte era un principi d’organització que permetia i sostenia una comunitat moderna saludable. Tal com explica el jove sociòleg: “L’efecte més remarcable de la divisió del treball no és que incrementa el rendiment de les funcions dividides, sinó que les solidaritza. El seu paper no és simplement embellir o millorar les societat existents, sinó fer que les societats que sense la divisió del treball no existirien, pugin existir...; això sobrepassa els interessos purament econòmics, perquè consisteix en l’establiment d’un ordre social i moral sui generis.7” La visió de Durkheim no era ni estèril ni ingènua. Ell reconeixia que les coses poden tenir un costat fosc, i que sovint el tenen, resultant en el que

Émile Durkheim, De la division du travail social [1893], Paris, Presses universitaires de France, 2013.

6

7

Ibid.

Autor: Markus Spiske (unsplash.com)

El butlletí de l’ACIA

33

Democràcia i Intel·ligència Artificial ell anomenava una divisió del treball “anormal” (algunes vegades traduït com “patològica”), que produeix distància social, injustícia i discòrdia en comptes de reciprocitat i interdependència. En aquest context Durkheim identifica els efectes destructius de la desigualtat social sobre la divisió del treball en la societat, especialment la forma de desigualtat que és vista com la més perillosa: les “asimetries extremes de poder” que fan “el conflicte en si impossible; negant-se a admetre el dret a combatre”. Aquestes patologies només es poden curar amb una política que reconegui el dret de la gent a la protesta i a la confrontació amb un poder il·legal i il·legítim sobre la societat. Al final del segle XIX i durant la majoria del segle XX, aquesta lluita la van fer els obrers i altres moviments socials que defensaven la igualtat social mitjançant institucions com la negociació col·lectiva o l’educació pública.

La transformació que nosaltres coneixem a la nostra època es fa ressò de les observacions històriques que la divisió del saber segueix el mateix camí migratori des del domini econòmic al social com ja ho va fer en el seu moment la divisió del treball. Ara la divisió del saber “sobrepassa de lluny els interessos purament econòmics” i estableix les bases del nostre ordre social i el seu contingut moral.

La divisió del saber és per a nosaltres, com a membres de la segona modernitat, el que va ser la divisió del treball per als nostres avis i besavis, pioners de la primera modernitat. En el nostre temps, la divisió del saber emergeix des de l’esfera econòmica com un nou principi d’ordre social i reflecteix la primacia de la formació, la informació i el saber en la cerca diària d’una vida efectiva.

I tal com Durkheim advertia a la seva societat fa un segle, avui les nostres societats també estan amenaçades per la deriva de la divisió de saber cap a la patologia i la injustícia de les mans de les asimetries de saber i de poder sense precedents que el capitalisme de la vigilància ha creat.

El comandament de la divisió del saber per part del capitalisme de la vigilància en la societat comença pel que jo anomeno el problema dels dos textos.

El mecanisme específic del capitalisme de la vigilància obliga a la producció, no pas d’un, sinó de dos “textos electrònics”. Pel que fa al primer text nosaltres en som els autors i els lectors. Aquest text és públic, familiar i apreciat per l’univers d’informació i de connexions que ens ofereix a l’abast dels nostres dits. Google Search codifica el contingut d’informació de la word wide web.

Els News Feed de Facebook fa de lligam a la xarxa. Gran part d’aquest text públic es compon del que escrivim a les seves planes: les nostres publicacions, blogs, vídeos, fotografies, converses, música, històries, observacions, “likes”, “tweets”, i tot el bla bla massiu de les nostres vides degudament registrat i comunicat.

De tota manera, sota el règim del capitalisme de la vigilància el primer text no està sol; dibuixa una ombra darrera. El primer text, ple de promeses, realment funciona com una font d’aprovisionament per al segon text: el text a l’ombra. Totes les contribucions que fem al primer text, ja siguin trivials o passatgeres, esdevenen un objectiu per extreure un excedent. Aquest excedent emplena les planes del segon text però està amagat per a nosaltres: “només de lectura” per als capitalistes de la vigilància. En aquest text la nostra experiència és utilitzada com a matèria primera, acumulada i analitzada per satisfer les finalitats comercials d’altres. El text a l’ombra és una acumulació soterrada

34

El butlletí de l’ACIA

Democràcia i Intel·ligència Artificial d’excedents de comportament i de les seves anàlisis, i diu més de nosaltres mateixos del que podem saber. Encara pitjor, cada vegada és més difícil, o potser impossible, evitar les nostres contribucions al text a l’ombra. Es nodreix de la nostra experiència quan participem en les rutines normals i necessàries de la participació social. És encara més misteriosa la manera en què els capitalistes de la vigilància apliquen el que aprenen del seu exclusiu text a l’ombra per a donar forma al text públic i satisfer els seus interessos. Hi ha hagut moltes revelacions sobre les manipulacions de la informació per part de Google o Facebook. De moment només diré que els algorismes de Google seleccionen i ordenen els resultats de les cerques, i que els algorismes de Facebook seleccionen i ordenen el contingut de les publicacions. En els dos casos els investigadors han demostrat que aquestes manipulacions són un reflex dels objectius comercials de cada corporació. El jurista Frank Pasquale ho descriu: “Les decisions de Googleplex es fan a porta tancada...; el poder d’incloure, excloure o classificar és el poder d’assegurar-se quines impressions del text públic esdevindran permanents o seran transitòries... A pesar de les seves pretensions d’objectivitat i neutralitat, aquestes empreses constantment prenen decisions carregades de valor i controvertides... Ells ajuden a crear el món que els interessa i només ens el ‘mostren’8”. Pel que fa al text a l’ombra, les lleis de la dinàmica del capitalisme de la vigilància imposen a la vegada el secret i el creixement constant. Nosaltres som l’objecte de la seva narrativa però n´estem exclosos. Encara que nosaltres som la font d’aquest tresor, el segon text tracta sobre nosaltres, però no és per a nosaltres. Es crea, manté i s’explota per al benefici d’altres sense que nosaltres en siguem conscients.

El resultat és que la divisió del saber és a la vegada el principi dominant de l’ordre social en la nostra civilització de la informació i també un ostatge de la posició privilegiada del capitalisme de la vigilància com a principal compositor, propietari i guardià dels textos. La capacitat del capitalisme de la vigilància de corrompre i controlar aquests textos produeix asimetries sense precedents de saber i poder que funcionen precisament tal com Durkheim havia temut: la llibertat relativa d’aquesta forma de mercat i el caràcter innat il·legible de la seva acció li ha permès imposar un control substancial sobre la divisió del saber del qual no som conscients i sense mitjans per a combatre’l. Tornant a les preguntes fonamentals, el capital de la vigilància ha reunit el poder i ha afirmat la seva autoritat per a donar totes les respostes. En qualsevol cas, tenir només l’autoritat no és suficient. El capitalisme de la vigilància controla la infraestructura material i l’expertesa necessària per a dominar la divisió del saber en la societat.

Frank Pasquale, The Black Box Society: The Secret Algorithms that Control Money and Information, Cambridge, Harvard University Press, 2015, p. 6061.

8

Autor: Imgix (Unsplash.com)

Un nou clergat Els científics ens avisen que la capacitat del món per a produir informació ha excedit la seva capacitat per processar-la i conservar-la. Cal considerar

El butlletí de l’ACIA

35

Democràcia i Intel·ligència Artificial

Martin Hilbert, “Toward a synthesis of cognitive biases”, Psychological Bulletin, vol. 138, n° 2, 2012.

9

Paul Borker, “What is hyperscale?”, Digital Reality, 2 febrer 2018.

10

36

El butlletí de l’ACIA

que la nostra memòria tecnològica pràcticament s’ha doblat cada tres anys.

El 1986 només un 1% de la informació del món estava digitalitzada, i l’any 2000 va passar a ser del 25%. El 2013, el progrés de la digitalització i de la “datafication” (l’aplicació de software que permet als ordinadors i els seus algorismes el procés i l’anàlisi de les dades), combinat amb noves tecnologies d’emmagatzematge més barates, han possibilitat la transformació en format digital del 98% de la informació del món.

La informació és digital però el seu volum sobrepassa la nostra habilitat de copsar el seu significat. Com a solució a aquest problema, l’expert en informació Martin Hilbert dona el consell següent: “L’única opció que ens queda per a donar sentit a totes aquestes dades és combatre el foc amb foc”, utilitzant “computadors d’intel·ligència artificial” per “garbellar aquesta gran quantitat d’informació... Facebook, Amazon i Google han promès... donar valor a grans quantitats de dades a través de l’anàlisi computacional intel·ligent9”. El creixement del capitalisme de la vigilància converteix necessàriament el consell de Hilbert en una proposició perillosa. Encara que no sigui la intenció, Hilbert confirma la posició privilegiada dels capitalistes de la vigilància i el poder asimètric que els permet doblegar la divisió del saber als seus interessos.

El poder asimètric de Google beu de totes les fonts socials que hem considerat: les declaracions, les fortificacions defensives, l’explotació de la llei, el llegat de l’excepcionalitat de la vigilància, la càrrega que pesa sobre els individus de la segona modernitat, etc. Però el seu poder no seria operatiu sense la gegantina infraestructura material que els guanys de la vigilància els ha permès comprar. Google és el pioner de la “hyperscale”, considerada “la xarxa de computadors més gran que hi ha a la Terra10”. Les operacions hyperscala es troben en els negocis que tracten grans volums d’informació com les operadores de telecomunicacions o les empreses de pagament global, on els seus centres de dades necessiten milions de servidors virtuals que incrementen exponencialment les capacitats de computació sense requerir una expansió substancial de l’espai físic, de les necessitats de refredament o de la demanda d’energia elèctrica. La intel·ligència de les màquines al cor del domini formidable de Google és un “80% d’infraestructura”, un sistema format per centres de dades de la mida de grans magatzems, fets a mida, amb uns 2.5 milions de servidors repartits en quinze localitzacions de quatre continents.

Els inversors consideren que Google és “més difícil d’aturar que mai” perquè és únic en la seva combinació d’infraestructura d’escala i ciència. Google es coneix com “una empresa full stack”, que utilitza els seus propis magatzems de dades per “entrenar els seus propis algorismes que corren en els seus propis xips sobre els seus propis núvols de servidors”. El seu domini encara està reforçat pel fet que el machine learning és més intel·ligent com més gran és la quantitat de dades disponibles per al seu entrenament, i Google té la majoria de les dades. El 2014 la companyia va entendre que el seu canvi cap a les “xarxes neuronals”, que defineixen la frontera actual de la intel·ligència artificial, incrementaria substancialment la demanda de potència computacional i requeriria doblar el seus centres de dades. Urs Hölzle, vicepresident sènior d’infraestructures tècniques, ho deia d’aquesta manera: “El secret obscè darrera la intel·ligència artificial és que requereix un nombre demencial de càlculs només per entrenar la xarxa”. Si l’empresa hagués escollit processar

Democràcia i Intel·ligència Artificial amb CPUs tradicionals la càrrega de treball de creixement exponencial, explica Hölzle: “hauríem de doblar l’empremta total de Google—centres de dades i servidors—només per fer dos o tres minuts de reconeixement de la parla per cada usuari d’Android i dia11“.

Donats els costos dels centres de dades i de l’energia, Google va inventar la seva manera d’escapar de la crisi de la infraestructura. El 2016 va anunciar el desenvolupament d’un nou xip d’“inferència per a l’aprenentatge profund”, anomenat unitat de processament de tensors (TPU). Les TPU expandeixen enormement les capacitats d’intel·ligència de les màquines de Google, consumeixen només una fracció de l’energia que requereixen els processadors tradicionals, i redueixen tant les despeses de capital com el pressupost operatiu, a la vegada que aprenen cada vegada més ràpid.

Google/Alphabet és el comprador més agressiu de tecnologia d’IA i de talent. Entre l’any 2014 i el 2016 va comprar nou companyies d’IA, el doble que el seu principal competidor Apple12. La concentració de talent en IA a Google és el reflex d’una tendència més general. El 2017 s’estima que les empreses americanes van destinar més de 60 milions de dòlars a alimentar la cursa del talent en IA, amb més de 10.000 llocs de treball disponibles. Les cinc companyies tecnològiques més importants tenen suficient capital per desplaçar els competidors: Start-ups, universitats, municipis, empreses establertes en altres industries i països més pobres13. A Gran Bretanya els administradors de les universitats ja estan parlant de “la generació perduda” de científics experts en dades. Els enormes salaris de les empreses tecnològiques han atret tants professionals que no queda ningú per format les següents generacions d’estudiants. Tal com ho explica un expert: “El problema real és que aquesta gent no s’ha dispersat a través de la societat. La intel·ligència i l’expertesa està concentrada en un petit nombre d’empreses.14” Gràcies a la força dels seus esforços de reclutament fastuosos, Google ha triplicat el nombre de científics en la intel·ligència de les màquines en els pocs últims anys i ha esdevingut el contribuent principal de les revistes científiques més prestigioses—de quatre a cinc vegades la mitjana mundial de l’any 2016.

Sota el règim del capitalisme de la vigilància, els científics de les empreses no es contracten per resoldre la fam del món o eliminar els combustibles fòssils.

El seu geni es fa servir per assaltar les portes de l’experiència humana, transformar-la en dades i portar-la cap un nou mercat colossal que crea riquesa amb la predicció, la influència i el control del comportament humà.

Fa més de 600 anys la impremta va posar la paraula escrita en mans de la gent ordinària, preservant les oracions, passant per sobre el clergat, i permeten l’oportunitat d’una comunió espiritual directa a les mans dels fidels. Nosaltres hem donat per bo que internet permet fer una difusió de la informació inèdita, prometent més coneixement per a més gent: una poderosa força democràtica que desenvolupa, d’una forma exponencial, la revolució de Gutenberg per a les vides de milers de milions d’individus. Però aquest gran èxit no ens deixa veure un altre desenvolupament històric, un que queda fora de l’abans de la nostra visió, dissenyat per excloure, confondre i enfosquir. En aquest moviment amagat, la lluita competitiva sobre els beneficis de la vigilància ens porten cap a un ordre d’abans de Gutenberg, ja que la divisió del saber en la societat tendeix cap al que és patològic, capturat per un clergat de visió estreta d’especialistes

GeekWire, 15 novembre 2017.

11

Information, 10 gener 2017.

12

Cade Metz, “Tech giants are paying huge salaries for scarce AI talent”, The New York Times, 22 octubre 2017.

13

Ian Sample, “Big tech firms’ AI frenzy leads to brain drain at UK universities”, The Guardian, 2 novembre 2017.

14

“La divisió del saber ha estat segrestada pel capitalisme de la vigilància.”

El butlletí de l’ACIA

37

Democràcia i Intel·ligència Artificial Pedro Domingos, The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World, New York, Basic Books, 2015.

15

Cade Metz, “Why AI researchers at Google got desks next to the boss”, The New York Times, 19 febrer 2018.

16

Spiros Simitis, “Reviewing privacy in an information society”, University of Pennsylvania Law Review, vol. 135, n° 3, 1987, p. 710 17

Paul M. Schwartz, “The computer in German and American constitutional law: Towards an American right of informational self-determination”, American Journal of Comparative Law, n° 37, 1989, p. 676.

18

38

El butlletí de l’ACIA

de la computació, contractats pel món privat, amb les seves màquines privades, i al servei dels interessos econòmics privats.

La privatització de la divisió del saber a la societat La divisió del saber ha estat segrestada pel capitalisme de la vigilància.

En l’absència d’un doble moviment fort, en el qual les institucions democràtiques i la societat civil lliguin el capitalisme de la informació en brut als interessos del poble—encara que sigui d’una manera imperfecte—, som enviats altra vegada a la forma de mercat de les empreses del capitalisme de la vigilància, en la més decisiva de les competicions per la divisió del saber en la societat. Experts en les disciplines associades a la intel·ligència de les màquines ho saben, però tenen poca compressió sobre les implicacions més generals. Tal com escriu el científic de dades Pedro Domingos: “Quin tingui els millors algorismes i la majoria de les dades guanya... Google amb els seu avantatge i la seva gran quota de mercat sap millor el que tu vols..., el qui aprengui més ràpidament guanya15”. El New York Times informa que Sundar Pichai, CEO de Google, comparteix un pis amb el laboratori d’IA de l’empresa i fa notar que és una tendència entre molts CEOs: una presa literal de la concentració de poder16.

Fa poc més de trenta anys el jurista Spiros Simitis va publicar un assaig fonamental sobre el tema de la privadesa en una societat de la informació.

Simitis va entendre ràpidament que les tendències, aleshores ja visibles, en el “processament de la informació”, públic o privat, comportaven amenaces a la societat que transcendien les concepcions limitades de privadesa i propietat de les dades: “Cada vegada es fa servir més la informació personal per forçar les normes de comportament. El processament de la informació està contribuint a estratègies de manipulació a llarg termini per a emmotllar i ajustar la conducta individual17”. Simitis sostenia que aquestes tendències eren incompatibles, no només amb la privadesa, sinó també amb la possibilitat de democràcia, que depèn d’un dipòsit de capacitats individuals associades a l’autonomia del judici moral i l’autodeterminació.

A partir del treball de Simitis, Paul M. Schwartz, de Berkeley, va advertit el 1989 que la informatització transformaria el balanç delicat de drets i obligacions sobre el que reposa la llei de la privadesa: “Avui, l’enorme quantitat de dades personals disponibles als ordinadors amenacen l’individu d’una manera que converteix en obsoletes la majoria de proteccions legals prèvies”. Més important encara, Schwartz adverteix que l’escala de la crisi, encara emergent, suposa riscos que excedeixen l’abast del principi de la privadesa: “L’ordinador comporta un perill per a l’autonomia humana. Com més es coneix d’una persona, més fàcil és controlar-la. Assegurar la llibertat que nodreix la democràcia requereix regular l’ús social de la informació i àdhuc autoritzar alguna ocultació de la informació18”.

Simitis i Schwartz van ser conscients de l’ascens de la divisió del saber com el principi central del nou entorn social de la informatització, però no podien anticipar l’aparició del capitalisme de la vigilància i les seves conseqüències. Encara que el creixement explosiu del continent informatiu canvia un eix crucial de l’ordre social, de la divisió del treball dels segle XIX a la divisió del saber del segle XX, són els capitalistes de la vigilància els que

Democràcia i Intel·ligència Artificial dirigeix aquest camp i que unilateralment s’atorguen una part desproporcionada del dret de decidir que modela la divisió del saber en la societat.

Les accions dels capitalistes de la vigilància de despossessió digital imposa una nova manera de control sobre els individus, la població i les societats enteres. La privadesa individual és una víctima d’aquest control, i la seva defensa requereix una reorientació sobre el discurs, la llei, i el raonament jurídic sobre la privadesa. Ara, la “invasió de la privacitat” és una dimensió previsible de la desigualtat social, encara que no és l’única. És el resultat sistemàtic d’una divisió “patològica” del saber en la societat en allò que el capitalisme de la vigilància sap, decideix, i decideix qui decideix. Exigir la privacitat davant del capitalisme de la vigilància, o fer pinya per acabar amb la vigilància comercial a internet, és com demanar a Henry Ford de fer cada model de Ford T a mà o demanar a una girafa que escurci el seu coll.

Aquestes demandes amenacen la seva existència, violen els seus mecanismes bàsics i les lleis del moviment que produeixen aquesta concentració a la Leviatan de coneixement, poder i riquesa d’aquest mercat.

Així que aquí hi ha el que està en joc: el capitalisme de la vigilància és profundament antidemocràtic, però el seu enorme poder no s’origina a l’estat, com és històricament el cas. Els seus efectes no es poden reduir o explicar per la tecnologia o les males intencions de gent dolenta; són les conseqüències coherents i previsibles d’una lògica interna d’acumulació, coherent i exitosa. El capitalisme de la vigilància va esdevenir dominant als Estats Units en unes condicions de buit legal relatiu. D’allà es va estendre a Europa i continua fent incursions en cada regió del món. Les empreses del capitalisme de la vigilància, començant per Google, dominen l’acumulació i el processament de la informació, especialment informació sobre el comportament humà. També coneixen molt sobre nosaltres, però el nostre accés a aquest coneixement és limitat: amagat en el text a l’ombra i llegit només per als nous sacerdots, els seus caps i les seves màquines.

Aquesta concentració de saber sense precedents produeix també una concentració de poder sense precedents: asimetries que s’han d’entendre com una “privatització il·legal de la divisió del saber a la societat”. Això significa que uns poderosos interessos privats tenen el control del més important principi d’ordre social de la nostra època, tal com Durkheim va advertir fa un segle, la subversió de la divisió del treball vindria de les poderoses forces del capital industrial. Tal com estan les coses, les empreses del capitalisme de la vigilància són les que saben. La forma de mercat és el que la que decideix.

I és la competència entre els capitalistes de la vigilància que decideixen qui decideix.

“El capitalisme de la vigilància és profundament antidemocràtic.”

El butlletí de l’ACIA

39

Democràcia i Intel·ligència Artificial

Entrevista a... David Ferrer i Canosa Marc Torrens, Genís Cormand

David Ferrer i Canosa, Secretari de Polítiques Digitals

40

El butlletí de l’ACIA

La Intel·ligència Artificial està canviant el món en què vivim, no només en l’àmbit dels negocis, sinó també la societat en general. En aquesta edició de la revista Nodes, volíem entendre quines línies de treball s’estan adoptant en temes d’IA a Catalunya. Per això hem comptat amb la col·laboració de Genís Cormand, periodista de TV3, que ha elaborat aquesta entrevista al Sr. David Ferrer i Canosa, secretari de Polítiques Digitals de la Generalitat de Catalunya.

L’entrevista pretén desgranar les polítiques públiques catalanes en el context de l’aplicació de la IA. - Les ciutats intel·ligents han de permetre fer ciutats més humanes. I això és gràcies, paradoxalment, a l’ús de les noves tecnologies i als avenços en Intel·ligència Artificial. S’obtenen més dades, es processen millor, se n’extreuen conclusions i s’apliquen correccions que milloren entorns sovint hostils i complicats com les grans ciutats. Quin és el repte, quins són els passos endavant en aquesta matèria que preveu impulsar el govern a les grans ciutats catalanes?

Efectivament, s’han de fer ciutats més humanes, però sobretot més saludables. En aquest sentit, un dels reptes que cal afrontar a escala territorial és la lluita contra la contaminació i per la sostenibilitat. Com bé sabeu, la contaminació no només és un problema generat a les grans ciutats sinó a tota l’àrea metropolitana, i són la pròpia àrea i el seu ecosistema els perjudicats per aquest factor. Dins d’aquesta àrea, s’està avaluant relacionar els nivells d’emissions no només del trànsit de vehicles, sinó també d’emissions industrials i d’altres factors com la crema de rostolls i la seva afectació a les persones i a la salut. Si som capaços de creuar informació de diferents sectors però també de diferents territoris, serem capaços de preveure possibles episodis de contaminació, eliminar riscos i realitzar accions perquè aquests no s’arribin a produir.

En altres àmbits com la mobilitat i l’energia també s’estan avaluant solucions en aquest sentit i, per això, la clau és la compartició de dades entre l’àmbit territorial i l’àmbit local. És per aquest motiu que es vol crear una plataforma Big Data de dades territorials que permetrà realitzar processos d’intel·ligència artificial per, justament, evitar i preveure situacions complexes i millorar la qualitat de vida de la ciutadania.

Fer més senzilles, justes i millors les relacions entre les administracions i les persones; millorar la qualitat dels serveis i ser més sostenibles; i aconseguir adaptar i oferir solucions a futurs problemes són alguns dels camps on les tecnologies digitals avançades tindran un paper protagonista, sempre vetllant per l’aplicació responsable i ètica. Amb aquest capteniment hem desenvolupat l’estratègia catalana en IA, on l’ACIA ha tingut i tindrà un paper important.

Democràcia i Intel·ligència Artificial - Catalunya ha viscut immersa en els darrers anys en un gran debat sobre la participació ciutadana. S’ha parlat molt d’urnes, i d’empoderament de la ciutadania. Vostè preveu un futur on es facin consultes permanents sobre qüestions cabdals a través del vot electrònic? Com pot la Intel·ligència Artificial potenciar la democràcia? Es podrien fer més referèndums?

Fer més referèndums no és, des de fa temps, un problema tècnic. Ho estem vivint molt tristament ben de prop. La tecnologia ha de fer més fàcil i millor la vida de les persones. La IA de ben segur hi ajudarà, però abans cal solucionar altres qüestions que impossibiliten aquestes millores, no tan sols en l’àmbit de la IA sinó en d’altres.

La IA pot ajudar a aconseguir un augment de la participació, sostenibilitat de les campanyes electorals, detecció de frau i d’altres qüestions relacionades amb una bona qualitat democràtica, que incentivi la participació, augmenti la seguretat i faci més transparent tot el procés electoral.

- Hi ha molts bancs de dades i molts serveis diferents que presta l’Administració que comporten diferents sistemes d’identificació. S’està avançant cap a una identitat digital única, que contingui però que també protegeixi la privacitat de cada usuari? Quin paper hi pot tenir la Intel·ligència Artificial?

Hi ha molts bancs de dades. Si considerem que una persona interactua en diferents entorns relacionats amb l’Administració pública i alhora en diferents àmbits d’administració, ens adonem de la complexitat i dimensió del problema. Les dades estan duplicades i romanen en diferents entorns, tecnologies i sistemes.

Estem desplegant tota una sèrie de polítiques i normatives per afrontar aquestes qüestions i resoldre-les, però cal anar més enllà i simplificar, col·laborar, interoperar i coordinar actuacions entre tots els agents públics amb l’objectiu de facilitar l’accés als serveis públics a la nostra ciutadania. En aquest sentit, el Govern de Catalunya i l’estratègia Catalonia.IA aposten per fer de l’Administració catalana el primer camp de proves de la IA. - Els agricultors gestionen un 89% del territori de Catalunya, entre camps, boscos i pastures. En canvi, la majoria de la població (un 95%) viu en zones més urbanes, de poblacions a partir de 2.000 habitants. Pot la Intel·ligència Artificial contribuir a atenuar les diferències entre les zones rurals i urbanes? Apropar-les? Que formin part d’un territori comú?

Aquesta és una qüestió complexa. La desigualtat demogràfica d’un i altre territori és evident, i sovint la densitat demogràfica va fortament associada de manera inversament proporcional a la inversió i digitalització del territori.

Com a conseqüència d’això, tenim la possible desigualtat en inversions en tecnologia i també en d’altres sectors, contra la qual des del Govern lluitem amb el Pla de comunicacions i infraestructures TIC, que passa per l’estesa de FO a tot el territori català, bàsicament.

Així doncs, la IA conjuntament amb altres tecnologies digitals avançades poden possibilitar, entre d’altres, una major proximitat, traçabilitat, control, sostenibilitat i igualtat entre tots dos territoris: l’urbà i el rural.

“La IA pot ajudar a aconseguir un augment de la participació i també de la sostenibilitat de les campanyes electorals.”

“La IA pot possibilitar, una major proximitat, traçabilitat, control, sostenibilitat i igualtat.”

El butlletí de l’ACIA

41

Democràcia i Intel·ligència Artificial

“Cal assolir un major grau de maduresa en ciberseguretat per a promoure un ús adequat i cibersegur de les tecnologies.”

- Quin és el principal perill en matèria de ciberseguretat des de l’òptica del Departament de Polítiques Digitals de la Generalitat?

El principal perill en matèria de ciberseguretat que afronta avui dia la societat digital a Catalunya és el desconeixement en la matèria. Tots hem digitalitzat les nostres vides en diferents entorns (professional, personal, relacional, etc.) i hem incorporat multiplicitat d’aplicacions i eines de les quals fem un ús extensiu. Malauradament, no hem incorporat pràctiques de ciberseguretat al mateix nivell per tal de fer una bona gestió dels nostres perfils digitals, de la nostra informació, dels nostres dispositius, etc.

Per aquest motiu, des del Departament de Polítiques Digitals despleguem polítiques dirigides a conscienciar sobre hàbits cibersegurs i afavorir el coneixement d’eines que permetin millorar aquests nivells de seguretat en l’entorn digital. Cal assolir un major grau de maduresa en ciberseguretat per a promoure un ús adequat i cibersegur de les tecnologies.

- La identitat molt sovint va lligada a un territori, però el món digital pot trencar aquest esquema i obrir noves possibilitats. En un futur, podria existir una Administració catalana que oferís un lligam digital al ciutadà, encara que estigui vivint en un altre territori? Com si fos una esfera lligada més a la identitat digital, que no pas a la presència física al país?

Actualment ja existeix la possibilitat de tenir un lligam com a ciutadà amb un país vivint en un altre territori. El fet diferenciador de la identitat digital que la Generalitat de Catalunya proposa amb IdentiCat és que, dins d’un marc totalment legal i jurídicament segur, permetrà a la ciutadania no només mantenir tots els lligams amb l’Administració catalana, sigui o no resident a Catalunya, sinó tenir el control de les dades vinculades a la seva identitat no només amb les administracions, sinó també amb empreses que presten serveis en l’entorn digital.

- Una última qüestió. Si un mira la definició d’Intel·ligència Artificial, la primera que ofereix Google és la de la Viquipèdia: “fer que una màquina es comporti d’una manera que seria considerada intel·ligent en un ésser humà”.

Aquesta és la definició que trobaran la majoria de ciutadans i ciutadanes.

Però, què és per vostè la IA? La definició és correcta, però cal ampliar-la i contextualitzar-la. No podem donar una resposta tan tècnica. Cal afegir un major grau de sensibilitat i respondre d’acord amb el moment. La IA és la porta cap a un futur que és al nostre abast. No és quelcom nou, vosaltres ho sabeu prou bé. És una disciplina que té els seus orígens als anys 60.

Tenim l’oportunitat d’aplicar la tecnologia, la metodologia i els recursos més avançats en l’àmbit de la ciència aplicada a la filosofia, l’ètica i els valors humans més tradicionals per fer un món millor. Això implica riscos, però cal assumir-los per canviar certes tendències, abusos i desigualtats existents i aquelles que puguin esdevenir. Aquesta és la prioritat i els objectius de l’estratègia catalana en IA, de la qual ara estem demanant a la societat que ens doni la seva opinió a través d’un procés participatiu, amb la ferma voluntat de fer de la intel·ligència artificial un projecte per a tots, de les persones cap a les persones.

42

El butlletí de l’ACIA

Democràcia i Intel·ligència Artificial

Què en pensen els socis?

Com que ja heu patit per la nostra insistència en que ompliu una petita enquesta a ple estiu, tal com vam prometre, publiquem els resultats. Gràcies per la vostra participació.

Ja vam dir que aquesta és només una petita enquesta informal, sense pretensió científica, per copsar l’opinió dels socis sobre alguns temes que relacionen la IA amb la democràcia, tema principal d’aquest número 58. L’enquesta consistia amb quatre assercions i s’havia de triar entre cinc graus d’acord i, opcionalment, deixar un comentari. També opcionalment es podia donar un comentari general sobre el tema de IA i democràcia.

Tenim 62 respostes que corresponen a un 28.7% dels associats. Entre el 35% i el 40% han fet comentaris. L’anàlisi de l’enquesta tampoc té pretensió científica i ens limitarem a comentar els resultats i emfatitzar algunes de les vostres opinions que ens semblen rellevants, sense arribar a conclusions. Pels més agosarats els resultats (anònims) complets els podeu trobar en un fitxer CSV a: https://www.acia.cat/EnquestaNODES-2019.csv

Josep Puyol Gruart, IIIA

1 La recerca i les aplicacions actuals de IA, les que es financen i s’impulsen des de la iniciativa pública o privada, són positives per a la millora de la societat democràtica.

Molt d’acord Més aviat d’acord Ni fu ni fa Més aviat en desacord Gens d’acord

Ens plau veure que l’ACIA és bastant optimista sobre la capacitat de la IA d’influenciar positivament en la societat. El 60.3% dels enquestats tenen una visió positiva en front del 19%. Un 20.6% no ho tenen clar, però cap soci està en total desacord amb l’enunciat. De totes maneres, mirant els comentaris (27), la percepció canvia una mica perquè les respostes més positives sembla que apunten a les capacitats de la lA en el futur, i les altres fan molt d’èmfasi en la falta d’interès i ambició en aquests temes i en l’explotació per part d’entitats privades de la IA pel seu propi interès i no pel bé general.

El butlletí de l’ACIA

43

Democràcia i Intel·ligència Artificial 2 Per a protegir la democràcia s’ha de prohibir la utilització de tècniques de IA per analitzar continguts polítics o ideològics obtinguts de les xarxes socials.

Molt d’acord Més aviat d’acord Ni fu ni fa Més aviat en desacord Gens d’acord

Els resultats ens mostren que no ens agrada gaire això de prohibir. El percentatge més alt correspon als que estan totalment en desacord, un 31.7%, però si hi afegim els que estan més aviat en desacord anem al 61.9%. Els que estan totalment d’acord només són un 7.9%. Dels 27 comentaris es desprèn que encara que s’estigui d’acord en prohibir, això no agrada i tampoc es veu com es pot fer d’una manera pràctica i efectiva. Un soci diu: “Seria prohibir l’improhibible. Com la llei seca dels 20.”

3 La proliferació d’informació falsa, desinformació i fins i tot deep fakes és un fet preocupant. La recerca en IA acabarà amb aquest fenomen detectant-lo i identificant les fonts.

Molt d’acord Més aviat d’acord Ni fu ni fa Més aviat en desacord Gens d’acord

El 42.9% es mostren bastant d’acord en el triomf de la IA sobre la desinformació i la informació falsa. Puja al 58.8% si afegim els més optimistes. De totes maneres en aquesta pregunta és on hi ha més quantitat de dubtosos, el 23.8%. En els 26 comentaris hi ha la clau d’aquests resultats. Similarment a la pregunta 1, la lectura dels comentaris ens porta a creure que els socis no són tant optimistes com sembla: hi ha el convenciment de que “Al menys l’IA pot

44

El butlletí de l’ACIA

Democràcia i Intel·ligència Artificial proposar eines per ajudar a l’eliminació de la falsedat“ però els dolents també són espavilats, i tal com diu un altre soci, “Totes dues bandes (els generadors i els detectors d’informació falsa) disposaran de la mateixa tecnologia, pot esdevenir en una carrera incerta”. Un altre remarca que “Los desarrollos corporativos en IA no se rigen solamente por las buenas intenciones ... No está nada claro que las grandes corporaciones se decidan siempre por la verdad cuando esté en conflicto con los beneficios.”

4 La població no hauria de ser lliure de cedir les seves dades per a no perjudicar a tercers. Hi hauria d’haver un organisme expert en IA que recomani als governs sobre la prohibició de la cessió de determinats tipus de dades dels particulars (per exemple l’agenda de contactes).

Molt d’acord Més aviat d’acord Ni fu ni fa Més aviat en desacord Gens d’acord

El 30.2% dels nostres socis estan totalment d’acord en prohibir la cessió de dades que puguin perjudicar tercers. Sumant que estan bastant d’acord, un 57.2%. Els 23 comentaris fan pensar però que aquest és un tema molt controvertit, anem des de “Ja tornem amb prohibicions, d’acord en informar dels perills però mai restringir la llibertat” fins a “És preferible educar a les persones per a que siguin conscients, responsables ...”, passant per “... dubto que una mesura d’aquest estil sigui operativa ... grans traves i dificultats burocràtiques per gestionar una base de dades d’una associació ... mentre que Facebook o altres empreses no tenen cap problema ...”. Sembla que a tothom li costa justificar una o altre resposta, bon moment per tornar a l’article de Shoshana Zuboff!

Comentaris generals Els 21 comentaris són molt variats. Tenim de tot, optimistes: “Una sociedad que no conoce las capacidades de la tecnología y sus derechos estará siempre en desventaja. Hay que educar a los ciudadanos en el pensamiento crítico”; pessimistes: “Jo crec que els humans hem demostrat clarament que no som capaços de resoldre els nostres problemes democràticament...”, o “…

Mentre les democràcies serveixin al gran capital i la IA sigui una tecnologia que els sigui útil, la faran servir, i no necessàriament per a la millora del benestar comú ...”, i amables: “, Estaria bé fer una jornada (o al CCIA una sessió) sobre aquest tema... Gràcies per haver endegat aquest debat!”. Gràcies a vosaltres!

El butlletí de l’ACIA

45

Premi Marc Esteva Vivanco 2018

Propostes d’aprenentatge de similituds entre parells d’objectes emprant tècniques de classificació supervisada Emilia López-Iñesta Directors: Miguel Arevalillo Herráez, Francisco Grimaldo Moreno Universitat de València

“Ens enfrontem a una explosió de dades on el problema de l’emmagatzenatge ha quedat pràcticament superat i es necessiten mecanismes adequats per a l’organització i l’anàlisi de les dades.”

46

El butlletí de l’ACIA

Els avanços tecnològics han permés en les últimes dècades la transmissió i recopilació de dades d’una manera cada vegada més senzilla i eficaç.

D’una banda, dispositius com per exemple càmeres de trànsit o videovigilància, sensors mediambientals i, en general, tot tipus de dispositius relacionats amb l’Internet de les Coses (IoT, Internet of Things) contribueixen cada dia a la generació de bases de dades de tota mena que convé analitzar de forma intel·ligent i automàtica, amb l’objectiu de transformar aquestes dades en informació útil en què basar la presa de decisions.

D’altra banda, s’ha de tindre en compte que s’ha produït un canvi de paradigma en el qual el comportament i els hàbits de les persones han fet que passem de ser únicament consumidors de dades a ser alhora productors de dades a través de l’ús que es fa de telèfons mòbils, rellotges intel·ligents, xarxes socials o, en termes més globals, de les relacions que s’estableixen amb l’anomenada Internet del Tot (IoE, Internet of Everything).

En conseqüència, en l’actualitat ens enfrontem a una explosió de dades de qualsevol tipus (imatges, vídeos, textos, etc.) on el problema de l’emmagatzematge ha quedat pràcticament superat i es necessiten mecanismes adequats per a l’organització i anàlisi de les dades, així com per a la fusió i/o enriquiment d’aquestes dades amb informació auxiliar provinent bé de fonts externes o bé de transformacions que es poden realitzar a partir de les dades disponibles. Davant aquest escenari sorgeix la denominada Ciència de dades o Data Science que inclou àrees com ara les matemàtiques, l’estadística i la computació avançada on un dels reptes es troba en la capacitat de gestionar i analitzar les dades disponibles per a comprendre la seua estructura, identificar relacions interessants i extraure coneixement.

En el procés d’aquesta transformació de dades en coneixement resulta imprescindible una cerca i recuperació efectiva de la informació (IR, Information Retrieval) que es pot definir com la disciplina que s’encarrega de la cerca i accés eficient a recursos digitals que es troben en grans col·leccions. Aquests recursos poden ser d’índole molt diferent: pàgines web, llibres, vídeos, fotografies, etc.

Existeixen múltiples aplicacions que fan ús de sistemes relacionats amb la recuperació de la informació. Entre aquestes es poden assenyalar com a exemples: l’estudi d’imatges per al diagnòstic de malalties en medicina, la identificació d’empremtes dactilars en biometria o els sistemes de reconeixement automàtic de cares per a l’autenticació i la investigació criminal.

Altres aplicacions molt utilitzades en el nostre dia a dia són: els motors de cerca en Internet com Google o Mozilla Firefox, les cerques realitzades per veu a través dels assistents personals intel·ligents com Siri o Cortana, els sistemes d’identificació de música (p.e., Shazam o Soundhound) o plataformes de

Premi Marc Esteva Vivanco 2018 sèries de televisió, vídeos, pel·lícules, música o comerç electrònic que inclouen sistemes de recomanació i suggeriments com Netflix, YouTube, Itunes, Spotify, eBay o Amazon.

En les aplicacions citades anteriorment, el contingut d’un objecte qualsevol (cançó, imatge, fitxer d’àudio, etc.) està representat habitualment mitjançant un vector numèric de característiques (feature vector). En realitzar una cerca d’informació concreta, es compara la descripció d’un objecte a través del seu vector de característiques amb els vectors de la resta d’objectes en la base de dades en la qual es realitza la consulta, i s’obtenen un conjunt de resultats ordenats sobre la base de la rellevància amb la cerca realitzada. Per tant, les comparacions són una tasca essencial tant en la cerca i recuperació d’informació com en molts dels mètodes de Reconeixement de Patrons i Aprenentatge Automàtic.

La forma més senzilla de comparar parells d’objectes és mitjançant l’ús de funcions de similitud, distàncies, mètriques o una altra funció. Un exemple molt utilitzat és la distància Euclidiana, encara que presenta una sèrie de desavantatges, ja que depén de la tasca específica a realitzar i del context, és a dir, de les particularitats del problema en qüestió. A més, tracta tots els atributs que descriuen els objectes d’igual manera, no tenint en compte aspectes com ara la importància relativa de cada atribut i la correlació que puga existir entre ells, així com la naturalesa de les dades en consideració i l’estructura interna de la informació que s’està analitzant.

Per a pal·liar aquests inconvenients, sorgeixen enfocaments com l’aprenentatge de distàncies mètriques, que tracten d’aprendre una mesura de la similitud entre objectes a partir dels vectors de característiques que els descriuen, de manera que es complisquen les propietats de distància. No obstant això, existeixen aplicacions (com sistemes de recomanació o de recuperació d’imatges) en les quals no són necessàries aquestes propietats i, per tant, es pot flexibilitzar el seu compliment. En particular, en aquesta tesi es presenta una proposta amb la finalitat d’obtindre un rànquing de parells d’objectes sobre la base de la seua similitud emprant mètodes de classificació supervisada.

Aquests mètodes produeixen una puntuació en lloc d’una mètrica que és especialment útil quan l’objectiu és classificar o ordenar parells d’elements d’acord a la seua similitud.

Llavors, la tesi doctoral té com a objectiu principal presentar un mètode d’aprenentatge de puntuacions (scores) que permeta establir un rànquing de parells d’objectes sobre la base de la seua similitud emprant tècniques de classificació supervisada. Per a obtindre aquests scores, es proporciona als classificadors diferents configuracions de dades d’entrada amb la finalitat d’analitzar els avantatges i inconvenients de cadascuna.

Com a objectius específics del treball s’assenyalen els següents: - Estudiar el rendiment de mètodes de classificació en el context de l’aprenentatge de scores de similitud mitjançant tècniques de classificació supervisada.

- Analitzar la influència de la representació del format de les dades d’entrada als classificadors per a obtindre scores de similitud.

- Identificar formats de representació d’entrada de les dades mitjançant

El butlletí de l’ACIA

47

Premi Marc Esteva Vivanco 2018 tècniques de fusió, extracció i/o expansió de característiques que milloren el resultat de les tècniques de classificació.

- Aplicar mètodes d’avaluació i comparació del rendiment de tècniques d’aprenentatge de distàncies i classificadors per a l’obtenció d’un rànquing de similitud.

Contribucions de la investigació Les publicacions derivades d’aquest treball doctoral poden agrupar-se en dues contribucions com mostra el mapa conceptual de la figura 1, en el qual es fa una breu síntesi dels conceptes principals i de les àrees d’estudi en què s’ha centrat aquesta tesi doctoral. Tot seguit, s’explica el contingut d’aquestes contribucions i s’indiquen en negreta els conceptes que configuren els nodes del mapa conceptual. Els detalls de les contribucions es poden consultar al final d’aquest text.

Figura 1. Principals conceptes, àrees d’estudi, publicacions i contribucions

El càlcul de la similitud (Similarity measurement) entre parells d’objectes pot ser abordat tant des de l’àrea de l’aprenentatge supervisat de distàncies mètriques (Metric Learning) com dels mètodes de classificació per a l’aprenentatge de mesures de semblança (Classification-based Similarity Learning). Ambdós plantejaments fan ús d’un enfocament comú emprant exemples d’entrenament compostos, per exemple, de parells d’objectes etiquetats com a similars (S) o no similars (D).

Molts dels treballs sobre l’aprenentatge de mètriques han reportat resultats consistentment millors que l’aprenentatge de similituds emprant mètodes de classificació en una varietat de contextos. No obstant això, amb una acurada selecció del format d’entrada dels objectes (Object Representation), els classificadors poden obtenir resultats que superen els mètodes d’aprenentatge de mètriques més avançats.

En els treballs que configuren la contribució 1 es planteja l’ús de mètodes de classificació per a l’obtenció de puntuacions amb les quals establir un rànquing de similitud entre parells d’objectes emprant la configuració habitual

48

El butlletí de l’ACIA

Premi Marc Esteva Vivanco 2018 en problemes d’aprenentatge de mètriques donada per parells d’objectes etiquetats com a similars o no similars. A l’hora d’emprar un classificador, un dels aspectes més importants que s’ha de tenir en compte per al seu rendiment òptim és el format de dades d’entrada proporcionat al classificador.

Aquesta investigació presenta un enfocament general que és vàlid en qualsevol context en el qual els objectes estiguen representats per vectors numèrics (Feature-based) agrupats per diversos descriptores (Descriptors) que es relacionen amb diferents característiques. Per exemple, els coeficients cepstrals derivats de l’escala Mel (MFCC, Mel-Frequency Cepstral Coefficients) i altres característiques relacionades amb el timbre i el tempo en el tractament digital de senyals de veu i àudio o l’histograma de color o descriptors relacionats amb la textura en el cas de les imatges. És important que aquests vectors numèrics siguen prou representatius com per a contenir la informació rellevant. És per açò que sovint s’utilitzen diversos descriptors per a tenir una bona i completa representació de l’objecte, la qual cosa permet al classificador treballar amb tota la informació disponible. Malgrat això, aquesta opció comporta en múltiples ocasions un problema a causa de l’alta dimensió dels vectors de característiques. Una altra opció alternativa consisteix a utilitzar una representació dels objectes basada en distàncies (Distance-based). De fet, és una pràctica freqüent l’ús de diferents mesures de similitud, cadascuna de les quals actua sobre cada descriptor que posteriorment es combinen per a produir un valor de puntuació de similitud.

Tenint en compte aquesta idea, la proposta presentada en aquesta contribució empra com a funció de (di)similitud la puntuació obtinguda per un classificador suau al qual se li tracta de proporcionar un resum més informatiu de les dades originals i amb una menor dimensió.

En particular, es presenta una funció de transformació que actua com una capa de preprocessament que opera a l’espai de característiques original i que es basa en una família de funcions de distàncies ∂h (mètriques i no mètriques).

La funció defineix, doncs, un nou vector de característiques per a cada parell d’objectes (xi,xj) com mostra la figura 2 i que són proporcionats com a dades d’entrenament al classificador que, seguint un esquema de fusió (Late Fusion), exerceix un paper de combinador flexible de les distàncies i produeix una puntuació que servirà per a predir la similitud de qualsevol parell d’objectes sense etiquetar.

“Les comparacions són una tasca essencial tant en la cerca i recuperació d’informació com en molts dels mètodes de Reconeixement de Patrons i Aprenentatge Automàtic.”

Figura 2. Capa de preprocessament basada en distàncies calculades per descriptor

El butlletí de l’ACIA

49

Premi Marc Esteva Vivanco 2018 “Presentem un mètode d’aprenentatge de puntuacions que permetra establir un rànquing de parells d’objectes sobre la base de la seva similitud emprant tècniques de classificació supervisada.”

La contribució 2 parteix de la idea que una de les maneres més senzilla i habitual en la qual es poden proporcionar les dades d’entrenament de parells d’objectes a un classificador és mitjançant la concatenació dels vectors de característiques que descriuen els objectes i una etiqueta que indique si els objectes són similars o no similars.

Una altra manera d’afrontar aquest problema d’aprenentatge és considerant els vectors concatenats {pk} com si foren dades en brut sense processar (raw data) i plantejant un nou problema d’extracció de característiques sobre les característiques disponibles. Això és, en lloc d’utilitzar el conjunt original de vectors {pk} , la idea és utilitzar-los per construir un nou conjunt de característiques {p’k} que siga més precís per a tasques de classificació.

L’objectiu seria, per tant, dur a terme una transformació de les característiques originals per a proporcionar un format d’entrada de dades al classificador més informatiu, de manera que s’obtinga una millor puntuació de la similitud entre parells d’objectes independentment del mètode de classificació emprat.

Aquesta segona contribució de la tesi presenta un enfocament híbrid que combina l’extracció de característiques (Feature Extraction) i l’ampliació d’aquestes (Feature Expansion). En una primera fase, es produeix una transformació de les variables originals que permet obtenir un substancial avantatge sobre l’ús tradicional que es fa de les característiques originals concatenades i es demostren els avantatges d’aquesta transformació sobre els classificadors.

En acabar la fase d’extracció, es realitza una ampliació de funcions en la qual s’utilitzen distàncies, l’ús de les quals s’inspira en la primera contribució d’aquesta tesi, encara que el seu ús és significativament diferent, ja que les distàncies calculades s’utilitzen per ampliar, i no reemplaçar la informació que apareix en {pk} com s’observa en la figura 3.

Figura 3. Nou format enriquit de les dades d’entrada al classificador després de les fases d’Extracció i Expansió de característiques

El fet d’emprar les distàncies en la fase d’expansió implica un augment en la dimensió original de les dades, objectiu contrari a la finalitat de la primera contribució, on part de l’interès de l’ús de les distàncies radicava en el fet de reduir la dimensió d’entrada a un classificador. Per tal d’aconseguir un enfoca-

50

El butlletí de l’ACIA

Premi Marc Esteva Vivanco 2018 ment més general del mètode, en aquesta segona contribució, el fet de si les dades estan agrupades o no per descriptores resulta irrellevant.

El mètode es compara amb tècniques d’extracció de característiques de l’estat de l’art i mètodes d’aprenentatge de mètriques. Els resultats obtinguts mostren rendiments comparables en favor del mètode proposat en diferents contextos, com ara el reconeixement d’objectes o la verificació facial.

Per mostrar l’aplicació general del mètode proposat, en aquesta segona contribució, a més de l’ús de conegudes bases de dades relacionades amb imatges (LFW, PubFig, ToyCars) associades amb tasques com la verificació de rostres o el reconeixement d’objectes, s’empren una varietat de conjunts de dades del repositori UCI que il·lustren múltiples contextos d’ús.

El document de la tesi doctoral es pot consultar al web http://roderic. uv.es/handle/10550/61001

Les dades completes de les contribucions i publicacions derivades d’aquesta investigació són els següents: Contribució 1: López-Iñesta, E., Arevalillo-Herráez, M., Grimaldo, F. (2014). A J. M. Corchado et al. Proceedings of the 17th International Conference on Information Fusion (FUSION 2014), pp. 1-6. Classification-based multimodality fusion approach for similarity ranking. Salamanca: IEEE Explore. Recuperat de https:// ieeexplore.ieee.org/document/6916196 López-Iñesta, E., Grimaldo, F., Arevalillo-Herráez, M. (2017). A L. Museros et al., Artificial Intelligence Research and Development - Proceedings of the 17th International Conference of the Catalan Association for Artificial Intelligence (CCIA 2014), pp. 23-32. Comparing feature-based and distance-based representations for classification similarity learning. Barcelona: IOS Press. doi. org/10.3233/978-1-61499-452-7-23 López-Iñesta, E., Grimaldo, F., Arevalillo-Herráez, M. (2015). Classification similarity learning using feature-based and distance-based representations: A comparative study. Applied Artificial Intelligence, 29(5), 445-458. doi.org/10.1 080/08839514.2015.1026658 López-Iñesta, E., Grimaldo, F., Arevalillo-Herráez, M. (2017). Learning Similarity Scores by using a family of distance functions in multiple feature spaces. International Journal of Pattern Recognition and Artificial Intelligence, 31(8), pp. 1750027. doi.org/10.1142/S0218001417500276 Contribució 2: López-Iñesta, E., Arevalillo-Herráez, M., Grimaldo, F.. (2015). A E. Armengol et al., Artificial Intelligence Research and Development - Proceedings of the 18th International Conference of the Catalan Association for Artificial Intelligence (CCIA 2015), pp. 153-162. Boosting Classification Based Similarity Learning by using Standard Distances. València: IOS Press. doi.org/10.3233/978-1-61499-578-4-153 López-Iñesta, E., Grimaldo, F., Arevalillo-Herráez, M. (2017). Combining feature extraction and expansion to improve classification based similarity learning. Pattern Recognition Letters, 93, pp. 95-103. doi.org/10.1016/j.patrec.2016.11.005

El butlletí de l’ACIA

51

Amb el suport de: