Catherine D’Ignazio

Ens connectem online. La professora i investigadora del Massachusetts Institute of Technology (MIT) Catherine D’Ignazio, coautora del llibre Data Feminism, des de Boston, i l’entrevistadora, des de Barcelona. L’entrevista comença tard. El tema central són les tecnologies, però l’ordinador d’Espanya falla; el telèfon també. No funcionen ni Zoom ni Skype. Després es veu la imatge, però no funciona el so. Fins que, per fi, al cap de 20 minuts, comença la conversa. 

Smart cities, smart phones, smart tech… però acaba de fallar tot. És veritablement tan intel·ligent tot això? 
Ja. És una bona pregunta. Nooo! Vull dir: hi ha quelcom màgic i increïble en les tecnologies. És bastant màgic que puguem fer aquesta videotrucada, però al mateix temps penso en la feina de persones com Mary Gray, que va escriure un gran llibre titulat Treball Fantasma en què mostra la quantitat de feina humana que hi ha al darrera de les tecnologies smart. Per exemple, quan cridem un taxi mitjançant una aplicació i de sobre el taxi apareix màgicament, al darrera hi ha un munt de feina humana. La meva petició pot haver arribat a un ésser humà que es troba a l’Índia, que verifica que jo puc fer aquest trajecte i les dades del conductor. Després passa la comanda al conductor i llavors m’avisa. En llenguatge tècnic se’n diu human in the loop (que requereix la interacció humana). A les empreses tecnològiques els agrada mostrar que tot és automàtic, però al darrera hi ha moltíssima feina humana. La paraula smart és màrqueting, res més. I també una manera de devaluar el treball humà que hi ha al darrera.

Vostè es defineix a Twitter com una mare hacker. Per què?
Em vaig passar 15 anys treballant com a programadora de software, bases de dades i desenvolupaments web. I també soc hacker en el sentit de hackejar sistemes, d’apropiar-se de manera creativa de sistemes tecnològics. I també soc mare, tinc tres fills. També penso que hacker i mare mai van juntes i vaig fer una nova categoria.

Es pot ser dona hacker, però no mare hacker... 
Exacte. La gent ha estat una mica pejorativa al voltant de les mares i les àvies i la seva relació amb les tecnologies. I jo crec que poden fer molt bona feina. 

Vostè és professora al departament d’urbanisme. Per què són tan importants les dades a l’urbanisme?
La realitat del planejament urbanístic, de l’administració del dia a dia de les ciutats, mostra que cada vegada més les ciutats treuen profit de les noves tecnologies, de sistemes de bases de dades urbans: als pressupostos, al pagament de salaris, al manteniment dels carrers, als contractes de serveis... I, per suposat, estan sorgint algunes tecnologies smart com els semàfors intel·ligents, sensors ambientals a llocs públics que mesuren la contaminació de l’aire i aquest tipus de coses. En aquest terreny hi ha una oportunitat i un perill. Una ciutat és un lloc interessant des del punt de vista públic. En un món ideal, és el lloc de la democràcia, i ens hem d’assegurar que aquestes tecnologies s’utilitzen a favor de la democràcia. 

Preguntant a la ciutadania?
Amb la participació. Fa poc vaig escoltar una xerrada molt interessant de la investigadora Lilly Irani, que explica com es va ajuntar amb una coalició a San Diego per lluitar contra els semàfors intel·ligents. L’Ajuntament els havia aprovat, però ningú sabia, perquè no era públic, que els semàfors no només s’encenien i apagaven automàticament, sinó  que també tenien videocàmeres, que gravaven informació d’àudio i de vídeo per després fer-ho públic. És a dir, que es podia accedir a tota aquesta informació. 

Un estat de vigilància total.
Sí. El tema és quan aquesta tecnologia creua la línia i trenca la promesa democràtica.

Vostè també té una especialització en art. Com es barregen totes aquestes coses? L’art, els mapes, les dades, el feminisme…
La meva entrada a les dades va ser sempre des del punt de vista visual. És fascinant la manera en què podem agafar les dades i tractar-les d’una manera visual, accessible per a les persones. Pot ser amb visualitzacions o de manera artística. Crec que és una funció democràtica. Sovint els que treballem amb bases de dades utilitzem diagrames molt complicats, i en funció de la teva àrea això pot excloure molta gent. 

Sí que saben mostrar les dades per vendre publicitat. Com podem utilitzar aquestes dades per a bé?
Aquesta és la qüestió central. El problema és que les dades són cares. És car recollir-les, guardar-les, mantenir-les. Necessites gent molt qualificada per manipular les dades, analitzar-les, construir tecnologies. Jo de vegades me’n ric de l’analogia del núvol perquè fa la sensació que les dades estan a algun lloc enmig del no-res, quan de fet estan en uns servidors enormes que ocupen moltíssim d’espai, amb un munt d’electricitat per refredar els ordinadors. I el tema és qui té els recursos per fer-ho, que són essencialment corporacions: Google, Facebook… i també governs rics i universitats d’elit. Cadascun d’aquests actors té els seus incentius. Les corporacions volen beneficis. Els governs, segons el context, poden fer-ho per unes o altres raons, no sempre lloables. I les universitats volen contribuir a investigacions acadèmiques. No és necessàriament dolent , però aquest és el context en què ens movem: com fem perquè hi tinguin accés persones o organitzacions que no tenen aquesta estructura.

Sona complicat.
És molt complicat. Si algú vol entrar en aquestes empreses ha de tenir un perfil d’enginyeria de software, i molts estudis documenten que contracten perfils que afavoreixen els homes blancs. El tema és com es democratitza aquest coneixement per a ONG, grups comunitaris... i les investigacions també. No hi tenen accés si no treballen amb socis de recerca com Facebook i això  els lliga al que Facebook vol que estudiïs: coses relacionades amb els beneficis. 

Vostè s’especialitza en feminisme de dades. Per què?
Tinc un bagatge de desenvolupament de software i també d’art i disseny. Per mi, tot això conflueix als mapes. En cartografia, i més en geografia, hi ha una vella conversa sobre el poder i els mapes. Hi estic familiaritzada des de fa 15 anys com a mínim. Vaig formar part de grups per una cartografia alternativa, en el sentit d’emprar els mapes per desafiar el poder. Quan vaig arribar a l’escola de postgrau i vaig entrar al MIT Media Lab, a principis del 2010, hi havia una explosió de big data, anàlisi de prediccions, intel·ligència artificial, etc. I una de les coses que em va sorprendre era que no hi havia en aquell moment cap conversa sobre desigualtats o discriminació. Des de llavors, per sort, hi ha hagut molts avenços. Nosaltres hi contribuïm també, però per a mi aquí és on va començar realment el feminisme de dades. El que és rellevant sobre el feminisme és que tracta molt específicament del poder que porta a la desigualtat de gènere i també és interseccional: desigualtat racial, colonialisme, etc. Donem nom a les forces de la desigualtat social i amb les dades podem tenir accés a l’anàlisi. El feminisme ajuda a veure aquest món on  les dades accentuen les desigualtats, la forma en què s’utilitzen les dades, discriminant les persones.

En podria donar un exemple? 
Una de les coses que tenen els mapes és la mirada des de dalt, des d’una distància important. Això és genial en un sentit, però també és una manera molt masculina de mirar les coses. Genera la il·lusió en qui els mira que ho pot veure tot, entendre-ho tot i controlar-ho tot. Ens porta a l’era colonial, en què els colons miraven el mapa i controlaven el territori. Des de la perspectiva feminista ens enfrontem a això; no és que no utilitzem els mapes. però volem mostrar altres mirades. Unes mirades més de situació, una cartografia feminista. Per exemple, un mapa feminista en què estic treballant ara és sobre violència i feminicidis, un tema que s’està difonent molt ara a Llatinoamèrica. Molts dels que fan els mapes estan utilitzant un tipus de cartografia familiar per enfrontar-se als governs. D’alguna manera els diuen als governs que estan permetent aquesta violència de gènere.

Mapegen els llocs on es produeix la violència de gènere.
Sí, és el que anomenem “llibres comptables de dades i comptabilitat estadística”, i veiem què s’ha d’explicar. Perquè en molts casos no és important comptabilitzar els feminicidis. De fet, a Espanya hi ha un grup anomenat Feminicidio.net on expliquen la violència i els feminicidis amb una definició legal diferent. A les lleis espanyoles es té en compte només la violència exercida per companys íntims. Aquí comptabilitzen amb una mirada més oberta i mostren que el fenomen és pitjor del que sembla. 

N'hi ha més en el feminisme de dades...
Realment es tracta de justícia: com caminem cap a una igualtat real. La teoria feminista pot oferir molt a la ciència de dades. No és quelcom existent o conegut. Si parles de feminisme amb especialistes en ciència de dades et diran: “de què m’estàs parlant?”. No és una connexió que la gent faci normalment, per això estem aquí. La teoria feminista té aquest gran anàlisi de com funciona el poder. Estem reproduint el racisme, el sexisme i el classisme. Les tecnologies ofereixen aquesta manera de pensar que hi ha al darrere. Arribem a algoritmes sexistes perquè vivim en un món sexista. Hem de lluitar contra això. 

Podria posar un exemple de masclisme de dades?
Parlaré de la feina fabulosa de Joy Buolamwini. Joy és una dona afroamericana, originària de Ghana. La seva pell és molt fosca i és col·lega meva al MIT. Estava en una classe provant un sistema de reconeixement de cares i no detectava la seva. Llavors va posar un amic blanc i el sistema li va detectar la cara. Un amic asiàtic, i li va detectar la cara. Llavors ella literalment es va posar una màscara blanca i el sistema li va veure la cara. Va auditar les dades del sistema i va trobar el que anomena "una majoria pàl·lida i masculina”. La cadena de dades era en un 88% d’homes blancs. És clar que el sistema falla i, per suposat, no és intencional. Té a veure amb la manca de diversitat en aquests equips, amb els incentius de beneficis i amb la manca de comprovacions d’igualtat. Ningú audita aquests sistemes per dir: hi ha mostres de sexisme? De racisme? De quina manera? 

Vostès fan comprovacions, auditories d’aquest tipus al seu laboratori?
Una de les meves estudiants, Wonyoung So, ho està fent. Està analitzant la discriminació racial en temes d’habitatge, com els que lloguen habitatge fan un cribratge automàtic dels candidats. L’auditoria mostra la possible discriminació, bàsicament racial, i revertir-la.

Vostè ha explicat que bàsicament els qui fan aquestes tecnologies són homes blancs. Com es fa activisme feminista de dades?
És un gran problema i va a pitjor. Hi ha un informe d’un grup anomenat AI Now (Artificial Intelligence Now Institute): l’estadística és dolenta si mires la paritat de gènere a les grans empreses tecnològiques. Ells van veure que només el 12% dels investigadors d’intel·ligència artificial a les corporacions eren dones. És una recepta per al desastre.

Com podem fer les persones que no tenim res a veure amb aquest món per ajudar a canviar les coses?
Aquesta conversa ha de ser pública. Molta gent pensa que només pot opinar si entén la tecnologia i no és així. Hem de crear espais on la gent se senti benvinguda en aquests diàlegs públics. Necessitem gent de camps com el periodisme, les lleis, l’activisme, les organitzacions comunitàries sense afany de lucre, els espais d’art... Aquesta és la gent que pot marcar la diferència.

I els governs...
Sens dubte, els governs han de jugar un gran paper. La Unió Europea és l’única que està fent alguna cosa proactivament. Almenys han fet el Reglament General de Protecció de Dades. En el context dels Estats Units hi ha certa legislació, algun treball sobre la responsabilitat dels algoritmes, però no és seriós. Crec que legislar sobre aquest tema no és suficient, s’ha de ser molt proactiu; és a dir, que no siguin les persones les que hagin de mostrar el mal que se’ls ha fet. És molt difícil mostrar el sistema algorítmic, s’hauria de fer algun tipus de procés que permetés verificar prèviament.