L’algoritme roba el dret a decidir el futur

Se'ls veia somrients, triomfadors. Trump prenia possessió com a president dels EEUU i es feia acompanyar dels primers espases de les grans corporacions tecnològiques, aquelles que configuren el que la sociòloga Shoshanna Zuboff ha definit com a capitalisme de la vigilància, corporacions que han passat de desenvolupar processos automatitzats per conèixer la nostra conducta a processos per modelar-la en funció dels seus interessos.

Les eines i plataformes tecnològiques han basat el seu desenvolupament en els sistemes de recomanacions. Vostè entra en la seva xarxa social favorita i la pantalla l’ofereix un carrusel inacabable de videos, fotos o notícies que tenen a veure amb aquell o aquells temes sobre els quals ha mostrat interès en dies passats. Els algoritmes prescriuen i jerarquitzen les informacions en base al rastre que hem deixat del nostre comportament anterior. Ens ofereixen un estímul i nosaltres donem una resposta positiva, que al seu torn provoca un reforç de l’estímul. Per als totpoderosos capitosts de les plataformes tecnològiques és un cercle virtuós, perquè la nostra atenció és la seva mina d’or; per nosaltres, els súbdits de l’aristocràcia digital, és un cercle viciós que, com sosté el filòsof, Daniel Innerarity, ens condemna a estar atrapats en el nostre passat i a no pensar en modificar-lo.

Aquesta evolució de les plataformes digitals ha fet ara un salt amb la implosió de la Intel·ligència Artificial (IA) generativa, un salt que encara no hem calibrat, abduïts com estem amb tot allò que diuen que pot fer per nosaltres. Les respostes de la IA també estan fonamentades en el passat. Es basen en la informació i el coneixement en què ha estat entrenada. No produeixen cap nou coneixement, sinó que fan un resum del que ja existeix; donen com a certes afirmacions o arguments que ha trobat amb més freqüència com a certes. Fins i tot si l’entrenament ha estat amb un interès espuri. 

Quines són les conseqüències? A nivell individual, significa que no tenim opcions de sortir de la caixa tancada de les nostres preferències. I les preferències són realment nostres o són inducides? Sabem prou bé que el capitalisme és un sistema que contínuament genera necessitats per continuar rodant. En aquest sentit, convé preguntar-se si els algoritmes ens ofereixen el que volem o acabem volent el que ens ofereixen. Innerarity, que és també titular de la càtedra Intel·ligència Artificial i Democràcia de l’Institut Europeu de Florència, assenyala dos riscos: que siguin altres els que decideixen què hem de preferir i que es doni per segur que només podem preferir allò que hem preferit en el passat.

I a nivell col·lectiu, les decisions basades en l’algoritme dificulten, si és que no impedeixen, les intervencions amb voluntat de canviar el món. En confirmar allò que ja existeix i basar-se en la idea que el que vindrà serà molt semblant al passat, estreten el marge del ventall dels futurs possibles. Innerarity recorda que una propietat de la intel·ligència humana es afrontar les novetats. Això inclou aspectes com la innovació o l’aparició de noves idees; també la capacitat crítica, el qüestionament i fins i tot la ruptura amb allò existent. Aquesta capacitat de decidir és un element central de l’organització democràtica de les nostres societats.

Kate Crawford, que ha invertit deu anys d'investigació en la seva obra Atlas de la IA. Poder, política y riesgos planetarios de la IA, conclou que la IA està dissenyada per consolidar els interessos dominants, reproduir les desigualtats i ampliar les esferes d'influència econòmica i política de les elits tecnològiques. Nicholas Carr, al seu llibre Atrapados, assenyala que la gran qüestió és si les nostres vides han d’estar regides pels algoritmes i en quina mesura. “La manera en què configurem la governança d’aquestes tecnologies serà decisiva per al futur de la democràcia”, asegura.

No obstant, pinten bastos, a tenor de l’idili entre el nou emperador del món i la seva cohort tecnocràtica i davant el fet que l'acceptació generalitzada de la idea de la inevitabilitat tecnològica. Hi ha qui s’enganya dient que és un win-win, una relació en què tothom hi guanya; hi ha qui és conscient del vassallatge, però l’accepta perquè simplifica la seva vida o la fa més suportable. En qualsevol cas, sosté la filòsofa Marina Garcés, “som a les portes d’una rendició. La rendició del gènere humà quant a la tasca d’aprendre i autoeducar-se per viure més dignament”.

La també filòsofa Hanna Arendt, gairebé seixanta anys abans, ja ho va pronosticar a La condició humana: “és perfectament concebible que la era moderna -que va començar amb una explosió d’activitat humana tan prometedora i sense precedent- acabi amb la passivitat més mortal de totes les conegudes per la història”.