elsot.cat Les notícies digitals de Sant Quirze
La democràcIA
Què és la IA? És un regal, una eina, o un arma?
En un món on la política i la tecnologia es van entrelligant cada cop més, la intel·ligència artificial (IA) emergeix com la nova musa dels estrategs polítics. O més que musa, eina. O arma. És la IA l’oracle que ens guiarà cap a un futur brillant o, al contrari, el Gran Germà digital que vigila cadascun dels nostres moviments? Aquest és un dubte potent, que em va sorgir fa temps, i que voldria esclarir… si és que puc, que ho dubto. És per això que avui no vull fer un articulet curt fent una mica de broma d’algun tema d’actualitat, sinó més aviat un assaig una mica més llarg i raonat. Ho sé, tinc tots els números per avorrir-te a tu, lector@, perquè ajuntar massa lletres normalment avorreix si la trama no és bona. I no sé si serà bona, i ni tan sols sé si al final resoldrem el dubte inicial, però intentaré fer entretingut el camí del raonament, a veure si arribem plegats a alguna conclusió. Això sí, com a mostra de bona voluntat et vull prometre que si arribem al final, hi haurà una sorpresa per tu. Dins d’aquest text et plantejaré una prova per demostrar si ets capaç o no de lluitar contra la manipulació digital, o fins i tot si podries controlar-la o anul·lar-la. Quan m’hagis acompanyat, podrem esbrinar-ho. Així doncs, comencem.
La IA: Aliada o espia?
La IA es presenta com la panacea per als mals de la política moderna. Promet personalitzar missatges, analitzar comportaments i predir resultats electorals amb una precisió que faria passar certa vergonyeta a Nostradamus. No obstant això, sorgeix una pregunta inquietant: estem delegant les nostres decisions polítiques en algoritmes incapaços d’entendre l’empatia o els valors humans? I ho fem de forma conscient o inconscient?
L’ús de la IA en la política planteja seriosos reptes ètics i democràtics, ja que pot ser utilitzada per manipular l’opinió pública i difondre desinformació. Ho hem vist, malauradament. La IA, a diferència dels polítics tradicionals, no té la capacitat de sentir, d’empatia ni d’entendre el context social i cultural. És veritat que alguns polítics humans tampoc en tenen res d’això, però ja ens entenem… La IA només es basa en patrons de dades. No obstant això, al utilitzar aquests algoritmes per decidir quins missatges arribaran als votants, es crea una versió de la política molt més àmplia i fins i tot algú diria que més segmentada, però superficial, controlada i despersonalitzada. I el que és pitjor, susceptible de ser manipulada per interessos foscos, clar. Qui paga, mana. I la IA no és gratis, tot i que ho sembli. Qui la finança, vol manar.
Té ètica la IA?
L’ètica en la IA és un tema complicat. La UNESCO adverteix que, sense barreres ètiques, la IA corre el risc de reproduir prejudicis i discriminació, alimentant divisions i amenaçant drets humans i llibertats fonamentals. És el perill que sents que es corre quan caus en el detall que qui introdueix i entrena la IA és un humà, amb fílies i fòbies. I amb interessos. Però, qui necessita ètica quan es té eficiència? Al cap i a la fi, ¿no és més fàcil deixar que un algoritme decideixi qui mereix una beca o quin barri rep inversió pública segons un càlcul matemàtic? L’objectivitat de la IA és temptadora, encara que oblidem que les dades amb què es nodreix són seleccionades per humans, els quals, com sabem, són infal·libles… veritat?
Tenim l’exemple de l’escàndol de Cambridge Analytica, on les dades privades de milions d’usuaris de Facebook es van utilitzar per influir en processos electorals com el referèndum del Brexit o les eleccions presidencials d’EUA del 2016. Aquesta empresa va utilitzar la microsegmentació per identificar emocions i pors concretes en grups de votants, amplificant missatges personalitzats per condicionar el seu comportament electoral.
Quan la IA es converteix en el cor del sistema polític, es corre el risc que la política es redueixi a alguna cosa molt més perillosa: un negoci per aquells que tenen la capacitat de controlar-la. Un sistema que no comprèn les complexitats humanes, però que és capaç de segmentar la població, de classificar els votants com a clients potencials als quals se’ls pot vendre un producte polític determinat. I tot això sense necessitat d’abordar les causes reals que afecten les comunitats, ja que l’algoritme no té l’obligació moral de resoldre problemes socials, només d’optimitzar resultats electorals.
La IA i la privacitat
La privacitat és un altre tema delicat. La recopilació massiva de dades personals per alimentar algorismes de IA planteja seriosos dubtes sobre la protecció de la privacitat i la seguretat de la informació. Però, qui necessita privacitat quan es té conveniència? Al cap i a la fi, ¿no és més fàcil que un algorisme ens digui quin candidat votar o quina política és la millor per a nosaltres? En lloc que la gent s’informi de manera autònoma, el sistema de IA ens ofereix la “informació perfecta” que ens guia, fent que la nostra llibertat de decisió es converteixi en una il·lusió. Ho parlàvem abans, la democràcia pot fer-se a mida, si volem, perquè ens agradi. Serà més còmoda, però serà real?
Si les xarxes socials i els seus algorismes s’alimenten de les nostres dades més íntimes, els nostres comportaments, preferències i cerques, ¿realment tenim control sobre la nostra privacitat i el nostre vot? Ens hem acostumat a compartir la nostra vida digital amb tots els ulls posats en ella, sense adonar-nos que, en fer-ho, estem lliurant el poder de decisió a un sistema que, en lloc de respectar la nostra privacitat, la converteix en un recurs valuós per manipular-nos. És cosa nostra, doncs.
La democràcIA.
La democràcia es basa en la participació informada i el debat entre ciutadans per triar representats vàlids per aconseguir fites socials, polítiques, laborals i econòmiques mitjançant més debat informat. Més o menys, no em feu fer ara una dissertació completa sobre els detalls. Però l’aparició de la IA com a agent informatiu, o pitjor, com a agent polític, pot crear bombolles informatives on els ciutadans reben només la informació que reforça les seves creences preexistents, polaritzant encara més la societat. Ens arriba només allò que volem rebre, sigui o no cert, perquè ho volem rebre per refermar allò que volem pensar, sigui o no cert. Llavors es pot tenir una democràcia personalitzada? Sí, clar. Al cap i a la fi, és molt més còmode viure en una realitat on tot s’adapta a les nostres preferències. No? No hem d’esforçar-nos en fer contra arguments o debats pesats. Només veiem la part que ens convé, creada per l’algorisme. Ja fa temps que ho fem, això. Ho fem a diari a les xarxes. Per això és interessant que facis la prova, més endavant, ja que aquest apartat tindrà especial rellevància.
El cas de les xarxes socials ens il·lustra com la IA no només crea aquest tipus de bombolles, sinó que les amplifica. Les plataformes com Facebook i Twitter utilitzen algorismes per optimitzar el temps que els usuaris passen a elles, la qual cosa implica mostrar-los contingut que més probablement generarà interacció, ja sigui per coincidir amb les seves opinions prèvies o, pitjor encara, per radicalitzar-les. Això ha transformat la política en un terreny de batalla d’influències digitals, on el que importa és la quantitat d’interaccions i la viralitat, no la qualitat ni la veracitat de la informació. Fa poc, Meta, la companyia de Facebook o Instagram, ha abandonat el seu programa de verificació de dades, implementat des del 2016, substituint-lo per un sistema de “Notes de la Comunitat” similar al de X (abans Twitter). Aquesta decisió genera preocupació, ja que pot incrementar la difusió de desinformació. Si no hi ha filtres professionals que verifiquin el contingut, passarem a dependre de la “voluntat” dels propis usuaris per verificar-les i avisar a altres usuaris. Per tant, preacceptem que el contingut fake arribarà a qui el vulgui rebre (recordem que l’algorisme vol reforçar el teu biaix, cert o fals) i ens hem de creure que aquest públic predisposat, per alguna raó, decidirà consultar diverses fonts (probablement contràries al seu gust personal) per contrastar la info i desmentir-la a d’altres que vinguin després. Tu t’ho has cregut mentre ho llegies? Doncs això. Camp obert per les fake news ara a aquestes xarxes també. Les fake news, a més, tenen greus implicacions geopolítiques, n’hem conegut exemples: alimenten conflictes, manipulen eleccions i erosionen la confiança entre països, convertint-se en una perillosa eina de desestabilització global.
I aquí entra el costat més sinistre de la IA i les xarxes socials. Vivim en una societat on un magnat com Musk compra una xarxa social com Twitter i utilitza la IA per difondre un missatge segmentat i ampliat que condiciona el vot, alterant així el procés electoral de la principal potència mundial. Benvinguts a l’Amèrica de Musk i Trump. Gaudiu del viatge. L’ús d’aquests algorismes per microsegmentar els votants i crear missatges que s’adaptin a les seves emocions més primitives i les seves pors més profundes pot tenir conseqüències gravíssimes. Què passa quan un magnat té el poder d’influir en les eleccions d’un país? Què passa quan aquesta influència està dirigida per algorismes amb l’únic objectiu de maximitzar l’atenció i la participació, sense importar les repercussions socials posteriors?
Conclusió: La IA, entre la utopia i la distopia
La IA té el potencial de transformar la política per bé, però també pot ser una eina de manipulació i control. Un Gran Germà. O pitjor, un Skynet. Heu vist Terminator? Allà la IA no volia guanyar eleccions, volia guanyar la guerra. Jo només recordo que ja hem creat pensament intel·ligent virtual, i que ja tenim màquines capaces de crear qualsevol element, part o construcció. El dia que Chat GPT descobreixi les impressores 3D, ja podem córrer que se’ns ompliran els carrers de Schwarzeneggers amb ulleres de sol. Però fora bromes de boomer geek, hem de ser conscients que cal estar preparats perquè venen corbes. És essencial que els polítics, els tecnòlegs i la societat en general treballin junts per garantir que la IA s’utilitzi de manera ètica i en benefici de tots. Probablement estic demanant un impossible, perquè recordem que vivim en un món en què hi ha gent que creu que la terra és plana o que el Covid era un invent. Però hem d’aspirar a treballar-hi plegats. Potser és hora de recordar que, per molt avançats que siguin els algorismes, la política segueix sent, o hauria de ser, un assumpte profundament humà.
La distopia digital està a tocar, i si no vigilem, la IA podria convertir-se en l’últim obstacle que ens aparti del veritable propòsit de la política: representar i servir les persones. Si la IA i les xarxes socials segueixen sent utilitzades per manipular i condicionar la nostra voluntat, qui seran els veritables guanyadors de la batalla del relat final? Els algorismes que decideixen per nosaltres? O les persones que hi ha al darrere, controlant la IA? O potser els únics guanyadors, si és que n’hi hagués, serien les persones que, encara, s’atreveixen a pensar per elles mateixes? Són massa preguntes, però la resposta pot ser ben curta si no vigilem prou. Ningú.
La IA pot ser una eina poderosa per transformar la societat, però no hem d’oblidar que la tecnologia és només un reflex de qui som i de com la fem servir. Si prioritzem l’ètica i la transparència, podem fer que serveixi per millorar la vida de tothom, i no per condicionar o manipular pensaments i vots. La responsabilitat última recau en nosaltres: en els polítics, en la ciència i, sobretot, en la ciutadania. Només mantenint-nos crítics i actius evitarem que els algorismes desplacin el valor fonamental de la política: les persones.
Cal estar preparats, perquè ens trobarem amb aquest dilema aviat, molt més aviat del que t’imagines. Fa dos anys ni sabíem que hi havia IA, l’any passat vèiem fotos i vídeos molt artificiosos. Avui ja ens costa distingir la realitat d’allò creat pel pensament ultraveloç d’un xip. I demà? Demà, no sabem què serà capaç de fer. Però potser la IA sí ho sap. I això és el que ens ha de fer prendre consciència: potser ella ja sap coses que nosaltres no sabem encara.
Mentrestant, com deia aquell, procurem que no se’ns ajunti la Intel·ligència Artificial amb l’Estupidesa Natural. Posem-nos-hi, pel nostre propi bé.
Que no ens passi r… Què? Ah, sí! La sorpresa, la prova! La prova és la següent:
En el següent link et deixo un joc interactiu, preparat per mesurar la teva capacitat actual de resistència a la manipulació digital de la IA. És una prova ràpida, es completa en no més de 5 minuts, això sí, posa-hi atenció per si de cas. Ets capaç de superar-la? Demostra-ho!!
I ara sí, només em queda donar-te les gràcies per la paciència, per l’interès, i perquè amb una mica de sort si has arribat fins aquí és que, com a mínim ets conscient de allò que ens pot portar el futur. Preparem-nos plegats.
Que no ens passi res.
Paco Marín
Fontí i demòcrata.