|23-04-24| El pròxim 12 de maig, Solemnitat de l'Ascensió del Senyor, se celebra la Jornada Mundial de les Comunicacions Socials i aquest any el Papa Francesc parla sobre la "Intel·ligència artificial i saviesa del cor: per a una comunicació plenament humana". Aquest és el text íntegre del seu missatge:

Benvolguts germans i germanes,

L’evolució dels sistemes de l’anomenada intel·ligència artificial, sobre la qual ja vaig reflexionar en el meu recent Missatge per a la Jornada Mundial de la Pau, també està modificant radicalment la informació i la comunicació i, a través d’elles, alguns dels fonaments de la convivència civil. És un canvi que afecta tothom, no sols els professionals. La difusió accelerada d’invents sorprenents, el funcionament i potencial dels quals són indesxifrables per a la majoria de nosaltres, suscita una sorpresa que oscil·la entre l’entusiasme i la desorientació i ens col·loca inevitablement davant preguntes fonamentals: què és, doncs, l’home? Quina és la seva especificitat i quin serà el futur d’aquesta espècie nostra anomenada homo sapiens, en l’era de les intel·ligències artificials? Com podem continuar sent plenament humans i orientar cap al bé el canvi cultural en curs?

Començant des del cor

Abans de res convé aclarir el terreny de les lectures catastrofistes i dels seus efectes paralitzants. Fa un segle, Romano Guardini, reflexionant sobre la tecnologia i sobre l’home, convidava a no ser estrictes davant el que sigui “nou” en l’intent de «conservar un món bell condemnat a desaparèixer». Tanmateix, però, d’una manera sincera advertia profèticament: «El nostre lloc es troba en el futur. Ens hi hem d’inserir, cadascú on li correspongui […], adherint-nos-hi honestament però alhora restant sensibles, amb un cor incorruptible, a tot allò que hi ha en ell de destructiu i d’inhumà.» I concloïa: «És cert que es tracta de problemes de naturalesa tècnica, científica i política; però no es poden resoldre si no és a partir de l’home. Cal que es formi un nou tipus humà, dotat d’una espiritualitat més profunda, d’una llibertat i d’una interioritat noves.»

En aquesta època que corre el risc de ser rica en tecnologia i pobra en humanitat, la nostra reflexió només pot partir del cor humà.2 Només dotant-nos d’una mirada espiritual, només recuperant una saviesa del cor, podrem llegir i interpretar la novetat del nostre temps i redescobrir el camí d’una comunicació plenament humana. El cor, bíblicament entès com la seu de la llibertat i de les decisions més importants de la vida, és símbol d’integritat, d’unitat, però també evoca els afectes, els desitjos, els somnis, i és sobretot el lloc interior de l’encontre amb Déu. La saviesa del cor és, doncs, aquesta virtut que ens permet entrellaçar junts el tot i les parts, les decisions i les seves conseqüències, les capacitats i les fragilitats, el passat i el futur, el jo i el nosaltres.

Aquesta saviesa del cor es deixa trobar per qui la cerca i es deixa veure per qui l’estima; es fa conèixer al qui la desitja i va a la cerca de qui n’és digne (cf. Sv 6,12-16). Està amb

el qui es deixa aconsellar (cf. Pr 13,10), amb el qui té el cor dòcil, un cor que escolta (cf. 1Re 3,9). És un do de l’Esperit Sant que permet veure les coses amb els ulls de Déu, comprendre els vincles, les situacions, els esdeveniments i descobrir-ne el sentit. Sense aquesta saviesa, l’existència esdevé insípida, perquè és una qualitat de la saviesa —l’arrel llatina de la qual, sapere, és semblant a sapore— donar gust a la vida.

Oportunitat i perill

No podem esperar aquesta saviesa de les màquines. Encara que el concepte intel·ligència artificial ha suplantat el més correcte utilitzat en la literatura científica, machine learning, l’ús mateix de la paraula intel·ligència és enganyós. Sens dubte, les màquines tenen una capacitat incommensurablement més gran que els humans per a emmagatzemar dades i correlacionar-les entre si, però correspon a l’home, i només a ell, desxifrar-ne el significat. No es tracta, doncs, d’exigir que les màquines semblin humanes, sinó més aviat de despertar l’home de la hipnosi en què ha caigut a causa del seu deliri d’omnipotència, creient-se un subjecte totalment autònom i autoreferencial, separat de qualsevol vincle social i aliè a la seva creaturalitat.

En realitat, l’home sempre ha experimentat que ell mateix no és suficient i intenta superar la seva vulnerabilitat servint-se de qualsevol mitjà. Començant pels primers artefactes prehistòrics, utilitzats com a prolongació dels braços, passant pels mitjans de comunicació emprats com a prolongació de la paraula, hem arribat avui a les màquines més sofisticades que actuen com una ajuda del pensament. Malgrat això, cadascuna d’aquestes realitats pot ser contaminada per la temptació original d’arribar a ser com Déu sense Déu (cf. Gn 3), és a dir, de voler conquerir amb les pròpies forces el que, en canvi, s’hauria d’acollir com un do de Déu i viure’s en la relació amb els altres.

Segons l’orientació del cor, tot el que és a les mans de l’home es converteix en oportunitat o perill. El seu propi cos, creat per a ser un lloc de comunicació i comunió, es pot convertir en un mitjà d’agressivitat. De la mateixa manera, qualsevol extensió tècnica de l’home pot ser un instrument de servei amorós o de dominació hostil. Els sistemes d’intel·ligència artificial poden contribuir al procés d’alliberament de la ignorància i facilitar l’intercanvi d’informació entre pobles i generacions diferents. Poden, per exemple, fer accessible i comprensible una enorme riquesa de coneixements escrits en èpoques passades o fer que les persones es comuniquin en llengües que no coneixen. Però també poden ser instruments de “contaminació cognitiva”, d’alteració de la realitat a través de narratives parcialment o totalment falses que s’entrecreuen —i es comparteixen— com si fossin veritables. Només cal pensar en el problema de la desinformació al qual ens enfrontem des de fa anys en forma de fake news3 i que avui se serveix de deep fakes, és a dir, de la creació i difusió d’imatges que semblen perfectament versemblants però que són falses (també jo n’he estat objecte), o de missatges d’àudio que utilitzen la veu d’una persona per dir coses que no ha dit mai. La simulació, que és a la base d’aquests programes, pot ser útil en alguns camps específics, però es converteix en perversa quan distorsiona la relació amb els altres i la realitat.

Ja des de la primera onada de la intel·ligència artificial, la dels mitjans de comunicació socials, hem entès la seva ambivalència veient-ho amb els nostres ulls, adonant-nos tant de les seves oportunitats com dels seus riscos i patologies. El segon nivell d’intel·ligència artificial generativa marca un salt qualitatiu indiscutible. Per tant, és important tenir la capacitat d’entendre, comprendre i regular eines que en mans equivocades podrien obrir

Això no obstant, com en qualsevol àmbit humà, la reglamentació no és suficient.

Créixer en humanitat

Som cridats a créixer junts, en humanitat i com a humanitat. El repte que tenim davant nostre és fer un salt qualitatiu per estar a l’alçada d’una societat complexa, multiètnica, pluralista, multireligiosa i multicultural. Ens correspon qüestionar-nos sobre el desenvolupament teòric i l’ús pràctic d’aquests nous instruments de comunicació i de coneixement. Grans possibilitats de bé acompanyen el risc que tot es transformi en un càlcul abstracte que redueixi les persones a meres dades, el pensament, a un esquema, l’experiència, a un cas, el bé, al benefici, i sobretot que acabem negant la unicitat de cada persona i de la seva història, dissolent la concreció de la realitat en una sèrie de dades estadístiques.

La revolució digital pot fer-nos més lliures, però no si ens deixem atrapar pels fenòmens mediàtics coneguts avui amb l’expressió cambra de ressonància mediàtica. En aquests casos, en comptes d’augmentar el pluralisme de la informació, correm el risc de perdre’ns en un pantà anònim al servei dels interessos del mercat o del poder. És inacceptable que l’ús de la intel·ligència artificial condueixi a un pensament anònim, a un assemblador de dades no certificades, a una negligència col·lectiva de responsabilitat editorial. La representació de la realitat en dades massives, per molt funcional que sigui per a la gestió de les màquines, implica de fet una pèrdua substancial de la veritat de les coses, que obstaculitza la comunicació interpersonal i amenaça amb malmetre la nostra humanitat mateixa. La informació no es pot separar de la relació existencial: implica el cos, estar en la realitat; demana posar en relació no sols dades, sinó també experiències; exigeix el rostre, la mirada i la compassió més que l’intercanvi.

Penso en els reportatges de les guerres i en la “guerra paral·lela” que es fa mitjançant campanyes de desinformació. I penso en quants reporters resulten ferits o moren damunt el terreny per a permetre’ns veure el que han vist els seus ulls. Perquè només tocant el sofriment dels infants, de les dones i dels homes podem comprendre l’absurditat de les guerres.

L’ús de la intel·ligència artificial podrà contribuir positivament en el camp de la comunicació si no anul·la el paper del periodisme damunt el terreny, sinó al contrari, el recolzarà; es valorarà la professionalitat de la comunicació, responsabilitzant cada comunicador; es restituirà a cada ésser humà el paper de subjecte, amb capacitat crítica de la comunicació mateixa.

Interrogants per a l’avui i el demà

Per tant, sorgeixen espontàniament algunes preguntes: ¿com es pot protegir la professionalitat i la dignitat dels treballadors de l’àmbit de la comunicació i de la informació, juntament amb la dels usuaris d’arreu del món? Com podem garantir la interoperabilitat de les plataformes? ¿Com podem garantir que les empreses que desenvolupen plataformes digitals assumeixin les seves responsabilitats respecte a allò que difonen, de la qual cosa obtenen beneficis, de la mateixa manera que passa amb els editors dels mitjans de comunicació tradicionals? ¿Com es poden fer més transparents els criteris en els quals es fonamenten els algoritmes d’indexació i de desindexació, i dels motors de recerca, capaços de magnificar o menystenir persones i opinions, històries i cultures? Com es pot garantir la transparència dels processos d’informació? ¿Com es pot fer evident l’autoria dels escrits i la traçabilitat de les fonts, evitant el risc de l’anonimat? ¿Com es pot posar de manifest si una imatge o un vídeo retraten un esdeveniment o el simulen? Com es pot evitar que les fonts es redueixin a una, a un pensament únic elaborat algorítmicament? ¿I com es pot promoure, en canvi, un entorn que preservi el pluralisme i representi la complexitat de la realitat? Com es pot fer sostenible aquesta eina potent, costosa i d’alt consum energètic? Com podem fer-la accessible també als països en vies de desenvolupament?

A partir de les respostes a aquestes preguntes i d’altres entendrem si la intel·ligència artificial acabarà construint noves castes basades en el domini de la informació, generant noves formes d’explotació i desigualtat; o si, per contra, portarà més igualtat, promovent una informació correcta i una consciència més gran del canvi d’època que estem vivint, afavorint l’escolta de les múltiples necessitats de les persones i dels pobles, en un sistema d’informació articulat i pluralista. Per una banda es perfila l’espectre d’una nova esclavitud, per l’altra, una conquesta de la llibertat; per una banda, la possibilitat que alguns condicionin el pensament de tots, per l’altra, la possibilitat que tots participin en l’elaboració del pensament.

La resposta no està escrita, depèn de nosaltres. Correspon a l’home decidir si es converteix en aliment per als algoritmes o si en canvi alimenta el seu cor amb la llibertat, sense la qual no pot créixer en saviesa. Aquesta saviesa madura traient profit del temps i entenent les debilitats. Creix en l’aliança entre les generacions, entre els qui tenen memòria del passat i els qui tenen visió de futur. Només junts creix la capacitat de discernir, vigilar, veure les coses a partir del seu compliment. Per a no perdre la nostra humanitat, cerquem la Saviesa que és anterior a totes les coses (cf. Sir 1,4), la que passant a través dels cors purs prepara amics de Déu i profetes (cf. Sv 7,27). Això ens ajudarà també a orientar els sistemes d’intel·ligència artificial a una comunicació plenament humana.

Francesc

Roma, Sant Joan del Laterà, 24 de gener de 2024