Montserrat Rigall: “Em preocupa com s'utilitzen els continguts generats amb IA per explotar les vulnerabilitats de les persones”

Com és el dia a dia d’una persona que es dedica al fact-checking?

L'equip de VerificaRTVE som un grup de 10 professionals especialitzats a verificar i, per això, la nostra jornada laboral passa per investigar afirmacions, imatges i vídeos que ens consulten els ciutadans a través del whatsapp o del correu, i d'allò que circula per les xarxes, es viralitza i que pot induir a error. La feina consisteix a rastrejar-ne l’origen, contrastar les fonts i reconstruir el context per determinar què podem demostrar. Avui no n’hi ha prou amb preguntar-se si una imatge és real. També cal saber quan es va enregistrar, on, qui la difon i quina afirmació pretén sostenir. La versemblança no és una prova de veracitat.

Quins àmbits temàtics concentren actualment més verificacions?

La desinformació afecta la política, la immigració, la salut i el consum, entre molts altres àmbits. Em preocupa especialment com s'utilitzen els continguts generats amb IA per explotar la confiança i les vulnerabilitats de les persones. Hi ha perfils de dones fictícies que promocionen mètodes miraculosos per aprimar-se, continguts que reforcen cànons de bellesa irreals i una hipersexualització que pot normalitzar models corporals inassolibles. Son desinformacions que posen en perill la ciutadania i les malalties mentals relacionades amb els TCA creixen, sobretot, entre l'adolescència. També hi ha falsos metges que semblen avalar tractaments que mai no han recomanat i falses ofertes de feina que suplanten empreses per obtenir diners o dades personals.

El problema, des del meu punt de vista, no és només tecnològic, sinó les conseqüències de l’engany que hi ha al darrere. Es fabriquen identitats i testimonis per aconseguir que algú compri, confiï o prengui una decisió perjudicial.

La IA està fent més difícil detectar la desinformació?

Sí. Les eines generatives permeten crear imatges, vídeos i veus cada vegada més convincents, però el canvi més important és que també poden fabricar una aparença d’autoritat i credibilitat. Això no significa que tot contingut fals s’hagi generat amb IA ni que tot contingut sintètic sigui fals. Una imatge real també pot desinformar si es publica fora de context. Ho hem vist recentment amb les imatges de la Maricarmen a peu dret celebrant una victòria que pertanyien a un any enrere i, en canvi, es publicava com si fos recent i se l'acusava de ser una farsant.

També ho veiem en vídeos sobre Ceuta que es presenten com a actuals quan corresponen a un altre moment o lloc, o en imatges generades artificialment que s’atribueixen a situacions reals. Per verificar-les, cal comprovar-ne la procedència, la data, la localització i les afirmacions associades. No n’hi ha prou amb detectar si un contingut és artificial; cal verificar què explica i si les evidències sostenen el que afirma.

“La nostra responsabilitat no és jutjar les idees, sinó verificar les afirmacions”

Amb les eleccions generals a tocar, espereu un augment de la feina de verificació?

Les campanyes electorals són períodes especialment sensibles per la circulació de declaracions, imatges i missatges que poden condicionar l’opinió pública. És raonable preparar-se per a més necessitats de verificació, encara que no podem anticipar-ne la magnitud. La IA facilita la producció massiva de continguts i la suplantació de candidats, institucions o mitjans de comunicació. També es poden reutilitzar imatges autèntiques fora de context per reforçar determinades narratives. Davant d’això, cal monitorar les xarxes, prioritzar els continguts amb més impacte potencial i contrastar les evidències abans de publicar. La rapidesa és important, però una verificació precipitada també pot amplificar l’engany.

Sovint s’associa la desinformació amb l’extrema dreta. Es correspon amb el que detecteu els professionals?

La desinformació no és patrimoni exclusiu de cap ideologia. Pot servir interessos polítics, econòmics o personals molt diversos. Això no implica que tots els actors tinguin la mateixa incidència, sinó que cal analitzar cada cas amb evidències. En qüestions com la immigració, per exemple, un vídeo antic o enregistrat en un altre lloc es pot presentar com una situació actual per alimentar una narrativa política. En el cas de Ceuta, és essencial comprovar si les imatges corresponen realment al lloc i al moment que s’hi atribueixen. La nostra responsabilitat no és jutjar les idees, sinó verificar les afirmacions. La mateixa exigència de rigor s’ha d’aplicar independentment de qui difon el contingut.

A VerificaRTVE hem investigat l'origen de la campanya de desinformació sobre els fets ocorreguts a Torre Pacheco el juliol de 2025 i vam poder comprovar que la narrativa que associava immigració i criminalitat provenia d'una bombolla ideològica d'extrema dreta.

“Els mitjans locals poden marcar la diferència anant a les fonts originals, contrastant les dades i explicant què se sap i què no es pot confirmar”

Seràs ponent al Dia de la Premsa Comarcal 2026. Què t’agradaria explicar als mitjans locals i comarcals del país?

M’agradaria explicar com la IA pot ajudar els periodistes de la premsa comarcal a investigar i verificar informació, però també quins riscos comporta utilitzar-la sense criteri. Pot facilitar transcripcions, traduccions i anàlisis de continguts, pot respondre'ns correus, buscar-nos documentació, però pot generar resultats falsos. Dit això, que és prou reiteratiu, crec que els mitjans locals tenen un avantatge important: coneixen el territori i disposen de contactes i fonts de proximitat. Aquesta capacitat de contrast és especialment valuosa davant dels continguts virals. El repte és incorporar les eines noves sense renunciar als fonaments del periodisme local: contrastar, contextualitzar i assumir la responsabilitat sobre allò que publiquem. La IA ha de potenciar les capacitats del periodista, no substituir-lo.

Com impacte la desinformació en l’àmbit local?

Pot afectar directament la reputació d’un negoci, d’un professional o d’una institució. En el turisme de proximitat, per exemple, una oferta d’allotjament inexistent pot fer perdre diners a una cadena hotelera familiar, mentre que una imatge antiga d’una platja presentada com a actual pot perjudicar la percepció d’una destinació. Els continguts també circulen per grups de missatgeria i xarxes de proximitat. El fet que ens els enviï algú conegut del teu poble, o del municipi veí de la comarca, no els converteix en fiables. Els mitjans locals poden marcar la diferència anant a les fonts originals, contrastant les dades i explicant què se sap i què no es pot confirmar. No es tracta només de desmentir falsedats, sinó de donar eines a la ciutadania perquè desenvolupi criteri propi.

En un món en què podem fabricar continguts, identitats i testimonis, la confiança s’ha de guanyar amb evidències.