Un equip investigador de la Universitat Politècnica de València (UPV) ha desenvolupat un sistema d’intel·ligència artificial que ajuda a identificar continguts i missatges sexistes en vídeos i mems de TikTok, fins i tot quan apareixen disfressats d’humor o ironia.
El sistema combina l’anàlisi del contingut audiovisual amb dades sobre l’activitat cerebral, el moviment dels ulls i el ritme cardíac de les persones que miren els vídeos. Segons ha explicat la UPV, esta integració permet una detecció més precisa del sexisme que els mètodes que només analitzen text i imatge.
Sexisme camuflat en humor i estereotips
‘Moltes vegades, tant en els mems com en els vídeos de TikTok, hi ha continguts en què el sexisme apareix camuflat mitjançant l’humor, la ironia, els estereotips o comentaris aparentment inofensius’, ha destacat Iván Arcos, investigador del grup PRHLT.
Arcos ha indicat que, per a interpretar correctament un vídeo, cal tindre en compte alhora el llenguatge, els textos que apareixen en pantalla, les imatges, els gestos i el context. ‘El nostre sistema ajuda a detectar i denunciar estos continguts sexistes de manera més eficaç que els sistemes utilitzats actualment’, ha apuntat.
Per a desenvolupar el model, l’equip ha analitzat uns 4.000 mems i uns 2.500 vídeos de TikTok en castellà i anglés. Tots ells procedixen dels conjunts de dades d’EXIST, una competició internacional sobre detecció de sexisme en xarxes socials, la qual cosa assegura una col·lecció variada de casos i exemples.
En l’estudi amb vídeos van participar deu persones, i en el de mems, setze. Estes persones visualitzaren els continguts mentres s’enregistraven les seues respostes mitjançant seguiment ocular, electroencefalografia (EEG) i mesura del ritme cardíac, ha explicat Paolo Rosso, catedràtic del Departament de Sistemes Informàtics i Computació i membre de ValgrAI (Valencian Graduate School and Research Network of Artificial Intelligence).
Què passa quan mirem contingut sexista
Els resultats de l’estudi mostren que les reaccions davant continguts sexistes i no sexistes han sigut clarament diferents. Els vídeos sexistes han generat, entre altres efectes, majors temps de reacció i un increment de les fixacions de la mirada, junt amb canvis en determinats patrons d’activitat cerebral.
En concret, el nombre mitjà de fixacions de la mirada ha augmentat en els vídeos que mostren o jutgen situacions sexistes. A més, els moviments ràpids dels ulls d’un punt a un altre i els parpellejos han seguit la mateixa tendència. El ritme cardíac també ha presentat fluctuacions més grans davant estos vídeos.
En el cas dels mems, el patró observat ha sigut molt semblant. ‘La resposta també variava segons el tipus de sexisme. L’estudi distingix, per exemple, entre sexisme directe i continguts que mostren o jutgen situacions sexistes, la interpretació correcta dels quals exigix comprendre millor la intenció i el context del missatge’, ha indicat Arcos.
Segons els investigadors, estes diferències en la mirada reflectixen una major càrrega cognitiva. Com més difícil és interpretar un contingut, més es deté i es desplaça la mirada, perquè l’espectador explora la pantalla buscant pistes, com el text, els gestos o el context, abans de decidir què significa allò que veu.
Pel que fa a l’activitat elèctrica del cervell, també s’han detectat diferències entre els vídeos de sexisme directe, els que mostren o jutgen situacions sexistes i els que presenten violència sexual. Açò indica que cada tipus de contingut provoca patrons cerebrals diferents, relacionats amb la manera com la persona processa el missatge.
Més precisió en la detecció de sexisme
A partir d’estes diferències físiques i cognitives, l’equip de la UPV ha construït el model d’intel·ligència artificial. El sistema combina les senyals fisiològiques registrades amb la informació textual i visual extreta dels vídeos, per a millorar la classificació de cada peça com a sexista o no sexista i, si cal, del tipus de sexisme.
Este treball s’ha presentat recentment en el XLII Congrés Internacional de la Sociedad Española de Procesamiento del Lenguaje Natural. La presentació en un fòrum científic especialitzat permet compartir la metodologia i obrir la porta a aplicacions futures en plataformes digitals.
‘Davant el sistema basat únicament en text i imatges, la incorporació de les respostes fisiològiques ha millorat aproximadament un 4 % la detecció de si un vídeo era sexista o no, i més d’un 6 % la diferenciació entre sexisme directe i valoratiu, així com la classificació de les diferents categories de sexisme’, ha afirmat Paolo Rosso.
Segons Rosso, les principals millores s’han donat precisament en els casos més difícils, ‘quan cal interpretar la intenció del missatge o distingir les categories més ambigües, com la cosificació o la desigualtat ideològica’.
En el cas dels mems, l’increment de precisió ha sigut encara més elevat. En la categoria considerada més complicada d’identificar, la de misogínia i violència no sexual, la millora ha arribat al 26,3 %, cosa que mostra el potencial d’esta combinació de dades per a detectar formes subtils de sexisme.
