L’experta en intel·ligència artificial Elena del Val ha advertit el 14 de novembre que l’adopció de la IA ha anat molt més de pressa que l’alfabetització necessària per a entendre’n els riscos. La professora de la Escuela Técnica Superior de Ingeniería Informática de la Universitat Politècnica de València ha explicat que no és «por falta de interés», sinó perquè «la adopción ha ido mucho más rápido que la alfabetización».
Per primera vegada, segons Del Val, els adolescents no van per davant dels adults en el coneixement de la IA. Els pares i les mares també estan descobrint estes ferramentes, cosa que dificulta acompanyar els fills en l’ús.
Els avantatges i els riscos de la IA
Del Val destaca que la IA pot ajudar a explicar, resumir i traduir. També pot acompanyar l’aprenentatge i facilitar tasques. Però les converses amb els xatbots poden revelar dades personals innecessàries.
A diferència de les xarxes socials, on el risc està en allò que es publica, els xatbots obtenen informació durant converses privades. Poden fer preguntes, mostrar empatia i deduir dades que l’usuari no ha compartit explícitament.
La IA generativa també ha abaratit la creació de contingut fals creïble. Ara es poden produir imatges, veus i vídeos en minuts, sense els mitjans professionals que abans calien. Del Val alerta d’un altre perill menys visible: les dades personals que es confien a un xatbot i el destí que tenen després. «Ese riesgo no deja huella», ha avisat.
Una investigació en curs amb adolescents de 10 a 16 anys d’Espanya, Alemanya i el Regne Unit ha observat una relació entre compartir més informació i preocupar-se menys per la privacitat. Segons la investigadora, això passa «no porque estén más seguros, sino porque el riesgo no se ve».
Un experiment publicat en USENIX Security també ha mostrat la capacitat de persuasió dels xatbots. Un formulari obtenia dades personals del 24 % de les persones. En canvi, un xatbot dissenyat per a aconseguir-les superava el 90 %. Amb una estratègia empàtica, obtenia dades reals sense despertar sospites.
Com poden influir en les decisions
Sobre l’ús de la IA per a crear missatges polítics manipulats, Del Val considera que esta tecnologia actua com un amplificador. Fa més fàcil produir continguts personalitzats i creïbles. Després, les xarxes socials els poden multiplicar, perquè el seu disseny premia les reaccions.
La professora no creu que la societat estiga condemnada a conviure amb estos continguts sense poder fer-hi res. També alerta del risc de delegar tasques i decisions sense revisar els resultats. La IA pot ajudar a pensar si s’utilitza per a contrastar informació o entendre altres perspectives. En canvi, pot perjudicar el pensament crític si s’empra per a deixar de pensar.
Del Val considera que l’ús dels xatbots com a confidents o psicòlegs mereix una atenció especial. Molts adolescents parlen amb estes ferramentes sobre els seus sentiments abans que amb la família o les amistats.
La investigadora assenyala dos problemes: un xatbot no és un professional i pot fallar en moments crítics. A més, els adolescents poden compartir informació íntima amb una empresa, no amb una persona subjecta al secret professional.





