La IA avança més de pressa que la capacitat d’entendre’n els riscos

Ejemplo de shortcode con estilo
Elena del Val alerta que l’expansió de la IA generativa supera l’alfabetització necessària per a comprendre’n els riscos. També assenyala perills per a la privacitat i la desinformació.

L’experta en intel·ligència artificial Elena del Val ha advertit el 14 de novembre que l’adopció de la IA ha anat molt més de pressa que l’alfabetització necessària per a entendre’n els riscos. La professora de la Escuela Técnica Superior de Ingeniería Informática de la Universitat Politècnica de València ha explicat que no és «por falta de interés», sinó perquè «la adopción ha ido mucho más rápido que la alfabetización».

Per primera vegada, segons Del Val, els adolescents no van per davant dels adults en el coneixement de la IA. Els pares i les mares també estan descobrint estes ferramentes, cosa que dificulta acompanyar els fills en l’ús.

Els avantatges i els riscos de la IA

Del Val destaca que la IA pot ajudar a explicar, resumir i traduir. També pot acompanyar l’aprenentatge i facilitar tasques. Però les converses amb els xatbots poden revelar dades personals innecessàries.

A diferència de les xarxes socials, on el risc està en allò que es publica, els xatbots obtenen informació durant converses privades. Poden fer preguntes, mostrar empatia i deduir dades que l’usuari no ha compartit explícitament.

La IA generativa també ha abaratit la creació de contingut fals creïble. Ara es poden produir imatges, veus i vídeos en minuts, sense els mitjans professionals que abans calien. Del Val alerta d’un altre perill menys visible: les dades personals que es confien a un xatbot i el destí que tenen després. «Ese riesgo no deja huella», ha avisat.

Una investigació en curs amb adolescents de 10 a 16 anys d’Espanya, Alemanya i el Regne Unit ha observat una relació entre compartir més informació i preocupar-se menys per la privacitat. Segons la investigadora, això passa «no porque estén más seguros, sino porque el riesgo no se ve».

Un experiment publicat en USENIX Security també ha mostrat la capacitat de persuasió dels xatbots. Un formulari obtenia dades personals del 24 % de les persones. En canvi, un xatbot dissenyat per a aconseguir-les superava el 90 %. Amb una estratègia empàtica, obtenia dades reals sense despertar sospites.

Com poden influir en les decisions

Sobre l’ús de la IA per a crear missatges polítics manipulats, Del Val considera que esta tecnologia actua com un amplificador. Fa més fàcil produir continguts personalitzats i creïbles. Després, les xarxes socials els poden multiplicar, perquè el seu disseny premia les reaccions.

La professora no creu que la societat estiga condemnada a conviure amb estos continguts sense poder fer-hi res. També alerta del risc de delegar tasques i decisions sense revisar els resultats. La IA pot ajudar a pensar si s’utilitza per a contrastar informació o entendre altres perspectives. En canvi, pot perjudicar el pensament crític si s’empra per a deixar de pensar.

Del Val considera que l’ús dels xatbots com a confidents o psicòlegs mereix una atenció especial. Molts adolescents parlen amb estes ferramentes sobre els seus sentiments abans que amb la família o les amistats.

La investigadora assenyala dos problemes: un xatbot no és un professional i pot fallar en moments crítics. A més, els adolescents poden compartir informació íntima amb una empresa, no amb una persona subjecta al secret professional.

Últimes notícies

Alacant reclama inversions i destaca les ajudes a la innovació

Juanfran Pérez Llorca ha destacat les ajudes a la innovació i ha reclamat més inversions i infraestructures per a Alacant.

El PP promet garantir l’aigua i invertir 40.000 milions a Alacant

Cayetana Álvarez de Toledo ha defensat a Elx que un govern del PP garantiria l’aigua. També ha anunciat una inversió de 40.000 milions d’euros en infraestructures i regadius.

Ford Almussafes pararà la producció de vehicles el 7 de desembre i del 17 fins a final d’any

La fàbrica d’Almussafes aturarà la producció de vehicles el 7 de desembre i del 17 al 31. El 16 serà l’últim dia de producció de l’any.

Alumnes d’Infantil del CEIP El Saler canvien d’espai per una plaga

Part de l’alumnat d’Infantil del CEIP El Saler ha sigut reubicat mentre s’apliquen tractaments contra rosegadors i paneroles. Dimecres hi haurà una nova inspecció.

Kiko Berenguer reclama més jazz estable per a fidelitzar el públic

Kiko Berenguer demana que el jazz tinga més presència durant tot l’any. El músic ha actuat a Ceuta en el XXXII Festival de Jazz Ciudad de Ceuta.

Cinc detinguts a Castelló per l’agressió a quatre policies

Cinc persones han sigut detingudes a Castelló pels incidents de la vaga general de l’11 de novembre. Quatre policies van resultar ferits i la investigació continua oberta.

Tres alcaldes valencians, citats com a testimonis per la dana

Els alcaldes de Guadassuar, Sot de Xera i Montserrat declararan com a testimonis al gener de 2027 dins de la causa penal per la gestió de la dana.

Boluda creu que l’operació d’entrada de Marsa Maroc s’utilitza políticament

Vicente Boluda afirma que l’entrada de Marsa Maroc en la seua terminal s’està utilitzant políticament. L’operació, anunciada al desembre de 2025, continua pendent d’autorització.