La Guàrdia Civil de València ha posat sota investigació a un jove de 17 anys per distribuir imatges modificades amb Intel·ligència Artificial (IA) en les quals apareixien nues companyes del seu institut. Estes imatges i vídeos van ser difosos en xarxes socials i una pàgina web amb intenció de vendre el contingut.
La investigació va començar al desembre de 2024 després de la denúncia d’una menor que va descobrir comptes falsos creats al seu nom en diverses xarxes socials, on es compartien vídeos i fotos retocades mitjançant IA per a mostrar nus. Posteriorment, altres 15 menors van denunciar situacions similars, confirmant l’abast del cas.
Les autoritats van entrevistar les afectades i, mitjançant anàlisis tècniques, van vincular els comptes falsos i la pàgina web a un mateix usuari. Es va identificar que les adreces IP i correus electrònics usats per a la creació d’estos perfils pertanyien al domicili d’un company d’institut de les víctimes a la comarca valenciana de la Ribera Alta.
Investigació i procés judicial
Esta operació realitzada per l’Equip @ de la Guàrdia Civil de Sueca ha derivat en la investigació del menor pel delicte de corrupció de menors. Les diligències han sigut entregades al Jutjat de Menors número 1 de València per a continuar amb el procés judicial.
Desafiaments legals i ètics
La difusió i manipulació d’imatges mitjançant intel·ligència artificial planteja importants desafiaments legals i ètics, especialment quan involucra a menors d’edat i l’ús de tecnologies per a danyar la reputació i privacitat de les víctimes.
Alertes sobre la necessitat de regulació
Les autoritats i experts en ciberseguretat alerten sobre la necessitat de supervisar i regular l’ús d’IA en la modificació d’imatges per a protegir els usuaris, especialment jóvens, d’esta mena de delictes que poden implicar greus conseqüències personals i legals.
