El Parlament Europeu alerta de l’ús perillós de la IA per crear imatges de menors 

Els eurodiputats han alertat sobre el perill de la intel·ligència artificial (IA) per generar imatges sexualitzades de menors d’edat. Per això, i després d’un debat sobre l’impacte de la IA en el creixement d’aquest tipus de fotografies, ha advertit que fomenta l’abús i l’explotació sexual infantil en línia.

La vicepresidenta de la Comissió Europea, Henna Virkkunen, ha afirmat que els deep fakes, aquelles imatges o sons creats amb IA que repdrodueixen persones que no existeixen, “són una forma de violència digital amb conseqüències reals i duradores per a les víctimes”. La viceministra xipriota Marilena Raouna ha subratllat l’AI Act com un “instrument potent” per fer front a la divulgació d’imatges falses no consentides. A més, ha afegit que “les grans plataformes tenen una responsabilitat especial i han d’actuar ràpidament quan apareix contingut il·legal en les seves bases”.

La UE actualitzarà la directiva que tracta l’explotació sexual de menors per incloure-hi imatges generades amb IA

La Comissió Europea ha posat el focus en el fet que la UE està actualitzant la directiva sobre abús i explotació sexual de menors per incloure, de forma explícita, les imatges generades amb IA i nous delictes, com l’assetjament en línia i els abusos que es retransmeten en directe.

L’AI Act és la primera llei integral d’intel·ligència artificial del món, es va aprovar per la Unió Europea l’any 2025 i defineix normes per desenvolupar i usar sistemes d’IA a Europa. Així, pretén protegir els drets fonamentals i garantir que siguin segurs, transparents i ètics. Aquesta norma s’aplica des del mes d’agost de 2025.

Europa vol reforçar la Llei de Ciberseguretat per limitar proveïdors d’alt risc com Huawei