CN COLIMANOTICIAS
La agencia de las Naciones Unidas para la infancia, UNICEF, pidió a los países que penalicen la creación de contenidos de abuso sexual infantil generados por inteligencia artificial (IA), afirmando que le alarmaban los informes sobre el aumento del número de imágenes creadas con IA que sexualizan a los niños.
La agencia también instó a los desarrolladores a implementar enfoques de seguridad desde el diseño y medidas de protección para evitar el uso indebido de los modelos de IA. UNICEF dijo que las empresas digitales deben impedir la circulación de estas imágenes reforzando la moderación de contenidos con inversiones en tecnologías de detección.
“El daño causado por el abuso de los deepfake es real y urgente. Los niños no pueden esperar a que la ley se ponga al día”, dijo UNICEF en un comunicado. Los deepfake son imágenes, vídeos y audios generados por IA que imitan de forma convincente a personas reales.
UNICEF también expresó su preocupación por el uso de la IA para quitar o alterar la ropa en las fotos con el fin de crear imágenes falsas de desnudos o sexualizadas.
Según UNICEF, al menos 1,2 millones de niños de 11 países revelaron que sus imágenes habían sido manipuladas para crear deepfake sexualmente explícitos durante el último año.