Un caso que evidencia los riesgos del uso de la inteligencia artificial en menores ha generado conmoción en Estados Unidos. Dos adolescentes crearon más de 350 imágenes falsas de desnudos de sus compañeras de clase utilizando tecnología de deepfake, lo que derivó en un proceso judicial y graves consecuencias emocionales para las víctimas.
El hecho ocurrió entre 2023 y 2024 en la Lancaster Country Day School, en Pensilvania, y afectó al menos a 59 estudiantes menores de edad. Según las autoridades, los implicados, que tenían 14 años al momento de los hechos, utilizaron fotografías obtenidas de redes sociales, anuarios escolares y videollamadas para manipularlas con inteligencia artificial.
Las imágenes fueron alteradas para simular desnudos y contenido sexual, lo que provocó una rápida difusión dentro del entorno escolar.
Impacto en las víctimas
Durante el juicio, varias estudiantes relataron el impacto psicológico que les dejó el caso. Algunas aseguraron sufrir ansiedad, ataques de pánico y temor constante a que las imágenes vuelvan a circular.
“Destruyeron mi inocencia”, expresó una de las víctimas ante el tribunal.
Otras afectadas incluso abandonaron la escuela y requirieron terapia para enfrentar el trauma generado por la exposición de estas imágenes manipuladas.
Consecuencias legales
A pesar de la gravedad del caso, los adolescentes evitaron una condena de cárcel debido a su condición de menores de edad. Sin embargo, el juez Leonard Brown advirtió que, de haber sido adultos, habrían enfrentado prisión.
Como parte de la sentencia, los jóvenes deberán cumplir 60 horas de servicio comunitario, pagar una indemnización y no podrán tener contacto con las víctimas. Además, el caso podría ser archivado en dos años si no reinciden.
El magistrado también cuestionó la falta de responsabilidad de los implicados, quienes no ofrecieron disculpas durante el proceso.
Un caso que alerta sobre la IA
Este caso ha reabierto el debate sobre el uso de la inteligencia artificial, especialmente en entornos escolares, donde su mal uso puede tener consecuencias legales y emocionales severas.
Abogados de las víctimas ya analizan posibles acciones legales adicionales contra la institución educativa y otros actores involucrados en la difusión del contenido.
El caso deja en evidencia cómo el avance tecnológico, sin control ni educación digital adecuada, puede convertirse en una herramienta de daño, especialmente entre menores de edad.