Estudiante de escuela de Nueva Jersey es acusado de crear fotos de desnudos de 34 de sus compaeras

May 2024 · 3 minute read

Informes dieron a conocer que los estudiantes masculinos de Westfield High School, Nueva Jersey, hicieron uso de la Inteligencia Artificial para producir imágenes de desnudos de 34 alumnas usando sus fotos originales que publicaron durante el verano.

Antes del 20 de octubre, la estudiante de Westfield, Francesca Mani, de 14 años, no imaginó que su foto aparecería en línea en una imagen de IA falsa.

“Nunca pensé que sería como un estudiante, la IA ni siquiera me vino a la mente. Simplemente, pensé que sería como un monstruo en Internet“, dijo Mani.

Uno de los adolescentes le contó a una de las chicas y al día siguiente le comentó a las demás.

Mani no sabía qué hacer en ese momento, así que fue a la oficina de la directora de su escuela.

La directora Mary Asfendis declaró que cree que todas las imágenes creadas con la IA fueron eliminadas y ya no están circulando en internet.

Actualmente, una semana y media después, el menor que presuntamente hizo las imágenes fue suspendido temporalmente por unos días, pero ya regresó de su “castigo”.

Mani descubrió que no se trataba de un solo joven, sino de un grupo de adolescentes que usan más de una docena de imágenes de niñas para producir fotos pornográficas con la IA.

“Todas las demás chicas están de acuerdo conmigo, no lo quieren en esta escuela. Están muy asustadas“, expresó Mani.

Es un hecho tan preocupante que la madre de la niña entrevistada nunca imaginó que algo así le pasaría a su hija.

La madre ahora reclama un cambio en la política escolar y para que niño responsable de generar las imágenes sea expulsado de la escuela.

“No creo que mi hija, las otras víctimas y las niñas de Westfield High School deban ser castigadas con otros dos años y medio de él en el aula”, dijo Dorota, la madre de Mani.

US: At least 34 girls at Westfield High School in New Jersey were targeted by a boy or group of boys who created AI deepfake pornography of them.

Student Francesca Mani, 14, and her mother, Dorota, have expressed frustration over what they say is a lack of legal recourse in… pic.twitter.com/3HthY5NoQw

— Genevieve Gluck (@WomenReadWomen) November 5, 2023

El desafío con esta tecnología es que cuando crea un deepfake tuyo, porque en realidad no eres tú, tu privacidad no está siendo violada realmente, aunque tu imagen ha sido intercambiada y cambiada y se adjunta otra imagen a la tuya para crear estas situaciones muy traumáticas“, manifestó la especialista en ética de IA de datos Renee Cummings.

El superintendente de las escuelas públicas de Westfield, envió a FOX 5 NY un comunicado que decía:

“Todos los distritos escolares están lidiando con los desafíos y el impacto de la inteligencia artificial y otras tecnologías disponibles para los estudiantes en cualquier momento y en cualquier lugar.”

“El Distrito de Escuelas Públicas de Westfield cuenta con medidas de seguridad para evitar que esto suceda en nuestra red y en los dispositivos proporcionados por la escuela.”

Continuaremos fortaleciendo nuestros esfuerzos educando a nuestros estudiantes y estableciendo pautas claras para garantizar que estas nuevas tecnologías se utilicen de manera responsable en nuestras escuelas y más allá”.

Las pesquisas sobre el caso siguen en curso.

Sigue leyendo:

ncG1vNJzZmidnJm2or7IqKWyZpOkunB%2Bj2tqaGlhZH12e8Ssq66cmZa7tbGMnZxmnaOYwqa4wGabnmWeqrK3rYyjnKurla56pr%2BMmpquq5GZvG6wxGaaq52Rp3qnu9OoqmaclWKxpr%2FNrpuoq12Zsm5%2Fk2abnmWjqsBur86mp5qmlaeutHnCqKVmoZFk