SCJN da luz verde al uso de la Inteligencia Artificial para salvaguardar a menores de la violencia cibernética
La Suprema Corte de Justicia de la Nación (SCJN) está dando un paso trascendental en la protección de los derechos de la infancia en el entorno digital. En una decisión unánime, el Pleno de la Corte está validando la Ley de los Derechos de Niñas, Niños y Adolescentes de Zacatecas, que faculta a los estados a emplear la Inteligencia Artificial (IA) como herramienta para combatir la violencia cibernética y digital que afecta a los menores. Esta resolución marca un hito en la adaptación del marco legal a los desafíos que plantea la rápida evolución tecnológica.
¿Por qué es importante esta decisión?
La creciente exposición de los niños y adolescentes al mundo digital está generando nuevas formas de violencia y explotación. La IA, si bien ofrece oportunidades para el desarrollo y el aprendizaje, también puede ser utilizada con fines maliciosos. Ante esta realidad, la SCJN está reconociendo la necesidad de que los estados cuenten con herramientas legales para proteger a los menores de los riesgos asociados al uso de la IA.
Los argumentos de los ministros
Durante el debate, los ministros de la SCJN están expresando su preocupación por los peligros que la IA representa para la infancia. La ministra Margarita Ríos Farjat está señalando que la IA puede ser utilizada para generar y difundir material de explotación sexual infantil altamente realista, como los deepfakes, que pueden causar un daño psicológico irreparable en las víctimas. Además, está advirtiendo que los delincuentes pueden emplear la IA para manipular y engañar a los menores, facilitando su victimización.
«Por un lado, la Inteligencia Artificial puede ser utilizada para generar y difundir material de explotación sexual infantil altamente realista, como los llamados deepfakes, que pueden causar un daño profundo y duradero en las víctimas. Y, por otro lado, la Inteligencia Artificial puede ser empleada por delincuentes para manipular y engañar niños, niñas y adolescentes, facilitando su victimización», expresó la ministra Ríos Farjat.
Por su parte, la ministra Yasmín Esquivel Mossa está destacando el carácter dinámico de la tecnología digital y la necesidad de adaptar la legislación a su constante evolución. Está enfatizando que los niños y adolescentes son especialmente vulnerables a los engaños y manipulaciones en el entorno digital, debido a su falta de madurez y herramientas para distinguir entre lo real y lo artificial.
«No olvidemos la condición de vulnerabilidad en la que se encuentran las niñas, niños y adolescentes. Ellos no tienen la madurez ni las herramientas para distinguir entre lo que es real y lo que es generado artificialmente, y eso lo hace más susceptibles de engaños, manipulaciones e interacciones peligrosas», afirmó Esquivel Mossa.
La ministra Loretta Ortiz Ahlf está aportando datos alarmantes sobre el uso de Internet por parte de los menores en México. Está señalando que el 50% de los niños entre 6 y 11 años ya son usuarios de Internet, y que en el caso de los adolescentes de 12 a 17 años, esta cifra se eleva hasta el 80-94%. Además, está indicando que hasta el 25% de los adolescentes entre 12 y 17 años han sufrido alguna forma de ciberacoso o violencia cibernética.
«…no podemos olvidar que en nuestro país 50% de las niñas y niños entre 6 y 11 años ya son usuarios de Internet y en el caso de las adolescencias de 12 a 17 años, estas cifras son del 80 al 94%. Asimismo, según las encuestas nacionales, hasta el 25% de las y los adolescentes entre 12 y 17 años han sufrido alguna forma de ciberacoso o violencia cibernética, la cual ha ido aumentando a partir del confinamiento derivado de la pandemia por el Covid-19», puntualizó Ortiz Ahlf. Citando a la Oficina de Menores de la Policía en Francia, la ministra está agregando que la Inteligencia Artificial se está utilizando cada vez más para generar contenido extremo y violento relacionado con el abuso sexual infantil.
¿Qué implicaciones tiene esta validación?
La validación de la Ley de los Derechos de Niñas, Niños y Adolescentes de Zacatecas por parte de la SCJN está abriendo la puerta a que otros estados de la República Mexicana adopten medidas similares para proteger a la infancia de la violencia cibernética y digital. Esto podría traducirse en la creación de programas de prevención, la capacitación de funcionarios y la implementación de tecnologías de detección y eliminación de contenido dañino en línea.
El papel de los padres y educadores
Si bien la legislación es un componente fundamental, la protección de los menores en el entorno digital requiere de un esfuerzo conjunto entre padres, educadores y autoridades. Es crucial que los padres supervisen el uso que sus hijos hacen de Internet, que les enseñen a identificar los riesgos y a proteger su privacidad. Los educadores también deben desempeñar un papel activo en la promoción de un uso responsable y seguro de las tecnologías digitales.
Milenio está informando
Según Rubén Mosso, periodista de Grupo Milenio, la decisión de la SCJN se presenta como un avance significativo en la lucha contra la violencia infantil en línea, aunque aún queda mucho por hacer para garantizar la seguridad y el bienestar de los menores en el mundo digital.
- Fomentar la educación digital desde temprana edad.
- Promover la denuncia de contenidos ilícitos.
- Fortalecer la cooperación internacional para combatir la explotación sexual infantil en línea.
En conclusión, la validación de la ley por parte de la SCJN representa un paso importante hacia la protección de los derechos de la infancia en el entorno digital, reconociendo la necesidad de adaptar la legislación a los desafíos que plantea la Inteligencia Artificial. Sin embargo, la protección integral de los menores requiere de un esfuerzo coordinado entre todos los actores de la sociedad.
