SCJN valida que se proteja a niños y adolescentes de la violencia cibernética cometida con inteligencia artificial

El pleno de la Suprema Corte de Justicia de la Nación (SCJN) validó que se proteja a los niños, niñas y adolescentes de la violencia cibernética, incluyendo la generada con el mal uso de la inteligencia artificial.

Los ministros aprobaron por unanimidad el proyecto de la ministra Margarita Ríos Farjat que resolvió una acción de inconstitucionalidad promovida por la Presidencia en contra de un artículo de la Ley de los derechos de niñas, niños y adolescentes de Zacatecas.

Dicha ley establece como uno de los derechos de niños, niñas y adolescentes el de tener una "vida libre de violencia cibernética, digital, así como todas aquellas mediante el uso de inteligencia artificial".

El Ejecutivo federal planteó que esa regulación vulnera la seguridad jurídica al no tener una definición del término "inteligencia artificial", lo cual fue considerado como infundado por la ministra ponente.

La ministra Ríos Farjat aseguró que en los últimos años ha aumentado el uso de la tecnología por parte de niños, niñas y adolescentes, y eso los ha expuesto a diversos formas de violencia en línea, como ciberacoso, explotación sexual, exposición a contenido inapropiado y vulneración a su privacidad.

"La inteligencia artificial presenta riesgos específicos y potencialmente graves. Por un lado puede ser utilizada para generar y difundir material de explotación sexual infantil altamente realista; y por otro lado, puede ser empleada por delincuentes para manipular y engañar", dijo la ministra.

Por su parte, el ministro Juan Luis González Alcántara Carrancá anunció durante su intervención que votaría a favor del proyecto, pero que los términos usados en las leyes deben incluir una definición.

"Mi posicionamiento en el presente asunto no implica que en todos los casos la ausencia de una definición sea constitucionalmente válida", precisó el ministro.

La ministra Yasmín Esquivel señaló que los niños, niñas y adolescentes son susceptibles de caer en engaños, pues están en una situación de vulnerabilidad ante la divulgación de imágenes sexualizadas generadas con inteligencia artificial.

"Ellos no tienen la madurez ni las herramientas para distinguir entre lo que es real y lo que es generado artificialmente", dijo.

En febrero pasado, la SCJN también validó que en el Código Penal de Sinaloa se incluya como delito la manipulación de contenido audiovisual con inteligencia artificial paragenerar contenido de índole sexual.

Con información de: LatinUs.