Estas iniciativas son necesarias en un contexto donde el aumento de prácticas de este tipo ha superado la capacidad de respuesta de las instituciones educativas. Un informe de la Defensoría del Pueblo de la Ciudad de Buenos Aires, basado en una muestra de 912 estudiantes de entre 12 y 19 años, reveló que el 13% de los encuestados tiene conocimiento de casos de deepfakes en su entorno escolar, mientras que el 43% aseguró haber recibido imágenes o videos alterados mediante IA.
Las denuncias por la difusión de imágenes generadas por IA en instituciones educativas han aumentado de cuatro en 2023 a nueve en 2025, según datos de la Unidad Fiscal Especializada en Delitos y Contravenciones Informáticas (Ufedyci) de la Ciudad.
El incidente en Lomas de Zamora, que dio lugar a una manifestación frente al colegio y a la apertura de un proceso judicial, es solo uno de varios. Episodios similares han ocurrido también en el Colegio Nacional de Buenos Aires y la Escuela Superior de Comercio Carlos Pellegrini, ambos pertenecientes a la Universidad de Buenos Aires (UBA), donde alrededor de 50 estudiantes de entre 13 y 14 años fueron denunciados en julio por crear y vender imágenes manipuladas con IA de sus compañeras.
Mendoza expresó claramente: “La violencia digital existe en nuestras escuelas y necesitamos una respuesta política a la altura de este problema”.
La Ley EMA lleva el nombre de Ema Bondaruk, una adolescente que se quitó la vida el 24 de agosto de 2024, tras la difusión sin su consentimiento de imágenes íntimas en su colegio. Este proyecto fue trabajado en conjunto con Laura Sánchez, madre de Ema, y recibió el apoyo de organizaciones como Faro Digital y Ley Olimpia Argentina. Logró media sanción en la Cámara de Diputados bonaerense a fines de agosto de 2026 y fue aprobado con modificaciones por el Senado en octubre, por lo que ahora requiere volver a la cámara de origen para su aprobación final.
El texto define la violencia digital como “toda acción, omisión o conducta cometida, instigada o agravada mediante el uso de las Tecnologías de la Información y la Comunicación (TIC) que cause daño físico, psicológico, sexual, económico, patrimonial o moral”. Se contempla específicamente la obtención, reproducción, comercialización y difusión sin consentimiento de material íntimo “real o editado, producido con inteligencia artificial u otras tecnologías digitales”, así como la producción o distribución de material relacionado con abuso sexual infantil generado con IA. Igualmente, se incluyen discursos de odio misóginos y patrones sexistas en espacios virtuales.
En términos operativos, el proyecto exige a la Dirección General de Cultura y Educación (DGCyE) incluir en todos los niveles educativos contenidos sobre consentimiento, privacidad, derechos digitales y la identificación de conductas de riesgo como el grooming y la sextorsión, así como el uso ético de la IA. También se requiere la actualización de la “Guía de Orientación para la Intervención en Situaciones Conflictivas” con protocolos específicos para violencia digital, garantizando la protección de las víctimas y el acompañamiento de los Equipos de Orientación Escolar (EOE). La capacitación en la prevención de violencias digitales será obligatoria y continua para el personal educativo.
Por otro lado, la Ley de EDI tiene como objetivo transformar la forma en que el sistema educativo provincial aborda la tecnología. Buscando asegurar que todos los estudiantes, tanto de gestión estatal como privada, adquieran conocimientos pedagógicos “sistemáticos, progresivos, transversales y adecuados a cada etapa de su desarrollo” en el ámbito digital, se reconoce este derecho como “un bien público y un derecho personal, social e inalienable”.
Entre sus propósitos, la normativa promueve la crítica del funcionamiento de plataformas y sistemas de IA, el perfilado de usuarios y los modelos de negocio basados en el tratamiento masivo de datos. También se enfoca en proteger la privacidad y la identidad digital, promoviendo el uso responsable de la IA bajo principios de transparencia, explicabilidad y no discriminación. La soberanía tecnológica es otro de sus ejes, con énfasis en reducir las brechas digitales.
La EDI estipula que estos contenidos se incorporen de manera obligatoria en la formación docente inicial y continua, centrándose en la pedagogía relacionada con violencias digitales y el uso crítico de tecnologías en el aula. La autoridad de aplicación deberá elaborar recursos didácticos accesibles y actualizados, disponibles para estudiantes, docentes y familias en formatos abiertos. El proyecto también incluye campañas de concientización sobre los peligros del entorno digital y el funcionamiento de los algoritmos de las plataformas.
El marco legal actual presenta limitaciones claras para abordar estas problemáticas. Si bien la Ley Olimpia reconoce la violencia contra las mujeres en entornos digitales, no especifica la utilización de IA para generar imágenes sexualizadas sin consentimiento. En casos donde las víctimas son menores, la Ufedyci aplica el artículo 128 del Código Penal, que castiga la producción y distribución de material de explotación sexual infantil, pero esta figura no abarca todas las situaciones posibles, sobre todo cuando los presuntos autores son también menores de edad e inimputables.
Ante esta situación, Mendoza destacó que ambas iniciativas están orientadas a la prevención antes que a la reacción tras el daño causado: “No podemos esperar a que el daño esté hecho para intervenir. Necesitamos escuelas con herramientas para prevenir, acompañar y actuar frente a las nuevas formas de violencia que surgen con la tecnología y la inteligencia artificial”, afirmó. Asimismo, enfatizó que “la inteligencia artificial avanza todos los días” y que es responsabilidad del ámbito político “garantizar que los derechos también avancen”.
Una vez que la Ley EMA obtenga su sanción definitiva en la Cámara de Diputados bonaerense, el Poder Ejecutivo provincial dispondrá de un plazo máximo de 90 días para su reglamentación. Por su parte, la Ley de EDI aún se encuentra en las etapas previas de debate legislativo.
