La provincia del Chaco puso en marcha una ley pionera que castiga penalmente y con multas a quienes creen o difundan contenidos digitales falsos, manipulados o generados con inteligencia artificial (IA), si dañan la integridad, reputación o intimidad de una persona.

El gobernador Leandro Zdero promulgó el 26 de agosto la Ley N° 4250-J, que incorpora nuevos límites a violencia digital, entre ellos los perfiles falsos de redes sociales, y los conocidos “deepfakes”, que consiste en la adulteración de imágenes personales a partir de la IA. Este año, el uso malicioso de la tecnología generó preocupación en escuelas de todo el país, ante el aumento de denuncias.

La norma define el contenido manipulado o sintético como aquel material generado o alterado con tecnología -incluida la inteligencia artificial- que representa a una persona real en situaciones falsas y que puede inducir a error o causar perjuicio a la dignidad, intimidad o reputación de la persona afectada.

Con la ley, la utilización de identidades digitales ajenas o falsas para hostigar, dañar o defraudar será penada con arrestos de hasta 60 días o multas de hasta 15 remuneraciones mínimas, equivalentes a $5.649.000, para quienes creen este tipo de contenido sin consentimiento expreso e informado del afectado. En lo casos de que el material fuera difundido, la sanción puede llegar a 18 sueldos mínimos -aproximadamente $6.778.800- o 90 días de arresto.

Las penas se duplican cuando estos hechos se producen en contextos de violencia de género o intrafamiliar, y es mayor si la víctima es menor de edad, persona con discapacidad, o si existe una relación de confianza con el autor, así como en casos de lucro, coacción o daño psicológico grave. Para este tipo de situaciones, la pena sube hasta 120 días o 20 sueldos mínimos.

En concreto, la norma añade el Título XIII al Libro II del Código de Faltas de Chaco bajo la denominación “Faltas Relativas a Contenidos Digitales Manipulados o Sintéticos”. La actualización está en sintonía con otros proyectos que la anteceden, como la Ley Olimpia 27.736, que reconoce la violencia digital contra las mujeres y permite ordenar la eliminación de material íntimo real o editado. O los proyectos que modifican el Código Penal, como la Ley “Belén”, que busca castigar la producción y difusión de contenidos sexuales manipulados mediante inteligencia artificial.

Eliminación inmediata de contenido y custodia digital

Otro de los puntos destacados de la norma, que se aprobó en la Legislatura chaqueña el pasado 8 de agosto, es la actualización de los tiempos procesales ante este tipo de denuncias. Los jueces podrán adoptar medidas urgentes, como la eliminación inmediata del contenido, prohibición de contacto, restricción del uso de plataformas o rectificaciones.

Los bloqueos preventivos y eliminación provisional de contenidos tendrán un plazo máximo de 24 horas. Las órdenes de los magistrados podrán dirigirse a plataformas, redes sociales, proveedores de internet y hasta servicios de alojamiento digital.

La legislación incorpora en el Código Procesal Penal con la incorporación de pautas para la cadena de custodia de la evidencia del material digital, como archivos, mensajes o videos, que deberán mantenerse en soporte original y con registro estricto, detallando quién, cuándo y cómo accedió, y la herramienta empleada para registrar la información.

Se permiten medidas cautelares como el bloqueo de cuentas, la preservación de datos y la denuncia a través de medios electrónicos.La normativa exige también capacitación en ciberdelitos para magistrados y fiscales.

“Cada día la tecnología avanza más y muchas veces se podría utilizar para dañar. En este sentido, era necesario actualizar nuestra legislación y brindar más protección a las víctimas, sin afectar la libertad de expresión ni el uso legítimo de las herramientas digitales. Con esta nueva regulación estamos protegiendo derechos, poniendo límites claros a la violencia digital”, afirmó Magdalena Ayala, ex legisladora y una de las impulsoras del proyecto, junto al diputado Iván Gyoker.

Con la adopción creciente de la IA, los “deepfakes” -basados en el aprendizaje profundo (deep learning)- se transformaron en un fenómeno político y cultural de las redes sociales en los últimos años. Hace meses, causó indignación la circulación de imágenes sexuales de alumnas adulteradas con IA en el Colegio Nacional Buenos Aires (CNBA) y la Escuela Superior de Comercio Carlos Pellegrini. Las adolescentes víctimas denunciaron estos abusos y las autoridades debieron aplicar sanciones y protocolos.

En lo político, la situación más resonante ocurrió en plena campaña electoral porteña, con la difusión de un video falso generado con IA de Mauricio Macri, que desalentaba el voto a Silvia Lospennato, primera en la lista de candidatos a legisladores del PRO. En 2025, la Justicia electoral recibió más de 360 denuncias en los comicios de 26 de octubre, principalmente por violaciones a la veda electoral y por la difusión de contenidos adulterados.

Lejos de ser un problema exclusivo de Argentina, este tipo de prácticas crecen a nivel mundial desde hace tiempo. Así lo dejó reflejado UNICEF, que alertó con un comunicado “el rápido aumento del volumen de imágenes sexualizadas generadas por IA que circulan por la red, incluidas fotografías de niños y niñas manipuladas y sexualizadas”. En un estudio llevado a cabo por esa entidad, ECPAT e INTERPOL en 11 países, al menos 1,2 millones de niños y niñas revelaron haberse visto afectados en el último año por la manipulación de sus imágenes mediante deepfakes con contenido sexual explícito.

En el caso de la ley chaqueña, solo quedan exceptuadas de las sanciones las creaciones realizadas con IA que sean “claramente artísticas, parodias, comentarios o críticas de interés público que no puedan confundirse con hechos reales ni busquen perjudicar”.