Carlos H.
- La constante renovación de la IA ha provocado que regular su uso se vuelva urgente y se busque cubrirla por todos los frentes, incluida la violencia digital.
Ciudad de México, 19 de junio (SinEmbargo).– La Inteligencia Artificial (IA) está metida hasta en los detalles más ínfimos de nuestras vidas. Desde imágenes y videos en internet realizados para entretenimiento hasta avances científicos de última generación, esta nueva tecnología ha avanzado a pasos gigantescos y está cada vez más compenetrada en el día a día de las personas: en las búsquedas en internet y en los chats en nuestros celulares, por ejemplo. Pero precisamente por ello, su regulación ha quedado sobrepasada. Es apenas ahora que las autoridades han puesto el ojo en ello, y han comenzado a elaborar leyes para normalizar su uso y para sancionar sus abusos, que también han proliferado en los últimos años.
Esta semana, el estado de Aguascalientes se acaba de convertir en uno de los primeros en Latinoamérica en tipificar la así llamada «violencia digital» como delito. Es decir, la creación y distribución de imágenes, videos o audios de contenido sexual creados mediante IA, cuando estos sean utilizados con la intención de hostigar, humillar, denigrar o causar daño psicológico a una persona, serán sancionados.
«Comete el delito de violencia digital a quien haciendo uso de la Inteligencia Artificial, manipule imágenes, audios y/o videos, de una persona con el fin de crear hechos falsos con apariencia real de índole sexual o con fines lascivos, con el objeto de exponer, distribuir, difundir, transmitir, reproducir, comercializar, intercambiar, almacenar y/o compartir a través de cualquier medio ya sea digital o físico, sin consentimiento expreso y voluntario de la persona pasiva», señala el párrafo incluido en el Código Penal de Aguascalientes.
Diputada Dulce Huerta expone reforma al Código Penal del Estado de Colima, para instituir de manera idónea el tipo penal de violencia digital, así como adicionar la modalidad de esta conducta violenta, mediante inteligencia artificial y aumentar penas del delito de acoso sexual. pic.twitter.com/ci4zsA8WXf
Las sanciones son duras: prisión de cuatro a cinco años, y en el caso de que la persona afectada sea menor de 18 años de edad, la pena aumentará de dos a cuatro años. La reforma también define la IA como «las aplicaciones, programas o tecnología que analicen y procesen fotografías, audios o videos y que realicen ajustes automáticos para hacer alteraciones o modificaciones con el fin de crear nuevas imágenes, audios y videos».
La propuesta fue de la Diputada local Dulce Huerta Araiza, de Morena, quien argumentó que la incorporación del delito de violencia digital realizada con IA al Código Penal estatal «es una medida crucial para prevenir la normalización de conductas que, al explotar tecnologías avanzadas como los deepfakes y otros contenidos sintéticos, representan una amenaza significativa para el tejido social, la cohesión comunitaria y la confianza en las instituciones».
La legisladora enmarcó esta creación y difusión masiva de materiales falsos no solamente con la desinformación que colapsa la red, sino también «amplificа dinámicas de poder desiguales, particularmente contra las mujeres, quienes, según estudios internacionales, constituyen el principal blanco de estas agresiones, enfrentando mayores riesgos de victimización, estigmatización social y exclusión».
Estados siguen el ejemplo para regular la IA
En México, se le conoce como «Ley Olimpia» a un conjunto de reformas a la Ley General de Acceso de las Mujeres a una Vida Libre de Violencia y al Código Penal Federal, que buscan reconocer la violencia digital y sancionar los delitos que violen la intimidad sexual de las personas a través de medios digitales, también conocida como ciberviolencia.
La “Ley Olimpia” contempla sanciones de tres a seis años de prisión para quienes realicen estas acciones y multas que van de 500 a mil Unidades de Medida y Actualización (UMA).
La legislación sanciona la difusión de contenidos «reales o simulados» de contenido sexual íntimo de una persona sin su consentimiento o mediante el engaño, pero no toca específicamente el tema de la Inteligencia Artificial.
Por ello, las entidades han tomado el ejemplo de Aguascalientes y ahora, de San Luis Potosí. La semana pasada, el Congreso de SLP aprobó en comisiones un dictamen para reformar el Código Penal del Estado, para «tipificar y sancionar la difusión de imágenes, audios o videos de contenido íntimo sexual manipulados a través de inteligencia artificial de una persona sin su consentimiento». Ahora, deberá ser discutido en el pleno.
La iniciativa promovida por la diputada María Dolores Robles Chairez, del Partido Verde, señala que se impondrá sanción de tres a seis años de prisión y multa de trescientos a seiscientos días del valor de la UMA, a quien «haciendo uso de la Inteligencia Artificial, modifique o altere imágenes, audios o videos de una persona sin su consentimiento, para crear hechos falsos con apariencia real de contenido íntimo sexual; así como a quien los almacene, transmita, publique o difunda por cualquier medio».
En este caso, la IA es definida como «las aplicaciones de software, programas informáticos o cualquier software con capacidad de modificar o alterar imágenes, audios o videos”. La comisión especificó que el uso de la Inteligencia Artificial se adiciona como uno de los elementos del delito contra la identidad de las personas.
Uno de los primeros en regular el abuso de la IA en el país fue Sinaloa, pues en enero de 2024 reformó su Código Penal local para sancionar el uso de inteligencia artificial «en la manipulación de imágenes, audios y videos para crear hechos falsos con apariencia real que afecten la intimidad sexual de terceras personas» con una pena de tres a seis años de prisión y de quinientos a mil días multa.
Sin embargo, la reforma quedó firme apenas en febrero de este año, cuando la Suprema Corte de Justicia de la Nación (SCJN) validó la definición de IA que realizó el Congreso local, que la calificó como «las aplicaciones, programas o tecnología que analicen fotografías, audios o videos y ofrezcan ajustes automáticos para hacerles alteraciones o modificaciones».
En abril, la Corte también reconoció la validez del artículo 9, fracción III, inciso c) en su porción normativa “uso de inteligencia artificial” de la Ley de los Derechos de Niñas, Niños y Adolescentes del estado de Zacatecas, al considerar que «extiende la protección de la violencia cibernética a aquella que es ocasionada por el uso de inteligencia artificial sin mayor especificación de lo que debe entenderse al respecto», en un fallo histórico.
El impacto de la IA afecta sobre todo a mujeres y a las infancias, por eso las regulaciones se han centrado sobre todo en ese aspecto. Foto: Europa Press
En 2024 Quintana Roo también reformó su Código Penal para endurecer las penas a las personas que cometen delitos con apoyo de la Inteligencia Artificial. En abril de este año, la Corte dejó firme esta reforma. En Guanajuato, el PRI propuso este año una reforma similar al Código Penal local.
En otras entidades también comienza a proponerse legislación para regular específicamente a la IA. En Baja California, la Diputada local Araceli Geraldo Núñez propuso en mayo una reforma a la Ley para la Protección y Defensa de los Derechos de Niñas, Niños y Adolescentes del Estado de Baja California contra el «ciberacoso».
La legisladora destaca que «se debe reflexionar sobre el uso de una nueva tecnología digital, la llamada Inteligencia Artificial, que entre sus características cuenta con la existencia de programas para manipular audios e imágenes, los cuales, en manos de la delincuencia, abre un nuevo capítulo de la violencia digital contra las personas, pero particularmente la que agrede a la infancia y adolescentes».
La iniciativa propone modificar la fracción VIII del artículo 11 de la Ley para la Protección y Defensa de los Derechos de Niñas, Niños y Adolescentes del Estado de Baja California, para adicionar como un derecho de niñas, niños y adolescentes, una vida libre de violencia cibernética, digital, así como todas aquellas mediante el uso de la IA.
En marzo, la Diputada morenista Guadalupe Vázquez Jacinto presentó una iniciativa de reforma al Código Penal de Baja California Sur «en respuesta al creciente uso de tecnologías avanzadas como la Inteligencia Artificial y la necesidad de proteger la intimidad sexual de las y los sudcalifornianos», con penas de prisión de tres a seis años y multas económicas a quienes cometan estos delitos.
En noviembre de 2024, el PAN propuso en el Estado de México sanciones de ocho a 15 años de prisión a quien, por medio de inteligencia artificial, u otro tipo de tecnología, genere videos, audios, imágenes, o altere digitalmente el rostro de una persona en imágenes, videos y audios, para crear una falsa realidad en redes sociales y medios de comunicación, y que sean utilizadas para afectar su integridad y dignidad.
En marzo, en el Congreso de Guerrero propusieron sancionar con cuatro y hasta siete años de prisión el uso indebido de la IA para alterar videos, audios, rostros o escenarios, con la intención de hacerlos pasar como reales y afectar la reputación e integridad de las personas.
En Querétaro, la propuesta es de tres a seis años de prisión, así como multas económicas de entre 100 y 214 mil pesos para «garantizar la reparación del daño a las víctimas». En Campeche, la reforma busca de entre 5 a 10 años de cárcel por delitos que violen la intimidad con el uso de la IA.
La urgencia de la regulación
La IA se ha usado para acompañar avances científicos o como mero entretenimiento, pero también tiene una parte legal importante. Apenas hace un par de meses, un Tribunal de Enjuiciamiento impuso a Diego «N», exalumno del Instituto Politécnico Nacional (IPN), una sentencia de cinco años de prisión y una multa de 103 mil 740 pesos, tras declararlo culpable por el delito de trata de personas en su modalidad de pornografía infantil.
De acuerdo con la resolución, el exalumno del Poli es acusado de editar fotografías de sus compañeras con Inteligencia Artificial para venderlas con fines sexuales. Desde el 6 de octubre de 2023, en un salón de la Escuela Superior de Comercio y Administración (ESCA), alumnas de la carrera de Mercadotecnia Digital encontraron en el celular de Diego más de 50 mil desnudos de mujeres creadas con la herramienta tecnológica, las cuales fueron comercializadas por internet.
En octubre, la Senadora Andrea Chávez, de Morena, sufrió también violencia digital, cuando difundieron imágenes falsas en redes sociales en la que se podía ver el rostro de la legisladora sobre el cuerpo semidesnudo de otra persona. Chávez anunció en ese momento acciones legales, bajo el amparo de la Ley Olimpia, en contra del monero Antonio Garci Nieto, quien difundió estas imágenes alteradas.
La regulación siempre viene retrasada, intentando alcanzar el desarrollo tecnológico, sobre todo en las últimas décadas, donde a diario hay un avance nuevo.
