Sumar propone una ley 'anti deepfakes' que impondría que el contenido creado mediante IA incluya 'señales' de aviso

  • La reforma supondría introducir cambios en seis leyes previas y crear dos nuevos órganos

  • Al centrarse sólo en herramientas 'comercializadas en España', podría ser fácil sortear la implementación de las citadas señales

Díaz
40 comentarios Facebook Twitter Flipboard E-mail

Hace sólo dos días abordábamos en Genbeta la preocupación existente con la creciente facilidad y rapidez para crear deepfakes con un alto grado de realismo poniendo el ejemplo de un vídeo falso del youtuber MrBeast. Un par de semanas antes de eso, el caso de los desnudos 'fake' de menores en Almendralejo se convirtió en noticia a nivel nacional.

En general, el auge de los deepfakes ha planteado una serie de desafíos en todo el mundo, ya que las tecnologías de IA avanzan a un ritmo vertiginoso y las herramientas para detectar estos contenidos falsos todavía están en pañales.

Pues bien, buscando dar respuesta a esas preocupaciones, el grupo parlamentario de Sumar ha presentado este viernes en el Congreso de los Diputados una proposición de ley que busca establecer regulaciones claras en el uso de la inteligencia artificial (IA) cuando se creen imágenes, vídeos y audios falsos capaces de suplantar a personas reales.

Los diputados Enrique Santiago (IU), Francisco Sierra (Sumar) y Tesh Sidi (Más País) han sido los encargados de liderar esta iniciativa, que ya ha sido apodada la "ley anti deepfakes", y que tiene como objetivo principal exigir a las herramientas de IA que generen deepfakes que incluyan una señal visual o sonora "clara" (equivalente, vaya, a una 'marca de agua') capaz de indicar que el contenido es falso.

Un vistazo a…
Cómo solicitar el CERTIFICADO DIGITAL de PERSONA FÍSICA de la FNMT

Una completa reforma legal

Más aún, esta proposición de ley modificaría hasta seis leyes, a saber: la ley de protección del derecho al honor, la ley electoral, la ley de la comunicación audiovisual, la ley de competencia desleal, el Código Penal y la ley de enjuiciamiento civil.

Así, por ejemplo, la proposición de ley también introduce "cláusulas para proteger contenidos relacionados con la IA cuando formen parte de obras artísticas o tengan un propósito satírico". Esto significa que si un contenido generado por IA se etiqueta adecuadamente como falso, estará sujeto a las regulaciones habituales sobre libertad de expresión y derecho al honor.

El texto no pretende sólo "regular contenidos tecnológicos" sino también proteger "los derechos fundamentales" de los ciudadanos

La modificación de la ley de derecho al honor permitirá, además, clasificar la IA como una de las "modalidades que pueden usarse para atacar el derecho a la propia imagen de las personas". La modificación del Código Penal, por otro lado, incorporaría un nuevo tipo de injurias relacionado con el uso de deepfakes.

La modificación de la ley electoral también permitirá regular específicamente el uso malicioso de la IA contra candidatos electorales, convirtiéndolo en delito electoral. Y, en palabras de Enrique Santiago,

"Para que todo esto no quede en un simple brindis al sol, también se introduce una modificación de la ley del enjuiciamiento civil".

La propuesta de Sumar no se limita sólo a cambios legales. También plantea la creación de dos nuevos órganos: un Consejo Consultivo, que asesore y proponga iniciativas regulatorias relacionadas con la IA, y un Consejo de Participación Ciudadana.

Sobre el contenido de la ley

El contenido literal de esta proposición estará disponible en los próximos días en los boletines oficiales del Congreso de los Diputados, una vez la propuesta haya sido registrada en la Cámara.

Sin embargo, si el articulado de la ley se centra, efectivamente, en las "herramientas de IA comercializadas en España", lo cierto es que eso deja fuera a todas las plataformas que no se comercialicen en España (pero que seguirán disponibles de manera más o menos directa en Internet) y a las que no se comercializan en absoluto, como las herramientas open source que cualquiera puede instalar y usar libremente en sus PCs.

Imagen | Original de AntonMST29 modificado mediante IA por Marcos Merino

En Genbeta | OpenAI lo tiene claro: el software que detecta contenido generado por IA no funciona. No se libra ni el que han creado ellos

Comentarios cerrados
Inicio