Referencias documentales

El marco jurídico francés parece hoy en día inadecuado para luchar contra la desinformación difundida por los deepfakes, esos vídeos y/o audios hiperfalsificados generados por inteligencia artificial, que a veces se utilizan para influir o desestabilizar un proceso democrático. La prevención de esta desinformación sigue siendo limitada y se basa, por un lado, en la reciente creación de una policía de sistemas de inteligencia artificial y en la aplicación del marco preventivo existente relativo a la manipulación de la información. Por otro lado, se basa en un refuerzo de la regulación institucional, garantizada esencialmente por la Arcom, cuya eficacia depende, sin embargo, de la cooperación de las plataformas digitales en un marco de autorregulación. Así, la legislación, aún vacilante, tiene dificultades para dar una respuesta adecuada a los retos que plantean estos contenidos generados por la inteligencia artificial y sus posibles repercusiones en los procesos democráticos.

Los algoritmos, los ordenadores, el tratamiento de datos y las máquinas modifican las decisiones humanas. En sentido ascendente, las influyen y las alteran. En sentido descendente, las implementan y las automatizan. La Ley francesa de Protección de Datos de 1978 estableció la necesidad de preservar el factor humano en la toma de decisiones. Con la adaptación al Derecho europeo en 1995 y en 2016 (RGPD), este principio se ha convertido en un elemento central del derecho digital: la persona humana debe estar en el centro de la tecnología, y esta debe estar al servicio de la persona humana. Este principio central contrasta con su falta de efectividad. En este marco, es necesario clarificar las reglas que rigen el diseño y uso de los algoritmos. El derecho emerge así como uno de los poderosos contrapesos a la tecnología, capaz de proteger la libertad humana.

La transparencia de los modelos de inteligencia artificial y sus condiciones de implementación resulta una necesidad imperiosa, especialmente para el sector de la cultura, los medios de comunicación y la información, cuyos contenidos alimentan la IA generativa. Ello no es suficiente para hacer frente a los riesgos competitivos. Ya sea como instrumento de sanción, como herramienta de negociación o, en ocasiones, como ambas cosas, el Derecho de la competencia es, sin duda, una de las herramientas estratégicas para comprender, anticipar y corregir los posibles abusos competitivos de la inteligencia artificial. Sin embargo, la capacidad disuasoria de este Derecho debe combinarse con la lucha contra el espíritu de lucro ilícito.

El artículo 53, apartado 1, letra c), Reglamento europeo sobre inteligencia artificial obliga a los proveedores de modelos de IA de uso general a adoptar medidas para respetar los derechos de autor y los derechos afines. También obliga a estos mismos actores a elaborar y poner a disposición del público un «resumen suficientemente detallado» de los datos utilizados para entrenar su modelo (artículo 53, apartado 1, letra d). Ambos requisitos forman parte de una misma obligación de transparencia. El informe precisa el alcance de esta obligación y propone un modelo de «resumen suficientemente detallado». Respetando el secreto comercial, el informe recomienda un «enfoque por tipo de contenido, con un grado de detalle creciente» en función de si los contenidos son libres de derechos o más sensibles. Con el objetivo declarado de permitir el ejercicio de los derechos, el resumen debería ser «completo en términos de contenido», sin revelar las técnicas utilizadas.

En su vertiente económica, el presente informe analiza los retos económicos subyacentes al acceso a los datos protegidos por derechos de propiedad literaria y artística cuando estos son utilizados por la IA. En su vertiente jurídica, el informe examina distintos mecanismos jurídicos, en función de cada sector de la creación, para garantizar a los titulares de derechos de propiedad intelectual la efectividad de los mismos cuando sus obras son empleadas por los proveedores de sistemas de IA para entrenar tales sistemas.

El marco jurídico de la inteligencia artificial en materia de gestión de riesgos se construye progresivamente. Abandonado inicialmente a la ética, se orienta ahora hacia una mayor normatividad. Ello tanto en la fase previa, con un enfoque regulador que implica la responsabilización de los actores, como en la fase posterior, una vez producido el daño, mediante normas de responsabilidad adaptadas a la inteligencia artificial.

Artículo que analiza la evolución del marco normativo francés en el ámbito concreto de los efectos de la muerte de una persona sobre sus bienes digitales, destacando en particular cómo la Loi Informatique e Libertés habilita a los individuos para hacer disposiciones post mortem, yendo más allá de lo previsto por el Reglamento General de Protección de Datos. El autor examina críticamente el surgimiento de una nueva industria, los servicios funerarios digitales, que no se limita a la eliminación de perfiles en redes sociales, sino que ofrece otras prestaciones, como cementerios virtuales o deadbots (bots que utilizan IA para simular conversaciones con la persona fallecida).

Informe sobre el estado y las perspectivas de la Inteligencia Artificial (IA), para ofrecer una estrategia nacional y europea para su desarrollo. El autor destaca el impacto, positivo y negativo, que puede tener la IA en distintos ámbitos: investigación, trabajo, medioambiente, educación, agricultura, defensa… A lo largo del trabajo se articulan propuestas para reforzar la apertura de estas tecnologías, la construcción de un marco ético que evite discriminaciones y permita auditar los resultados generados artificialmente, o la mayor inclusividad y diversidad en el entrenamiento de estos sistemas para reducir sesgos. El informe destaca el papel central del Estado francés como regulador e impulsor de la IA.

La inteligencia artificial ha abierto un escenario hasta hace poco desconocido, en el que el Derecho está llamado a operar distinciones e identificar límites, así como a reconocer intereses emergentes, ámbitos de responsabilidad y objetos de tutela.
Con el propósito de ofrecer una perspectiva de análisis amplia y articulada, el volumen, de clara impronta interdisciplinar, examina en primer lugar a la persona y su esfera de derechos y protecciones, también después de la muerte, sin olvidar el baluarte del derecho al olvido. A continuación, se profundiza en el concepto de mercado, con las problemáticas relativas a los contratos, la inteligencia artificial y el smart contract, pasando por la negociación robótica, los tokens y la criptomoneda. La obra analiza asimismo la importancia del Estado y de la Administración pública, atendiendo a las novedades en materia de digitalización y de servicios públicos.
Cierra la exposición el examen de los aspectos relativos a la legalidad y la justicia, tales como, por ejemplo, la responsabilidad penal por daños derivados de la inteligencia artificial o la que se plantea en procesos de elevada automatización, la prueba digital en el proceso civil y la IA en los sistemas de ADR y ODR. En el ámbito de la administración de justicia, se pone de relieve el impacto de la IA, en el presente y, sobre todo, en el futuro, en el procedimiento decisorio del juez y en el razonamiento probatorio, pero también en la previsibilidad de la decisión y en el precedente en la era digital.

Se presentan de manera preliminar los resultados de un proyecto de investigación del Inapp, incluido en el Plan Trienal de Actividades (PTA) 2023-2025, que tiene como objetivo analizar las plataformas digitales de trabajo, centrándose en el funcionamiento de una forma específica de inteligencia artificial, conocida como “gestión algorítmica”, aplicada a los procesos productivos. El objetivo principal del proyecto es examinar cómo la gestión algorítmica influye en la organización del trabajo y de la producción, así como en los actores institucionales involucrados.
Para el estudio del caso italiano se realizaron entrevistas y grupos focales con trabajadores, representantes sindicales y directivos de las plataformas, útiles para recoger testimonios directos y profundizar en el impacto de la “plataformización” en el mercado laboral y en el sistema de relaciones industriales, reconstruyendo los puntos de vista y las narrativas de los distintos sujetos implicados. Se presentan aquí algunas anticipaciones de los resultados que luego se incorporarán en el informe final de investigación, precedidas por un breve enfoque cuantitativo sobre la magnitud del fenómeno del trabajo en plataforma en Italia.
Del análisis emerge un panorama complejo que, por un lado, evidencia las dificultades experimentadas por quienes realizan actividades laborales mediadas por algoritmos y, por otro, refleja la necesidad de un modelo de trabajo orientado a garantizar la máxima flexibilidad con el fin de maximizar los beneficios. En este escenario, la regulación y la negociación colectiva tienen la tarea de identificar las protecciones que deben asegurarse y los mecanismos que deben hacerse más transparentes, a fin de garantizar una acción conjunta y coordinada entre todos los actores implicados para gobernar las transformaciones del trabajo en plataforma y asegurar, para esta modalidad laboral, un futuro laboral digno, más equitativo e inclusivo, tal como prevé la propia directiva europea en la materia.