Referencias documentales

El documento presenta propuestas para la implementación nacional del RIA, con un enfoque claro en la protección de las personas consumidoras. Señala que la IA ya genera riesgos reales (manipulación emocional, análisis oculto de perfiles, decisiones automatizadas que afectan a seguros, créditos o servicios) y que solo una supervisión sólida y accesible puede generar confianza. Se propone prohibir los sistemas de identificación biométrica a distancia en espacios públicos, incluidos los operados por empresas privadas. El texto pide crear una autoridad central de supervisión, que actúe como punto único de contacto, con procedimientos de quejas simples y eficaces. También recomienda establecer un consejo independiente de expertos y un centro técnico especializado que apoye a las autoridades. Finalmente, exige sanciones claras y efectivas para todos los incumplimientos del reglamento.

Los algoritmos, los ordenadores, el tratamiento de datos y las máquinas modifican las decisiones humanas. En sentido ascendente, las influyen y las alteran. En sentido descendente, las implementan y las automatizan. La Ley francesa de Protección de Datos de 1978 estableció la necesidad de preservar el factor humano en la toma de decisiones. Con la adaptación al Derecho europeo en 1995 y en 2016 (RGPD), este principio se ha convertido en un elemento central del derecho digital: la persona humana debe estar en el centro de la tecnología, y esta debe estar al servicio de la persona humana. Este principio central contrasta con su falta de efectividad. En este marco, es necesario clarificar las reglas que rigen el diseño y uso de los algoritmos. El derecho emerge así como uno de los poderosos contrapesos a la tecnología, capaz de proteger la libertad humana.

El artículo reflexiona acerca del término deepfake y su evolución al hilo de las innovaciones tecnológicas. Varios países se plantean legislar contra este tipo de “falsificaciones” generadas por inteligencia artificial, si bien el alcance mismo de la definición sigue siendo confuso.

La transparencia de los modelos de inteligencia artificial y sus condiciones de implementación resulta una necesidad imperiosa, especialmente para el sector de la cultura, los medios de comunicación y la información, cuyos contenidos alimentan la IA generativa. Ello no es suficiente para hacer frente a los riesgos competitivos. Ya sea como instrumento de sanción, como herramienta de negociación o, en ocasiones, como ambas cosas, el Derecho de la competencia es, sin duda, una de las herramientas estratégicas para comprender, anticipar y corregir los posibles abusos competitivos de la inteligencia artificial. Sin embargo, la capacidad disuasoria de este Derecho debe combinarse con la lucha contra el espíritu de lucro ilícito.

El artículo 53, apartado 1, letra c), Reglamento europeo sobre inteligencia artificial obliga a los proveedores de modelos de IA de uso general a adoptar medidas para respetar los derechos de autor y los derechos afines. También obliga a estos mismos actores a elaborar y poner a disposición del público un «resumen suficientemente detallado» de los datos utilizados para entrenar su modelo (artículo 53, apartado 1, letra d). Ambos requisitos forman parte de una misma obligación de transparencia. El informe precisa el alcance de esta obligación y propone un modelo de «resumen suficientemente detallado». Respetando el secreto comercial, el informe recomienda un «enfoque por tipo de contenido, con un grado de detalle creciente» en función de si los contenidos son libres de derechos o más sensibles. Con el objetivo declarado de permitir el ejercicio de los derechos, el resumen debería ser «completo en términos de contenido», sin revelar las técnicas utilizadas.

En su vertiente económica, el presente informe analiza los retos económicos subyacentes al acceso a los datos protegidos por derechos de propiedad literaria y artística cuando estos son utilizados por la IA. En su vertiente jurídica, el informe examina distintos mecanismos jurídicos, en función de cada sector de la creación, para garantizar a los titulares de derechos de propiedad intelectual la efectividad de los mismos cuando sus obras son empleadas por los proveedores de sistemas de IA para entrenar tales sistemas.

El artículo aborda el impacto de la inteligencia artificial (IA) en el mundo laboral. La IA repercute en las condiciones de trabajo y en la naturaleza de los empleos, creando nuevas oportunidades y polarizando al mismo tiempo los empleos cualificados y los empleos menos valorados. Ante esta evolución, es necesario proteger los derechos de los trabajadores. Esta protección ya está garantizada en parte por la legislación vigente (derecho laboral y RGPD) y se reforzará con la Ley de IA.

El desarrollo de las tecnologías digitales ha generado una nueva forma de amenaza: la ciberguerra. Esta se basa en parte en la desinformación, que consiste en influir en las opiniones difundiendo información falsa. La inteligencia artificial permite crear fácilmente datos falsos y difundirlos ampliamente. Su rendimiento permite generar contenidos tan realistas que ha dado lugar al concepto de deepfake o hiperfalsificación.

Se presentan de manera preliminar los resultados de un proyecto de investigación del Inapp, incluido en el Plan Trienal de Actividades (PTA) 2023-2025, que tiene como objetivo analizar las plataformas digitales de trabajo, centrándose en el funcionamiento de una forma específica de inteligencia artificial, conocida como “gestión algorítmica”, aplicada a los procesos productivos. El objetivo principal del proyecto es examinar cómo la gestión algorítmica influye en la organización del trabajo y de la producción, así como en los actores institucionales involucrados.
Para el estudio del caso italiano se realizaron entrevistas y grupos focales con trabajadores, representantes sindicales y directivos de las plataformas, útiles para recoger testimonios directos y profundizar en el impacto de la “plataformización” en el mercado laboral y en el sistema de relaciones industriales, reconstruyendo los puntos de vista y las narrativas de los distintos sujetos implicados. Se presentan aquí algunas anticipaciones de los resultados que luego se incorporarán en el informe final de investigación, precedidas por un breve enfoque cuantitativo sobre la magnitud del fenómeno del trabajo en plataforma en Italia.
Del análisis emerge un panorama complejo que, por un lado, evidencia las dificultades experimentadas por quienes realizan actividades laborales mediadas por algoritmos y, por otro, refleja la necesidad de un modelo de trabajo orientado a garantizar la máxima flexibilidad con el fin de maximizar los beneficios. En este escenario, la regulación y la negociación colectiva tienen la tarea de identificar las protecciones que deben asegurarse y los mecanismos que deben hacerse más transparentes, a fin de garantizar una acción conjunta y coordinada entre todos los actores implicados para gobernar las transformaciones del trabajo en plataforma y asegurar, para esta modalidad laboral, un futuro laboral digno, más equitativo e inclusivo, tal como prevé la propia directiva europea en la materia.

El informe destaca la intensa actividad de supervisión y sanción desarrollada por el Garante en 2024, con un total de 835 medidas colegiadas, de las cuales 468 fueron sanciones o correcciones, acumulando más de 24 millones de euros en multas. Se recibieron 4 090 reclamaciones y 93 877 notificaciones, que abarcaron áreas diversas como telecomunicaciones, datos públicos, sanidad, trabajo, justicia, seguridad informática y protección de menores frente al cyberbullying y otras formas de abuso digital. El informe subraya la evolución de los riesgos asociados a nuevas tecnologías como la inteligencia artificial generativa, el web scraping en el entrenamiento de modelos, y la protección de datos personales tanto en el sector privado como en el público. Además de las actuaciones correctivas, el Garante intensificó la actividad de prevención y orientación normativa, especialmente frente a la digitalización de la administración pública, la gestión de datos en sanidad y la organización del trabajo con sistemas automatizados. El documento también describe la participación activa de la Autoridad en foros internacionales y en iniciativas europeas, en particular en el contexto de la regulación de la inteligencia artificial, reforzando la cooperación con otros órganos supranacionales para la protección de los derechos de los ciudadanos frente a la digitalización.