Referencias documentales

El informe de evalúa la fiabilidad de Bing Chat en contextos electorales, tomando como casos las elecciones de Baviera, Hesse y Suiza en octubre de 2023. El estudio revela que un tercio de las respuestas contenían errores factuales, desde fechas equivocadas hasta candidatos inexistentes o controversias inventadas. Además, el chatbot mostró una tendencia a la evasión: en un 40% de los casos evitó responder directamente, con salvaguardas aplicadas de forma inconsistente. El rendimiento fue claramente inferior en idiomas distintos al inglés, con más errores en alemán y francés. El informe advierte que estas deficiencias pueden afectar la integridad del debate democrático, ya que los usuarios confían en la información generada. Microsoft reconoció algunos problemas, pero las pruebas posteriores mostraron escasos avances. La conclusión es que los chatbots generativos requieren regulación estricta para garantizar información electoral precisa y proteger la confianza pública

El artículo analiza la paradoja de la IA sostenible: aunque se presenta como herramienta clave para optimizar recursos y combatir la crisis climática, su desarrollo y uso generan enormes impactos ambientales y sociales. El entrenamiento de modelos como BLOOM o PaLM emite cientos de toneladas de CO₂ y consume millones de litros de agua. Además, la explotación laboral en moderación de contenidos y extracción de minerales evidencia su insostenibilidad social. El RIA introduce requisitos de transparencia y medición de emisiones, pero las críticas señalan que deberían aplicarse a todos los sistemas, no solo a los de alto riesgo.

Este documento aborda el papel de la IA en la educación. Señala que vivimos en una sociedad cada vez más marcada por sistemas digitales y de IA, lo que exige competencias informáticas básicas para una participación ciudadana responsable. Destaca tanto las oportunidades como los riesgos: la IA puede favorecer la inclusión y personalización del aprendizaje, pero también plantea problemas de costes, privacidad y fiabilidad. Se rechazan las prohibiciones absolutas y propone un uso transparente y regulado. En la educación escolar, se recomienda integrar la IA en los currículos de informática, fomentando análisis técnico, social y práctico. Para docentes, se subraya la necesidad de formación continua en competencias digitales y reflexivas. En universidades y formación profesional, se pide desarrollar las competencias en IA y abordar cuestiones éticas y legales.

El rápido auge de la inteligencia artificial ha contribuido a la aparición de entidades digitales sin precedentes cuya calificación jurídica resulta especialmente delicada. Entre estas innovaciones, los deadbots, también llamados avatares post mortem o thanabots, cuestionan profundamente los fundamentos del ordenamiento jurídico. Estos dispositivos, que combinan la IA generativa y los datos personales recopilados durante la vida del individuo (mensajes, fotos, vídeos), son capaces de reproducir los patrones de pensamiento, el estilo de expresión y los rasgos de su personalidad para crear una ilusión de interacción póstuma. El artículo insiste en la necesidad de elaborar un marco jurídico para esta nueva realidad, ante las carencias del RGPD y de la legislación francesa, que únicamente contempla unas disposiciones mínimas sobre el destino post mortem de los datos personales.

El artículo se centra en el análisis de los riesgos que entraña el uso de la inteligencia artificial. En primer lugar, se centra en el propio concepto de IA, analizando todos sus contornos. Posteriormente divide su estudio en dos partes, que a su vez se dividen en dos secciones. En la primera se centra en las posibles injerencias sobre la esfera de la intimidad de los individuos que puede suponer el uso de la IA. Seguidamente, se centra más en la esfera pública. Así, analiza los riesgos sobre las garantías encesarias en una democracia y las posibles infracciones de libertades públicas. En la segunda parte se dedica al estudio de la actual regulación de la IA contenida en el Reglamento europeo de 2024. Ahí se interesa especialmente por su enfoque preventivo y ético.

El presente artículo ofrece una primera interpretación destinada a los profesionales del derecho sobre los fundamentos y las acciones emprendidas en Francia para retirar un deepfake difundido a través de un servicio de comunicación pública en línea, exigir responsabilidades a los distintos actores implicados y obtener una indemnización.

El marco jurídico francés parece hoy en día inadecuado para luchar contra la desinformación difundida por los deepfakes, esos vídeos y/o audios hiperfalsificados generados por inteligencia artificial, que a veces se utilizan para influir o desestabilizar un proceso democrático. La prevención de esta desinformación sigue siendo limitada y se basa, por un lado, en la reciente creación de una policía de sistemas de inteligencia artificial y en la aplicación del marco preventivo existente relativo a la manipulación de la información. Por otro lado, se basa en un refuerzo de la regulación institucional, garantizada esencialmente por la Arcom, cuya eficacia depende, sin embargo, de la cooperación de las plataformas digitales en un marco de autorregulación. Así, la legislación, aún vacilante, tiene dificultades para dar una respuesta adecuada a los retos que plantean estos contenidos generados por la inteligencia artificial y sus posibles repercusiones en los procesos democráticos.

Los algoritmos, los ordenadores, el tratamiento de datos y las máquinas modifican las decisiones humanas. En sentido ascendente, las influyen y las alteran. En sentido descendente, las implementan y las automatizan. La Ley francesa de Protección de Datos de 1978 estableció la necesidad de preservar el factor humano en la toma de decisiones. Con la adaptación al Derecho europeo en 1995 y en 2016 (RGPD), este principio se ha convertido en un elemento central del derecho digital: la persona humana debe estar en el centro de la tecnología, y esta debe estar al servicio de la persona humana. Este principio central contrasta con su falta de efectividad. En este marco, es necesario clarificar las reglas que rigen el diseño y uso de los algoritmos. El derecho emerge así como uno de los poderosos contrapesos a la tecnología, capaz de proteger la libertad humana.

La transparencia de los modelos de inteligencia artificial y sus condiciones de implementación resulta una necesidad imperiosa, especialmente para el sector de la cultura, los medios de comunicación y la información, cuyos contenidos alimentan la IA generativa. Ello no es suficiente para hacer frente a los riesgos competitivos. Ya sea como instrumento de sanción, como herramienta de negociación o, en ocasiones, como ambas cosas, el Derecho de la competencia es, sin duda, una de las herramientas estratégicas para comprender, anticipar y corregir los posibles abusos competitivos de la inteligencia artificial. Sin embargo, la capacidad disuasoria de este Derecho debe combinarse con la lucha contra el espíritu de lucro ilícito.

El artículo 53, apartado 1, letra c), Reglamento europeo sobre inteligencia artificial obliga a los proveedores de modelos de IA de uso general a adoptar medidas para respetar los derechos de autor y los derechos afines. También obliga a estos mismos actores a elaborar y poner a disposición del público un «resumen suficientemente detallado» de los datos utilizados para entrenar su modelo (artículo 53, apartado 1, letra d). Ambos requisitos forman parte de una misma obligación de transparencia. El informe precisa el alcance de esta obligación y propone un modelo de «resumen suficientemente detallado». Respetando el secreto comercial, el informe recomienda un «enfoque por tipo de contenido, con un grado de detalle creciente» en función de si los contenidos son libres de derechos o más sensibles. Con el objetivo declarado de permitir el ejercicio de los derechos, el resumen debería ser «completo en términos de contenido», sin revelar las técnicas utilizadas.