Referencias documentales

La web explica como la Unión Europea ha adoptado el Reglamento de Inteligencia Artificial (AI Act), el primer marco jurídico mundial integral para regular los sistemas de IA, con el objetivo de que sean seguros, éticos y fiables. El reglamento clasifica las aplicaciones de IA según el nivel de riesgo que plantean, imponiendo normas más estrictas a las de mayor riesgo y prohibiendo aquellas que suponen un peligro para la seguridad o derechos de las personas, como la manipulación conductual o la puntuación social. El marco legal también establece obligaciones de transparencia, supervisión humana y sanciones proporcionales para quienes infrinjan las reglas. Además, crea estructuras de gobernanza (oficina, panel científico y grupo de expertos) para asegurar una aplicación uniforme en la UE. El Reglamento pretende equilibrar la protección de derechos fundamentales con la innovación y el desarrollo de un mercado único de IA en Europa.

La web aborda los beneficios y los riesgos de la IA. LA ofrecepotenciales beneficios a la sociedad y la economía, incluyendo mejoras en salud, transporte, educación, energía e industria, optimización de procesos y aumento de eficiencia. Sin embargo, su uso conlleva riesgos significativos: discriminación y sesgos algorítmicos, violación de la privacidad, perfilado y manipulación de comportamiento, ciberseguridad insuficiente y dependencia tecnológica. La Unión Europea busca equilibrar estos beneficios y riesgos mediante el Reglamento de Inteligencia Artificial (AI Act), que clasifica los sistemas de IA según su nivel de riesgo, prohíbe prácticas peligrosas y establece obligaciones de transparencia, supervisión humana y responsabilidad. El enfoque europeo promueve una IA centrada en las personas, segura, ética y confiable, compatible con los valores fundamentales de la UE, y fomenta un desarrollo innovador que impulse la competitividad y la protección de derechos en todos los sectores de la sociedad.

El documento contiene Conclusiones del Consejo de la UE sobre la Carta de Derechos Fundamentales en el contexto de la inteligencia artificial (IA) y el cambio digital. El Consejo subraya la necesidad de que la transformación digital y el uso de tecnologías como la IA respeten y promuevan los valores y derechos fundamentales consagrados en la Carta de la UE, garantizando dignidad humana, libertad, igualdad, democracia, Estado de derecho y derechos humanos. Reconoce que la IA puede aportar beneficios en salud, servicios públicos y protección de derechos, pero también plantea riesgos (discriminación, opacidad, sesgo, amenazas a libertad de expresión y privacidad). Aboga por un enfoque centrado en las personas, con seguridad, transparencia, supervisión humana, protección de datos y medidas que aseguren que la digitalización y la IA respeten la igualdad, no discriminación y derechos sociales y democráticos

Este documento presenta las Conclusiones del Consejo de la UE que subrayan la importancia de las tecnologías digitales y la inteligencia artificial (IA) para la competitividad, innovación y desarrollo de Europa, especialmente tras la pandemia de COVID‑19. Reconoce que las tecnologías digitales pueden mejorar la vida de las personas y contribuir a la protección y promoción de los derechos fundamentales y la democracia, siempre que se desarrollen y utilicen de forma responsable, centrada en las personas y respetuosa con los valores europeos. También señala que el uso indebido de estas tecnologías puede implicar riesgos para los derechos de los ciudadanos. El texto enfatiza la necesidad de abordar estos riesgos, promoviendo transparencia, supervisión humana, cumplimiento de normas existentes y adaptación de marcos legales para asegurar la compatibilidad de la IA con los derechos consagrados en la Carta de los Derechos Fundamentales de la UE.

La página web explica que el AI Pact es una iniciativa de la Comisión Europea para ayudar a las organizaciones a prepararse para la implementación del Reglamento de Inteligencia Artificial (AI Act), que entró en vigor el 1 de agosto de 2024, aunque algunas obligaciones se aplican más adelante. El Pacto se estructura en dos pilares: uno enfocado en crear una comunidad colaborativa donde distintos grupos comparten experiencias, mejores prácticas y asisten a seminarios web, y otro que facilita compromisos voluntarios por parte de empresas que adoptan medidas anticipadas para cumplir con requisitos clave de la ley, como gobernanza de IA, identificación de sistemas de alto riesgo y promoción de la alfabetización en IA. Más de 230 organizaciones de diversos sectores han firmado estas promesas, que no son legalmente vinculantes, y pueden incluir acciones adicionales como supervisión humana y mitigación de riesgos.

La página web explica que las AI Factories son ecosistemas dinámicos impulsados por la Empresa Común EuroHPC que aprovechan la capacidad de supercomputación de alto rendimiento para desarrollar modelos avanzados de inteligencia artificial confiables y fomentar la innovación en toda Europa, reuniendo potencia informática, datos, talento y colaboración entre centros de supercomputación, universidades, pymes, industria e inversores. Estas fábricas actúan como hubs para crear y aplicar IA en sectores como salud, clima y finanzas, y están abiertas a usuarios europeos de diversos ámbitos. La Comisión las ha señalado como una prioridad estratégica dentro del AI Continent Action Plan, y espera que al menos 15 fábricas y varias “antenas” estén operativas en 2025-2026, ampliando la capacidad de IA de la UE. Además, el plan InvestAI prevé financiar la creación de hasta cinco AI Gigafactories, instalaciones a gran escala con miles de procesadores para entrenar modelos de próxima generación.

El informe examina cómo la IA puede amplificar discriminaciones existentes y perpetuar sesgos de género si no se incorpora una perspectiva socio‑técnica en su diseño y uso, analizando las estrategias de la UE, Suecia y España al respecto. Destaca que la UE incluye principios éticos y normas que pueden apoyar un enfoque de género, mientras que Suecia desarrolla iniciativas más explícitas para usar la IA en favor de la igualdad en ámbitos como educación, trabajo y salud. En España, aunque hay documentos base y referencias al género en sus estrategias, faltan proyectos concretos y medidas específicas. El informe ofrece recomendaciones como guías de implementación con perspectiva de género y sistemas de IA que aborden violencia de género, brecha salarial y salud.

El libro blanco propone opciones de política para impulsar el desarrollo y uso de la IA en la UE, equilibrando innovación con gestión de riesgos y respeto por derechos y valores fundamentales. Plantea dos pilares: crear un “ecosistema de excelencia” para investigación, innovación y competitividad, y un “ecosistema de confianza” con reglas que aborden riesgos de ciertos usos de la IA (especialmente en sectores críticos) mediante requisitos como transparencia, robustez, supervisión humana y otros mecanismos regulatorios. El documento se abrió a consulta pública y sirvió de base para el posterior desarrollo del marco legislativo europeo sobre IA, como la Ley de Inteligencia Artificial de la UE.

El artículo explica el enfoque basado en el riesgo del Reglamento Europeo de IA. Detalla las diferencias entre sistemas de riesgo inaceptable, riesgo alto, riesgo limitado y riesgo bajo. También se aborda la necesidad de la regulación en un escenario cambiante en el que la protección de los derechos humanos en los entornos digitales es más importante que nunca.

El artículo explica que la regulación europea de IA está avanzando de forma irregular y con muchas incógnitas. El Reglamento de IA europeo es la primera normativa global de este tipo que clasifica sistemas según riesgo y fija obligaciones y prohibiciones para proteger seguridad y derechos fundamentales. Su aplicación progresiva ya ha comenzado para sistemas de alto riesgo, pero muchas empresas aún no saben cómo cumplirla y hay dudas sobre plazos, requisitos y el impacto que tendrá en la innovación y competitividad. El reto principal es armonizar la protección de derechos, la transparencia y la responsabilidad con la necesidad de fomentar el desarrollo tecnológico en Europa, evitando desventajas frente a otras regiones con marcos menos estrictos