Referencias documentales

El informe propone un conjunto de criterios éticos para guiar el desarrollo y uso de sistemas de inteligencia artificial confiables. Estas directrices establecen que una IA debe ser lícita (cumplir con las leyes y reglamentos vigentes), ética (respetar valores y principios éticos como dignidad humana, no discriminación y justicia) y robusta (técnica y socialmente segura para minimizar daños accidentales). El documento ofrece orientaciones para aplicar estos principios a lo largo del ciclo de vida de los sistemas de IA, contribuyendo a fortalecer la seguridad, transparencia, responsabilidad y confianza pública en tecnologías basadas en IA dentro de la Unión Europea, como base para futuras normas y prácticas sectoriales en este ámbito

El artículo destaca que el Reglamento Europeo de Inteligencia Artificial ofrece un marco regulatorio comprensivo que regula el uso y despliegue de sistemas de IA con un enfoque basado en el riesgo, con el objetivo de proteger valores y derechos fundamentales al tiempo que permite la innovación en Europa. Clasifica usos de IA según riesgo —prohibidos, de alto, limitado o mínimo— y establece obligaciones de transparencia, supervisión humana y gestión de riesgos para proveedores y usuarios, además de sanciones por incumplimiento. Aunque algunos actores tecnológicos han advertido de posibles barreras competitivas por las exigencias normativas, el artículo argumenta que esta regulación ofrece seguridad jurídica y crea un entorno fiable donde las empresas pueden innovar con respeto a derechos y seguridad, lo que podría convertirse en una ventaja competitiva frente a mercados sin reglas claras.

El informe examina cómo se está implementando la IA en la atención sanitaria y por qué, pese a su potencial para mejorar eficiencia operativa, reducir cargas administrativas y apoyar diagnósticos y tratamientos, su adopción clínica real sigue siendo lenta. A través de revisión bibliográfica y consultas con actores sectoriales, identifica múltiples obstáculos tecnológicos y de datos, complejidades legales y regulatorias, desafíos organizativos y barreras sociales o culturales que dificultan el despliegue de IA en hospitales y sistemas sanitarios. El estudio también señala estrategias exitosas aplicadas globalmente que pueden servir de inspiración y plantea consideraciones para actuaciones futuras, proponiendo un marco de indicadores para monitorizar e integrar la IA de manera sostenible, equilibrando la innovación con la protección de los derechos fundamentales de pacientes y profesionales.

El artículo desarrolla como los centros de datos son una infraestructura esencial que soporta servicios digitales como almacenamiento en la nube, redes sociales, transmisión de vídeo y inteligencia artificial, pero que también representan un reto energético creciente debido a su elevado consumo de electricidad. Según estimaciones de la Agencia Internacional de la Energía, los centros de datos ya representaban unos 415 TWh a nivel mundial en 2024 y su consumo podría más que duplicarse hacia 2030, impulsado principalmente por la computación intensiva para IA, lo que plantea desafíos para la eficiencia energética y la capacidad de las redes eléctricas. En la UE, esto ha llevado a nuevas obligaciones de monitoreo y reporte energético, la creación de una base de datos europea sobre rendimiento energético y huella hídrica, y la preparación de un paquete de eficiencia energética para centros de datos con etiquetas y una hoja de ruta estratégica para integrar digitalización e IA de forma sostenible y alineada con la transición energética limpia.

El libro blanco propone opciones de política para impulsar el desarrollo y uso de la IA en la UE, equilibrando innovación con gestión de riesgos y respeto por derechos y valores fundamentales. Plantea dos pilares: crear un “ecosistema de excelencia” para investigación, innovación y competitividad, y un “ecosistema de confianza” con reglas que aborden riesgos de ciertos usos de la IA (especialmente en sectores críticos) mediante requisitos como transparencia, robustez, supervisión humana y otros mecanismos regulatorios. El documento se abrió a consulta pública y sirvió de base para el posterior desarrollo del marco legislativo europeo sobre IA, como la Ley de Inteligencia Artificial de la UE.

La web explica que la IA es una tecnología digital que permite a los sistemas realizar tareas que normalmente requieren intervención humana, aprendiendo de datos y mejorando con el tiempo. La IA se usa en sectores como salud, educación, transporte, energía e industria para automatizar procesos, mejorar diagnósticos, personalizar aprendizaje y optimizar recursos. Aunque aporta beneficios sociales, económicos y medioambientales, también plantea riesgos como discriminación, sesgos, intrusión en la privacidad o manipulación de comportamiento. Por ello, la Unión Europea trabaja para promover una IA centrada en las personas, fiable, segura y respetuosa con valores europeos. El Reglamento de Inteligencia Artificial de la UE, primer marco legal de este tipo en el mundo, establece normas para usos específicos de IA, prohíbe prácticas de riesgo y busca equilibrar la innovación con la protección de derechos fundamentales.

La web explica como la Unión Europea ha adoptado el Reglamento de Inteligencia Artificial (AI Act), el primer marco jurídico mundial integral para regular los sistemas de IA, con el objetivo de que sean seguros, éticos y fiables. El reglamento clasifica las aplicaciones de IA según el nivel de riesgo que plantean, imponiendo normas más estrictas a las de mayor riesgo y prohibiendo aquellas que suponen un peligro para la seguridad o derechos de las personas, como la manipulación conductual o la puntuación social. El marco legal también establece obligaciones de transparencia, supervisión humana y sanciones proporcionales para quienes infrinjan las reglas. Además, crea estructuras de gobernanza (oficina, panel científico y grupo de expertos) para asegurar una aplicación uniforme en la UE. El Reglamento pretende equilibrar la protección de derechos fundamentales con la innovación y el desarrollo de un mercado único de IA en Europa.

La web aborda los beneficios y los riesgos de la IA. LA ofrecepotenciales beneficios a la sociedad y la economía, incluyendo mejoras en salud, transporte, educación, energía e industria, optimización de procesos y aumento de eficiencia. Sin embargo, su uso conlleva riesgos significativos: discriminación y sesgos algorítmicos, violación de la privacidad, perfilado y manipulación de comportamiento, ciberseguridad insuficiente y dependencia tecnológica. La Unión Europea busca equilibrar estos beneficios y riesgos mediante el Reglamento de Inteligencia Artificial (AI Act), que clasifica los sistemas de IA según su nivel de riesgo, prohíbe prácticas peligrosas y establece obligaciones de transparencia, supervisión humana y responsabilidad. El enfoque europeo promueve una IA centrada en las personas, segura, ética y confiable, compatible con los valores fundamentales de la UE, y fomenta un desarrollo innovador que impulse la competitividad y la protección de derechos en todos los sectores de la sociedad.

El estudio aborda la gobernanza de datos y la IA desde una perspectiva de “justicia de datos”, que prioriza la equidad, la representación de intereses plurales y la creación de bienes públicos dentro de la economía de datos. Analiza cómo el actual marco de la UE —incluyendo el AI Act, el Data Governance Act y el Data Act— articula la producción de valor de datos tanto para fines públicos como privados, pero advierte que carece de una visión normativa global que equilibrie poder, acceso y beneficios. Propone cuatro capacidades para una buena gobernanza: infraestructuras públicas fuertes, inclusividad, mecanismos efectivamente responsables y responsabilidad global. El estudio también explora modelos alternativos de gobernanza de datos (trusts, cooperativas, soberanía de datos) y ofrece opciones políticas para democratizar el control de datos y la IA, fortalecer el valor público y garantizar que los derechos y beneficios se distribuyan de forma equitativa en la sociedad europea.

El Proyecto Hawai‘i Senate Bill 2967 propone establecer un marco de protección al consumidor para el uso de sistemas de inteligencia artificial en interacciones con consumidores y decisiones con impacto significativo (como crédito, vivienda, empleo o servicios). Requiere que las empresas revelen cuando usan IA, prohíbe eludir responsabilidad mediante IA, y crea derechos de explicación, corrección, apelación y revisión humana de decisiones automatizadas. También demanda gestión de riesgos, pruebas y controles de ciberseguridad para sistemas de IA de alto riesgo y la notificación de incidentes relevantes.