Referencias documentales

El artículo explica el enfoque basado en el riesgo del Reglamento Europeo de IA. Detalla las diferencias entre sistemas de riesgo inaceptable, riesgo alto, riesgo limitado y riesgo bajo. También se aborda la necesidad de la regulación en un escenario cambiante en el que la protección de los derechos humanos en los entornos digitales es más importante que nunca.

El artículo explica que la regulación europea de IA está avanzando de forma irregular y con muchas incógnitas. El Reglamento de IA europeo es la primera normativa global de este tipo que clasifica sistemas según riesgo y fija obligaciones y prohibiciones para proteger seguridad y derechos fundamentales. Su aplicación progresiva ya ha comenzado para sistemas de alto riesgo, pero muchas empresas aún no saben cómo cumplirla y hay dudas sobre plazos, requisitos y el impacto que tendrá en la innovación y competitividad. El reto principal es armonizar la protección de derechos, la transparencia y la responsabilidad con la necesidad de fomentar el desarrollo tecnológico en Europa, evitando desventajas frente a otras regiones con marcos menos estrictos

El artículo explica que entran en vigor nuevas exigencias de la Ley de Inteligencia Artificial de la Unión Europea, que imponen a los modelos de IA generativa —como ChatGPT, Gemini o Grok— obligaciones de transparencia y seguridad para evitar posibles multas de hasta el 7 % de la facturación global o 35 millones € por infracciones. Bajo esta normativa, los sistemas de IA deben implementar criterios que respeten los derechos de autor y cumplir con normas de protección y trazabilidad, alineándose con el marco legal europeo para garantizar la protección de contenidos protegidos y la no vulneración de derechos fundamentales. El régimen forma parte de un despliegue progresivo de la regulación hasta 2027, en el que los desarrolladores deben demostrar conformidad para operar en el mercad

El informe presenta una herramienta de autoevaluación creada por el High‑Level Expert Group on AI (AI HLEG) de la Comisión Europea para ayudar a desarrolladores y responsables de IA a aplicar los principios de una IA confiable en la práctica. Publicada el 17 de julio de 2020 tras un proceso piloto con más de 350 participantes, convierte los requisitos éticos de las Ethics Guidelines for Trustworthy AI en un listado dinámico de verificación. Estos requisitos son: agencia humana y supervisión, robustez técnica y seguridad, privacidad y gobernanza de datos, transparencia, diversidad, no discriminación y equidad, bienestar ambiental y social y rendición de cuentas. ALTAI permite que las organizaciones evalúen si sus sistemas de IA cumplen estos principios y adoptan medidas concretas para mitigar riesgos y asegurar que los usuarios se beneficien de la IA sin exponerse a peligros innecesarios; también existe como herramienta web interactiva.

El informe desarrolla las recomendaciones generales sobre IA confiable desde una perspectiva sectorial, reconociendo que la aplicación y los retos de la IA varían según el contexto. Partiendo de las Policy and Investment Recommendations de 2019, el informe explora cómo adaptar esas recomendaciones en tres sectores clave: el sector público, la sanidad y la manufactura e Internet de las Cosas (IoT), considerados esenciales para el bienestar social, la competitividad y la innovación europea. El análisis sectorial busca refinar las políticas y estrategias de inversión para IA confiable, incorporando experiencias y necesidades específicas de cada ámbito, con el fin de orientar a los responsables políticos sobre cómo aplicar principios de transparencia, equidad, seguridad y beneficios sociales en la práctica dentro de sectores concretos

El informe examina cómo la IA puede amplificar discriminaciones existentes y perpetuar sesgos de género si no se incorpora una perspectiva socio‑técnica en su diseño y uso, analizando las estrategias de la UE, Suecia y España al respecto. Destaca que la UE incluye principios éticos y normas que pueden apoyar un enfoque de género, mientras que Suecia desarrolla iniciativas más explícitas para usar la IA en favor de la igualdad en ámbitos como educación, trabajo y salud. En España, aunque hay documentos base y referencias al género en sus estrategias, faltan proyectos concretos y medidas específicas. El informe ofrece recomendaciones como guías de implementación con perspectiva de género y sistemas de IA que aborden violencia de género, brecha salarial y salud.

El documento contiene Conclusiones del Consejo de la UE sobre la Carta de Derechos Fundamentales en el contexto de la inteligencia artificial (IA) y el cambio digital. El Consejo subraya la necesidad de que la transformación digital y el uso de tecnologías como la IA respeten y promuevan los valores y derechos fundamentales consagrados en la Carta de la UE, garantizando dignidad humana, libertad, igualdad, democracia, Estado de derecho y derechos humanos. Reconoce que la IA puede aportar beneficios en salud, servicios públicos y protección de derechos, pero también plantea riesgos (discriminación, opacidad, sesgo, amenazas a libertad de expresión y privacidad). Aboga por un enfoque centrado en las personas, con seguridad, transparencia, supervisión humana, protección de datos y medidas que aseguren que la digitalización y la IA respeten la igualdad, no discriminación y derechos sociales y democráticos

Este documento presenta las Conclusiones del Consejo de la UE que subrayan la importancia de las tecnologías digitales y la inteligencia artificial (IA) para la competitividad, innovación y desarrollo de Europa, especialmente tras la pandemia de COVID‑19. Reconoce que las tecnologías digitales pueden mejorar la vida de las personas y contribuir a la protección y promoción de los derechos fundamentales y la democracia, siempre que se desarrollen y utilicen de forma responsable, centrada en las personas y respetuosa con los valores europeos. También señala que el uso indebido de estas tecnologías puede implicar riesgos para los derechos de los ciudadanos. El texto enfatiza la necesidad de abordar estos riesgos, promoviendo transparencia, supervisión humana, cumplimiento de normas existentes y adaptación de marcos legales para asegurar la compatibilidad de la IA con los derechos consagrados en la Carta de los Derechos Fundamentales de la UE.

El artículo describe que un comité del Senado de Alabama aprobó el proyecto SB 63, destinado a regular el uso de inteligencia artificial por parte de aseguradoras al determinar la cobertura de servicios médicos. La medida no prohíbe la IA, pero exige que toda denegación de cobertura sea revisada y decidida por un profesional sanitario humano. También obliga a las aseguradoras a informar de forma “prominente y por escrito” cuando se utilice IA en el proceso de determinación de cobertura y prevé sanciones del Departamento de Seguros para aquellas compañías que incumplan los requisitos de divulgación o de revaluación humana tras una denegación automatizada. El Departamento de Seguros señaló que las aseguradoras usan IA con frecuencia, pero subrayó la necesidad de proteger la privacidad y garantizar una intervención humana en las denegaciones. Blue Cross Blue Shield de Alabama afirmó que no utiliza IA para determinar coberturas, manteniendo procesos guiados por revisión humana.

La inteligencia artificial está transformando la atención sanitaria en Vermont, desde la gestión de citas hasta el diagnóstico de fracturas y accidentes cerebrovasculares. Sistemas como RapidAI permiten detectar ictus en minutos, mientras herramientas como Abridge automatizan la transcripción clínica, reduciendo hasta un 60% el tiempo dedicado a documentación y aliviando la carga cognitiva del personal médico. Otras aplicaciones optimizan radiografías, predicen reingresos hospitalarios y agilizan la comunicación con pacientes. Aunque la decisión terapéutica sigue en manos humanas, la IA mejora eficiencia y reduce el agotamiento profesional en un sistema tensionado por escasez de personal. También se exploran desarrollos avanzados, como modelos predictivos para tratar la sepsis mediante simulaciones digitales, evidenciando el potencial y los límites actuales de la tecnología.