Referencias documentales

Se trata de una página web en la que se puede ver de manera fácil y rápida los aspectos más relevantes del Plan de Acción para el continente de la IA basado en cinco pilares: las habilidades digitales, la simplificación de reglas, el desarrollo y adopción de IA, los datos y la infraestrcutura computacional.

Se trata de una web donde se explica el AI Act Service Desk como un punto de apoyo oficial de la Comisión Europea para facilitar la interpretación y aplicación del Reglamento Europeo de Inteligencia Artificial (AI Act), que entró en vigor el 1 de agosto de 2024 y se implementará hasta 2027. Ofrece a ciudadanos, empresas, administraciones y otros interesados la posibilidad de enviar preguntas al equipo de expertos del AI Office sobre cómo entender y cumplir las obligaciones del AI Act mediante un formulario en línea accesible con EU Login, aceptando consultas en todas las lenguas oficiales de la UE. Este servicio forma parte de la plataforma única de información que centraliza recursos, herramientas interactivas (como un comprobador de cumplimiento y un explorador del texto del AI Act) y guías para ayudar a navegar el marco regulatorio europeo sobre IA y apoyar una implementación coherente y accesible en toda la Unión.

La web aporta información sobre la European AI Office (Oficina Europea de Inteligencia Artificial): una entidad especializada creada dentro de la Comisión Europea para apoyar la implementación y aplicación del Reglamento Europeo de Inteligencia Artificial (AI Act) y promover el desarrollo de una IA fiable y alineada con los valores de la UE. Con unidades dedicadas a regulación, seguridad, innovación, política y aplicaciones sectoriales como la salud, la Oficina contribuye a aplicar de manera coherente las normas en todos los Estados miembros, desarrollar metodologías y códigos de práctica, supervisar el cumplimiento, evaluar riesgos de modelos de IA de uso general, y cooperar con científicos, industria y administraciones. También impulsa acciones políticas y estructurales para fortalecer ecosistemas de IA confiable, ayudar a pymes y startups, y fomentar cooperación internacional sobre gobernanza de IA, con el objetivo de equilibrar la protección de derechos fundamentales y la seguridad con la competitividad y la innovación europea.

El informe ofrece directrices éticas para el uso de la IA y de los datos en contextos educativos, orientadas principalmente a docentes y agentes educativos para que comprendan tanto las oportunidades como los riesgos de la IA en la enseñanza y el aprendizaje. Señala que las tecnologías de IA pueden aportar valor añadido a la educación cuando se usan de forma positiva, crítica y ética, pero también pueden provocar problemas si se implementan sin atención a valores fundamentales. Las directrices promueven prácticas que protejan a las personas y refuercen la calidad educativa, fomentando la reflexión sobre cuestiones como la equidad, la transparencia y el impacto en estudiantes y profesorado. En conjunto, buscan orientar la adopción responsable de IA y de los datos en educación, ayudando al personal docente a aprovechar su potencial sin vulnerar derechos ni introducir aplicaciones tecnológicas que puedan ser perjudiciale

El artículo explica el enfoque basado en el riesgo del Reglamento Europeo de IA. Detalla las diferencias entre sistemas de riesgo inaceptable, riesgo alto, riesgo limitado y riesgo bajo. También se aborda la necesidad de la regulación en un escenario cambiante en el que la protección de los derechos humanos en los entornos digitales es más importante que nunca.

El artículo explica que la regulación europea de IA está avanzando de forma irregular y con muchas incógnitas. El Reglamento de IA europeo es la primera normativa global de este tipo que clasifica sistemas según riesgo y fija obligaciones y prohibiciones para proteger seguridad y derechos fundamentales. Su aplicación progresiva ya ha comenzado para sistemas de alto riesgo, pero muchas empresas aún no saben cómo cumplirla y hay dudas sobre plazos, requisitos y el impacto que tendrá en la innovación y competitividad. El reto principal es armonizar la protección de derechos, la transparencia y la responsabilidad con la necesidad de fomentar el desarrollo tecnológico en Europa, evitando desventajas frente a otras regiones con marcos menos estrictos

El artículo explica que entran en vigor nuevas exigencias de la Ley de Inteligencia Artificial de la Unión Europea, que imponen a los modelos de IA generativa —como ChatGPT, Gemini o Grok— obligaciones de transparencia y seguridad para evitar posibles multas de hasta el 7 % de la facturación global o 35 millones € por infracciones. Bajo esta normativa, los sistemas de IA deben implementar criterios que respeten los derechos de autor y cumplir con normas de protección y trazabilidad, alineándose con el marco legal europeo para garantizar la protección de contenidos protegidos y la no vulneración de derechos fundamentales. El régimen forma parte de un despliegue progresivo de la regulación hasta 2027, en el que los desarrolladores deben demostrar conformidad para operar en el mercad

El informe presenta una herramienta de autoevaluación creada por el High‑Level Expert Group on AI (AI HLEG) de la Comisión Europea para ayudar a desarrolladores y responsables de IA a aplicar los principios de una IA confiable en la práctica. Publicada el 17 de julio de 2020 tras un proceso piloto con más de 350 participantes, convierte los requisitos éticos de las Ethics Guidelines for Trustworthy AI en un listado dinámico de verificación. Estos requisitos son: agencia humana y supervisión, robustez técnica y seguridad, privacidad y gobernanza de datos, transparencia, diversidad, no discriminación y equidad, bienestar ambiental y social y rendición de cuentas. ALTAI permite que las organizaciones evalúen si sus sistemas de IA cumplen estos principios y adoptan medidas concretas para mitigar riesgos y asegurar que los usuarios se beneficien de la IA sin exponerse a peligros innecesarios; también existe como herramienta web interactiva.

El informe desarrolla las recomendaciones generales sobre IA confiable desde una perspectiva sectorial, reconociendo que la aplicación y los retos de la IA varían según el contexto. Partiendo de las Policy and Investment Recommendations de 2019, el informe explora cómo adaptar esas recomendaciones en tres sectores clave: el sector público, la sanidad y la manufactura e Internet de las Cosas (IoT), considerados esenciales para el bienestar social, la competitividad y la innovación europea. El análisis sectorial busca refinar las políticas y estrategias de inversión para IA confiable, incorporando experiencias y necesidades específicas de cada ámbito, con el fin de orientar a los responsables políticos sobre cómo aplicar principios de transparencia, equidad, seguridad y beneficios sociales en la práctica dentro de sectores concretos

El informe examina cómo la IA puede amplificar discriminaciones existentes y perpetuar sesgos de género si no se incorpora una perspectiva socio‑técnica en su diseño y uso, analizando las estrategias de la UE, Suecia y España al respecto. Destaca que la UE incluye principios éticos y normas que pueden apoyar un enfoque de género, mientras que Suecia desarrolla iniciativas más explícitas para usar la IA en favor de la igualdad en ámbitos como educación, trabajo y salud. En España, aunque hay documentos base y referencias al género en sus estrategias, faltan proyectos concretos y medidas específicas. El informe ofrece recomendaciones como guías de implementación con perspectiva de género y sistemas de IA que aborden violencia de género, brecha salarial y salud.