Referencias documentales

Directrices de la OMS sobre ética e IA en la salud. Identifican seis principios éticos e incluyen advertencias específicas sobre los riesgos del sesgo algorítmico en sistemas de diagnóstico entrenados con datos no representativos.

Primer instrumento de vocación universal sobre ética de la IA, adoptado por unanimidad de los 193 Estados miembros el 23 de noviembre de 2021. Establece diez principios incluyendo proporcionalidad, equidad, privacidad, supervisión humana, transparencia, explicabilidad y rendición de cuentas. Ha servido de referencia conceptual para la negociación del Convenio Marco del Consejo de Europa sobre IA (CETS n.º 225), que lo cita expresamente en su Memorando Explicativo.

Primeros principios intergubernamentales sobre IA, adoptados el 22 de mayo de 2019 y actualizados en mayo de 2024. Respaldados por el G20 en la Cumbre de Osaka. Establecen cinco principios de confiabilidad. La OCDE confirma que la UE, el Consejo de Europa, los EE.UU. y la ONU han adoptado su definición de sistema de IA en sus marcos regulatorios. 47 adherentes.

En este episodio, el presentador João Tomé conversa con Emily Hancock, Directora de Privacidad (CPO) de Cloudflare, sobre la evolución de la privacidad en 2026 con la irrupción de la inteligencia artificial (IA). Hancock explica cómo su rol ha pasado del cumplimiento del GDPR a una gobernanza de datos más amplia que integra la IA responsable y la ciberseguridad. Se abordan conceptos clave como la privacidad por diseño, la minimización de datos y la necesidad de supervisión humana («human in the loop») para garantizar la precisión y confianza en los sistemas de IA. También se analizan los desafíos de la fragmentación regulatoria global, el aumento de las solicitudes gubernamentales de datos, las estrategias de soberanía digital y la creciente amenaza de los incidentes internos («insider threats»). Hancock subraya la importancia de la colaboración entre equipos de privacidad y seguridad para proteger los datos de los clientes en un entorno donde la IA transforma tanto las capacidades de ataque como de defensa.

Este artículo detalla un proyecto de ley bipartidista presentado en Ohio (HB 573) que busca prohibir el uso de algoritmos de Inteligencia Artificial para fijar precios mediante la recopilación de datos de competidores. La propuesta surge ante la preocupación de que estas herramientas tecnológicas faciliten una colusión tácita o coordinada, permitiendo que las empresas inflen los costos de productos y servicios de manera artificial, perjudicando al consumidor final. La legislación apunta específicamente a sectores sensibles como la vivienda y el comercio minorista, donde el uso de software de terceros para alinear precios ha sido objeto de escrutinio nacional. El objetivo primordial es proteger la libre competencia en el mercado estatal y evitar que la automatización se convierta en un mecanismo para la manipulación de precios o la formación de monopolios digitales.

Este registro legislativo detalla la propuesta HB 4875 de Illinois, la cual busca regular el uso de materiales protegidos por derechos de autor en el entrenamiento de sistemas de Inteligencia Artificial generativa. La ley obligaría a los desarrolladores de IA a mantener un registro detallado de todos los conjuntos de datos utilizados para entrenar sus modelos y a hacer pública esta información. El objetivo principal es garantizar que los creadores de contenido sean notificados y, potencialmente, compensados cuando sus obras se utilicen para alimentar algoritmos comerciales. Además, el proyecto de ley establece mecanismos de cumplimiento y sanciones para las empresas que no cumplan con estos estándares de transparencia, abordando las crecientes preocupaciones éticas y legales sobre la propiedad intelectual en la era de la automatización y la creación de contenido sintético.

El Innovation Impact Report 2025 de Nueva Jersey muestra una expansión significativa del uso de inteligencia artificial en la administración pública para mejorar la eficiencia y el acceso a servicios esenciales. El informe destaca cómo la Oficina de Innovación del estado utilizó análisis de datos e IA para identificar y matricular automáticamente a casi 100.000 niños adicionales en el programa federal de ayudas alimentarias de verano (SEBT), ampliando el acceso a prestaciones sociales. También subraya la implantación del asistente generativo NJ AI Assistant, ya utilizado por 15.000 empleados públicos, que ha permitido ahorrar millones de dólares con un coste mínimo. Otras iniciativas incluyen herramientas de automatización para la gestión documental y el análisis de llamadas, así como chatbots piloto en centros de atención telefónica, reduciendo drásticamente los tiempos de espera. El informe presenta la IA como un instrumento práctico para modernizar la administración, mejorar la prestación de servicios públicos y optimizar recursos.

La inteligencia artificial está transformando de manera profunda el sistema sanitario en Nueva Jersey, impulsada tanto por avances tecnológicos como por experiencias personales de investigadores y médicos. La IA se presenta como una herramienta clave para pasar de una medicina reactiva a una predictiva y preventiva, capaz de analizar enormes volúmenes de datos clínicos, genéticos e imágenes médicas para anticipar enfermedades graves como el cáncer o los infartos. Ya se utiliza para detectar patologías que pueden pasar desapercibidas al ojo humano y para optimizar el tiempo de los profesionales sanitarios, permitiendo una relación más directa con los pacientes. Además, impulsa la medicina de precisión y el seguimiento personalizado mediante dispositivos digitales. No obstante, el texto advierte de riesgos relevantes, como sesgos algorítmicos, errores de la IA generativa y amenazas a la privacidad, subrayando la necesidad de marcos de evaluación y control rigurosos.

El Gobernador de Pensilvania plantea objetivos relativos a los derechos digitales en sus propuestas presupuestarias para el año 2026. Entre ellos, la modernización de servicios públicos digitales, la conectividad, la gobernanza de infraestructuras tecnológicas y las salvaguardas frente a usos de IA. En primer lugar, se menciona el refuerzo de herramientas de experiencia digital del gobierno (CODE PA) para mejorar procesos y transparencia administrativa, lo que apunta a una relación más eficaz de la ciudadanía con servicios públicos digitales. En segundo lugar, se aborda el impulso a centros de datos y a la economía de la IA, pero condicionado a estándares de “desarrollo responsable” (energía, agua, transparencia y participación comunitaria), conectando tecnología con rendición de cuentas y sostenibilidad. Por último, se proponen protecciones para un uso seguro de IA, especialmente respecto de menores y colectivos vulnerables: verificación de edad, avisos a progenitores ante señales de autolesión/violencia, recordatorios de que se interactúa con IA, y límites a contenido sexual o violento con menores, además de alfabetización digital.

La inteligencia artificial ya es una realidad en Rhode Island y el Estado busca posicionarse como referente nacional mediante una estrategia pública responsable e inclusiva. El gobernador Dan McKee impulsó en 2024 el Rhode Island AI Task Force, que acaba de publicar un informe con recomendaciones para anticipar impactos y aprovechar oportunidades. El plan propone que el sector público lidere la adopción ética de la IA, con gobernanza, transparencia y control de sesgos, a la vez que refuerza la formación del personal. Destaca la preparación de estudiantes y trabajadores “AI-ready”, desde K-12 hasta la educación superior, y la atracción de empresas mediante una fuerza laboral capacitada. Expertos como Jim Langevin subrayan que la IA transformará empleo, educación y servicios públicos, mejorando la eficiencia y la experiencia ciudadana si se implementa con responsabilidad.