Referencias documentales

Informe de la Commission nationale de l’informatique et des libertés (CNIL) sobre la identidad digital en Francia y en la Unión Europea. El trabajo pone el foco en las tecnologías que permiten al ciudadano identificarse en el entorno digital (como FranceConnect, France Identité o la futura Cartera Europea de Identidad Digital) y advierte de los riesgos de centralización, perfilado de la población y exclusión de ciertos colectivos por barreras o brechas digitales. De forma crítica, se aboga por la preservación de una pluralidad de identidades digitales y del pseudonimato, así como por el mantenimiento de alternativas no digitales.

Los algoritmos, los ordenadores, el tratamiento de datos y las máquinas modifican las decisiones humanas. En sentido ascendente, las influyen y las alteran. En sentido descendente, las implementan y las automatizan. La Ley francesa de Protección de Datos de 1978 estableció la necesidad de preservar el factor humano en la toma de decisiones. Con la adaptación al Derecho europeo en 1995 y en 2016 (RGPD), este principio se ha convertido en un elemento central del derecho digital: la persona humana debe estar en el centro de la tecnología, y esta debe estar al servicio de la persona humana. Este principio central contrasta con su falta de efectividad. En este marco, es necesario clarificar las reglas que rigen el diseño y uso de los algoritmos. El derecho emerge así como uno de los poderosos contrapesos a la tecnología, capaz de proteger la libertad humana.

El artículo analiza la necesidad de establecer una legislación específica en Pensilvania para proteger los datos biométricos de los ciudadanos. Examina los riesgos asociados al uso creciente de huellas dactilares, reconocimiento facial y otros identificadores únicos, señalando que, a diferencia de contraseñas o números de seguridad social, los datos biométricos no pueden ser sustituidos en caso de robo. El texto compara modelos existentes como la BIPA de Illinois, la CCPA de California y el GDPR europeo, proponiendo que Pensilvania adopte un marco legal amplio que defina la biometría, garantice derechos de privacidad, permita acciones privadas de reclamación y establezca sanciones. La autora concluye que la regulación estatal es esencial para prevenir abusos y reforzar la confianza ciudadana.

El gobernador Josh Shapiro está a punto de firmar un proyecto de ley que requiere a la policía estatal y otros departamentos recopilar datos de los conductores durante paradas de tráfico, incluyendo raza, etnia, género y edad, así como resultados de la parada (citación, arresto, búsqueda). Sin embargo, los datos estarán exentos de la Ley de Derecho a Saber (Right-to-Know Law) y serán filtrados por la policía o un tercero, generando preocupación entre defensores de la transparencia. La medida acompaña la prohibición de uso de celulares mientras se conduce, convirtiéndolo en una infracción primaria, y busca garantizar seguridad vial y reducir perfiles raciales.

El Estado de Maine aprobó una ley que prohíbe el uso de tecnología de reconocimiento facial por parte de empleados públicos, incluidos cuerpos policiales, salvo excepciones muy limitadas. La norma, considerada la más estricta del país, busca proteger la privacidad y las libertades civiles. Permite acciones legales contra quienes la infrinjan y exige transparencia en las solicitudes de uso por parte de agencias como el FBI o el BMV

La web explica como la Unión Europea ha adoptado el Reglamento de Inteligencia Artificial (AI Act), el primer marco jurídico mundial integral para regular los sistemas de IA, con el objetivo de que sean seguros, éticos y fiables. El reglamento clasifica las aplicaciones de IA según el nivel de riesgo que plantean, imponiendo normas más estrictas a las de mayor riesgo y prohibiendo aquellas que suponen un peligro para la seguridad o derechos de las personas, como la manipulación conductual o la puntuación social. El marco legal también establece obligaciones de transparencia, supervisión humana y sanciones proporcionales para quienes infrinjan las reglas. Además, crea estructuras de gobernanza (oficina, panel científico y grupo de expertos) para asegurar una aplicación uniforme en la UE. El Reglamento pretende equilibrar la protección de derechos fundamentales con la innovación y el desarrollo de un mercado único de IA en Europa.

La web explica que la IA es una tecnología digital que permite a los sistemas realizar tareas que normalmente requieren intervención humana, aprendiendo de datos y mejorando con el tiempo. La IA se usa en sectores como salud, educación, transporte, energía e industria para automatizar procesos, mejorar diagnósticos, personalizar aprendizaje y optimizar recursos. Aunque aporta beneficios sociales, económicos y medioambientales, también plantea riesgos como discriminación, sesgos, intrusión en la privacidad o manipulación de comportamiento. Por ello, la Unión Europea trabaja para promover una IA centrada en las personas, fiable, segura y respetuosa con valores europeos. El Reglamento de Inteligencia Artificial de la UE, primer marco legal de este tipo en el mundo, establece normas para usos específicos de IA, prohíbe prácticas de riesgo y busca equilibrar la innovación con la protección de derechos fundamentales.

La web aborda los beneficios y los riesgos de la IA. LA ofrecepotenciales beneficios a la sociedad y la economía, incluyendo mejoras en salud, transporte, educación, energía e industria, optimización de procesos y aumento de eficiencia. Sin embargo, su uso conlleva riesgos significativos: discriminación y sesgos algorítmicos, violación de la privacidad, perfilado y manipulación de comportamiento, ciberseguridad insuficiente y dependencia tecnológica. La Unión Europea busca equilibrar estos beneficios y riesgos mediante el Reglamento de Inteligencia Artificial (AI Act), que clasifica los sistemas de IA según su nivel de riesgo, prohíbe prácticas peligrosas y establece obligaciones de transparencia, supervisión humana y responsabilidad. El enfoque europeo promueve una IA centrada en las personas, segura, ética y confiable, compatible con los valores fundamentales de la UE, y fomenta un desarrollo innovador que impulse la competitividad y la protección de derechos en todos los sectores de la sociedad.

El artículo explica la Ley de Derechos Digitales de Florida (FDBR), firmada en junio de 2023 y vigente desde julio de 2024. La ley impone obligaciones a grandes empresas tecnológicas, exige consentimiento para procesar datos sensibles, y otorga derechos de exclusión frente a tecnologías de reconocimiento facial y voz. También prohíbe la vigilancia pasiva mediante dispositivos activados por voz y regula el tratamiento de datos de menores y motores de búsqueda.

El estudio analiza el uso de tecnologías biométricas impulsadas por IA en la Unión Europea y su impacto sobre derechos fundamentales y principios éticos. Examina casos como el reconocimiento facial en espacios públicos, la identificación remota, clasificación biométrica y sistemas de “reconocimiento de emociones”, subrayando que estas tecnologías pueden vulnerar la privacidad, la protección de datos y la libertad individual. Frente a los marcos legales actuales, centrados en la identificación, la investigación identifica lagunas regulatorias que dejan sin cubrir desarrollos emergentes que también afectan derechos y democracias. El documento sitúa estos debates dentro del contexto del proyecto de Reglamento de IA de la UE, proponiendo opciones políticas para fortalecer la protección de derechos, garantizar transparencia, justicia y responsabilidad en el despliegue de tecnologías biométricas y asegurar que la regulación atienda a los riesgos y a los rápidos avances técnicos