Referencias documentales

Diversos estados de EE. UU. están reforzando la supervisión de los chatbots de IA utilizados en contextos de salud mental tras varios suicidios vinculados a interacciones con estas herramientas. Legisladores y expertos advierten que, aunque los chatbots pueden ofrecer recursos o derivaciones, no sustituyen la atención de profesionales licenciados y pueden generar una peligrosa “falsa intimidad”, especialmente en menores. En Nueva York y Utah exigen avisos claros de que no son humanos y la derivación a líneas de crisis ante indicios de autolesión. Pese a intentos federales de limitar la regulación estatal, las iniciativas avanzan para imponer salvaguardas, transparencia y límites funcionales. Organismos como la Federal Trade Commission investigan prácticas empresariales, y compañías como OpenAI afirman estar incorporando medidas de seguridad, en un debate marcado por la protección de menores y la responsabilidad algorítmica.

La inteligencia artificial está transformando de manera profunda el sistema sanitario en Nueva Jersey, impulsada tanto por avances tecnológicos como por experiencias personales de investigadores y médicos. La IA se presenta como una herramienta clave para pasar de una medicina reactiva a una predictiva y preventiva, capaz de analizar enormes volúmenes de datos clínicos, genéticos e imágenes médicas para anticipar enfermedades graves como el cáncer o los infartos. Ya se utiliza para detectar patologías que pueden pasar desapercibidas al ojo humano y para optimizar el tiempo de los profesionales sanitarios, permitiendo una relación más directa con los pacientes. Además, impulsa la medicina de precisión y el seguimiento personalizado mediante dispositivos digitales. No obstante, el texto advierte de riesgos relevantes, como sesgos algorítmicos, errores de la IA generativa y amenazas a la privacidad, subrayando la necesidad de marcos de evaluación y control rigurosos.

El Gobernador de Pensilvania plantea objetivos relativos a los derechos digitales en sus propuestas presupuestarias para el año 2026. Entre ellos, la modernización de servicios públicos digitales, la conectividad, la gobernanza de infraestructuras tecnológicas y las salvaguardas frente a usos de IA. En primer lugar, se menciona el refuerzo de herramientas de experiencia digital del gobierno (CODE PA) para mejorar procesos y transparencia administrativa, lo que apunta a una relación más eficaz de la ciudadanía con servicios públicos digitales. En segundo lugar, se aborda el impulso a centros de datos y a la economía de la IA, pero condicionado a estándares de “desarrollo responsable” (energía, agua, transparencia y participación comunitaria), conectando tecnología con rendición de cuentas y sostenibilidad. Por último, se proponen protecciones para un uso seguro de IA, especialmente respecto de menores y colectivos vulnerables: verificación de edad, avisos a progenitores ante señales de autolesión/violencia, recordatorios de que se interactúa con IA, y límites a contenido sexual o violento con menores, además de alfabetización digital.

Este artículo detalla un proyecto de ley bipartidista presentado en Ohio (HB 573) que busca prohibir el uso de algoritmos de Inteligencia Artificial para fijar precios mediante la recopilación de datos de competidores. La propuesta surge ante la preocupación de que estas herramientas tecnológicas faciliten una colusión tácita o coordinada, permitiendo que las empresas inflen los costos de productos y servicios de manera artificial, perjudicando al consumidor final. La legislación apunta específicamente a sectores sensibles como la vivienda y el comercio minorista, donde el uso de software de terceros para alinear precios ha sido objeto de escrutinio nacional. El objetivo primordial es proteger la libre competencia en el mercado estatal y evitar que la automatización se convierta en un mecanismo para la manipulación de precios o la formación de monopolios digitales.

Este registro legislativo detalla la propuesta HB 4875 de Illinois, la cual busca regular el uso de materiales protegidos por derechos de autor en el entrenamiento de sistemas de Inteligencia Artificial generativa. La ley obligaría a los desarrolladores de IA a mantener un registro detallado de todos los conjuntos de datos utilizados para entrenar sus modelos y a hacer pública esta información. El objetivo principal es garantizar que los creadores de contenido sean notificados y, potencialmente, compensados cuando sus obras se utilicen para alimentar algoritmos comerciales. Además, el proyecto de ley establece mecanismos de cumplimiento y sanciones para las empresas que no cumplan con estos estándares de transparencia, abordando las crecientes preocupaciones éticas y legales sobre la propiedad intelectual en la era de la automatización y la creación de contenido sintético.

En este episodio, el presentador João Tomé conversa con Emily Hancock, Directora de Privacidad (CPO) de Cloudflare, sobre la evolución de la privacidad en 2026 con la irrupción de la inteligencia artificial (IA). Hancock explica cómo su rol ha pasado del cumplimiento del GDPR a una gobernanza de datos más amplia que integra la IA responsable y la ciberseguridad. Se abordan conceptos clave como la privacidad por diseño, la minimización de datos y la necesidad de supervisión humana («human in the loop») para garantizar la precisión y confianza en los sistemas de IA. También se analizan los desafíos de la fragmentación regulatoria global, el aumento de las solicitudes gubernamentales de datos, las estrategias de soberanía digital y la creciente amenaza de los incidentes internos («insider threats»). Hancock subraya la importancia de la colaboración entre equipos de privacidad y seguridad para proteger los datos de los clientes en un entorno donde la IA transforma tanto las capacidades de ataque como de defensa.

Una corte federal de Delaware dictaminó que ROSS Intelligence infringió derechos de autor al usar contenido de Thomson Reuters para entrenar su herramienta de IA. La decisión limita el uso del principio de “uso justo” en el entrenamiento de modelos, afectando el desarrollo de IA y la competencia en el mercado.

El blog de Clifford Chance analiza cómo las leyes de privacidad estatales en EE. UU., incluida la de Maryland, están moldeando la gobernanza de la inteligencia artificial. Destaca la aplicación de marcos legales existentes a sistemas automatizados, el papel de las autoridades de protección de datos y los desafíos regulatorios. La falta de una ley federal refuerza la importancia de las normativas estatales para garantizar derechos digitales frente al uso de IA.

En abril de 2025, la Asamblea General de Maryland aprobó una ley para crear un grupo de trabajo sobre inteligencia artificial. Tras críticas de la sociedad civil, se incluyó representación de expertos académicos, organizaciones de derechos civiles y protección de datos. Aunque se valora la inclusión de voces públicas, EPIC advierte que los grupos de estudio deben ir acompañados de legislación efectiva para proteger a la ciudadanía frente a los riesgos de sistemas de IA no regulados.

El proyecto de ley H.B. 1331 de Maryland regula el uso de sistemas de inteligencia artificial de alto riesgo en decisiones significativas sobre empleo, vivienda, salud, educación y servicios públicos. Exige transparencia, derechos de corrección y apelación para los ciudadanos, y medidas contra la discriminación algorítmica. EPIC apoya la iniciativa, destacando la necesidad de proteger a los residentes frente a decisiones automatizadas opacas y potencialmente injustas