Referencias documentales

El informe de Ballotpedia detalla la legislación vigente en Kentucky sobre el uso de deepfakes. El Estado ha aprobado leyes que regulan su uso en comunicaciones políticas, especialmente en campañas electorales, y en contenidos sexuales explícitos, incluyendo imágenes íntimas no consentidas. Las normas buscan equilibrar la protección frente a la manipulación digital con la libertad de expresión, en un contexto de creciente preocupación por los riesgos sociales y democráticos de esta tecnología

El último proyecto legislativo del estado de Vermont obligaría a incluir una advertencia clara cuando, dentro de los 90 días previos a una elección, se difunda contenido engañoso generado o manipulado mediante inteligencia artificial. La norma exige que el material indique expresamente que ha sido creado con tecnología digital y que representa hechos o declaraciones que no ocurrieron, incluyendo avisos específicos en anuncios audiovisuales. La iniciativa surge tras episodios recientes de “deepfakes” políticos y busca proteger la integridad electoral sin vulnerar la libertad de expresión, optando por la transparencia en lugar de la prohibición. Se excluyen la sátira y los medios informativos que contextualicen adecuadamente el contenido. El incumplimiento conllevaría multas económicas y posibles acciones civiles por parte de las personas afectadas.

La Cámara de Representantes de Massachusetts aprobó un proyecto de ley que exige que cualquier anuncio político en audio o video que utilice “medios sintéticos” incluya una advertencia visible y audible indicando que contiene contenido generado por IA. El aviso deberá aparecer al inicio y al final del anuncio, así como mantenerse durante su emisión. La norma se aplicará a comunicaciones financiadas por candidatos o grupos políticos con intención de influir en el voto, y prevé multas de 1.000 dólares por incumplimiento. La iniciativa responde a precedentes recientes de desinformación electoral mediante IA en otros estados. Además, la Cámara aprobó otra propuesta que prohíbe la difusión de comunicaciones engañosas dentro de los 90 días previos a una elección, permitiendo a las víctimas demandar, aunque excluye medios informativos y sátira.

El libro blanco propone opciones de política para impulsar el desarrollo y uso de la IA en la UE, equilibrando innovación con gestión de riesgos y respeto por derechos y valores fundamentales. Plantea dos pilares: crear un “ecosistema de excelencia” para investigación, innovación y competitividad, y un “ecosistema de confianza” con reglas que aborden riesgos de ciertos usos de la IA (especialmente en sectores críticos) mediante requisitos como transparencia, robustez, supervisión humana y otros mecanismos regulatorios. El documento se abrió a consulta pública y sirvió de base para el posterior desarrollo del marco legislativo europeo sobre IA, como la Ley de Inteligencia Artificial de la UE.

Página web sobre el Observatorio Europeo de los Medios Digitales (EDMO), una iniciativa de la UE que apoya a una comunidad independiente de verificadores de hechos, investigadores académicos y expertos para combatir la desinformación online y fortalecer la alfabetización mediática en Europa. Funciona como un centro transfronterizo que coordina acciones conjuntas, mapea organizaciones de verificación y investigación, crea un portal público con recursos contra la desinformación, y facilita acceso seguro a datos de plataformas para investigación. También ayuda a autoridades públicas a monitorizar cómo las plataformas limitan la desinformación y a analizar el entorno informativo digital. El observatorio se basa en una red de hubs nacionales y transnacionales, con financiación de programas europeos y gobernanza independiente, y ha lanzado directrices de alfabetización mediática para iniciativas efectivas en toda la UE.

El artículo alerta sobre campañas de desinformación electoral en Maryland, centradas en mensajes de texto fraudulentos enviados a votantes. La Junta Electoral Estatal advierte que estos mensajes buscan confundir sobre fechas, lugares y requisitos de votación. Se recomienda verificar la información únicamente en fuentes oficiales. La iniciativa forma parte de los esfuerzos para proteger la integridad del proceso democrático frente a manipulaciones digitales.

La web explica que la IA es una tecnología digital que permite a los sistemas realizar tareas que normalmente requieren intervención humana, aprendiendo de datos y mejorando con el tiempo. La IA se usa en sectores como salud, educación, transporte, energía e industria para automatizar procesos, mejorar diagnósticos, personalizar aprendizaje y optimizar recursos. Aunque aporta beneficios sociales, económicos y medioambientales, también plantea riesgos como discriminación, sesgos, intrusión en la privacidad o manipulación de comportamiento. Por ello, la Unión Europea trabaja para promover una IA centrada en las personas, fiable, segura y respetuosa con valores europeos. El Reglamento de Inteligencia Artificial de la UE, primer marco legal de este tipo en el mundo, establece normas para usos específicos de IA, prohíbe prácticas de riesgo y busca equilibrar la innovación con la protección de derechos fundamentales.

La web explica como la Unión Europea ha adoptado el Reglamento de Inteligencia Artificial (AI Act), el primer marco jurídico mundial integral para regular los sistemas de IA, con el objetivo de que sean seguros, éticos y fiables. El reglamento clasifica las aplicaciones de IA según el nivel de riesgo que plantean, imponiendo normas más estrictas a las de mayor riesgo y prohibiendo aquellas que suponen un peligro para la seguridad o derechos de las personas, como la manipulación conductual o la puntuación social. El marco legal también establece obligaciones de transparencia, supervisión humana y sanciones proporcionales para quienes infrinjan las reglas. Además, crea estructuras de gobernanza (oficina, panel científico y grupo de expertos) para asegurar una aplicación uniforme en la UE. El Reglamento pretende equilibrar la protección de derechos fundamentales con la innovación y el desarrollo de un mercado único de IA en Europa.

La web aborda los beneficios y los riesgos de la IA. LA ofrecepotenciales beneficios a la sociedad y la economía, incluyendo mejoras en salud, transporte, educación, energía e industria, optimización de procesos y aumento de eficiencia. Sin embargo, su uso conlleva riesgos significativos: discriminación y sesgos algorítmicos, violación de la privacidad, perfilado y manipulación de comportamiento, ciberseguridad insuficiente y dependencia tecnológica. La Unión Europea busca equilibrar estos beneficios y riesgos mediante el Reglamento de Inteligencia Artificial (AI Act), que clasifica los sistemas de IA según su nivel de riesgo, prohíbe prácticas peligrosas y establece obligaciones de transparencia, supervisión humana y responsabilidad. El enfoque europeo promueve una IA centrada en las personas, segura, ética y confiable, compatible con los valores fundamentales de la UE, y fomenta un desarrollo innovador que impulse la competitividad y la protección de derechos en todos los sectores de la sociedad.

A través de este dossier, la ARCOM pone a disposición del profesorado una serie de herramientas pedagógicas sobre la libertad de expresión, la libertad de comunicación audiovisual, la manipulación de la información y los discursos de odio en Internet.