Referencias documentales

El proyecto de ley HB0068 de Wyoming establece principios para el uso ético y transparente de sistemas de inteligencia artificial por parte de entidades públicas. La normativa busca evitar sesgos, proteger derechos fundamentales y garantizar supervisión humana en decisiones automatizadas. También promueve la rendición de cuentas y la evaluación de impacto de los sistemas de IA utilizados en servicios gubernamentales, reforzando la confianza ciudadana en el entorno digital.

La inteligencia artificial ha abierto un escenario hasta hace poco desconocido, en el que el Derecho está llamado a operar distinciones e identificar límites, así como a reconocer intereses emergentes, ámbitos de responsabilidad y objetos de tutela.
Con el propósito de ofrecer una perspectiva de análisis amplia y articulada, el volumen, de clara impronta interdisciplinar, examina en primer lugar a la persona y su esfera de derechos y protecciones, también después de la muerte, sin olvidar el baluarte del derecho al olvido. A continuación, se profundiza en el concepto de mercado, con las problemáticas relativas a los contratos, la inteligencia artificial y el smart contract, pasando por la negociación robótica, los tokens y la criptomoneda. La obra analiza asimismo la importancia del Estado y de la Administración pública, atendiendo a las novedades en materia de digitalización y de servicios públicos.
Cierra la exposición el examen de los aspectos relativos a la legalidad y la justicia, tales como, por ejemplo, la responsabilidad penal por daños derivados de la inteligencia artificial o la que se plantea en procesos de elevada automatización, la prueba digital en el proceso civil y la IA en los sistemas de ADR y ODR. En el ámbito de la administración de justicia, se pone de relieve el impacto de la IA, en el presente y, sobre todo, en el futuro, en el procedimiento decisorio del juez y en el razonamiento probatorio, pero también en la previsibilidad de la decisión y en el precedente en la era digital.

El informe ofrece directrices éticas para el uso de la IA y de los datos en contextos educativos, orientadas principalmente a docentes y agentes educativos para que comprendan tanto las oportunidades como los riesgos de la IA en la enseñanza y el aprendizaje. Señala que las tecnologías de IA pueden aportar valor añadido a la educación cuando se usan de forma positiva, crítica y ética, pero también pueden provocar problemas si se implementan sin atención a valores fundamentales. Las directrices promueven prácticas que protejan a las personas y refuercen la calidad educativa, fomentando la reflexión sobre cuestiones como la equidad, la transparencia y el impacto en estudiantes y profesorado. En conjunto, buscan orientar la adopción responsable de IA y de los datos en educación, ayudando al personal docente a aprovechar su potencial sin vulnerar derechos ni introducir aplicaciones tecnológicas que puedan ser perjudiciale

El estudio aborda la gobernanza de datos y la IA desde una perspectiva de “justicia de datos”, que prioriza la equidad, la representación de intereses plurales y la creación de bienes públicos dentro de la economía de datos. Analiza cómo el actual marco de la UE —incluyendo el AI Act, el Data Governance Act y el Data Act— articula la producción de valor de datos tanto para fines públicos como privados, pero advierte que carece de una visión normativa global que equilibrie poder, acceso y beneficios. Propone cuatro capacidades para una buena gobernanza: infraestructuras públicas fuertes, inclusividad, mecanismos efectivamente responsables y responsabilidad global. El estudio también explora modelos alternativos de gobernanza de datos (trusts, cooperativas, soberanía de datos) y ofrece opciones políticas para democratizar el control de datos y la IA, fortalecer el valor público y garantizar que los derechos y beneficios se distribuyan de forma equitativa en la sociedad europea.

El artículo describe la creación de una política estatal en Ohio para regular el uso de inteligencia artificial en agencias públicas. La medida incluye principios éticos, verificación humana en decisiones automatizadas, y la formación de un Consejo de IA para supervisar su aplicación. También establece controles de seguridad y privacidad, buscando garantizar un uso justo, transparente y responsable de la IA en el ámbito gubernamental.

El “AI Code of Ethics V1” del Estado de Vermont establece principios para el uso responsable de sistemas de inteligencia artificial en el sector público. Distingue entre sistemas de impacto directo e indirecto, exigiendo mayor control sobre los primeros. Promueve un enfoque centrado en el ser humano, respetuoso con la dignidad y los derechos fundamentales, y alineado con las leyes estatales y federales. Su objetivo es garantizar transparencia, equidad y responsabilidad en el uso de IA por parte del gobierno.

El artículo analiza cómo los científicos del MIT en los años sesenta, liderados por figuras como Marvin Minsky, moldearon imaginarios sobre la inteligencia artificial para influir en la agenda investigadora, frente al control estatal en plena Guerra Fría. A través de medios como cine, televisión y prensa, generaron “prototipos diegéticos” (ej. HAL 9000 en 2001: Odisea del Espacio) y narrativas que mostraban la viabilidad y deseabilidad de la IA simbólica. Estos relatos buscaban consolidar su enfoque, legitimar sus tecnologías y desplazar visiones rivales, revelando cómo los discursos sobre el futuro actúan como herramientas de poder académico y social.

Nueva York ha aprobado la primera ley en EE. UU. que exige a las empresas que usen inteligencia artificial en procesos de contratación demostrar, mediante auditorías externas, que sus sistemas no discriminan por sexo ni raza. El mecanismo no analiza el código, sino los resultados de las pruebas para identificar sesgos. Aunque la norma establece sanciones civiles, algunos despachos recomiendan a las compañías no publicar los resultados ni cumplir de forma estricta, lo que genera dudas sobre su eficacia. La medida responde al creciente uso de IA en la selección de personal, empleada ya por más de la mitad de empleadores.

El informe de evalúa la fiabilidad de Bing Chat en contextos electorales, tomando como casos las elecciones de Baviera, Hesse y Suiza en octubre de 2023. El estudio revela que un tercio de las respuestas contenían errores factuales, desde fechas equivocadas hasta candidatos inexistentes o controversias inventadas. Además, el chatbot mostró una tendencia a la evasión: en un 40% de los casos evitó responder directamente, con salvaguardas aplicadas de forma inconsistente. El rendimiento fue claramente inferior en idiomas distintos al inglés, con más errores en alemán y francés. El informe advierte que estas deficiencias pueden afectar la integridad del debate democrático, ya que los usuarios confían en la información generada. Microsoft reconoció algunos problemas, pero las pruebas posteriores mostraron escasos avances. La conclusión es que los chatbots generativos requieren regulación estricta para garantizar información electoral precisa y proteger la confianza pública

Este documento aborda el papel de la IA en la educación. Señala que vivimos en una sociedad cada vez más marcada por sistemas digitales y de IA, lo que exige competencias informáticas básicas para una participación ciudadana responsable. Destaca tanto las oportunidades como los riesgos: la IA puede favorecer la inclusión y personalización del aprendizaje, pero también plantea problemas de costes, privacidad y fiabilidad. Se rechazan las prohibiciones absolutas y propone un uso transparente y regulado. En la educación escolar, se recomienda integrar la IA en los currículos de informática, fomentando análisis técnico, social y práctico. Para docentes, se subraya la necesidad de formación continua en competencias digitales y reflexivas. En universidades y formación profesional, se pide desarrollar las competencias en IA y abordar cuestiones éticas y legales.