Artículos

---

Actualizado el 3 de agosto de 2023

Prólogo ministerial

Creo que un enfoque de sentido común y orientado a los resultados es la mejor manera de llegar directamente al corazón del cumplimiento de las prioridades de las personas en todo el Reino Unido. Mejores servicios públicos, empleos de alta calidad y oportunidades para aprender las habilidades que impulsarán nuestro futuro: estas son las prioridades que impulsarán nuestro objetivo de convertirnos en una superpotencia científica y tecnológica para 2030.

La Inteligencia Artificial (IA) desempeñará un papel fundamental en la consecución y consecución de estos objetivos, y este libro blanco garantizará que estamos poniendo al Reino Unido en camino de ser el mejor lugar del mundo para construir, probar y utilizar la tecnología de IA. Pero no partimos de cero. Habiendo invertido más de 2.5 millones de libras esterlinas en IA desde 2014, este documento se basa en nuestros recientes anuncios de 110 millones de libras esterlinas para nuestro Fondo de Misiones Tecnológicas de IA, 900 millones de libras esterlinas para establecer un nuevo recurso de investigación de IA y desarrollar una supercomputadora a escala capaz de ejecutar grandes modelos de IA, respaldada por nuestra nueva Red Global de Talentos de IA de 8 millones de libras esterlinas y 117 millones de libras esterlinas de financiación existente para crear cientos de nuevos doctorados para IA Investigadores.

La mayoría de nosotros recién ahora estamos comenzando a comprender el potencial transformador de la IA a medida que la tecnología mejora rápidamente. Pero en muchos sentidos, la IA ya está brindando fantásticos beneficios sociales y económicos para personas reales, desde mejorar la atención médica del NHS hasta hacer que el transporte sea más seguro. Los avances recientes en cosas como la IA generativa nos permiten vislumbrar las enormes oportunidades que nos esperan en un futuro próximo si estamos preparados para liderar el mundo en el sector de la IA con nuestros valores de transparencia, responsabilidad e innovación.

Mi visión de un país habilitado para la IA es uno en el que nuestros héroes del NHS puedan salvar vidas utilizando tecnologías de IA que eran inimaginables hace solo unas décadas. Quiero que nuestra policía, las redes de transporte, los científicos del clima y muchos más estén empoderados por las tecnologías de IA que harán del Reino Unido el lugar más inteligente, saludable, seguro y feliz para vivir y trabajar. Es por eso que la IA es una de las 5 tecnologías del mañana de este gobierno, que traerá un crecimiento más fuerte, mejores empleos y nuevos descubrimientos audaces. Es una visión que ha sido moldeada por las partes interesadas y los expertos en IA, cuya experiencia e ideas estoy decidido a ver reflejadas en nuestro departamento.

El Reino Unido ha estado a la vanguardia de este progreso, ocupando el tercer lugar en el mundo en investigación y desarrollo de IA. Somos el hogar de un tercio del total de empresas de IA de Europa y el doble que cualquier otro país europeo. Nuestro estatus de líder mundial se debe a nuestra próspera base de investigación y a la cartera de experiencia que se gradúa a través de nuestras universidades, al ingenio de nuestros innovadores y al compromiso a largo plazo del gobierno de invertir en IA.

Sin embargo, para asegurarnos de convertirnos en una superpotencia de la IA, es crucial que hagamos todo lo posible para crear el entorno adecuado para aprovechar los beneficios de la IA y mantenernos a la vanguardia de los desarrollos tecnológicos. Eso incluye lograr una regulación adecuada para que los innovadores puedan prosperar y se puedan abordar los riesgos que plantea la IA.

Estos riesgos podrían incluir cualquier cosa, desde daños físicos, un socavamiento de la seguridad nacional, así como riesgos para la salud mental. El desarrollo y la implementación de la IA también pueden presentar desafíos éticos que no siempre tienen respuestas claras. A menos que actuemos, los consumidores domésticos, los servicios públicos y las empresas no confiarán en la tecnología y estarán nerviosos por adoptarla. A menos que construyamos la confianza del público, perderemos muchos de los beneficios que se ofrecen.

De hecho, el ritmo del cambio en sí mismo puede ser inquietante. Algunos temen un futuro en el que la IA reemplace o desplace puestos de trabajo, por ejemplo. Nuestro libro blanco y nuestra visión de un futuro país habilitado para la IA es uno en el que nuestras formas de trabajar se complementan con la IA en lugar de verse interrumpidas por ella. En el mundo moderno, gran parte de nuestra vida profesional está ocupada por tareas monótonas: ingresar datos, completar papeleo, escanear documentos en busca de información, etc. La IA en el lugar de trabajo tiene el potencial de liberarnos de estas tareas, permitiéndonos pasar más tiempo haciendo las cosas para las que nos capacitamos: maestros con más tiempo para enseñar, médicos con más tiempo para dedicar a los pacientes, oficiales de policía con más tiempo en el ritmo en lugar de detrás de un escritorio, y la lista continúa.

De hecho, dado que la IA ya está en nuestra vida cotidiana, existen numerosos ejemplos que pueden ayudar a ilustrar los beneficios reales y tangibles que la IA puede aportar una vez que se mitigan los riesgos. Los servicios de streaming ya utilizan IA avanzada para recomendarnos programas de televisión y películas. Nuestro navegador por satélite utiliza la IA para trazar las rutas más rápidas para nuestros viajes, o nos ayuda a evitar el tráfico al predecir de forma inteligente dónde estará la congestión en nuestro viaje. Y, por supuesto, casi todos llevamos un teléfono inteligente en nuestros bolsillos que utiliza IA avanzada en todo tipo de formas. Todos estos dispositivos comunes conllevaban riesgos en un momento u otro, pero hoy en día nos benefician enormemente.

Es por eso que nuestro libro blanco detalla cómo pretendemos apoyar la innovación al tiempo que proporcionamos un marco para garantizar que se identifiquen y aborden los riesgos. Sin embargo, un enfoque rígido y de mano dura puede sofocar la innovación y ralentizar la adopción de la IA. Por eso establecemos un marco regulador proporcionado y favorable a la innovación. En lugar de centrarse en tecnologías específicas, se centra en el contexto en el que se despliega la IA. Esto nos permite adoptar un enfoque equilibrado para sopesar los beneficios frente a los riesgos potenciales.

Reconocemos que determinadas tecnologías de IA, como los modelos básicos, pueden aplicarse de muchas maneras diferentes y esto significa que los riesgos pueden variar enormemente. Por ejemplo, el uso de un chatbot para producir un resumen de un artículo largo presenta riesgos muy diferentes al uso de la misma tecnología para brindar asesoramiento médico. Entendemos la necesidad de supervisar estos desarrollos en colaboración con los innovadores y, al mismo tiempo, evitar imponer cargas regulatorias innecesarias a quienes implementan la IA.

Para garantizar que nuestro marco regulatorio sea efectivo, aprovecharemos la experiencia de nuestros reguladores de clase mundial. Comprenden los riesgos en sus sectores y están en la mejor posición para adoptar un enfoque proporcionado para regular la IA. Esto significará apoyar la innovación y trabajar en estrecha colaboración con las empresas, pero también intervenir para abordar los riesgos cuando sea necesario. Al respaldar el marco con un conjunto de principios, impulsaremos la coherencia entre los reguladores y, al mismo tiempo, les proporcionaremos la flexibilidad necesaria.

Para los innovadores que trabajan a la vanguardia y desarrollan tecnologías novedosas, navegar por los regímenes regulatorios puede ser un desafío. Es por eso que estamos confirmando nuestro compromiso de llevar adelante una recomendación clave hecha por Sir Patrick Vallance para establecer un sandbox regulatorio para la IA. Esto reunirá a los reguladores para apoyar directamente a los innovadores y ayudarlos a llevar sus productos al mercado. El sandbox también nos permitirá comprender cómo interactúa la regulación con las nuevas tecnologías y refinar esta interacción cuando sea necesario.

Al salir de la Unión Europea, somos libres de establecer un enfoque regulatorio que nos permita establecer al Reino Unido como una superpotencia de IA. Es un enfoque que apoyará activamente la innovación al tiempo que aborda los riesgos y las preocupaciones del público. El Reino Unido es el hogar de prósperas empresas emergentes, a las que nuestro marco apoyará para que crezcan y compitan a nivel internacional. Nuestro enfoque a favor de la innovación también actuará como un fuerte incentivo cuando se trate de empresas de IA con sede en el extranjero que establezcan una presencia en el Reino Unido. El libro blanco establece nuestro compromiso de involucrarnos internacionalmente para apoyar la interoperabilidad entre diferentes regímenes regulatorios. Esto no solo aliviará la carga de las empresas, sino que también nos permitirá integrar nuestros valores a medida que se desarrollen enfoques globales para gobernar la IA.

Nuestro enfoque se basa en la colaboración entre el gobierno, los reguladores y las empresas. Inicialmente, no tenemos la intención de introducir nueva legislación. Si nos apresuramos a legislar demasiado pronto, correríamos el riesgo de imponer cargas indebidas a las empresas. Pero además de empoderar a los reguladores para que tomen la iniciativa, también estamos estableciendo expectativas. Nuestras nuevas funciones de supervisión proporcionarán una evaluación en tiempo real del rendimiento del marco regulador para que podamos estar seguros de que es proporcionado. El ritmo del desarrollo tecnológico también significa que debemos comprender los riesgos nuevos y emergentes, comprometiéndonos con expertos para asegurarnos de tomar medidas cuando sea necesario. Un componente fundamental de esta actividad será interactuar con el público para comprender sus expectativas, crear conciencia sobre el potencial de la IA y demostrar que estamos respondiendo a las inquietudes.

El marco establecido en este libro blanco está diseñado deliberadamente para ser flexible. A medida que la tecnología evoluciona, es posible que también sea necesario ajustar nuestro enfoque regulatorio. Nuestro enfoque basado en principios, con funciones centrales para monitorear e impulsar la colaboración, nos permitirá adaptarnos según sea necesario, al tiempo que brindamos a la industria la claridad necesaria para innovar. Continuaremos desarrollando nuestro enfoque, basándonos en nuestro compromiso de hacer del Reino Unido el mejor lugar del mundo para ser una empresa que desarrolle y utilice la IA. Las respuestas a la consulta servirán de base para la forma en que desarrollemos el marco normativo, y animo a todos los interesados a que respondan.

Resumen ejecutivo

Inteligencia artificial: la oportunidad y el reto

1. La inteligencia artificial (IA) ya está aportando amplios beneficios a la sociedad, desde los avances médicos hasta la mitigación del cambio climático. Por ejemplo, una tecnología de IA desarrollada por DeepMind, una empresa con sede en el Reino Unido, ahora puede predecir la estructura de casi todas las proteínas conocidas por la ciencia. Este avance acelerará la investigación científica y el desarrollo de medicamentos que salvan vidas, ya que ha ayudado a los científicos a lograr grandes avances en la lucha contra la malaria, la resistencia a los antibióticos y los desechos plásticos.

2. El Marco de Ciencia y Tecnología del Reino Unido establece la visión estratégica del gobierno e identifica la IA como una de las 5 tecnologías críticas. El marco señala el papel de la regulación en la creación del entorno para que la IA prospere. Sabemos que aún no hemos visto que las tecnologías de IA alcancen todo su potencial. En las condiciones adecuadas, la IA transformará todos los ámbitos de la vida y estimulará la economía del Reino Unido al dar rienda suelta a la innovación e impulsar la productividad, creando nuevos puestos de trabajo y mejorando el lugar de trabajo.

3. En todo el mundo, los países y las regiones están empezando a redactar las normas para la IA. El Reino Unido debe actuar con rapidez para seguir liderando la conversación internacional sobre la gobernanza de la IA y demostrar el valor de nuestro enfoque normativo pragmático y proporcionado. Sir Patrick Vallance destacó la necesidad de actuar en su reciente revisión del Reglamento para la innovación. El informe identifica el corto plazo para que la intervención del gobierno proporcione un entorno regulatorio claro y favorable a la innovación con el fin de convertir al Reino Unido en uno de los principales lugares del mundo para construir empresas de IA fundamentales.

4. Si bien debemos capitalizar los beneficios de estas tecnologías, tampoco debemos pasar por alto los nuevos riesgos que pueden surgir de su uso, ni el malestar que la complejidad de las tecnologías de IA puede producir en el público en general. Ya sabemos que algunos usos de la IA podrían dañar nuestra salud física y mental, infringir la privacidad de las personas y socavar los derechos humanos.

5. La confianza pública en la IA se verá socavada a menos que se aborden estos riesgos y las preocupaciones más amplias sobre el potencial de sesgo y discriminación. Al generar confianza, podemos acelerar la adopción de la IA en todo el Reino Unido para maximizar los beneficios económicos y sociales que la tecnología puede ofrecer, al tiempo que atraemos inversiones y estimulamos la creación de puestos de trabajo de IA altamente cualificados. Para mantener la posición del Reino Unido como líder mundial en IA, debemos asegurarnos de que el público siga viendo cómo los beneficios de la IA pueden superar los riesgos.

6. La respuesta al riesgo y el fomento de la confianza pública son factores importantes para la regulación. Sin embargo, una regulación clara y coherente también puede respaldar la inversión empresarial y generar confianza en la innovación. A lo largo de nuestro amplio compromiso, la industria enfatizó repetidamente que la confianza del consumidor es clave para el éxito de las economías de innovación. Por lo tanto, necesitamos un enfoque claro y proporcionado de la regulación que permita que florezca la aplicación responsable de la IA. En lugar de crear normas engorrosas que se apliquen a todas las tecnologías de IA, nuestro marco garantiza que las medidas regulatorias sean proporcionales al contexto y a los resultados, centrándose en el uso de la IA en lugar de en la tecnología en sí.

7. Las personas y las organizaciones desarrollan y utilizan la IA en el Reino Unido dentro de las normas establecidas por nuestras leyes vigentes, basadas en normas, directrices y otras herramientas. Pero la IA es una tecnología de propósito general y sus usos pueden traspasar las competencias regulatorias. Como resultado, las tecnologías de IA están reguladas actualmente a través de un complejo mosaico de requisitos legales. Nos preocupan los comentarios de toda la industria de que la ausencia de una regulación transversal de la IA crea incertidumbre e incoherencia que pueden socavar la confianza de las empresas y los consumidores en la IA y sofocar la innovación. Al proporcionar un enfoque claro y unificado de la regulación, nuestro marco fomentará la confianza del público, dejando claro que las tecnologías de IA están sujetas a una regulación transversal basada en principios.

Nuestro marco a favor de la innovación

8. El Gobierno establecerá un nuevo marco para aportar claridad y coherencia al panorama normativo de la IA. Este régimen está diseñado para facilitar la innovación responsable. Fortalecerá la posición del Reino Unido como líder mundial en IA, aprovechará la capacidad de la IA para impulsar el crecimiento y la prosperidad, y aumentará la confianza pública en su uso y aplicación.

9. Estamos adoptando un enfoque deliberadamente ágil e iterativo, reconociendo la velocidad a la que evolucionan estas tecnologías. Nuestro marco está diseñado para construir la base de evidencia para que podamos aprender de la experiencia y adaptarnos continuamente para desarrollar el mejor régimen regulatorio posible. La industria ha elogiado nuestro enfoque pragmático y proporcionado.

10. Nuestro marco se basa en 5 principios para guiar e informar el desarrollo y el uso responsables de la IA en todos los sectores de la economía:

• Seguridad, protección y robustez
• Transparencia y explicabilidad adecuadas
• Equidad
• Rendición de cuentas y gobernanza
• Impugnabilidad y recurso

11. Inicialmente, no estableceremos estos principios en una base legal. Los nuevos requisitos legislativos rígidos y onerosos para las empresas podrían frenar la innovación en IA y reducir nuestra capacidad para responder de manera rápida y proporcionada a los futuros avances tecnológicos. En su lugar, los principios se emitirán de forma no estatutaria y serán aplicados por los reguladores existentes. Este enfoque hace uso de la experiencia específica del dominio de los reguladores para adaptar la implementación de los principios al contexto específico en el que se utiliza la IA. Durante el período inicial de implementación, continuaremos colaborando con los reguladores para identificar cualquier obstáculo a la aplicación proporcionada de los principios y evaluar si el marco no estatutario está teniendo el efecto deseado.

12. Tras este período inicial de aplicación, y cuando el tiempo parlamentario lo permita, prevemos la introducción de una obligación legal para los reguladores que les exija tener debidamente en cuenta los principios. Algunos comentarios de los reguladores, la industria y el mundo académico sugirieron que deberíamos implementar más medidas para apoyar la aplicación del marco. La obligación de exigir a los reguladores que tengan en cuenta los principios debe permitirles la flexibilidad necesaria para ejercer su criterio a la hora de aplicar los principios en contextos concretos, reforzando al mismo tiempo su mandato para aplicarlos. De acuerdo con nuestra propuesta de trabajar en colaboración con los reguladores y adoptar un enfoque adaptable, no procederemos a introducir una obligación legal de este tipo si nuestro seguimiento del marco muestra que la aplicación es eficaz sin necesidad de legislar.

13. En el documento de política de regulación de la IA de 2022 propusimos una pequeña capa de coordinación dentro de la arquitectura reguladora. La industria y la sociedad civil apoyaron nuestra intención de garantizar la coherencia en todo el marco normativo de la IA. Sin embargo, los comentarios a menudo abogaban firmemente por una mayor coordinación central para apoyar a los reguladores en cuestiones que requieren una colaboración intersectorial y garantizar que el marco normativo general funcione según lo previsto.

14. El Tribunal ha identificado una serie de funciones centrales de apoyo necesarias para garantizar que el marco general ofrezca una respuesta proporcionada pero eficaz al riesgo, al tiempo que promueve la innovación en todo el panorama normativo:

• Seguimiento y evaluación de la eficacia del marco regulador general y de la aplicación de los principios, incluida la medida en que la aplicación apoya la innovación. Esto nos permitirá seguir siendo receptivos y adaptar el marco si es necesario, incluso cuando sea necesario adaptarlo para seguir siendo eficaz en el contexto de la evolución de las capacidades de la IA y el estado de la técnica.
• Evaluar y monitorear los riesgos en toda la economía derivados de la IA.
• Llevar a cabo el escaneo del horizonte y el análisis de brechas, incluso convocando a la industria, para informar una respuesta coherente a las tendencias tecnológicas emergentes de IA.
• Supporting testbeds and sandbox initiatives to help AI innovators get new technologies to market.
• Proporcionar educación y concienciación para dar claridad a las empresas y empoderar a los ciudadanos para que hagan oír su voz como parte de la iteración continua del marco.
• Promover la interoperabilidad con los marcos regulatorios internacionales.

15. Las funciones centrales de apoyo se prestarán inicialmente desde el Gobierno, pero aprovecharán las actividades existentes y los conocimientos especializados de toda la economía en general. Las actividades descritas anteriormente no reemplazarán ni duplicarán el trabajo realizado por los reguladores y no implicarán la creación de un nuevo regulador de IA.

16. Nuestro enfoque proporcionado reconoce que la regulación no siempre es la forma más eficaz de apoyar la innovación responsable. El marco propuesto está en consonancia con una serie de herramientas para una IA fiable y se complementa con ellas, como las técnicas de aseguramiento, las orientaciones voluntarias y las normas técnicas. El Gobierno promoverá el uso de estos instrumentos. Estamos colaborando con socios como el Centro de Estándares de IA del Reino Unido para garantizar que nuestro marco de gobernanza general fomente la innovación responsable en IA (consulte la parte 4 para obtener más detalles).

17. En consonancia con el carácter mundial de estas tecnologías, también seguiremos trabajando con socios internacionales para ofrecer medidas interoperables que incentiven el diseño, el desarrollo y la aplicación responsables de la IA. Durante nuestra convocatoria de opiniones, la industria, el mundo académico y la sociedad civil hicieron hincapié en que la alineación internacional debería apoyar a las empresas del Reino Unido para que aprovechen los mercados mundiales y protejan a los ciudadanos del Reino Unido de los daños transfronterizos.

18. Con frecuencia, el Reino Unido ocupa el tercer lugar en el mundo en una serie de medidas, incluido el nivel de inversión, la innovación y la implementación de la IA. Para hacer del Reino Unido el lugar más atractivo del mundo para la innovación en IA y apoyar a las empresas británicas que deseen exportar y atraer inversiones internacionales, debemos garantizar la compatibilidad internacional entre los enfoques. Países de todo el mundo, así como foros multilaterales, están explorando enfoques para regular la IA. Gracias a nuestra reputación de regulación pragmática, los socios internacionales ven al Reino Unido como un líder en esta conversación global.

Parte 1: Introducción

1.1 El poder y el potencial de la inteligencia artificial

19. La IA ya está aportando importantes avances y eficiencias en muchos ámbitos. La IA automatiza silenciosamente aspectos de nuestras actividades cotidianas, desde los sistemas que monitorean el tráfico para hacer que nuestros viajes sean más fluidos, hasta aquellos que detectan fraudes en nuestras cuentas bancarias. La IA ha revolucionado las prácticas críticas para la seguridad a gran escala en la industria, como el control del proceso de fusión nuclear. Y también se ha utilizado para acelerar avances científicos, como el descubrimiento de nuevos medicamentos o las tecnologías que necesitamos para hacer frente al cambio climático.

20. Pero esto es solo el comienzo. La IA se puede utilizar en una gran variedad de entornos y tiene el extraordinario potencial de transformar nuestra sociedad y economía. Podría tener tanto impacto como la electricidad o Internet, y ha sido identificada como una de las 5 tecnologías críticas en el Marco de Ciencia y Tecnología del Reino Unido. A medida que la IA se vuelva más poderosa y los innovadores exploren nuevas formas de usarla, veremos surgir más aplicaciones de la IA. Como resultado, la IA tiene un enorme potencial para impulsar el crecimiento y crear empleos. Apoyará a las personas para que lleven a cabo sus trabajos existentes, ayudando a mejorar la eficiencia de la fuerza laboral y la seguridad en el lugar de trabajo. Para seguir siendo líderes mundiales en IA, atraer talento global y crear puestos de trabajo altamente cualificados en el Reino Unido, debemos crear un entorno normativo en el que dicha innovación pueda prosperar.

21. Los avances tecnológicos, como los grandes modelos lingüísticos (LLM), son un indicio de los avances transformadores que están por venir. Los LLM ofrecen oportunidades sustanciales para transformar la economía y la sociedad. Por ejemplo, los LLM pueden automatizar el proceso de escritura de código y corregir errores de programación. La tecnología puede respaldar la medicina genética mediante la identificación de vínculos entre las secuencias genéticas y las afecciones médicas. Puede ayudar a las personas a revisar y resumir los puntos clave de documentos extensos. En los últimos 4 años, los LLM se han desarrollado más allá de las expectativas y se están volviendo aplicables a una gama cada vez más amplia de tareas. Ampliamos el desarrollo de LLM y otros modelos básicos en la sección 3.3.3 a continuación.

1.2 Gestión de los riesgos de la IA

22. El concepto de IA no es nuevo, pero los avances recientes en la generación y el procesamiento de datos han cambiado el campo y la tecnología que produce. Por ejemplo, si bien los desarrollos recientes en las capacidades de los modelos de IA generativa han creado oportunidades interesantes, también han provocado nuevos debates sobre los posibles riesgos de la IA. A medida que la investigación y el desarrollo de la IA continúen a un ritmo y una escala, esperamos ver un impacto y una conciencia pública aún mayores sobre los riesgos de la IA.

23. Sabemos que no todos los riesgos de la IA surgen de la acción deliberada de los malos actores. Algunos riesgos de la IA pueden surgir como consecuencia no deseada o por la falta de controles adecuados para garantizar un uso responsable de la IA.

24. Hemos realizado una evaluación inicial de los riesgos específicos de la IA y de su potencial para causar daños, haciendo referencia en nuestro análisis a los valores que amenazan si no se abordan. Estos valores incluyen la seguridad, la equidad, la privacidad y la agencia, los derechos humanos, el bienestar social y la prosperidad.

25. El Tribunal identificó una serie de riesgos transversales de alto nivel que nuestro marco tratará de priorizar y mitigar con intervenciones proporcionadas. Por ejemplo, los riesgos de seguridad incluyen daños físicos a las personas y a la propiedad, así como daños a la salud mental. La IA crea una serie de nuevos riesgos de seguridad para las personas, las organizaciones y las infraestructuras críticas. Sin la acción del gobierno, la IA podría causar y amplificar la discriminación que resulta, por ejemplo, en injusticias en el sistema de justicia. Del mismo modo, sin supervisión regulatoria, las tecnologías de IA podrían plantear riesgos para nuestra privacidad y dignidad humana, lo que podría dañar nuestras libertades fundamentales. Nuestra intervención regulatoria garantizará que la IA no cause daños a nivel social, amenazando la democracia o los valores del Reino Unido.

1.3 Una nota sobre la terminología

Terminología utilizada en este documento:

IA o sistema de IA o tecnologías de IA: productos y servicios que son «adaptables» y «autónomos» en el sentido descrito en nuestra definición en la sección 3.2.1.

Proveedor de IA: cualquier organización o persona que desempeñe un papel en la investigación, el desarrollo, la formación, la implementación, el despliegue, el mantenimiento, el suministro o la venta de sistemas de IA.

Usuario de IA: cualquier persona u organización que utilice un producto de IA.

Ciclo de vida de la IA: todos los eventos y procesos relacionados con la vida útil de un sistema de IA, desde su inicio hasta su desmantelamiento, incluido su diseño, investigación, formación, desarrollo, despliegue, integración, funcionamiento, mantenimiento, venta, uso y gobernanza.

Ecosistema de IA: la compleja red de actores y procesos que permiten el uso y el suministro de IA a lo largo de todo el ciclo de vida de la IA (incluidas las cadenas de suministro, los mercados y los mecanismos de gobernanza).

Modelo básico: un tipo de modelo de IA que se entrena con una gran cantidad de datos y es adaptable para su uso en una amplia gama de tareas. Los modelos básicos se pueden utilizar como base para crear modelos de IA más específicos. Los modelos de cimentación se analizan con más detalle en la sección 3.3.3 a continuación.

Tercero afectado: una persona o empresa que se ve afectada por los resultados de los sistemas de IA que no utiliza ni suministra por sí misma.

Parte 2: El entorno normativo actual

2.1 Navegando por el panorama actual

26. El éxito de la IA en el Reino Unido se debe, en parte, a nuestra reputación de reguladores de alta calidad y a nuestro firme enfoque del Estado de Derecho, respaldado por nuestra legislación y normativa tecnológicamente neutrales. Las leyes, los reguladores y los tribunales del Reino Unido ya abordan algunos de los riesgos emergentes que plantean las tecnologías de IA. Esta sólida base jurídica fomenta la inversión en nuevas tecnologías, lo que permite que prospere la innovación en IA y que florezcan puestos de trabajo de alta calidad.

27. Si bien la IA está regulada actualmente a través de los marcos jurídicos existentes, como la regulación de los servicios financieros. Algunos riesgos de la IA surgen en los ámbitos normativos existentes, o en las lagunas entre ellos. La industria nos dijo que los requisitos contradictorios o descoordinados de los reguladores crean cargas innecesarias y que las lagunas regulatorias pueden dejar los riesgos sin mitigar, dañando la confianza pública y ralentizando la adopción de la IA.

28. La industria nos ha advertido de que la incoherencia normativa podría sofocar la innovación y la competencia al provocar que un número desproporcionado de pequeñas empresas abandonara el mercado. Si los reguladores no son proporcionados y no están alineados en su regulación de la IA, es posible que las empresas tengan que dedicar tiempo y dinero excesivo a cumplir con normas complejas en lugar de crear nuevas tecnologías. Las pequeñas empresas y las nuevas empresas a menudo no tienen los recursos para hacer ambas cosas. Dado que la gran mayoría de las empresas de tecnología digital emplean a menos de 50 personas, es importante garantizar que las cargas regulatorias no recaigan de manera desproporcionada en las empresas más ^{pequeñas, que} desempeñan un papel esencial en el ecosistema de innovación de la IA y actúan como motores para el crecimiento económico y la creación de empleo.

29. La coordinación normativa ayudará a las empresas a invertir con confianza en la innovación en IA y a generar confianza pública garantizando que se aborden eficazmente los riesgos reales. Si bien algunos reguladores ya trabajan juntos para garantizar la coherencia regulatoria de la IA a través de redes formales como el servicio de IA y regulaciones digitales en ^{el sector de} la salud y el Foro de Cooperación en Regulación Digital (DRCF), otros reguladores tienen una capacidad y un acceso limitados a la IA pericia. Esto crea el riesgo de una aplicación incoherente entre los reguladores. También existe el riesgo de que algunos reguladores comiencen a dominar e interpretar el alcance de su mandato o función de manera más amplia de lo que se pretendía, a fin de colmar las lagunas percibidas de una manera que aumente la incoherencia y la incertidumbre. La industria nos pidió que apoyáramos una mayor coordinación en todo el sistema para aclarar quién es responsable de abordar los riesgos transversales de la IA y evitar la duplicación de requisitos en múltiples reguladores.

30. Es necesaria la intervención del Gobierno para mejorar el panorama normativo. Tenemos la intención de aprovechar y aprovechar los regímenes existentes, maximizando los beneficios de lo que ya tenemos, al tiempo que intervenimos de manera proporcionada para abordar la incertidumbre y las brechas regulatorias. De este modo, se creará un marco normativo favorable a la innovación diseñado para ser adaptable y preparado para el futuro, respaldado por herramientas para una IA fiable, incluidas técnicas de garantía y normas técnicas. Este enfoque proporcionará más claridad y fomentará la colaboración entre el gobierno, los reguladores y la industria para desbloquear la innovación.

Parte 3: Un enfoque innovador e iterativo

3.1 Objetivos del marco normativo

31. La regulación puede aumentar la innovación al incentivar a las empresas para que resuelvan problemas importantes al tiempo que abordan el riesgo de perjuicio para los ciudadanos. Por ejemplo, la legislación sobre seguridad de los productos ha aumentado la innovación hacia productos y servicios más seguros. En el caso de la IA, un enfoque de la regulación proporcionado y basado en el contexto ayudará a reforzar la confianza pública y a aumentar la adopción de la IA.

32. La Estrategia Nacional de IA establece nuestro objetivo de regular la IA de manera eficaz y apoyar la innovación. En consonancia con los principios establecidos en el Plan de Regulación Digital, nuestro enfoque de la regulación de la IA será proporcionado; equilibrando los riesgos reales con las oportunidades y beneficios que la IA puede generar. Mantendremos un equilibrio efectivo a medida que implementemos el marco, centrándonos en el contexto y los resultados de la IA.

33. Nuestro documento de política proponía un marco favorable a la innovación diseñado para dar a los consumidores la confianza necesaria para utilizar productos y servicios de IA, y proporcionar a las empresas la claridad que necesitan para invertir en IA e innovar de manera responsable. Este enfoque fue acogido con gran satisfacción, especialmente por la industria. Basándonos en los comentarios, hemos destilado nuestras metas en 3 objetivos que nuestro marco está diseñado para lograr:

• Impulse el crecimiento y la prosperidad facilitando la innovación responsable y reduciendo la incertidumbre regulatoria. Esto fomentará la inversión en IA y apoyará su adopción en toda la economía, creando puestos de trabajo y ayudándonos a hacerlo de manera más eficiente. Para lograr este objetivo, debemos actuar rápidamente para eliminar las barreras existentes a la innovación y evitar la aparición de otras nuevas. Esto permitirá a las empresas de IA capitalizar los primeros éxitos de desarrollo y lograr una ventaja de mercado a largo plazo. Al actuar ahora, podemos dar a los innovadores del Reino Unido una ventaja en la carrera global para convertir el potencial de la IA en ventajas a largo plazo para el Reino Unido, maximizando el valor económico y social de estas tecnologías y fortaleciendo nuestra posición actual como líder mundial en IA.
• Aumentar la confianza del público en la IA abordando los riesgos y protegiendo nuestros valores fundamentales. La confianza es un factor fundamental para la adopción de la IA. Si las personas no confían en la IA, serán reacias a usarla. Esta reticencia puede reducir la demanda de productos de IA y obstaculizar la innovación. Por lo tanto, debemos demostrar que nuestro marco regulatorio aborda eficazmente los riesgos de la IA.
• Fortalecer la posición del Reino Unido como líder mundial en IA. El desarrollo de tecnologías de IA puede abordar algunos de los desafíos mundiales más apremiantes, desde el cambio climático hasta futuras pandemias. También existe un creciente reconocimiento internacional de que la IA requiere nuevas respuestas regulatorias para guiar la innovación responsable.
  
  El Reino Unido puede desempeñar un papel central en la conversación global dando forma a la gobernanza y la regulación internacionales para maximizar las oportunidades y generar confianza en la tecnología, al tiempo que mitiga los posibles riesgos transfronterizos y protege nuestros valores democráticos. También existe un importante papel de liderazgo para el Reino Unido en el desarrollo de la industria mundial de aseguramiento de la IA^{, incluida} la auditoría y la seguridad.
• Nos aseguraremos de que el Reino Unido siga siendo atractivo para los innovadores y los inversores promoviendo la interoperabilidad con otros enfoques normativos y minimizando las fricciones transfronterizas. Trabajaremos en estrecha colaboración con socios mundiales a través de compromisos multilaterales y bilaterales para aprender, influir y adaptarnos a medida que sigan surgiendo enfoques internacionales y nacionales para la regulación de la IA.

34. El marco normativo propuesto no pretende abordar todos los retos sociales y mundiales más amplios que pueden estar relacionados con el desarrollo o la utilización de la IA. Esto incluye cuestiones relacionadas con el acceso a los datos, la capacidad informática y la sostenibilidad, así como el equilibrio de los derechos de los productores de contenidos y los desarrolladores de IA. Estas son cuestiones importantes a tener en cuenta, especialmente en el contexto de la capacidad del Reino Unido para mantener su lugar como líder mundial en IA, pero están fuera del alcance de nuestras propuestas para un nuevo marco general para la regulación de la IA.

35. El Gobierno está adoptando medidas más amplias para garantizar que el Reino Unido conserve su condición de líder mundial en materia de IA, por ejemplo, haciendo avanzar la recomendación de Sir Patrick Vallance relativa a la legislación sobre propiedad intelectual y la IA generativa. Esto garantizará que mantengamos el equilibrio adecuado entre la protección de los titulares de derechos y nuestras prósperas industrias creativas, al tiempo que apoyamos a los desarrolladores de IA para que accedan a los datos que necesitan.

3.2 El marco normativo propuesto

36. Nuestro enfoque innovador de la regulación de la IA utiliza un marco basado en principios para que los reguladores lo interpreten y apliquen a la IA en el ámbito de sus competencias. Este enfoque colaborativo e iterativo puede seguir el ritmo de una tecnología en rápido movimiento que requiere una acción proporcionada para equilibrar el riesgo y la oportunidad y fortalecer la posición del Reino Unido como líder mundial en IA. Nuestro enfoque ágil se alinea con el informe de Sir Patrick Vallance sobre la Regulación para la Innovación, que destaca que los enfoques regulatorios flexibles pueden lograr un mejor equilibrio entre proporcionar claridad, generar confianza y permitir la experimentación. Nuestro marco proporcionará más claridad a los innovadores al fomentar la colaboración entre el gobierno, los reguladores, la industria y la sociedad civil.

37. Hemos identificado las características esenciales de nuestro régimen reglamentario. Nuestro marco será favorable a la innovación, proporcionado, fiable, adaptable, claro y colaborativo.

• A favor de la innovación: permitir la innovación responsable en lugar de sofocarla.
• Proporcionado: evitar cargas innecesarias o desproporcionadas para las empresas y los reguladores.
• Fiable: abordar los riesgos reales y fomentar la confianza pública en la IA con el fin de promover y fomentar su adopción.
• Adaptable: nos permite adaptarnos de forma rápida y eficaz para seguir el ritmo de las oportunidades y los riesgos emergentes a medida que evolucionan las tecnologías de IA.
• Claro: facilitar que los actores del ciclo de vida de la IA, incluidas las empresas que utilizan la IA, sepan cuáles son las normas, a quién se aplican, quién las hace cumplir y cómo cumplirlas.
• Colaboración: alentar al gobierno, los reguladores y la industria a trabajar juntos para facilitar la innovación en IA, generar confianza y garantizar que la voz del público sea escuchada y considerada.

38. El marco, construido en torno a los 4 elementos clave que se indican a continuación, está diseñado para empoderar a nuestros reguladores existentes y promover la coherencia en todo el panorama regulatorio. Los 4 elementos clave son:

• Definición de la IA en función de sus características únicas para apoyar la coordinación de los reguladores (sección 3.2.1).
• Adoptar un enfoque específico del contexto (sección 3.2.2).
• Proporcionar un conjunto de principios intersectoriales para guiar las respuestas de los reguladores a los riesgos y oportunidades de la IA (sección 3.2.3).
  • Los principios aclaran las expectativas de los gobiernos en materia de IA responsable y describen la buena gobernanza en todas las etapas del ciclo de vida de la IA.
  • La aplicación de los principios quedará inicialmente a discreción de los reguladores, permitiendo priorizar según las necesidades de sus sectores.
  • Después de este período inicial no estatutario de implementación, y cuando el tiempo parlamentario lo permita, anticipamos la introducción de un deber legal que requiere que los reguladores tengan debidamente en cuenta los principios.
• Ofrecer nuevas funciones centrales para ayudar a los reguladores a cumplir el marco regulador de la IA, maximizando los beneficios de un enfoque iterativo y garantizando que el marco sea coherente.

3.2.1 Definición de Inteligencia Artificial

39. Para regular la IA de manera eficaz y respaldar la claridad del marco que proponemos, necesitamos un entendimiento común de lo que se entiende por «inteligencia artificial». No existe una definición general de IA que goce de un consenso generalizado. Es por eso que hemos definido la IA por referencia a las 2 características que generan la necesidad de una respuesta regulatoria a medida.

• La «adaptabilidad» de la IA puede dificultar la explicación de la intención o la lógica de los resultados del sistema:
  • Los sistemas de IA se «entrenan», una vez o de forma continua, y funcionan mediante la inferencia de patrones y conexiones en los datos que a menudo no son fácilmente discernibles para los humanos.
  • A través de este tipo de entrenamiento, los sistemas de IA a menudo desarrollan la capacidad de realizar nuevas formas de inferencia que no prevén directamente sus programadores humanos.
• La «autonomía» de la IA puede dificultar la asignación de responsabilidades por los resultados:
  • Algunos sistemas de IA pueden tomar decisiones sin la intención expresa o el control continuo de un humano.

40. La combinación de adaptabilidad y autonomía puede dificultar la explicación, la predicción o el control de los resultados de un sistema de IA, o de la lógica subyacente mediante la cual se generan. También puede ser difícil asignar la responsabilidad del funcionamiento y los resultados del sistema. A efectos normativos, esto tiene implicaciones potencialmente graves, especialmente cuando se toman decisiones relacionadas con asuntos importantes, como la salud de una persona, o cuando se espera que una decisión sea justificable en términos fácilmente comprensibles, como una resolución judicial.

41. Al definir la IA con referencia a estas capacidades funcionales y diseñar nuestro enfoque para abordar los desafíos creados por estas características, preparamos nuestro marco para el futuro frente a nuevas tecnologías imprevistas que son autónomas y adaptables. Debido a que no estamos creando nuevas reglas generales para tecnologías o aplicaciones específicas de IA, como el reconocimiento facial o los LLM, no necesitamos usar definiciones legales rígidas. Nuestro uso de estas características definitorias recibió un amplio apoyo en las respuestas a nuestro documento de política, ya que las definiciones rígidas pueden volverse rápidamente obsoletas y restrictivas con la rápida evolución de la IA. Sin embargo, conservaremos la capacidad de adaptar nuestro enfoque para definir la IA si es necesario, junto con el seguimiento continuo y la iteración del marco regulatorio más amplio.

42. A continuación, ofrecemos algunos ejemplos ilustrativos de sistemas de IA para demostrar sus características autónomas y adaptativas. Si bien muchos aspectos de las tecnologías descritas en estos estudios de caso estarán cubiertos por la legislación vigente, ilustran cómo las características específicas de la IA introducen nuevos riesgos e implicaciones regulatorias.

Figura 1: Ilustración de nuestra estrategia para regular la IA

43. La industria, los reguladores y la sociedad civil respondieron positivamente a nuestra definición propuesta, reconociendo que respalda nuestro enfoque flexible y basado en el contexto de la regulación de la IA. Supervisaremos cómo los reguladores interpretan y aplican la adaptabilidad y la autonomía a la hora de formular definiciones de IA específicas de cada dominio. El gobierno apoyará la coordinación entre los reguladores cuando veamos la posibilidad de una mejor alineación entre sus interpretaciones y el uso de nuestras características definitorias.

44. La exploración activa y colaborativa del horizonte garantizará que podamos identificar los acontecimientos y las nuevas tendencias, y adaptar nuestro marco en consecuencia. Reuniremos a la industria, el mundo académico y otras partes interesadas clave para informar sobre la actividad de exploración del horizonte de toda la economía. Esta labor se basará en la actividad de los reguladores individuales.

3.2.2 Regular el uso, no la tecnología

45. Nuestro marco es específico para cada contexto. No asignaremos reglas ni niveles de riesgo a sectores o tecnologías enteras. En su lugar, regularemos en función de los resultados que es probable que genere la IA en aplicaciones concretas. Por ejemplo, no sería proporcionado ni eficaz clasificar todas las aplicaciones de IA en infraestructuras críticas como de alto riesgo. Algunos usos de la IA en infraestructuras críticas, como la identificación de arañazos superficiales en la maquinaria, pueden ser de riesgo relativamente bajo. Del mismo modo, un chatbot impulsado por IA utilizado para clasificar las solicitudes de servicio al cliente de un minorista de ropa en línea no debe regularse de la misma manera que una aplicación similar utilizada como parte de un proceso de diagnóstico médico.

46. Un enfoque específico del contexto permite a los reguladores sopesar los riesgos del uso de la IA frente a los costes de perder oportunidades para hacerlo. Los reguladores nos dijeron que las evaluaciones de riesgos de la IA deberían incluir la falta de explotación de las capacidades de la IA. Por ejemplo, puede haber un costo de oportunidad significativo relacionado con la falta de acceso a la IA en operaciones críticas para la seguridad, desde la industria pesada hasta la atención médica personal. La sensibilidad al contexto permitirá que el marco responda al nivel de riesgo de manera proporcionada y evite sofocar la innovación o perder oportunidades para capitalizar los beneficios sociales que ofrece la IA.

47. Para lograr de la mejor manera posible esta especificidad del contexto, facultaremos a los reguladores existentes del Reino Unido para que apliquen los principios transversales. Los reguladores están en la mejor posición para llevar a cabo un análisis detallado de los riesgos y actividades de aplicación dentro de sus áreas de especialización. La creación de un nuevo regulador intersectorial específico para la IA introduciría complejidad y confusión, lo que socavaría y probablemente entraría en conflicto con el trabajo de nuestros reguladores expertos existentes.

3.2.3 Un enfoque basado en principios

48. Se espera que los reguladores existentes apliquen el marco respaldado por 5 principios intersectoriales centrados en valores:

• Seguridad, protección y robustez
• Transparencia y explicabilidad adecuadas
• Equidad
• Rendición de cuentas y gobernanza
• Impugnabilidad y recurso

Estos se basan en los principios de IA basados en valores de la Organización para la Cooperación y el Desarrollo Económicos (OCDE) y reflejan nuestro compromiso con ellos, que promueven el uso ético de la IA.

49. Los principios establecen los elementos clave del diseño, el desarrollo y el uso responsables de la IA, y ayudarán a orientar a las empresas. Los reguladores liderarán la aplicación del marco, por ejemplo, emitiendo orientaciones sobre las mejores prácticas para el cumplimiento de estos principios.

50. Se espera que los reguladores apliquen los principios de manera proporcionada para hacer frente a los riesgos que plantea la IA en el ámbito de sus competencias, de conformidad con las leyes y reglamentos vigentes. De esta manera, los principios complementarán la regulación existente, aumentarán la claridad y reducirán la fricción para las empresas que operan en todos los ámbitos regulatorios.

51. Un enfoque basado en principios permite que el marco sea ágil y proporcionado. Está en consonancia con el Plan de Regulación Digital, las conclusiones del Grupo de Trabajo independiente sobre Innovación, Crecimiento y Reforma Regulatoria, el informe Closing the Gap del Consejo de Horizontes Regulatorios sobre la aplicación de una regulación favorable a la innovación, y el informe de Sir Patrick Vallance sobre la Regulación para la Innovación.

52. Desde la publicación del documento de política de regulación de la IA, hemos actualizado y reforzado los principios. Tenemos:

• Reflejó los comentarios de las partes interesadas ampliando conceptos como la solidez y la gobernanza. También hemos tenido en cuenta los resultados de una investigación sobre la participación pública que puso de manifiesto la expectativa de que principios como la transparencia, la equidad y la rendición de cuentas se incluyan en un marco de gobernanza de la IA.
• Se fusionó el principio de seguridad con la seguridad y la robustez, dada la importante superposición entre estos conceptos.
• Conceptos mejor reflejados de rendición de cuentas y responsabilidad.
• Refinar la definición y el fundamento de cada principio.

53. Prevemos que los reguladores tendrán que emitir orientaciones sobre los principios o actualizar las orientaciones existentes para aportar claridad a las empresas. Los reguladores también pueden publicar orientaciones conjuntas sobre uno o varios de los principios, centradas en casos de uso de la IA que atraviesan múltiples ámbitos normativos. Estamos dispuestos a trabajar con los reguladores y la industria para comprender el mejor enfoque para proporcionar orientación. Esperamos que la orientación práctica ayude a los actores del ciclo de vida de la IA a adherirse a los principios e integrarlos en sus procesos comerciales técnicos y operativos. Los reguladores también pueden utilizar medidas alternativas e introducir otras herramientas o recursos, además de emitir orientaciones, en el marco de sus competencias y competencias existentes para aplicar los principios.

54. El Gobierno vigilará la eficacia general de los principios y el impacto más amplio del marco. Esto incluirá trabajar con los reguladores para comprender cómo se están aplicando los principios y si el marco está apoyando adecuadamente la innovación.

3.2.4 Nuestro modelo preferido para aplicar los principios

55. Inicialmente, los principios serán emitidos por el gobierno de forma no estatutaria y aplicados por los reguladores dentro de sus competencias. Apoyaremos a los reguladores para que apliquen los principios utilizando las facultades y los recursos de que disponen. Este período inicial de aplicación brindará una valiosa oportunidad para garantizar que los principios sean eficaces y que el marco más amplio apoye la innovación al tiempo que aborda los riesgos de manera adecuada.

56. Si bien la industria ha apoyado firmemente las medidas no estatutarias en primera instancia, favoreciendo la flexibilidad y la reducción de las cargas, algunas empresas y reguladores han sugerido que el gobierno debería ir más allá de un enfoque no estatutario para garantizar que los principios tengan el impacto deseado. Algunos reguladores también han expresado su preocupación por carecer de la base legal para considerar la aplicación de los principios. Estamos comprometidos con un enfoque que aprovecha la colaboración con nuestros reguladores expertos, pero estamos de acuerdo en que es posible que tengamos que intervenir más para garantizar que nuestro marco sea eficaz.

57. Tras un período de aplicación no estatutaria, y cuando el tiempo parlamentario lo permita, prevemos que querremos reforzar y aclarar los mandatos de los reguladores mediante la introducción de una nueva obligación que les exija tener debidamente en cuenta los principios. Este deber daría una señal clara de que esperamos que los reguladores actúen y apoyen la coherencia en todo el panorama regulatorio, garantizando que el marco muestre las características que hemos identificado. Uno de los puntos fuertes de este enfoque es que los reguladores aún podrían ejercer discreción y juicio experto con respecto a la relevancia de cada principio para sus dominios individuales.

58. Un deber garantizaría que los reguladores conserven la capacidad de ejercer su juicio al aplicar los principios en contextos particulares, beneficiándose de parte de la flexibilidad que se espera de una aplicación no estatutaria. Por ejemplo, si bien el deber de tener debidamente en cuenta exigiría que los reguladores demostraran que han tenido en cuenta los principios, puede darse el caso de que no todos los reguladores tengan que introducir medidas para aplicar todos los principios. Al tener debidamente en cuenta un principio particular, un regulador puede ejercer su juicio experto y determinar que su sector o dominio no requiere que se tomen medidas. Sin embargo, la introducción del derecho dará a los reguladores un mandato claro y un incentivo para aplicar los principios cuando sean pertinentes a sus sectores o ámbitos.

59. Si nuestro control de la eficacia del marco inicial no estatutario sugiere que una obligación legal es innecesaria, no la introduciremos. Del mismo modo, supervisaremos si determinados principios no pueden ser aplicados, o no están siendo, aplicados en determinadas circunstancias o por reguladores específicos debido a la interpretación de los requisitos legales existentes o debido a limitaciones técnicas. Tales circunstancias pueden requerir cambios legislativos más amplios. En caso de que decidamos que es necesario adoptar medidas legales, trabajaremos con los reguladores para revisar la interacción de nuestros principios con sus deberes y poderes existentes.

3.2.5 El papel de los reguladores individuales en la aplicación de los principios

60. En algunos sectores, los principios para la gobernanza de la IA ya existirán e incluso pueden ir más allá de los principios transversales que proponemos. Nuestro marco brinda a los sectores la capacidad de desarrollar y aplicar principios más específicos que se adapten a sus propios dominios, cuando el gobierno o los reguladores identifiquen que son necesarios.

61. En junio de 2022, el Ministerio de Defensa publicó sus propios principios éticos y política en materia de IA, que determinan el enfoque del Gobierno de Su Majestad en relación con las capacidades militares habilitadas por la IA. Garantizaremos la coherencia y la alineación adecuadas en la aplicación de esta política a través de un enfoque específico del contexto y, por lo tanto, promoveremos el liderazgo del Reino Unido en el empleo de la IA con fines de defensa. Antes de introducir cualquier obligación legal de tener debidamente en cuenta nuestros principios, y antes de introducir otras iteraciones materiales del marco, consideraremos si se necesitan exenciones para permitir que los reguladores existentes (como los que trabajan en áreas como la seguridad nacional) continúen con su enfoque a nivel de dominio

62. No todos los principios serán igualmente pertinentes en todos los contextos y, a veces, dos o más principios pueden entrar en conflicto. Por ejemplo, puede ser difícil evaluar la imparcialidad de los resultados de un algoritmo sin acceso a datos personales confidenciales sobre los sujetos del procesamiento. Los reguladores tendrán que utilizar su experiencia y su criterio para priorizar y aplicar los principios en tales casos, compartiendo información cuando sea posible con el gobierno y otros reguladores sobre cómo están evaluando la pertinencia de cada principio. Esta colaboración entre los reguladores y el gobierno permitirá adaptar el marco para garantizar que sea práctico, coherente y apoye la innovación.

63. Al aplicar el nuevo marco reglamentario, esperamos que los reguladores:

• Evaluar los principios transversales y aplicarlos a los casos de uso de la IA que entren en su ámbito de competencia.
• Emitir orientaciones pertinentes sobre la forma en que los principios interactúan con la legislación vigente para ayudar a la industria a aplicar los principios. Dicha orientación también debe explicar e ilustrar cómo es el cumplimiento.
• Apoyar a las empresas que operan dentro de las competencias de múltiples reguladores colaborando y produciendo directrices claras y coherentes, incluidas las directrices conjuntas cuando proceda.

64. Los reguladores tendrán que supervisar y evaluar su propia aplicación del marco y su propia eficacia en la regulación de la IA en el ámbito de sus competencias. Entendemos que puede haber riesgos relacionados con la IA que no entran claramente dentro de las competencias de los reguladores existentes del Reino Unido. No todos los nuevos riesgos relacionados con la IA requerirán una respuesta regulatoria y existe un ecosistema creciente de herramientas para una IA confiable que puede respaldar la aplicación de los principios transversales.

65. Cuando los riesgos prioritarios se encuentren dentro de una laguna en el panorama jurídico, los reguladores tendrán que colaborar con el gobierno para identificar posibles acciones. Esto puede incluir la identificación de iteraciones del marco, como cambios en las competencias de los reguladores, actualizaciones del Código de los Reguladores o intervenciones legislativas adicionales. Nuestro enfoque se beneficia de nuestro sólido sistema parlamentario soberano, que permite de forma fiable la introducción de medidas específicas y proporcionadas en respuesta a los problemas emergentes, incluida la adaptación de la legislación existente si es necesario.

66. El examen de Sir Patrick Vallance ha puesto de relieve que los intentos apresurados de regular la IA demasiado pronto podrían sofocar la innovación. Nuestro enfoque se alinea con esta perspectiva. Reconocemos la necesidad de construir una base de evidencia más sólida antes de tomar decisiones sobre intervenciones estatutarias. Al hacerlo, nos aseguraremos de lograr el equilibrio adecuado entre mantener la flexibilidad en nuestro enfoque iterativo y proporcionar claridad a las empresas. Como se detalla en la sección 3.3.1, ofreceremos una serie de funciones centrales, como la exploración del horizonte y la supervisión de riesgos, para identificar y responder a situaciones en las que los riesgos prioritarios no estén adecuadamente cubiertos por el marco, o en las que las brechas entre las competencias de los reguladores estén afectando negativamente a la innovación.

3.2.6 Orientación a los reguladores sobre la aplicación de los principios

67. El marco reglamentario propuesto depende de la aplicación de los principios por parte de nuestros reguladores expertos. Este enfoque liderado por los reguladores ha recibido un amplio apoyo de toda la industria, y las partes interesadas reconocen la importancia de la experiencia específica del sector que tienen los reguladores individuales. Esperamos que los reguladores colaboren de manera proactiva para lograr los mejores resultados para la economía y la sociedad. Trabajaremos con los reguladores para supervisar el marco más amplio y garantizar que este enfoque colaborativo para la implementación sea eficaz. Si se necesitan mejoras, incluidas intervenciones para impulsar una colaboración más sólida entre los reguladores, tomaremos medidas adicionales.

68. Nuestro compromiso con los reguladores y la industria puso de relieve la necesidad de que el gobierno central apoye a los reguladores. Trabajaremos con los reguladores para desarrollar una guía que les ayude a implementar los principios de una manera que se alinee con nuestras expectativas sobre cómo debería funcionar el marco. Los marcos legales existentes ya exigen y guían las acciones de los reguladores. Por ejemplo, casi todos los reguladores están obligados por el Código de Reguladores [nota 116] y todos los reguladores, como organismos públicos, están obligados a cumplir con la Ley de Derechos Humanos. Nuestra guía propuesta para los reguladores buscará garantizar que, al aplicar los principios, los reguladores reciban apoyo y se les aliente a:

• Adoptar un enfoque proporcionado que promueva el crecimiento y la innovación centrándose en los riesgos que plantea la IA en un contexto concreto.
• Considerar medidas proporcionadas para abordar los riesgos prioritarios, teniendo en cuenta las evaluaciones transversales de riesgos realizadas por el gobierno o en su nombre.
• Diseñar, aplicar y hacer cumplir los requisitos reglamentarios apropiados y, cuando sea posible, integrar la aplicación de los principios en los procesos existentes de supervisión, investigación y cumplimiento.
• Elaborar orientaciones conjuntas, cuando proceda, para apoyar el cumplimiento por parte de la industria de los principios y los requisitos reglamentarios pertinentes.
• Considere cómo las herramientas para una IA confiable, como las técnicas de aseguramiento y los estándares técnicos, pueden respaldar el cumplimiento normativo.
• Participar de manera proactiva y colaborativa en el monitoreo y la evaluación del marco por parte del gobierno.

69. Se proporcionarán más detalles sobre la aplicación del marco reglamentario a través de una hoja de ruta para la regulación de la IA que se publicará junto con la respuesta del Gobierno a la consulta sobre el presente Libro Blanco.

3.3.1 Nuevas funciones centrales de apoyo al marco

70. El Gobierno tiene la responsabilidad de velar por que el marco reglamentario funcione de manera proporcionada y apoye la innovación. Los comentarios de las empresas sobre nuestras propuestas han sido claros en el sentido de que el actual mosaico de regulación, con relativamente poca coordinación o supervisión central, creará una barrera cada vez mayor para la innovación si no se aborda. Las respuestas de más de 130 organizaciones y particulares a nuestro documento de política de 2022 pusieron de manifiesto la necesidad de un mayor nivel de seguimiento y coordinación para lograr la coherencia y una mayor claridad que necesitamos para apoyar la innovación. Las empresas, en particular las pequeñas y medianas, señalaron que la coordinación reglamentaria podría mejorar la certidumbre empresarial y la inversión, lo que daría lugar a más y mejores puestos de trabajo en el sector.

71. Por consiguiente, el Gobierno tiene la intención de establecer mecanismos para coordinar, supervisar y adaptar el marco en su conjunto. A continuación, se detallan más detalladas estas funciones. La mejora de la actividad de supervisión nos permitirá adoptar un enfoque estructurado para recopilar información de la industria sobre el impacto de nuestro régimen a medida que se introduzca. Estos mecanismos complementarán y apoyarán la labor de los reguladores, sin menoscabar su independencia. Del mismo modo, esos mecanismos no tienen por objeto duplicar las actividades existentes.

72. El desempeño centralizado de algunas funciones proporciona al gobierno una visión general de cómo funciona el marco, dónde es eficaz y dónde puede ser necesario mejorarlo. Un conjunto central de funciones también facilitará la colaboración al reunir a una amplia gama de partes interesadas, incluidos los reguladores, los socios internacionales, la industria, las organizaciones de la sociedad civil, como los sindicatos y los grupos de defensa, el mundo académico y el público en general. Nuestro compromiso con estos grupos ha puesto de relieve la necesidad de las funciones centrales que hemos propuesto. Continuaremos convocando a una amplia gama de partes interesadas para asegurarnos de escuchar todo el espectro de puntos de vista. Esta amplitud de compromiso y colaboración será parte integral de la capacidad del gobierno para monitorear y mejorar el marco. Las funciones identificarán y apoyarán oportunidades para una mayor coordinación entre los reguladores, lo que dará lugar a una mayor claridad para las empresas y a una mayor confianza de los consumidores.

73. El Tribunal ha identificado un conjunto de funciones que impulsarán la coherencia normativa y apoyarán a los reguladores en la aplicación del enfoque favorable a la innovación que hemos esbozado. Estas funciones se han basado en nuestras conversaciones con la industria, las organizaciones de investigación y los reguladores tras la publicación del documento de política de IA.

74. Es importante contar con la arquitectura adecuada para supervisar la ejecución de las funciones centrales descritas anteriormente. El ecosistema de la IA ya se beneficia de una serie de organizaciones con una amplia experiencia en cuestiones regulatorias. Las iniciativas de coordinación innovadoras, como el Foro de Cooperación en Regulación Digital (DRCF, por sus siglas en inglés), desempeñan un papel valioso en la mejora de la alineación regulatoria y el fomento del diálogo sobre cuestiones digitales entre los reguladores. Sin embargo, el DRCF no se creó para apoyar el desempeño de todas las funciones que hemos identificado o la implementación de nuestro marco regulatorio propuesto para la IA.

75. Inicialmente, el gobierno se encargará de desempeñar las funciones centrales descritas anteriormente, trabajando en asociación con los reguladores y otros actores clave en el ecosistema de la IA para aprovechar las actividades existentes cuando sea posible. Esto está alineado con nuestro enfoque iterativo general y permite la revisión del marco en todo el sistema. Reconocemos que puede ser útil una prestación más independiente de las funciones centrales a largo plazo.

76. En los casos en que las organizaciones ya hayan emprendido actividades pertinentes, tanto dentro como fuera del gobierno, la función principal de las funciones centrales será aprovechar esas actividades y evaluar su eficacia. Cuando este no sea el caso, por ejemplo, cuando se necesiten nuevas capacidades a medida para supervisar y evaluar el funcionamiento del marco en su conjunto, estas funciones se establecerán inicialmente en el gobierno

77. Estamos adoptando deliberadamente un enfoque iterativo para la aplicación del marco reglamentario y prevemos que el modelo para proporcionar las funciones centrales se desarrollará con el tiempo. Identificaremos dónde puede ser necesario complementar o adaptar las estructuras existentes. En particular, nos centramos en comprender:

• Si los foros regulatorios existentes podrían ampliarse para incluir a toda la gama de reguladores involucrados en la regulación de la IA o si se necesitan mecanismos adicionales.
• ¿Qué conocimientos especializados adicionales puede necesitar el gobierno para apoyar la aplicación y el seguimiento de los principios, incluido el papel potencial que podrían desempeñar los órganos consultivos establecidos?
• La forma más eficaz de reunir las aportaciones de todos los sectores y consumidores para garantizar una amplia gama de opiniones.

78. El Gobierno, en el desempeño de las funciones centrales de reglamentación y en la supervisión del marco, se beneficiará de la participación de expertos externos para recabar ideas y asesoramiento de expertos de la industria, el mundo académico y la sociedad civil. El Consejo de IA ha sido una importante fuente de experiencia durante los últimos 3 años, asesorando al gobierno sobre el desarrollo de la Estrategia Nacional de IA, así como nuestro enfoque de la gobernanza de la IA. A medida que entramos en una nueva fase, revisaremos el papel del Consejo de IA y consideraremos la mejor manera de involucrar a los expertos para apoyar la implementación del marco regulatorio.

79. A medida que evolucione el marco reglamentario y desarrollemos una comprensión más clara de las funciones necesarias a nivel del sistema, examinaremos el modelo operacional esbozado anteriormente. En particular, consideraremos si una unidad de gobierno es el mecanismo más apropiado para llevar a cabo las funciones centrales a largo plazo o si un órgano independiente sería más eficaz.

3.3.2 El papel del gobierno en la rendición de cuentas a lo largo del ciclo de vida

80. La asignación clara de la rendición de cuentas y la responsabilidad jurídica es importante para una gobernanza eficaz de la IA. La responsabilidad jurídica del cumplimiento de los principios debe asignarse a los agentes del ciclo de vida de la IA que mejor puedan identificar, evaluar y mitigar eficazmente los riesgos de la IA. Una asignación incoherente o fuera de lugar de la responsabilidad jurídica podría obstaculizar la innovación o la adopción de la IA.

81. Sin embargo, las cadenas de suministro de IA pueden ser complejas y opacas, lo que dificulta una gobernanza eficaz de la IA y la gestión de los riesgos de la cadena de suministro. La asignación inadecuada del riesgo, la responsabilidad y la responsabilidad de la IA para la gobernanza de la IA a lo largo del ciclo de vida de la IA y dentro de las cadenas de suministro de IA podría tener un impacto negativo en la innovación. Por ejemplo, la asignación inadecuada de responsabilidad a una empresa que utiliza, pero no desarrolla, la IA podría sofocar la adopción de la IA. Del mismo modo, asignar demasiada responsabilidad a las empresas que desarrollan modelos de fundación, sobre la base de que estos modelos podrían ser utilizados por terceros en una variedad de contextos, obstaculizaría la innovación.

82. Reconocemos la necesidad de considerar qué actores deben ser responsables del cumplimiento de los principios, que pueden no ser los mismos actores que soportan la carga en virtud de los marcos jurídicos actuales. Por ejemplo, la ley de protección de datos diferencia entre controladores de datos y procesadores de datos. Del mismo modo, las leyes de seguridad de los productos incluyen los conceptos de productores y distribuidores. En el contexto de esos marcos jurídicos específicos, la responsabilidad por el cumplimiento de diversas obligaciones legales existentes se asigna por ley a los agentes de la cadena de suministro identificados. Todavía no está claro cómo se asignará o debería asignarse idealmente la responsabilidad por demostrar el cumplimiento de los principios regulatorios de la IA a los actores existentes de la cadena de suministro dentro del ciclo de vida de la IA.

83. No estamos proponiendo intervenir y hacer cambios en la rendición de cuentas durante el ciclo de vida en esta etapa. Es demasiado pronto para tomar decisiones sobre la responsabilidad, ya que se trata de una cuestión compleja y en rápida evolución que debe abordarse adecuadamente para garantizar el éxito de nuestro ecosistema de IA más amplio. Sin embargo, para ampliar nuestra comprensión de este tema, involucraremos a una serie de expertos, incluidos técnicos y abogados. Es posible que se haga evidente que los marcos legales actuales, cuando se combinan con la implementación de nuestros principios de IA por parte de los reguladores, asignarán la responsabilidad legal a lo largo de la cadena de suministro de una manera que no es justa ni efectiva. Consideraríamos intervenciones proporcionadas para abordar estos problemas que, de otro modo, podrían socavar nuestro enfoque favorable a la innovación de la regulación de la IA. Nuestro enfoque ágil beneficia la capacidad fiable de nuestro sistema parlamentario soberano para introducir medidas específicas, por ejemplo, modificando la legislación existente si es necesario, en respuesta a nuevas pruebas.

84. Las herramientas para una IA fiable, como las técnicas de aseguramiento y las normas técnicas, pueden apoyar la gestión de riesgos de la cadena de suministro. Estas herramientas también pueden impulsar la adopción y la adopción de la IA mediante la creación de una confianza justificada en estos sistemas, dando a los usuarios la confianza de que se han identificado, abordado y mitigado los riesgos clave relacionados con la IA en toda la cadena de suministro. Por ejemplo, al describir las medidas que los fabricantes deben adoptar para garantizar la seguridad de los sistemas de IA, las normas técnicas pueden proporcionar garantías a los compradores y usuarios de sistemas de IA de que se han adoptado medidas adecuadas centradas en la seguridad, fomentando en última instancia la adopción de la IA.

85. Nuestra evaluación del marco determinará si la responsabilidad jurídica de la IA se distribuye de manera efectiva y justa. A medida que implementemos el marco, continuaremos con nuestro amplio compromiso para recopilar evidencia de los reguladores, la industria, la academia y la sociedad civil sobre su impacto en diferentes actores a lo largo del ciclo de vida de la IA. Esto nos permitirá monitorear los efectos de nuestro marco en los actores de toda la cadena de suministro de IA de forma continua. Necesitaremos un enfoque particular en los modelos de base, dados los desafíos potenciales que plantean para la rendición de cuentas del ciclo de vida, especialmente cuando están disponibles como código abierto. Al evaluar de forma centralizada si existen medidas adecuadas para la rendición de cuentas de la IA, podemos evaluar la necesidad de nuevas intervenciones en la responsabilidad de la IA en toda la economía y el ciclo de vida de la IA

3.3.3 Modelos de cimentación y marco normativo

86. Los modelos básicos son un tipo emergente de IA de propósito general que se entrenan con grandes cantidades de datos y pueden adaptarse a una amplia gama de tareas. El rápido desarrollo de los modelos básicos plantea nuevos desafíos para los gobiernos que buscan regular la IA. A pesar de los altos niveles de interés en el tema, la comunidad investigadora no ha encontrado un consenso sobre cómo funcionan los modelos de fundación, los riesgos que plantean o incluso el alcance de sus capacidades.

87. Se ha dicho que los modelos de fundación cambian de paradigma y pueden tener repercusiones significativas en la sociedad y la economía. Pueden utilizarse para una amplia variedad de propósitos y desplegarse en muchos ecosistemas ya complejos. Dado el potencial transformador ampliamente reconocido de los modelos de fundación, debemos prestar especial atención a cómo podrían interactuar con el marco regulatorio propuesto. Nuestro compromiso con un enfoque adaptable y proporcionado presenta una clara oportunidad para que el Reino Unido lidere la conversación global y establezca normas globales para la regulación preparada para el futuro de los modelos de fundación.

88. Existe un número relativamente reducido de organizaciones que desarrollan modelos de fundación. Algunas organizaciones ejercen un estrecho control sobre el desarrollo y la distribución de sus modelos de fundación. Otras organizaciones adoptan un enfoque de código abierto para el desarrollo y la distribución de la tecnología. Los modelos de código abierto pueden mejorar el acceso al poder transformador de los modelos de base, pero pueden causar daños sin las medidas de protección adecuadas. La variación en los enfoques organizativos para desarrollar y suministrar modelos básicos introduce una amplia gama de complejidades para la regulación de la IA. La posible opacidad de los modelos básicos significa que también puede ser difícil identificar y asignar la responsabilidad de los resultados generados por los sistemas de IA que dependen de ellos o los integran.

89. El marco propuesto tiene en cuenta las cuestiones planteadas por los modelos de fundación a la luz de nuestro análisis de la rendición de cuentas sobre el ciclo de vida, que se describe en la sección 3.3.2 supra. Dado el pequeño número de organizaciones que suministran modelos básicos y un número proporcionalmente mayor de empresas que integran o despliegan modelos básicos en otras partes del ecosistema de IA, reconocemos el importante papel de las herramientas para una IA fiable, incluidas las técnicas de aseguramiento y las normas técnicas.

90. Las funciones centrales propuestas que se describen en la sección 3.3.1 desempeñarán un papel importante en la elaboración de nuestro enfoque de la regulación de los modelos de cimentación. El seguimiento proactivo y riguroso de los riesgos asociados a los modelos de base por parte de la función central de riesgos y la identificación de oportunidades relacionadas por parte de la función de exploración del horizonte serán fundamentales para garantizar que logremos el equilibrio necesario como parte de nuestro enfoque normativo proporcionado y favorable a la innovación. Será crucial garantizar que la función de seguimiento y evaluación propuesta tenga acceso a las habilidades y capacidades técnicas necesarias para evaluar el impacto que nuestro marco tiene en las oportunidades y los riesgos que presentan los modelos de base.

91. Reconocemos que la industria, el mundo académico, las organizaciones de investigación y los socios mundiales están buscando formas de abordar los desafíos relacionados con la regulación de los modelos de fundación. Por ejemplo, sabemos que los desarrolladores de modelos básicos están explorando formas de integrar la teoría de alineación en sus modelos. Esta es un área importante de investigación, y el gobierno deberá trabajar en estrecha colaboración con la comunidad de investigación de IA para aprovechar los conocimientos e informar nuestra iteración del marco regulatorio. Nuestro marco colaborativo y adaptable se basará en la experiencia de esos investigadores y otras partes interesadas a medida que continuamos desarrollando políticas en esta área en evolución.

92. El Reino Unido se ha comprometido a desarrollar sus capacidades en modelos de fundación. Nuestro Grupo de Trabajo del Modelo de Fundación, anunciado en la Actualización de la Revisión Integrada 2023 apoyará al Gobierno para desarrollar la capacidad del Reino Unido y garantizar que el Reino Unido aproveche los beneficios que presenta esta tecnología emergente. El marco que proponemos garantizará la creación del entorno normativo adecuado a medida que avanzamos para maximizar el potencial transformador de los modelos de fundación.

3.3.4 Entornos de pruebas y entornos de pruebas de inteligencia artificial

93. El Gobierno se ha comprometido a apoyar a los innovadores abordando los problemas reglamentarios que impiden que los productos nuevos y de vanguardia lleguen al mercado. Las barreras pueden ser particularmente altas cuando un camino hacia el mercado requiere la interacción con múltiples reguladores o la orientación regulatoria es incipiente. El Informe Digital de Sir Patrick Vallance recomienda que el gobierno trabaje con los reguladores para desarrollar un sandbox de IA para apoyar a los innovadores. En el Presupuesto, el Gobierno confirmó nuestro compromiso de llevar adelante esta recomendación.

94. La Oficina del Comisionado de Información (ICO) y la Autoridad de Conducta Financiera (FCA) ya han puesto a prueba con éxito entornos de pruebas digitales en sus sectores. El sandbox de FCA ha trabajado con más de 800 empresas y ha acelerado su velocidad de comercialización en un 40% de media. También se ha descubierto que la participación en sandbox tiene importantes beneficios financieros, especialmente para las organizaciones más pequeñas. Hemos escuchado de los reguladores, incluidos aquellos con menos experiencia en participar en iniciativas anteriores, que están dispuestos a participar en nuevos entornos de pruebas de IA para apoyar a sus sectores regulados.

95. Los entornos de pruebas y los bancos de pruebas reglamentarios desempeñarán un papel importante en el régimen reglamentario que proponemos. Estas iniciativas permiten al gobierno y a los reguladores:

• Apoyar a los innovadores para que introduzcan productos y servicios novedosos en el mercado más rápidamente, de modo que puedan empezar a generar beneficios económicos y sociales.
• Probar cómo funciona el marco regulatorio en la práctica e iluminar las barreras innecesarias a la innovación que deben abordarse.
• Identificar la tecnología emergente y las tendencias del mercado a las que nuestro marco regulatorio puede necesitar adaptarse.

96. A fin de ofrecer un entorno de pruebas eficaz, nos gustaría comprender más a fondo qué enfoque de servicio sería más útil para la industria. Estamos considerando 4 opciones:

• Sector único, regulador único: apoyar a los innovadores para que introduzcan productos de IA en el mercado en colaboración con un único regulador, centrándose en un solo sector industrial elegido.
• Múltiples sectores, un solo regulador: apoye a los innovadores de IA en colaboración con un único regulador que sea capaz de trabajar en múltiples sectores industriales.
• Un solo sector, un regulador múltiple: establecer un sandbox que solo opere en un sector industrial, pero que sea capaz de apoyar a los innovadores de IA cuyo camino hacia el mercado requiere la interacción con uno o más reguladores que operan en ese sector.
• Múltiples sectores, múltiples reguladores: un sandbox capaz de operar con uno o más reguladores en uno o más sectores industriales para ayudar a los innovadores de IA a llegar a su mercado objetivo. El DRCF está probando una versión de este modelo.

97. Tenemos la intención de centrar un proyecto piloto inicial en un entorno de pruebas de un solo sector y de varios reguladores. Reconociendo la importancia de las innovaciones de IA que tienen implicaciones en múltiples sectores (como los modelos de IA generativa), buscaríamos expandir esta capacidad para cubrir múltiples sectores de la industria a lo largo del tiempo.

98. Inicialmente, prevemos centrar el sandbox en un sector en el que exista un alto grado de inversión en IA, la demanda de la industria de un sandbox y el apetito por mejorar la colaboración entre los reguladores para ayudar a los innovadores de IA a llevar sus productos al mercado. Invitamos a que se envíen comentarios sobre esta propuesta, así como sugerencias para los sectores industriales que cumplan con estos criterios.

99. También nos gustaría comprender mejor qué oferta de servicios sería más útil para la industria. Algunos sandboxes ofrecen entornos de prueba supervisados de la vida real o simulados en los que los innovadores pueden probar nuevos productos, a menudo bajo requisitos normativos relajados. En otros escenarios, un equipo de tecnólogos y expertos en regulación brinda asesoramiento y apoyo personalizado a los innovadores participantes durante varios meses para ayudarlos a comprender y superar las barreras regulatorias para que puedan llegar a su mercado objetivo. Nuestra preferencia actual es el modelo de asesoramiento y apoyo personalizado, ya que creemos que es donde podemos ofrecer beneficios de manera más efectiva a corto plazo. Exploraremos opciones para desarrollar una capacidad de entorno de prueba seguro en una fecha posterior, informados por nuestro trabajo piloto inicial.

100. La aplicación de un entorno de pruebas regulatorio de IA también se verá estrechamente influenciada por la revisión de Sir Patrick Vallance sobre la regulación digital y su recomendación de establecer un entorno de pruebas de múltiples reguladores. La revisión establece una serie de principios de diseño, que incorporaremos a nuestro enfoque piloto. Esto incluye dirigir estas iniciativas a las empresas emergentes y a las pequeñas y medianas empresas. Como cuestión prioritaria, nos comprometeremos con las empresas para comprender cómo debe diseñarse y entregarse dicho enfoque para satisfacer mejor sus necesidades

3.3.5 Capacidades del regulador

101. El Gobierno ha dado prioridad a la evaluación continua de las diferentes necesidades de capacidad en todo el panorama normativo. Mantendremos esto bajo estrecha revisión como parte de nuestra actividad continua de monitoreo y evaluación.

102. Si bien nuestro enfoque no implica actualmente ni prevé ampliar el mandato de ningún regulador, regular los usos de la IA de manera efectiva requerirá que muchos de nuestros reguladores adquieran nuevas habilidades y experiencia. Nuestra investigación ha puesto de relieve los diferentes niveles de capacidad entre los reguladores a la hora de comprender la IA y abordar sus características únicas. Nuestro compromiso también ha suscitado una amplia gama de puntos de vista sobre las capacidades que los reguladores requieren para abordar los riesgos de la IA y sobre la mejor manera de que los reguladores las adquieran.

103. El Tribunal identificó posibles lagunas de capacidad entre muchos, pero no todos, los reguladores, principalmente en relación con:

Experiencia en IA. Particularmente:

• Experiencia técnica en tecnología de IA. Por ejemplo, sobre cómo se utiliza la IA para ofrecer productos y servicios y sobre el desarrollo, el uso y la aplicabilidad de las normas técnicas.
• Experiencia en cómo interactúan los casos de uso de IA a través de múltiples regímenes regulatorios.
• Inteligencia de mercado sobre cómo se están utilizando las tecnologías de IA para alterar los modelos de negocio existentes, tanto en términos de oportunidades potenciales como de riesgos que pueden afectar a los objetivos normativos.

Capacidad organizativa. La capacidad de un regulador para:

• Adáptese de manera efectiva a la aparición de casos de uso y aplicaciones de IA, y asimile y comparta este conocimiento en toda la organización.
• Trabajar con organizaciones que proporcionan técnicas de aseguramiento (como los proveedores de servicios de aseguramiento) y desarrollar estándares técnicos (como las organizaciones de desarrollo de estándares), para identificar las herramientas relevantes e integrarlas en el marco regulatorio y las mejores prácticas.
• Trabajar entre los reguladores para compartir conocimientos y cooperar en la regulación de los casos de uso de la IA que interactúan a través de múltiples regímenes normativos.
• Establecer relaciones y comunicarse de manera efectiva con organizaciones y grupos que normalmente no están dentro de sus competencias.

104. En las fases iniciales de la aplicación, el Gobierno colaborará con los principales asociados para aprovechar la labor existente sobre este tema. Por ejemplo, el Foro de Cooperación en materia de Regulación Digital (DRCF, por sus siglas en inglés) ya está explorando formas de abordar las brechas de capacidad dentro de sus miembros.

105. Existen opciones para abordar las lagunas de capacidad dentro de los reguladores individuales y en el panorama regulatorio más amplio, que seguiremos explorando. Por ejemplo, puede ser conveniente establecer un conjunto común de conocimientos especializados que pueda establecer las mejores prácticas para apoyar la innovación a través de enfoques reguladores y facilitar que los reguladores trabajen entre sí en cuestiones comunes. Un enfoque alternativo consistiría en explorar y facilitar iniciativas de colaboración entre los reguladores, incluido, cuando proceda, un mayor apoyo a las iniciativas existentes, como el DRCF, para compartir conocimientos y experiencia

Parte 4: Herramientas para una IA confiable para respaldar la implementación

4.1 Técnicas de aseguramiento de la IA

106. Los instrumentos para una IA fiable, incluidas las técnicas de aseguramiento y las normas técnicas, desempeñarán un papel fundamental para permitir la adopción responsable de la IA y apoyar el marco reglamentario propuesto. La industria y la sociedad civil estaban interesadas en ver una serie de herramientas prácticas para ayudar al cumplimiento. El Gobierno ya está apoyando el desarrollo de estas herramientas mediante la publicación de una hoja de ruta para un ecosistema eficaz de garantía de IA en el Reino Unido [nota 154] y el establecimiento del Centro de Normas de IA del Reino Unido para defender el uso de normas técnicas.

107. Para garantizar la eficacia de los sistemas de IA, necesitamos un conjunto de técnicas de aseguramiento para medir, evaluar y comunicar la fiabilidad de los sistemas de IA a lo largo del ciclo de vida del desarrollo y la implantación. Estas técnicas incluyen la evaluación de impacto, la auditoría y las pruebas de rendimiento, junto con métodos formales de verificación.

108. Es poco probable que la demanda de garantía de la IA pueda satisfacerse en su totalidad mediante el desarrollo de capacidades internas por parte de las organizaciones. El mercado emergente de los servicios y la experiencia en materia de aseguramiento de la IA desempeñará un papel importante a la hora de proporcionar una serie de técnicas de aseguramiento a los actores de la cadena de suministro de la IA. Existe una oportunidad para que el Reino Unido se convierta en un líder mundial en este mercado a medida que se desarrolla la industria de aseguramiento de la IA. Esto permitirá a las organizaciones determinar si las tecnologías de IA están alineadas con los requisitos normativos pertinentes.

109. Para ayudar a los innovadores a comprender cómo las técnicas de aseguramiento de la IA pueden respaldar una gobernanza más amplia de la IA, el Gobierno pondrá en marcha una cartera de técnicas de aseguramiento de la IA en la primavera de 2023. El portafolio es una colaboración con la industria para mostrar cómo estas herramientas ya están siendo aplicadas por las empresas a casos de uso del mundo real y cómo se alinean con los principios regulatorios de IA.

4.2 Normas técnicas de IA

110. Las técnicas de aseguramiento deben estar respaldadas por las normas técnicas disponibles, que proporcionen un entendimiento común entre los proveedores de aseguramiento. Las normas técnicas y las técnicas de aseguramiento también permitirán a las organizaciones demostrar que sus sistemas están en línea con los principios regulatorios de IA del Reino Unido.

111. Múltiples organizaciones internacionales y regionales de normalización están elaborando, o ya han publicado, normas técnicas específicas para la IA, que abordan temas como la gestión de riesgos, la transparencia, el sesgo, la seguridad y la solidez. En consecuencia, los reguladores pueden utilizar las normas técnicas para complementar los enfoques sectoriales específicos de la regulación de la IA proporcionando puntos de referencia comunes y orientación práctica a las organizaciones. En general, las normas técnicas pueden incorporar flexibilidad en los regímenes normativos e impulsar la innovación responsable ayudando a las organizaciones a abordar los riesgos relacionados con la IA.

112. El Reino Unido desempeña un papel de liderazgo en la elaboración de normas técnicas internacionales, trabajando con la industria, los socios internacionales y el Reino Unido. El gobierno seguirá apoyando el papel de las normas técnicas para complementar nuestro enfoque de la regulación de la IA, incluso a través del Centro de Normas de IA del Reino Unido

Parte 5: Aplicación territorial

5.1 Aplicación territorial del marco normativo

113. Nuestro marco regulador de la IA se aplica a todo el Reino Unido. La IA se utiliza en diversos sectores e impacta en una amplia gama de ámbitos políticos, algunos de los cuales están reservados y otros están descentralizados. Continuaremos considerando cualquier impacto de la devolución de la regulación de la IA a medida que se desarrolle la política y antes de cualquier acción legislativa. Algunos reguladores comparten competencias con sus homólogos de las administraciones descentralizadas. Nuestro marco, que se establecerá inicialmente de forma no estatutaria, no alterará la actual disposición territorial de la política de IA. Nos basaremos en las interacciones con la legislación existente sobre asuntos reservados, como la Ley de Protección de Datos de 2018 y la Ley de Igualdad de 2010, para implementar nuestro marco.

114. Seguiremos colaborando con las administraciones descentralizadas, las empresas y los ciudadanos de todo el Reino Unido para garantizar que todas las partes del país se beneficien de nuestro enfoque favorable a la innovación. Por ejemplo, convocaremos a las administraciones descentralizadas para que emitan opiniones sobre las funciones que esperamos que desempeñe el gobierno y sobre las posibles implicaciones de introducir una obligación legal para que los reguladores tengan debidamente en cuenta los principios.

5.2 Aplicación extraterritorial del marco normativo

115. Si bien esperamos que nuestro enfoque basado en principios influya en la conversación mundial sobre la gobernanza de la IA, actualmente no estamos proponiendo la introducción de nuevos requisitos legales. Por lo tanto, nuestro marco no cambiará la aplicabilidad territorial de la legislación vigente pertinente a la IA (incluida, por ejemplo, la legislación sobre protección de datos).

Parte 6: Interoperabilidad global y compromiso internacional

6.1 Nuestro marco regulatorio en el escenario mundial

116. Los países y jurisdicciones de todo el mundo se están moviendo rápidamente para establecer las normas que rigen la IA. El Reino Unido es un líder mundial en IA con una ventaja estratégica que nos sitúa a la vanguardia de estos desarrollos. El Reino Unido ocupa el tercer lugar en el mundo en publicaciones de IA y también tiene el tercer mayor número de empresas de IA. Queremos aprovechar esta posición, convirtiendo al Reino Unido en el mejor lugar para investigar la IA y crear y construir empresas innovadoras de IA. Al mismo tiempo, reconocemos la importancia de trabajar en estrecha colaboración con los socios internacionales. Como tal, el enfoque del Reino Unido tanto en nuestra regulación nacional como en las discusiones internacionales seguirá guiado por nuestra ambición de desarrollar marcos de IA que defiendan nuestros valores democráticos y prioridades económicas.

117. En consonancia con nuestro enfoque nacional, nos centraremos en apoyar las oportunidades mundiales positivas que puede aportar la IA, protegiendo al mismo tiempo a los ciudadanos contra los posibles daños y riesgos que pueden surgir a través de las fronteras. Trabajaremos en estrecha colaboración con socios internacionales para aprender de los avances normativos y no reglamentarios e influir en ellos. Dada la naturaleza compleja y transfronteriza de las cadenas de suministro de IA, con muchas empresas de IA operando en múltiples jurisdicciones, una estrecha cooperación internacional fortalecerá el impacto de nuestro marco propuesto.

118. Promoveremos la interoperabilidad y la coherencia entre los diferentes enfoques, haciendo frente a los obstáculos que puedan obstaculizar a las empresas que operan a escala internacional. Nos aseguraremos de que el marco regulatorio del Reino Unido fomente el desarrollo de un sistema receptivo y compatible de gobernanza global de la IA. Construiremos nuestra influencia internacional, lo que permitirá al Reino Unido comprometerse de manera significativa con socios de ideas afines en cuestiones como los riesgos y oportunidades transfronterizos de la IA.

119. El Reino Unido seguirá aplicando un enfoque inclusivo y de múltiples partes interesadas, desde la negociación de nuevas normas mundiales hasta la ayuda a los países socios para aumentar su concienciación y capacidad en relación con los beneficios y riesgos de la tecnología de IA. Por ejemplo, apoyaremos a otras naciones para que implementen regulaciones y estándares técnicos que apoyen la inteligencia artificial inclusiva, responsable y sostenible. En términos más generales, la Estrategia Tecnológica Internacional reiterará cómo daremos forma a las actividades globales de IA en línea con los valores y prioridades del Reino Unido, protegiendo contra los esfuerzos para adoptar y aplicar tecnologías de IA al servicio del autoritarismo y la represión. Trabajaremos con los líderes de la industria del Reino Unido para asegurarnos de que nos mantenemos a la vanguardia de la IA y compartimos nuestras mejores prácticas con naciones de ideas afines. Del mismo modo, aprenderemos de nuestros socios internacionales, alentándolos a compartir lecciones que podamos integrar en nuestro marco.

120. Nuestro enfoque internacional incluirá garantizar que las técnicas de aseguramiento y las normas técnicas internacionales probadas, eficaces y acordadas desempeñen un papel en el ecosistema regulador más amplio. Estas medidas también apoyarán el comercio transfronterizo mediante el establecimiento de prácticas de gestión de riesgos y gobernanza de la IA reconocidas a escala mundial por los socios comerciales, la reducción de los obstáculos técnicos al comercio y el aumento del acceso al mercado. También utilizaremos nuestras disposiciones sobre innovación líderes en el mundo en los Acuerdos de Libre Comercio para abordar los desafíos que pueden enfrentar los innovadores en IA y garantizar que las empresas puedan aprovechar las oportunidades que presenta.

121. En los compromisos multilaterales, trabajaremos para aprovechar los puntos fuertes, la experiencia y la composición de cada foro para garantizar que agreguen el máximo valor a los debates sobre la gobernanza mundial de la IA y sean pertinentes para nuestros valores democráticos y prioridades económicas

Parte 7: Conclusión y próximos pasos

7.1 Conclusión y próximos pasos

122. Nuestro enfoque proporcionado para regular la IA está diseñado para fortalecer la posición del Reino Unido como líder mundial en inteligencia artificial, aprovechar la capacidad de la IA para impulsar el crecimiento y la prosperidad y aumentar la confianza pública en estas tecnologías. El enfoque que establecemos es proporcionado, adaptable y sensible al contexto para lograr el equilibrio adecuado entre la respuesta a los riesgos y la maximización de las oportunidades.

123. Las propuestas que figuran en el presente documento se han basado en los comentarios recibidos de más de 130 encuestados en el marco de nuestra convocatoria de opiniones sobre nuestro documento de política de 2022. Continuaremos trabajando en estrecha colaboración con las empresas y los reguladores a medida que comencemos a establecer las funciones centrales que hemos identificado. El compromiso continuo con la industria será clave para nuestro seguimiento y evaluación. Los comentarios garantizarán que el marco pueda adaptarse a las nuevas pruebas, lo que garantizará el papel del Reino Unido como líder en innovación de la IA y garantizará que podamos asumir un papel de liderazgo en la configuración de la narrativa mundial sobre la regulación de la IA.

124. Habida cuenta del ritmo al que surgen las tecnologías y los riesgos de la IA, y de la magnitud de las oportunidades que están en juego, sabemos que no hay tiempo que perder si queremos reforzar la posición del Reino Unido como uno de los mejores lugares del mundo para crear una empresa de IA. En colaboración con los reguladores, ya estamos explorando enfoques para implementar el marco y ampliaremos esta actividad en los próximos meses. Estamos comprometidos con un enfoque adaptable e iterativo que nos permita aprender y mejorar el marco. Nuestro sistema parlamentario soberano nos permite adoptar medidas específicas y proporcionadas, incluso adaptando la legislación vigente si es necesario, sobre la base de las pruebas emergentes. Por lo tanto, hay aspectos de nuestro trabajo de aplicación que se llevarán a cabo en paralelo con la consulta más amplia que se establece en este libro blanco.

125. En los primeros 6 meses siguientes a la publicación:

• Colaborar con la industria, el sector público, los reguladores, el mundo académico y la sociedad civil durante el período de consulta.
• Publique la respuesta del gobierno a esta consulta.
• Emitir los principios intersectoriales a los reguladores, junto con la orientación inicial a los reguladores para su implementación. Trabajaremos con los reguladores para comprender cómo se puede aplicar la descripción de las características de la IA dentro de los diferentes ámbitos regulatorios y el impacto que esto tendrá en la aplicación de los principios intersectoriales.
• Diseñar y publicar una hoja de ruta de la regulación de la IA con planes para establecer las funciones centrales incluido el seguimiento y la coordinación de la aplicación de los principios. Esta hoja de ruta establecerá las principales organizaciones asociadas e identificará las iniciativas existentes que se ampliarán o aprovecharán para cumplir las funciones centrales. También incluirá planes para poner a prueba un nuevo sandbox o banco de pruebas de IA.
• Analizar los resultados de los proyectos de investigación encargados y mejorar nuestra comprensión de:
  • Posibles barreras a las que se enfrentan las empresas que buscan cumplir con nuestro marco y formas de superarlas.
  • Cómo se asigna actualmente la responsabilidad del cumplimiento normativo a lo largo del ciclo de vida de la IA en escenarios del mundo real.
  • La capacidad de los reguladores clave para implementar nuestro marco regulatorio y cómo podemos apoyarlos mejor.
  • Mejores prácticas para medir e informar sobre los riesgos relacionados con la IA en los marcos regulatorios.

126. En los 6 a 12 meses siguientes a la publicación:

• Acordar acuerdos de asociación con organizaciones líderes e iniciativas existentes para llevar a cabo las primeras funciones centrales.
• Alentar a los principales reguladores a que publiquen orientaciones sobre cómo se aplican los principios intersectoriales en el ámbito de sus competencias.
• Publicar propuestas para el diseño de un marco central de SyE que incluya las métricas identificadas, las fuentes de datos y los umbrales o desencadenantes identificados para una mayor intervención o iteración del marco. Esto se publicará para su consulta.
• Continuar desarrollando un sandbox regulatorio o banco de pruebas con innovadores y reguladores.

127. A más largo plazo, 12 meses o más después de la publicación:

• Ofrezca una primera iteración de todas las funciones centrales necesarias para garantizar que el marco sea eficaz.
• Trabajar con los principales reguladores que no han publicado directrices sobre cómo se aplican los principios intersectoriales dentro de sus competencias para alentarlos y apoyarlos a hacerlo.
• Publicar un borrador de registro central de riesgos de IA Inter económico para su consulta.
• Desarrolle el sandbox regulatorio o el banco de pruebas a partir de la información del piloto.
• Publicar el primer informe de seguimiento y evaluación. Con ello se evaluará el funcionamiento de los principios intersectoriales y el cumplimiento de las funciones centrales. El desempeño se medirá en función de las características de nuestro marco: pro-innovación, proporcionado, confiable, adaptable, claro y colaborativo. El informe también tendrá en cuenta la actividad reguladora existente y el papel del gobierno en su apoyo, incluyendo si se han emitido orientaciones apropiadas (incluidas las directrices conjuntas). En el informe, incluiremos consideraciones sobre la necesidad de cualquier iteración del marco, incluida la necesidad de intervenciones estatutarias.
• Publicar una hoja de ruta actualizada para la regulación de la IA que establezca planes para la futura prestación de las funciones centrales. En particular, evaluará si un equipo del gobierno central es el mecanismo más adecuado para supervisar las funciones centrales a largo plazo o si sería más eficaz un órgano más independiente

---

Publicado originalmente: https://www.gov.uk/government/publications/ai-regulation-a-pro-innovation-approach/white-paper