18th agosto 2023
Tess Buckley, analista senior de ética de IA, EthicsGrade, examina la relación entre la regulación de la inteligencia artificial y la innovación.
Teniendo en cuenta el potencial de daño generalizado, a medida que BigTech despliega sistemas de inteligencia artificial (IA), los responsables políticos se enfrentan a la desalentadora tarea de determinar cómo regular eficazmente la tecnología emergente. La IA puede ser una herramienta eficaz para el progreso cuando su diseño responsable está regulado en aras del interés público.
En conversaciones con inversores y empresarios, las preguntas sobre cómo la regulación de la IA podría obstaculizar la innovación y el crecimiento económico están a la vanguardia. Existe la narrativa de que la aplicación de la regulación sofocará la innovación; pero existe una relación matizada entre la regulación y la innovación de la IA. La regulación a veces puede sofocar la innovación, pero su necesidad permanece. El uso de enfoques como la estrategia de sandbox del Reino Unido puede lograr un equilibrio. Se podría argumentar que la regulación en realidad ayuda a la innovación y dirige el desarrollo de productos para servir a la sociedad. Sin embargo, el factor crucial es la aplicación oportuna de dicha regulación.
La integración de enfoques de diseño responsable y ética en el desarrollo de productos de IA evitará la suspensión de proyectos debido a la incertidumbre legislativa y retrasará la realización de valor de posibles oportunidades comerciales. La regulación impondrá estándares éticos a la IA, influyendo en las elecciones de los diseñadores y proporcionando diferentes direcciones para la innovación. En última instancia, una buena regulación permite un entorno de incentivos para la innovación y el diseño que conduce a la creación de productos de IA que sirven a la sociedad, en lugar de explotarla.
Regulación actual de IA: el enfoque sandbox del Reino Unido
Un enfoque potencial para mitigar la supuesta naturaleza inhibitoria de la regulación es a través de la implementación de una caja de arena regulatoria. Este concepto permite a las organizaciones experimentar dentro de límites definidos, logrando un equilibrio entre innovación y seguridad.
El Reino Unido ofrece un entorno sandbox con una baja barrera de entrada, diseñado para atraer a las empresas para sus empresas innovadoras, generalmente durante las fases iniciales del desarrollo de ideas. La trayectoria de una idea, a medida que pasa de la concepción al mercado, amplifica inherentemente sus riesgos potenciales cuando se expone a un público más amplio. Desde la perspectiva de un innovador, una idea inicialmente alberga el potencial de afectar solo al creador. Sin embargo, una vez que la idea se comparte con un equipo de investigación, se expone a un ámbito de influencia más amplio, lo que aumenta su potencial de causar daño. A medida que la idea avanza a través de las etapas de investigación y diseño, la necesidad de una regulación estricta se intensifica, a medida que la idea evoluciona hacia un producto concreto con la capacidad genuina de infligir daño.
Los reguladores tienen que ser ágiles para atraer empresas y proteger el crecimiento económico realizado por el desarrollo de la IA. El alcance de la influencia económica de BigTech plantea una aprensión significativa con respecto al potencial de las regulaciones para sofocar la innovación. BigTech apoya la economía de los Estados Unidos, con el poder de mercado de estas empresas que continúa creciendo. En 2018 Apple fue la primera compañía del mundo en liquidar $ 1 billón en valor de mercado, y Amazon lo siguió más tarde en el año.
En el Congreso Global de Emprendimiento, Céline Kauffman, directora de emprendimiento de la OCDE, declaró que un área de enfoque clave es hacer que la regulación sea más ágil: «El problema que tienes con la regulación y la innovación es doble. Por un lado, no quieres impedir nuevas ideas, innovación, emprendimiento. Pero, por otro lado, existe una regulación para proteger a los consumidores … No quieres reducir demasiado tu nivel de protección solo para dejar que el negocio prospere, porque nunca sabes lo que va a pasar».
Esencialmente, las cajas de arena regulatorias proporcionan un espacio protegido donde las empresas están temporalmente exentas de ciertas regulaciones. Esta libertad les permite innovar y desarrollar nuevos productos durante un período predeterminado, generalmente uno o dos años. Posteriormente, se evalúan los resultados y se evalúa la necesidad de regulación sin obstaculizar la capacidad de innovación.
Diseño responsable en IA: un enfoque proactivo
Con la expansión del mercado de la IA, hay crecientes presiones y opciones para que las organizaciones mejoren su productividad y rentabilidad. Sin embargo, esta prisa ha visto tantos riesgos como oportunidades, incluidas las violaciones de la privacidad del cliente y las preocupaciones de seguridad: los datos internos de Samsung han sido filtrados por los empleados a ChatGPT, Getty Images está demandando a stability.ai por infracción de derechos de autor y HireVue está experimentando cuestiones de sesgo en las tecnologías de reclutamiento de reconocimiento facial.
Estos casos públicos muestran la importancia de que las empresas desarrollen marcos integrales de IA responsable que incluyan gobernanza, responsabilidades internas y marcos para que los equipos tecnológicos aumenten la transparencia y la confianza en todo el ciclo de vida de la IA, especialmente desde una etapa de diseño. En última instancia, la regulación en IA es reactiva, mientras que el diseño responsable es un enfoque proactivo para mitigar los riesgos de las tecnologías emergentes.
La creación responsable de IA requiere un enfoque de diseño primero que considere a las partes interesadas a lo largo del ciclo de vida de un producto. Ethics by Design es un marco presentado por la UE para ofrecer orientación para adoptar un enfoque centrado en la ética al diseñar soluciones basadas en IA. Seguir dicho marco mitiga los riesgos de gobernanza para las empresas mediante el análisis, la auditoría y la inclusión proactiva de comentarios públicos.
El diseño responsable de la IA en la práctica incluye el establecimiento de una junta de revisión sobre ética de la IA que represente disciplinas multifuncionales en la organización. Otros aspectos clave del diseño responsable pueden incluir estructuras de gobierno interno que se centren en la seguridad, prioricen una cultura de pruebas de equidad y características explicables en las herramientas de IA que todos los equipos puedan entender fácilmente. La creación de IA ética también puede incluir la participación activa de las partes interesadas, con los inversores, en las primeras etapas, reuniéndose con frecuencia para identificar y mitigar el daño potencial de un producto mientras impulsan su desarrollo para abordar las necesidades del cliente.
El diseño defensivo es una práctica que apoya la IA responsable mediante la planificación de contingencias en la etapa de diseño de un proyecto. El diseño defensivo es una habilidad medible y entrenable que pronto se esperará en los equipos de investigación y desarrollo de todos los sectores. Las consideraciones de diseño defensivo incluyen saneamiento de entradas, autenticación de usuarios y código mantenible que otros programadores pueden entender. Los equipos hacen preguntas como: «¿Cómo podría este dispositivo causar daño?» «¿Cómo podrían los malos actores usar esto con fines engañosos?» Al responder, la compañía puede anticipar todas las formas posibles en que un usuario final podría hacer un mal uso de un dispositivo, o el dispositivo podría causar daño. Luego, el producto se produce para hacer imposible el posible uso indebido o para minimizar las consecuencias negativas. El resultado es un producto que tiene vallas alrededor del mal uso previsto, para evitar que los malos actores causen daño, arriesgando daños a la empresa y sus clientes, aumentando en última instancia la innovación y disminuyendo el riesgo.
La IA que se adhiere a las directrices regulatorias y las mejores prácticas de la industria no solo protege a los consumidores y las empresas de daños, sino que también garantiza una dirección positiva para el progreso. La regulación permite un entorno de incentivos para la innovación y el diseño que conduce a la creación de productos de IA alineados con los intereses sociales.
También ayuda a la industria y a sus inversores al proporcionar claridad sobre los riesgos que priorizan los gobiernos. Las tres categorías de riesgo de IA presentadas por la Ley de IA de la UE son: riesgos inaceptables (por ejemplo, puntuación social administrada por el gobierno), aplicaciones de alto riesgo (por ejemplo, escaneo de CV para clasificar a los solicitantes) y aplicaciones de alto riesgo no reguladas (por ejemplo, chatbots habilitados para IA). Estas categorías de riesgo no solo sientan un precedente en la UE, sino que se tratarán como un estándar global que afecta la regulación de la IA a nivel internacional y ya ha inspirado al congreso brasileño en su desarrollo de un marco legal para la IA.
Los beneficios potenciales de la IA y las consideraciones éticas no deben verse como fuerzas en conflicto. Para aprovechar plenamente las ventajas de la IA, el diseño responsable debe ser una parte integral del proceso de desarrollo. Las consideraciones éticas actúan como un escudo protector contra los riesgos y proporcionan una ventaja competitiva. Las regulaciones que requieren un diseño responsable pueden empoderar a los innovadores para que se sientan seguros de sus diseños sin temor a arrepentirse. En esencia, la regulación que prioriza el diseño defensivo de la IA no contrarresta los beneficios potenciales; más bien, los complementa creando un entorno seguro para la innovación.
El tiempo importa: dejar espacio a los innovadores
Equilibrar el momento de la regulación es imperativo para evitar sofocar la innovación. Debemos regular el desarrollo de la IA en la etapa correcta porque regular prematuramente podría obstaculizar el desarrollo de nuevas tecnologías. Por otro lado, retrasar la regulación plantea riesgos, como que las inversiones queden atrapadas o que la confianza pública se erosione debido al daño causado por un producto de IA. Actividades como las pruebas de escenarios, las revisiones posteriores a la implementación y el escaneo del horizonte son sugeridas por el gobierno del Reino Unido como formas de abordar este problema.
El viaje de una idea desde su inicio hasta su realización en el mercado implica una transición de responsabilidad de innovadores a investigadores y desarrolladores. En consecuencia, el establecimiento de la gobernanza debe evolucionar junto con el progreso de la idea. Este camino puede resumirse en la noción de que la innovación a menudo tiene una relación inversa con la gobernanza. Existe una preocupación justificada de que una regulación excesiva en el momento equivocado pueda sofocar la creatividad hasta cierto punto. Sin embargo, los innovadores necesitan un cierto grado de espacio para la creatividad antes de que la gobernanza, la investigación y el desarrollo anclen sus ideas.
En varios dominios, la regulación de la IA es imperativa, ya que fomenta la confianza del consumidor y mitiga los riesgos para las empresas. La clave está en determinar cuándo la regulación debe integrarse en las etapas de un proyecto. La introducción prematura de una regulación podría obstaculizar una idea, mientras que retrasarla podría afectar negativamente a los consumidores y, en consecuencia, a la empresa.
La relación: regulación e innovación
Mariana Mazzucato, profesora de Economía de la Innovación y el Valor Público en el University College de Londres, argumenta que las administraciones globales y nacionales deben centrarse más en la dirección de la innovación de la IA. Presenta un enfoque de configuración del mercado que puede ayudar a alinear las interacciones públicas y privadas para impulsar la IA hacia el avance de los intereses públicos. Mazzucato sugiere que la innovación requiere una agenda de política tecnológica global más audaz para alinear el desarrollo y la difusión de la IA, y gobernar la tecnología en el interés público.
La regulación puede desempeñar un papel constructivo en el fomento de la innovación. Los mercados sirven como plataformas donde compradores y vendedores se reúnen para realizar transacciones, formando la piedra angular de la innovación. Este proceso de intercambio dinámico, inherentemente impulsado por la competencia, no solo estimula la innovación, sino que garantiza que sus ventajas se extiendan a los consumidores. La regulación asume una función vital en el establecimiento y fomento de los mercados, al tiempo que mantiene y salvaguarda la dinámica competitiva. Esta responsabilidad es asumida de manera prominente por las autoridades de competencia y los reguladores económicos. Además, varios otros organismos reguladores contribuyen a dar forma a los parámetros del mercado y los paisajes competitivos, lo que subraya la necesidad de su conciencia sobre su impacto.
Fundamentalmente, la regulación de la IA contribuirá a infundir confianza pública en su uso. El conocimiento de que las tecnologías emergentes deben adherirse a los enfoques de diseño defensivo refuerza la confianza pública en la adopción y aceptación de estas innovaciones. En relación con esto, la regulación aborda las posibles preocupaciones públicas de una manera proactiva que es fundamental para fomentar la inversión. Las regulaciones pueden moldear inadvertidamente el progreso de las tecnologías innovadoras al redirigir las ideas para servir a la sociedad.
En lugar de obstaculizar la innovación, la regulación con visión de futuro que requiere un diseño responsable de IA servirá como catalizador para la creatividad, ofreciendo a las empresas y desarrolladores la libertad de explorar y aceptar los riesgos de la IA sin verse agobiados por preocupaciones sobre repercusiones legales, de reputación o éticas. La noción de que la regulación se opone a la innovación puede reformularse como un límite que obliga a las empresas a crear productos que sirvan a la sociedad, en lugar de desarrollar dispositivos que la exploten.
PUNTOS RELACIONADOS: IA, GOBERNANZA, INNOVACIÓN, REGULACIÓN, SOCIAL, TECNOLOGÍA
No permita que la regulación sofoque la innovación: OCDE
Cualquier emprendedor le dirá que la regulación no solo se retrasa, sino que a menudo inhibe la innovación.
En el Congreso Global de Emprendimiento, celebrado en Riad, Arabia Saudita, Digital Nation Australia habló con Céline Kauffman, jefa de la división de emprendimiento, pymes y turismo de la Organización para la Cooperación y el Desarrollo Económicos (OCDE).
A medida que la OCDE, un foro de políticas globales compuesto por gobiernos, legisladores y ciudadanos de más de 100 países, brinda asesoramiento sobre políticas públicas y establecimiento de estándares internacionales, Kauffman reveló que un área de enfoque clave es hacer que la regulación sea más ágil.
«El problema que tenemos con la regulación y la innovación es doble. Por un lado, no quieres impedir las nuevas ideas, la innovación, el emprendimiento. Pero, por otro lado, existe una regulación para proteger a los consumidores.
«No quieres bajar demasiado tu nivel de protección solo para dejar que el negocio prospere, porque nunca sabes lo que va a pasar», dijo.
Jonathan Potter, jefe de la unidad de políticas empresariales de la OCDE, describió a Digital Nation Australia los desafíos que ha observado para un proyecto de biotecnología y agricultura avanzada en el norte de Tailandia, donde la innovación ha ido por delante de la regulación.
La organización está desarrollando productos alimenticios medicinales que deben ser certificados por la Administración de Alimentos y Medicamentos de Tailandia. Pero con la FDA tailandesa enfrentando limitaciones de recursos, las decisiones de autorización de productos se están retrasando hasta dos años, dijo.
«Este es un mercado que se mueve rápidamente, el mundo de las start-ups, no se puede esperar. De hecho, se van a Singapur para obtener una licencia de la FDA», dijo Potter. «Simplemente estamos aconsejando a los gobiernos que inviertan más en mantenerse al día con el progreso».
Según Kauffman, el comité de política regulatoria de la OCDE está tratando de abordar cómo la regulación puede ser «amigable con la innovación», para no impedir el emprendimiento y la aparición de nuevas ideas.
«Una vez que se tiene una regulación en vigor, se requiere mucho cumplimiento y es de arriba hacia abajo. Está la policía y demás. Por lo tanto, tener a un lado herramientas más blandas como la orientación, o para observar un poco el paisaje antes de regular es, por ejemplo, una buena práctica».
Sandboxes regulatorios
Un mecanismo que se puede adoptar para suavizar la naturaleza restrictiva de la regulación es un sandbox regulatorio, donde las organizaciones son libres de experimentar, dentro de lo razonable.
«[Los sandboxes regulatorios son] un área protegida en la que no se regula durante un tiempo, se les dice a las empresas: ‘Son libres dentro de estos límites, no maten a nadie, para operar’. Te dejamos innovar, te dejamos desarrollar nuevos productos durante un tiempo determinado, como un año, dos años, y luego vemos qué pasa», dijo Kauffman.
«Pero no reprimimos su capacidad de innovar. Luego, dentro de dos años, revisamos y vemos si hay necesidad de regulación».
Otro
mecanismo disponible para los reguladores son los controles de innovación, que tienen en cuenta la innovación y el espíritu empresarial a la hora de crear políticas.
A pesar de describirlos como un «ejercicio de marcar casillas», este tipo de verificación de adecuación alienta a los responsables de la formulación de políticas a cuestionar los efectos de la regulación en los innovadores, dijo.
«Los responsables políticos, cada vez que desarrollan una nueva legislación o regulación, tienen en mente cómo estoy afectando al espíritu empresarial. ¿Estoy afectando a las start-ups? ¿Estoy afectando a la innovación? ¿De qué manera? Y si es negativo, ¿cómo puedo remediar los impactos negativos?»
Pasar de los principios a las prácticas para una regulación favorable a la innovación
Prólogo del presidente de Rolls-Royce
Anita Frew
Rolls-Royce plc
En Rolls-Royce, creemos en el potencial positivo y transformador de la tecnología. Ya sea creando tecnologías de propulsión avanzadas que puedan acelerar la descarbonización de la aviación comercial, nuevas innovaciones para su aplicación en defensa, soluciones de vanguardia para el sector espacial o pequeños reactores nucleares modulares que puedan ayudar a satisfacer las futuras necesidades energéticas sin emisiones de carbono del Reino Unido y de otros lugares. Un entorno normativo que apoye la innovación es vital para garantizar los avances tecnológicos. Estos pueden generar valor económico y garantizar que el Reino Unido conserve su lugar como líder mundial en innovación, en múltiples sectores, frente a la intensa competencia global.
En el mejor de los casos, la regulación es un facilitador clave para las tecnologías nuevas y emergentes en lugar de una barrera prohibitiva para el progreso. También puede formar parte de un círculo virtuoso: la innovación crea una valiosa propiedad intelectual, que puede nutrirse de un entorno normativo que utilice esa propiedad intelectual para liderar el establecimiento de normas mundiales, reforzando la ventaja de un país de ser el primero en actuar. La regulación puede permitir e impulsar la confianza del mercado para invertir significativamente en productos y servicios en una etapa temprana de madurez. Una regulación que tenga en cuenta de manera proporcionada los riesgos y beneficios asociados con las nuevas tecnologías también puede ayudar a fomentar la confianza y la aceptabilidad del público, lo cual es un requisito previo importante para su adopción generalizada.
Reconociendo que ha habido numerosos intentos de establecer un conjunto de principios para regular las tecnologías nuevas y emergentes, acojo con satisfacción este informe práctico del Consejo de Horizontes Regulatorios que pretende ir más allá de los principios. El informe aborda algunas de las brechas que existen entre los principios y las prácticas regulatorias a través de 6 puntos focales y las recomendaciones que lo acompañan, y describe vías y estudios de casos sobre cómo los reguladores, los responsables políticos y los innovadores pueden unirse para cerrar la brecha. Esperamos que las empresas trabajen con el Gobierno para ayudar a dar forma a nuestro futuro regulatorio.
Resumen ejecutivo
La innovación consiste en encontrar nuevas y mejores formas de hacer las cosas. Ha sido fundamental para el éxito de la humanidad y es vital para nuestra prosperidad continua y sostenible. Sin embargo, la innovación es frágil. Se basa en una serie de coincidencias y conexiones que permiten que las ideas se conviertan en realidad. El éxito de la innovación tecnológica, en la medida en que crea beneficios sociales, económicos o ambientales, es muy sensible a las circunstancias y al contexto en el que nace.
La función del Consejo de Horizontes Regulatorios es destacar las áreas en las que la reforma regulatoria puede desbloquear beneficios potenciales en la innovación tecnológica. La regulación es un elemento importante para determinar si la innovación tecnológica aporta valor y en qué medida, y para determinar a quién corresponden esos beneficios.
La regulación puede apoyar la innovación. Los mercados son lugares donde los compradores pueden encontrarse con los vendedores y donde se realizan transacciones. Estos intercambios son importantes facilitadores de la innovación, y este proceso inherentemente competitivo incentiva la innovación y ayuda a garantizar que los consumidores disfruten de sus beneficios. La regulación desempeña un papel importante en la creación de mercados, al tiempo que promueve y protege el proceso competitivo. Es evidente que las autoridades de competencia y los reguladores económicos se encargan de ello. Otros reguladores también tienen un papel importante que desempeñar en la creación de normas que establezcan o influyan en el alcance de los mercados y la naturaleza de la competencia, y es importante que sean conscientes de su impacto.
Es importante destacar que la regulación también puede contribuir a fomentar la confianza pública en el uso de tecnologías innovadoras. Saber que una nueva tecnología debe ajustarse a ciertas normas, tener casos de uso específicos o que se debe proporcionar reparación si algo sale mal, puede ser crucial para permitir la confianza del público en la adopción y el uso de una nueva tecnología. En relación con esto, una regulación que aborde las posibles preocupaciones públicas de manera proporcionada, clara y predecible puede ser importante para permitir la inversión.
Pero también sabemos que el diseño y la aplicación de la regulación pueden restringir u obstaculizar indebidamente las nuevas tecnologías innovadoras.
No faltan principios a los que se dice a los reguladores y a los responsables políticos que deben ajustarse a una «buena regulación». Hemos analizado muchos de ellos y hemos descubierto que contienen temas que apoyan la innovación, como la importancia de la colaboración, la proporcionalidad y la adaptabilidad, la orientación a los resultados y la orientación al futuro. Sin embargo, seguimos viendo evidencia de barreras regulatorias a la innovación, ya sea en términos de diseño regulatorio o su implementación.
Es importante que cerremos la brecha entre estos principios de buena regulación y las prácticas regulatorias en la medida en que afectan a las nuevas tecnologías.
Los reguladores y los responsables de la formulación de políticas aprecian el impacto que su trabajo tiene en la innovación. Su trabajo es complejo, se enfrentan a prioridades contrapuestas y tienen recursos limitados. En este informe pretendemos proporcionar ayuda práctica para que los reguladores y los responsables políticos puedan apoyar más la innovación tecnológica. A través de nuestras discusiones con innovadores, académicos y comentaristas, así como con reguladores y formuladores de políticas, hemos identificado 6 «puntos focales» para aquellos involucrados en el diseño e implementación regulatoria y proporcionamos estudios de casos en apoyo de cada uno. Creemos que es necesario centrarse en:
Punto focal 1: La regulación debe adoptar un enfoque proporcionado de los riesgos y beneficios
Esto comienza con una consideración matizada del riesgo. Esto incluye el riesgo de que la nueva tecnología pueda resultar perjudicial, los beneficios que podría crear y el riesgo de que la regulación pueda dar lugar a que esos beneficios no se materialicen. También requiere una mirada a toda la gama de herramientas regulatorias y una consideración adecuada de las opciones que podrían no implicar una intervención regulatoria más allá del mantenimiento de un «informe de observación».
Punto focal 2: La regulación y la innovación deben abarcar la ética y la participación pública
En él se pide a los reguladores y a los responsables de la formulación de políticas que reconozcan que hacen juicios de valor en su trabajo y se recomienda que sean explícitos sobre el marco que utilizan y los factores que tienen en cuenta para llegar a esos juicios. Esto mejora la transparencia y la previsibilidad, y permite a otros cuestionar esos marcos, por ejemplo, cuando se basan en supuestos que ya no son ciertos.
Los reguladores deben cuidarse de ser influenciados indebidamente por argumentos en contra del cambio. Incluidas las barreras de entrada procedentes de las tecnologías y los modelos de negocio existentes con un interés personal en el statu quo y las buenas conexiones políticas. Un proceso de participación más abierto, accesible e inclusivo contribuirá a garantizar que el diseño normativo y la toma de decisiones no se vean indebidamente influenciados (consciente o inconscientemente) por las tecnologías antiguas, en detrimento de la innovación. Esto requiere que los reguladores y los responsables políticos piensen detenidamente en cómo llevan a cabo la participación pública. Deben reconocer que quién, cómo y cuándo se involucran tendrán un impacto significativo en las conclusiones que extraigan de la participación pública.
Punto focal 3: La regulación debe tener en cuenta las consideraciones comerciales y la necesidad de atraer inversiones
Esto pide a los reguladores y a los responsables políticos que entiendan no solo los usos de las nuevas tecnologías, sino también cómo garantizarán la inversión y crearán una propuesta que sea comercialmente viable. Solo con esta comprensión, que debe basarse en la realidad empresarial y no en la teoría, los reguladores y los responsables políticos podrán tener debidamente en cuenta el impacto que tienen en los innovadores.
Punto focal 4: El diseño y la implementación de la regulación deben considerar formas alternativas de regulación
La capacidad de la regulación y los reguladores para adaptarse al cambio es fundamental para permitir la innovación. Pedimos a los reguladores y a los responsables de la formulación de políticas que presten mayor atención a las formas alternativas de regulación, como las normas, las directrices y las mejores prácticas, en lugar de apresurarse a regular utilizando herramientas como la legislación. Estas herramientas deben usarse con cuidado, pero bien. A menudo, la legislación y las formas alternativas de regulación se consideran acciones independientes, pero la interacción entre estas dos opciones proporciona flexibilidad y puede ser un poderoso facilitador de la innovación. También apoyamos el uso de «sandboxes» y «scaleboxes», de los que los reguladores del Reino Unido han sido pioneros, y que podrían utilizarse más.
Punto focal 5: La regulación debe encontrar el momento adecuado
Existen riesgos si la regulación se produce demasiado pronto, ya que podría excluir innecesariamente las nuevas tecnologías. Existen riesgos si la regulación llega demasiado tarde, porque la inversión podría quedar varada o podría haberse perdido la confianza pública, debido al riesgo de que ya se haya producido un daño. La regulación también puede quedar obsoleta. Por lo tanto, pedimos a los reguladores y a los responsables políticos que sean conscientes de este «problema de ritmo». El escaneo del horizonte, las pruebas de escenarios, el uso de herramientas regulatorias adaptables y las revisiones posteriores a la implementación son importantes aquí.
Punto focal 6: Los reguladores deben fomentar una cultura de apertura y una mentalidad de crecimiento
La regulación es diseñada e implementada por personas, no por instituciones sin rostro. Por lo tanto, la cultura y la mentalidad de quienes elaboran y aplican los reglamentos deben ser un punto focal en sí mismos. Los reguladores deben poder acceder a habilidades y experiencia fuera de sus propias instituciones, deben estar abiertos a la colaboración y la co-creación. La existencia de una «mentalidad fija», en la que las personas se sienten bien cuando hacen lo que saben y son recompensadas por saber la respuesta «correcta», puede ir en contra del tipo de apertura y voluntad de aprender y adaptarse que es esencial para la innovación. Aquí hay un vínculo con nuestra recomendación sobre cómo elegir el momento adecuado: lo mejor puede ser enemigo de lo bueno y una decisión regulatoria oportuna, pero «imperfecta», podría ser la mejor, especialmente si se pone en marcha un mecanismo para aprender y adaptarse.
La regulación no se limita a los reguladores y a los responsables políticos. La regulación es un proceso de interacción entre los reguladores y aquellos a quienes regulan (y la sociedad en general). No lograremos un entorno regulatorio que sea más propicio para la innovación solo buscando cambios por parte de los reguladores y los responsables políticos. Es importante que los innovadores también desempeñen su papel. Pueden hacerlo tratando de comprender y adaptarse a las posibles preocupaciones del público, y adoptando enfoques de innovación responsable, como los establecidos por la British Standards Institution y la OCDE con respecto a la neuro tecnología. Esto, a su vez, debería proporcionar a los reguladores y a los responsables de la formulación de políticas la confianza de que los innovadores están teniendo en cuenta consideraciones más amplias, lo que hará que el diálogo sea más constructivo y pueda conducir a una intervención reguladora menos directa.
Publicado originalmente: https://www.esginvestor.net/responsible-design-can-ensure-ai-serves-society/