La adopción de inteligencia artificial en el sector financiero presenta importantes oportunidades de eficiencia y creación de valor, pero también introduce riesgos potenciales que deben abordarse.
El 22 de mayo de 2024, la Organización para la Cooperación y el Desarrollo Económicos (OCDE) y el Consejo de Estabilidad Financiera (CEF) celebraron una mesa redonda con expertos de los sectores público y privado y con académicos para analizar las tendencias y los casos de uso de la inteligencia artificial. (AI)En finanzas. Los participantes de la mesa redonda analizaron las oportunidades y los riesgos y compartieron las mejores prácticas emergentes en materia de marcos de políticas.
La creciente adopción de tecnologías de IA por parte de bancos, aseguradoras y gestores de activos está generando ganancias de eficiencia en áreas como la modelización de riesgos, el comercio, la gestión de reclamaciones, la detección de fraudes y la prevención de delitos financieros. El uso de la IA generativa en finanzas no parece ser una transformación en la actualidad, al menos para las instituciones financieras reguladas, ya que se centra en mejoras de la eficiencia operativa y es en gran medida exploratorio. Los supervisores también se están beneficiando de la IA, con una mayor capacidad para gestionar grandes volúmenes de datos.
A pesar de estos beneficios, el uso de la IA también plantea inquietudes en términos de riesgo de modelo, protección de datos, gobernanza, privacidad y ética. También puede crear riesgos para la estabilidad financiera dado su potencial para amplificar las interconexiones entre las empresas financieras, así como inquietudes sobre la complejidad y la opacidad en torno a los modelos y los datos.
Los responsables de las políticas deberían esforzarse por promover el uso seguro de la IA en los servicios financieros, en particular mediante la cooperación mundial sobre normas y mejores prácticas.
Resumen ejecutivo
La Mesa Redonda OCDE-FSB sobre Inteligencia Artificial en Finanzas discutió las tendencias actuales en la adopción de la IA en finanzas, los casos de uso existentes y potenciales para instituciones financieras y supervisores, las oportunidades y riesgos, y las buenas prácticas emergentes en términos de marcos políticos.
La mesa redonda destacó la rápida adopción de sistemas de IA predictiva, incluyendo el Aprendizaje Automático (ML) y la IA Generativa (GenAI), especialmente en banca y seguros. Estas tecnologías han incrementado la eficiencia en operaciones, modelado de riesgos, detección de fraudes y prevención de delitos financieros, entre otras áreas. La industria también está explorando el potencial de GenAI para aplicaciones internas como la resumen, la traducción y la recuperación de información.
En la banca, el uso de IA en la lucha contra el blanqueo de capitales (AML) y la detección de fraudes ha transformado las comprobaciones de delitos financieros, lo que ha llevado a una identificación más dirigida de los delitos financieros y a una reducción de falsos positivos. Se informó que los casos de uso iniciales de GenAI desplegados en banca eran internos, e incluyen resumen, traducción, recuperación de información, así como generación de código. El servicio al cliente se consideró un área importante para futuras aplicaciones.
En el sector asegurador, la IA se ha utilizado en suscripción, evaluación de riesgos y gestión de reclamaciones. GenAI ha mejorado aún más el procesamiento de información basado en el lenguaje, especialmente en la gestión de políticas y reclamaciones.
En la gestión de activos y los mercados de valores, la mesa redonda debatió el papel de la IA en áreas como la gestión de carteras, el trading y la gestión de riesgos. Estas herramientas se utilizan para optimizar las decisiones de asignación de activos facilitando el análisis fundamental mediante datos cuantitativos y textuales, generar señales de negociación, automatizar operaciones y validar y retro probar modelos de riesgo.
A pesar de sus beneficios, el uso de la IA genera preocupaciones sobre el riesgo del modelo, la protección de datos y la gobernanza. Los participantes destacaron la importancia de la calidad de los datos, la gobernanza, la privacidad y la ética. También destacaron los posibles riesgos de estabilidad financiera que plantea el despliegue de la IA en el sector financiero. Los representantes del sector defendieron una implementación paso a paso y alineada con el riesgo de los modelos GenAI, con una comprensión y gestión integral de las herramientas de IA en todos los niveles de las organizaciones.
En cuanto a la protección del consumidor financiero, la IA ha proporcionado beneficios como comodidad, accesibilidad, información oportuna, servicios rentables y una experiencia de usuario mejorada. Sin embargo, los deepfakes y los resultados engañosos basados en IA, la protección de datos, los problemas de privacidad y confidencialidad, así como el sesgo y la discriminación, suponen desafíos significativos. El despliegue de sistemas GenAI introduce riesgos adicionales relacionados con la calidad y fiabilidad de la salida del modelo. La limitada fiabilidad de estos modelos se agrava por la posible falta de conocimiento de sus limitaciones por parte de los usuarios y de los receptores de sus resultados.
La mesa redonda concluyó con un llamamiento a los responsables políticos para promover el uso seguro de la IA en los servicios financieros. Los participantes subrayaron la necesidad de un enfoque basado en el riesgo para la gestión de riesgos por modelo y la importancia de la cooperación internacional para desarrollar estándares y compartir buenas prácticas. También destacaron la necesidad de que los reguladores financieros nacionales evalúen constantemente sus capacidades regulatorias.
La OCDE y el FSB continuarán apoyando los esfuerzos internacionales para monitorizar los desarrollos de la IA, los riesgos emergentes y los posibles impactos regulatorios en los servicios financieros. Esto incluye proporcionar a los responsables políticos las herramientas y habilidades necesarias para un uso y supervisión efectivos de la IA en las finanzas.
1. IA en banca y seguros
Se informó que la adopción de sistemas de IA predictiva por parte de los bancos, incluidos modelos de ML, aumentó rápidamente en 2022-23, principalmente en áreas como operaciones, modelización de riesgos, reconocimiento de patrones para fraudes y prevención de delitos financieros. La llegada de la IA Generativa (GenAI), especialmente en los últimos 16-18 meses, ha despertado el interés del sector en aplicaciones y casos de uso centrados en aprovechar las capacidades de los Grandes Modelos de Lenguaje (LLM) y otros modelos GenAI.
Los informes de casos de uso basados en ML en banca incluyen AML, detección de fraude, verificación de identidad (Conoce a tu cliente), y están cubiertos por los marcos tradicionales de gestión de riesgos de modelos, gobernanza y protección de datos vigentes. Especialmente en lo que respecta a aplicaciones relacionadas con el delito financiero, las herramientas dinámicas de análisis de riesgos han cambiado la forma en que se realizan las comprobaciones de AML y delitos financieros. Estas herramientas aprovechan el poder del análisis de datos para identificar de forma más específica los casos de delitos financieros, al tiempo que reducen el número de falsos positivos.
Se informó que los casos de uso iniciales de GenAI desplegados en banca eran internos, e incluyen resumen, traducción y recuperación de información (especialmente cuando el contexto es importante). La generación de código fue señalada como un área importante de experimentación actual en el uso de Tolos GenAI en la banca, teniendo en cuenta el enorme volumen de aplicaciones existentes para servir a los clientes. El servicio al cliente fue señalado como un área importante para la futura aplicación de las herramientas GenAI. Los bancos informaron de un enfoque alineado al riesgo para el despliegue de modelos GenAI, mejorando los marcos existentes de Gobernanza de IA y utilizando modelos alineados con estos marcos (por ejemplo, uso de pequeños modelos de lenguaje, entrenamiento de estos modelos con datos propietarios). Aunque hoy en día la interacción directa del cliente con estos modelos sigue siendo limitada, los participantes esperan una expansión del uso de modelos GenAI en el futuro, ya que estos serán cada vez más esperados por sus clientes.
En el sector asegurador, se informó que los modelos de IA predictiva se usan ampliamente en suscripción, evaluación de riesgos, modelización de riesgos, así como en la gestión y gestión de reclamaciones entre líneas de seguros. La introducción de GenAI permite a las compañías de seguros procesar mejor información basada en el lenguaje, principalmente en la gestión de pólizas y reclamaciones. Las capacidades de traducción de los modelos de IA permiten una comparación eficiente entre países entre reclamaciones y pólizas. Los LLM también facilitan la recuperación de información para recibir asesoramiento de agentes de sistemas mejor informados y ofrecen una comunicación eficiente y simplificada para productos complejos (por ejemplo, seguros de vida, pensiones). No obstante, la implicación humana sigue siendo esencial en el proceso, especialmente al interactuar con los clientes.
En cuanto a beneficios materializados, se informó que el uso de herramientas de IA en seguros ofrecía eficiencias operativas y una mejor experiencia al cliente (por ejemplo, un procesamiento más rápido de las reclamaciones). La IA ofrece una comprensión más profunda de las pérdidas en seguros, permitiendo una mejor cobertura de las necesidades del cliente, incluyendo mejores precios. Las capacidades multi lingüísticas de GenAI permiten el análisis de la información a un nivel más profundo y a nivel nacional.
Tanto en banca como en seguros, la cultura, la educación y la alfabetización fueron destacadas como áreas importantes que aún quedan por abordar en términos de marcos de gobernanza de la IA, incluida la GenAI. Comprender y gestionar las herramientas de IA es una responsabilidad que se extiende a todos los niveles de organizaciones, ya que estas herramientas son ampliamente accesibles y no solo se limitan a expertos, a diferencia de los modelos de aprendizaje automático. Comprender qué preguntas hacer, el nivel de fiabilidad de sus resultados e incluso consideraciones éticas relacionadas con el uso de tales modelos fueron consideraciones importantes para los usuarios. La industria consideraba que la contratación de talento externo diverso y la mejora de las habilidades del personal existente eran de suma importancia.
Se destacó la importancia de los datos, en particular aspectos como la accesibilidad de los datos, el entrenamiento, los flujos de datos y la integración de datos financieros y no financieros en nuevas herramientas de IA. Se cree que los marcos que regulan el flujo y el tratamiento de datos en diversas industrias influyen significativamente en los resultados y el valor generados por estas nuevas herramientas.
La dependencia de proveedores de servicios externos se destacó como un problema crítico en el uso más amplio de la IA en finanzas. Las empresas de servicios financieros ya han establecido procesos para servicios de terceros como los servicios en la nube, pero estos deben ampliarse a los proveedores de modelos y datos de IA. Los participantes señalaron la necesidad de transparencia, especialmente en los contratos con proveedores de servicios externos, para garantizar la visibilidad de la integración e impacto de la IA, ya que la responsabilidad final de los resultados de la IA sigue siendo responsabilidad del proveedor de servicios financieros. En este contexto también se discutió el riesgo de erosión de la confianza.
Los participantes señalaron que las regulaciones actuales cubren suficientemente el uso de la IA en la banca y los seguros, y que la regulación no se consideró un obstáculo para la materialización de los beneficios derivados de la IA. Sin embargo, expresaron su preocupación de que regulaciones menos estrictas en algunos sectores podrían atraer actividades reguladas, suponiendo un riesgo de arbitraje regulatorio. Se subrayó la necesidad de un enfoque basado en el riesgo para la gestión de riesgos de modelos, lo que suscitó preocupaciones sobre definiciones amplias de IA por parte de algunos responsables políticos. Un ejemplo incluye algunas regulaciones que clasificaban modelos como los Modelos Lineales Generalizados (GLM) como IA, aumentando los requisitos de cumplimiento. Las sugerencias relacionadas con la regulación incluían regulaciones vinculadas a métricas y formatos legibles por máquina para facilitar el cumplimiento.
La investigación académica en IA, especialmente en IA generativa, está creciendo, pero requiere un enfoque más interdisciplinar. En cuanto al rendimiento de los modelos de IA, algunas investigaciones académicas destacan el rendimiento superior del aprendizaje automático y, a veces, de la IA genética en campos específicos como el crédito; predicciones financieras; asignación de carteras; y precios de seguros al consumidor. Sin embargo, existen posibles desventajas, especialmente en la explicabilidad; robustez en la salida del modelo; y los costes computacionales. La ausencia de métricas simples para medir estos factores complica la comprensión de posibles compensaciones como la explicabilidad frente a la precisión. En última instancia, el despliegue más amplio de tolos avanzados de GenAI depende del apetito de riesgo de la institución financiera.
2. IA en Gestión de Activos y Mercados de Valores
Los gestores de activos informaron del uso de IA en la reducción de errores en la asignación de activos, la maximización de alfa y la eficiencia de procesos. La IA mejora el análisis y la ejecución de operaciones al mejorar la descubribilidad de la información basada en la intención del usuario, democratizando el acceso a los datos con LLMs que responden a diferentes necesidades lingüísticas. Los participantes también señalaron aumentos de productividad (por ejemplo, copiloto, resumen) y beneficios al manejar información no estructurada.
En el lado de la venta, las herramientas de IA se han utilizado durante más de una década para mejorar los procesos de riesgo y control, la gama de productos y la toma de decisiones, incluyendo casos como la detección de fraudes y el control de sanciones. El uso de GenAI, que implica principalmente experimentación interna con LLM, está en sus primeras etapas. Los participantes destacaron el posible riesgo de arbitraje regulatorio por parte de participantes del mercado menos regulados, abogando por normas uniformes y claridad para los participantes más pequeños.
Los participantes también destacaron la implementación gradual y paso a paso de los modelos GenAI de manera fiable, reconociendo que el sector financiero no puede explotar plenamente las capacidades de IA dentro de procesos críticos debido a los riesgos asociados.
Los participantes enfatizaron el enfoque centrado en el ser humano, especialmente con modelos GenAI. Esto implica mantener controles de riesgo independientes y salvaguardas, como auditorías y mecanismos de respaldo como interruptores de apagado, incluso en medio de la automatización, para gestionar los riesgos. El enfoque de ‘persona en el bucle’ busca la rendición de cuentas, la auditoría y el intercambio de registros. El conocimiento del dominio se destacó como crucial para garantizar resultados precisos en el modelo, diferenciándolo de las técnicas de IA anteriores que dependían únicamente de ingenieros de ML.
Los participantes señalaron el exceso de entusiasmo respecto a los tipos de problemas que la IA puede resolver en finanzas debido a la complejidad de los servicios y procesos, y destacaron que muchos casos de uso de IA explorados en finanzas a menudo se descartan como soluciones inapropiadas a un problema.
Los participantes subrayaron la importancia crítica de la calidad de los datos, la gobernanza, la privacidad y la ética debido al papel central de los datos en la IA. A medida que aumenta la commoditización de datos, comprender los derechos de los usuarios, como la propiedad intelectual, y la trazabilidad de fuentes de datos se vuelve crucial para la fiabilidad de la salida del modelo. Las empresas financieras a menudo se enfrentan a desafíos de gobernanza y culturales, además de tecnológicos. Extender los marcos de IA responsables puede fomentar la confianza de los usuarios. También se destacó la mejora de habilidades en niveles jerárquicos de antigüedad, dada la naturaleza democratizada de los LLMs y las herramientas GenAI.
Los participantes destacaron que muchos riesgos relacionados con la IA provienen de tipos más antiguos de herramientas de IA como el aprendizaje automático. Para identificar posibles fuentes futuras de riesgo de estabilidad financiera, se consideró esencial un enfoque combinado que incorporara perspectivas tanto de la investigación económica como de la de IA.
Se señaló que el uso de la IA implica equilibrar la eficiencia y estabilidad a corto plazo frente a la posibilidad de un estrés desconocido. Las preocupaciones incluyen interacciones algorítmicas que podrían llevar a manipulación del mercado y modelos de IA que involuntariamente participan en el uso de información privilegiada debido a objetivos de maximización de beneficios, a pesar de las instrucciones de no usar información privada. Esto pone de manifiesto la complejidad del sistema financiero y la dificultad de predefinir cada objetivo.
Otro riesgo destacado es la estructura oligopolista del mercado debido al aumento de la escala de los rendimientos en servicios de IA de terceros como modelos, servicios en la nube o análisis de datos. Esto se señaló como especialmente problemático, especialmente para las autoridades, ya que la creciente dependencia de la analítica del sector privado podría llevar a una visión cada vez más unilateral, arriesgando finalmente perder de vista los canales de inestabilidad.
Los participantes subrayaron la necesidad de respuestas más rápidas para la toma de decisiones por parte de las autoridades en esta nueva era de la IA en las finanzas. Se sugirió que las autoridades utilizaran escenarios de estrés impulsados por IA para entender cómo pueden afrontarlos y cómo reaccionar y responder, haciendo que la IA proporcione respuestas. El riesgo de dependencia de un sistema de IA para funciones vitales, especialmente cuando su proceso de toma de decisiones no se entiende completamente, también se identificó como una preocupación cada vez más importante para el futuro
3. Implicaciones para la estabilidad financiera del creciente uso de la IA en las finanzas
Los participantes discutieron los posibles riesgos de estabilidad financiera causados por el despliegue de la IA en el sector financiero, considerando su potencial para amplificar las interconexiones entre firmas financieras, así como las preocupaciones sobre la complejidad y opacidad en torno a modelos y datos.
Los participantes señalaron que la concentración, la dependencia de terceros y los riesgos de modelos adquieren una nueva dimensión con los desarrollos recientes de la IA. La creciente dependencia de los datos, los servicios en la nube y los terceros podría reforzar las vulnerabilidades existentes en el sector financiero, potencialmente amplificadas por la integración vertical. Sin embargo, el impacto puede compensarse con diferentes estrategias de implementación de IA. Esto refuerza la necesidad de monitorizar tanto la diversidad de concentración como de aplicaciones.
La GenAI podría acelerar la transformación del sistema financiero. Los nuevos participantes, especialmente empresas de tecnología financiera y otras instituciones financieras no bancarias, pueden aprovechar las economías del procesamiento de información y reequilibrar el panorama competitivo. La adopción temprana podría ofrecer ventajas competitivas transformadoras en mercados menos líquidos, según los participantes.
Aunque las implicaciones para la estabilidad financiera derivadas de desarrollos relacionados con la conducta no son nuevas, la GenAI debido a su posible uso generalizado en el futuro, suscita una creciente preocupación sobre la posible manipulación y la falsa percepción de la autonomía de las herramientas, lo que podría provocar grandes consecuencias en cascada
El impacto en la estabilidad financiera de los efectos disruptivos de la GenAI en la macroeconomía, como los del mercado laboral, es un tema que podría requerir una investigación más profunda.
Los participantes señalaron que el uso de la IA en finanzas no parece transformacional en la actualidad. El enfoque está en mejorar la eficiencia de tareas específicas, y es en gran medida exploratorio. La tecnología no se está adoptando a gran escala, y los esfuerzos de automatización siguen implicando supervisión humana. Esta etapa inicial de la transición se caracteriza por incógnitas, y las autoridades se enfrentan a dificultades para recopilar datos relevantes que permitan monitorizar adecuadamente los desarrollos y evaluar posibles vulnerabilidades.
La discusión también identificó mejoras de eficiencia de GenAI para las autoridades financieras, incluyendo la lucha contra el fraude, la contrarresta de riesgos cibernéticos y la mejora de la supervisión del sector financiero mediante la integración de la IA en sus procesos empresariales. Con nuevas herramientas, los supervisores pueden gestionar grandes volúmenes de datos de forma más eficaz.
4. Protección del consumidor financiero, consideraciones de conducta de mercado y enfoques políticos sobre la IA en las finanzas
Los participantes destacaron los beneficios de la IA en los servicios financieros orientados al consumidor, incluyendo robo-advisors, chatbots, incorporación de clientes, autenticación, evaluación crediticia y planificación de la jubilación. Los beneficios incluyen comodidad, accesibilidad, información oportuna, servicios rentables, resolución más rápida de reclamaciones, mejora de la experiencia del usuario y productos personalizados. Se destacó el papel de la IA en la inclusión financiera, especialmente en préstamos digitales basados en el análisis de sentimiento por IA y datos alternativos para la evaluación crediticia, estos últimos cruciales para las pequeñas y medianas empresas desatendidas. La IA también mejora la seguridad, reduce el robo de identidad, mejora el valor para el cliente y facilita una mejor elección del consumidor. Sin embargo, el despliegue de sistemas GenAI se centra en casos de uso internos.
Uno de los principales riesgos para los consumidores financieros es el potencial de deepfakes y resultados engañosos basados en IA, teniendo en cuenta la naturaleza cambiante de los riesgos de protección al consumidor que plantea la GenAI. Las preocupaciones incluyen la protección de datos, la privacidad y confidencialidad, la calidad de los datos, la propiedad intelectual, la seguridad, el sesgo y la discriminación. Los modelos son más susceptibles a ataques de entrada como el envenenamiento de datos. Nuevos riesgos están asociados a las capacidades de aprendizaje y ajuste dinámico de GenAI, lo que lleva a evitar herramientas de IA en áreas financieras sensibles.
Los asistentes subrayaron la importancia de adoptar un enfoque equilibrado entre el potencial de un uso adecuado de la tecnología de IA que permite que se materialicen, y las limitaciones a dicho uso, incluso para usuarios que no sean alfabetizados digitalmente. También señalaron que la educación financiera y una mejor comprensión de los riesgos inherentes a la IA en las finanzas por parte de los consumidores era crucial en este sentido.
Los participantes destacaron la necesidad de respuestas políticas y regulatorias para abordar los posibles riesgos derivados del uso de la IA en los servicios financieros, equilibrando la innovación con la protección del consumidor. Citaron los deepfakes y las alucinaciones como ejemplo de riesgos emergentes críticos. Se sugirieron que los consumidores revelaran que el asesoramiento u otro resultado recibido es generado por un modelo de IA como mitigante de riesgos. También se dio importancia a la gobernanza de los datos y a una clara rendición de cuentas.
En cuanto a la respuesta política y regulatoria, se subrayó la importancia de adherirse a los principios existentes para mitigar riesgos. Se destacaron estándares globales como los Principios de Protección del Consumidor Financiero del G20/OCDE para abordar los riesgos emergentes de los consumidores financieros. Se señaló el potencial de la IA para combatir la mala conducta. Dada la naturaleza global de la IA, la cooperación internacional se consideraba crucial para desarrollar estándares y compartir prácticas.
Los participantes hicieron un llamamiento a las autoridades públicas y reguladores para promover el uso seguro de la IA para aprovechar sus beneficios, atender las expectativas de los consumidores, proteger la competencia, garantizar la integridad del mercado y promover la inclusión financiera. Destacaron los méritos de un enfoque basado en el riesgo y sugirieron centros de innovación y sandboxes como métodos para fomentar la adopción segura de la IA en las finanzas.
Los participantes señalaron que los responsables de la política financiera monitorizan los casos de uso de la IA y los riesgos asociados en el sector financiero, especialmente en lo que respecta a las tendencias futuras en aplicaciones orientadas al cliente de GenAI. Hicieron hincapié en la aplicación continua de los marcos y herramientas regulatorias existentes sobre gobernanza, datos, gestión de riesgos y resiliencia operativa (por ejemplo, el kit de herramientas del FSB sobre riesgos y externalización de terceros). Otros mencionaron la implementación de nuevos marcos legislativos para abordar casos de uso de alto riesgo de IA, proteger los valores democráticos y los derechos humanos en todos los sectores, al tiempo que fomentan la innovación.
Los participantes subrayaron la necesidad de dotar a los responsables políticos, especialmente a los supervisores financieros, de las herramientas y habilidades adecuadas para una supervisión eficaz de la IA en finanzas. Señalaron que la coordinación internacional es esencial dada la naturaleza global de la IA, y que los reguladores financieros a nivel nacional deberían evaluar constantemente sus capacidades regulatorias a nivel nacional. Muchos de estos temas van más allá del sector financiero, por lo que también puede ser necesaria la intervención de otras autoridades (por ejemplo, competencia, privacidad de datos).