El mercado de la garantía de calidad basada en inteligencia artificial aún está en constante evolución.
Según un informe reciente del Departamento de Ciencia, Innovación y Tecnología (DSIT), se estima que actualmente existen 524 empresas que suministran bienes y servicios de garantía de inteligencia artificial (IA) en el Reino Unido, de las cuales 84 son empresas especializadas en garantía de IA.
Este mercado de garantías de IA es mayor que los de EE. UU., Alemania y Francia, en relación con la actividad económica, y DSIT informa de una considerable posibilidad de crecimiento, con el potencial de que el mercado supere los 6.530 millones de libras esterlinas para 2035.
Para los contadores, esto representa una oportunidad considerable, pero ese potencial de crecimiento es solo una parte de la historia. En una mesa redonda del ICAEW, los asistentes debatieron sobre los fundamentos esenciales para la garantía de calidad de la IA, incluyendo estándares fundamentales y de procesos claros, la comprensión de los riesgos que conlleva una tecnología en rápido desarrollo y las competencias certificadas.
Desde cualquier punto de vista, se trata de un mercado con un enorme potencial y varias incógnitas.
La IA está por todas partes y cada vez es más inteligente. Pero, ¿podemos confiar en ella? Esa es la pregunta del millón, o incluso de los miles de millones, y la industria de la garantía de la IA se esfuerza por mantenerse al día.
Así como los estados financieros requieren auditoría y verificación, los modelos de IA —especialmente aquellos utilizados en contextos regulatorios y financieros— también pueden necesitar una supervisión rigurosa. El mercado de verificación de IA en el Reino Unido ya está valorado en 1.000 millones de libras esterlinas (según un informe del Departamento de Ciencia, Innovación y Tecnología del Reino Unido (DSIT)), y con la entrada en vigor de la Ley de IA de la UE, se prevé que la demanda de verificación de IA aumente. Pero antes de apresurarnos a auditar la IA, debemos responder a una pregunta fundamental: ¿qué es exactamente lo que estamos verificando?
Cuando la información financiera se digitalizó, los auditores tuvieron que adaptarse. La IA no será diferente. Pero ahora mismo, la atención se centra en cómo garantizar la seguridad de la IA. Los estándares, la acreditación y las metodologías claras aún están en desarrollo. Los reguladores deberán colaborar estrechamente con los proveedores de servicios de aseguramiento para establecer las normas, y los contadores y auditores del futuro deberán tener conocimientos sobre IA.
Los modelos de IA son notoriamente complejos y a menudo funcionan como «cajas negras» que producen resultados sin explicaciones claras. ¿Aseguramos la IA en sí misma: los algoritmos, el modelo, los sesgos? ¿O deberíamos centrarnos en los datos y los procesos que dan forma a los resultados de la IA? Actualmente, muchos profesionales de la auditoría aún están tratando de dilucidar esta cuestión. La falta de coherencia en los resultados y la naturaleza impredecible de los modelos de IA hacen de esto un desafío difícil. Sin embargo, una cosa está clara: si no podemos ver dentro de la caja negra, al menos deberíamos poder confiar en lo que entra.
La IA alcanza su máximo potencial al trabajar con datos estructurados y legibles por máquina. El uso de datos etiquetados con XBRL garantiza un punto de partida transparente y de alta calidad para los modelos de IA, lo que facilita la evaluación y verificación de los resultados. Si bien es posible que no comprendamos completamente todas las decisiones de la IA, al menos podemos controlar y asegurar la integridad de los datos que la alimentan, un paso crucial para que la IA sea más responsable, proporcionando procedencia y trazabilidad hasta su origen.
El tema central será la Ley de IA de la UE, que Bruselas comenzará a implementar. Las empresas británicas que utilizan IA tendrán que cumplir con la Ley para poder operar en Europa. Cualquier empresa emergente de IA que quiera expandirse globalmente, algo a lo que sin duda deberían aspirar, también tendrá que cumplirla. Y si se tiene en cuenta la postura de algunos de los grandes bancos estadounidenses, uno de los puntos que están destacando es que tendrán que aplicar la Ley de IA de la UE a nivel mundial. Si bien esta no es la política oficial de EE. UU., es una muestra de la importancia de la propuesta de ley.
Una de las consecuencias de la Cumbre de Acción sobre IA de París, ha sido cambiar la dinámica del debate europeo, alejándolo de la implementación agresiva de nuevas regulaciones sobre IA.
Sin embargo, según el texto de la Ley, un aspecto clave probablemente será la transparencia. En otras palabras, garantizar que los desarrolladores de IA y quienes utilizan herramientas de IA en sus modelos de negocio puedan explicar cómo funciona su sistema, qué propósito persigue, de dónde provienen sus datos de respaldo y qué tipo de procedimientos de gobernanza y seguridad lo rigen.
Ese será el punto de partida fundamental para cualquier organización que necesite considerar la IA, y en última instancia, cuando el sector de la auditoría se ponga en marcha correctamente y comience a realizar auditorías de IA a gran escala, en eso deberá centrarse. Los profesionales deberán analizar con las entidades auditadas si realmente han considerado los diversos factores que influyen en el rendimiento de sus sistemas de IA. Esto incluye las fuentes de datos, el enfoque técnico, la metodología de formación, la gobernanza, las partes interesadas y el personal, sin olvidar los sesgos y las implicaciones éticas.
La regulación nacional de la IA podría surgir hacia finales de 2025. Dado que cualquier Ley de IA del Reino Unido se basaría en el trabajo del Instituto de Seguridad de la IA —parte del DSIT—y probablemente se centrará en los denominados «modelos de vanguardia»: sistemas avanzados a gran escala con posibles repercusiones en la seguridad nacional. Esto probablemente marcará la pauta general para los conjuntos de normas que afectarán al sector de la auditoría, aunque la naturaleza de estos modelos implique que no muchos estarán en funcionamiento, al menos inicialmente. Sin embargo, esta ley fundamental probablemente irá seguida de una serie de conjuntos de normas para diferentes sectores verticales, como la sanidad y los servicios financieros. En esa etapa, el trabajo de auditoría aumentaría.
Aquí habrá dos grupos de personas bajo escrutinio. Primero, quienes desarrollan las herramientas, y segundo, quienes las compran y las integran en sus modelos de negocio. Por lo tanto, los desarrolladores deberán demostrar que están creando sus sistemas de acuerdo con las regulaciones, y los compradores tendrán que demostrar que están haciendo lo correcto en la implementación. Los auditores buscarán comprender: Bien, han desarrollado esta plataforma de IA dentro de su empresa y han utilizado estos tres proveedores.
Esto permitirá empezar a definir áreas de garantía de la IA que actualmente están en el aire. Ahora mismo, probablemente hay más aseguradoras intentando averiguar qué deberían hacer para garantizar las herramientas de IA que haciéndolo realmente. Parte del desafío es: «¿Qué estamos garantizando, a favor o en contra?». Y, en términos más generales, todavía no estamos en una situación económica en la que, por ejemplo, si no se cuenta con garantías para la IA, no se pueda obtener un seguro.
Además de los efectos esclarecedores de la regulación, un factor igualmente importante para definir la forma de la garantía de la IA será, como sugiere el informe del DSIT, la educación. Señala que las herramientas de IA suelen ser desarrolladas por equipos que trabajan a un ritmo acelerado y que no necesariamente documentan completamente lo que hacen.
Muchos modelos de vanguardia no solo son prácticamente cajas negras en cuanto a cómo generan resultados específicos, sino que además son estocásticos. Esto significa que, a diferencia de un sistema informático tradicional diseñado para producir resultados predefinidos, la naturaleza generativa de estos modelos puede producir resultados diferentes a partir de datos de entrada similares.
Por lo tanto, los auditores deberán recibir una formación exhaustiva sobre la naturaleza dinámica y única de la IA. Según la evaluación, el camino a seguir es acreditar instituciones o certificar a personas como profesionales de auditoría de IA.
Sin embargo, esto también presenta sus propios obstáculos. El Reino Unido ve la certificación en IA como un posible gancho para obtener una ventaja competitiva global. Pero ¿cómo convertimos la formación y la acreditación en una historia corporativa que podamos vender al mundo? ¿Y con qué criterios estamos evaluando a las personas?
Una posible vía, sugiere, podría ser la creación de certificaciones y acreditaciones para habilidades vinculadas a estándares para productos de IA. Esto incluiría garantías de calidad.
DSIT planea impulsar el crecimiento del mercado de garantías de IA mediante el desarrollo de una serie de recursos alojados en una plataforma de garantías de IA, incluido un kit de herramientas esenciales de IA, para ayudar a generar conciencia e impulsar la demanda en lo que respecta a los servicios de garantías de IA. Está desarrollando una hoja de ruta para una garantía de IA confiable para elevar los estándares y la calidad.
La administración Trump parece estar adoptando una postura muy laxa en lo que respecta a la regulación de la IA. Esto podría interferir con los intentos del Reino Unido de establecer estándares, especialmente si los estados de EE. UU. establecen los suyos propios. Los estados ya están analizando cómo crear conjuntos de normas sobre el uso de la IA en diversos contextos, desde recursos humanos hasta seguros. Podría resultar difícil para una certificación británica destacar en un entorno tan saturado.
A pesar de este riesgo, el Reino Unido se encuentra en una buena posición para liderar la auditoría de la IA, y los contables podrían desempeñar un papel fundamental. El ICAEW celebrará su primera conferencia sobre auditoría de la IA, donde se analizarán la regulación, el desarrollo de competencias y las consideraciones para la auditoría de la IA.