La FCA pide a la inteligencia artificial admitir sus límites

La Financial Conduct Authority (FCA) del Reino Unido pidió este lunes a los proveedores de inteligencia artificial generalista, con ChatGPT, Gemini y Claude mencionados por nombre, que adviertan a sus usuarios sobre los límites de la información y los consejos financieros que producen sus modelos. La solicitud la presentó Jessica Rusu, directora de datos, información e inteligencia del regulador, en un discurso ante la serie UK Policy Series de Bloomberg que no fija plazos ni viene acompañado de una norma.

Rusu apoyó el pedido en dos cifras que cualquier director de marketing de un broker debería leer con atención. Cuatro de cada cinco inversionistas con poca experiencia, de entre 18 y 40 años, ya usaron IA como apoyo para invertir, mientras que apenas el 40% de los consumidores sabe que no tiene a quién reclamar si actúa según el consejo de un chatbot generalista que resulta equivocado. Visto al revés, seis de cada diez no tienen claro que esa protección no existe.

La FCA no plantea, al menos por ahora, ampliar su perímetro regulatorio para alcanzar a los chatbots de IA. Su apuesta es hacer más visible la frontera que ya existe entre la asesoría financiera regulada y lo que responde un modelo de inteligencia artificial, algo que ya intenta con herramientas propias como InvestSmart o su buscador de firmas autorizadas. Rusu reconoció que una advertencia probablemente funciona mejor en el momento exacto en que el usuario recibe la respuesta, de ahí que la petición apunte a los laboratorios.

Para quien haya operado un broker de CFD bajo licencia de la FCA, el pedido suena conocido. La industria lleva años mostrando en cada página y en cada anuncio el porcentaje de cuentas minoristas que pierden dinero, una advertencia de riesgo estandarizada que el propio regulador impuso. Ahora la FCA busca algo parecido de empresas sin licencia financiera, cuyos productos explican qué es el apalancamiento sin haberle pedido nunca al usuario un documento de identidad.

Según una encuesta conjunta de la FCA y el Banco de Inglaterra que se publicará la próxima semana, el 86% de las firmas financieras británicas ya usa inteligencia artificial. Rusu añadió que las entidades reguladas empiezan a integrar sus servicios dentro de las plataformas de IA, lo que traslada el primer contacto con un cliente potencial a una conversación que el broker no controla, antes de que esa persona llegue a su proceso de onboarding. Para una industria que suele llegar tarde a la tecnología, esta vez el cliente se adelantó.

La guía de buenas y malas prácticas que la FCA publicó el mismo día lleva el tema al trabajo diario de los equipos de compliance. Apoyada en el Consumer Duty, el estándar que obliga a las firmas reguladas a ofrecer buenos resultados al cliente, la guía pide que cada sistema de IA tenga altos directivos que respondan personalmente por él. Entre los errores detectados figuran herramientas lanzadas sin una necesidad clara y una gobernanza que se agrega cuando la tecnología ya está en producción.

Rusu también pidió a las firmas entender su dependencia de un solo modelo o proveedor, un riesgo que la industria de CFD conoce bien después de años atada a un único proveedor de plataforma de trading. La diferencia es que un modelo de lenguaje puede cambiar de comportamiento sin que el broker toque una línea de código. Rusu lo planteó al advertir que un sistema seguro en su lanzamiento puede comportarse distinto a escala o cuando cambia el modelo que tiene debajo.

La parte más ambiciosa del discurso apunta a la IA agéntica, es decir, sistemas capaces de actuar en nombre del usuario para gestionar pagos o inversiones. La FCA quiere que la obligación de reportar incidentes graves incluya también las fallas significativas de IA y los cuasi incidentes, aquellos errores que no llegaron a causar daño. Además, trabajará con la industria, otros reguladores y los laboratorios de frontera en un marco que defina la identidad de los agentes, la autoridad delegada, la responsabilidad y la ejecución, aunque Rusu no dio fecha.

Lo que el discurso deja abierto es quién responde cuando un broker regulado conecta su servicio a un chatbot generalista cuya respuesta mezcla la información del broker con la del modelo. En esa misma pantalla podrían convivir la advertencia del laboratorio y la del broker, con reglas distintas detrás de cada una, sin que ninguna aclare qué pasa cuando quien pregunta lo hace desde fuera del Reino Unido.

Si seis de cada diez usuarios todavía no saben que están desprotegidos, cuesta imaginar que una línea más al pie de la respuesta cambie esa proporción. La industria de CFD lleva años probando esa fórmula sin ponerse de acuerdo sobre si funciona.