Criterios de sostenibilidad: el riesgo de reproducir sesgos al aplicar IA sin supervisión humana
Fred Seifert, socio de ERM y líder de Finanzas Sostenibles para América Latina, analizó cómo la inteligencia artificial puede agilizar la incorporación de criterios de sostenibilidad a la gestión y la evaluación de clientes en el sector financiero, pero advirtió que su aplicación sin supervisión de expertos puede reproducir sesgos existentes y llegar a generar discriminación y falta de transparencia. Por esto mismo, el especialista plantea que el uso de las nuevas herramientas debe ser puntual dentro de los procesos, con validación de equipos multidisciplinarios, pruebas de estrés y documentación que permita respaldar las decisiones ante reguladores y auditorías.
La capacidad de procesar grandes volúmenes de información en pocos segundos abre oportunidades para incorporar inteligencia artificial (IA) a la gestión de riesgos de las entidades financieras, en un escenario en el que los factores ambientales, sociales y de gobernanza (ESG, por sus siglas en inglés) suman nuevas variables al análisis de clientes y operaciones.
Sin embargo, la eficiencia técnica no garantiza por sí sola una mejor decisión. La utilización de información histórica puede llevar a los sistemas de IA a reproducir sesgos existentes, mientras que la falta de transparencia sobre el origen de los datos plantea desafíos de trazabilidad y puede incluso derivar en decisiones sustentadas en información que no existe.
Fred Seifert, socio de ERM y líder de Finanzas Sostenibles para América Latina, abordó esta tensión durante la conferencia “Los criterios ESG impulsados por la IA”, al analizar las posibilidades que ofrece esta tecnología para el sector financiero y los controles que deberían acompañar su incorporación.
Uno de los puntos de partida es el crecimiento de la información que deben gestionar las entidades financieras al incorporar factores de sostenibilidad. Seifert explicó que los aspectos ambientales, sociales y de gobierno corporativo no constituyen necesariamente riesgos separados de los tradicionales, sino variables que terminan traduciéndose en riesgos del negocio.
En Paraguay, este proceso ya se refleja en las exigencias regulatorias aplicables al sistema financiero. Seifert mencionó la implementación de la Resolución Nro. 8 del Banco Central del Paraguay (BCP) sobre los Sistemas de Administración de Riesgos Ambientales y Sociales (SARAS) y la posterior Resolución Nro. 31 sobre aspectos climáticos.
A esto se suma una tendencia hacia una mayor convergencia internacional de estándares de sostenibilidad y las exigencias que plantean organismos multilaterales a las entidades que buscan acceder a sus recursos.
El resultado es una cantidad creciente de variables que deben ser incorporadas al análisis financiero: desde eventos climáticos extremos y posibles daños físicos hasta cambios regulatorios, tecnológicos y reputacionales asociados a determinados proyectos, actividades o clientes.
Es en el procesamiento de esa información donde la IA puede generar importantes ganancias de eficiencia. Seifert señaló que una parte importante de los procesos utilizados por las entidades financieras todavía se apoya en planillas y procedimientos manuales que requieren solicitar documentos, procesar cuestionarios y analizar individualmente información sobre los clientes.
La IA puede reducir parte de esa carga mediante la automatización de la recolección, tratamiento y análisis de datos. Como ejemplo, relató una experiencia vinculada al programa EcoInvest de Brasil, en la que debían analizarse operaciones que podían involucrar decenas de áreas diferentes. El proceso requería verificar aspectos como multas, embargos, penalizaciones y determinadas características de los inmuebles mediante imágenes satelitales.
El análisis manual podía tomar alrededor de 20 minutos por área. Con la incorporación de IA y otras herramientas, explicó, el procesamiento pasó a realizarse a una escala de aproximadamente 30 áreas por segundo.
Esta capacidad también puede trasladarse a la gestión de riesgos en Paraguay. La regulación sobre SARAS requiere que las entidades cuenten, entre otros elementos, con listas de exclusión, sistemas de categorización de riesgos y mecanismos de evaluación. Con información básica del cliente, explicó Seifert, herramientas tecnológicas pueden acelerar el screening inicial y ayudar a determinar si una operación presenta un nivel de riesgo alto, medio o bajo.
La IA también puede ayudar a identificar oportunidades de financiamiento mediante el análisis y etiquetado de carteras para determinar qué operaciones podrían cumplir determinados criterios de sostenibilidad.
Seifert mencionó, por ejemplo, la posibilidad de identificar clientes o activos elegibles para recursos destinados a financiamiento verde, analizar el potencial de una cartera para estructurar nuevos mecanismos financieros o generar información requerida por organismos multilaterales.
La tecnología también puede utilizarse después del desembolso para acompañar el desempeño del cliente, monitorear indicadores y detectar controversias que puedan generar alertas.
El riesgo de automatizar los sesgos
Las ventajas de eficiencia, sin embargo, introducen una segunda discusión: qué ocurre cuando los sistemas empiezan a utilizar información histórica para apoyar procesos que pueden influir sobre clientes y decisiones financieras.
Uno de los riesgos señalados por Seifert es el “sesgo algorítmico y la discriminación”. La IA trabaja con información y conocimiento existentes. Por lo tanto, si los datos utilizados reflejan una situación que ya contiene algún tipo de sesgo, el sistema puede reproducirlo.
El especialista utilizó como ejemplo una cartera concentrada en determinados sectores, regiones, tamaños de empresas o perfiles de clientes. Si una entidad utiliza exclusivamente esa información para identificar potenciales beneficiarios de determinado financiamiento, el sistema podría terminar proyectando hacia el futuro las características de la cartera existente y dejando fuera otras oportunidades.
La misma situación podría producirse, explicó, si una cartera de pequeñas y medianas empresas estuviera compuesta mayoritariamente por compañías cuyos propietarios son hombres. Si la decisión se automatiza utilizando exclusivamente los patrones existentes, esa característica podría terminar siendo reproducida.
Por ello, el análisis generado por la IA no debería sustituir automáticamente la decisión humana.
Otro desafío se encuentra en la calidad y el origen de la información. Seifert advirtió que los sistemas pueden generar contenidos aparentemente consistentes y bien redactados que, sin embargo, no están respaldados por información real.
Esto plantea preguntas relevantes cuando la IA pasa a formar parte de procesos de gestión de riesgos: ¿de dónde proviene la información?, ¿fue verificada?, ¿qué controles existieron durante el proceso? y ¿es posible reconstruir posteriormente cómo se llegó a determinada evaluación?
La trazabilidad adquiere así relevancia no solamente desde el punto de vista tecnológico, sino también desde la gestión de riesgos y el cumplimiento regulatorio.
El desafío aumenta a medida que la IA se acerca a decisiones financieras sensibles. En este sentido, el experto señaló que los modelos vinculados al otorgamiento de créditos y a la determinación de niveles de riesgo en seguros ya reciben una atención regulatoria especial en Europa, donde este tipo de aplicaciones son consideradas de alto riesgo.
En ese escenario, anticipó que las demandas de información de las autoridades financieras respecto del uso de IA podrían ser intensivas. Frente a estos riesgos, Seifert planteó un uso puntual de la inteligencia artificial dentro de los procesos de las entidades financieras. “No podemos dejar que la IA tome todas las decisiones por nosotros”, sostuvo.
En lugar de automatizar completamente un proceso, la entidad debería identificar en qué etapas la tecnología puede aportar valor. En un flujo de otorgamiento de créditos, por ejemplo, podría utilizarse para levantar información del cliente con mayor rapidez y alimentar los modelos de análisis, manteniendo posteriormente instancias de evaluación y decisión.
La definición de estos usos tampoco debería quedar exclusivamente en manos de las áreas de tecnología o sostenibilidad.
Seifert planteó la utilización de **comités multidisciplinarios**, con participación de áreas como riesgos, legal, compliance, negocios y sostenibilidad, para determinar dónde tiene sentido incorporar la IA y bajo qué condiciones.
Los sistemas deberían además someterse a validaciones frecuentes por expertos para detectar si están generando sesgos o información inexistente.
Pruebas de estrés también para los sistemas
El especialista trasladó además un concepto conocido por el sector financiero al control de la inteligencia artificial: las pruebas de estrés. Así como las entidades están acostumbradas a realizar tests de estrés sobre sus carteras en el marco de la gestión prudencial, planteó la necesidad de probar también los sistemas utilizados para determinar si su funcionamiento puede generar resultados no deseados o malos incentivos.
A ello se suma la necesidad de mantener documentación que permita respaldar las evaluaciones realizadas. Seifert anticipó que las autoridades requerirán información de soporte y señaló la importancia de contar con documentación suficiente para respaldar las evaluaciones de cartera, además de procesos de validación y auditoría externa.
La incorporación de IA a la gestión financiera plantea así una ecuación que va más allá de la velocidad de procesamiento. La tecnología permite obtener y analizar información a una escala difícil de alcanzar mediante procedimientos manuales, pero la interpretación de esos resultados, los controles sobre los modelos y la responsabilidad sobre las decisiones permanecen como componentes humanos y de gobernanza. “El valor está en extraer la información de la IA e interpretarla de la mejor forma”, concluyó Seifert.