Discriminación crediticia cuando se usa IA
La gestión del riesgo es un pilar fundamental de la intermediación financiera. Supone un posible incumplimiento o morosidad de quien solicita un préstamo.
El apetito por el riesgo, que cada entidad debe construir ajustado a su estructura organizacional y modelo de negocios, se conforma por medio de políticas internas, pero también tomando en cuenta factores y normativas externas que condicionan su aplicación.
Desde el historial crediticio y la capacidad de pago del solicitante hasta el cumplimiento de leyes, como la conocida ley de usura, o normativa regulatoria de estimaciones crediticias, que castiga severamente a las entidades por colocar préstamos para consumo, resultan determinantes.
El crecimiento acelerado y exponencial del uso de los sistemas de inteligencia artificial (IA) en los servicios financieros debe ser objeto de discusión sobre su oportuna y necesaria regulación.
La inteligencia artificial aplicada al riesgo crediticio genera preocupaciones relacionadas con el sesgo algorítmico, es decir, cuando se trasladan prejuicios humanos a los sistemas tecnológicos.
También existe la necesidad de justificar y explicar en forma clara a los clientes y, principalmente, a los entes reguladores las decisiones crediticias generadas con IA.
La regulación en general de la IA se encuentra en fases iniciales. Estados Unidos y, especialmente, la Unión Europea están a la vanguardia en el establecimiento de normas para garantizar las mejores condiciones para mitigar los riesgos de discriminación crediticia.
La ley recientemente aprobada en la UE proclama el principio de igualdad de trato y la prohibición de que los sistemas de IA realicen “puntuación social”, es decir, clasificar a las personas según su comportamiento, estatus socioeconómico o características personales.
Es una verdad incontrovertible que la influencia de la IA en el sector financiero tendrá un efecto profundo y enormes beneficios al brindar oportunidades para la precisión, la eficiencia y la transparencia de la gestión. Sin embargo, también es preciso abordar las brechas y mitigar los riesgos inaceptables, que son aquellos que suponen una amenaza para las personas, para así aprovechar todo el potencial de la IA garantizando al mismo tiempo la ética en la gestión del riesgo crediticio.
Entre los desafíos de los reguladores y legisladores está que la IA crece de forma exponencial, lo cual lleva a un “problema de ritmo” en el que las leyes y regulaciones tradicionales no pueden mantenerse al día. Además, esta evolución vertiginosa exige la capacidad y flexibilidad para incorporar ágilmente nuevos riesgos conforme al avance y el crecimiento tecnológico.
La igualdad en el trato en el sistema financiero es reflejo de una economía saludable y solidaria, y, por ende, es esencial prever y trabajar de inmediato en regulaciones que promuevan y garanticen la no discriminación frente a una tecnología poderosa y disruptiva, pero que muestra la imperfección de trasladar a ella los sesgos y los prejuicios de los humanos que la diseñaron.
El autor es abogado.