En ese escenario, las m\u00e9tricas de sesgo adquieren un papel concreto: permiten transformar afirmaciones como \u201cel modelo no discrimina\u201d en evidencia susceptible de ser analizada. <\/p>\n\n\n\n
De hecho, las m\u00e9tricas de sesgo en IA<\/a> para cumplimiento deben formar parte de una estructura mayor que incluya trazabilidad, documentaci\u00f3n, responsabilidades y mecanismos de seguimiento durante todo el ciclo de vida<\/strong>.<\/p>\n\n\n\n En este art\u00edculo analizamos qu\u00e9 cambia cuando un modelo debe responder frente a un regulador, qu\u00e9 tipo de m\u00e9tricas permiten evaluar equidad y posibles sesgos, c\u00f3mo acompa\u00f1\u00f3 a un cliente que necesitaba demostrar ante el BCRA el comportamiento de su modelo, y qu\u00e9 informaci\u00f3n conviene preparar antes de enfrentar una auditor\u00eda.<\/p>\n\n\n\n El gobierno de datos no naci\u00f3 con la inteligencia artificial. Las organizaciones reguladas vienen trabajando desde hace a\u00f1os sobre calidad, seguridad, privacidad, acceso, pol\u00edticas, responsables y cumplimiento. Lo que cambia con la IA es que se ampli\u00f3 lo que necesita ser gobernado.<\/p>\n\n\n\n Podemos verlo en una transformaci\u00f3n muy concreta: antes, gran parte del recorrido del dato pod\u00eda finalizar en un reporte o un tablero utilizado por una persona para tomar una decisi\u00f3n, mientras que, al utilizar IA, ese dato puede alimentar un modelo que genera nuevos resultados, nuevos contenidos o nueva informaci\u00f3n, que posteriormente puede volver a ingresar al circuito.<\/p>\n\n\n\n La cadena se extiende, lo que lleva a tener que gobernar la informaci\u00f3n de entrada, pero tambi\u00e9n entender qu\u00e9 modelo la procesa, qu\u00e9 produce, bajo qu\u00e9 criterios y qu\u00e9 sucede con aquello que genera.<\/p>\n\n\n\n Esta exigencia resulta especialmente relevante en el sistema financiero. El texto ordenado vigente sobre \u2018Requisitos M\u00ednimos para la Gesti\u00f3n y Control de los Riesgos de Tecnolog\u00eda y Seguridad de la Informaci\u00f3n\u2019, actualizado mediante la Comunicaci\u00f3n \u201cA\u201d 8401 del BCRA<\/a>, establece que las entidades alcanzadas deben implementar pr\u00e1cticas efectivas de control interno y gesti\u00f3n de riesgos tecnol\u00f3gicos, y demostrar comprensi\u00f3n de esos riesgos<\/strong>. <\/p>\n\n\n\n Tambi\u00e9n contiene una secci\u00f3n espec\u00edfica sobre desarrollo, adquisici\u00f3n y mantenimiento de software, que comprende requisitos para sistemas y aplicaciones y gesti\u00f3n del ciclo de vida del software.<\/p>\n\n\n\n La Comunicaci\u00f3n \u201cA\u201d 8398<\/a>, por su parte, introdujo adecuaciones al r\u00e9gimen, extendi\u00f3 su alcance a los proveedores de servicios de pago registrados incluidos en el Registro de PSP del Banco Central de la Rep\u00fablica Argentina, y reforz\u00f3 los requerimientos vinculados con terceras partes.<\/p>\n\n\n\n Esto implica que, en un entorno donde la tecnolog\u00eda forma parte de procesos regulados, decir que un modelo est\u00e1 gobernado necesita poder traducirse en controles, documentaci\u00f3n y evidencia verificable<\/strong>. Es decir, una auditor\u00eda necesita demostrar qu\u00e9 ocurri\u00f3 efectivamente.<\/p>\n\n\n\n La primera precisi\u00f3n es importante: las comunicaciones del BCRA mencionadas en este art\u00edculo no establecen una lista cerrada de m\u00e9tricas de fairness <\/em>que deban aplicarse a todos los modelos de inteligencia artificial.<\/p>\n\n\n\n No obstante, una organizaci\u00f3n puede necesitar presentar m\u00e9tricas de sesgo ante un requerimiento concreto del regulador. Lo cual lleva a una cuesti\u00f3n central: determinar aquello que deba medirse, depender\u00e1 del modelo, el caso de uso, los riesgos involucrados y aquello que sea necesario demostrar. <\/p>\n\n\n\n No es lo mismo evaluar un modelo que recomienda productos que otro que interviene en procesos de riesgo, contrataci\u00f3n, evaluaci\u00f3n de personas o decisiones que pueden generar consecuencias distintas para diferentes grupos.<\/p>\n\n\n\n Como referencia t\u00e9cnica, y no como un checklist normativo del BCRA, pueden utilizarse diferentes m\u00e9tricas para evaluar equidad seg\u00fan las caracter\u00edsticas y riesgos de cada modelo. <\/p>\n\n\n\n El NIST AI Risk Management Framework<\/a> recomienda seleccionar las m\u00e9tricas de acuerdo con el contexto, el prop\u00f3sito y las necesidades de la evaluaci\u00f3n, mientras que el AI Metrology Center de NIST<\/a> re\u00fane m\u00e9tricas espec\u00edficas para analizar posibles diferencias entre grupos, como las siguientes:<\/p>\n\n\n\n Estas m\u00e9tricas no deber\u00edan interpretarse de manera aislada ni como una prueba autom\u00e1tica de cumplimiento. Una diferencia entre grupos puede constituir una se\u00f1al que necesita ser analizada teniendo en cuenta los datos, el prop\u00f3sito del modelo y el contexto en el que se utiliza.<\/p>\n\n\n\n En una auditor\u00eda de modelos, el objetivo no deber\u00eda ser acumular indicadores, sino construir evidencia que permita explicar qu\u00e9 riesgo se busc\u00f3 evaluar, por qu\u00e9 se seleccionaron determinadas m\u00e9tricas, qu\u00e9 resultados se obtuvieron y c\u00f3mo fueron interpretados.<\/p>\n\n\n\n Las m\u00e9tricas de sesgo, en definitiva, adquieren valor regulatorio cuando forman parte de una evidencia m\u00e1s amplia y trazable sobre el comportamiento del modelo.<\/p>\n\n\n\n Bajemos la discusi\u00f3n a una necesidad concreta, a trav\u00e9s de la experiencia reciente de uno de nuestros clientes, que necesitaba demostrar ante el BCRA que un modelo no estaba incurriendo en sesgos vinculados al g\u00e9nero. <\/p>\n\n\n\n Su desaf\u00edo no consisti\u00f3 solamente en afirmar que el modelo hab\u00eda sido correctamente desarrollado o que su performance general era buena, sino en obtener m\u00e9tricas y poner en evidencia su comportamiento<\/strong>.<\/p>\n\n\n\n Este caso muestra una diferencia fundamental entre desarrollar IA en general y hacerlo dentro de una organizaci\u00f3n regulada. Un modelo puede generar el impacto esperado sobre el negocio y, aun as\u00ed, necesitar una capa adicional antes de consolidarse en producci\u00f3n: la capacidad de demostrar que opera dentro de los par\u00e1metros que la organizaci\u00f3n necesita garantizar<\/strong>.<\/p>\n\n\n\n Ese requerimiento modifica tambi\u00e9n el momento en que deber\u00eda comenzar la conversaci\u00f3n sobre compliance<\/em>. Si las m\u00e9tricas se buscan reci\u00e9n cuando llega una auditor\u00eda, es posible que parte de la informaci\u00f3n necesaria est\u00e9 dispersa, no haya sido conservada o resulte dif\u00edcil reconstruir las condiciones exactas bajo las cuales se entren\u00f3 o ejecut\u00f3 el modelo.<\/p>\n\n\n\n La clave est\u00e1 en anticiparse a ese escenario<\/strong> y evaluar, antes de que llegue un requerimiento, si la organizaci\u00f3n cuenta con la informaci\u00f3n y evidencia necesarias para explicar ante el BCRA c\u00f3mo se comporta un modelo y respaldar los resultados que produce.<\/p>\n\n\n\n Incorporar la auditabilidad desde el inicio del ciclo de vida del modelo permite anticiparse a un eventual requerimiento mediante la definici\u00f3n sobre qu\u00e9 informaci\u00f3n debe conservarse, qu\u00e9 m\u00e9tricas necesitan monitorearse, y qu\u00e9 evidencia ser\u00e1 necesaria para reconstruir y explicar su comportamiento cuando sea requerido.<\/p>\n\n\n\n Esa capacidad tampoco depende de una \u00fanica herramienta ni puede quedar concentrada en un solo equipo. El desaf\u00edo combina tecnolog\u00eda, procesos y personas, y requiere datos gobernados y de calidad, evaluaci\u00f3n del modelo y responsabilidades definidas para transformar esa informaci\u00f3n en evidencia trazable y disponible.<\/p>\n\n\n\nPor qu\u00e9 \u201cest\u00e1 gobernado\u201d ya no es suficiente para el BCRA<\/strong><\/h2>\n\n\n\n
![\"\"](\"https:\/\/itpatagonia.com\/wp-content\/uploads\/2026\/08\/Como-demostrar-que-tu-modelo-de-IA-cumple_imagen-1-1-1024x389.png\")
Qu\u00e9 m\u00e9tricas de sesgo pide hoy un regulador<\/strong><\/h2>\n\n\n\n
\n
Caso: c\u00f3mo se arm\u00f3 la evidencia para una auditor\u00eda real<\/strong><\/h2>\n\n\n\n
![\"\"](\"https:\/\/itpatagonia.com\/wp-content\/uploads\/2026\/08\/Como-demostrar-que-tu-modelo-de-IA-cumple_imagen3--1024x389.png\")
![\"\"](\"https:\/\/itpatagonia.com\/wp-content\/uploads\/2026\/08\/Como-demostrar-que-tu-modelo-de-IA-cumple_imagen1-1024x389.png\")