How do I manage my data without destroying what I already have?
Muchas empresas ya tuvieron programas de gobierno de datos. En entidades financieras, por ejemplo, es una agenda de varios años atrás, impulsada por las respuestas que exige el BCRA.
Lo que cambió es la exigencia. La IA y los modelos requieren datos limpios, gobernados, seguros y de calidad, y por eso las áreas de gobierno ganaron peso dentro de las compañías. Históricamente el gobierno tenía dos patas: la calidad del dato (formato, estructura) y la normativa, que incluye la privacidad y suele estar a cargo de abogados especializados.
En este video exploramos estos puntos clave:
- El gobierno de datos ganó peso porque la IA exige datos limpios, seguros y de calidad.
- Hay que gobernar los datos de entrada, el modelo y los datos que el modelo genera.
- Las normativas piden controles (por ejemplo, de sesgos) y trazabilidad de punta a punta.
- Conviene elegir herramientas amplias y agnósticas, capaces de gobernar también conversaciones y documentos generados por IA.
- Los datos sintéticos permiten entrenar y validar sin usar datos productivos.
Los datos que entran, el modelo y los datos que salen
Si un modelo se alimenta con información sin calidad, el resultado sale mal, por mejor que sea el equipo que lo construye. Ese primer paso, preparar los datos para el modelo, es el más conocido y el más fácil de planificar con cualquier industria; pero la zona gris aparece después.
Hay que gobernar el modelo para garantizar que cumpla con las normativas y que no incurra en sesgos, y también la información que ese modelo produce, porque muchos casos de uso generan datos nuevos que se retroalimentan. Antes, un proyecto de datos terminaba en un tablero para un usuario; ahhora la cadena de suministro de datos se amplía y cada eslabón tiene que estar gobernado.
Datos sintéticos: entrenar y validar sin tocar datos productivos
Una técnica que ayuda es la generación de datos sintéticos: información que no es real pero se parece a la real, creada con reglas que replican la casuística del negocio, incluidas sus fallas. Permite entrenar un modelo o validarlo sin usar datos productivos y acercar las pruebas a la realidad, que rara vez tiene las condiciones ideales de un laboratorio. También esa información tiene que estar gobernada.
Un doble desafío: tecnología y normativa
Hoy, las organizaciones no solo enfrentan una tecnología nueva, sino también cambios regulatorios. El GDPR europeo empujó la agenda en la región, Brasil cuenta con su propia normativa y en Argentina se empezaron a implementar nuevas políticas de calidad y uso de datos.
Cuando un modelo llega al cliente final, las normas exigen controles, como la ausencia de sesgos, y trazabilidad de punta a punta sobre todo el ciclo de vida del dato. Un ejemplo son las plataformas que ayudan a la selección de personas, un proceso muy propenso a sesgos. En banca ocurre algo parecido: conseguir métricas para demostrarle al BCRA que su modelo no incurrá en sesgos de género. Para llegar a un modelo productivo, tiene que estar gobernado.
El obstáculo no es una sola cosa: es una mezcla de herramientas, conocimiento y procesos, en un contexto donde la tecnología avanza más rápido que las herramientas que permiten controlarla y auditarla. Tampoco existe todavía una guía de cinco pasos que alcance.
Cómo encararlo: gobernar conversaciones y documentos, no solo datos
La primera recomendación es elegir una herramienta, o una suite, lo más amplia y agnóstica posible. Las soluciones especializadas en calidad de datos son muy buenas, pero hoy quedan cortas. Las herramientas tradicionales gobiernan datos, trazabilidad y linaje. Ahora hay que gobernar también objetos nuevos, como el documento que genera un chatbot cuando un cliente pide el resumen de su cuenta o de su tarjeta.
Ese documento es un activo de la compañía y tiene que poder justificarse y auditarse. Lo mismo vale para las conversaciones: hay que saber qué preguntó un usuario al agente y en qué se basó para responder. En banca, el desafío es gobernar cada pieza que tenga contacto con un cliente, desde su origen hasta el final.
