DONDE LA INTELIGENCIA ARTIFICIAL CONECTA DISCIPLINAS

CEPAL publica una guía para que los gobiernos implementen inteligencia artificial sin perder control, transparencia ni responsabilidad pública

La Comisión Económica para América Latina y el Caribe publicó la Guía de implementación de proyectos de inteligencia artificial en el sector público, 2026, un documento práctico destinado a orientar a organismos estatales en el diseño, prueba, despliegue y monitoreo de sistemas de IA.

La guía propone una ruta de trabajo en tres fases —explorar, desarrollar y operar en entorno real— con preguntas orientadoras, criterios de decisión, evaluación de datos, principios de IA responsable, prototipado, testeo, monitoreo continuo y rendición de cuentas.

El documento advierte que la inteligencia artificial puede mejorar la gestión pública, automatizar procesos y apoyar la toma de decisiones, pero también plantea riesgos de gobernanza, privacidad, sesgos, seguridad, transparencia y legitimidad que no pueden resolverse únicamente desde la ingeniería.

La inteligencia artificial ya no es una promesa lejana para los gobiernos. La administración pública comienza a utilizarla para automatizar procesos, organizar grandes volúmenes de datos, mejorar servicios, agilizar trámites y apoyar decisiones institucionales. Sin embargo, su incorporación exige algo más que tecnología: requiere método, gobernanza, evidencia, controles y una clara orientación al valor público.

Ese es el eje central de la Guía de implementación de proyectos de inteligencia artificial en el sector público, 2026, publicada por la Comisión Económica para América Latina y el Caribe. El documento busca ofrecer a las instituciones públicas una hoja de ruta para pasar de la idea inicial al despliegue responsable de sistemas de IA en entornos reales.

La publicación fue elaborada por Andrés Clavijo, consultor de la División de Desarrollo Productivo y Empresarial de la CEPAL, bajo la coordinación de Sebastián Rovira, Alejandro Patiño y Franziska Seiffarth, en el marco del proyecto Transformación digital para la integración regional en América Latina y el Caribe, ejecutado por la CEPAL junto con la cooperación alemana GIZ y financiado por el Ministerio Federal de Cooperación Económica y Desarrollo de Alemania.

Una guía para evitar pilotos aislados

Uno de los puntos más relevantes del documento es su advertencia inicial: muchos proyectos de inteligencia artificial fracasan no por falta de capacidad técnica, sino por ausencia de alineación estratégica, expectativas poco realistas, debilidad institucional, falta de integración con procesos reales y ausencia de gobernanza.

Por eso, la guía no comienza preguntando qué modelo usar, sino qué problema público se busca resolver.

El documento propone que toda iniciativa de IA parta de una definición precisa del problema, del valor público esperado, de los actores involucrados, de las métricas de éxito, de los datos disponibles y de los riesgos que podrían afectar a la ciudadanía.

Desde esta perspectiva, la IA no debe incorporarse porque esté de moda, sino porque resulta adecuada para resolver un problema concreto y porque puede hacerlo mejor que otras alternativas más simples, más económicas o menos riesgosas.

Tres fases para implementar IA en el Estado

La guía organiza la implementación de proyectos de inteligencia artificial en tres grandes fases:

1. Explorar

La primera fase busca descubrir valor y condiciones. Su objetivo es identificar si el problema público puede abordarse mediante IA, si existe información suficiente, si la organización está preparada y si el proyecto cuenta con principios mínimos de responsabilidad.

En esta etapa se trabajan seis aspectos centrales:

  • comprensión del problema;
  • mentalidad experimental;
  • madurez organizacional basada en datos;
  • principios de IA responsable;
  • mapeo y preparación de datos;
  • modelamiento inicial.

La guía insiste en que esta fase es clave porque permite evitar que las instituciones avancen hacia soluciones tecnológicas sin haber definido previamente su utilidad pública, sus límites y sus condiciones de viabilidad.

2. Desarrollar

La segunda fase se orienta a probar y comparar. Incluye el diseño de prototipos, el testeo del sistema y el avance hacia modelos validados antes de escalar una solución.

El documento destaca la importancia de los prototipos porque permiten probar hipótesis, medir resultados y detectar errores antes de realizar inversiones significativas o afectar servicios públicos reales.

Entre los modelos de prototipado mencionados aparecen experiencias como simulaciones tempranas, entornos de prueba tipo sandbox, prototipos de servicio y prototipos de gobernanza o compras públicas. La lógica es clara: antes de implementar una herramienta de IA en gran escala, el Estado debe comprobar su utilidad, su seguridad, su robustez y su impacto sobre los usuarios.

El testeo ocupa un lugar central. La guía plantea que un sistema de IA debe evaluarse con métricas técnicas, pruebas iterativas, revisión de sesgos, análisis de seguridad, validación de resultados y criterios de desempeño previamente definidos.

3. Entorno real

La tercera fase se concentra en escalar, monitorear y rendir cuentas. El documento advierte que el trabajo no termina cuando el sistema entra en funcionamiento. Por el contrario, allí comienza una etapa crítica: controlar si el modelo mantiene su desempeño, si los datos cambian, si aparecen errores, si se producen sesgos nuevos y si la herramienta sigue generando valor público.

La guía incorpora conceptos como data drift y concept drift, que describen cambios en los patrones de datos o en la realidad que el modelo intenta interpretar. En términos simples: un sistema que funcionaba correctamente al momento de su lanzamiento puede deteriorarse si cambian los datos, las conductas sociales, las normas, los procesos institucionales o el contexto en el que opera.

Por eso, la publicación recomienda monitoreo continuo, reentrenamiento del modelo cuando corresponda, control de calidad de datos, retroalimentación de usuarios, documentación permanente y evaluación de impacto.

Valor público antes que eficiencia tecnológica

Uno de los aportes más importantes de la guía es su insistencia en que la inteligencia artificial en el sector público no debe medirse únicamente por eficiencia.

El objetivo central no es solo ahorrar tiempo o reducir costos. La guía ubica el valor público como criterio rector. Esto implica preguntarse si la herramienta mejora efectivamente un servicio, si beneficia a la ciudadanía, si reduce inequidades, si respeta derechos, si conserva la transparencia y si permite rendición de cuentas.

Este enfoque resulta especialmente relevante para América Latina y el Caribe, donde muchas administraciones enfrentan desafíos de interoperabilidad, calidad de datos, capacidades técnicas, brechas digitales, desigualdad de acceso y limitaciones presupuestarias.

La guía propone, en consecuencia, una adopción gradual, medible y auditada, evitando que la IA se convierta en una solución opaca o en una herramienta que amplifique problemas institucionales preexistentes.

Datos: el punto crítico de cualquier proyecto de IA

El documento dedica especial atención al mapeo de datos. Para implementar IA en el sector público, no basta con tener bases de datos. Es necesario saber qué contienen, de dónde provienen, quién las administra, cuál es su base legal, qué calidad tienen, qué sesgos pueden incluir, cuál es su cobertura temporal y geográfica, y bajo qué condiciones pueden utilizarse.

La guía propone transformar inventarios dispersos en catálogos de datos reutilizables, comprensibles y trazables para equipos técnicos, jurídicos y misionales.

El mapeo incluye dimensiones como:

  • identificación de la fuente;
  • descripción del dataset;
  • unidad de observación;
  • variables clave;
  • cobertura geográfica y temporal;
  • frecuencia de actualización;
  • calidad resumida;
  • base legal;
  • términos de uso;
  • responsable;
  • punto de acceso;
  • limitaciones;
  • fecha y versión.

Esta parte del documento resulta central porque muchos riesgos de la IA no nacen en el modelo, sino en los datos. Si los datos son incompletos, desactualizados, sesgados, ilegales o mal gobernados, el sistema puede producir decisiones erróneas o injustas.

IA responsable: gobernanza, privacidad, equidad y rendición de cuentas

La guía plantea que los proyectos de IA deben avanzar solo si cumplen con umbrales mínimos de gobernanza, rendición de cuentas, seguridad, privacidad, explicabilidad, transparencia y control de sesgos.

El documento menciona herramientas concretas como:

  • registro del proyecto;
  • matriz RACI de responsabilidades;
  • base legal;
  • evaluación de impacto en protección de datos;
  • pruebas técnicas y adversariales;
  • métricas de equidad;
  • Model Cards;
  • Data Cards;
  • planes de auditoría;
  • planes de incidentes;
  • continuidad operativa;
  • versionado;
  • trazabilidad completa.

La idea es que la IA pública no sea una caja negra. Debe poder explicarse quién decidió usarla, con qué datos funciona, qué problema busca resolver, qué riesgos fueron identificados, qué medidas de mitigación existen, quién responde ante errores y cómo puede la ciudadanía reclamar o aportar retroalimentación.

Equipos multidisciplinarios

La guía insiste en que los proyectos de IA pública no pueden quedar exclusivamente en manos de equipos técnicos. Recomienda trabajar con grupos multidisciplinarios que integren política pública, datos, tecnología, seguridad, asesoría jurídica, privacidad, compras, comunicaciones y equipos de primera línea.

Esta recomendación es especialmente importante porque la IA en el Estado afecta derechos, servicios, procesos administrativos y decisiones que pueden impactar directamente en personas.

El documento también identifica como destinatarios a directivos públicos, equipos técnicos, funciones habilitadoras, órganos de control, auditores, comités de ética, reguladores, profesionales que trabajan frente a la ciudadanía, proveedores tecnológicos y unidades de comunicación.

La importancia de experimentar sin improvisar

La guía no desalienta la experimentación. Al contrario: la considera necesaria. Pero propone una experimentación estructurada.

Esto significa probar, medir, aprender de los errores, documentar resultados, iterar y ajustar antes de escalar.

La cultura experimental que promueve el documento incluye cinco criterios:

  • explorar diferentes aproximaciones;
  • aprender de las fallas;
  • mantener interacción continua con usuarios y actores clave;
  • trabajar de manera multidisciplinaria;
  • orientar cada experimento al valor público.

En otras palabras, la innovación pública no debe confundirse con improvisación. La IA puede ser experimental, pero la gestión del riesgo debe ser deliberada.

Prototipos antes que despliegues masivos

La publicación dedica una sección específica al prototipado. Allí explica que un prototipo es una versión preliminar, parcial o simplificada de la solución final que permite validar viabilidad técnica, utilidad, experiencia de usuario, riesgos y costos antes de avanzar hacia una implementación completa.

Este enfoque es particularmente relevante en el sector público porque un error en un sistema estatal puede afectar derechos, servicios, beneficios, trámites o decisiones administrativas.

La guía menciona distintos tipos de prototipos:

  • prototipos tempranos para explorar el funcionamiento de una solución;
  • entornos sandbox para probar precisión, robustez, seguridad y sesgos;
  • prototipos de servicio para evaluar la experiencia completa de un trámite;
  • prototipos de gobernanza y compras para validar roles, salvaguardas, cláusulas contractuales y auditorías antes de licitar o escalar.

La recomendación implícita es clara: antes de comprar, contratar o desplegar IA en gran escala, el Estado debe probar.

Testeo antes de escalar

El testeo es presentado como una etapa crítica para verificar si el sistema es confiable, seguro, ético y útil antes de llevarlo a un entorno real.

La guía menciona métricas como exactitud, precisión, recall, F1-score y AUC, pero también advierte que no basta con una sola métrica. En problemas públicos, una evaluación técnica incompleta puede ocultar errores relevantes, especialmente cuando se trabaja con poblaciones vulnerables, datos desbalanceados o decisiones de alto impacto.

El documento recomienda ciclos iterativos de prueba, ajuste y revisión, con validación técnica y social. Esta mirada evita que los modelos sean tratados como productos cerrados y los presenta como sistemas que requieren evaluación permanente.

La fase más delicada: operar en el mundo real

El despliegue en entorno real es la etapa donde se comprueba si la solución funciona fuera del laboratorio.

La guía destaca que, una vez implementado, el sistema debe ser monitoreado para detectar cambios en los datos, deterioro del desempeño, aparición de sesgos, problemas de calidad, fallas de seguridad o pérdida de utilidad pública.

También se recomienda documentar, evaluar, recoger retroalimentación, reentrenar cuando sea necesario y mantener trazabilidad.

Este punto es esencial: la IA pública no debe considerarse terminada cuando se instala. Debe ser gobernada durante todo su ciclo de vida.

Una guía para gobiernos, pero también para proveedores

Aunque el documento está dirigido principalmente a instituciones públicas, también resulta útil para empresas proveedoras y socios tecnológicos.

La razón es evidente: si los gobiernos comienzan a exigir proyectos de IA con trazabilidad, métricas, evaluación de impacto, documentación, auditoría, privacidad, seguridad y rendición de cuentas, los proveedores deberán adaptar sus soluciones a esos estándares.

En este sentido, la guía funciona también como una señal para el mercado tecnológico: vender IA al Estado requerirá más que prometer eficiencia. Será necesario demostrar gobernanza, calidad de datos, claridad contractual, responsabilidad, monitoreo y capacidad de auditoría.

Relevancia para América Latina y el Caribe

La publicación aparece en un momento clave para la región. Muchos gobiernos están explorando IA para trámites, atención ciudadana, salud, educación, justicia, seguridad, impuestos, compras públicas, registros y análisis documental.

Sin embargo, la adopción apresurada puede generar riesgos: decisiones automatizadas sin explicación, uso indebido de datos personales, dependencia tecnológica, sesgos, errores administrativos, falta de mecanismos de reclamo y pérdida de confianza ciudadana.

La guía de CEPAL aporta una metodología para ordenar ese proceso. No promete soluciones mágicas. Propone preguntas, etapas, controles y criterios para decidir cuándo usar IA, cuándo no usarla y bajo qué condiciones avanzar.

El valor principal de esta guía está en desplazar la conversación pública desde la fascinación por la inteligencia artificial hacia la responsabilidad institucional.

Su mensaje de fondo puede resumirse así: la IA puede ayudar al Estado, pero solo si se implementa con propósito público, datos confiables, equipos capacitados, gobernanza, pruebas, transparencia y mecanismos de control.

Para los gobiernos de América Latina y el Caribe, el documento ofrece una herramienta especialmente útil porque traduce principios generales de IA responsable en decisiones operativas: qué preguntar, qué revisar, qué documentar, qué medir, cuándo avanzar y cuándo detenerse.

En tiempos de aceleración tecnológica, esa prudencia metodológica no es un freno a la innovación. Es una condición para que la innovación pública sea sostenible, auditable y legítima.

 

Dejá un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Scroll al inicio