La falla silenciosa ya tiene fecha de vencimiento: por qué observar la IA dejó de ser un problema de ingeniería

Por Saulo Flores · Orsyon Consulting · 16 de julio de 2026

Hay una frase en el suplemento Infraestructura Inteligente y Conectividad Digital del Diario Financiero del 15 de julio que merece leerse dos veces. La dice Franz Pérez, CEO de F&A Global Solutions:

“Un sistema de IA puede estar funcionando dentro de todos los parámetros técnicos y, aun así, entregar resultados incorrectos, sesgados o incoherentes. En la industria esto se denomina ‘falla silenciosa’, y es precisamente lo que la observabilidad tradicional no puede detectar.”

El reportaje la presenta —correctamente— como un problema de ingeniería: hay que evolucionar la capa de observabilidad. Quiero proponer una lectura complementaria, y en Chile, más urgente: la falla silenciosa es un problema de cumplimiento antes que un problema técnico. Un modelo que opera dentro de todos sus parámetros y aun así discrimina en una aprobación de crédito no tiene un bug. Tiene un incidente regulatorio que nadie registró, porque el dashboard estaba en verde.

Y a diferencia del debate global sobre gobernanza de IA, que se mueve en el terreno cómodo de los principios, en Chile esa discusión ya tiene una fecha en el calendario.

Qué se rompió exactamente

Vale la pena entender por qué la observabilidad clásica se quedó corta, porque la respuesta no es “es vieja”.

Raúl Castro, digital manager & services offer de Logicalis Andina, lo delimita con precisión en el reportaje: la observabilidad clásica supervisa si un sistema está disponible, qué tan rápido responde y si presenta errores. Con la IA aparece una dimensión nueva: ¿la respuesta es correcta y confiable?

Esa pregunta rompe un supuesto que la industria del software dio por sentado durante treinta años. En el software tradicional, la corrección es una propiedad del código: si el código es correcto y el sistema está arriba, la respuesta es correcta. Uptime, latencia y tasa de error alcanzaban como proxies de salud, porque el comportamiento estaba escrito.

En un modelo de IA, la corrección no vive en el código. Vive en la relación entre el modelo y un mundo que se mueve. Pérez lo explica sin adornos: “los modelos de IA aprenden de datos que cambian constantemente. Los hábitos de los clientes evolucionan, aparecen nuevos patrones de fraude, cambian los mercados y surgen nuevos riesgos”. Todo eso degrada la calidad de las respuestas sin que exista un fallo técnico evidente.

De ahí que el sistema pueda estar perfectamente sano y perfectamente equivocado al mismo tiempo. No es una contradicción: es que estábamos midiendo la salud del contenedor, no la del contenido.

Juan Luis Calvo, director comercial de Apiux Tech, ofrece la formulación más económica del asunto: “La IA y la observabilidad son dos caras de la misma moneda”. Mientras la IA automatiza y potencia la toma de decisiones, “la observabilidad aporta el control y la confianza necesarios para escalar”. El valor real de un modelo, sostiene, reside en su capacidad de ser supervisado, ajustado y mejorado en producción. No en su desempeño el día del demo.

El costo tiene nombre y apellido

Felipe Espejo, CEO de Zamper.io, hace en el reportaje el trabajo que la mayoría de las conversaciones sobre IA evita: cuantificar el daño. No detectar a tiempo la degradación de un modelo tiene consecuencias directas, y las enumera: “Cada decisión errónea tiene un costo: ventas perdidas, aprobaciones de crédito equivocadas, fraude no detectado”.

A eso suma dos capas menos visibles y más caras. La primera, la erosión de la confianza del cliente, cuando el modelo afecta la experiencia de usuario. La segunda, y es la que ordena este artículo: consecuencias regulatorias y reputacionales en el caso de industrias reguladas.

Espejo enuncia esa última en dos líneas y sigue adelante. Vale la pena detenerse, porque en Chile “industrias reguladas” dejó de ser una categoría acotada. Banca, salud, telecomunicaciones, energía, minería, seguros, retail con datos de clientes: si la organización trata datos personales, ya está adentro.

Aquí es donde el calendario chileno cambia la conversación

Danilo Naranjo, presidente ejecutivo de Wingsoft, entrega en el reportaje el diagnóstico de madurez y el pronóstico. El diagnóstico: “Hoy la mayoría mide disponibilidad y rendimiento, pero aún no monitorea aspectos críticos como la calidad de las respuestas”. El pronóstico: a medida que la IA deja de ser una herramienta experimental y comienza a tomar decisiones, se convierte en un requisito de gobernanza; durante los próximos dos o tres años la observabilidad de la IA pasará de ser una capacidad técnica a un estándar de operación.

Gartner respalda la trayectoria: 40% de las organizaciones que implementan IA utilizarán herramientas de observabilidad de IA específicas para 2028. Y Deloitte da la base sobre la que corre todo esto: 34% de las empresas en el mundo ya está usando IA para transformar sus negocios.

Ahora crucemos ese pronóstico con el calendario chileno, que es lo que el reportaje no hace.

Ese día la Ley 21.719 entra en plena vigencia. Y sus obligaciones no le preguntan al modelo si está midiendo la calidad de sus respuestas: se activan igual.

• Un modelo que decide sin supervisión humana efectiva es una decisión automatizada, con derecho del titular a oponerse y a obtener intervención humana.
• Un modelo que se degrada y discrimina no infringe una métrica: infringe el principio de calidad de los datos y, según a quién afecte, bastante más.
• Un modelo alimentado con información sensible sin base de licitud asignada es una infracción desde el primer prompt, tenga o no tenga dashboard.
• Y cuando eso escala, la notificación a la Agencia es en 72 horas. Un plazo de 72 horas exige detección. La detección exige observabilidad. No hay forma de cumplir el plazo si el sistema no sabe que algo se rompió.

En paralelo corre la Ley 21.663. Su primer deber general es la gestión continua de riesgos, y el segundo, la capacidad de prevenir, detectar, gestionar y responder a incidentes. Un modelo en producción sin supervisión de calidad es, en los términos exactos de esa ley, un riesgo no gestionado. Para un Operador de Importancia Vital, la alerta a la ANCI vence en 3 horas.

Puesto de otro modo: la industria describe la observabilidad de IA como una buena práctica que se volverá estándar hacia 2028 o 2029. En Chile, dos leyes ya la exigen como consecuencia lógica de obligaciones que no son opcionales. La brecha entre el pronóstico de madurez y la fecha legal es el riesgo del que nadie está hablando.

Las cinco dimensiones, releídas

Francisco Rojas, managing director de data & AI de Accenture Chile, propone en el reportaje las cinco dimensiones que una empresa debe articular una vez que el modelo entra en producción. La lista es sólida y vale reproducirla:

1. Estabilidad de los datos de entrada, previniendo alteraciones en distribución o contexto que comprometan el desempeño.
2. Seguimiento de la degradación del modelo, para identificar regresiones de precisión.
3. Rendimiento operativo: latencia, confiabilidad y optimización de costos de inferencia.
4. Gestión de riesgos y controles, integrando seguridad, cumplimiento normativo y trazabilidad bajo supervisión humana.
5. Validación del valor de negocio, confirmando que los resultados sigan alineados con los objetivos estratégicos.

Es una buena taxonomía de ingeniería. Pero si se la relee con las dos leyes chilenas encima, deja de ser una lista de buenas prácticas y se convierte en algo bastante más incómodo: es, casi punto por punto, un programa de cumplimiento.

La cuarta dimensión merece un subrayado. Rojas la enuncia como “gestión de riesgos y controles, integrando seguridad, cumplimiento normativo y trazabilidad bajo supervisión humana”. Eso no es una recomendación de arquitectura. Es, literalmente, el contenido de dos obligaciones legales chilenas escritas en lenguaje de ingeniería.

Una consecuencia práctica: la observabilidad no es un producto que se compra al final

Si las cinco dimensiones son un programa de cumplimiento disfrazado de stack técnico, entonces la conclusión operativa se cae de madura, y contradice la forma en que la mayoría de los proyectos de IA se están ejecutando hoy.

La observabilidad de IA no se agrega al final, cuando el modelo ya está en producción y alguien del área legal pregunta. Se diseña con el modelo, porque la trazabilidad no es retroactiva: no se puede auditar un período en que no había telemetría. Si el 1 de diciembre de 2026 un titular ejerce su derecho de oposición sobre una decisión automatizada tomada en octubre, la pregunta no será si el sistema hoy tiene observabilidad. Será si la tenía entonces.

Esto tiene tres implicancias para quien está diseñando ahora:

La supervisión humana es un requisito de diseño, no un modo de operación

La “supervisión humana efectiva” que exige la ley no se satisface con un humano que puede mirar. Se satisface con un humano que recibe la señal correcta, a tiempo, con contexto suficiente para intervenir. Eso es una decisión de arquitectura, y se toma antes de escribir la primera línea.

La telemetría de calidad debe tratarse como evidencia, no como métrica

Una métrica se agrega, se promedia y se rota a los 30 días. La evidencia se retiene, se sella y se puede reconstruir. Son dos políticas de retención distintas, y elegir mal es descubrirlo el día de la auditoría.

Los datos que salen del perímetro cambian el problema

Si la inferencia ocurre en un LLM de un tercero, la observabilidad tiene que llegar hasta ahí, y el tratamiento queda regido por el acuerdo con ese encargado. Enmascarar la información personal identificable en prompts y logs deja de ser higiene y pasa a ser control.

El punto

La conversación pública sobre gobernanza de IA suele instalarse en el plano de los principios, donde todos estamos de acuerdo y nada obliga. El reportaje del DF hace algo más útil: aterriza el problema en la operación, y deja ver que la industria chilena lo está enfrentando en serio.

Lo que falta —y es lo que este artículo intenta aportar— es cruzar ese diagnóstico técnico con el calendario. Naranjo proyecta que la observabilidad de IA será estándar de operación en dos o tres años. Es un buen pronóstico. Pero en Chile el estándar no va a llegar por convergencia de la industria: va a llegar por ley, y ya tiene fecha.

La falla silenciosa se llama así porque no hace ruido. Conviene recordar que la Agencia sí lo hace, y que el reloj de las 72 horas empieza a correr desde que el incidente ocurre, no desde que alguien se entera.