Automatización con IA: cuando el robot se niega

casi todo lo que se cuenta sobre automatización con ia para empresas trata de un agente haciendo más cosas. lo que de verdad me ahorró dinero este mes fue un agente haciendo menos: se detuvo, dijo por qué y esperó a una persona. esa negativa es la función, no el fallo. el resto del artículo va de cómo construirla.

el incidente

gestiono estanterías en un marketplace. un robot las repone solo según el nivel de existencias: mira qué está sano, rellena lo que se queda corto, y por la mañana nadie tiene que pensar en ello.

el 20 de julio el mecanismo de seguridad saltó por primera vez desde el lanzamiento.

en una semana, el conjunto de existencias sanas, los artículos con 50 unidades o más, cayó de 488 a 339. alrededor de un 30%. dos cosas a la vez: un pico de pedidos y una incidencia en el propio almacén del marketplace.

el robot no repuso contra esa caída. retuvo la estantería y avisó, porque un 30% de bajada frente a la referencia anterior no parecía una venta normal.

entonces una persona hizo tres cosas. confirmó que la caída era real y no un fallo de datos. empujó a mano una estantería de las que más venden, saltándose el límite. y verificó el resultado releyendo el escaparate en vivo: 20 artículos esperados, 20 artículos visibles. al equipo se le avisó.

no se cambió ni una línea de código. el mecanismo se reajustó solo y ahora mide contra la nueva referencia de 339.

¿por qué la negativa vale más que la automatización?

piensa en lo que habría hecho la versión «más lista». ve que el stock baja, concluye que la demanda sube y repone fuerte. habría sido rápida, segura de sí misma y equivocada, porque la caída no era demanda, era un problema de almacén. un agente sin límites compra mercancía para resolver una incidencia logística.

no hay inteligencia en esto. es un lector muy rápido de tus propios números. no distingue entre «vendemos bien» y «se ha roto algo antes en la cadena» a menos que le enseñes qué aspecto tiene lo anormal.

así que la pregunta útil sobre cualquier automatización no es «¿qué puede decidir?». es «¿qué se negará a decidir, y cómo me voy a enterar?».

¿qué es de verdad un mecanismo de seguridad?

no es un aviso en un registro que nadie lee. son cuatro piezas, todas aburridas:

• una referencia. cómo era lo normal la semana pasada. sin un número con el que comparar, «anormal» es una opinión.
• un umbral. cuánto se puede desviar antes de que el agente pare. el mío aguantó en torno al 30%. el tuyo depende de lo volátil que sea tu negocio de verdad: mídelo antes de inventarlo.
• un motivo con nombre. el agente tiene que decir por qué paró, en palabras sobre las que una persona pueda actuar. «estantería 082 retenida: stock sano un 30% por debajo de la semana pasada» sirve. «tarea fallida» no.
• un permiso humano con comprobación. una persona puede forzarlo, y se espera que después verifique el resultado, no solo que apruebe. releer el escaparate es justo la parte que casi todo el mundo se salta.

añade una quinta si puedes: el mecanismo debería reajustarse a la nueva normalidad. si no, salta cada día tras un cambio real y todo el mundo aprende a ignorarlo.

¿qué diferencia hay entre una automatización que falla en silencio y una que se niega?

aquí está todo.

la automatización que falla en silencio sigue funcionando y produce resultados verosímiles. te enteras semanas después en los números, y ya no sabes qué decisiones estuvieron mal. la que se niega en voz alta se detiene, dice el motivo y te cuesta una acción manual hoy.

y los fallos que matan estos proyectos ocurren casi todos después del lanzamiento, en la parte que nadie enseña en la demo: el coste que se dispara, el valor que nadie sabe señalar, el control que nunca se construyó. más sobre eso, con los números, en cuánto cuesta un agente de ia.

¿dónde fallan los mecanismos de seguridad?

los mecanismos de seguridad ni son gratis ni aciertan siempre.

demasiado estrictos y nadie se los cree. si el umbral salta cada semana, la gente empieza a forzarlo sin comprobar nada, y lo que has construido es un ritual de clics, no un control. eso es peor que no tener nada, porque ahora crees que estás protegido.

demasiado laxos y no saltan nunca. si en seis meses no ha saltado, no te está protegiendo. pruébalo a propósito: dale una semana anormal falsa y mira si para.

un límite sobre el número equivocado no protege nada. yo vigilo el stock sano porque es lo que rompe mi estantería. lo tuyo puede ser el gasto diario, la tasa de devoluciones o el retraso de los datos. elige el número cuyo fallo te cuesta dinero, no el más fácil de leer.

y no sustituye a una persona. alguien tiene que mirar el aviso el mismo día. una alerta sin dueño es decoración.

¿cómo revisar tu propia automatización esta semana?

tres preguntas, en este orden:

1. ¿alguna vez algo que automatizaste se ha negado a actuar? si la respuesta honesta es no, no tienes un mecanismo de seguridad, tienes una esperanza.
2. la última vez que hizo algo mal, ¿cómo te enteraste? si la respuesta es «nos lo dijo un cliente» o «lo vimos en los números del mes», el problema es tu circuito de aviso, no el modelo.
3. ¿quién comprueba después de forzar el límite? si no es nadie, ahí está el agujero.

esa es la versión corta de la revisión que yo haría a cualquier automatización que tengas en producción.

¿qué dejar resuelto antes de automatizar lo siguiente?

el agente redacta, una persona firma. esa es la línea, y no la muevo.

faq

¿por dónde empezar con la automatización con ia para empresas? por las tareas repetidas y aburridas donde un error se ve y se puede deshacer: reponer stock, ordenar los mismos informes, responder las mismas preguntas de clientes. empieza donde puedas comprobar el resultado el mismo día. lo vistoso es el peor primer proyecto porque no sabrás si funcionó.

¿qué hace que una automatización sea segura de verdad? una referencia, un umbral, un motivo con nombre cuando se detiene y una persona que verifica después de forzarlo. si tu automatización no sabe explicar por qué paró, tarde o temprano hará algo con seguridad y mal.

¿cómo sé si mi automatización tiene mecanismos de seguridad? pregunta cuándo fue la última vez que se negó a actuar. si nunca lo ha hecho, o tu negocio ha estado inusualmente tranquilo o no hay nada comprobando. pruébalo a propósito con una semana anormal y observa.

¿puede un agente saltarse su propio límite? no. lo rutinario dentro del umbral se ejecuta solo; todo lo que se pasa va a una persona. en el momento en que el agente puede aprobar sus propias excepciones, el límite es decorativo.

¿cada cuánto debería saltar un mecanismo de seguridad? pocas veces, y debería reajustarse a la nueva normalidad tras un cambio real. si salta cada semana, el umbral está mal y la gente lo ignorará. si no ha saltado en seis meses, no está vigilando nada que se mueva.

si ya tienes un agente funcionando en tu negocio, o estás a punto de contratar uno, mándame qué tiene permitido hacer y qué hace cuando duda. lo repaso contigo y te digo claramente dónde va a fallar en silencio, qué número debería estar vigilando y qué conviene dejar por escrito antes de que nadie construya nada. la primera conversación es de una hora y es gratuita, y te llevas el informe tanto si acabamos trabajando juntos como si no. reserva una hora.

Creado con asistencia de IA.