Es un hecho que las compañías van como motos con la IA. Pero sobre todo con la que da la cara al cliente y con pies de plomo con la que se queda en casa. Sinceramente pienso que esto debería abordarse exactamente al revés.
Normalmente se empieza por el chatbot de la web, el asistente que atiende el teléfono, el agente que va a contestar los correos de los clientes. Y lo de dentro, lo que usarían los propios empleados todos los días, se queda para más adelante porque “no luce”. Nadie enseña en un comité que su gente ahora redacta los informes en la mitad de tiempo, se muestra el bot que habla con el cliente y que aparece en la foto.
El problema es que os estáis decidiendo por la opción donde el error es caro y dejáis para luego la puerta donde el error es mucho más controlable
Dos IAs distintas viviendo en la misma empresa
Aquí conviene separar, porque metemos todo en el mismo saco y no es lo mismo.Por un lado está la IA de uso interno: el asistente que ayuda a tu gente a redactar, a resumir una reunión de dos horas, a preparar un análisis, a entender un contrato.
Aquí siempre hay una persona delante mirando el resultado antes de que salga a ningún sitio. Si se equivoca, alguien lo ve. Si se inventa un dato, alguien lo caza. El error es reversible y barato, y encima cada corrección le enseña algo a la persona sobre dónde falla la herramienta.
Por otro lado, está la IA de uso externo: la que habla con tu cliente, la que toca tus sistemas, la que ejecuta cosas sin nadie mirando. Y aquí ya no estamos hablando de asistentes, sino de agentes, que es otra cosa muy distinta. Un asistente te propone; un agente decide qué hace a continuación y lo hace.
La diferencia no es de vocabulario, sino de precio y de riesgo. Poner un agente donde bastaba una automatización se paga dos veces: en la factura y en los sustos.
Y en cuanto tienes dos, empiezan a llamarse entre ellos
Pongamos foco ahora en esto porque vamos a ver cómo se complica todo, de verdad.
Un agente solo es manejable. Sabes lo que hace, qué permisos tiene, a quién preguntarle si algo se tuerce, pero es que nadie se queda en uno ya que montas el que atiende el correo, y como funciona, montas el que cualifica los leads. Y aquí se complican las cosas… como el segundo necesita datos que tiene el primero, los conectas. Y de pronto, tienes tres agentes hablando entre ellos, y ya no hay una sola persona en la empresa capaz de dibujar en una servilleta qué pasa cuando llega un correo.
Ahí es donde aparecen los problemas y fastidian lo suyo, creedme porque os hablo desde la experiencia.
Uno de ellos es el de los permisos heredados. Es cuando un agente llama a otro, y el segundo ejecuta con los permisos del primero, o al revés, o con los suyos propios que nadie recuerda haber concedido. Nadie decidió eso, salió solo de encadenar piezas que por separado tenían sentido, pero juntas son un hari.
Otro es la trazabilidad. Cuando algo sale mal y han intervenido tres agentes, ¿de quién fue? Si ninguno deja registro de qué hizo y por qué, la respuesta honesta es “no lo sabemos”, y esto ya implica un enorme problema de auditoria.
Y el tercero, el más silencioso, el dinero. Un agente que llama a otro que llama a otro entra en bucle si nadie lo corrige (os hablé del peligro que esto suponía recientemente). Al final esto se traduce en pasta gastada sin motivo y en un Esto, al final, se convierte en un problema de negocio y de sobrecosto que se descubre a fin de mes.
Pero es necesario que os diga esto de forma muy clara: empezar a construir agentes sin gobernanza entre sí es una locura que luego cuesta disgustos y dinero.
Lo que me pasó un sábado
Y no hablo de oídas. ¿Os acordáis de que os conté lo del sábado en que un agente mío tomó una decisión por su cuenta? Una tarea programada para recordarme retomar un asunto se despertó por sí sola y se puso a ejecutar una migración contra la base de datos de producción. No se perdió nada (la verdad que tuve suerte y tenía copia de seguridad), pero el susto fue de los que se recuerdan.
Pero lo importante no fue el fallo técnico, sino darme cuenta de que yo no sabía que tenía una tarea capaz de hacer eso. Estaba en mi propia casa, con mis propios agentes, montados por mí. Imaginaos lo que podría suceder en una empresa de doscientas personas donde cada departamento ha montado lo suyo por su cuenta. Puede resultar un auténtico infierno.
De esta experiencias salió una regla que ahora es innegociable en mi casa: ningún agente toca producción sin autorización explícita, en el momento, de una persona con nombre y apellidos.
"La gobernanza no se puede delegar"
Hace poco os hablé de una conversación que mantuve en el MIT con Paul McDonagh-Smith y hubo algo que me dijo que me parece de una lógica aplastante: “la gobernanza y la responsabilidad no se pueden delegar”.
Paul añadió una imagen que se me quedó grabada: “La autonomía no es un interruptor, es un dial. No se enciende ni se apaga, se gradúa”. Y aquí está lo que a mí me parece más útil de todo: cuando subes el dial de autonomía, la gobernanza no sube en la misma proporción, se multiplica. Un agente con el dial al 30% es una configuración; el mismo agente al 90% es un tema del consejo de administración.
Eso encaja con lo que estamos viendo con el Reglamento europeo de IA, que desde el 2 de agosto ya obliga en la parte de transparencia. Pero no os quedéis con la parte de multas: leedlo por la parte que os ahorra dinero. Porque las preguntas que hace un auditor son exactamente las mismas que os deberíais hacer vosotros antes de encender nada. ¿Quién puede parar esto? ¿Qué pasa cuando la comprobación de permisos falla, deja pasar o bloquea? ¿Dónde está escrito lo que este agente puede y no puede hacer?
Si no tenéis esas tres respuestas, no tenéis un sistema, tenéis un experimento en producción.
Entonces, ¿por dónde se empieza?
Vamos a lo práctico
Yo empezaría por dentro, no solo porque el error sea barato: es que es la que enseña a vuestra gente a trabajar con esto. Seis meses de asistente interno bien usado y tenéis una plantilla que sabe cuándo la máquina se está inventando algo, que ha desarrollado olfato. Esa gente es la que después va a saber revisar lo que hace un agente de cara al cliente.
Si empezáis por fuera, estáis pidiendo a un equipo sin experiencia previa que supervise justo el sistema más peligroso. Es como aprender a conducir directamente en la autopista.
Luego, antes de montar nada agéntico, separad de verdad qué necesita un agente y qué se resuelve con una automatización. Extraer los datos de una factura no es un agente; es un clasificador: no decide nada, siempre hace lo mismo. Es mucho más barato, más fiable y se gobierna mejor y sobre todo conviene que os hagáis esta pregunta: ¿este trozo del proceso elige qué hacer a continuación? Si la respuesta es no, no es un agente y, por tanto, no lo pongáis.
Y finalmente, si vais a tener más de uno, escribid las reglas antes de que haya dos. Quién puede llamar a quién, con qué permisos, qué queda registrado, cuánto puede gastar cada uno al mes y quién tiene el botón rojo. Son dos páginas, no un proyecto, y escribirlas después de tener seis agentes en marcha, cuesta diez veces más. Esto os lo digo por experiencia propia y reciente.
Mis impresiones a este respecto
Yo creo que el orden que se está siguiendo en la mayoría de las empresas es justo el contrario del que conviene, y que el motivo no es técnico sino de escaparate. Lo de fuera se ve, lo de dentro no y como todo el mundo está mirando lo que hace el vecino, pues todos a correr…
Mi consejo, y me mojo: haced ruido hacia dentro y ruido cero hacia fuera hasta que tengáis el gobierno escrito. Nadie ha perdido un cliente por tardar tres meses más en sacar un chatbot. Se pierden clientes cuando el chatbot promete un descuento que no existe o cuando un agente envía un correo con datos de otra persona.
Y ojo, que no estoy diciendo que no montéis agentes de cara al cliente, lo que digo es que el orden importa muchísimo más de lo que parece, y que la parte aburrida (quién responde, quién para, quién paga) se hace antes y no después, porque después ya no se hace nunca.
Y en tu caso, ¿serías capaz de decirme cuántas automatizaciones con IA tienes funcionando en tu empresa y quién las montó?
Déjame tus comentarios aquí abajo, me encantará leerte.
¡Os deseo una fantástica semana!
