Lo esencial
- Casi tres de cada cuatro integrantes de un panel de especialistas creen que fallará quien ponga a los agentes a decidir como si fueran independientes.
- Existe la libertad operativa, que crece, y existe la responsabilidad, que no se traspasa a una máquina.
- Antes de activar un agente, anota quién responde por él y qué actos tiene vedados.
La palabra autónomo suena inocente y resulta muy conveniente. Si fue el agente, ¿quién responde? En esa pregunta está el truco, y creo que no debemos caer en él.
En lo operativo, un agente se mueve solo. La responsabilidad, en cambio, sigue siendo de personas. Te cuento de dónde sale esta idea y cómo la aplicaría en una empresa.
Lo que dijo un panel de especialistas
Un grupo internacional que mezcla universidades y práctica profesional respondió a una frase deliberadamente provocadora: la gestión que ponga a los agentes a decidir como si fueran independientes está condenada a fallar. La mayoría coincidió.
29
personas participaron en el panel, y 72% dijo estar de acuerdo con la frase, en distintos grados.
Lo interesante, como casi siempre, está en los matices. Nadie niega que los agentes ganen independencia técnica. Lo que discuten es qué hacemos con ella.
Dos cosas que no se deben mezclar
- Libertad operativa: el agente puede moverse por sí mismo, y cada vez más. Ya no solo responde preguntas, también ejecuta acciones en nombre de alguien.
- Responsabilidad: alguien debe dar la cara, ante la ley y ante su conciencia, por lo que el agente haya hecho.
Un agente no se presenta ante ninguna autoridad ni se desvela por un error. Esa diferencia, evidente, se diluye pronto en el lenguaje de las empresas: el sistema decidió, el algoritmo rechazó, el agente envió. Como si nadie hubiera tomado una decisión antes.
El agente trabaja solo, pero la responsabilidad no se le puede endosar. Esa se queda siempre con una persona.
Por qué la palabra importa
Presentarlos como decisores independientes brinda a personas y organizaciones una escapatoria elegante. Si lo resolvió el sistema, ¿quién le pidió que lo resolviera? ¿Quién lo dejó listo? ¿Quién le dio permiso?
Una buena gestión conecta cada decisión importante con alguien que pueda rendir cuentas, dentro de un conjunto más amplio de personas, normas y tecnología.
Hay además un aviso práctico. Un especialista nota que los agentes capaces de mejorarse a sí mismos evolucionan más rápido que nuestra capacidad de registrar en qué fallan. Si todavía no sabemos cómo ni cuándo se equivocan, hay aún menos razones para atribuirles criterio propio.
El mejor argumento en contra
Alguien podría objetar que pedir un responsable humano en cada acción frena la utilidad de los agentes, que existen precisamente para no estar presentes en cada paso. Es un punto válido, y algunos de los especialistas defienden grados de libertad bien acotados.
Mi respuesta: no hay que aprobar cada paso, hay que saber de quién es cada decisión. Se puede dar mucha libertad dentro de límites claros, siempre que alguien responda si el límite se rompe.
Qué hacer en tu empresa
Para esto no hace falta un comité. A cada agente le basta un nombre responsable, una lista de permisos y otra de prohibiciones absolutas. Es como la descripción de puesto de alguien que apenas entra.
- Responsable: la persona que responde por lo que decida.
- Vedado: lo que queda fuera de su alcance, como mover dinero, eliminar registros o contactar a clientes sin revisión.
- Visto bueno: las decisiones que una persona debe aprobar antes de ejecutarse.
- Bitácora: una huella de lo que hace, para que alguien pueda auditarla.
- Revisión: un día cada trimestre para comprobar que sus permisos siguen teniendo sentido.
Desde la metodología Lectura Completa, esto toca Modelo y Marca. Un agente que habla con tus clientes habla en nombre de tu marca, y lo que haga sin supervisión será, a ojos de ellos, algo que tu empresa hizo. No vendo IA, la uso para resolver problemas de negocio, y parte de la solución es saber quién responde.
Errores que conviene evitar
- Excusarte con el agente lo hizo para librarte de tu parte.
- Dejar a algún agente sin un responsable con nombre.
- Permitir que un agente mueva dinero, elimine registros o contacte clientes sin límites.
- Leer la opinión de un panel como si fuera una regla obligatoria.
- Confundir que el agente funcione bien hoy con que sea confiable siempre.
Y en México
Si en tu empresa mexicana un agente atiende clientes, cobra o toca tu base de datos, una persona con nombre y apellido tiene que responder de sus actos. Para quien recibe un mensaje equivocado o un cobro repetido, no hay diferencia entre un error humano y uno automático. Pon por escrito quién responde de cada agente y qué le está vedado. Sin nombre en esa línea, no se activa.
Preguntas frecuentes
¿Qué dijo el panel de especialistas?
Que 72% de 29 personas coincide en que fallará quien intente manejar a los agentes como si decidieran por sí solos.
¿Qué diferencia hay entre autonomía y responsabilidad?
La libertad es operativa: el agente actúa por sí mismo. La responsabilidad es de personas, que deben responder legal y moralmente.
¿Qué debo hacer con los agentes que ya uso?
Asignarles un responsable con nombre, listar lo que no pueden hacer, definir qué exige aprobación humana y revisar sus permisos cada trimestre.
Checklist para aplicarlo
- Enlista los agentes y automatizaciones que usas.
- Apunta quién responde por cada uno.
- Define lo que tienen vedado.
- Decide qué requiere visto bueno humano.
- Revisa sus permisos cada tres meses.
Ojo
Es el parecer de un panel pequeño, no una norma. Los matices cuentan: algunos especialistas defienden niveles de libertad bien delimitados, siempre con alguien que responda.
Para aplicar hoy
Revisa hoy cada agente o automatización de tu empresa y apunta junto a él a la persona que responde por sus actos y la lista de cosas que jamás puede hacer. Sin nombre en esa línea, apágalo.
Juan Pablo Ayala
Consultor de marca. Diagnostico dónde se está rompiendo el crecimiento de una empresa, defino la estrategia y sostengo la ruta. También dirijo Mixen, mi agencia, por si el plan necesita manos.
