Delegar en una máquina que decide

White robotic arm in display showroom
Foto de ZHENYU LUO en Unsplash

Escribí hace un tiempo sobre la diferencia entre repartir tareas y delegar: repartir es asignar la ejecución, delegar es transferir la decisión.

Con las herramientas de IA que están apareciendo este año, esa distinción ha dejado de ser solo un asunto de gestión de equipos.

Qué cambia

Hasta ahora la relación con estas herramientas era conversacional: yo preguntaba, ellas respondían, y entre respuesta y respuesta estaba yo decidiendo qué hacer con lo que me daban. El control era continuo porque cada paso pasaba por mí.

Lo que ahora empieza a ser posible es otra cosa: encargar un objetivo y que el sistema encadene pasos por su cuenta. Busca información, la evalúa, decide qué hacer a continuación, ejecuta, comprueba el resultado y vuelve a intentarlo si ha fallado.

Eso ya no es repartir una tarea. Es delegar, con todo lo que implica.

El problema de la supervisión

Cuando alguien delega en una persona, existen mecanismos para supervisar sin controlar cada paso: se acuerdan puntos de revisión, se confía en el criterio del otro y, sobre todo, se sabe que si algo se tuerce mucho, esa persona lo detectará y avisará.

Ese último mecanismo es el que falta. Un sistema automático que encadena decisiones no tiene la sensación de que algo va mal. Puede recorrer diez pasos perfectamente coherentes entre sí en una dirección equivocada, sin ninguna señal de alarma, porque cada paso es localmente razonable.

Y aquí aparece un problema práctico incómodo: cuanto más autónomo es el sistema, menos verificable es su resultado. Si yo reviso cada paso, no he ahorrado nada. Si solo reviso el resultado final, tengo que ser capaz de juzgarlo sin haber visto el recorrido, que es exactamente lo difícil.

La pregunta del margen

En delegación entre personas, lo que más fricción evita es explicitar el margen de decisión: hasta aquí decides tú, a partir de aquí consultas, esto no se toca.

Creo que es la pregunta correcta también aquí, y que casi nunca se está formulando. Antes de encargar nada a un sistema autónomo conviene tener respuesta a tres cosas.

Qué puede hacer sin preguntar. Leer, buscar y proponer es un margen. Escribir en un sistema, enviar un correo o modificar un dato es otro completamente distinto.

Qué es irreversible. Esta es la línea que de verdad importa. Un error en algo que se puede deshacer es un incordio; un error en algo irreversible —una comunicación enviada, un pago, un dato borrado— es otra categoría. La autonomía debería reducirse a medida que aumenta la irreversibilidad.

Quién responde. Si un sistema automático resuelve mal un expediente, la responsabilidad no desaparece porque haya un algoritmo en medio. Recae en la organización que lo puso ahí. En el ámbito público esto no es una reflexión filosófica: es un requisito jurídico.

Lo que estoy haciendo

De momento, uso estas capacidades para lo reversible y lo verificable. Explorar, preparar borradores, hacer comparaciones que yo después contrasto. Ahí el ahorro es real y el riesgo, bajo.

Y evito la tentación de la automatización completa en cualquier cosa que produzca un efecto sobre alguien. No por prudencia genérica, sino por una razón concreta: todavía no tengo una forma fiable de saber cuándo el sistema se ha equivocado con seguridad.

El día que la tenga, la conversación cambiará. Mientras tanto, la delegación sin capacidad de detectar el error no es delegación. Es apostar.

Una nota

Lo que más me interesa de todo esto no es la tecnología, sino que nos está obligando a explicitar cosas que llevábamos décadas resolviendo por costumbre.

Nadie escribía qué margen de decisión tenía cada puesto, porque se sabía. Ahora, para poder encargar trabajo a un sistema, hay que escribirlo.

Y al escribirlo, uno descubre que en muchos casos no estaba tan claro como parecía.