Entrevista a Chirag Shah (Universidad de Washington) sobre los agentes de inteligencia artificial

¿Son los agentes de IA una moda pasajera o están destinados a transformar la forma en que operan las empresas? Mecalux ha conversado con Chirag Shah, profesor de informática en la Universidad de Washington y referente en inteligencia artificial, para analizar cómo estos agentes están redefiniendo la vida diaria, la manera de trabajar en las empresas y el futuro de la colaboración entre humanos e IA.

• No todo el mundo sabe qué es un agente de IA…

  Los agentes de IA no son un concepto nuevo; forman parte de la inteligencia artificial desde sus inicios. En esencia, un agente es cualquier entidad, ya sea de software o de hardware, capaz de recopilar información y actuar de manera autónoma. Históricamente, la visión inicial de los agentes estaba vinculada a la robótica: máquinas capaces de operar y tomar decisiones en el mundo real sin necesidad de instrucciones humanas.

  Hoy, cuando hablamos de agentes de IA, nos referimos sobre todo a agentes de software. Pero el principio es el mismo: sistemas que toman decisiones, ejecutan tareas asignadas y actúan en nuestro nombre. Un termostato, por ejemplo, es un agente que decide por sí solo cuándo encender la calefacción o el aire acondicionado al superar ciertos umbrales. En un nivel más avanzado, un auto autónomo también es un agente, aunque mucho más complejo.

• ¿Qué impulsa el auge actual de los agentes de IA?

  Los agentes están experimentando un resurgimiento gracias a los modelos fundacionales. A diferencia de la generación anterior ─como Siri o Alexa, limitados a tareas muy concretas─, los agentes actuales pueden apoyarse en modelos de lenguaje de gran tamaño, sistemas de visión o herramientas multimodales.

  Estos agentes van más allá de sus propias capacidades. Si no pueden hacer un cálculo, recurren a una calculadora; si desconocen los precios de las acciones, consultan una plataforma de trading o buscan en internet. Algunos incluso son capaces de escribir código para resolver problemas. Además, los modelos fundacionales están mejorando en razonamiento y en la capacidad de establecer conexiones, lo que hace que los agentes actuales sean mucho más competentes, eficaces y prácticos que las generaciones anteriores.

• ¿Entonces ya pueden encargarse de tareas más complejas?

  Exacto. Su capacidad para utilizar herramientas, razonar e incluso colaborar con otros agentes mediante frameworks como AutoGen o LangChain les permite enfrentarse a retos que antes parecían inalcanzables. Hoy ya existen sistemas multiagente que resuelven tareas que resultaban demasiado complejas para un único sistema.

  Dicho esto, con cada nueva generación de agentes siempre surge la idea de que “esta vez sí que es la solución definitiva”, hasta que sus límites se hacen evidentes. Los agentes actuales no son una excepción. Por eso escribí Agents are not enough, para recordar que no basta con crear sistemas más potentes.

• En su publicación académica introduce las ideas de sims y asistentes privados.

  

  La experiencia con generaciones anteriores de agentes de IA demuestra que, si se limitan a dar la predicción del tiempo, poner música o prender y apagar las luces, no generan suficiente valor para que los usuarios continúen usándolos, y mucho menos para que estén dispuestos a pagar por ellos. El verdadero valor surge cuando los agentes son capaces de asumir tareas complejas. Sin embargo, no basta con que puedan manejar la complejidad: los usuarios también demandan personalización y proactividad. Por ejemplo, si le pide a un agente que reserve un viaje Barcelona-Toulouse, aquel verdaderamente proactivo y personalizado no solo le sugerirá vuelos, sino que también podría recomendar trenes, anticipándose a sus preferencias.

  Pero alcanzar un alto nivel de personalización plantea importantes desafíos de privacidad. Un agente puede requerir acceso a información sensible, como historiales médicos, datos financieros o rutinas personales. Si estos datos se entregan a agentes públicos, existe el riesgo de comprometer la confianza de los usuarios.

  Mi investigación propone un sistema dual con dos tipos de agentes: públicos y privados. El asistente privado pertenece por completo al usuario, sin fines comerciales de por medio, y se apoya en lo que denomino sims (representaciones de distintas facetas de la vida, desde el trabajo y las finanzas hasta la salud y las rutinas personales). Con esta información, el asistente privado puede diseñar tareas altamente personalizadas manteniendo sus datos bajo control. Solo cuando da su aprobación recurre a agentes públicos para ejecutar la tarea. Así, el asistente no actúa al azar ni necesita hacer interminables preguntas aclaratorias, porque ya lo conoce lo suficiente. En lugar de respuestas genéricas, ofrece recomendaciones personalizadas con una probabilidad de error mucho menor que la de un agente público.

• ¿En qué se diferencian los agentes de software de los corpóreos o robóticos?

  Cuando yo era estudiante, la definición de agente se centraba en sistemas corpóreos: robots en el mundo real que empleaban sensores y señales del entorno para tomar decisiones. Ahora bien, en la última década, el foco se ha desplazado hacia los agentes de software. Hoy, a medida que la robótica avanza, algunas de aquellas ideas iniciales empiezan a hacerse realidad, especialmente en entornos controlados como las fábricas, donde los robots se están desplegando como agentes.

  No obstante, para la mayoría de los usuarios, los agentes con los que interactúan a diario siguen siendo sobre todo de software: asistentes de compras, herramientas de productividad o bots de atención al cliente. Con el tiempo, esta frontera se irá difuminando. Lo ideal es que las personas no tengan que preguntarse si una tarea la realiza un robot físico o un software. Simplemente dirán: “Quiero que se haga esta tarea”, y el agente adecuado ─ya sea corpóreo o digital─ se encargará de ella.

  La opción más prometedora es un futuro de colaboración entre humanos e IA

• ¿Cómo cree que los agentes de IA transformarán la forma de trabajar y de colaborar entre humanos y máquinas?

  No veo realista un futuro en el que los agentes reemplacen por completo a los humanos. Algunas personas defienden esa idea, pero no me parece ni deseable ni factible. Tampoco creo que tenga sentido descartar de entrada a los agentes. La opción más prometedora es un futuro de colaboración entre humanos e IA.

  Tomemos la medicina como ejemplo. Cuando un caso es complejo, suele intervenir un equipo de médicos de distintas especialidades que trabajan juntos para emitir un diagnóstico. Dentro de unos años, ese equipo podría incluir no solo a médicos humanos, sino también a agentes de IA especializados en áreas concretas. En ese escenario, los agentes aportarían velocidad, capacidad de análisis y alcance, mientras que los humanos contribuirían con criterio, empatía y responsabilidad. De este modo, podrían diagnosticar casos de forma mucho más rápida y precisa.

  Este enfoque pone el énfasis en la colaboración aumentada. Los agentes no deberían privar a los humanos del control, en particular, en ámbitos críticos como la sanidad o el transporte, donde los errores pueden tener consecuencias graves. En cambio, pueden ampliar las habilidades humanas, facilitando resultados más precisos y eficientes.

  

• Numerosas empresas ya están probando agentes de IA en operaciones, logística y cadenas de suministro. Pero, ¿hasta qué punto es realista dejar que estos agentes tomen decisiones que afecten directamente a los ingresos?

  Los agentes destacan por su velocidad y su capacidad de trabajar a gran escala: pueden procesar enormes volúmenes de datos y tomar decisiones mucho más rápido que los humanos. Sin embargo, el rendimiento no depende únicamente de la cantidad. Pensemos en una línea de producción: fabricar en masa exige automatización para escalar y ganar eficiencia en costos. Aun así, las personas siguen siendo esenciales, no solo para diseñar los sistemas y aplicar buenas prácticas, sino también para asegurar calidad, control y rendición de cuentas.

  Si bien los agentes pueden acelerar los procesos, la responsabilidad recae siempre en la empresa. Uno no puede decir a los reguladores o a los clientes: “Lo hizo el agente”. Al final, el responsable del resultado es el negocio, independientemente de si la decisión la tomó una persona o un sistema de IA.

• Diversos investigadores ya están experimentando con agentes de IA en cadenas de suministro para negociar y llegar a acuerdos. ¿Cuánto falta para que los veamos negociar en representación de las empresas?

  Esto ya sucede en varios ámbitos. En el mundo de la publicidad, por ejemplo, las negociaciones se llevan a cabo constantemente y en fracciones de segundo. En la venta y distribución de anuncios intervienen tantos parámetros que la negociación tradicional humana se ha vuelto inviable. En el pasado no se hablaba de “agentes”, pero, en esencia, lo eran: procesos que tomaban decisiones en tiempo real para clientes y proveedores. Lo mismo ocurre en los mercados bursátiles, donde los agentes ejecutan operaciones a velocidades inalcanzables para las personas.

  En un futuro, cada empresa podría contar con su propio agente de IA que negocie en su nombre e interactúe directamente con los agentes de la parte contraria. Y no se trata de ciencia ficción: ya está ocurriendo. Cada vez más compañías pueden aprovechar estas capacidades para acelerar negociaciones que implican innumerables variables en tiempo real, una tarea casi imposible para los humanos. En este terreno, la tecnología puede desempeñar un papel decisivo.

• Algunos proyectos logísticos ya combinan digital twins con agentes de IA para simular cadenas de suministro completas. ¿Está sucediendo lo mismo en otras industrias?

  

  Muchos sistemas que hoy denominamos “agentes” o “digital twins” llevan años utilizándose en sectores como las finanzas, la sanidad y el comercio minorista. En retrospectiva, podemos afirmar que eran ejemplos de negociación entre agentes o de sistemas multiagente, aunque no se les diera ese nombre. Quienes resolvían problemas reales no pensaban en etiquetas, simplemente diseñaban procesos que funcionaban.

  Las finanzas son un buen ejemplo. Una gran parte de las transacciones ya se realiza de forma autónoma mediante agentes, que suelen ser sistemas basados en reglas claras, explicables, auditables y escalables, algo crucial en un sector tan regulado. La sanidad ofrece otra lección: la IA se integra como herramienta de apoyo, no como sustituto. Los médicos pueden usarla para análisis o toma de notas, pese a que la responsabilidad final sigue recayendo en ellos. En el retail, la fijación dinámica de precios es otro caso consolidado. Plataformas como Uber o DoorDash ajustan los precios en tiempo real según la demanda y la disponibilidad. Los humanos supervisan el sistema, pero no realizan los cálculos. Por tanto, las cadenas de suministro también pueden beneficiarse de estos métodos. La verdadera oportunidad consiste en aprender de los aciertos y los errores de otras industrias.

• ¿Qué consejo daría a los líderes empresariales que están considerando implementar agentes de IA?

  Aun cuando gran parte de mi investigación y consultoría se centra en agentes de IA, a menudo comienzo con una advertencia: “¿Están seguros de que quieren agentes?”. En mi experiencia, las empresas que se lanzan a la IA con motivaciones equivocadas ─por ejemplo, “todos lo están haciendo, así que nosotros también”─ tarde o temprano se acaban arrepintiendo. He visto muchos proyectos que no funcionan o se vuelven demasiado costosos.

  En última instancia, lo que realmente importa es gestionar el negocio, resolver problemas, aportar valor a los clientes y cumplir con la normativa. Mi consejo es sencillo: céntrese en el problema que quiere resolver. Empiece por la solución, no por el nombre. Concéntrese en el negocio y busque soluciones que respondan a sus necesidades. A largo plazo, esto será mucho más útil que dejarse llevar por la última moda o la gran publicidad.