Entrevista con Eric So (MIT Sloan) sobre IA y pensamiento humano

Eric So, profesor del MIT Sloan y experto en inteligencia artificial, analiza cómo las empresas pueden aprovechar la IA sin debilitar las capacidades cognitivas, el criterio ni la experiencia de las personas. Para las empresas, la IA promete una combinación irresistible: menos esfuerzo, mayor productividad y decisiones más rápidas. Pero ¿qué ocurre cuando eliminamos precisamente la práctica que nos permite hacer bien nuestro trabajo? En su nuevo libro, The Collision: What AI Does to Us, el profesor del MIT Sloan Eric So defiende una adopción más rigurosa de la IA: una que eleve el desempeño sin debilitar la experiencia humana.

• Muchas empresas están adoptando la IA para agilizar el trabajo. Pero ¿más rápido siempre significa mejor?

  

  La IA nos está haciendo más rápidos en muchas tareas. Nos da acceso a herramientas avanzadas que aprovechan el conocimiento acumulado por la humanidad y aceleran la obtención de resultados preliminares. En The Collision planteo que la inteligencia artificial no solo está cambiando lo que podemos hacer, sino también nuestra forma de pensar. Obtener resultados más rápido no significa necesariamente que salgamos ganando, ni en el plano individual ni en el colectivo.

  Existe una fuerte tentación de avanzar más rápido y producir más en menos tiempo. Sin embargo, también debemos considerar el costo de delegar cada vez más nuestra capacidad de pensar en favor de la velocidad. La IA puede hacernos más rápidos, pero que también nos haga más inteligentes depende de cómo la utilicemos.

• ¿Por qué las personas sentimos la tentación de delegar nuestro pensamiento en la IA?

  En el libro presento el concepto de “gravedad de la IA”: la tendencia a depender cada vez más de la inteligencia artificial. Esta atracción nace de varias fuerzas que actúan conjuntamente, entre ellas la biología. Aunque el cerebro humano representa solo alrededor del 2% del peso corporal, consume más del 20% de la energía que consumimos en reposo. Como pensar requiere un esfuerzo considerable, nuestro cerebro ha desarrollado el instinto de ahorrar energía siempre que puede. La IA responde a esa necesidad: nos permite conseguir muchas cosas sin apenas esfuerzo mental.

  También existe una presión social y económica. En las organizaciones actuales, no solo se valora lo que producimos, sino también nuestro rendimiento en comparación con el de los demás. Si creemos que un compañero utiliza la IA para trabajar más y más rápido, sentiremos la presión de hacer lo mismo. El temor a quedarnos atrás nos empuja aún más a recurrir a la IA.

  Cuando estas fuerzas se combinan con el aumento de productividad que ofrece la IA a corto plazo, resistirse a la IA puede parecer poco realista o incluso ingenuo. Eso es la “gravedad de la IA”: una combinación de presiones biológicas, sociales y económicas que nos empuja a utilizarla, incluso cuando pensar por nosotros mismos podría beneficiarnos más a largo plazo.

• ¿En qué consiste la “trampa de la comodidad” de la IA?

  La trampa de la comodidad se refiere a los sistemas tecnológicos que nos simplifican el trabajo. Esa facilidad funciona como un atractivo y como una atadura: nos atrae, pero también puede limitarnos. Cuando la tecnología trabaja por nosotros, dejamos de ejercitar ciertas habilidades. Igual que ocurre con los músculos, las capacidades que no ponemos en práctica acaban debilitándose. Cuanto menos acostumbrados estamos a trabajar sin la IA, mayor es nuestra dependencia de ella. Así se crea una espiral cada vez más difícil de romper, en la que perdemos la capacidad de trabajar sin la ayuda de la IA.

  

• ¿Cómo pueden evitar las empresas caer en esta trampa?

  Un paso fundamental consiste en dejar de evaluar a los colaboradores solo por cuánto usan la IA. Presionar a los equipos de trabajo para que la utilicen cada vez más, o medir ese uso como si fuera un indicador de desempeño, no es una buena forma de valorar su trabajo. Si queremos preservar las capacidades cognitivas de las personas a largo plazo, debemos asegurarnos de que sigan ejercitando las habilidades que las mantienen activas.

  El segundo paso es diseñar interfaces que fomenten el pensamiento. Si un sistema de IA ofrece una respuesta de inmediato, es fácil dejarnos llevar por esa primera propuesta, aunque sea incorrecta o hubiéramos llegado por nuestra cuenta a una conclusión mejor. Pequeñas decisiones de diseño pueden marcar una gran diferencia a la hora de mantener la participación de los usuarios. Los mejores sistemas de IA mantienen a las personas pensando: mejoran el rendimiento sin eliminar el esfuerzo humano necesario para desarrollar el criterio.

  Por último, las empresas deberían identificar sus “capacidades cognitivas diferenciales”: las competencias esenciales que aportan valor a su trabajo. Para un médico, podría ser el criterio diagnóstico; para un abogado, la estructuración de argumentos; y para un profesor, la capacidad de aplicar conceptos en distintos ámbitos. Estas habilidades deben protegerse. No deberíamos delegar en la IA las tareas que nos ayudan a mantenerlas y perfeccionarlas.

• En uno de los casos que analiza describe un experimento en el que la automatización parcial ayudó a los trabajadores de una fábrica a desarrollar sus habilidades de control de calidad. ¿Qué pueden aprender las organizaciones de esta experiencia?

  

  El estudio analizó a personas encargadas del control de calidad de raquetas de nieve. Los investigadores querían entender cómo influían los distintos niveles de automatización tanto en el rendimiento como en la participación cognitiva. Cuando el sistema totalmente automatizado tomaba las decisiones y las personas solo tenían que ejecutarlas, aprendían menos. Además, una vez desactivada la automatización, detectaban peor los defectos que quienes habían recibido capacitación con un sistema parcialmente automatizado o sin automatización.

  El resultado más prometedor se obtuvo cuando el sistema ofrecía sugerencias, pero las personas conservaban la responsabilidad de tomar la decisión final. Al desactivar la automatización, estos participantes detectaban los defectos igual de bien que quienes habían recibido capacitación únicamente de forma manual. También afirmaban tener mayor autonomía y sentir que su trabajo tenía más sentido que el grupo que había recibido capacitación con automatización completa. Y, en la práctica, mostraban una mayor participación en la tarea.

  La conclusión es que importa cómo diseñamos las herramientas de apoyo basadas en la IA. Mantener a las personas activamente implicadas en la toma de decisiones durante la capacitación puede ayudarlas a desarrollar habilidades esenciales y a seguir siendo capaces de actuar cuando los sistemas fallan. La práctica deliberada sin IA también puede contribuir a conservar esas competencias, pero la principal lección del experimento es que debemos preservar el criterio humano mientras utilizamos la IA.

• ¿La IA potencia el talento o disimula las carencias?

  Una de las razones por las que la IA resulta tan atractiva es que permite a las personas con menos experiencia producir trabajos que parecen propios de profesionales expertos. Esto puede ser útil, aunque también implica ciertos riesgos. En la vida real, el resultado generado rara vez es el último paso. Los profesionales todavía deben presentar una idea, defenderla ante un consejo o convencer a otras personas para que la apoyen. Las investigaciones muestran que, cuando la IA se utiliza simplemente para generar resultados, las personas pueden tener dificultades con el siguiente paso porque no han trabajado lo suficiente las ideas como para hacerlas suyas.

  En el caso de los profesionales con experiencia, la situación puede ser distinta. Los directivos sénior suelen saber cómo y cuándo aplicar la IA, comprenden los matices de su ámbito y son capaces de distinguir entre buenos y malos resultados. En ese sentido, la IA puede potenciar el talento. Pero también puede ocultar carencias, sobre todo cuando el resultado hace que alguien parezca más capaz de lo que es en realidad. Todo depende de lo que queramos medir y optimizar.

  La IA puede hacernos más rápidos, pero que también nos haga más inteligentes depende de cómo la utilicemos

• ¿Cómo pueden los directivos confiar en la IA de forma equilibrada?

  La IA es una herramienta muy útil, pero también puede cometer errores. Confiar demasiado en ella puede generar dependencia; confiar demasiado poco impide aprovechar su potencial. Uno de los principales riesgos es el sesgo de la primera impresión. Cuando las empresas implementan una nueva herramienta de IA, suelen mostrar sus mejores resultados: las demostraciones más impactantes, los casos de uso más exitosos y todo lo que el sistema es capaz de hacer. Rara vez enseñan dónde falla o en qué se equivoca. Eso genera un exceso de confianza. Para utilizarla adecuadamente, es necesario conocer tanto sus capacidades como sus limitaciones y saber cuándo conviene mantenerse alerta.

  Equilibrar la confianza en la IA resulta aún más importante a medida que los sistemas mejoran. Cuanto más capaces parecen, menos sentimos la necesidad de implicarnos mentalmente. Si creemos que la IA completará la tarea a la perfección, dejamos de dedicar recursos mentales a revisarla y podemos acabar limitándonos a transferir el resultado sin más.

  Por tanto, los directivos deberían mostrar a los empleados tanto los aciertos como los errores, animarlos a mantener los conocimientos necesarios para evaluar sus resultados y reservar tiempo para trabajar sin IA. Así, los equipos pueden comprobar qué son capaces de seguir haciendo por sí mismos.

• ¿Cómo podemos aprovechar todo el potencial de la IA sin comprometer nuestra propia inteligencia?

  

  En el libro propongo cuatro principios para conseguirlo. El primero es valorar el esfuerzo. Con frecuencia lo consideramos algo negativo que conviene evitar, pero es fundamental para desarrollar nuestras capacidades, adquirir experiencia y dominar una disciplina. Al igual que reconocemos la importancia del ejercicio para mantener el cuerpo en forma, en la era de la IA debemos entender que resolver los problemas por nuestra cuenta también nos ayuda a mejorar. El esfuerzo no es algo que debamos evitar, sino una parte fundamental de nuestro desarrollo.

  En segundo lugar, debemos valorar quiénes somos sin la IA. Esto implica distinguir entre lo que podemos conseguir con su ayuda y lo que somos capaces de hacer por nuestra cuenta. Gran parte de la vida cotidiana sigue desarrollándose fuera del ámbito digital, por lo que tenemos que asegurarnos de que podemos desenvolvernos de forma independiente cuando no tenemos acceso a la tecnología.

  En tercer lugar, debemos tratar la IA como un entrenador cognitivo. Puede actuar como un tutor eficaz que nos ayuda a ampliar nuestros conocimientos. El reto consiste en utilizarla como compañera de pensamiento, no como una simple máquina de respuestas, para que nos ayude a fortalecer nuestra capacidad de razonamiento en lugar de sustituirla.

  Por último, debemos reinvertir nuestro excedente cognitivo. Dedicar el tiempo y la energía mental que nos ahorra la IA a seguir aprendiendo y a aceptar retos más ambiciosos, en lugar de limitarnos a producir más de lo mismo.

• ¿Qué regla debería seguir toda empresa impulsada por la IA?

  Si tuviera que dar a las empresas un solo consejo, sería replantear el uso de la IA. No verla como una forma de hacer las mismas tareas un poco más rápido, sino como un medio para ampliar lo que somos capaces de hacer. A lo largo de la historia, las tecnologías más transformadoras no se han limitado a mejorar la eficiencia de las tareas existentes: nos han permitido lograr cosas que antes parecían imposibles. La IA tiene ese mismo potencial.

  La inteligencia artificial puede ahorrarnos tiempo y eliminar tareas rutinarias. Pero lo importante es qué hacen las empresas con ese tiempo que ganan. Con demasiada frecuencia, la IA se utiliza para producir más de lo mismo, simplemente más rápido. La verdadera oportunidad consiste en aprovecharla para superarnos, aspirar a más y explorar nuevos horizontes que, antes de la era de la IA, ni siquiera podíamos imaginar.