Tecnología, personas e inteligencia artificial

Telmo Silva habla con Dan Stelljes, un veterano con 30 años de experiencia en gestión de datos en el sector sanitario, para mantener una charla con los pies en la tierra sobre lo que realmente hace falta para que los proyectos de datos salgan bien. Desde el aspecto humano oculto tras los datos estructurados hasta el problema de la confianza que está en el centro de la adopción de la IA, este episodio te hace ver con los pies en la tierra dónde acaba la tecnología y empieza el criterio humano.

Preguntas que hicimos

• ¿Pueden las visualizaciones generadas por IA sustituir al analista, o seguimos necesitando que haya un humano en el proceso?
• ¿Cómo se consigue que la gente confíe en los datos no estructurados cuando los responsables de la toma de decisiones llevan décadas basándose en cifras concretas?
• ¿La velocidad a la que las organizaciones están adoptando la IA está superando su capacidad para usarla de forma responsable?

Lo que hemos aprendido

• Los datos estructurados solo cuentan una parte de la historia. El contexto operativo y humano que se esconde en las fuentes no estructuradas revela por qué surgen los problemas, no solo que hayan surgido.
• Comparar las respuestas de la IA en varias preguntas y modelos es la forma más práctica de validar los resultados hoy en día.
• La IA es solo una herramienta más del flujo de trabajo, no el flujo de trabajo en sí. Funciona mejor cuando se integra junto con otras herramientas de datos y la experiencia humana.
• La falta de experiencia es un hecho. Como los analistas novatos confían en la IA para hacer el trabajo práctico, es posible que la próxima generación carezca de los instintos propios del sector necesarios para saber cuándo una respuesta es simplemente errónea.

De las reclamaciones sanitarias a una realidad más amplia sobre los datos

Daniel Stelljes lleva 30 años lidiando con algunos de los datos más complicados de cualquier sector: el ciclo de ingresos de la sanidad. En ese ámbito, los datos estructurados pueden indicarte que ha habido un pago insuficiente. Lo que no te dicen es por qué. Para eso hace falta una tercera capa: el contexto operativo y humano que se recoge en fuentes no estructuradas como archivos PDF, informes y registros de flujos de trabajo. El enfoque de Daniel consiste en analizar los tres juntos, tratándolos como señales complementarias en lugar de contradictorias. Cuando los datos estructurados y no estructurados cuentan la misma historia, la confianza aumenta. Cuando divergen, esa discrepancia suele ser donde se esconde el verdadero problema.

El problema de la confianza: por qué las cifras concretas siguen siendo lo que cuenta

A pesar de lo prometedor que parece el análisis generado por la IA, muchas partes interesadas siguen basando su confianza en cifras concretas. Pedirles que se fíen de señales más subjetivas e inferidas, sin pruebas visibles, es un poco como en los primeros tiempos de las tarjetas de cajero: la gente sacaba dinero del cajero y luego entraba en el banco para comprobar la misma transacción. El reto al que se enfrentan hoy los equipos de datos no es solo dar con la respuesta correcta, sino hacer que el razonamiento que hay detrás sea lo suficientemente claro como para que te lo creas.

Yo uso la IA como si fuera un becario. Le digo que se ponga a hacer esta serie de tareas por mí y luego yo evalúo si me parece que lo ha hecho bien o no.
Dan Stelljes, director de Beastbook Solutions

Ese escepticismo sano, dice Dan, no es una debilidad. Es la actitud adecuada para cualquiera que trabaje con sistemas que pueden estar equivocados sin lugar a dudas.

Triangulación de la IA: un método práctico para validar los resultados

Telmo y Daniel comparten una misma frustración: los modelos de IA son inconsistentes. Si haces la misma pregunta dos veces, en días distintos o con versiones diferentes del modelo, puede que obtengas respuestas diferentes. La respuesta de Daniel es la triangulación: desglosar un problema en sus partes componentes, procesar cada una por separado y luego comparar los resultados para comprobar su coherencia interna. Si los resultados convergen, es una señal razonable de fiabilidad. Si divergen, es el momento de profundizar más. Es, como dice Telmo, hacer estadísticas con respuestas generadas estadísticamente.

La visualización ha llegado para quedarse

La idea de sustituir los paneles de control por una interfaz de chat resulta atractiva en teoría. En la práctica, se queda corta en cuanto empieza la exploración de verdad. La IA puede generar un gráfico rápidamente, pero para comprobar que ha gestionado bien los valores nulos, ha aplicado los filtros correctos y ha agregado los datos como se esperaba, sigue siendo necesario un ojo experto. La visualización interactiva, esa que permite a los analistas profundizar, ampliar y cambiar de perspectiva sobre la marcha, sigue siendo más rápida y fiable para el trabajo analítico de verdad que las preguntas iterativas. Como señala Telmo basándose en su propia experiencia desarrollando en ClicData, las preguntas funcionan bien para resúmenes y preguntas narrativas. Para un análisis visual en profundidad, añaden obstáculos en lugar de eliminarlos.

La IA es una herramienta. Pero no la única.

Las empresas están avanzando a toda velocidad en el campo de la IA, a veces más rápido de lo que realmente entienden cómo funciona. Daniel establece una clara distinción entre usar la IA como acelerador para tareas conocidas y delimitadas, y esperar que se encargue de análisis complejos con múltiples variables de principio a fin. Esto último requiere el mismo rigor que cualquier otro proyecto de datos: requisitos bien definidos, resultados probados y revisión humana en cada etapa. La IA tiene su lugar en el flujo ETL. No sustituye al flujo.

La brecha de experiencia de la que nadie habla

Quizá el momento más sugerente del episodio llega casi al final. A medida que los desarrolladores sénior pasan a desempeñar funciones de validación y los analistas junior recurren a la IA para hacer el trabajo, surge una pregunta silenciosa: ¿de dónde vendrá la próxima generación de profesionales con experiencia? La experiencia se gana haciendo, cometiendo errores y desarrollando el instinto para reconocer cuándo una respuesta no tiene sentido. Si la IA se hace cargo por completo de ese proceso, el sector podría acabar enfrentándose a una brecha entre las herramientas que utiliza y el criterio necesario para usarlas bien.