Introducción
Guía Data Science - Ciencia de Datos: La inteligencia artificial generativa está transformando el análisis de datos. Hoy es posible formular una pregunta en lenguaje natural, cargar un archivo y obtener tablas, gráficos, cálculos o explicaciones sin escribir manualmente todo el código. Esta capacidad reduce barreras técnicas y agiliza tareas que antes exigían más tiempo de programación. Sin embargo, hay una diferencia fundamental entre obtener un resultado y demostrar que ese resultado es correcto.
Un análisis asistido por inteligencia artificial puede contener errores de cálculo, interpretar mal variables, excluir observaciones relevantes o responder a una pregunta distinta de la planteada. El problema no siempre resulta evidente, por ejemplo, una tabla bien presentada o X explicación convincente no constituyen pruebas suficientes de fiabilidad. Y esto sin nombrar la facilidad con que una IA puede, literalmente, inventarse cosas o hacer modificaciones que no le has pedido.
La investigación sobre interacción entre personas e inteligencia artificial ha documentado precisamente esta dificultad. Gu et al. (2024) analizaron cómo los profesionales comprueban los resultados generados por asistentes de IA y observaron que verificar tanto el procedimiento como los datos es una tarea exigente (donde, además, entra en juego habilidades de pensamiento crítico). La automatización claramente no elimina la necesidad de criterio analítico, aunque modifica la manera de ejercerlo.
En el ámbito empresarial, científico y académico, ya no es posible rechazar estas herramientas. El problema ahora es otro: en qué condiciones los resultados pueden utilizarse para tomar decisiones. Para ello, es necesario comprender los datos, examinar el método aplicado y contrastar las conclusiones mediante procedimientos verificables.
Por qué un análisis realizado con IA puede ser incorrecto
Una pregunta mal formulada produce una respuesta inadecuada
La primera fuente de error aparece antes de ejecutar cualquier cálculo, con la definición del problema. Un sistema de IA puede interpretar una instrucción de manera diferente a la intención del usuario, especialmente cuando la petición es ambigua o no especifica las condiciones del análisis. La experiencia nos muestra que es necesario marcar claramente los límites de la operación.
Supongamos que una empresa quiere conocer la evolución de sus ventas. Bien, si solicita identificar los productos con mejores resultados, el sistema podría ordenarlos por facturación total, unidades vendidas o margen de beneficio. Las tres operaciones son válidas, pero responden a preguntas distintas.
La solución consiste en definir el objetivo, las variables que intervienen, el periodo de observación y el criterio con el que se evaluará el resultado. Como sabemos, este principio coincide con las fases iniciales de cualquier proyecto analítico, desde la formulación del problema hasta la elección de los datos pertinentes. Para profundizar en esa metodología, puede consultarse el artículo ¿Cómo se desarrolla un proyecto de Data Science?
Los datos pueden contener problemas que la IA no detecta
Ahora bien, la calidad de los resultados depende también de la calidad de la información de partida. Un conjunto de datos podría incluir valores ausentes, duplicados, registros inconsistentes, errores de codificación o mediciones realizadas con criterios diferentes.
Si un sistema calcula alguna media sin considerar que existen valores extremos, la cifra obtenida podría describir de manera deficiente el comportamiento general. Si compara periodos con distinta cobertura de datos, cualquier aparente variación podría deberse a diferencias en la recopilación y no a un cambio real.
Claro, también importa la representatividad. Una muestra incompleta produce conclusiones que no se sostienen al trasladarlas a la población que se pretende estudiar. La IA no corrige automáticamente estos problemas por el solo hecho de recibir un archivo, tampoco garantiza que las transformaciones realizadas sean apropiadas.
Antes de interpretar cualquier resultado, conviene revisar la estructura del conjunto de datos, las unidades de medida, distribución de las variables y reglas aplicadas para tratar las observaciones incompletas.
Un código que se ejecuta no garantiza un análisis válido
Los asistentes de IA logran generar código que se ejecuta sin errores técnicos y, aun así, producir resultados incorrectos. La ejecución satisfactoria solo indica que el programa ha podido completarse, no demuestra que las operaciones respondan al objetivo planteado.
Entre los problemas posibles figuran aplicar un filtro equivocado, utilizar una variable inadecuada, calcular porcentajes sobre una base incorrecta o interpretar una correlación como evidencia de causalidad. También pueden producirse errores durante la transformación de los datos o al combinar tablas de distintas fuentes.
La investigación de Kazemitabaar et al. (2024) aborda este desafío y muestra la importancia de que los usuarios puedan examinar y modificar los pasos intermedios de un análisis asistido por IA. La descomposición de una tarea en fases facilita identificar supuestos incorrectos y corregirlos antes de aceptar el resultado final.
Cómo verificar los resultados de un análisis con inteligencia artificial
1-Definir qué resultado se necesita y cómo se comprobará
Antes de formular una petición a un sistema de IA, hay que establecer el objetivo analítico y las condiciones que permitirán considerar satisfactoria la respuesta.
Si se quiere estudiar la evolución mensual de los ingresos, por ejemplo, es necesario especificar el periodo, la variable económica, tratamiento de las devoluciones y la forma de agrupar las operaciones. También necesitamos determinar si se buscan valores absolutos, variaciones porcentuales o una comparación entre periodos.
Este planteamiento evita que el sistema elija supuestos relevantes sin que el usuario sea consciente de ellos. Cuando la tarea exige decisiones metodológicas, es preferible pedir una propuesta de procedimiento y revisarla antes de ejecutar los cálculos. Pensamiento analítico es también cuando pedimos un paso a paso.
2-Inspeccionar los datos antes de analizarlos
La segunda comprobación consiste en examinar el archivo de origen. Es recomendable identificar las columnas, comprobar los tipos de datos, detectar duplicados y valores ausentes, revisar los rangos y confirmar que las unidades sean coherentes.
Una variable numérica importada como texto, una fecha interpretada con un formato incorrecto o una categoría codificada de distintas maneras pueden alterar el análisis. Del mismo modo, un valor extremo no debe eliminarse automáticamente, primero necesitamos saber si representa un error, caso excepcional legítimo o una característica relevante del fenómeno estudiado.
Esta revisión requiere conocimientos de tratamiento de datos y estadística descriptiva. Las distintas herramientas y métodos disponibles se explican en Técnicas de análisis de datos: cuáles son y para qué sirven.
3-Pedir que se expliquen los pasos, los supuestos y las operaciones
Una respuesta fiable debe ser examinable. En lugar de solicitar únicamente una conclusión, es preferible pedir al sistema que detalle las variables utilizadas, los filtros aplicados, las transformaciones efectuadas, las fórmulas empleadas y las limitaciones detectadas. Cuando hablamos de IA, entre más explicaciones mejor.
Si se genera código, debe revisarse su correspondencia con el objetivo. Si se obtiene visualización, hay que comprobar los ejes, las escalas, las categorías y el origen de los valores representados. Si se presenta algún indicador estadístico, deben conocerse definición y condiciones bajo las que se ha calculado.
Las explicaciones en lenguaje natural resultan útiles, pero no constituyen una verificación independiente. Cualquier descripción convincente también puede ser errónea. Cuando sea posible, hay que contrastarla con el código ejecutado, los datos intermedios y los resultados reproducibles.
4-Contrastar los cálculos mediante otro procedimiento
La comprobación más sólida consiste en verificar los resultados con un procedimiento independiente y adecuado al problema. Una suma puede recalcularse directamente, una media contrastarse con otra herramienta y una distribución compararse mediante tabla de frecuencias o una representación gráfica.
La independencia importa más que nunca: repetir exactamente la misma operación con la misma configuración no garantiza que un error sistemático desaparezca. Para ciertos análisis, conviene utilizar otra implementación, comprobar manualmente X muestra de casos o contrastar el resultado con fuentes de referencia fiable.
La magnitud del control debe ser proporcional al impacto de la decisión. La exploración preliminar puede admitir comprobaciones más ligeras que un análisis destinado a fundamentar inversiones, asignar recursos o evaluar riesgos.
5-Distinguir entre correlación, predicción y causalidad
Una de las interpretaciones más delicadas aparece cuando se atribuye la relación causal a datos que únicamente muestran asociación.
Si dos variables aumentan simultáneamente, no se demuestra que una provoque la otra. Podrían intervenir una tercera variable, una tendencia temporal o un sesgo en la selección de las observaciones (son bases conceptuales que pertenecen a la Estadística). De forma similar, un modelo predictivo que obtiene buenos resultados con datos conocidos no necesariamente funcionará igual ante datos nuevos.
La validación debe ajustarse al tipo de análisis. En un estudio descriptivo, interesa que las cifras representen correctamente las observaciones. En un modelo predictivo, es necesario evaluar el rendimiento con datos que no se hayan utilizado para entrenarlo, mediante un procedimiento adecuado. En la investigación causal, se requieren diseños y supuestos que permitan justificar la atribución de efectos.
Recordemos que las técnicas de análisis no son intercambiables, cada pregunta exige métodos y criterios de evaluación específicos.
6-Documentar las limitaciones y conservar la trazabilidad
Importante: Un resultado verificable debe poder reconstruirse. Conviene registrar la versión del archivo utilizado, las transformaciones realizadas, criterios de exclusión, código relevante y decisiones metodológicas. También deben anotarse las limitaciones que condicionan la interpretación.
Esta documentación permite corregir errores, comparar resultados y explicar a otras personas cómo se llegó a una conclusión. En entornos profesionales, la trazabilidad es especialmente importante cuando el análisis influye en decisiones económicas u organizativas.
El marco de gestión de riesgos de inteligencia artificial del National Institute of Standards and Technology destaca la necesidad de evaluar y gestionar los riesgos de estos sistemas durante su ciclo de vida (Autio et al., 2024). Aplicado al análisis de datos, este enfoque implica no dar por fiable un resultado solo porque procede de una herramienta avanzada.

Qué competencias necesita un profesional para validar análisis asistidos por IA
Estadística, programación y comprensión del problema
Verificar un análisis requiere más que saber formular instrucciones a un chatbot. El profesional necesita comprender cómo se representan los datos, qué operaciones se han aplicado, qué supuestos sostienen el método y cuáles son los límites de las conclusiones.
Sí, la estadística permite evaluar distribuciones, variabilidad, incertidumbre y relaciones entre variables. La programación facilita inspeccionar y reproducir operaciones. El conocimiento del contexto ayuda a distinguir entre un resultado matemáticamente posible y uno que tiene sentido en el problema estudiado.
Un cuadro productivo que conoce una herramienta, pero desconoce el método estadístico subyacente, puede pasar por alto errores difíciles de detectar a simple vista. A la inversa, la comprensión metodológica sin capacidad para examinar el proceso computacional también limita la verificación.
El perfil profesional del Data Scientist combina precisamente estas dimensiones. En ¿Qué hace un Data Scientist y qué habilidades necesita? se abordan las competencias que permiten transformar preguntas de negocio en problemas analíticos y evaluar los resultados obtenidos.
La relación con el Máster en Big Data y Data Science de la UNED
La verificación de análisis asistidos por inteligencia artificial permite comprender por qué una formación especializada en Big Data y Data Science no debe limitarse al manejo de aplicaciones. El objetivo es desarrollar criterio para seleccionar métodos, preparar información, evaluar resultados y fundamentar decisiones con evidencia.
El Máster en Big Data y Data Science de la UNED integra contenidos relacionados con análisis de datos, estadística, programación, minería de datos, Big Data y aprendizaje automático. Este enfoque multidisciplinar resulta pertinente para abordar los problemas que aparecen cuando la IA participa en el trabajo analítico (desde la calidad de los datos hasta la interpretación y validación de los resultados).
En la práctica, estas competencias se relacionan con tareas como revisar una transformación realizada en Python o R, contrastar una estimación estadística, evaluar un modelo predictivo o comunicar las limitaciones de un análisis a quienes deben utilizarlo. Ojo: La herramienta concreta puede cambiar, pero la necesidad de comprender el método permanece.
Por lo anterior, el valor profesional pasa por saber cuándo una respuesta es insuficiente, qué comprobaciones hacen falta y qué grado de confianza permite la evidencia disponible.
Conclusiones: utilizar la IA sin renunciar al criterio analítico
Como ya sabemos, la inteligencia artificial puede acelerar el tratamiento de datos, facilitar la programación y ayudar a explorar conjuntos de información. Sin embargo, la rapidez de ejecución no equivale a rigor metodológico. Cualquier respuesta plausible puede contener errores en la interpretación de la pregunta, en los datos, en el código o en las conclusiones.
La verificación debe formar parte del propio proceso analítico. Es decir, definir el problema, inspeccionar los datos, revisar los procedimientos, contrastar los cálculos, evaluar los supuestos y documentar las limitaciones. El nivel de control dependerá de la complejidad del análisis y de las consecuencias de la decisión.
En todo este escenario, las competencias en estadística, programación y ciencia de datos adquieren especial relevancia. La IA asume parte del trabajo operativo, pero la responsabilidad de interpretar la evidencia y decidir si resulta suficiente sigue requiriendo juicio profesional. Recuérdese algo central: las operaciones lógicas, imitan la inteligencia… no son inteligentes.
FAQ
¿Se puede confiar en los análisis realizados con inteligencia artificial?
Se pueden utilizar, siempre que se verifiquen de acuerdo con el problema y el riesgo asociado. La herramienta no garantiza por sí sola que los datos sean adecuados, que los cálculos sean correctos o que las conclusiones estén justificadas.
¿Cómo comprobar si la IA ha calculado correctamente?
Hay que revisar las variables y operaciones utilizadas, inspeccionar los datos intermedios y contrastar los resultados mediante un procedimiento independiente. En función del análisis, también puede ser necesario evaluar los supuestos estadísticos o comprobar el rendimiento con datos distintos de los empleados para construir un modelo.
¿Qué errores puede cometer la IA al analizar datos?
Múltiples, como interpretar mal una petición, seleccionar variables inadecuadas, aplicar filtros incorrectos, ignorar valores ausentes, producir código defectuoso o extraer conclusiones que los datos no permiten sostener. También presentar resultados formalmente correctos que respondan a una pregunta distinta de la que se pretendía resolver.
¿Por qué es importante estudiar Estadística y programación si existen herramientas de IA?
Porque estas competencias nos permiten comprender, revisar y reproducir los análisis. La Estadística ayuda a valorar la solidez de las conclusiones, la programación permite examinar las operaciones y el conocimiento del problema facilita interpretar los resultados en su contexto. Son fundamentos importantes para trabajar profesionalmente con datos, incluso cuando parte de las tareas está automatizada.
¿Qué relación tiene esta cuestión con el Máster en Big Data y Data Science de la UNED?
La validación de resultados forma parte de los retos metodológicos del análisis de datos contemporáneo. La formación en Estadística, programación, minería de datos, Big Data y aprendizaje automático proporciona herramientas conceptuales y técnicas para comprender los procesos analíticos, evaluar modelos e interpretar sus resultados con rigor.
Referencias bibliográficas
Autio, C., Schwartz, R., Dunietz, J., Jain, S., Stanley, M., Tabassi, E., Hall, P., & Roberts, K. (2024). Artificial intelligence risk management framework: Generative artificial intelligence profile (NIST AI 600-1). National Institute of Standards and Technology. https://doi.org/10.6028/NIST.AI.600-1
Gu, K., Shang, R., Althoff, T., Wang, C., & Drucker, S. M. (2024). How do analysts understand and verify AI-assisted data analyses? Proceedings of the CHI Conference on Human Factors in Computing Systems. https://doi.org/10.1145/3613904.3642497
Kazemitabaar, M., Williams, J., Drosos, I., Grossman, T., Henley, A., Negreanu, C., & Sarkar, A. (2024). Improving steering and verification in AI-assisted data analysis with interactive task decomposition. Proceedings of the 37th Annual ACM Symposium on User Interface Software and Technology. https://doi.org/10.1145/3654777.3676345