Un trabajo de dos investigadores de la UPNA, aceptado en el congreso UAI 2026 sobre IA

Un equipo internacional en el que participan los investigadores de la Universidad Pública de Navarra (UPNA) Xabier González García, estudiante de doctorado en el grupo de investigación GIARA, y Humberto Bustince, han visto aceptado su trabajo en la Conference on Uncertainty in Artificial Intelligence (UAI) 2026, uno de los foros de referencia mundial en los fundamentos teóricos y estadísticos del aprendizaje automático y en la representación de la incertidumbre en los sistemas de inteligencia artificial (IA).

El artículo, titulado Quantification of Credal Uncertainty: A Distance-Based Approach, nace de la estancia de investigación de González García en la Ludwig-Maximilians-Universität (LMU) de Múnich, en el grupo de Inteligencia Artificial y Aprendizaje Automático (AIML) dirigido por el profesor Eyke Hüllermeier, una figura de referencia internacional en el campo. El trabajo es resultado de una colaboración que reúne a investigadores de instituciones de Alemania, Francia y Singapur, además de la propia UPNA.

Las IA no saben decir 'no lo sé'

Uno de los grandes retos de la inteligencia artificial actual es que los modelos tienden a ofrecer respuestas con aparente seguridad incluso cuando no disponen de conocimiento suficiente para hacerlo. Dicho de forma sencilla: las máquinas no saben reconocer cuándo no saben. Esta limitación resulta especialmente delicada en aplicaciones sensibles -diagnóstico médico, conducción autónoma o decisiones de alto riesgo-, donde confundir lo desconocido con lo ambiguo puede tener consecuencias graves.

Conviene además distinguir entre dos tipos de incertidumbre que las herramientas habituales tienden a mezclar: la que procede de la variabilidad natural de los datos y no se puede eliminar (la incertidumbre aleatoria), y la que se debe simplemente a que el modelo no ha visto suficiente información y que sí podría reducirse (la incertidumbre epistémica). Saber cuánta incertidumbre hay de cada tipo es clave para decidir, por ejemplo, si el sistema debería abstenerse de dar una respuesta debido a sus capacidades limitadas o falta de conocimiento.

Un método fiable y eficiente

El trabajo propone una manera de medir esa incertidumbre que es a la vez rigurosa desde el punto de vista matemático y eficiente en la práctica, de modo que pueda incorporarse a sistemas reales de inteligencia artificial sin un coste computacional elevado.

La idea central consiste en medir cómo de dispares son los escenarios que el modelo considera plausibles y, a su vez, cómo de lejos se encuentran de los puntos de referencia de certeza absoluta: cuanto mayores son esas distancias, menos seguro está el sistema de su respuesta.

Para ello, el trabajo adapta las divergencias estadísticas -las herramientas que cuantifican cuán diferentes son unas distribuciones de probabilidad de otras- al marco de las probabilidades imprecisas, que en lugar de una única predicción manejan todo un conjunto de escenarios posibles.

Tesis doctoral en un campo emergente

González García desarrolla su investigación doctoral en el ámbito del aprendizaje automático probabilístico impreciso (imprecise probabilistic machine learning), una línea que busca dotar a los sistemas de IA de herramientas matemáticas rigurosas para razonar de forma fiablebajo incertidumbre. Dicha tesis doctoral está dirigida por Ľubomíra Horanská de la Slovak University of Technology (Bratislava) y Humberto Bustince de la Universidad Pública de Navarra.