La eficacia de los sistemas de IA para la gestión de desastres no depende solo de su desempeño técnico, sino de si los ciudadanos confían en sus recomendaciones y actúan según ellas. Nuestro estudio obtuvo datos de 272 ciudadanos de Perú y Chile, en donde identificamos una paradoja: quienes más saben sobre desastres confían menos en la IA, aunque las personas que más conocen de IA confían más en ella.
La frecuencia y severidad de los desastres naturales ha impulsado la adopción de sistemas de IA para predicción de inundaciones, terremotos e incendios forestales. Sin embargo, un sistema técnicamente superior que los ciudadanos deciden ignorar durante una emergencia no ofrece ninguna ventaja práctica frente a no tener sistema alguno. La literatura sobre aversión al algoritmo y aceptación tecnológica ha estudiado la confianza pública en la IA, pero existe un vacío sobre cómo esta confianza se traduce en contextos de alto riesgo como los desastres naturales.
Utilizando regresión logística ordinal jerárquica sobre datos de 272 encuestados en Perú y Chile, el estudio evalúa factores sociodemográficos, cognitivos y disposicionales que moldean la confianza pública en sistemas de IA para desastres. Nuestros resultados muestran que comprender los procedimientos de evacuación (conocimiento del dominio del desastre) reduce significativamente la confianza en la IA (β = −0.79), mientras que la familiaridad con la IA la aumenta (β = +0.84). El género (β = +2.11), el optimismo tecnológico (β = +1.44) y el ingreso (β = +0.25) surgen como predictores adicionales significativos, y la explicabilidad percibida predice positivamente la confianza. Estos hallazgos cuestionan el supuesto de que el conocimiento genera automáticamente más confianza en la IA, y sugieren que las interfaces deben diseñarse de forma transparente para usuarios expertos en el dominio, además de abordar las barreras socioeconómicas de acceso y adopción.
La confianza pública en la IA para la gestión de desastres depende más de lo que las personas saben y sienten sobre la tecnología que de quiénes son. La paradoja conocimiento-confianza, en donde la experiencia en desastres reduce la confianza, mientras que la familiaridad con IA la aumenta, permite extender la teoría de aversión al algoritmo a contextos de alto riesgo, y ofrece guías concretas para diseñar sistemas de IA transparentes e inclusivos en la respuesta a emergencias.
Referencia:
Núñez, N. A., Vargas-Bejarano, M., & Sánchez, C. (2026). The more you know, the less you trust: Knowledge paradox in AI-driven disaster management. IEEE Access, 14, 82344–82355. https://doi.org/10.1109/ACCESS.2026.3694008
