Capítulo 05. Comportamiento y sesgos en algoritmos de IA utilizados en la gestión equitativa del agua, desde los sistemas socioecológicos

Se inicia con un análisis de las implicaciones éticas relacionados con el uso de sistemas de inteligencia artificial para la gestión y distribución del agua, bajo un Enfoque de los sistemas Socio-Ecológicos (SSE). La investigación fue cualitativa de tipo documental, bajo una revisión de literatura académica y documentos normativos, para examinar el impacto que tiene la automatización de decisiones hídricas en la reconfiguración de las relaciones de poder, los esquemas de gobernanza y los patrones de acceso al recurso. Se observó que los algoritmos aplicados a la gestión del agua no deben ser considerados como herramientas neutrales, sino como dispositivos sociotécnicos que incorporan valores, supuestos y prioridades normativas, que pueden generar desigualdades históricas y daños en la distribución del agua si se implementan sin marcos éticos explícitos. Se observó que el uso de tecnologías para eficientar la gestión del agua, no siempre asegura que su reparto se realice de forma justa, ya que, cuando los algoritmos no son transparentes, las decisiones tienden a quedar en manos de pocas personas, generando desigualdades y desconfianzas, puesto que la eficiencia tecnológica no garantiza por sí misma una distribución justa, sino solo contribuye a la equidad y sostenibilidad hídrica implementada bajo esquemas de gobernanza algorítmica transparente, explicables y con participación y rendición de cuentas sociales. Finalmente, se plantea que los enfoques de gobernaza policéntricos y de bienes comunes ofrecen orientaciones útiles para incorporar la inteligencia artificial en la gestión del agua de manera responsable, procurando que el desarrollo tecnológico se integre con la justicia socio-ecológica y con el interés colectivo.