Noticias de Manizales y Caldas: todo en actualidad, investigación, deportes, vías y noticias de la región en La Patria.
La integración de la Inteligencia Artificial (IA) en la administración pública está generando profundas transformaciones y desafíos éticos, legales y sociales, como se evidenció en el reciente debate impulsado por la Escuela Superior de Administración Pública (ESAP) de Colombia. Este fenómeno implica mucho más que la adopción de nuevas herramientas tecnológicas; supone una redefinición de cómo se gobernarán los asuntos públicos, quién tomará las decisiones y bajo qué criterios de transparencia y equidad se hará uso de los algoritmos. El análisis de la ESAP recalca que la IA no debe ser asumida como un simple instrumento técnico, sino como un agente que requiere regulación y reflexividad constante en su gestión.
La automatización de trámites públicos, la gestión de recursos y la detección de fraudes con IA ya están presentes en varios países. Sin embargo, expertos internacionales advierten sobre los riesgos que implican la opacidad y los sesgos inherentes en los sistemas algorítmicos. Por ejemplo, según The New York Times, en Estados Unidos han surgido controversias debido al sesgo racial y de género en la adjudicación automatizada de subsidios o servicios públicos, subrayando la importancia de garantizar auditabilidad, transparencia y pluralidad en los equipos desarrolladores. En América Latina, organizaciones como el Banco Interamericano de Desarrollo resaltan la oportunidad de aprender de estos precedentes y adoptar marcos regulatorios anticipados para asegurar que la tecnología esté alineada con los valores democráticos.
En el ámbito regulatorio, la Unión Europea trabaja en el desarrollo del Artificial Intelligence Act, un marco jurídico pionero para la IA que, según la BBC, establece límites y responsabilidades claras, especialmente en aplicaciones de “alto riesgo” dentro del sector público. Paralelamente, la Organización para la Cooperación y el Desarrollo Económicos (OCDE) impulsa principios de transparencia, equidad y responsabilidad, fundamentales para una gobernanza global efectiva. A través de eventos como el Munesap y la Semana de Internacionalización, Colombia se conecta a estas discusiones, reconociendo la importancia de evitar regulaciones fragmentadas que puedan obstaculizar la cooperación internacional y la protección de los derechos fundamentales.
Otro aspecto clave es la brecha digital y el acceso desigual a la tecnología, subrayado por la Comisión Económica para América Latina y el Caribe (CEPAL). La ESAP impulsa programas de capacitación en competencias digitales para servidores públicos, conscientes de que la digitalización sin inclusión puede ampliar las desigualdades existentes. Así, la formación ética y técnica se vuelve indispensable para que la IA contribuya a una mayor eficiencia estatal, pero también a una gestión equitativa y justiciera de los servicios públicos.
Finalmente, la reflexión promovida por la economista Mariana Mazzucato y la UNESCO apunta a no perder de vista que la IA debe ser comprendida como una herramienta al servicio del bien común y no como un fin en sí mismo. El futuro de la administración pública dependerá, entonces, de asegurar una regulación robusta, formación continua y un férreo compromiso ético, para que la innovación tecnológica fortalezca la democracia en vez de erosionarla.
¿Cómo se garantiza la transparencia en los algoritmos usados por el Estado?
La transparencia algorítmica es un tema recurrente en el debate sobre IA y administración pública, especialmente porque las decisiones tomadas por sistemas automáticos pueden afectar directamente a la ciudadanía. Según expertos citados por The New York Times y la BBC, la clave está en exigir que los desarrolladores documenten el funcionamiento de sus sistemas, permitan auditorías externas y ofrezcan explicaciones comprensibles sobre los criterios utilizados en los procesos de decisión. Esto cobra particular relevancia cuando las herramientas tecnológicas intervienen en ámbitos sensibles como la asignación de subsidios o la evaluación de riesgos.
Asimismo, organismos internacionales como la OCDE proponen lineamientos específicos sobre rendición de cuentas y acceso público a los códigos fuente, mientras que en América Latina la ESAP y otras instituciones educativas promueven la capacitación de funcionarios para interpretar y cuestionar el uso de algoritmos en la gestión estatal. La transparencia, por tanto, no es solo una cualidad técnica sino un pilar central de la gobernanza democrática en la era digital.
¿Qué significa “sesgo algorítmico” en la inteligencia artificial?
El sesgo algorítmico se refiere a la tendencia de un sistema de inteligencia artificial a reproducir o amplificar discriminaciones existentes debido a la forma en que fue diseñado o entrenado. Según el Banco Interamericano de Desarrollo y casos reportados en medios internacionales, esto puede ocurrir si los datos de entrenamiento reflejan prejuicios de género, raza o condición social, generando decisiones injustas o excluyentes.
El reto de mitigar estos sesgos es especialmente relevante en la administración pública, donde decisiones automáticas pueden afectar el acceso a derechos fundamentales. De ahí la importancia de contar con equipos multidisciplinarios, procedimientos de auditoría y regulación proactiva, como sugieren la OCDE y la Unión Europea, para garantizar sistemas más representativos y justos en el uso de IA estatal.
* Este artículo fue curado con apoyo de inteligencia artificial.
* Pulzo.com se escribe con Z
LO ÚLTIMO
.svg)
