Cuando los sistemas fallan, debe prevalecer el liderazgo de las personas
19 de enero de 2024
El prolongado escándalo de los errores de Correos en el Reino Unido, que ahora, tardíamente, se está tratando con la urgencia y la sensibilidad necesarias desde hace tiempo, es una cruda advertencia de los peligros de prometer en exceso la implantación de tecnología sin una gobernanza adecuada.
Durante más de una década, un sistema informático defectuoso, Horizon, hizo que cientos de subcarteros fueran acusados falsamente de errores contables y robos. Muchos fueron procesados e incluso encarcelados, lo que provocó graves sufrimientos al arruinarse medios de vida y reputaciones basándose en pruebas informáticas endebles que no se investigaron adecuadamente. Estaba viciado de principio a fin.
Este escándalo revela los estragos que pueden producirse cuando la responsabilidad se fractura en torno a la promoción de nuevas tecnologías que carecen de supervisión para garantizar su adecuación a las necesidades humanas.
A medida que aumenta la presión global sobre las organizaciones para que persigan la transformación digital, los líderes de hoy deben prestar atención a las lecciones de tales fracasos antes de lanzarse de cabeza a la automatización y, más recientemente, a los proyectos de IA con la planificación necesaria para evitar impactos perjudiciales y duraderos.
Vigilancia necesaria
Un factor central subyacente a la mencionada debacle fue la ceguera institucional de la dirección y el gobierno de Correos ante las crecientes pruebas de los fallos del software. A pesar de los crecientes síntomas de discrepancias inexplicables en las cuentas de las sucursales, los desafíos de los subcarteros fueron desestimados en medio de un rígido centralismo del sistema que suprimía la verdad y la transparencia.
Con la automatización y la IA extendiéndose rápidamente por las funciones sin una supervisión acorde, se acumulan los riesgos de fallos de gobernanza similares, permitiendo que los errores no corregidos se propaguen en cascada a través de las cadenas de decisión digitalizadas.
A medida que el liderazgo presiona para sustituir funciones adicionales con sistemas algorítmicos, ¿qué barandillas de seguridad están siguiendo la alineación de estas innovaciones con las necesidades y valores humanos en primera línea? La gobernanza responsable ya lucha por ponerse al día con el ritmo de la innovación tecnológica que está remodelando la sociedad entre bastidores digitales.
Liderazgo responsable
Aprender de tales debacles exige de los líderes un compromiso con la transparencia, la diversidad de perspectivas y la aceptación del escrutinio de las interdependencias sistémicas que dan forma a los resultados. Los líderes responsables deben abordar las tecnologías emergentes no como cómodos conjuntos de herramientas llave en mano, sino como retos continuos que requieren una orientación colaborativa entre las funciones para garantizar que las arquitecturas se adaptan para permitir la prosperidad humana.
La prisa desmedida de hoy por adoptar soluciones tecnológicas como arreglos convenientes refleja episodios pasados en los que la dependencia de sistemas eficientes suprimió las señales de fragilidad resultante hasta que estallaron graves crisis. Detrás de las célebres historias de progreso impulsado por la innovación a menudo se esconden figuras olvidadas cuyos puntos de vista críticos fueron marginados, lo que se tradujo en oportunidades perdidas.
Por ejemplo, el libro y la película de Hollywood Figuras ocultas - que vi durante las vacaciones festivas- revelan ese ingenio olvidado durante la carrera espacial de los años sesenta. Se basa en la historia real de la física de la NASA Katherine Johnson. Sus conocimientos matemáticos resultaron esenciales para comprobar dos veces los cálculos orbitales en los que se basaban las trayectorias de lanzamiento computadas por el nuevo ordenador central IBM de la organización, que arrojaba lecturas contradictorias.
Sin la implicación de Johnson para tender un puente entre el ámbito de los especialistas técnicos y las necesidades situacionales reales del funcionamiento seguro de los cohetes, los frutos de la computación habrían llevado a la astronomía por mal camino. Pero ahora, estamos en otro universo en términos de avance tecnológico.
En nuestra era, definida por la expansión exponencial de la automatización, los sistemas algorítmicos están preparados para sustituir papeles y funciones adicionales con la debida supervisión de esa integración. Al igual que la incipiente exploración espacial, nos encontramos al borde de un nuevo mundo, pero éste está dominado por una IA que se mejora a sí misma y cuya trayectoria de arco sigue siendo impredecible.
Sin embargo, persisten los riesgos de una traducción fragmentada entre especialidades técnicas y contextos humanos fundamentados. Hoy en día, el liderazgo responsable requiere compromisos para tender puentes entre los sistemas y los diversos conocimientos comunitarios para garantizar la continuidad de la comprensión y la sabiduría.
Reconstruir la confianza
En ausencia de un liderazgo dedicado a dicha integración, la elevación de un único ámbito de conocimiento -ya sean procesos técnicos o modelos teóricos- como árbitro último de la verdad inhibe la adaptabilidad a la incertidumbre que se avecina.
Permitir que las civilizaciones perduren depende de estructuras que legitimen una diversidad de observación, fomenten un debate ampliado y anclen la toma de decisiones colectiva en contextos humanos fundamentados. Integrar amplias tradiciones de sabiduría con percepciones situacionales específicas resulta esencial para sintonizar los sistemas complejos con los riesgos futuros conocidos y desconocidos y navegar por la innovación responsable.
Rectificar los daños causados durante años por el escándalo de Correos ha exigido esfuerzos incesantes por parte de las víctimas para obligar a las autoridades a enfrentarse a la arrogancia e iniciar las reformas necesarias que reconstruyan la confianza en instituciones tan poderosas. Las predicciones de hace décadas de que surgirían restricciones fiables a través de la disciplina del mercado suenan ahora huecas al lado de la responsabilidad de la humanidad de corregir los errores colectivos. La tutela de nuestro futuro compartido exige una gobernanza comprometida y preparada para administrar la transparencia, navegar por la incertidumbre y guiar a las instituciones con capacidad a través de la transición digital que se avecina.
Los líderes deben estar dispuestos a dar marcha atrás cuando las pruebas revelen un daño, aceptar la incertidumbre como fuente de innovación y equipar el talento para que se traduzca a través de los ámbitos del conocimiento. No existen estructuras perfectas sin seres humanos comprometidos que completen la última milla. Permitir la renovación continua depende de distribuir la supervisión a través de plataformas comunes, elevando la sabiduría compartida. Si prevalece el liderazgo de las personas, el futuro estará a nuestro alcance.
Fueron necesarios años de incansable esfuerzo por parte de las víctimas para obligar a las autoridades a enfrentarse a la arrogancia que había detrás del escándalo de Correos. Sólo ahora, cuando se está resolviendo el error judicial, pueden comenzar las reformas necesarias para reconstruir la confianza en la institución.
Restaurar la fe exige líderes dispuestos a admitir los errores cuando se revelan los daños. Significa abrazar la incertidumbre como combustible de la innovación, al tiempo que se equipa a las personas para colmar las lagunas de conocimiento.
No hay instituciones ni empresas que sigan siendo sólidas sin la supervisión y la sabiduría de los seres humanos. La innovación es fundamental para el progreso, pero los líderes no deben confiar ciegamente en la tecnología. Se producirán más escándalos sin los controles y equilibrios necesarios, y eso son malas noticias para la humanidad.
