Capítulo 8: El software ciego y la crisis del Boeing 737 MAX
Un indicador financiero favorable en la dirección puede ocultar riesgos graves en la operación.
Las modificaciones de diseño y el sistema MCAS
La crisis del Boeing 737 MAX evidenció los riesgos de tomar decisiones técnicas condicionadas exclusivamente por objetivos comerciales de corto plazo.
A mediados de la década pasada, la competencia con el Airbus A320neo llevó a Boeing a buscar una respuesta rápida para mantener sus pedidos comerciales. Rediseñar un fuselaje nuevo requería varios años y exigía que las aerolíneas certificaran a sus pilotos en simuladores de vuelo, lo que aumentaba los costos para los clientes.
Para evitar estos costos, la dirección estableció como meta que el nuevo modelo mantuviera las mismas características de pilotaje que la versión anterior, reduciendo la necesidad de entrenamientos adicionales en simulador.
Para incorporar motores más eficientes y de mayor tamaño dentro de la estructura existente del 737, los ingenieros reubicaron las turbinas más arriba y hacia adelante. Esta modificación alteró el comportamiento aerodinámico del avión en ciertas maniobras a alta potencia, generando una tendencia a elevar la inclinación del morro (pitch-up).
Para compensar esta característica aerodinámica sin modificar la certificación del modelo, se implementó un sistema de control de vuelo denominado MCAS (Maneuvering Characteristics Augmentation System). El software ajustaba automáticamente el estabilizador horizontal cuando los sensores detectaban un ángulo de ataque elevado.
Sin embargo, el sistema dependía de un único sensor de ángulo de ataque y no contaba con suficiente redundancia. Además, su funcionamiento no fue detallado en los manuales estándar de vuelo para no requerir capacitaciones adicionales de las tripulaciones.
Durante los incidentes de Lion Air y Ethiopian Airlines, la falla del sensor provocó activaciones repetidas del MCAS que empujaron el morro del avión hacia abajo, dificultando el control manual por parte de los pilotos.
El resultado fue la pérdida de 346 vidas, la suspensión de operaciones de la flota a nivel global y costos multimillonarios para el fabricante.
Trabajo imaginado frente a trabajo real
El caso del 737 MAX ilustra una tensión recurrente en la gestión de sistemas: la brecha entre el procedimiento planificado y la realidad operativa.
El especialista en seguridad de sistemas Erik Hollnagel describe esta diferencia mediante los conceptos de Safety-I y Safety-II, distinguiendo entre el "Trabajo Imaginado" (el diseño teórico, los manuales y las especificaciones de oficina) y el "Trabajo Real" (las condiciones prácticas y las decisiones que los equipos deben tomar en terreno).
Cuando las organizaciones implementan software de control o automatización asumiendo que el entorno operará siempre bajo condiciones ideales, los sistemas pierden capacidad de respuesta ante excepciones físicas o humanas.
Automatizar un flujo sin considerar el contexto práctico de ejecución amplifica los errores en lugar de resolverlos. Si el software impone reglas rígidas que no contemplan las condiciones del terreno, los colaboradores se ven obligados a buscar alternativas informales o enfrentar bloqueos operativos.
Integración de contexto mediante el OKS
Frente a sistemas que operan de forma cerrada, la gestión moderna requiere herramientas que complementen el criterio humano en lugar de anularlo.
Un Organizational Know-how System (OKS) basado en workflows contextuales parte de la base de que los procedimientos deben retroalimentarse con la experiencia del equipo en terreno.
En este modelo, cuando un colaborador detecta una anomalía en una tarea crítica (por ejemplo, un defecto en el embalaje o una discrepancia de temperatura en un envío), el sistema permite registrar la novedad de inmediato.
En lugar de requerir múltiples comunicaciones informales para identificar quién debe intervenir, el OKS conecta la alerta con los sistemas de gestión de tareas de la empresa, asignando la actividad con el contexto necesario al área correspondiente: calidad, mantenimiento o logística.
Como han señalado economistas como Erik Brynjolfsson, la tecnología aporta mejoras efectivas a la productividad cuando se acompaña de autonomía operativa y flujos de trabajo claros. Vincular las tareas diarias con el contexto del OKS permite que quien recibe una asignación cuente con los antecedentes, criterios y soluciones técnicas aplicables.
El Motor de inteligencia organizacional integra los datos transaccionales con los aprendizajes de la operación, ofreciendo recomendaciones contextuales para la toma de decisiones.
Automatizar un proceso sin comprender su contexto operativo no genera eficiencia; simplemente escala las fallas.
Preguntas Frecuentes (FAQ)
¿Por qué falló el sistema MCAS en el Boeing 737 MAX?
Porque dependía de un único sensor de ángulo de ataque sin redundancia y operaba de forma automática sin que los pilotos contaran con la información y el entrenamiento necesarios en los manuales de vuelo.
¿Por qué es riesgoso automatizar procesos sin considerar el contexto operativo?
Porque los sistemas automatizados ejecutan decisiones a gran velocidad. Si las reglas de programación se basan en supuestos ideales desconectados de las excepciones del terreno, los errores se multiplican antes de que los equipos puedan intervenir.
¿Cómo previene VIBEWORKFLOW fallas en la automatización?
En VIBEWORKFLOW, la automatización y los agentes de IA operan vinculados a flujos contextuales que validan condiciones de borde y KPIs. Si se presentan desviaciones fuera de los rangos tolerados, el sistema solicita revisión y validación humana.
¿Cómo deben articularse los algoritmos y el criterio del equipo?
Los algoritmos gestionan la velocidad de procesamiento y la asignación rutinaria de tareas, mientras que los colaboradores aportan juicio crítico, detectan excepciones prácticas y actualizan la memoria operativa de la empresa.
Lleva esta tesis a la práctica
No permitas que el conocimiento tácito de tu empresa se desvanezca en manuales estáticos. Modela, expande y estructura flujos vivos con VIBEWORKFLOW.