Las máquinas que se equivocan

El fabricante tardó dos años y varios accidentes en aceptar que el problema podía ser suyo: en los primeros informes contestó por escrito que una sobredosis era imposible. Quien encontró de verdad el fallo fue un físico del hospital de Tyler (Texas), Fritz Hager, que se puso a reproducirlo tecleando él mismo hasta dar con la secuencia exacta. No hizo falta un superordenador: hizo falta alguien dispuesto a creer al operador que decía «yo no he hecho nada raro».

Cuatro de las siete variables parecidas del mismo programa sí estaban protegidas contra el desbordamiento. Las otras tres se dejaron sin proteger a propósito, para no gastar tiempo de procesador, tras un análisis que concluyó que «no podían desbordarse». El análisis era correcto… para el Ariane 4. En el interactivo de arriba puedes escribir 32768 y ver lo mismo que vio el cohete.

Tres meses después se perdió también el Mars Polar Lander, por otro fallo distinto: unas patas que al desplegarse dieron un golpe que el programa interpretó como «ya he tocado suelo» y apagó los motores a 40 metros de altura. Dos sondas en un año hicieron que la NASA revisara de arriba abajo su lema de entonces, «mejor, más rápido, más barato». La conclusión fue que se pueden elegir dos de los tres.

Sí pasaron cosas, pequeñas y muy elocuentes: en Sheffield, un programa de cribado calculó mal la edad de 154 embarazadas y les dio un resultado de riesgo equivocado; en varios sitios los tiques marcaron 1900; y en una central nuclear japonesa falló un sistema de vigilancia (sin consecuencias). La lista es corta porque se trabajó, no porque no hubiera nada que arreglar.

La rutina zombi se llamaba Power Peg y su trabajo original era, literalmente, comprar y vender contra sí misma para probar el sistema. En 2003 tenía sentido: era un simulador. En 2012 el simulador salió a la bolsa de verdad con el dinero de la empresa. Cuando alguien te diga que un programa de pruebas no puede hacer daño porque «solo es de pruebas», acuérdate de Power Peg.

El día del anuncio, el 8 % de los servidores más visitados del mundo cambió su certificado. Y hubo una consecuencia rara y bonita: como cada latido devolvía un trozo de memoria distinto, alguien montó un servidor deliberadamente vulnerable y lo publicó como pieza de arte, para que se viera lo que sale por ese agujero. Sale de todo: fragmentos de correos, sesiones abiertas, contraseñas a medias. La memoria de un ordenador es un cajón desordenado.

Lo destapó una periodista, Jesse Frederik, tirando del hilo de casos concretos, y lo confirmaron después dos parlamentarias que se negaron a aceptar la respuesta oficial de que eran «casos aislados». La informática no lo detectó: lo detectó gente escuchando a las víctimas una por una. Y cuando la autoridad de protección de datos revisó a fondo la agencia, encontró que decenas de sus algoritmos no cumplían la ley. Este era el que había salido en los periódicos, no el único.

Muchas de las máquinas afectadas no se pudieron arreglar en remoto porque el disco estaba cifrado y la clave de recuperación… estaba guardada en un sistema que también se había caído. Ese es el tipo de dependencia circular que solo se descubre el día del incidente. En algunos aeropuertos el personal tuvo que escribir a mano las tarjetas de embarque; en varios hospitales volvieron a los partes en papel, y funcionaron, porque alguien había mantenido el procedimiento por escrito. A veces el plan B de un sistema informático es un armario con formularios.