La última vez que la delegación parlamentaria visitó la factoría, fue llevada hasta una gran nave, donde un enjambre de brazos articulados se movían a ritmo regular con maniobras muy precisas para ensamblar los componentes y entregar perfectamente acabado el producto. Allí, uno de los presentes preguntó entre atónito e interesado: “Pero, ¿esto quién lo controla?”. Por toda respuesta el ingeniero que guiaba al grupo dijo muy ufano: “El algoritmo”. Con ganas de montar un chiste, el mismo parlamentario solicitó: “Pues que salga, que vamos a felicitarle”. La anécdota demuestra que a día de hoy es más difícil montar un buen chiste que un producto industrial. Para lo segundo contamos con el algoritmo, para lo primero de momento no. Como el mundo no se mueve a golpe de chiste sino aumentando y optimizando el producto, es lógico que el chistoso nunca consiga alcanzar el prestigio del algoritmo. La cuestión que podemos plantearnos ahora es si ese prestigio está justificado. Porque es muy fácil ganarlo ante una comisión parlamentaria haciendo gala de todo ese férreo y preciso control electromecánico. Al fin y al cabo, bien quisiera esta gente, y aún más los miembros del Ejecutivo, disponer de tan soberbio instrumento de control, aunque de momento deben conformarse con castigarnos con sus pésimos chistes.
El algoritmo se ha ido labrando un sólido prestigio por su pretendida competencia intelectual. Desde los días en que una máquina venció al campeón del mundo de ajedrez, Gary Kasparov, ha crecido ese prestigio de forma imparable hasta llegar al reciente alarde de inteligencia artificial. Tras el ajedrez fueron cayendo los demás juegos uno tras otro, desde el go oriental a nuestro tute local, tristes víctimas todos ellos de las bien estudiadas secuencias de instrucciones. Sin embargo, el ejército de instructores ha permanecido casi siempre en el anonimato, lo cual es bastante injusto. O bastante coherente, si se mira bien. Porque el algoritmo tiene un envés bastante oscuro. Cuando el parlamentario pregunta “quién” deberíamos de entender ¿quién está ahí al mando? o ¿quién es el responsable de esto? Lo pregunta porque en el fondo no se vislumbra un individuo. Así que la respuesta no parece sencilla. Sobre todo porque tampoco se quiere que sea sencilla. Lo sencillo sería empezar por preguntarse quién controla a ese instrumento de control, una pregunta que desde Juvenal se ha formulado con Quis custodiet ipsos custodes? O sea, ¿quién vigila a los vigilantes?, o en versión renovada ¿quién controla a los controladores? Ahí la cadena, que asciende de un controlador a otro superior y de éste a otro por encima, puede acabar siendo tan larga que la responsabilidad prácticamente se difumine. Eso hace que al algoritmo, como mera máscara de presentación, nadie pueda considerarlo responsable. Su prestigio está, pues, fuera de toda duda. Es perfectamente irresponsable.
El asunto podría quedar ahí si no hubiera incidentes. Pero, como cada vez automatizamos más, por lógica estadística cada vez hay más incidentes. Pensemos en términos tan dispares como una hambruna en Etiopía y el mercado de materias primas de Chicago. Coloquemos entre medio a un interventor facultado para manejar automáticamente los precios. Si fuera un individuo, y como consecuencia de sus decisiones se elevara considerablemente el precio del teff en Etiopía, hasta el punto de dejar sin suministro a su población tras haber sido destinada la producción a las estanterías de alimentos sin gluten de los supermercados occidentales, quizá se le juzgara por negligencia. Es cuestión entonces de cambiar el interventor y sustituirlo por un irresponsable, por un instrumento amoral, que con rapidez electrónica decida sin escrúpulo dónde está el máximo beneficio. A ciertas velocidades eso puede suponer un oleaje financiero que deje a muchos en la estacada o que incluso haga naufragar a países enteros. Aun así, no es probable que ese drama altere el prestigio del algoritmo como interventor sobresaliente. El caso vendría a demostrar que los instrumentos de control no son propiamente conservadores de la regularidad sino que son cada vez más inductivos o, dicho de otro modo, que procuran situaciones de ventaja y beneficio continuo. ¿Y eso es malo? Pues depende, como siempre. Creer que en el mercado todos compiten en condiciones de igualdad es a estas alturas de ingenuos, porque quien es capaz de remover las aguas siempre estará a salvo de la tormenta. Como Dios, vamos.
Y ya que hablamos de Etiopía, me viene a la memoria otro incidente de hace unos pocos días. Por resumir, una aeronave de Ethiopian Airlines, de una marca bien conocida (no quiero hacerle contrapropaganda), se fue a pique con todo el pasaje. Resultado: 157 muertos. Estupor en el graderío y un poquito de escozor en los accionistas. Rápidamente la estadística sale al rescate: la aviación es el medio de transporte más seguro. Y seguramente lo es. Pero lo es gracias a quienes se responsabilizan del vuelo poniendo en fianza sus vidas mientras lo llevan a buen aeropuerto. Por otro lado, los accidentes son inevitables y en muchos casos fatales. Cierto, pero yo no voy al accidente sino al control del aparato. Al parecer, en ese aparato (y antes en otro de similares características) se produjo un incidente en el mecanismo de control, un fallo no detectado, cuya autoría se pierde en la oscura cadena de controladores, en la misteriosa opacidad del algoritmo. ¿Nos sentaríamos en un avión con tripulación y pilotaje robótico? Piensen, porque dentro de poco tendremos que decidirnos. ¿Existe gran diferencia entre ese escenario automatizado y el que mostraba el avión siniestrado? La mayoría argumentará que sí que hay diferencia, que la tripulación del siniestrado no era de pega. Por supuesto, y están muertos además. Están muertos porque se fiaron de la impecable precisión del algoritmo. ¿De qué algoritmo me dirán? Pues del que dirigía parte de las maniobras de despegue. Todavía estoy imaginando al piloto mientras buscaba desesperado entre las páginas del manual de vuelo una respuesta analógica urgente a la caída en picado de la aeronave. El drama lo ha contado la prensa. La compañía también ha reaccionado, pero en clave cínica, queriéndonos hacer creer que disponían de un sistema mejorado, una especie de versión Premium superior, que hubiera evitado el incidente. Lo que viene a ser tanto como decir que se han ido al garete por pobres o por rácanos. A elegir. Parece, pues, que lo importante en este caso, uno entre muchos, es poner a salvo a los algoritmos, y de paso a la compañía, como perfectos irresponsables, para de ese modo poder seguir festejando y financiando, caiga quien caiga, su bien dudoso prestigio.
El autor es escritor
