Errores humanos y máquinas

«En un mundo inundado por la información digital, los algoritmos son mejores que los humanos a la hora de analizar interacciones complejas. Lo que no tienen de creatividad, lo tienen de consistencia y velocidad», leo en  un artículo en el Financial Times del pasado 5 de junio. Además, «la gente cae enferma, se cansa, se distrae y se aburre, y nos hacemos emocionales; podemos retener y recordar cantidades limitadas de información aun en las mejores circunstancias«. Y concluye que «cuanto antes pongamos nuestra confianza en los algoritmos en las tareas en que ellos han demostrado ser excelentes, mejor para nosotros».

Estoy de acuerdo, al menos en parte. El reciente accidente de GermanWings, en el que la conducta del copiloto costó la vida a muchas personas nos lo recuerda: más vale fiarse de un ordenador, que no comete errores, que recibe más información y la procesa mejor y con más fiabilidad. Claro que los que ya peinamos canas recordamos aquella película «2001: una odisea en el espacio», en la que el ordenador de una nave espacial mata a los astronautas que estaban durmiendo, no se sabe por qué. ¿No ocurrirá algo parecido con las máquinas modernas?

El artículo que menciono fue objeto de tres cartas al editor del FT. En la primera, del 8 de junio, el que firmaba recordaba que el origen de todos los algoritmos es una acción humana -o sea, que la responsabilidad de lo que hagan los ordenadores sigue estando en las manos de personas, sea los que pilotan el avión, sea los que crearon los programas que controlan su vuelo.

Y recuerda también que el uso de muchos programas complejos en el mundo de las finanzas no evitó la crisis de 2008. Quizás porque el objetivo de esos programas no era el funcionamiento ordenado de los mercados, sino la extracción de señales para el beneficio propio. El «high frequency trading» es un ejemplo de esos programas, dirigidos a sacar unos céntimos de beneficio de los participantes lentos.

La segunda carta, publicada el 9 de junio, recordaba la importancia de escoger los algoritmos adecuados para cada problema -otra vez, una responsabilidad de la persona. También recordaba que los algoritmos también tienen fallos -quizás lo que pasó en la película. Y «finalmente, y más importante aún, la puesta en práctica del algoritmo puede llevar consigo intercambios (trade offs) y problemas. Y menciona el caso del accidente del Airbus A400M: «el problema no era el algoritmo, sino la dificultad de iomplementarlo en un mundo real complejo».

La tercera carta, también publicada el 9 de junio, señalaba la importancia de la interacción entre humanos y algoritmos, poniendo como ejemplo la gran ventaja de los programas a la hora de identificar la enfermedad rara de un paciente, que supone un rompecabezas para el médico, pero que puede resolverse fácil y rápidamente si tiene acceso a miles de historias clínicas, experiencias de tratamientos y dificultades, en el brevísimo tiempo que necesita un ordenador para hacer su diagnóstico. El que escribe la carta hace notar que los médicos se resisten a aceptar sin más la recomendación de la máquina, porque lo importante para el médico, que ha de tomar la responsabilidad sobre el caso, es conocer por qué el algoritmo llega a esa conclusión. Y su recomendación es que los algoritmos se programen mediante un diálogo con el médico, dándole las razones en las que basa su diagnóstico y explicando por qué ha rechazado otras alternativas. «El software de los algoritmos debe ser capaz de inateractuar de forma inteligente con los profesionales humanos para que se le respete como un consejero merecedor de confianza, y no como una ‘caja negra'».