{"id":5856,"date":"2015-07-05T11:15:06","date_gmt":"2015-07-05T10:15:06","guid":{"rendered":"https:\/\/blog.iese.edu\/antonioargandona\/?p=5856"},"modified":"2015-06-25T13:38:56","modified_gmt":"2015-06-25T12:38:56","slug":"errores-humanos-y-maquinas","status":"publish","type":"post","link":"https:\/\/blog.iese.edu\/antonioargandona\/2015\/07\/05\/errores-humanos-y-maquinas\/","title":{"rendered":"Errores humanos y m\u00e1quinas"},"content":{"rendered":"

\u00abEn un mundo inundado por la informaci\u00f3n digital, los algoritmos son mejores que los humanos a la hora de analizar interacciones complejas<\/strong>. Lo que no tienen de creatividad, lo tienen de consistencia y velocidad\u00bb, leo en \u00a0un art\u00edculo en el\u00a0Financial Times<\/em> del pasado 5 de junio. Adem\u00e1s, \u00abla gente cae enferma, se cansa, se distrae y se aburre, y nos hacemos emocionales; podemos retener y recordar cantidades limitadas de informaci\u00f3n aun en las mejores circunstancias<\/strong>\u00ab. Y concluye que \u00abcuanto antes pongamos nuestra confianza en los algoritmos en las tareas en que ellos han demostrado ser excelentes, mejor para nosotros\u00bb.<\/p>\n

Estoy de acuerdo, al menos en parte. El reciente accidente de GermanWings, en el que la conducta del copiloto cost\u00f3 la vida a muchas personas nos lo recuerda: m\u00e1s vale fiarse de un ordenador, que no comete errores, que recibe m\u00e1s informaci\u00f3n y la procesa mejor y con m\u00e1s fiabilidad. Claro que los que ya peinamos canas recordamos aquella pel\u00edcula \u00ab2001: una odisea en el espacio\u00bb, en la que el ordenador de una nave espacial mata a los astronautas que estaban durmiendo, no se sabe por qu\u00e9. \u00bfNo ocurrir\u00e1 algo parecido con las m\u00e1quinas modernas?<\/p>\n

El art\u00edculo que menciono fue objeto de tres cartas al editor del FT. En la primera, del 8 de junio, el que firmaba recordaba que el origen de todos los algoritmos es una acci\u00f3n humana -o sea, que la responsabilidad de lo que hagan los ordenadores sigue estando en las manos de personas<\/strong>, sea los que pilotan el avi\u00f3n, sea los que crearon los programas que controlan su vuelo.<\/p>\n

Y recuerda tambi\u00e9n que el uso de muchos programas complejos en el mundo de las finanzas no evit\u00f3 la crisis<\/strong> de 2008. Quiz\u00e1s porque el objetivo de esos programas no era el funcionamiento ordenado de los mercados, sino la extracci\u00f3n de se\u00f1ales para el beneficio propio.<\/strong> El \u00abhigh frequency trading\u00bb es un ejemplo de esos programas, dirigidos a sacar unos c\u00e9ntimos de beneficio de los participantes lentos.<\/p>\n

La segunda carta, publicada el 9 de junio, recordaba la importancia de escoger los algoritmos adecuados para cada problema -otra vez, una responsabilidad de la persona<\/strong>. Tambi\u00e9n recordaba que los algoritmos tambi\u00e9n tienen fallos -quiz\u00e1s lo que pas\u00f3 en la pel\u00edcula. Y \u00abfinalmente, y m\u00e1s importante a\u00fan, la puesta en pr\u00e1ctica del algoritmo puede llevar consigo intercambios (trade offs) y problemas.<\/strong> Y menciona el caso del accidente del Airbus A400M: \u00abel problema no era el algoritmo, sino la dificultad de iomplementarlo en un mundo real complejo\u00bb.<\/p>\n

La tercera carta, tambi\u00e9n publicada el 9 de junio, se\u00f1alaba la importancia de la interacci\u00f3n entre humanos y algoritmos,<\/strong> poniendo como ejemplo la gran ventaja de los programas a la hora de identificar la enfermedad rara de un paciente, que supone un rompecabezas para el m\u00e9dico, pero que puede resolverse f\u00e1cil y r\u00e1pidamente si tiene acceso a miles de historias cl\u00ednicas, experiencias de tratamientos y dificultades, en el brev\u00edsimo tiempo que necesita un ordenador para hacer su diagn\u00f3stico. El que escribe la carta hace notar que los m\u00e9dicos se resisten a aceptar sin m\u00e1s la recomendaci\u00f3n de la m\u00e1quina, porque lo importante para el m\u00e9dico, que ha de tomar la responsabilidad sobre el caso, es conocer por qu\u00e9 el algoritmo llega a esa conclusi\u00f3n.<\/strong> Y su recomendaci\u00f3n es que los algoritmos se programen mediante un di\u00e1logo con el m\u00e9dico, d\u00e1ndole las razones en las que basa su diagn\u00f3stico y explicando por qu\u00e9 ha rechazado otras alternativas<\/strong>. \u00abEl software de los algoritmos debe ser capaz de inateractuar de forma inteligente con los profesionales humanos para que se le respete como un consejero merecedor de confianza, y no como una ‘caja negra'\u00bb.<\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

\u00abEn un mundo inundado por la informaci\u00f3n digital, los algoritmos son mejores que los humanos a la hora de analizar interacciones complejas. Lo que no tienen de creatividad, lo tienen de consistencia y velocidad\u00bb, leo en \u00a0un art\u00edculo en el\u00a0Financial Times del pasado 5 de junio. Adem\u00e1s, \u00abla gente cae enferma, se cansa, se distrae […]<\/p>\n","protected":false},"author":172,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[11722,12798,10775],"tags":[84714,12874,10764],"class_list":["post-5856","post","type-post","status-publish","format-standard","hentry","category-economia","category-etica-y-responsabilidad-social","category-sociedad","tag-algoritmos","tag-ordenadores","tag-responsabilidad"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t