Recibí este video breve sobre los algoritmos (aquí, en inglés) y me gustó el argumento. Habla una experta, matemática, que ha trabajado en el mundo de las finanzas. Lo que dice es que los algoritmos no son algo objetivo, aunque nos lo vendan así: son opiniones incorporadas en matemáticas.
La autora cuenta que todos elaboramos algoritmos en nuestra mente cada día. Para elaborar un algoritmo, uno necesita dos cosas: datos y un criterio para definir el éxito, o sea, qué esperamos obtener de los datos. Y pone el ejemplo del algoritmo de cómo elaborar una buena comida. Es relevante para ella, porque ella se encarga de preparar las comidas en su casa (es su responsabilidad) y tiene una idea clara de lo que es una buena comida: aquella en la que hay verduras, dice. Y aquí radica la diferencia entre el algoritmo que ella usa y el que emplearían sus hijos, que no quieren verduras. Pero ella tiene el poder de decidir, y elabora el algoritmo de la buena comida. Y al acabar la cena, se pregunta si ha salido lo que ella quería, o sea, si ha tenido éxito; y ese resultado no será, claramente, lo que quieren sus hijos.
Aplicado esto, por ejemplo, al mundo de las finanzas, un algoritmo utiliza los datos para obtener unos resultados, que el autor del algoritmo considera que es bueno, deseable, conveniente. Y aquí se cuelan los juicios de valor, porque el objetivo del elaborador de algoritmos tendrá una finalidad que él conoce, pero que no necesariamente coincide con lo que nosotros deseamos. El algoritmo, dentro de las matemáticas, incluye opiniones, juicios de valor, criterios sobre fines, es decir, criterios éticos. Por tanto, antes de utilizar un algoritmo, debemos preguntarnos: ¿qué finalidad tenía el que lo elaboró? Porque, al usarlo, estamos aceptando los juicios de valor incluidos en él.
Excelente reflexión la que nos comenta en este artículo. Al final el que codifica el algoritmo es el que tiene el poder de decidir su comportamiento, por lo que puede condicionar el resultado hacia lo que él considera adecuado.
Excelente análisis, completamente de acuerdo co él, hoy en el mundo se discute sobre la ética incorporada en los algoritmos de los vehículos autónomos. «En caso de una inminente colisión frente a un grupo de personas, la vida de quién prevalece? de un niño, de un joven, de una madre, de una mujer, de un adulto mayor, etc? dependiendo de la cultura seguramente la respuesta es diferente.
Pero qué habrá definido el desarrollador del algoritmo?
No hay nada más sincrónico que un algoritmo, profesor. Y las decisiones como poner uno u otro ingrediente, de más a menos calidad, es como producir un bien o un servicio (un algoritmo concreto) que yo llamo el DNA de la empresa. Las decisiones se van tomando en la medida que lo exige el DNA para brindar un mejor servicio o bajar un costo, y eso es el movimiento circular poliano (Aristóteles corregido), que hay que co-contra-variar. Eso sirve para comunicar cómo hice intervenir los juicios de valor al servicio que damos (por lo menos numéricamente)