Ética e inteligencia artificial (II)

En una entrada anterior empecé a hacer consideraciones sobre la necesidad de la ética en la inteligencia artificial (IA) y, en general, en las nuevas tecnologías de la información y la comunicación. Lo que me interesa ahora es lo relativo al diseño, fabricación y uso de máquinas autónomas: por ejemplo, un instrumento de identificación de voz o de rasgos faciales, un coche autónomo, un arma que elige sus objetivos y dispara sin preguntar al centro de control, un robot cirujano, o los robots que cuidan a niños, ancianos o enfermos, etc. Lo que caracteriza a esas máquinas es que recogen información y la procesan, sacan conclusiones y llevan a cabo acciones sin intervención o guía humana.

Las preguntas que tiene que hacerse el diseñador, fabricante o usuario de, por ejemplo, un automóvil autónomo, son las que se presentamos en la entrada anterior:

• Qué voy a hacer, cuál es el objeto de mi acción
• Qué pretendo o espero conseguir: mi intención
• Qué otras consecuencias puede tener mi acción

… y, lógicamente, esas preguntas necesitan respuestas sinceras, profundas y bien pensadas, entre otras razones porque el que se siente al volante de ese automóvil (si es que tiene volante) no tendrá mucho tiempo para hacerse esas preguntas cuando llegue el momento. En efecto, el coche autónomo va a tomar decisiones por mí, que tienen contenido ético, ¿sin contar conmigo? (por ejemplo, cambiar de carril, elegir la velocidad, dejar pasar a otro vehículo más rápido, detenerse cuando hay un accidentado en la cuneta, hacer señales a un coche que lleva las luces largas, no respetar la limitación de velocidad…). ¿De quién será la responsabilidad ética por esas decisiones? ¿Del diseñador, fabricante, programador…, del conductor, pasajero, propietario…, de la máquina? Obviamente, cada uno tendrá una responsabilidad, menos la máquina, que no puede ser responsable de nada, aunque sí trasladará la responsabilidad a otra persona, en la cadena de decisiones.

Para dilucidar todo esto, se trabaja ahora en la elaboración de un conjunto de principios o normas éticas, que deben tener en cuenta los diseñadores y fabricantes, los que introducen esas máquinas en otros aparatos, los que las usan, los que regulan esos procesos, los que los controlan y supervisan. Por ejemplo, y sin pretender ser exhaustivos, esos principios incluyen:

• Seguridad «razonable» del resultado, ahora y en el futuro
• Transparencia de los procesos
• Asunción de la responsabilidad de diseñadores, constructores y usuarios
• Alineados con valores (sociales, personales, de la empresa): dignidad, derechos humanos, libertad, diversidad cultural
• Privacidad en el acceso, uso y control de los datos
• Libertad protegida, ausencia de discriminación
• Abierta: beneficios compartidos
• Control de la capacidad futura de la IA
• No desestabilización de los procesos sociales y cívicos
• Prudencia en la planificación y gestión de los riesgos
• Cultura de cooperación, confianza y transparencia
• Evitar una carrera competitiva, con perjuicio de la seguridad
• Líneas rojas que no deben trasparsarse
• Compromiso de no desarrollar superinteligencias, si no es por ideales éticos compartidos, en beneficio de toda la humanidad
• No uso en la carrera de armamentos
• Control por los humanos: no hay inteligencia sin dirección

Pero hay que tener en cuenta que  los principios no serán suficientes: son generales y abstractos, no siempre se adaptan bien a las situaciones concretas y, a veces, se presenta conflicto entre principios. En definitiva, el ser humano puede entender los matices y llevar a cabo decisiones en situaciones confusas; esto se aprende a lo largo de la vida, y se va modificando con el aprendizaje. Pero el robot no puede hacer esto. Por eso, al final de todo el proceso, estará siempre la libertad y responsabilidad de la persona.