Rage against the machine

Mark Court es uno de los trabajadores más especializados del planeta. Su trabajo consiste en una sola tarea: dibujar una línea horizontal a mano. Eso es todo. Así es como se gana la vida, dibujando una línea tras otra, cada una igual a la anterior, una y otra vez. El único inconveniente es que la línea ha de ser perfecta. Un error suyo le puede costar a la compañía más de trescientos mil euros.

Court es el encargado de dibujar la línea horizontal (coach line) que decora los laterales de los coches de la marca Rolls-Royce. Este artista emplea alrededor de tres horas en pintar la línea en cuestión, de seis metros de largo a cada lado. Como digo, no puede equivocarse. Le llevó cinco años aprender su labor.

Supe de la existencia de Mark Court gracias a un documental que vi por casualidad sobre la fabricación de los lujosos coches de la célebre marca británica. Casi todo el proceso de ensamblado se hace a mano, lo que explica buena parte del elevado precio de estos automóviles. De todos los pasos el que más me llamó la atención fue este del dibujado de la línea pues pienso (como otras personas con las que comenté el documental) que un robot podría hacerlo mejor y más rápido. Los robots no se cansan, no les tiembla el pulso y pueden tener una precisión mucho mayor que cualquier humano, razones todas ellas por las que algunos procedimientos quirúrgicos han dejado de hacerse a mano.

El mismo dibujo puede tener dos interpretaciones distintas según su creador. Si es obra de Mark Court, hablamos de arte. Si es fruto de un proceso de fabricación automatizado, es una recta más, sin nada de especial. A la hora de elegir, son muchos los que prefieren lo «hecho a mano», lo artesanal, lo «natural». De acuerdo con Daniel Kahneman, este sesgo es una de las razones que explica nuestra hostilidad hacia los algoritmos:

Cuando un ser humano compite con una máquina, sea John Henry con el martillo de vapor en la montaña o el genio del ajedrez Garry Kaspárov enfrentado a la computadora Deep Blue, nuestras simpatías están con nuestro semejante. La aversión a los algoritmos que toman decisiones que afectan a los seres humanos está arraigada en la clara preferencia que muchas personas tienen por lo natural frente a lo sintético o artificial. Si se les preguntara si comerían antes una manzana cultivada con abono orgánico que otra cultivada con fertilizantes artificiales, la mayoría de ellas preferirían la manzana «cien por cien natural». Incluso después de informarles de que las dos manzanas tienen el mismo sabor y el mismo valor nutritivo, y son iguales de sanas, la mayoría preferirían la manzana natural.

Parece que no solo nos importa el producto final, sino cómo ha sido fabricado. De igual manera, cuando se cometen errores la causa de los mismos se nos antoja relevante. ¿Acaso no habría diferentes reacciones en la opinión pública si un paciente muriese por no haber recibido tratamiento, según si dicha decisión fuera obra de un médico o de un algoritmo? Esta es la segunda razón por las que muchos son reacios a utilizar métodos estadísticos cuando se trata de tomar decisiones transcendentales que afectan a las personas (ibídem Kahneman):

El prejuicio contra los algoritmos aumenta cuando las decisiones son trascendentales. Meehl comentó: «No sé cómo atenuar el horror que algunos clínicos parecen experimentar cuando prevén que se vaya a negar el tratamiento a un caso tratable porque una ecuación “ciega y mecánica” lo desclasifique». [...] [P]ara la mayoría de las personas, la causa de un error es importante. El caso de un niño que muera porque un algoritmo ha cometido un error es más penoso que el de la misma tragedia producida a consecuencia de un error humano, y la diferencia de intensidad emocional es traducida enseguida a preferencia moral.

Sin embargo, tal como arguyen los partidarios de los algoritmos, si disponemos de un método que comete menos errores que los expertos ¿no estamos moralmente obligados a usarlo? Como tantos otros argumentos racionales, este se enfrenta a realidades psicológicas pertinaces que inclinan la balanza a favor de la irracionalidad.

Los Rolls-Royce no son los únicos coches que se fabrican a mano total o parcialmente. Según este artículo, BMW, Porsche, Ford y Volkswagen confían en las manos y los ojos de sus empleados para ciertas tareas. Escribe el autor del artículo:

[P]ara los coches de más valor los fabricantes confían en las manos de sus trabajadores. A pesar de la proliferación de los robots, una persona es la que debe controlar la máquina y controlar los procesos de calidad en la cadena.

Esa es una idea que analizamos someramente en el pasado artículo, la del humano controlando a la máquina. Vimos que las pruebas apuntan a que, si queremos obtener las mejores decisiones o predicciones, lo mejor es dejar sola a la máquina. No obstante, para muchos es inconcebible someterse a una inteligencia artificial sin tener la opción de desactivarla u omitirla a discreción. Por desgracia, tener esa opción puede causarnos verdaderos problemas, pues nos pasamos de listos con demasiada frecuencia. Ian Ayres, autor de Super Crunchers, cuenta la historia de un comité de libertad condicional que decidió liberar a un recluso ignorando su puntuación en un sistema que el tribunal utilizaba para calcular el riesgo de reincidencia llamado RRASOR (Rapid Risk Assessment for Sexual Offender Recidivism). El delincuente en cuestión, Paul Herman Clouston, había sido condenado –entre otras cosas– por agresión sexual con agravante, secuestro y asaltos a menores. Tan pronto como fue liberado, huyó, convirtiéndose en uno de los hombres más buscados del estado de Virginia. Su riesgo de reincidencia según el sistema RRASOR era de cuatro sobre cinco, lo que significaba que tenía más del cincuenta y cinco por ciento de probabilidades de cometer otro crimen sexual en los diez años siguientes a su liberación. Fue capturado en 2010. No he podido averiguar si cometió algún crimen durante el tiempo que estuvo fugado.

En mi opinión, el mayor escollo al que se enfrenta la adopción de los algoritmos tiene que ver con nuestra experiencia diaria de la tecnología y de la inteligencia artificial. Nuestros ordenadores y teléfonos «inteligentes» se bloquean, nos obligan a reiniciarlos y hacen cosas raras, como perder la conexión a internet sin venir a cuento. Intentar seleccionar texto en un dispositivo móvil es capaz de hacer aflorar lo peor de cada persona. Yo trabajo con ordenadores a diario y a menudo tengo ganas de estampar el portátil contra la pared, un sentimiento que, a juzgar por los gritos de mis compañeros y los golpes furibundos a la tecla «Intro», es bastante común. No es raro que la ira hacia las máquinas se manifieste físicamente.

Además de los fallos en el funcionamiento diario, a menudo nos encontramos con que la inteligencia artificial no es nada inteligente, como ese algoritmo que no distinguía un leopardo de un sofá, o Siri, el asistente virtual de Apple, que hace cosas como esta:

Fuente: Reddit

Mientras la tecnología no sea perfecta siempre tendremos nuestras reservas. Por tanto, mucho me temo que dichas reservas nunca desaparecerán. Los algoritmos pueden darnos soluciones pero, incluso aunque sean perfectos en sus aciertos, plantean nuevos problemas y riesgos. Por ejemplo, cuando nos enfrentamos a un problema para el que hay pocos precedentes o ninguno, las soluciones basadas en estadísticas son inútiles. También pueden ser de poca ayuda si no podemos registrar los datos pertinentes (es relativamente fácil llevar un registro de cada clic hecho por los visitantes de nuestra tienda virtual pero no lo es tanto registrar síntomas físicos o sensaciones subjetivas). Cuando se trata de hacer predicciones, es posible que los algoritmos sean totalmente inútiles en sistemas reflexivos como la economía, donde las predicciones sobre el devenir de los acontecimientos influyen en los eventos futuros.

Asimismo, puede ocurrir que la rígida dependencia de los algoritmos mine nuestra creatividad. Nuestros sesgos y puntos ciegos se replicarán en nuestros programas. Habrá ocasiones en que no podremos distinguir un error del programa de una genialidad, como ocurría con Deep Blue. Puede darse el caso de que el modelo sea muy bueno pero no sepamos cómo toma las decisiones que toma. Y siempre habrá dilemas morales a los que enfrentarse, como los suscitados por aquel padre que se enteró de que su hija estaba embarazada cuando la empresa Target le mandó ofertas especiales para futuras madres a su hija; los algoritmos de análisis de Target detectaron cambios en los hábitos de compra de la adolescente y predijeron correctamente que había quedado encinta. La tecnología también abre la puerta a la realización de viejos experimentos mentales filosóficos. Por ejemplo, ¿debe un coche autónomo sacrificar a su pasajero en un accidente si con ello salva la vida de cinco ocupantes de otro vehículo de la carretera?

Nate Silver observa en su obra (de donde he tomado el título para esta entrada) que nosotros mismos somos la mayor limitación a la tecnología. El ritmo de la evolución natural queda muy por detrás en comparación con el de la evolución tecnológica y nuestro cerebro no está preparado para trabajar en un mundo inundado de datos: vemos patrones donde solo hay ruido y damos demasiada importancia a correlaciones espurias. Al igual que este autor, creo que debemos ver la tecnología como lo que siempre ha sido: una herramienta para mejorar la condición humana. Por un lado, no debemos profesarle culto como a un dios ni someternos a ella sin pensar. Pienso que debemos mostrar cierto escepticismo ante la idea promulgada por autores como Matt Ridley de que la tecnología resolverá todos nuestros problemas. Por otra parte, también creo que no debemos luchar contra la misma como si fuera el mismo diablo, negando sus ventajas por principio y asumiendo que una tarea la hacemos mejor nosotros por el mero hecho de ser humanos. Y, por supuesto, no tiene por qué asustarnos el adjetivo «artificial». Como dice Silver: «computers are themselves a reflection of human progress and human ingenuity: it is not really “artificial” intelligence if a human designed the artifice».