Después de la tragedia

Tal vez lo hayan oído. Me refiero al tronar producido por los pasos de esa horda de cuñados que sigue a cada tragedia como el trueno sigue al rayo. Desde la noche del pasado viernes, expertos en terrorismo de nuevo cuño monopolizan las conversaciones con su pensamiento simplista, absoluto y desinformado, escupiendo a la cara de todo aquel con el que se encuentran una retahíla de juicios tan equivocados como prescindibles. De nuevo se alza ese ejército de individuos intelectualmente vírgenes que creen saberlo todo sobre todo y piensan que todo el mundo es idiota menos ellos. ¿La primera víctima de este ejército? La lógica. Verbigracia:

Muchas personas confunden la afirmación «casi todos los terroristas son musulmanes» con la de «casi todos los musulmanes son terroristas». Supongamos que la primera afirmación sea cierta, es decir, que el 99% de los terroristas sean musulmanes. Esto significaría que alrededor del 0,001% de los musulmanes son terroristas, ya que hay más de mil millones de musulmanes y sólo, digamos, diez mil terroristas, uno por cada cien mil. Así que el error lógico nos hace sobreestimar (inconscientemente) en cerca de cincuenta mil veces la probabilidad de que un musulmán escogido al azar (supongamos que de entre quince y cincuenta años) sea un terrorista.

La fuente principal de conocimiento de esta ralea son los medios de comunicación de masas, allí donde a los cuñados se les llama «tertulianos»:

Parece mentira la cantidad de tertulianos y especialistas radiofónicos que tenemos en este país. Cada vez que se me ocurre enchufar la radio sale uno empeñado en arreglarme la vida. Algunos, además, son polivalentes y polifacéticos y polimórficos, pues lo mismo te asesoran sobre lo que debes votar, que te dan una magistral sobre terrorismo, valoran el año económico, u opinan a fondo sobre la crisis agropecuaria de Mongolia interior.

Cadenas y emisoras se sirven de las opiniones de estos especímenes para rellenar veinticuatro horas de programación especial en las que comentar lo ocurrido. A menudo son los mismos charlatanes con los que la cadena de turno cuenta habitualmente, por lo que sus conocimientos sobre terrorismo y contraterrorismo estarán al mismo nivel que los de ustedes o los míos. Cabe la posibilidad, no obstante, de que el productor del programa se lo curre y traiga a algún experto a hablar del tema. Cuando vean a uno de tales expertos recuerden lo que ya dijimos: las características que hacen a un experto atractivo para los medios de comunicación son las mismas que le llevan a estar equivocado la mayor parte del tiempo.

Mientras dure este maremagno, no está de más tener en mente las consideraciones para el consumidor de noticias que aparecen en la imagen que ilustra este artículo; es una cuestión de higiene intelectual. Bastante cuñados hay ya en el mundo.

La programación machacona después de un suceso como el de París tiene profundos efectos psicológicos. Tal como explica Daniel Kahneman, las imágenes vívidas de muertos, repetidas una y otra vez, así como la frecuencia con que son temas de conversación, sobreactivan nuestra heurística de disponibilidad, esto es, el proceso de juzgar la frecuencia de un evento por la facilidad con que los ejemplos vienen a la mente:

En el mundo de hoy, los terroristas son quienes más destacan en el arte de inducir cascadas de disponibilidad. Con unas pocas horrendas excepciones, como el 11-S, el número de víctimas de ataques terroristas es muy pequeño en proporción con el de otras causas de muerte. Incluso en países que han sido el blanco de intensas campañas terroristas, como Israel, el número semanal de víctimas casi nunca se aproxima al número de muertes por accidentes de tráfico. La diferencia la crean la disponibilidad de los dos riesgos y la facilidad y la frecuencia con que nos vienen a la mente.

Como consecuencia de dicha sobreactivacion acabamos pensando que el suceso extraordinario en cuestión es mucho más frecuente de lo que realmente es. Cuando ese incidente puede suponer la muerte de cualquiera de nosotros o de nuestra gente cercana es normal ponerse nervioso y tener miedo. De acuerdo con Richard Restak, ver repetidamente las imágenes de acontecimientos catastróficos y terroríficos puede ser una experiencia muy destructiva psicológicamente:

Encuestados una semana después de los atentados [del 11 de septiembre], casi tres de cada cuatro estadounidenses acusaron sensaciones de depresión; uno de cada dos dijo sufrir pérdidas de la capacidad de concentración, y uno de cada tres se quejó de trastornos del sueño. Esta proporción fue también, aproximadamente, la de los que dijeron hallarse «adictos» a ver la repetición de aquellas tomas y a seguir los noticiarios de la televisión para saber más acerca de los atentados terroristas.

Más adelante concluye:

En efecto, las imágenes impresionan a veces el cerebro tan vivamente, que retornan con independencia de la voluntad del sujeto para cobrarse un tributo psíquico que puede ir desde la ansiedad hasta el trastorno por estrés postraumático.

En este clima es difícil razonar con claridad, pues cuando una emoción como el miedo (Sistema 1) entra en escena es difícil hacerle caso a la razón (Sistema 2):

La excitación emocional es de naturaleza asociativa, automática e incontrolada, e impulsa a la acción protectora. El Sistema 2 podrá «saber» que la probabilidad es baja, pero este conocimiento no elimina la incomodidad que uno mismo se crea y el deseo de evitarla. El Sistema 1 no puede desconectarse. La emoción no solo es desproporcionada a la probabilidad; también es insensible al grado exacto de probabilidad. Supongamos que dos ciudades han sido alertadas de la presencia de terroristas suicidas. Los habitantes de una de ellas han recibido la información de que hay dos individuos dispuestos a activar sus bombas. Y los de la otra se han enterado de que hay uno solo dispuesto a cometer el mismo acto. El riesgo en esta segunda es la mitad del de la primera, pero ¿se sienten más seguros?

Kahneman sabe bien de lo que habla. Nacido en Tel Aviv, el célebre psicólogo vivió en Israel durante la Segunda Intifada, periodo en el que los atentados suicidas en el interior de autobuses eran relativamente frecuentes. Incluso alguien como él, que ha dedicado treinta años a investigar la irracionalidad del ser humano (incluyendo la heurística de disponiblidad), no podía dejar de verse afectado por el miedo, aún sabiendo que el riesgo era insignificante. Según sus propias palabras (ibídem Kahneman):

No tuve muchas ocasiones de viajar en un autobús, pues utilizaba un coche de alquiler, pero estaba apesadumbrado porque me di cuenta de que mi comportamiento también resultó afectado. Frente a un semáforo en rojo evitaba parar cerca de un autobús, y cuando se encendía la luz verde, arrancaba más deprisa de lo normal. Me sentía avergonzado, porque yo conocía mejor la situación. Sabía que el riesgo era insignificante, y que cualquier efecto del mismo en mis actos me haría asignar un «valor decisorio» desmesuradamente alto a una probabilidad minúscula. Era más probable que resultara herido en un accidente de tráfico que por pararme junto a un autobús. Pero el motivo de que evitara los autobuses no era una preocupación racional por sobrevivir. Me dominaba la experiencia del momento: el hallarme cerca de un autobús me hacía pensar en bombas, y ese pensamiento era incómodo. Evitaba los autobuses porque quería pensar en cualquier otra cosa.

Curiosamente, el propio hecho de no ser viajero habitual en autobús pudo impedir a Kahneman superar su medio. Los economistas Becker y Rubinstein analizaron el comportamiento de la población Israelí durante la Intifada y encontraron que la bajada en la demanda de servicios que han sido objeto de ataques terroristas (bares, centros comerciales, etcétera) se debe únicamente a la reacción de los consumidores ocasionales de los mismos. Según ellos, la predisposición a controlar las propias emociones depende de los costes y beneficios económicos asociados con la adquisición de este autocontrol:

Consistent with the theoretical predictions, Becker and Rubinstein find, for instance, that the overall effect of attacks on the usage of goods and services subject to terror attacks (buses, malls, restaurants) reflects solely the reactions of occasional users and consumers. Terrorist attacks do not have any effect on the demand for these goods and services by frequent users and consumers. The reason is that frequent users are those who also tend to receive greater benefits from learning to overcome fear. Furthermore, once an individual learns to control fear triggered by, say, bus attacks, this control reduces the degree to which other types of terrorism (e.g., attacks in malls, coffee shops, or restaurants) cause her or his subjective and objective beliefs to diverge.

Como dice Nassim Taleb: «el terrorismo mata, pero el mayor asesino sigue siendo el entorno». La diferencia, continúa, es que las respuestas emocionales en ambos casos son distintas. «Sentimos el aguijón del daño producido por el hombre más que el que causa la naturaleza». El terror le habla directamente a la zona más primitiva del cerebro, y los medios de comunicación no hacen sino empeorarlo. Momentos como este son propicios para poner énfasis en dos sanas costumbres de la vida diaria: controlar nuestras emociones e ignorar a nuestro cuñado.

Luditas 2.0

Imaginen que tienen un problema de salud y reciben dos diagnósticos, uno de ellos realizado por un doctor de carne y hueso y el otro por un programa de ordenador. Los diagnósticos no coinciden y los tratamientos son totalmente diferentes. ¿Con cuál se quedarían?

El diagnóstico médico parece un problema demasiado complejo como para que una máquina pueda resolverlo. Sirvan como muestra las palabras del cirujano Atul Gawande:

La mayoría de los facultativos cree que el diagnóstico no puede reducirse a una serie de generalizaciones, a un «libro de recetas de cocina», como dicen algunos. Argumentan que deben tenerse en cuenta las características de cada paciente.

Esto es algo obvio. Cuando soy el especialista de cirugía en la unidad de urgencias, me suelen pedir que evalúe si un paciente con dolor abdominal tiene apendicitis. Escucho con atención su historia y considero multitud de factores: cómo noto su abdomen, el tipo de dolor y su localización, la temperatura del paciente, el apetito, los análisis. Pero no lo reduzco todo en una fórmula y calculo el resultado. Utilizo mi criterio clínico, mi intuición para decidir si hay que operarle, tenerle en el hospital en observación o enviarle a casa.

Y así, concluye:

Ninguna fórmula puede tener en cuenta la infinita variedad de sucesos excepcionales que pueden darse. Éste es el motivo por el que los médicos están convencidos de que es mejor mantenerse fial a sus instintos a la hora de realizar un diagnóstico.

En este mismo sentido, existen médicos que se muestran cautelosos cuando se trata de aplicar la medicina basada en pruebas, la cual, por su propia naturaleza, está basada en la estadística:

Las estadísticas no pueden sustituir al ser humano que uno tiene delante; las estadísticas se refieren a una media, no a los individuos. Los números sólo pueden complementar la experiencia personal del médico con un fármaco o un procedimiento, así como su conocimiento sobre si un tratamiento «mejor» de un ensayo clínico convendría a las necesidades y características especiales de un paciente.

También cabe argumentar que los métodos matemáticos no son útiles en casos fuera de lo normal:

Los algoritmos clínicos pueden ser útiles para diagnósticos y tratamientos corrientes, por ejemplo, distinguir la infección de garganta por estreptococos de la faringitis viral. Sin embargo, se desmoronan rápidamente cuando un médico necesita pensar más allá de los recuadros, cuando los síntomas son vagos, o múltiples y confusos, o cuando los resultados de las pruebas son inexactos. En esos casos –aquellos donde más falta hace un médico con capacidad de discernimiento– los algoritmos impiden a los médicos pensar con independencia y creatividad. En lugar de expandir el pensamiento de un médico, acaban por limitarlo.

Finalmente, es posible que Deep Blue batiera a Kasparov, pero el diagnóstico clínico no es un juego de reglas fijas:

[El ajedrez] es un juego complejo, pero es bidimensional y está basado en reglas fijas y claras, con piezas que nunca varían. El diagnóstico de pacientes por el contrario, tiene cuatro dimensiones (reúne las tres dimensiones espaciales y la cuarta dimensión del tiempo), no tiene reglas invariables e implica «piezas» (cuerpos) que no son iguales.

Imagen de 219Eastern

Todos estos razonamientos tan convincentes asoman la cabeza cada vez que un algoritmo rinde mejor que los expertos de carne y hueso. Los resultados de Paul Meehl sobre la superioridad de los algoritmos frente a los humanos en el diagnóstico clínico fueron recibidos con hostilidad e incredulidad. El método estadístico era criticado como mecánico, artificial, irreal, arbitrario, incompleto, estéril y otras lindeces por el estilo. Los sumillers rechazaron la fórmula de Ashenfelter bajo la premisa de que sus conclusiones eran ridículas y absurdas, pues juzgar un vino sin probarlo era como calificar una película sin haberla visto. Los ojeadores y los entrenadores deportivos siguen confiando en su instinto. Y así un largo etcétera, a pesar de las pruebas que sustentan la superioridad de los métodos matemáticos.

Sospecho que cualquier persona que se enfrente al hecho de que parte de su trabajo puede hacerlo mejor una inteligencia artificial mostraría el mismo rechazo. Para un profesional especializado, alguien consciente de toda la complejidad, los matices y las posibilidades de su campo de conocimiento es difícil asumir que todo eso pueda reducirse a una simple ecuación. Pero, como vimos en el artículo anterior, la complejidad no solo no da ventaja al experto frente al algoritmo, sino que es precisamente la causa del error humano. Por muy razonables que suenen su argumentos en contra, en la práctica lo más frecuente es que una simple combinación de factores con los pesos adecuados supere al juicio de un experto.

Si bien es la complejidad lo que lleva a los expertos a equivocarse normalmente, lo cierto es que en raras ocasiones dicha complejidad sí que cuenta. Supongan, verbigracia, que una fórmula predice que Cristiano Ronaldo marcará dos goles en el próximo partido. Supongan, además, que la fórmula es fiable al noventa y nueve por ciento. Entran en un portal de apuestas por internet para ganarse un dinerito extra con dicha información y ahí, en la sección de noticias, se encuentran con el siguiente titular: «Cristiano Ronaldo sufre una rotura de ligamentos en su rodilla y será baja durante tres semanas». ¿Procederían con su apuesta? Obviamente no. Si Ronaldo no puede jugar, da igual lo que diga la fórmula. Este supuesto se conoce como «el problema de la pierna rota»:

To cede complete decision-making power to lock up a human to a statistical algorithm is in many ways unthinkable. Complete deference to statistical prediction in this or other contexts would almost certainly lead to the odd decision that at times we “know” is going to be wrong. Indeed, Paul Meehl long ago worried about the “case of the broken leg.”
[...] A statistical procedure cannot estimate the causal impact of rare events (like broken legs) because there simply aren’t enough data concerning them to make a credible estimate. The rarity of the event doesn’t mean that it will not have a big impact when the event does in fact occur. It just means that statistical formulas will not be able to capture the impact.

Evidentemente, en estas situaciones el algoritmo no sirve de nada. Pero no hemos de olvidar que estos casos son, por definición, infrecuentes (si no lo fueran, estarían contemplados en la fórmula). Por tanto, otorgan un escaso margen de ventaja. En cualquier caso, las observaciones atípicas también pueden dar ventaja a un sistema experto digital en lugar de a un médico. Una base de datos puede almacenar información sobre todas las enfermedades conocidas y sus síntomas, así como recuperar dicha información en segundos. Por contra, un galeno no puede saberlo todo. Cuando una enfermedad es poco común, no es sorprendente que se pase por alto y el diagnóstico sea equivocado. Lisa Sanders cuenta la historia de cómo un médico pudo diagnosticar correctamente y salvar la vida a una paciente aquejada de una rara enfermedad africana gracias a un sistema experto sobre enfermedades infecciosas llamado GIDEON. De no haber sido por este sistema el médico no habría podido dar con el medicamento necesario para combatir la infección.

Tal vez estén pensando que la solución ideal consista en mezclar ambos mundos. Si combinamos expertos y algoritmos ¿obtendremos mejores resultados? De acuerdo con Ian Ayres, por lo general las personas hacen mejores predicciones cuando se les informa de los resultados de una predicción estadística. Sin embargo, incluso con esa ayuda sus predicciones son peores que las del modelo matemático a solas. Cuando el humano y la máquina no están de acuerdo, usualmente es mejor atenerse a la decisión de la predicción estadística.

¿Y si limitamos la intervención humana a identificar los casos de «piernas rotas», de manera que sea una persona la que decida si hay que optar por seguir la decisión del algoritmo, o bien omitirla y hacer caso al juicio experto? El problema en estos casos es que la gente ve piernas rotas por todas partes:

In context after context, decision makers who wave off the statistical predictions tend to make poorer decisions. The expert override doesn’t do worse when a true broken leg event occurs. Still, experts are overconfident in their ability to beat the system. We tend to think that the restraints are useful for the other guy but not for us. So we don’t limit our overrides to the clear cases where the formula is wrong; we override where we think we know better. And that’s when we get in trouble.

Las dos soluciones anteriores sitúan al humano por encima o al mismo nivel que la máquina. Sin embargo, si lo que queremos es el mejor diagnóstico o la mejor predicción posible, parece que la forma de lograrlo es supeditar el hombre a la máquina. Por ejemplo, en 2005 dos veinteañeros ganaron un torneo de ajedrez utilizando tres programas simultáneamente para decidir sus movimientos. En lugar de postularse como jugadores se relegaron a sí mismos a un segundo plano como entrenadores:

In 2005, the Web site ChessBase.com, hosted a “freestyle” chess tournament: players were free to supplement their own insight with any computer program or programs that they liked, and to solicit advice over the Internet. Although several grandmasters entered the tournament, it was won neither by the strongest human players nor by those using the most highly regarded software, but by a pair of twentysomething amateurs from New Hampshire, Steven Cramton and Zackary “ZakS” Stephen, who surveyed a combination of three computer programs to determine their moves. Cramton and Stephen won because they were neither awed nor intimidated by technology. They knew the strengths and weakness of each program and acted less as players than as coaches.

En varios estudios, la mejor forma de explotar el conocimiento de los expertos fue añadir su evaluación como un factor más a considerar por el algoritmo. De esta manera los ordenadores pueden tener en cuenta aquellas informaciones que los humanos identifican mejor y así el porcentaje de acierto es mayor.

Hoy día todos somos conscientes de que si queremos cálculos rápidos y exactos hemos de recurrir a un ordenador en lugar de a un cerebro humano. También damos por sentado que si necesitamos conocer ciertos datos, como el origen de una palabra, una fecha histórica o el creador de una obra artística terminaremos antes buscándolo en Google que preguntando a nuestros conocidos. Es de suponer que, conforme la tecnología vaya mejorando y expandiéndose, las nuevas generaciones crezcan asumiendo que los ordenadores hacen mejores predicciones que los humanos. Actualmente, nadie se extraña de que las calificaciones de riesgo crediticio las haga un ordenador, cuando hasta hace no mucho esa era una tarea humana. En el futuro, quizá ocurra lo mismo con el diagnóstico clínico.

Inteligencia artificial

Era la primera partida de las seis que se jugaron en 1997. Deep Blue*, jugando con negras, iba perdiendo. Kasparov había logrado sacar al ordenador de su juego basado en una inmensa base de datos de posiciones conocidas, forzándole a utilizar su heurística para continuar la partida. En su cuadragésimo turno, Deep Blue hizo algo muy extraño: movió su torre a la primera fila de las blancas en lugar de hacer jaque al rey de Kasparov, que era lo esperable. La jugada de su contrincante permitía al ruso avanzar con sus peones hacia la primera fila de las negras y obtener una reina. Más sorprendentemente aún, Deep Blue se rindió en el siguiente turno.

Fuente: (Silver, 2012)

De vuelta en su hotel aquella noche, Kasparov no dejaba de preguntarse cómo era posible que Deep Blue hubiera cometido un error táctico de tal magnitud en una posición tan simple; era el tipo de error que los ordenadores no cometen. Revisando los datos, el campeón mundial encontró que la jugada convencional (mover la torre para hacer jaque al rey blanco) no era un buen movimiento en realidad: a la larga hubiera significado la victoria de Kasparov, si bien se necesitarían más de veinte movimientos para llegar a ello. El gran maestro dedujo que la única razón por la que Deep Blue había optado por otro movimiento era que había encontrado otra secuencia más larga de movimientos que llevaran al jaque mate. Con una secuencia más larga Deep Blue quizá habría podido forzar tablas, pues cuantos más movimientos tienen lugar mayor es la posibilidad de que el humano se equivoque en un turno dado (los grandes jugadores cometen errores graves alrededor de una vez cada setenta y cinco movimientos). Pero si eso era cierto, si Deep Blue había dado con una secuencia más larga de movimientos, significaba que el ordenador podía anticiparse más de veinte movimientos, cuando se pensaba que su límite estaba entre seis y ocho. Esa aparente superioridad de la máquina afectó a Kasparov en el resto del encuentro. Nunca más ganó a Deep Blue. El célebre ajedrecista se rindió en la segunda partida, consiguió un empate en las tres siguientes y, finalmente, perdió la sexta.

Hoy día contamos con algo mejor que los expertos de carne y hueso: algoritmos e inteligencia artificial. Sea dicho de antemano que, en mi humilde opinión (no soy ningún experto en la materia), la inteligencia artificial aún es muy primitiva y estamos lejos de la singularidad. Sin embargo, hay cuestiones en las que los algoritmos rinden mejor que los expertos de forma consistente y por amplio margen. Allá por 1990, el profesor de economía de Princeton Orley Ashenfelter, utilizando regresión lineal, tuvo más éxito en sus predicciones sobre el valor futuro de los vinos de Burdeos que el experto en vinos Robert Parker. Bill James usó la estadística para aupar a un equipo de béisbol de bajo presupuesto, los Oakland Athletics, a las Series Mundiales (actualmente, el uso de la estadística se ha extendido a múltiples deportes). Algoritmos sencillos baten por goleada a los humanos en lo que a predicciones políticas se refiere. Existen fórmulas para predecir éxitos de taquilla, determinar qué empleados quieren abandonar la empresa o qué clientes son más proclives a no devolver un préstamo. Deep Blue venció a Kasparov y Watson a los mejores concursantes de Jeopardy. Algoritmos de diagnóstico sencillos como el test de Apgar han salvado miles de vidas de las intuiciones fallidas de los galenos. Y así siguiendo.

Fue el psicólogo Paul Meehl quien abrió la veda de los expertos a mediados del siglo pasado al publicar un libro en el que informaba de que las predicciones hechas por profesionales experimentados eran menos acertadas que las hechas con un algoritmo o fórmula:

Way back in 1954, Paul Meehl wrote a book called Clinical Versus Statistical Prediction. This slim volume created a storm of controversy among psychologists because it reported the results of about twenty other empirical studies that compared how well “clinical” experts could predict relative to simple statistical models. The studies concerned a diverse set of predictions, such as how patients with schizophrenia would respond to electroshock therapy or how prisoners would respond to parole. Meehl’s startling finding was that none of the studies suggested that experts could outpredict statistical equations.

Durante los cincuenta años siguientes se han llevado a acabo docenas de estudios comparando el éxito en la toma de decisiones de los expertos frente a los métodos estadísticos en un amplia variedad de campos. La conclusión no ha cambiado, pues los algoritmos superan de manera significativa a los expertos (ibídem):

Near the end of his life, Meehl, together with Minnesota protégé William Grove, completed a “meta” analysis of 136 of these man-versus-machine studies. In only 8 of 136 studies was expert prediction found to be appreciably more accurate than statistical prediction. The rest of the studies were equally divided between those where statistical prediction “decisively outperformed” expert prediction, and those where the accuracy was not appreciably different. Overall, when asked to make binary predictions, the average expert in these wildly diverse fields got it right about two-thirds of the time (66.5 percent). The Super Crunchers, however, had a success rate that was almost three-quarters (73.2 percent).

Existen varias razones que explican por qué los humanos somos inferiores a los algoritmos cuando se trata de predecir o de tomar decisiones. Para empezar, tal como explica Kahneman:

Una razón [...] es que los expertos tratan de pasar por listos, piensan fuera de la realidad y, para hacer sus predicciones, consideran complejas combinaciones de factores. La complejidad puede contar en los casos raros, pero lo más frecuente es que reduzca la validez.

[...] Otra razón de la inferioridad del juicio experto es que los humanos son incorregiblemente inconsistentes cuando hacen juicios sumarios sobre información compleja. Cuando se les pide evaluar dos veces la misma información, frecuentemente dan respuestas diferentes.

Otro factor relacionado con la psique humana es que, en general, los métodos estadísticos hacen mucho mejor trabajo cuando se trata de elegir qué factores han de tenerse en cuenta a la hora de hacer una predicción o tomar una decisión. También son mejores que las personas asignando pesos a cada factor individual. Según Ayres, incluso ecuaciones simples y poco refinadas son mejores que los humanos.

Por otro lado, se dan factores de método. Por ejemplo, los expertos de carne y hueso no suelen llevar un registro de sus errores y aciertos (de hecho, tienden a recordar solo sus aciertos). Por contra, la validez de los algoritmos es puesta a prueba constantemente con conjuntos de datos reservados para ello y con los nuevos datos que se van generando. Los algoritmos se van refinando y mejoran continuamente; los expertos, no. Adicionalmente, un algoritmo puede darnos una respuesta probabilística (hay un sesenta por ciento de probabilidades de que llueva mañana), lo cual nos permite actuar en consecuencia. Por el contrario, los expertos (especialmente aquellos que aparecen en los medios de comunicación) normalmente hacen afirmaciones simplistas, cerradas y definitivas. Para mayor escarnio, se muestran excesivamente confiados en sus afirmaciones, tal como explicamos en el artículo anterior (el dogmatismo es una vía rápida hacia el error). Los procedimientos estadísticos no solo predicen, sino que también nos dicen qué calidad tiene dicha predicción.

Finalmente, a diferencia de los expertos, la inteligencia artificial no tiene ego ni sentimientos. Esto es muy importante para tomar decisiones no sesgadas (por ejemplo, influidos por el miedo o nuestras opiniones políticas), así como para cambiar nuestras predicciones o nuestro método según vamos recopilando más datos. Mientras que un algoritmo puede ser cien por cien bayesiano, lo que le permite adaptarse, recalcular y asignar nuevos pesos a los factores en los que se basa su decisión para hacer mejores predicciones, las personas, como vimos, en lugar de modificar nuestras creencias modificamos o desechamos los datos que no cuadran con nuestra opinión.

Como ocurre con todo programa informático, durante el desarrollo de Deep Blue sus creadores dedicaron mucho tiempo a solucionar fallos o bugs. Cuando el ordenador hacía un movimiento chocante o estúpido los programadores revisaban el código en busca de la causa y lo corregían. Conforme se eliminaban los bugs y Deep Blue se iba haciendo mejor jugador, cada vez estaba menos claro si esos movimiento insólitos se debían a un error en el programa o a que la máquina había identificado una jugada mejor que había escapado al ojo experto. No obstante, lo que ocurrió en aquella primera partida con Kasparov no fue una genialidad de Deep Blue, sino un error. No es que el programa pudiera predecir más de veinte movimientos; simplemente, sus creadores habían dejado un fallo sin arreglar. De hecho, el error se debió precisamente a que Deep Blue fue incapaz en ese turno de decidirse por el siguiente movimiento (énfasis en el original):

The bug had arisen on the forty-fourth move of their first game against Kasparov; unable to select a move, the program had defaulted to a last-resort fail-safe in which it picked a play completely at random. The bug had been inconsequential, coming late in the game in a position that had already been lost; Campbell and team repaired it the next day. “We had seen it once before, in a test game played earlier in 1997, and thought that it was fixed,” he told me. “Unfortunately there was one case that we had missed.”

Kasparov sobrestimó las capacidades de Deep Blue y lo acabó pagando con la derrota. En general, la falibilidad de la inteligencia artificial abre un gran abanico de posibles maneras en la que podemos acabar perjudicados. Como habrán adivinado sin necesidad de ningún algoritmo, hablaremos sobre ello.

* La historia de Deep Blue y Kasparov está tomada del libro de Nate Silver The Signal and the Noise: Why So Many Predictions Fail - But Some Don't.

Completamente seguro

De la mano de Ed Russo y Paul Schoemaker esta semana les traigo un pequeño juego en forma de test. Para cada una de las siguientes diez preguntas respondan con un rango tal que estén seguros al noventa por ciento de incluir la respuesta correcta. Por ejemplo, si la pregunta es «¿cuántos huesos hay en el cuerpo humano?» podrían decir algo como «entre treinta y trescientos». La clave aquí es que solo hay que estar seguro al noventa por ciento, no al cien por cien, pues en este último caso uno siempre puede plantear rangos ridículamente amplios que contienen la respuesta correcta con seguridad (por ejemplo, entre cero y quince mill billones de huesos). Por tanto, el objetivo es acertar nueve de las diez cuestiones. Huelga decir que no vale buscar en Google ni consultar a nadie. Tampoco vale decir «no tengo ni idea». Para cada pregunta seguro que tienen alguna pista de por dónde pueden ir los tiros. Por ejemplo, si les interrogan sobre cuántos años tenía Mozart cuando murió es evidente que no tiene mucho sentido decir «cuatrocientos años».

¿Preparados? Aquí van las preguntas:

1. ¿Cuánto pesa un Airbus A340-600 vacío? Entre ___ y ___ kilos.
2. ¿En qué año ganó John Steinbeck el Premio Nobel de Literatura? Entre ___ y ___.
3. ¿Cuál es la distancia de la Tierra a la Luna? Entre ___ y ___ kilómetros.
4. ¿Cuál es la distancia de Madrid a Baghdad? Entre ___ y ___ kilómetros.
5. ¿En qué año terminó de construirse el Coliseo Romano? Entre ___ y ___.
6. ¿Cuál es la altura de la presa de Asuán? Entre ___ y ___ metros.
7. ¿En qué año completó Magallanes la primera vuelta al mundo en barco? Entre ___ y ___.
8. ¿En qué año nació Gandhi? Entre ___ y ___.
9. ¿Cuál es la superficie del mar Mediterráneo? Entre ___ y ___ kilómetros cuadrados.
10. ¿Cuál es el periodo de gestación de una ballena azul? Entre ___ y ___ días.

¿Lo tienen? Encontrarán las respuestas al final del artículo*. ¿Qué tal les ha ido? Recuerden que el objetivo era acertar nueve. Si han acertado las diez, entonces es que están muy faltos de confianza. En cualquier caso, Ed Russo y Paul Schoemaker pusieron a prueba a más de dos mil personas y encontraron que la mayoría erraba entre cuatro y siete preguntas. Menos de un uno por ciento de los encuestados dieron rangos que incluyeran la respuesta correcta nueve o diez veces. Es decir, el noventa y nueve por ciento de los sujetos de estudio mostraron una confianza excesiva.

A continuación les plantearé un dilema descrito por el periodista David Freedman. Imaginen que llevan meses con dolor de espalda y consultan a dos médicos. El primero les dice que ha visto muchos casos como el suyo y que es difícil saber exactamente cuál es el problema, que diferentes tratamientos funcionan en grados distintos, que es difícil saber qué funcionara en su caso concreto y que la mayoría de las veces ningún remedio es completamente efectivo. Les sugiere un tratamiento A, el cual tiende a funcionar algo mejor en pacientes como usted, y le cita para el mes siguiente para comprobar si ha funcionado o probar otra cosa. El segundo doctor, por otra parte, les dice que ha visto muchos casos como el suyo y que sabe exactamente cuál es el problema. Les asegura que la mayoría de pacientes responde muy bien al tratamiento B y que seguramente ustedes también. Les cita directamente para empezar el tratamiento y les garantiza que con ello el problema estará solucionado. ¿Con qué doctor se quedarían?

La mayoría, explica Freedman, elige el segundo doctor, incluso aunque se les diga que el primer médico tiene mejores credenciales:

When I ask people this question, almost all of them say they’d go with the second doctor. At which point I ask them another question: if you were told one of these doctors had recently been named Wisest Orthopedist of the Year by the state orthopedic society while the other was known to his colleagues behind his back as Bozo the Orthopedist, which would you guess is which? Almost everyone guesses without hesitation that the second doctor is the one who gets no respect. But why would we prefer the advice of someone whose wisdom we’re so quick to question? Apparently we like the second doctor’s advice so much that we’re willing to take a chance on it, in spite of whatever qualms we might have about its reliability.

La clave aquí es la confianza: tendemos a fiarnos más de aquellos que se muestran confiados, pues los consideramos más cualificados. Por desgracia, como ya se habrán dado cuenta en esta vida a menudo los menos competentes son los que más confiados se muestran en sus habilidades (es lo que se conoce como efecto Dunning-Kruger). El resultado es una ilusión de confianza que nos perjudica a diario de dos maneras:

[La ilusión de confianza] nos hace sobrestimar nuestras propias cualidades, en especial en relación con otras personas. En segundo lugar, [...] nos hace interpretar la seguridad –o la falta de ella– que otras personas manifiestan como una señal válida de sus propias habilidades, de su nivel de conocimiento y de la precisión de sus recuerdos. Esto no sería un problema si la confianza, en efecto, tuviese una relación estrecha con estas cosas, pero la realidad es que la seguridad y la capacidad pueden divergir tanto que basarse en la primera se convierte en una trampa mental gigantesca, con consecuencias potencialmente desastrosas.

Una muestra de dichas consecuencias desastrosas podría ser lo siguiente:

Un estudio sobre pacientes que murieron en la UCI comparó resultados de autopsias con diagnósticos que los médicos habían hecho cuando los pacientes aún vivían. También los médicos acusaban un exceso de confianza. El resultado fue que «lo médicos que creían estar “completamente seguros” de su diagnóstico ante mortem estaban equivocados en el 40 por ciento de los casos».

La relación entre confianza y capacidades o conocimiento no sigue una dinámica lineal. Como explican Chabris y Simons, cuando aprendemos una actividad nueva nuestra confianza es mayor de lo que debería para nuestro nivel. A medida que vamos mejorando la confianza también aumenta pero a menor velocidad, hasta alcanzar un punto en el que los niveles de confianza son los adecuados a nuestra habilidad (ese momento en el que nos damos cuenta de lo poco que sabemos en realidad). Sin embargo, si seguimos avanzando en nuestro conocimiento y nos convertimos en superespecialistas acabamos sabiendo cada vez más sobre cada menos, momento en el cual nuestra confianza se dispara y el exceso de conocimiento se vuelve en nuestra contra. Philip Tetlock llama a este último fenómeno la hipótesis del aire caliente:

The hot air hypothesis asserts that experts are more susceptible to [...] overconfidence than dilettantes because experts “know too much”: they have so much case-specific knowledge at their fingertips, and are so skilled at marshalling that knowledge to construct compelling cause-effect scenarios, that they talk themselves into assigning extreme probabilities that stray further from the objective base-rate probabilities. As expertise rises, we should therefore expect confidence in forecasts to rise faster, far faster, than forecast accuracy.

Se da, por tanto, una curiosa paradoja. Cuando hay mucho en juego exigimos determinación, pues creemos que la confianza guarda una relación directa con el conocimiento. Por ello, pedimos a los expertos seguridad en sus consejos y, como consecuencia, la demanda de expertos seguros de sí mismos crece, mientras que aquellos que muestran dudas o tienen en cuenta los matices son descartados. Los medios de comunicación, los consejos de dirección, los comités de expertos... se llenan de personas completamente seguras de sí mismas pregonando sus infalibles recetas. Sin embargo, como hemos visto aquellos que más seguridad muestran son los que peor asesoramiento pueden ofrecernos. Creen saber mucho más de lo que en realidad saben, y están excesivamente seguros de que saben tanto como creen. El resultado es que nos vemos bombardeados por recomendaciones deficientes que recibimos –eso sí– de buena gana.

Recientemente, el diario británico The Guardian publicó un perfil sobre Daniel Kahneman. En la entrevista el célebre psicólogo decía que, si tuviera una varita mágica, eliminaría del mundo el exceso de confianza. Como él mismo asegura en su libro, la incertidumbre sobre el conocimiento propio es uno de los pilares de la racionalidad (la certeza es cosa de necios), si bien no es algo que las personas o las organizaciones valoren. Pero, por otro lado, también tiene razón Nassim Taleb cuando observa que el exceso de confianza tiene una vertiente positiva, como cuando lleva a los emprendedores a llevar a cabo sus aventuras ciegos a las escasas probabilidades de éxito. En las pocas ocasiones en que tienen éxito la sociedad en su conjunto se beneficia del exceso de confianza.

Quizá sea una buena regla heurística seguir el consejo de alguien solo si, en caso de estar equivocado, se hunde él con el barco. Mi experiencia me dice que cuando alguien se juega el pellejo con lo que propone su seguridad disminuye notablemente.

---

* Las respuestas correctas son: (1) 218.000 kilos; (2) 1962; (3) 384.400 kilómetros; (4) 4308 kilómetros; (5) a.d. 80; (6) 114 metros; (7) 1522; (8) 1869; (9) 2.510.000 kilómetros cuadrados; (10) 335 días.

Confía en mí, soy un experto

La ley de Cunningham, versión actualizada del dicho francés prêcher le faux pour savoir le vrai (predica lo falso para obtener la verdad), establece que la mejor manera de obtener la respuesta correcta en internet no es hacer una pregunta, sino publicar la respuesta equivocada. Se basa en el hecho de que, al parecer, las personas somos más proclives a corregir a los demás que a simplemente responder sus dudas. Huelga decir que esta tendencia no se limita al mundo digital. Si, como el abajo firmante, han pasado algún tiempo en una sala de pesas concurrida sabrán a qué me refiero. No hay gimnasio que no cuente con su experto o grupo de expertos empeñados en afear el entrenamiento de los demás y corregir cada aspecto de su rutina de ejercicio, desde la selección de los movimientos hasta su ejecución, todo ello sin ninguna solicitud previa por parte de la víctima.

XKCD: Dutty Calls

Desde pequeñito he recurrido a los expertos. Siempre que quería hacer algo quería hacerlo bien y procuraba empaparme, principalmente a través de la lectura, de las enseñanzas de los entendidos en el campo en cuestión para saber cuál era la forma «correcta». Recuerdo, verbigracia, un álbum de cromos que tenía en el que Paco Gento enseñaba a jugar al fútbol (cómo regatear, cómo pasar, cómo chutar...). Y así, con el paso de los años mi biblioteca se ha llenado de libros escritos por los maestros de cada palo que he tocado, desde los dinosaurios hasta la programación, pasando por el entrenamiento físico o la fisioterapia, entre muchos otros. Encontré que, sin importar el tema del que se tratara, en cada caso había una gran cantidad de conocimiento por descubrir y un gigantesco ejército de guardianes de dicho conocimiento. Como dice la narración inicial del documental La industria de los expertos:

Expertos: no podemos vivir sin ellos. Nos dicen cómo arreglar nuestro coche, cómo decorar nuestra casa, cómo criar a nuestros hijos y cómo cocinar nuestros alimentos. Nos dicen qué vinos beber, qué arte comprar y qué opiniones debemos tener, además de cómo comer bien, cómo hacer ejercicio bien y cómo vivir eternamente. Están en todas partes y los necesitamos porque vivimos en un mundo frenético donde hay demasiada información para procesarla por nosotros mismos.

Efectivamente, hay expertos para todo. Desde lo más banal (pelar una naranja) a lo más importante (vivir) es posible encontrar un buen puñado de eruditos, entrenadores, analistas y consultores que afirman poseer la solución óptima o el enfoque adecuado. Publican libros, escriben blogs, salen por la televisión, hablan en la radio y ofrecen sus servicios como entrenadores o consejeros. Con tal cantidad de asesoramiento disponible uno no puede dejar de preguntarse cómo es que hay todavía tantos problemas en el mundo. ¿Por qué nuestro equipo favorito sigue fichando jugadores que no dan la talla? ¿Por qué hay todavía millones de personas que viven en la pobreza extrema? ¿Por qué la obesidad continúa aumentando en los países desarrollados? ¿Por qué tomamos tantos antidepresivos? ¿Cómo es posible que aún no se hayan logrado domar los ciclos económicos? Y lo más importante: ¿por qué hay todavía gente tan estúpida y que hace las cosas tan mal?

Sospecho que mentalmente han respondido a dichas preguntas con alguna variación de esta afirmación: los expertos no tienen ni idea. Si ha sido así, sepan que las pruebas en favor de una versión débil de esta hipótesis se han ido acumulando con el tiempo. Los expertos en vino son incapaces de distinguir uno bueno de uno barato (algunos de estos experimentos son mencionados en el documental). Los expertos en arte pueden ser engañados (otro ejemplo del documental). Los inversores financieros son incapaces de batir de manera consistente al mercado, lo que está llevando el dinero de los fondos de gestión activa a los fondos indexados. Los expertos en política son, tomando sus predicciones en conjunto, poco mejores que un chimpancé lanzando dardos a una diana. Por no hablar de los economistas y las crisis financieras.

Una de las pruebas más evidentes de que los expertos saben menos de lo que creen saber es que son incapaces de ponerse de acuerdo entre ellos mismos. Si reunimos a una muestra representativa de gente versada en un mismo tema, entre ellos mantendrán opiniones opuestas. En ese caso, obviamente, no todos pueden tener razón. De nuevo el gimnasio es buen ejemplo: da igual lo que hagas, siempre habrá alguien que te diga que lo estás haciendo mal y debes hacer «esto otro». Si haces press de banca con los pies en el suelo, te dirán que los mantengas en el aire («para aislar el pectoral»). Si los mantienes en el aire, te recomendarán que los apoyes en el suelo («para mantener la estabilidad»). Si corres en la cinta, te mandarán a la máquina elíptica («es menos agresiva con las articulaciones»). Si te subes en la elíptica, te mandarán a la cinta de correr («es un movimiento más natural»). De la misma forma: ¿una economía se reflota con gasto público o con austeridad fiscal? ¿Nuestra dieta debe basarse principalmente en glúcidos, proteínas o grasas? ¿El bebé debe dormir con los padres o en su cuna? ¿Hay que dejarle llorar hasta que se canse o cogerle en brazos? En la vida ¿debemos ser optimistas a toda costa o potenciar nuestro carácter natural? ¿Debemos luchar por mejorar esa relación difícil o abandonarla? La tortilla de patatas ¿con cebolla o sin cebolla?

Curiosamente, las cadenas de radio y televisión aprovechan estas discrepancias para rellenar su programación. Un formato habitual de programa consiste en sentar a uno o varios expertos en política o economía con visiones opuestas y hacerlos discutir durante horas con el pretexto de analizar la actualidad. Por desgracia, los incentivos que tienen los medios de comunicación les hacen escoger los peores expertos de entre todos los disponibles. David Freedman nos recuerda que la prioridad de la prensa, la televisión y la radio no es hacernos llegar la verdad, sino lograr que los leamos, veamos o escuchemos:

The media don’t, by and large, exist solely to tell us what’s right and true; they exist to get us to read about, watch, and listen to them, and that often means selecting and presenting expert findings in a way that is entertaining, provocative, useful sounding, and otherwise satisfyingly resonant. Claiming that journalists are devoted to bringing the truth to light is a bit like saying accountants are dedicated to upholding tax laws—it’s often more about knowing how far you can go in the other direction without getting into real trouble.

Es por ello que las cadenas buscan expertos que ofrezcan consejos simples, decisivos, universales y fáciles de digerir, personas confiadas que puedan decir frases memorables y no atiendan a matices. Philip Tetlock descubrió que, por desgracia, este tipo de experto demandado por los medios de comunicación es el que más se equivoca:

[O]ne of the more disconcerting results of this project has been the discovery of an inverse relationship between how well experts do on our scientific indicators of good judgment and how attractive these experts are to the media and other consumers of expertise. The same self-assured hedgehog style of reasoning that suppresses forecasting accuracy and slows belief updating translates into compelling media performances: attention-grabbing bold predictions that are rarely checked for accuracy and, when found to be wrong, that forecasters steadfastly defend as “soon to be right,” or “almost right” or as the “right mistakes” to have made given the available information and choices.

Un ejemplo paradigmático de esto es el fútbol. Como demuestra casi cada día el blog La libreta de Van Gaal, los expertos y periodistas deportivos no dan una en sus pronósticos sobre resultados, nunca atinan con los fichajes, y se contradicen a sí mismos con toda naturalidad y ninguna vergüenza. A pesar de ello, salmodian como si poseyeran la verdad absoluta, prístina e incuestionable. Desafortunadamente, el panorama en áreas tales como la economía o la política (mucho menos importantes que el fútbol, por supuesto) es igual de deprimente.

Los anglosajones tienen su propio término para esos consejos que salen de boca de los expertos informales de gimnasio: bro science. Evidentemente, se trata de un término peyorativo. También tienen otra expresión que utilizan a modo de escudo aquellos que hacen gala de cierto desarrollo muscular cuando alguien cuestiona sus falsos mitos o creencias sobre la fisiología humana: «do you event lift?». La idea subyacente a dicha frase, y que casi no necesito explicar, es que ciertos logros conllevan cierto conocimiento, por lo que si alguien no alcanza dichos logros se debe que en realidad es un ignorante.

Es esta una barrera de la que cualquier experto puede echar mano para defenderse de los legos en la materia: tú no has logrado nada en este campo, no tienes mis credenciales ni mi experiencia. Por tanto, no sabes nada y no estás capacitados para cuestionarme. Claro que ese es un argumento de autoridad circular: el experto tiene razón porque solo los expertos en un campo son los que saben y él es un experto. Lo bueno es que en estas situaciones siempre es posible señalar a otro experto más distinguido que opine lo mismo que nosotros. Google siempre nos dará la razón.

La Roca (I)

When my information changes, I alter my conclusions. What do you do, sir?

–John Maynard Keynes

Como ejemplo de ese debate político de apariencia racional pero con fondo emotivista en el que todos nos hayamos envueltos, en el verano de 2014 se publicó un manifiesto titulado Última llamada que sostenía que nos hallamos inmersos en una crisis de civilización. Dicho manifiesto fue criticado por gente de Politikon en estos términos (el énfasis es mío):

[C]onstruye una madeja de declaraciones altisonantes y maximalistas que ni se apoyan en argumentos racionales ni se soportan en datos; o, lo que es peor, con frecuencia van contra la evidencia de que disponemos.

La queja aquí es un clásico desde la Ilustración. Se supone que ya no vivimos en un tiempo dominado por grandes teorías desarrolladas por autoridades como Aristóteles cuya veracidad se asume cual dogma de fe, sino que disponemos de la ciencia para alcanzar la verdad. Ya no es necesario elucubrar; tenemos datos y pruebas que nos dicen lo que hay y lo que es, y obviar o contradecir dichas pruebas es propio de gente irracional, ignorantes o arteros prosélitos tratando de imponer su agenda ideológica.

Tiempo después David Ruiz publicó un artículo en el que mostraba otros datos que contradecían la evidencia aportada por la gente de Politikon. Les recomiendo el artículo de Ruiz porque demuestra lo fácil que es encontrar para cada «prueba» su contraria, y cómo esto de recabar evidencias se parece mucho a ir a recoger frutos silvestres, donde uno elige los que le parecen más apetitosos y deja el resto ocultos en la mata. Es un fenómeno especialmente notable en eso de la economía, donde –sin importar la ideología del economista de turno– se topa uno con largas listas de estudios que «prueban» las tesis del autor y echan por tierra las del contrario. Los psicólogos tienen un término propio para eso que los ingleses llaman cherry picking:

Psychologists now have file cabinets full of findings on “motivated reasoning,” showing the many tricks people use to reach the conclusions they want to reach. When subjects are told that an intelligence test gave them a low score, they choose to read articles criticizing (rather than supporting) the validity of IQ tests. When people read a (fictitious) scientific study that reports a link between caffeine consumption and breast cancer, women who are heavy coffee drinkers find more flaws in the study than do men and less caffeinated women. Pete Ditto, at the University of California at Irvine, asked subjects to lick a strip of paper to determine whether they have a serious enzyme deficiency. He found that people wait longer for the paper to change color (which it never does) when a color change is desirable than when it indicates a deficiency, and those who get the undesirable prognosis find more reasons why the test might not be accurate (for example, “My mouth was unusually dry today”).

Foto de Dave Sutherland

Solemos pensar que si alguien sostiene una tesis y le enseñamos pruebas en contra entonces esa persona debería cambiar de parecer. Asumimos también que cuantas más pruebas aportemos más razones tiene para abandonar su posición, y que no hacerlo es irracional. Es decir, damos por sentado que las personas seguimos un proceso de aprendizaje bayesiano. En la década de los cincuenta, Ward Edwards concluyó que los humanos somos «aproximadamente bayesianos». Los modelos formales asumen que ajustar nuestras creencias es algo que tiene lugar sin problemas. ¿Cómo de buenos (o malos) bayesianos somos realmente? ¿En qué grado ajustamos nuestras creencias según las pruebas?

Voy a ahorrarles el suspense: los humanos nos resistimos a actualizar nuestras creencias, sobre todo cuando las pruebas que evaluamos contradicen lo que pensamos. Décadas de investigaciones posteriores a Edwards de la mano de Kahneman y Tversky nos han mostrado que, de hecho, las personas no pensamos de forma bayesiana. Como explica Philip Tetlock:

Decades of laboratory research on “cognitive conservatism” warn us that even highly educated people tend to be balky belief updaters who admit mistakes grudgingly and defend their prior positions tenaciously.

Y en la nota al pie continúa:

Some researchers have concluded that people are such bad Bayesians that they are not Bayesians at all (Fischhoff and Beyth-Marom, “Hypothesis Evaluation from a Bayesian Perspective”). Early work on cognitive conservatism showed that people clung too long to the only information they initially had—information that typically took the form of base rates of variously colored poker chips that defined judges’ “priors.”

Tetlock cuantificó este «déficit bayesiano» en su célebre estudio sobre los expertos. Cuando erraban en su respuesta, los sujetos de estudio ajustaban sus creencias a la luz de nuevas pruebas en un grado bastante inferior al que prescribe la regla de Bayes, entre un diecinueve y un cincuenta y nueve por ciento de lo que deberían. Por contra, allí donde habían acertado el ajuste de creencia se situaba entre el sesenta y el ochenta por ciento del que debería ser.

El experimento de Tetlock consistió en pedir a doscientos ochenta y cuatro expertos que hicieran predicciones sobre una variedad de escenarios políticos: la URSS, la Unión Europea, la primera Guerra del Golfo, Yugoslavia, Sudáfrica y muchos otros. Años después evaluó el nivel de acierto de las predicciones. En conjunto, los expertos no lo hicieron mejor que un grupo de chimpancés lanzando dardos a una diana.

Es interesante ver cómo se defendieron estos expertos cuando tuvieron que confrontar sus fallos. Puede que las personas seamos idiotas, pero no queremos aparentarlo. Por fortuna, contamos con una poderosa máquina generadora de justificaciones a la que podemos recurrir para lavar nuestra imagen y seguir en nuestros trece. Todos tenemos a nuestra disposición un elaborado sistema de defensas para nuestras creencias, y ya vimos que las personas inteligentes están acostumbradas a usar su intelecto para proteger creencias poco inteligentes. En el caso de los expertos, algunas de estas justificaciones fueron el «casi acierto» («lo que predije no pasó, pero casi ocurre»), el «acabará pasando» («lo que yo predije acabará teniendo lugar, solo hay que esperar»), el «ocurrió algo inesperado» («de no haber sucedido aquel hecho improbable yo habría acertado») y el siempre útil «es complicado» («es imposible predecir el futuro»). En ausencia de contrafactuales, algunas de estas defensas ahondan en oscuras cuestiones epistemológicas y tienen cierta solidez filosófica, por lo que no son fácilmente descartables como simples excusas.

Continuará