Los algoritmos se han diseñado como agentes lineales y racionales con el fin de optimizar las decisiones frente al riesgo. No cabe duda de que este diseño es capaz de analizar cantidades ingentes de datos con una precisión probabilística que el cerebro humano simplemente no puede comprender. Sin embargo, este enfoque utilitario de la toma de decisiones difiere del de los decisores humanos en un nivel fundamental. Como explican Hafenbrädl, Waeger, Marewski y Gigerenzer (2016), las decisiones algorítmicas se toman en un mundo diferente, el pequeño mundo del riesgo, que las decisiones humanas del mundo real, que tienen lugar en el gran mundo de la incertidumbre. En el mundo del riesgo, las probabilidades, las alternativas y las consecuencias pueden calcularse, sopesarse y considerarse fácilmente, y debemos someter nuestros impulsos intuitivos a una optimización racional. En el mundo de la incertidumbre, las probabilidades, las consecuencias y las alternativas son incognoscibles o incalculables, y nuestra heurística intuitiva forma parte integrante de la satisfacción con limitaciones de tiempo y recursos (Hafenbrädl et al., 2016; Simon, 1956).
These contrasting characteristics delineate two views of decision-making — traditional rational theory and nonrational theory[1]. Traditional rationality suggests a good decision is made by considering all decision alternatives and accompanying consequences, estimating and multiplying the subjective probability by the expected utility of each consequence, and then selecting the option with the greatest expected utility. But for human decision-makers in uncertain environments, this process is psychologically unrealistic (Gigerenzer, 2001). Instead of viewing humans as omniscient beings, nonrational theories, such as bounded rationality, illustrate a decision-making process in which the environment is marked by limited time, resources, and information; where rational optimization is unfeasible and unwise. While traditional rationality entices with a sense of reasonableness, applied real-world decision-making naturally abides by the principles of nonrationality. So, when standard rational algorithms are advertised as aids to human decision-makers, a false assumption of compatibility between intrinsically different decision strategies is made. Algorithm aversion, directly and indirectly, can be traced back to this assumption.
Debido a su enfoque probabilístico, las ayudas algorítmicas estándar para la toma de decisiones se enfrentan frontalmente a la cognición humana: o se acepta o se rechaza la idea algorítmica; todo o nada. Como estos algoritmos llevan a cabo un proceso de optimización racional, las oportunidades de integración con la no racionalidad humana son escasas. En el modelo de consumo predominante de la toma de decisiones algorítmica, este desajuste entre racionalidad y no racionalidad se manifiesta como una interacción en la que el responsable humano de la toma de decisiones realiza un cálculo intuitivo, consulta el cálculo del algoritmo y, a continuación, debe elegir un curso de acción con o sin tener en cuenta el consejo algorítmico. Huelga decir que en este modelo se produce muy poca interacción, ya que el juicio intuitivo y el estadístico se enfrentan entre sí, un tira y afloja psicológico dominado una y otra vez por la intuición.
Para diseñar prótesis cognitivas capaces de vincular la mente humana a flujos de datos normalmente incomprensibles, permitiendo una mejor toma de decisiones, la no racionalidad debe ser el principio fundador. Al encontrarse los decisores humanos en el mundo de la incertidumbre, donde las decisiones deben tomarse con tiempo limitado (rápido) y con información limitada (frugal), la aplicación del marco rápido y frugal al diseño de algoritmos es un caso contemporáneo de movilización de la teoría no racional para sistemas cohesivos de decisión humano-algoritmo (Phillips, Neth, Woike y Gaissmaier, 2017). Aunque no está exento de limitaciones, este movimiento para estructurar algoritmos heurísticos permite a los responsables humanos de la toma de decisiones y a los algoritmos compartir la recopilación, ordenación y evaluación paso a paso de los datos disponibles y, en última instancia, llegar a una única conclusión conjunta. De este modo, la cognición humano-algoritmo se entrelaza en el proceso de decisión, lo que permite una experiencia de aumento más participativa y menos conflictiva.
Esta integración del rigor estadístico algorítmico con la sensibilidad heurística humana es una tarea evidentemente difícil que requiere una comunidad multidisciplinar. Mientras el discurso se debate entre lo abstracto y lo pragmático, es importante considerar lo que queremos, esperamos y exigimos de nuestros responsables y algoritmos de toma de decisiones.
References
Beer, D. (2017). El poder social de los algoritmos. Información, Comunicación y Sociedad, 20(1), 1-13. https://doi.org/10.1080/1369118X.2016.1216147
Beer, D. (2017). El poder social de los algoritmos. Información, Comunicación y Sociedad, 20(1), 1-13. https://doi.org/10.1080/1369118X.2016.1216147
Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Aversión a los algoritmos: People Erroneously Avoid Algorithms after Seeing Them Err. Journal of Experimental Psychology: General, 144(1), 114-126. https://doi.org/10.1037/xge0000033
Dietvorst, B. J., Simmons, J. P. y Massey, C. (2016). Superar la aversión a los algoritmos: People Will Use Imperfect Algorithms If They Can (Even Slightly) Modify Them. Management Science, 64(3), 1155-1170. https://doi.org/10.1287/mnsc.2016.2643
Gigerenzer, G. (2001). La toma de decisiones: Teorías no racionales. Enciclopedia Internacional de las Ciencias Sociales y del Comportamiento, 5, 3304-3309. https://doi.org/10.1016/B978-0-08-097086-8.26017-0
Hafenbrädl, S., Waeger, D., Marewski, J. N., & Gigerenzer, G. (2016). Applied Decision Making With Fast-and-Frugal Heuristics. Journal of Applied Research in Memory and Cognition, 5, 215-231. https://doi.org/10.1016/j.jarmac.2016.04.011
Lee, M. K., Kusbit, D., Metsky, E., & Dabbish, L. (2015). Trabajar con máquinas: El impacto de la gestión algorítmica y basada en datos en los trabajadores humanos. Proceedings of the ACM CHI'15 Conference on Human Factors in Computing Systems, 1, 1603-1612. https://doi.org/10.1145/2702123.2702548
Meehl, P. E. (1954). Clinical vs. Statistical Prediction: A Theoretical Analysis and a Review of the Evidence.
Phillips, N. D., Neth, H., Woike, J. K., & Gaissmaier, W. (2017). FFTrees: Una caja de herramientas para crear, visualizar y evaluar árboles de decisión rápidos y frugales. Juicio y toma de decisiones, 12(4), 344-368. Obtenido de https://journal.sjdm.org/17/17217/jdm17217.pdf
Prahl, A., y Van Swol, L. (2017). Comprender la aversión a los algoritmos: ¿Cuándo se descartan los consejos de la automatización? Journal of Forecasting, 36, 691-702. https://doi.org/10.1002/for.2464
Simon, H. (1956). La elección racional y la estructura del entorno. Psychological Review, 63, 129-138.
