AlphaGO, dos triángulos y tus intuiciones políticas entran en un bar con Jordan Ellenberg

El caso de la geometría

"Y no todo son triángulos. Vale, hay algunos triángulos, pero no se trata principalmente de triángulos. Todo lo que es matemático o lógico o cuantitativo o que tiene que ver con la optimización o la búsqueda o la mejora, es geométrico de alguna manera."

Afrontar nuestros retos desde todos los ángulos disciplinarios

"Uno de los grandes retos, un reto que me gusta pensar que la gente ha superado, es darse cuenta de que no todos los problemas matemáticos son meramente matemáticos... Hay un entrelazamiento entre las matemáticas, el derecho, la filosofía, la ética y la política, todo lo cual es importante. Así que creo que cuando la gente intenta abordar esto de forma puramente matemática, lo único que se consigue es algo inútil. Dicho esto, también, si intentas abordarlo de forma totalmente no matemática, también obtienes cosas que no funcionan".

Uso de ordenadores para evaluar y explicar la toma de decisiones humanas

"De lo que estamos hablando es de la delimitación de distritos, que es una actividad llevada a cabo por humanos, y no se está sugiriendo que se utilice un algoritmo de IA o incluso cualquier tipo de enfoque algorítmico totalmente explícito, ya sea impulsado por IA o no. Más bien, la IA se utiliza como una forma de poner algunos límites a la acción humana. Así que en lugar de que la IA nos observe y aprenda a jugar por su cuenta... lo que estamos haciendo aquí es esencialmente dejar que la IA campe a sus anchas, y la estamos observando para aprender sobre nuestras propias estrategias, y para ayudarnos a informar la toma de decisiones".

Comprender dónde puede desempeñar un papel la inteligencia artificial, ya sea en las votaciones o al volante

"Creo que ni los votantes, ni los cargos electos, ni los tribunales van a aceptar realmente entregar esta responsabilidad a una máquina. Y de hecho, he llegado a ver que eso es bastante válido. En realidad, no queremos hacerlo sin supervisión humana. Un caso intermedio interesante... es la cuestión de los vehículos autónomos... Porque ahí, lo que cuenta como éxito es probablemente más claro y menos discutido que votar, pero no tan claro ni tan indiscutible como los juegos a los que estamos jugando... ¿El objetivo es tener un verdadero coche autónomo que realmente, sin un humano dentro, vaya a sitios y haga cosas? ¿O se trata siempre de algo en lo que haya cierta interacción entre el ser humano y la máquina, una conducción supervisada por el ser humano?".

Equilibrio de poder entre humanos y máquinas

"Así que yo diría que se requiere un verdadero tipo de humildad. Y si crees que sabes exactamente cuál es el objetivo, siempre es bueno dar constantemente un paso atrás y preguntarte si el objetivo está realmente tan bien definido y es tan indiscutible, tan de damas, como crees que es".

Introducción

Brooke: Hola a todos, y bienvenidos al podcast de The Decision Lab, una empresa de investigación aplicada con conciencia social que utiliza la ciencia del comportamiento para aprobar resultados para toda la sociedad. Mi nombre es Brooke Struck, directora de investigación en TDL, y seré su anfitriona para el debate. Mi invitado de hoy es Jordan Ellenberg, catedrático de Matemáticas de la Universidad de Wisconsin en Madison, autor del libro de 2014 How Not to be Wrong (Cómo no equivocarse) y autor del libro de reciente publicación Shape: La geometría oculta de la información, la biología, la estrategia, la democracia y todo lo demás'. En el episodio de hoy, hablaremos de un gran tema de su último libro; humanos, algoritmos y sistemas híbridos de decisión. Jordan, gracias por acompañarnos.

Gracias por invitarme.

Brooke: Antes de empezar, háblenos un poco de usted y de su último libro, Shape.

Jordan: Así que soy matemático. Soy profesor de matemáticas, y soy geómetra, en caso de que te preguntes: "¿Cómo se llama cuando alguien hace geometría?". Aunque lo que eso significa es probablemente muy diferente de lo que mucha gente se imagina, y esa es una de mis motivaciones para escribir este libro. La geometría es el tema del libro. Por eso se llama Shape. Y no se trata de triángulos. Vale, hay algunos triángulos. Pero no es principalmente sobre triángulos, porque siento que casi todo lo que es matemático o lógico o cuantitativo o que tiene que ver con la optimización o la búsqueda o la mejora es geométrico de alguna manera. Se ha abierto camino en todo. Así que, en realidad, me di cuenta de que había demasiado de lo que hablar en lugar de demasiado poco, por lo que en el libro, hablo mucho sobre los desarrollos de la inteligencia artificial y el aprendizaje automático. Hablo del controvertido problema de la redistribución de distritos en el Congreso, una cuestión política muy candente en Estados Unidos. Hablo de los torneos de damas. Hablo de la propagación de pandemias. No esperaba escribir sobre eso, pero de repente, por alguna razón, el año pasado me interesé por este tema, que también es profundamente geométrico. Y algún que otro triángulo. Hay un triángulo o dos.

Brooke: Sí, y si puedo añadir mi voz a las cualidades redentoras de la geometría, porque por supuesto que lo necesita, ¿verdad? Después de la experiencia de todo el mundo con la geometría en el instituto, necesita rehabilitación en términos de imagen. Si no estás lo suficientemente entusiasmado con la geometría, si estás entusiasmado con bitcoin o las criptomonedas, todos los cálculos que entran en el procesamiento de esas transacciones se realizan utilizando GPUs, que son todo geometría. Así que ahí lo tienes.

Jordan: Quizá me expliques eso en algún momento y la relación con las criptomonedas, que no toco en absoluto en el libro, pero me encantaría saber más sobre ello. Has mencionado tu experiencia en el instituto. ¿Cuál fue tu experiencia con la geometría en el instituto? ¿Puedo entrevistarte un momento?

Sí, totalmente. Me encantaba la geometría y la trigonometría. Yo estaba todo sobre eso. Yo era realmente un niño de matemáticas.

Jordan: Porque una cosa que digo en el libro es que la geometría es el cilantro de las matemáticas. La gente no es neutral al respecto. Hay gente que dice: "Esta es mi asignatura estrella. Todo lo demás era como, "¿Por qué estoy haciendo esto?" Y entonces la geometría tuvo sentido". Y hay otras personas que son como, "Todo tenía sentido, excepto la geometría. ¿Por qué hice eso? Me gustaba la informática y el cálculo. Pero la geometría, ¿por qué estábamos haciendo eso? "

Y, de hecho, he descubierto que la gente que opina de una manera a menudo ni siquiera sabe que hay la mitad del mundo que opina de la otra. Pero para la gente que le gusta o para la gente que lo odia, es claramente muy diferente. Es claramente muy diferente de todo lo demás que hacemos en el plan de estudios de secundaria, y claramente tiene su propio ambiente matemático, que es una de las razones por las que pensé que sería un buen tema para un libro entero.

Problemas diferentes requieren soluciones diferentes

Brooke: Bien, vamos a sumergirnos un poco en el libro. Hay dos tipos de problemas que tratas ahí que desde el punto de vista de la ciencia de la decisión me parecen algo diferentes, así que déjame empezar a separarlos. Un tipo de problema es aquel en el que hay una respuesta correcta, y el segundo tipo de problema es aquel en el que hay una respuesta apropiada. Podríamos esperar que para ambos tipos de preguntas, deberíamos esperar un amplio o alto grado de acuerdo entre las personas si les preguntaras cuál es la respuesta, probablemente grados más altos de acuerdo entre los especialistas, pero en última instancia, uno tiene una respuesta objetivamente correcta, y el otro no. Si pensamos en dos ejemplos de esto, jugar al "Go", por ejemplo, podemos medir objetivamente qué algoritmo es mejor jugando al Go que otro porque hay un conjunto de reglas muy claras que dictan quién gana y quién no, y qué movimientos están permitidos y cuáles no. Si pensamos en la redistribución de distritos, es un tipo de problema muy, muy diferente. Hay muchísimas soluciones diferentes. Y aunque tal vez podamos estipular algún tipo de condición para clasificar esas soluciones, cualquier tipo de regla explícita que queramos dar a esa clasificación va a ser extremadamente polémica. No va a haber una regla totalmente explícita y consensuada sobre qué soluciones de distribución de distritos son mejores que otras. ¿Puede explicarnos un poco cómo encajan los algoritmos y la geometría en estos dos tipos de problemas?

Jordan: Claro. Y quizá empiece por la segunda parte de la pregunta, porque creo que esta cuestión de la redistribución de distritos, que para resumirlo en tres segundos, es la forma en que dividimos una región política, como un estado de EEUU, en regiones más pequeñas, cada una de las cuales tiene un representante. Podría parecer: "Claro, basta con trazar unas líneas fronterizas". Pues bien, resulta que la forma de trazarlas tiene un enorme efecto sobre quién acaba sentándose en la legislatura, quién acaba haciendo las leyes, entre ellos decidir cómo será el próximo mapa. Así que el problema de la retroalimentación es bastante inmediato. Es muy fácil para la gente de mi comunidad de matemáticos verlo como un problema matemático. Y creo que uno de los grandes retos, un reto que me gusta pensar que la gente ha superado, es realmente darse cuenta de que no todos los problemas que tienen que ver con las matemáticas son simplemente un problema matemático. Como tú dices, si entras en esto con la idea de: "¿Cuál es la respuesta correcta a cómo deben ser los distritos?" Ni siquiera estoy seguro de que esa pregunta tenga una respuesta, pero si la tiene, ciertamente no tiene una respuesta puramente matemática, ¿verdad? Hay un entrelazamiento entre las matemáticas, la ley, la filosofía si se quiere, la ética y la política; todo ello es importante. Así que creo que cuando la gente intenta abordar esto de forma puramente matemática, lo único que se consigue es algo inútil. Dicho esto, si intentas abordarlo de forma no matemática, también obtienes cosas que no funcionan. Y creo que eso es más tradicional en política, pensar que se trata de un problema que se puede resolver puramente con razonamientos políticos o jurídicos. Creo que al final va a ser tan insatisfactorio como intentar tratarlo como un ejercicio matemático de libro de texto.

Ahora, cuando hablas de algo como el Go, tal y como dices, hay una métrica mucho más clara. Sabemos que hay un criterio absolutamente consensuado sobre quién ha ganado y quién ha perdido. Pero creo que también merece la pena preguntarse cuál es el objetivo real. ¿Es ser el mejor en ganar? Quiero decir, eso es una cosa que se podría querer decir con ello, pero no es la única cosa que se podría querer decir con ello. Por eso en el libro hablo un poco del Go, pero hablo aún más de las damas, que van más por ese camino.

Las damas son un juego en el que no sólo las máquinas superan a los mejores humanos, sino que el juego está resuelto. En otras palabras, sabemos literalmente, como un teorema matemático, que dos jugadores de damas perfectos, no hay manera de que el primer jugador gane, y no hay manera de que el segundo jugador gane. Es como el tres en raya. Dos jugadores que no metan la pata siempre empatarán. Y luego hay una pregunta interesante. Podrías decir: "Vale, ya está hecho. Literalmente no tiene sentido jugar a las damas".

Bueno, se podría decir eso si se quisiera, pero de hecho, la gente sigue jugando a las damas. Todavía hay un campeonato mundial humano de damas por el que la gente compite. Y creo que se puede enfocar de dos maneras. Podrías decir: "Bueno, esa gente está perdiendo el tiempo porque el juego está resuelto". O podrías decir: "Espera, tal vez hay algo que no es capturado por esta solución matemática". Tal vez sea un prejuicio, pero tiendo a estar a favor de que, si la gente parece estar haciendo algo, tal vez mi primera conjetura debería ser que hay alguna razón que valga la pena por la que lo están haciendo antes de declararlo una empresa vacía.

IA y algoritmos

Brooke: Sí, desde el punto de vista de la inteligencia artificial, la forma de crear y entrenar un algoritmo para jugar a las damas es diametralmente opuesta a la forma de entrenar un algoritmo para jugar al Go. ¿Puedes hablar un poco de eso y del tamaño del espacio de posibilidades?

Jordan: Bueno, son problemas enormemente diferentes en tamaño. Y es interesante que digas eso, porque creo que una cosa es que como las damas son un problema astronómicamente más pequeño que el Go, las damas pueden resolverse con una generación anterior de técnicas. Ahora, si ese no hubiera sido el caso, digamos que si trataras de diseñar un motor de damas hoy, no me sorprendería que intentaras usar el mismo tipo de metodología de AlphaGo que se usó para resolver Go.

Ahora, debido a que el juego está resuelto, sabrías, provablemente que no puedes hacerlo mejor que el... En realidad, es una pregunta en la que nunca había pensado, y es bastante interesante. Existe un jugador de damas absolutamente perfecto, no aproximadamente perfecto. Teniendo en cuenta lo que sabemos sobre el Go y el ajedrez, sería sorprendente que el entrenamiento con el mismo tipo de protocolos que utilizamos para el Go y el ajedrez no produjera un jugador de damas muy, muy bueno, capaz de vencer a los mejores jugadores humanos. ¿Generaría un jugador de damas realmente perfecto, demostrablemente perfecto? En realidad, no estoy seguro. No estoy seguro de lo que pienso. ¿Qué piensa usted? Porque no están diseñados para eso, ¿verdad?

Brooke: Así que vamos a volver sobre eso y hablar un poco acerca de cómo estos algoritmos se entrenan de manera diferente en estas dos circunstancias. En el caso de las damas, debido a que el conjunto de movimientos finitos es mucho más pequeño en cada etapa, es computacionalmente posible calcular todos los posibles juegos finales para cada movimiento. Y eso es lo que hace posible acabar con las damas, resolverlas. En lo que respecta al Go, Jordan, te pediré que intervengas. ¿Cuál es el número de permutaciones posibles que puede haber?

Jordan: Oh, estoy seguro de que ese número no se ha calculado. Supongo que probablemente podríamos obtener un límite inferior para él, pero es un número tan grande que no tiene sentido indicarlo. ¿Tiene sentido?

Brooke: Correcto. ¿Así que más o menos permutaciones que estrellas hay en el universo?

Oh, mucho más. Creo que incluso las damas tienen más que eso. Venga ya. Eso es un - Las estrellas son muy grandes, y no hay mucho espacio para ellos.

Brooke: (risas) Lo siento, me disculpo por no pensar más en grande. Pero de todos modos, lo que eso significa es que para las damas, empiezas desde este tipo de enfoque computacional donde dices: "Voy a calcular hacia adelante basándome en todas las posibilidades". Y debido a que ese reino de posibilidades es lo suficientemente pequeño como para que un ordenador pueda manejarlo, realmente puedes progresar con ese enfoque. Cuando se trata de Go, porque el número de posibilidades es tan absolutamente masivo, la forma en que la actual generación de algoritmos de Go fueron programados y entrenados fue exponiéndolos a, supongo que tiene que ser cientos de miles de juegos de Go. Así que miras la secuencia real de movimientos de partidas reales jugadas por humanos reales y, a partir de ahí, el algoritmo extrapola cuáles son las estrategias que tienen más éxito. Ahora, ese es un enfoque muy simplificado, o una descripción simplificada del enfoque, pero eso es realmente un tipo diferente de problema computacional que la extrapolación hacia adelante sobre la base de posibilidades lógicas ...

Jordan: Sí, y de hecho, una cosa que escribo en el libro, y en realidad, esto surge en realidad al hablar de modelado pandémico, y no alrededor de hablar de damas, pero estás dibujando una conexión que tal vez no vi del todo, que hay una cuestión profunda, si usted está tratando de diseñar un algoritmo para averiguar qué hacer o para predecir el futuro, que son problemas muy interrelacionados, como usted sabe. Puedes hacerlo intentando incorporar información que conoces sobre la estructura del problema. Así que si estás diseñando un motor de damas, Jonathan Schaeffer, que diseñó Chinook, el campeón informático de damas, te prometo que ese tipo sabe mucho de damas. Aporta muchos conocimientos. Ahora, en cierto sentido, los motores modernos de Go, se podría decir que no empiezan con ningún conocimiento previo sobre Go en absoluto. Tienen que conocer las reglas, por supuesto. Tienen que saber lo que está permitido hacer y lo que cuenta como ganar y lo que cuenta como perder, pero eso es todo. No tienen que tener ninguna información previa sobre cuál es una buena estrategia o algo parecido.

Tienen esta base de datos de juegos humanos existentes y, por supuesto, también tienen bases de datos autogeneradas en las que juegan contra sí mismos muchos millones de veces, y eso puede generar una base de datos aún mayor, diferentes versiones de sí mismos probándose contra sí mismos y perfeccionando su estrategia. Así que en realidad son dos paradigmas muy diferentes. ¿Intentamos comprender la estructura del proceso y utilizarla para predecir, o nos limitamos a observar los resultados anteriores e intentamos interpolar estadísticamente a partir de lo que hemos observado?

Yo llamo a lo primero ingeniería inversa y a lo segundo ajuste de curvas. No sé por qué digo que las llamo así. Se llaman así. (risas)[inaudible 00:15:26] En el libro establezco explícitamente esa tensión entre esas dos formas de análisis. Y creo que se ve más vívidamente, para mí, en el procesamiento del lenguaje natural, donde si usted está tratando de conseguir un ordenador para hacer una tarea de lenguaje, tradicionalmente, cualquier lenguaje hablado tiene mucha estructura. Las frases se componen de sustantivos y verbos que se agrupan de forma predecible. Aprendemos a diagramar una frase. ¿Lo hacías de niño? Era algo muy generacional.

Pero las herramientas lingüísticas modernas no hacen eso. Se limitan a tomar estos corpus gigantescos de lenguaje humano que los humanos han producido y, observando regularidades estadísticas, intentan averiguar qué palabra es más probable que venga después de las cinco anteriores. Y lo hacen sin que nadie les diga qué es un sustantivo o qué es un verbo. Son enfoques muy diferentes.

Sí, por supuesto. Y ahora quiero aprovechar esta idea de las interacciones entre humanos y máquinas. Si pensamos en el Go, por ejemplo, cuando se estaba entrenando a AlphaGo, lo único que hacía era mirar un número enorme de partidas, inicialmente partidas jugadas por seres humanos reales, y luego jugar contra sí mismo y probar estrategias y ese tipo de cosas. Pero la base sobre la que se construyó fue un conjunto de partidas humanas de Go. Y hay un momento fascinante cuando AlphaGo estaba jugando contra el campeón del mundo humano cuando hay un movimiento que AlphaGo hace que sale completamente del campo izquierdo. Y el mundo del Go, como puedes imaginar, sentado en el borde de su asiento, tratando de seguir esta gran intriga, se sorprendió por este movimiento que era tan revolucionario en la forma en que sugiere una interpretación completamente diferente del juego.

Si alguno de los presentes es un gran aficionado al fútbol o a algún deporte humano, la idea de que pueda haber millones de personas en todo el mundo sentadas al borde de su asiento, esperando a ver qué ocurre en una partida de Go puede parecer un poco extraña, pero confía en que eso ocurrió realmente, y que hubo esa especie de jadeo colectivo en todo el mundo cuando la gente dijo: "Vaya. Acaba de ocurrir algo asombroso".

Y es un fenómeno muy interesante que surja de algo que fundamentalmente sólo se entrenó con datos humanos, o que empezó entrenándose sólo con datos humanos. Pero a partir de ahí, se las arregló para producir algo que cambió la interpretación humana. Si algún humano hubiera hecho ese movimiento hace 100 años y se hubiera producido ese grito ahogado colectivo, entonces los siguientes 100 años de Go podrían haberse desarrollado de forma diferente, lo que significa que las entradas en las que AlphaGo habría sido entrenado habrían sido diferentes. AlphaGo habría sido un algoritmo diferente si lo hubiera hecho un humano 100 años antes. Así que estos bucles de retroalimentación son realmente fascinantes.

Jordan: Y, de hecho, aquí hay una pregunta empírica para la que no sé la respuesta, y que tu pregunta plantea. Es decir, hay diferentes comunidades de Go que juegan con diferentes estilos, lo mismo con el ajedrez o con cualquier juego. No sé si se entrena un motor en una comunidad de juego frente a otra comunidad de juego diferente, ¿tienden a converger el uno en el otro y a llegar a estrategias más o menos similares, o tal vez se verían motores muy buenos pero con estilos bastante diferentes entrenados en los dos corpus diferentes? Ciertamente, sabemos que en el lenguaje eso es muy cierto. Si entrenas diferentes corpus, obtienes diferentes tipos de motores de generación de texto. Y en realidad no sé si ese tipo de experimento se ha hecho en juegos de este tipo.

¿Pueden ser mejores las ilustraciones impresas a máquina?

Brooke: Sí, yo tampoco lo sé, pero pienso en algo como... Había un algoritmo de IA que fue entrenado esencialmente para falsificar Rembrandts. No sé si has seguido esto. Básicamente hicieron escaneos 3D de pinturas de Rembrandt y trataron de crear un algoritmo que pudiera construir un nuevo Rembrandt. No sólo copiar una obra existente, sino crear una nueva obra que fuera lo suficientemente convincente como para engañar a un experto.

Y de hecho, cuando hicieron que algún experto en Rembrandt de renombre mundial mirara lo que se había producido con una impresora 3D para que tuviera profundidad en la pintura, lo que me pareció superguay, el maestro lo miró y dijo: "Oh, esto es muy interesante. Esto se parece a un Rembrandt de este período y este tipo de cosas, pero nunca he visto este antes". Y así, de hecho, tuvo éxito. Pero una de las cosas que la máquina no hizo, lo que muchos artistas hacen, es mirar hacia atrás en sus obras anteriores y decir: "Bueno, esto es una mierda total. Voy a hacer algo absolutamente diferente".

Me recuerda esta gran cita: "Los artistas mediocres toman prestado, los verdaderos maestros roban". Tienes que apropiártelo. Tiene que convertirse en algo propio. Y eso es algo que no se ve en el caso de Rembrandt, y eso es algo que en el procesamiento del lenguaje natural, por lo que he visto de la escritura de historias generadas por ordenador, todavía está en pañales. No veo nada ahí donde el ordenador haya conseguido convertirse en el maestro que roba y se apropia del estilo para sí mismo. Pero en el caso de Go, parece como si estuviéramos en esa frontera, cuando se produjo ese gran momento de jadeo colectivo, que fue el motor de Go saltando por encima de Rembrandt.

Pero aquí está la cosa, Brooke. Recuerda, ¿quién está jadeando en ese escenario? No es la máquina. Somos nosotros. Ese sentimiento de sorpresa, ese sentimiento de que algo es realmente nuevo aquí, ese es nuestro sentimiento. Así que para mí no está tan claro. Después de todo, en el caso de Rembrandt, estás diciendo que el ordenador está haciendo lo que podríamos llamar interpolación, rellenando entre los ejemplos existentes y haciendo algo que podríamos ver es disminuir todo el proceso de la pintura de una manera, el Rembrandt medio, algo que está, diríamos en matemáticas, en el casco convexo de un montón de Rembrandts existentes o algo así.

Y así, en ese caso, el maestro mira y dice: "Sí, esto es algo que encaja en alguna nube existente de Rembrandt". Pero lo que está haciendo la máquina quizá no sea tan diferente, y entonces podrías decir: "Oh, quizá lo que ocurre en realidad es que ese movimiento sorprendente ante el que todo el mundo se quedó boquiabierto, quizá ese movimiento sea de hecho una interpolación que encaja perfectamente en la nube de movimientos humanos existentes, y resulta que no lo hemos percibido".

El mapa electoral y el gerrymandering

Brooke: Sí, es interesante. Yo también preguntaría a los maestros artistas, si pudiera preguntarle a Rembrandt: "¿Alguna vez te sorprendieron las cosas que se te ocurrieron?". ¿Era Rembrandt una persona humilde que diría: "Sí, por supuesto. Esto fue muy sorprendente para mí. Nunca esperé que tuviera tanto éxito". O sería un arrogante que diría: "Oh, esto no es más que bazofia, y todo el mundo está impresionado sólo porque son muy débiles".

Pero pasando ahora de momentos en los que la IA nos observa y aprende de nosotros, a momentos en los que nosotros observamos a la IA y aprendemos de ella, hablemos ahora del ejemplo del gerrymandering. En el libro, usted habla mucho de equipos de analistas políticos que se sientan a esculpir mapas para crear circunscripciones muy ventajosas, como las llamaríamos en Canadá, o distritos, como los llamaríamos en Estados Unidos, para crear esencialmente una especie de amortiguador contra los vientos adversos en los patrones de votación.

Así que si todo el mundo se inclina por tu partido, todo te irá bien, pero los vientos tienen que soplar bastante fuerte en contra para que empiece a tener un efecto real. Háblenos un poco del proceso de gerrymandering y de cómo se introdujo la IA en ese ámbito.

Jordan: Sí, absolutamente. Por cierto, no ocurre en Canadá porque se han introducido reformas para evitarlo, pero sin duda solía ocurrir. De hecho, en el libro incluyo un poema de The Toronto Globe del siglo XIX. Era una práctica tan conocida que había un poema titulado Hive the Grits. ¿Se sigue llamando sémola a los liberales en Canadá hoy en día, o es un término anticuado?

Brooke: Sí, pero sólo cuando llevamos nuestras largas medias de nylon blancas hasta la rodilla y nuestros zapatos de cuero negro. (risas)

Jordan: (risas) Pero sí, "Hive the Grits, mételos a todos en colmenas para que se reduzca su poder legislativo", es como se solía hacer en Canadá, igual que se hace actualmente en Estados Unidos, antes de que se introdujeran reformas. Pero sí, absolutamente. Esto es algo que ha sido, de vez en cuando, un tema muy candente en la política estadounidense desde antes de que existiera Estados Unidos, en realidad. Desde la época colonial.

Pero ahora está especialmente de moda en parte porque se ha vuelto más matemático, tanto por parte de la gente que lo hace como por parte de la gente que intenta reformarlo. Así que es curioso, no estoy seguro de si diría que se trata de IA per se, pero sí de algo parecido: lo que haces cuando intentas escribir un buen motor de Go es explorar el espacio de todas las estrategias posibles para jugar al Go e intentar encontrar la mejor, la mejor según alguna métrica.

Como usted dice, en ese caso, la métrica es muy objetiva. Lo que hay que hacer para entender el gerrymandering es entender de alguna manera el espacio de todas las formas posibles de dividir un estado en distritos. Y eso, al igual que el espacio de las estrategias de Go, es simplemente un espacio insanamente, inmanejable, incomputablemente enorme. Eso es lo que los dos problemas tienen en común, eso y el hecho de que usted está tratando de explorar ese espacio con el fin de encontrar, si usted es el gerrymanderer, si usted es la persona que trata de obtener una ventaja para su partido, usted está tratando de explorar ese espacio para encontrar tal vez el mapa que es mejor para sus propósitos, que es mejor para ganar.

Así que, en ese sentido, está bastante cerca. Si eres el reformador, estás haciendo algo bastante diferente. Usted está explorando el espacio al azar, haciendo lo que se llama un paseo al azar, que es la idea geométrica fundamental que se ejecuta a través del libro en muchos, muchos, muchos contextos diferentes, con el fin de decir: "Hey mira, tengo mi equipo, que no le importa qué partido gana, para generar 20.000 mapas diferentes ". Y en algunos de ellos, este partido lo hizo un poco mejor, y en algunos de ellos, este partido lo hizo un poco peor, pero aquí está el rango entre este número de escaños y este número de escaños es por lo general lo que sucedió. Como todo en probabilidad, se obtiene una bonita curva en forma de campana. Así que esto es lo que pasó cuando dibujamos los distritos sin el objetivo de la ventaja partidista, y aquí están los distritos que realmente tenemos. Están por aquí. Por supuesto estamos en SoundCloud, así que no puedes ver el gesto extravagante que estoy haciendo con mi mano, pero imagina que estoy señalando el borde de la curva de campana. Y por los métodos estadísticos habituales, diciendo: "Bueno, esto no sucedió por casualidad. Estos distritos fueron elegidos explícitamente para dar una enorme mega ventaja a un partido". Y eso es lo que podemos hacer con los métodos geométricos.

Brooke: Sí, me gustó mucho ese capítulo, aunque sólo sea por la razón de que estilísticamente había tantos momentos de cebo y cambio, donde era como, "Bueno, ¿y si intentamos esta métrica?" Y mientras lo leía, pensaba, oh sí, esa métrica parece que va a ser realmente buena. Y luego leo en unas pocas páginas es como, "Aquí están todas las razones que la métrica es terrible." Bueno, bueno, me han decepcionado. Pero espera, hay esta otra métrica. Estoy como, "Oh, está bien, genial. Aquí está el que va a ser grande ". Sigo leyendo unas páginas, y resulta que esa también es terrible. Así que no quiero arruinárselo a nadie que vaya a sentarse y leer el libro, así que alerta de spoiler, la métrica a la que llegas es sobre la eficiencia del voto. ¿Puedes hablar un poco sobre la eficiencia del voto?

Por mucho que quieras, no puedes controlar cuánta gente de tu estado va a votar a tu partido o al otro. Bueno, supongo que en un loco mundo ideal, podrías adoptar políticas populares que gusten a la gente y así afectar al número de personas que votan a tu partido, pero digamos que eso está descartado. (Risas) Digamos que estás comprometido a hacer lo que sea que hayas decidido hacer, independientemente de la voluntad pública. Así que tienes que asegurar tu mayoría legislativa de alguna otra manera, en contra de la posible voluntad de un electorado posiblemente hostil. Y la mejor manera de hacerlo es asegurarse de que haya distritos en los que el partido de la oposición tenga una gran proporción de votos. Quieres utilizar muchos de sus votantes en estos distritos que les pertenecen casi en su totalidad, donde el 80, 90% de los votantes pertenecen a un partido, dejando un residuo de muchos distritos donde tienes una modesta ventaja, suficiente para que vayas a ganar casi todos ellos.

Así que si tus oponentes tienen un pequeño número de distritos donde tienen el 90% de los votos y tú tienes un montón de distritos donde ganas el 55% de los votos, vas a tener una enorme mayoría legislativa aunque, a nivel estatal, pueda haber un número igual de votantes. Y, de hecho, ni siquiera sé si en la política canadiense existen esas circunscripciones monoculturales en las que un partido domina absolutamente hasta un 75%, 80, 85%. Eso existe en Estados Unidos.

Brooke: Sí, también existe en Canadá. Si pienso en Alberta y Saskatchewan, por ejemplo, ni un solo candidato liberal fue elegido en las últimas elecciones en ninguna de esas dos provincias. Creo que sólo hay un liberal al oeste de Ontario, antes de llegar a Columbia Británica, así que en el centro hay una enorme porción de conservadores azules. Así que tienes exactamente este tipo de cosas. Pero sí, podemos hablar de política canadiense en otro programa, quizás tomando una cerveza. (risas)

Se trata de algo interesante, ya que estamos hablando de la delimitación de distritos, que es una actividad realizada por seres humanos, y no se está sugiriendo que se utilice un algoritmo de IA o incluso cualquier tipo de enfoque algorítmico totalmente explícito, ya sea impulsado por IA o no. Más bien, la IA se utiliza como una forma de poner algunos límites a la acción humana. Así que en lugar de que la IA nos observe y aprenda a jugar por sí misma, como en el caso del Go, lo que estamos haciendo aquí es dejar que la IA camine a sus anchas y nosotros la observamos para que aprenda sobre nuestras propias estrategias y nos ayude a tomar decisiones informadas. En este caso, se trata de tomar este paseo al azar, como usted ha mencionado, la creación de miles y miles de posibles mapas, y luego ver donde los mapas dibujados por humanos caen dentro de esa distribución para averiguar la medida en que es plausible que tal mapa podría haber sido impulsado sin ser muy, muy fuertemente dibujado sobre la base de la ventaja partidista.

Jordan: Derecha, y en realidad es interesante, porque usted está dibujando esta oposición, que me siento como una forma muy útil de pensar en ello, pero también creo que en cualquier problema del mundo real, ambas tendencias van a estar allí, ¿verdad? Así que usted describió la cosa sobre el juego como la máquina aprendiendo de nosotros, aprendiendo de este corpus de juegos jugados por humanos que tiene. Pero nosotros también observamos cómo juega la máquina y aprendemos de ella y obtenemos ideas, así que hay flujo en ambas direcciones.

Y del mismo modo... Bueno, veamos si puedo plantear este caso para la situación del gerrymandering. Supongo que es cierto que la máquina, en cierto sentido, no se supone que tenga demasiado en cuenta la forma en que los seres humanos han tomado previamente las decisiones sobre la delimitación de distritos. Quiero decir, la gente vive donde vive, y esto es en realidad una cosa que hace que el problema sea tan difícil, que cuando la gente antes trataba de llegar a estas métricas muy abstractas de, "¿es este mapa justo?", Creo que la gente diría algo como lo siguiente. Ellos dirían: "Bueno, mira, no hicimos que hubiera ciudades que fueran 80% demócratas, y no hicimos que hubiera regiones que fueran 80% republicanas. Eso simplemente ocurrió. La gente vive donde vive. Eligen vivir donde viven. Pueden elegir vivir rodeados de gente políticamente afín a ellos. ¿Por qué dices que hay algo nefasto en esto? Tal vez sea así".

Bueno, una de las cosas buenas de esta técnica del paseo aleatorio es que tiene algo que ver con las elecciones humanas, porque tiene en cuenta dónde vive la gente y a quién votaron en el pasado. Y eso significa que podemos separar esos dos efectos. Wisconsin es un gran ejemplo. Escribí mucho sobre Wisconsin, mi estado, en el libro, tanto porque es un lugar con muy alto perfil de gerrymandering y casos judiciales sobre gerrymandering, pero también porque es un estado cuya población tradicionalmente ha estado muy cerca de dividirse por igual entre los dos principales partidos de EE.UU.. Y lo que muestra el análisis es que el hecho de que muchos demócratas se concentren en la ciudad en la que vivo, Madison, y en Milwaukee, la otra gran ciudad de Wisconsin, da a los republicanos de Wisconsin una ventaja que no procede de un gerrymandering intencionado. Pero también permite mostrar cuán grande es esa ventaja, y es aproximadamente la mitad del tamaño de la ventaja que realmente obtienen. Así que duplican el tamaño de su ventaja mediante el trazado estratégico de líneas. Y eso es lo bueno. Creo que antes de estas técnicas, un reformador habría dicho: "Es evidente que gerrymandered", y los republicanos habrían dicho: "No, eso es sólo lo que era debido a donde la gente eligió para vivir ". Y ahora podemos distinguir entre esas dos hipótesis.

Brooke: Sí, la otra cosa sobre el enfoque de paseo aleatorio es que a medida que la gente comienza a agruparse en este tipo de "clasificación política", la propia curva de campana se moverá con ella.

Exactamente.

Brooke: Así que está ahí. Está en los números. No es como si se supone que hay un número mágico en el medio. Es sensible. Es sensible a ese tipo de resultados de clasificación.

El poder del diseño del sistema electoral

Jordan: La gente que trabaja en esto, y yo soy un divulgador, hablo con los matemáticos que realmente hacen este trabajo y desarrollan estos algoritmos, y definitivamente los profesionales no ven lo que están haciendo como, "Oh, estamos aquí sólo para proporcionar pruebas para los casos judiciales sobre los distritos". Ven lo que están haciendo como una forma novedosa de hacer ciencia social y entender cuestiones como, ¿cuál sería el efecto político de ciertos tipos de migraciones y ciertos tipos de cambios de población?

Otra cuestión realmente interesante, y en realidad, esto es directamente en la ciencia de la decisión, es la mayoría de los trabajos hasta ahora más o menos da por sentado que la forma en que las elecciones se llevan a cabo, es lo que es. En este sistema muy simple llamado "first-past-the-post" en casi todas las elecciones de EE.UU. donde todo el mundo vota por su primera opción de candidato, y quien obtiene el mayor número de votos gana. Muy simple, y significa que cualquiera que no pertenezca a uno de los dos grandes partidos no es esencialmente un factor, excepto en la medida en que pueda atraer a los candidatos de uno de los dos partidos principales.

Creo que algo muy interesante de cara al futuro es que, para mi sorpresa, los matemáticos y los politólogos llevan años hablando de sistemas de votación alternativos. Esta idea está ganando terreno en Estados Unidos. La ciudad de Nueva York va a cambiar este año a la votación por orden de preferencia en todas sus elecciones.

Todo el estado de Maine cambió el año pasado. Creo que una pregunta realmente interesante para el futuro es: ¿cómo afecta el cambio radical de la forma en que votamos a la capacidad de manipular los distritos electorales? Y creo que una cosa interesante acerca de estas técnicas de paseo aleatorio es que te da la capacidad de predecir que por adelantado en lugar de simplemente dejar que suceda.

Brooke: Sin saberlo, estás metiendo el dedo en una herida muy sensible para los canadienses. (risas)

Jordan: Oh, porque había una cosa en BC, ¿verdad? ¿No hubo un referéndum en la Columbia Británica?

Sí. También está el ejemplo de la Columbia Británica, donde parece que se ha avanzado un poco más, pero a nivel federal en 2015, el gobierno actual se presentó con una plataforma que incluía la reforma electoral, que luego murió antes de llegar al Parlamento.

Jordan: ¿Porque renegaron personas que habían dicho que estaban a favor?

Brooke: Ah... No quiero entrar demasiado en eso, (risas) pero quiero decir, las razones que hay detrás... Parte de ello es que los sistemas alternativos son más difíciles de entender. No necesariamente de forma inherente, pero si nos encontramos en una situación en la que la base electoral no está muy comprometida, y hay preguntas dentro de la población incluso sobre cómo funciona el sistema actual relativamente simple, hay un ángulo muy conductual en esto, preguntándose hasta qué punto un sistema más complicado que nos permite mapear mejor este tipo de contornos complejos de preferencia de los votantes crea ruido en los datos porque la gente realmente no entiende cómo sus aportaciones se introducen en el sistema. Y esa fue una de las cuestiones aquí en Canadá, es que la gente se preocupaba de que la cuestión del ruido, quiero decir, nunca se enmarcó en este lenguaje, por supuesto, pero que el ruido de un sistema más complejo en realidad anularía los beneficios de ser capaz de mapear los contornos más de cerca.

Jordan: No quiero meter más el dedo en la llaga ni moverlo ni nada por el estilo, pero ¿se consultó a los principales científicos canadienses especializados en la toma de decisiones, como usted, sobre cuáles serían los efectos desde el punto de vista de la interacción de los sistemas humanos?

Brooke: Soy un hombre joven, Jordan. (risas) Incluso en 2015, no era el renombrado científico de decisiones que soy hoy (risas). Vale, pero cambiemos un poco de marcha.

Interludio

Hola y bienvenidos de nuevo al Rincón de las Decisiones. En este episodio del podcast, estoy hablando de todo lo relacionado con las matemáticas y la geometría con Jordan Ellenberg; autor de best-sellers y profesor de Matemáticas en la Universidad de Wisconsin en Madison. Hasta ahora hemos hablado de los distintos tipos de problemas que pueden abordar los seres humanos y la Inteligencia Artificial, incluida la muy pertinente cuestión del diseño de sistemas electorales y el gerrymandering. Próximamente profundizaremos un poco más en la tensión entre el "Hombre" y la "Máquina", y nos preguntaremos si existe la posibilidad de que coexistamos e incluso de que aprendamos unos de otros. Siga con nosotros.

El hombre contra la máquina: el caso de los vehículos autónomos

Brooke: Sí, así que vamos a cambiar de marcha un poco. Si estamos pensando en diferentes circunstancias en las que podemos desplegar herramientas de IA, o cualquier tipo de herramientas algorítmicas, ¿cuáles son las características de estas situaciones a las que debemos prestar atención para que en el futuro podamos saber si debemos inclinarnos hacia la creación de una situación de "nosotros vigilando a la máquina" o una situación del tipo "la máquina vigilándonos a nosotros"?

Jordan: Sí, es una buena pregunta, y creo que mi instinto me dice, y lo estoy resolviendo mientras lo digo, que las situaciones en las que las máquinas quizá requieran menos supervisión son aquellas, exactamente como tú dices, en las que los objetivos están más claramente delineados y acordados. En algo como un juego, un juego como las damas o el ajedrez o Go, donde hemos resuelto la cuestión de lo que significa ganar, y hemos resuelto la cuestión de lo que significa tener éxito. Creo que en una situación en la que los propios objetivos son discutidos por los humanos, es ahí donde, en cierto sentido, podemos observar al ordenador y aprender de él para probar cosas diferentes y ver si la máquina que construimos consigue algo que nosotros queremos. Pero al final, habrá algún elemento de juicio humano y supervisión humana del que no querrás deshacerte.

Así que una cosa en términos de votación, y luego voy a cambiar a un tema diferente, una cosa que mucha gente que piensa en este problema dice, es que dirán: "Bueno, mira, ¿por qué no dejamos que el ordenador dibuje los mapas, dado que puede hacerlo, y dado que podemos programarlo para que no le importe qué partido sale adelante?". Y la respuesta es política. Y a veces en mi comunidad, político significa malo, pero político no es malo. En realidad es una pregunta sobre política. ¿Por qué no debería ser político? Y la respuesta es que creo que ni los votantes, ni los cargos electos, ni los tribunales van a aceptar realmente entregar esta responsabilidad a una máquina. Y en realidad, he llegado a ver que eso es bastante válido. En realidad no queremos hacerlo sin supervisión humana. Creo que un caso intermedio interesante, dígame lo que piensa, es la cuestión de los vehículos autónomos. Porque allí, lo que cuenta como éxito es probablemente más claro y menos disputado que la votación, pero no tan claro y no tan indiscutible como los juegos que estamos jugando ¿verdad? Ciertamente hay algunos modos claros de fracaso de la conducción autónoma. Y creo que por esa misma razón, se discute acaloradamente sobre si el objetivo es tener un verdadero coche autónomo que realmente, sin un humano dentro, vaya a sitios y haga cosas. ¿O se trata siempre de algo en lo que haya cierta interacción entre el ser humano y la máquina, una conducción supervisada por el ser humano? No voy a entrar en ese debate, pero sin duda lo es.

Brooke: Sí. Creo que mi posición al respecto es que el juego final es uno quizás más fácil de plantear, en el que si dijéramos: "Queremos replantear completamente el tránsito desde los cimientos", como si miles y miles de años de historia humana no nos hubieran llevado al punto en el que estamos ahora, la respuesta no sería tener la mayoría de los coches en la carretera conducidos por humanos y algunos vehículos en la carretera conducidos por máquinas.

El problema en esta situación somos nosotros. Nunca pensaríamos en un sistema en el que tuviéramos conductores máquina, en el que hubiera coches individuales que tuvieran que tomar decisiones. Una máquina resolvería esto como un problema de sistemas. Hay un sistema que toma decisiones para el sistema en su conjunto, no un montón de actores independientes que necesitan propioceptarse unos a otros. El reto es que las máquinas se introducen ahora en una circunstancia en la que los humanos actúan individualmente y se propioceptan unos a otros con el beneficio de un gran historial que nos ha llevado hasta donde estamos, y también de un montón de sesgos de comportamiento bien documentados que nos hacen estar de acuerdo con montones y montones de muertes en la carretera. En cambio, una sola muerte causada por un vehículo autónomo tiene un gran peso en la psique del público. Una pregunta que no he visto plantearse es, de todos los kilómetros recorridos por los vehículos autónomos, si esos kilómetros hubieran sido conducidos por humanos, ¿cuántas muertes deberíamos haber esperado ver, y cómo se compara eso con lo que han hecho los vehículos autónomos? Esa no es en absoluto la narrativa.

Jordan: Oh, si no has visto esa pregunta, eso demuestra que no pasas el rato en el Twitter de fans de Elon Musk. Te prometo que esa misma cuestión se discute bastante.

Brooke: ¿Y cuál es la respuesta?

Jordan: Oh, no me acuerdo, porque no soy realmente parte del Twitter de fans de Elon Musk, pero quiero decir, uno lo ve. Es una especie de aparece en la alimentación de uno. No, creo que es bastante bajo. En realidad, yo estaba viendo una discusión sobre esto. Quiero decir, usted puede hacer ese cálculo, pero, por supuesto, en este momento, los viajes de vehículos autónomos son cualquier cosa menos una muestra aleatoria de todos los viajes.

Brooke: Correcto.

Jordan: ¿Cierto? ¿Cuándo se está utilizando? Obviamente se está utilizando en un coche bastante nuevo, porque el coche que lo tiene es nuevo, por lo que un coche que en otros aspectos tiene mejores características de seguridad. Se está utilizando en condiciones diferentes. La gente probablemente no está activando la autonomía total en medio de una tormenta eléctrica en la oscuridad.

Sí. Otra cosa es que el tipo de errores que cometen los vehículos autónomos es muy improbable que los cometan los humanos, pero los vehículos autónomos evitan excepcionalmente bien los errores que los humanos cometen en una proporción mucho mayor. Por ejemplo, y volviendo al ejemplo del ajedrez, creo que uno de los primeros algoritmos que fue diseñado para jugar al ajedrez, la estrategia que un jugador humano explotó con el fin de vencer a ese algoritmo fue esencialmente hacer los movimientos que vienen con el mayor coste computacional para el oponente algorítmico. Y lo que acababa ocurriendo es que el algoritmo se tomaba tanto tiempo en sus primeras jugadas, cuando los requisitos computacionales eran tan altos, que cuando llegaba a las jugadas posteriores, tenía que repartir su tiempo computacional. Así que el jugador humano lo arrastró y lo arrastró y lo arrastró hasta que al ordenador se le acabó el tiempo, y entonces tuvo que moverse muy, muy erráticamente de una forma que no era óptima desde el punto de vista computacional.

Este es el tipo de cosas que en este momento, la potencia de cálculo ha superado ese tipo de límite. Es difícil para un ser humano utilizar ese tipo de estrategia más porque las computadoras simplemente correr tan rápido. Pero es el tipo de cosa en la que un humano explotó algo que otro humano habría captado y tomado algún tipo de estrategia de compensación. Pero los ordenadores aprenden de una forma distinta a la nuestra, así que las cosas que nos parecen obvias no siempre aparecen tan claramente en el algoritmo.

Definición de "dificultad

Jordan: Sí, y en realidad esto realmente se relaciona con algo de lo que hablo en el libro, que es esta noción de dificultad. Tal vez aquí es donde me pongo un poco filosófico, pero ¿qué significa que un problema sea difícil? Y creo que tenemos una especie de modelo mental, que está bastante empobrecido y no es lo suficientemente bueno, de la dificultad como una especie de línea. Las cosas se ordenan de menor a mayor dificultad. Pero, de hecho, esta no es una descripción muy buena de lo que es la dificultad, porque diferentes tipos de tareas son difíciles de diferentes maneras, y diferentes tipos de tareas son difíciles para diferentes tipos de seres pensantes. Así que creo que hay una manera en que la gente ve algo como AlphaGo y dice: "Mierda, esto es todo. Los ordenadores son más listos que nosotros ahora, en esta cosa tan difícil, ser bueno en Go. Para el ordenador es fácil, así que los ordenadores son mejores que nosotros".

No. Esa es una tarea. Hay otras tareas que los humanos, en este momento, encuentran muy fáciles y las máquinas extremadamente difíciles. Así que creo que es muy saludable, en realidad, porque esta diferencia entre las diferentes formas de aprendizaje, como usted dice, realmente sólo pone en nuestra cara que no hay naturaleza lineal de la dificultad. Cada vez que dices: "Un problema es difícil", tienes que decir: "¿Difícil para quién?".

Brooke: Sí, eso plantea algo realmente interesante sobre la forma en que la IA se despliega en el mercado. Si pensamos en la forma en que se gestionan los almacenes de Amazon, es un algoritmo de IA el que envía las órdenes a las personas para que vayan a recoger las cosas, pero la razón por la que sigue habiendo personas que van a recoger las cosas es que las personas siguen siendo el "ordenador" más eficiente para desplazarse a un lugar designado, abrir una caja, identificar visualmente, muy, muy rápidamente lo que hay dentro de la caja, coger solo lo relevante, cerrar la caja y volver a guardarla.

Jordan: Huh. Yo no sabía eso. ¿Es eso para una máquina un problema difícil?

Brooke: Sí. Todavía no es económicamente eficiente construir una máquina que sustituya a ese trabajador, lo que también dice mucho de cómo tratamos a ese trabajador.

Jordan: Creo haber leído que doblar una camisa es otro problema parecido, que es algo que consideramos fácil, pero que aparentemente es increíblemente difícil de conseguir que lo haga un dispositivo mecánico.

Brooke: Sí, lavar los platos también. La cantidad correcta de presión para aplicar a un plato, para mantenerlo mientras se lava, es extremadamente difícil.

Dios mío. ¿Hay blooper reels divertidísimos de robots intentando lavar platos y destrozándolos todos? Lo vería durante horas. (risas)

Máquinas que aprenden de nosotros y nosotros que aprendemos de las máquinas

Brooke: Bueno, cuando termines aquí, ya sabes lo que te espera en las próximas horas. Bien, ¿cómo podemos crear las condiciones óptimas para que los humanos y las máquinas aprendan unos de otros? Mi sensación es que parte de ello tiene que ver con abrazar esta noción de dificultad a lo largo de diferentes dimensiones, difícil para quién y de qué manera. Y en parte...

Jordan: Y por cierto, cuando dices dimensiones, ya la geometría está ahí. Estás haciendo una afirmación geométrica cuando dices que hay más de una dimensión. Perdón por interrumpir. Tenía que decirlo. Continúa.

Brooke: Sí, por supuesto. Y el otro es tal vez sobre, como hemos discutido antes, cómo explícitamente podemos declarar la condición de meta. Por ejemplo, y tal vez las consideraciones que van en ello también. Así que si pensamos, por ejemplo, en las decisiones sobre a quién se debe conceder un crédito, podríamos decir: "La condición del objetivo puede ser bastante explícita: no correr riesgos por encima de un cierto umbral", pero eso no es todo lo que entra en las decisiones sobre la concesión de crédito. El crédito, especialmente para la compra de vivienda, la historia de quién obtiene crédito y quién no en términos de propiedad de la vivienda en Estados Unidos, así como en Canadá, tiene unas dimensiones raciales muy claras. Hay una cuestión de equidad y una cuestión histórica que realmente hay que tener en cuenta. La equidad está profundamente arraigada, incluso si en la superficie parece ser algo que puede establecerse muy clara y explícitamente como una regla con la que una máquina puede funcionar. Así que esa es una. Y la otra es en torno a los datos de entrada que se utilizan para informar la decisión. También se ha escrito mucho sobre este tema: si se incluye el código postal de una persona para calcular su riesgo, se va a obtener un montón de datos con sesgo racial, no necesariamente de forma intencionada, pero junto con el código postal hay tantos factores altamente correlacionados que se acabarán obteniendo resultados con sesgo racial, aunque la raza nunca se haya integrado explícitamente en el modelo.

Jordan: Sí, y creo que lo que dices se refiere exactamente a por qué nunca va a haber una respuesta definitiva a "quién vigila a quién", como quién manda y quién está sometido. Creo que, al final, siempre va a haber una interacción entre el ser humano y el dispositivo, por las razones que tú dices. No queremos hacer lo que podríamos llamar un "lavado de culpas", que es cuando algo malo sucede, pero de alguna manera le damos la toma de decisiones a un ser que, por definición, no tiene estatus moral y no puede ser culpado de nada, una máquina. Y podrías decir: "Bueno, no me culpes a mí". ¿A quién debería culpar? A la máquina no, porque no puedes culpar a la máquina porque es una máquina, ¿verdad? Así que de alguna manera has hecho desaparecer la culpa. Pero en realidad no, es como si el conejo siempre hubiera estado ahí, aunque lo pusieras en la chistera. Así que es una pregunta complicada, obviamente. Pero creo que en parte es como tú dices, creo que debes abandonar la idea de que al final va a ser una calle de sentido único y tienes que averiguar en qué dirección va la calle. Creo que tienes que aceptar que va a haber iteraciones de responsabilidad y supervisión entre el ser humano y la máquina. Y tal vez una cosa que yo diría, y esta es una de las partes del aprendizaje automático que me parece más interesante, es que hablamos del flujo de información de la máquina al ser humano como seres humanos que observan la máquina y aprenden de sus resultados. Tenemos que conformarnos con eso, y no creo que debamos conformarnos con eso.

Creo que la gente trabaja en lo que se llama aprendizaje automático legible, y en decir: "¿hasta qué punto podemos entender no solo lo que nos dice la máquina, no solo lo que nos dice que es un gato y lo que nos dice que es un perro, sino cuáles son sus entrañas? ¿Qué hace realmente por dentro?". Y, por supuesto, eso es increíblemente complicado. Me gusta pensar en ello en términos de depuración, algo que cualquiera de nosotros que haya programado sabe lo que es. Y un tipo de programa que solía escribir cuando era niño, como 60 líneas de BASIC, la cuestión era, encontrar la línea de código que está creando la salida jodida. Encuentre el lugar donde escribí 50 vaya a 50. "Oops, no, no hagas eso." En un algoritmo moderno de aprendizaje automático, no podemos realmente decir, "Oh, esta neurona, ese es el problema. Esa es la que está metiendo la pata." No es modular de la misma manera.

Esto es sólo un sueño, supongo, pero me siento como el futuro de la depuración, el futuro de tratar de entender lo que está pasando bajo el capó, es trabajar con un sistema que está claramente llevando a cabo alguna complicada, y me atrevería a decir tarea "cognitiva", pero que no está claramente dividido en módulos que se puede mirar de uno en uno, y sin embargo, tal vez lo que está haciendo es claramente disfuncional, y tienes que tratar de averiguar, "Bueno, ¿qué intervención puedo hacer para que sea más funcional?" ¿Te suena a algo? Eso es psicología clínica. Eso es literalmente lo que todo ese campo es. Y creo que probablemente estamos viendo un futuro donde hay algo que se parece más a la psicología clínica, y tal vez incluso la psicoterapia. ¿No sería un desarrollo genial con la IA? Las máquinas necesitarán terapeutas, porque no se pueden depurar como se depura un programa BASIC de 60 líneas.

Brooke: Sí, especialmente aquellos algoritmos que están aprendiendo de nosotros, definitivamente van a necesitar terapia.

Jordan: Derecha. (risas)

Brooke: Pero en términos de los pasos prácticos, para alguien que está pensando en cómo utilizar algoritmos y cómo utilizar la IA para llegar a la siguiente mejor solución, no sólo para decir: "Necesitamos la solución que va a gobernar a todos para siempre", pero "Estamos de pie donde estamos ahora, y queremos estar en algún lugar mejor mañana ". El punto de partida de nuestra discusión parece ser que lo primero es diagnosticar ¿qué tipo de problema es el que estás resolviendo?

¿Es el tipo de problema que tiene una condición de éxito que puede hacerse totalmente explícita, o es uno en el que va a haber una especie de factores de mediación que inherentemente tienen que ir para averiguar si algo es la solución correcta, o cuál gana, por ejemplo? Si se trata de una situación en la que no hay factores mediadores, la inteligencia artificial y los algoritmos serán sin duda una buena apuesta. Si hay pocos factores mediadores, la IA con cierta supervisión humana es probablemente un buen punto de partida.

A medida que comienzas a tener más factores mediadores que no puedes articular explícitamente y sopesar frente a los demás a medida que creas este tipo de nube de condiciones que deben cumplirse, ahí es donde te mueves cada vez más hacia algo en lo que probablemente vas a seguir confiando en los responsables humanos de la toma de decisiones. Pero entonces usted debe preguntarse: "Bueno, de esta nube de condiciones, ¿hay algunos de allí que puedo hacer de una manera muy explícita que puedo parcelar y enviar al algoritmo para hacer su trabajo? Y entonces lo utilizaré como una forma de reflexionar sobre lo que están haciendo los que toman las decisiones humanas". ¿Te parece correcto?

Jordan: Sí, creo que sí. Quizá diga esto; lo único que añadiría como una especie de eslogan es que creo que hay una cierta asimetría, que como tú dices, algunos problemas se parecen más a las damas y otros a la redistribución de distritos. Pero creo, para ser sincero, que la mayor parte del mundo no se parece tanto a las damas. Es un campo de pruebas increíblemente importante, pero creo que simplemente observando el mundo y la forma en que la gente habla de las cosas, creo que hay más problemas de gente que confunde cosas que no se parecen a las damas con damas que gente que confunde damas con cosas que no se parecen a las damas.

Así que yo diría que se requiere un verdadero tipo de humildad. Y si uno cree que sabe exactamente cuál es el objetivo, siempre es bueno dar un paso atrás y preguntarse si el objetivo está tan bien definido y es tan indiscutible como uno cree.

Brooke: Creo que es una nota brillante para terminar. Jordan, muchas gracias por esta conversación. Ha sido genial.

Gracias. He aprendido mucho. Fue increíble.

Queremos conocer su opinión. Si disfruta con estos podcasts, háganoslo saber. Envíe un correo electrónico a nuestro editor con sus comentarios, sugerencias, recomendaciones y opiniones sobre el debate.