"¿Debería tu Uber autoconducido infringir las normas de tráfico para incorporarse a la autopista? ¿Hasta qué punto son los algoritmos tan propensos como los humanos a patrones discriminatorios de pensamiento y cómo podría un organismo regulador tomar esta determinación? Y lo que es más importante, a medida que se delegan más tareas en máquinas inteligentes, ¿hasta qué punto podremos influir en sus decisiones quienes no participamos directamente en el desarrollo de estas tecnologías? Con estas preguntas en mente, nos complace haber adaptado el siguiente artículo para su publicación en TDL. - Andrew Lewis, redactor jef
e".
Nos encontramos en un momento decisivo para el vasto y desconocido futuro digital de la sociedad. Una poderosa tecnología, la inteligencia artificial (IA), ha resurgido de sus propias cenizas, gracias en gran medida a los avances en las redes neuronales modeladas libremente a partir del cerebro humano. La IA puede encontrar patrones en conjuntos masivos de datos no estructurados y mejorar su propio rendimiento a medida que dispone de más datos. Puede identificar objetos con rapidez y precisión, y hacer cada vez más y mejores recomendaciones, mejorando la toma de decisiones y reduciendo al mínimo la interferencia de seres humanos complicados y políticos. Esto plantea grandes interrogantes sobre el grado de elección e inclusión humana en las próximas décadas. ¿Cómo participarán y estarán representados los seres humanos de todos los niveles de poder e ingresos? ¿Cómo gobernaremos este nuevo mundo de máquinas meritocráticas?
Meritocracia mecánica
Para encontrar perspectiva a estas preguntas, debemos viajar 800 años atrás: Era enero de 1215 y el rey Juan de Inglaterra, que acababa de regresar de Francia, se enfrentaba a barones enfurecidos que deseaban poner fin a su impopular dominio vis et voluntas ("fuerza y voluntad") sobre el reino. En un esfuerzo por apaciguarlos, el rey y el arzobispo de Canterbury reunieron a 25 barones rebeldes para negociar una "Carta de Libertades" que consagrara un conjunto de derechos que sirvieran de freno al poder discrecional del rey. En junio ya tenían un acuerdo que proporcionaba mayor transparencia y representación en la toma de decisiones real, límites a los impuestos y pagos feudales, e incluso algunos derechos para los siervos. La famosa "Carta Magna" era un documento imperfecto, repleto de disposiciones favorables a intereses particulares, pero hoy tendemos a considerarla un momento decisivo en el avance de la humanidad hacia una relación equitativa entre el poder y sus súbditos. Sentó las bases de la Ilustración, el Renacimiento y la democracia.
Equilibrio de poder
Es ese equilibrio entre el poder cada vez mayor del nuevo potentado -la máquina inteligente- y el poder de los seres humanos lo que está en juego. Cada vez más, nuestro mundo será un mundo en el que las máquinas crearán cada vez más valor, produciendo más de nuestros productos cotidianos. A medida que este papel se amplíe y la IA mejore, el control humano sobre los diseños y las decisiones disminuirá de forma natural. Los modelos de trabajo y de vida existentes cambiarán para siempre. Nuestra propia creación corre ahora en círculos a nuestro alrededor, más rápido de lo que podemos contar las vueltas.
Decisiones de la máquina
Esto va mucho más allá del empleo y la economía: en todos los ámbitos de la vida, las máquinas empiezan a tomar decisiones por nosotros sin nuestra participación consciente. Las máquinas reconocen nuestros patrones pasados y los de personas (supuestamente) similares de todo el mundo. Recibimos noticias que conforman nuestras opiniones, perspectivas y acciones basadas en inclinaciones que hemos expresado en acciones pasadas, o que se derivan de las acciones de otros en nuestras burbujas. Mientras conducimos nuestros coches, compartimos nuestros patrones de comportamiento con los fabricantes de automóviles y las compañías de seguros para poder aprovechar las ventajas de la navegación y de la tecnología cada vez más autónoma de los vehículos, que a cambio nos proporcionan nuevas comodidades y un transporte más seguro. Disfrutamos de entretenimiento y videojuegos más ricos y personalizados, cuyos creadores conocen nuestros perfiles socioeconómicos, nuestros patrones de movimiento y nuestras preferencias cognitivas y visuales para determinar la sensibilidad de los precios.
A medida que seguimos optando por más y más comodidades, elegimos confiar en una máquina para que "nos entienda bien". La máquina llegará a conocernos, tal vez, de forma más honesta que nosotros mismos, al menos desde una perspectiva estrictamente racional. Pero la máquina no explicará fácilmente las desconexiones cognitivas entre lo que pretendemos ser y lo que realmente somos. Al depender de datos reales de nuestras acciones reales, la máquina nos limita a lo que hemos sido, en lugar de a lo que desearíamos ser o a lo que esperamos llegar a ser.
Elección personal
¿Eliminará la máquina esa elección personal? ¿Acabará con la serendipia de la vida, planificando y trazando nuestras vidas para que conozcamos a gente como nosotros, privándonos así de encuentros y roces que nos obliguen a evolucionar y convertirnos en seres humanos diferentes, quizá mejores? Esto tiene un enorme potencial: las decisiones personales son intrínsecamente subjetivas, pero muchas podrían mejorarse incluyendo análisis más objetivos. Por ejemplo, incluir la huella de carbono de los distintos medios de transporte e integrarla con nuestros horarios y nuestras inclinaciones prosociales podría llevarnos a tomar decisiones más ecológicas; obtener indicaciones honestas sobre nuestras características más y menos deseables, así como proporcionar información sobre las características que encontramos constantemente atractivas en los demás, podría mejorar nuestra elección de pareja; los planes de estudios para un alumnado numeroso y diverso podrían adaptarse mejor al individuo, basándose en el motor de la información sobre lo que ha funcionado en el pasado para perfiles similares.
Polarización
Pero, ¿podría también polarizar las sociedades al empujarnos más hacia burbujas de personas con ideas afines, reforzando nuestras creencias y valores sin la oportunidad aleatoria de comprobarlos, defenderlos y vernos obligados a repensarlos? La IA podría utilizarse para la "ingeniería social digital" con el fin de crear microsociedades paralelas. Imaginemos un "gerrymandering" digital con agentes políticos que utilicen la IA para atraer a votantes de determinados perfiles a determinados distritos años antes de las elecciones, o microcomunidades AirBnB que sólo alquilen a determinados perfiles sociopolíticos, económicos o psicométricos. Pensemos en empresas capaces de contratar de una forma mucho más quirúrgica y selectiva, aumentando al mismo tiempo sus tasas de éxito y comprometiendo su opcionalidad estratégica con un grupo de empleados más reducido y menos polifacético.
¿Quién juzga?
Una máquina nos juzga en función de nuestros valores expresados -especialmente los implícitos en nuestras transacciones comerciales-, pero pasa por alto otros valores profundamente arraigados que hemos suprimido o que están latentes en un momento dado de nuestras vidas. Una IA podría no tener en cuenta las nuevas creencias o los cambios en lo que valoramos fuera del ámbito fácilmente codificado. Como resultado, podría, por ejemplo, tomar decisiones sobre nuestra seguridad que comprometieran el bienestar de otros, basándose en datos históricos de nuestros juicios y decisiones, pero dando lugar a acciones que consideramos objetables en el momento presente. Somos seres complejos que solemos hacer equilibrios de valores en el contexto de cada situación, y a veces esas situaciones tienen pocos o ningún precedente codificado que una IA pueda procesar. ¿Respetará la máquina nuestro derecho al libre albedrío y a la autorreinvención?
Discriminación y prejuicios
Del mismo modo, una máquina podría discriminar a las personas con peor salud o posición social porque sus algoritmos se basan en el reconocimiento de patrones y en promedios estadísticos amplios. Uber ya se ha enfrentado a una protesta por discriminación racial cuando sus algoritmos se basaron en códigos postales para identificar los barrios de los que era más probable que procedieran los pasajeros. ¿Favorecerá la IA la supervivencia del más apto, del más simpático o del más productivo? ¿Tomará esas decisiones con transparencia? ¿Cuál será nuestro recurso?
Además, la historia personal de un programador, su predisposición y sus prejuicios ocultos -o las motivaciones e incentivos de su empleador- podrían influir involuntariamente en el diseño de algoritmos y la obtención de conjuntos de datos. ¿Podemos suponer que una IA trabajará siempre con objetividad? ¿Desarrollarán las empresas IA que favorezcan a sus clientes, socios, ejecutivos o accionistas? Por ejemplo, una IA sanitaria desarrollada conjuntamente por empresas tecnológicas, corporaciones hospitalarias y compañías de seguros, ¿actuará en interés del paciente o dará prioridad a un determinado rendimiento financiero?
No podemos volver a meter al genio en la botella, ni debemos intentarlo: los beneficios serán transformadores y nos llevarán a nuevas fronteras en el crecimiento y el desarrollo humanos. Estamos en el umbral de una explosión evolutiva sin precedentes en el último milenio. Y como todas las explosiones y revoluciones, será desordenada, turbia y plagada de escollos éticos.
Una nueva carta de derechos
Por lo tanto, proponemos una Carta Magna para la Economía Global de la IA - una carta de derechos inclusiva, desarrollada colectivamente y con múltiples partes interesadas que guiará nuestro desarrollo en curso de la inteligencia artificial y sentará las bases para el futuro de la coexistencia humano-máquina y un crecimiento humano continuado y más inclusivo. Ya sea en un contexto económico, social o político, como sociedad debemos empezar a identificar los derechos, las responsabilidades y las directrices de rendición de cuentas para la inclusión y la equidad en las intersecciones de la IA y la vida humana. Sin ello, no estableceremos la suficiente confianza en la IA como para capitalizar las increíbles oportunidades que puede brindarnos y nos brindará.
