Nuestras vidas se rigen por los datos. No sólo porque informan a las empresas de lo que queremos, sino porque nos ayudan a recordar y diferenciar lo que queremos, lo que necesitamos y lo que podemos ignorar. Todas estas decisiones dan lugar a patrones, y los patrones, cuando se agregan, nos dan una imagen de nosotros mismos. Un mundo en el que esos patrones nos sigan o incluso se adelanten a nosotros -para que los restaurantes sepan si somos alérgicos, para que las tiendas conozcan nuestra talla de ropa preferida- es ahora tan factible que etiquetarlo de ciencia ficción pondría de manifiesto más una falta de conciencia que de imaginación.
Las ventajas de la IA están facilitando y haciendo más cómodas muchas de nuestras elecciones y, al hacerlo, están intensificando la competencia en el espacio de elección del cliente. A medida que se produce esta evolución, la cuestión no es tanto hasta qué punto la IA determina nuestras elecciones, sino más bien cómo las determina. En un mundo así, debemos comprender cuándo y quién determina nuestro comportamiento.
Está claro que la mayoría de nosotros nos sentimos cómodos viviendo en un mundo en el que nuestras decisiones están determinadas por la IA. De hecho, ya vivimos en un mundo así: desde los motores de búsqueda hasta la fluidez del tráfico, muchas de nuestras comodidades cotidianas se basan en la velocidad que proporciona el backend. La pregunta que debemos hacernos al considerar la IA y su gobernanza es si nos sentimos cómodos viviendo en un mundo en el que no sabemos si estamos siendo influenciados ni cómo.
References
[i] Piatetsky, Gregory. Realmente Target predijo el embarazo de una adolescente? The Inside Story 7 de mayo de 2014 KD nuggets
[ii] Yearsly, Liesl. Hay que hablar del poder de la IA para manipular a los humanos. 5 de junio de 2017. MIT Tech Review
[Mittelstadt, Brent. Wachter, Sandra. Podrían los contrafactuales explicar las decisiones algorítmicas sin abrir la caja negra? 15 de enero de 2018. Blog del Instituto de Internet de Oxford.
[Algoritmos y colusión: La política de competencia en la era digital. OCDE 2017
