La paradoja de la personalización: equilibrio entre comodidad y privacidad

Como su nombre indica, la personalización es la experiencia personal o a medida que una empresa crea para un cliente basándose en el conocimiento que tiene de él. En la era de los macrodatos, todos estamos familiarizados con la personalización: abre cualquier plataforma de redes sociales y tu feed se habrá creado específicamente para ti, en función de tus intereses e incluso de tu estado de ánimo actual.

TikTok, en particular, es conocida por el uso de potentes algoritmos de personalización para generar sus características páginas "para ti" (conocidas coloquialmente como FYP), en las que los usuarios reciben un flujo de contenidos seleccionados específicamente para ellos. Este nivel de personalización está detrás de la capacidad de la plataforma para absorber a los usuarios (como yo) en un trance TikTok, a menudo durante horas.

En Netflix, también puedes encontrar un porcentaje de coincidencia para cada película basado en lo que has visto en el pasado, estimando la probabilidad de que te guste una película o serie en particular. Del mismo modo, en Spotify, puedes encontrar una sección "Basada en tus escuchas recientes" que te recomienda canciones que pueden gustarte. Esto mejora la experiencia del consumidor y ahorra una gran cantidad de tiempo que podría perderse buscando entre las miles de opciones de películas o música disponibles en estos servicios de streaming.

Como sufridor de indecisión, me alegro de estas características. Soy lo que se conoce como un maximizador, alguien que busca tomar la mejor decisión posible, a diferencia de los satisfechos, que se conforman con hacer una elección que sea "suficien^temente buena".1 Tener una selección reducida entre la que elegir me ahorra tiempo y me evita la angustia de la sobrecarga de opciones.

En un mundo en el que el tiempo es el nuevo dinero, la tecnología de la personalización está floreciendo. Pero, ¿cómo funciona? En una palabra, la respuesta es la extracción de datos. Cada clic de un botón en Internet puede rastrearse, y esta información es muy valiosa para las organizaciones que ganan dinero vendiendo (o anunciando) productos o servicios a los consumidores. Seguro que está familiarizado con esas molestas ventanas emergentes que le piden su consentimiento para las cookies, o los pequeños fragmentos de información que los sitios web almacenan en su ordenador. Los sitios web utilⁱzan cookies para recordarle e identificarle, almacenar sus preferencias y crear contenidos personalizados.2

Las redes sociales también almacenan información sobre nosotros, como los contenidos con los que más interactuamos, lo que nos gusta y dónde pasamos el tiempo. Utilizan esta información para ofrecernos contenidos personalizados. Si abres mi Instagram, encontrarás fotos preciosas de playas balinesas o cabañas sobre el agua en las Maldivas: sí, lo has adivinado, me encanta viajar. Desplázate por mi TikTok y encontrarás un sinfín de divertidísimos clips de gatos, las últimas exposiciones en Londres y arte con leche: es como si TikTok supiera que acabo de comprar una cafetera.

A pesar de la comodidad y conveniencia que puede aportar la personalización, la tecnología que la sustenta también ha atraído su parte de atención negativa. A medida que aumentan las posibilidades de los macrodatos, es cada vez más fácil que los productos tecnológicos crucen la línea de lo útil a lo espeluznante.

¿Te has preguntado alguna vez si tu teléfono te está escuchando para enviarte publicidad personalizada? El CEO de Facebook, Mark Zuckerberg, aseguró a los senadores estadounidenses en una audiencia de cinco horas en el Congreso que facebook no monitoriza las conversaciones. Instagram ha negado acusaciones similares. El hecho de que tales sospechas se hayan extendido lo suficiente como para suscitar este nivel de respuesta sugiere que muchos usuarios se sienten al menos ligeramente perturbados por lo bien que sus dispositivos parecen conocerlos.

Se han planteado preocupaciones similares sobre el texto predictivo de Google, que a menudo parece saber lo que quieres decir incluso antes de que lo hayas escrito. La tecnología de reconocimiento de emociones (TRE) de la IA tiene el poder de saber qué emoción estás sintiendo aunque no tengas las palabras para expresarlo. Aunque estas herramientas tienen muchos usos beneficiosos -por ejemplo, en entornos médicos, pueden utilizarse para detectar qué pacientes están experimentando más molestias-, también pueden vulnerar la privacidad de la p^oblación en general si nos están monitorizando de forma ambiental.3

Los productos que emplean tecnologías de este tipo con fines de hiperpersonalización a menudo pueden acabar cayendo en la llamada "zanja de lo espeluznante", cuando un algoritmo sabe lo que necesitas, precisamente cuando lo necesitas. Si utiliza la tecnología con suficiente frecuencia, su perfil digital en línea puede incluso conocerle mejor que usted mismo. Sabe lo que te gusta, lo que no te gusta y todo lo que has buscado. Esto plantea una pregunta: ¿Dónde está el límite entre lo útil y lo invasivo?

Es cierto que la tecnología de personalización tiene el poder de ahorrarnos tiempo, pero también de consumirlo, y las empresas suelen beneficiarse económicamente de ello. Lejos de mejorar nuestra capacidad para tomar las mejores decisiones por nosotros mismos, un software potente y adictivo puede erosionar nuestro libre albedrío al atraparnos en bucles de gratificación instantánea. En el peor de los casos, puede parecer que las empresas utilizan nuestros perfiles digitales como si fueran muñecos de vudú, incitándonos a comprar, hacer clic, dar "me gusta" o consumir contenidos sin saber nunca que están tirando de nuestras palancas de comportamiento para influir en nosotros.

Es extremadamente difícil decidir abandonar estas plataformas, e incluso cuando lo hago, me encuentro luchando regularmente contra el impulso de volver a ellas. En 2022, el 47 % de los estadounidenses se consideraban "adictos" a sus teléfonos, y el 74 % se sentía incóm^odo al dejarlos en casa.4 ¿Los segundos que ahorra la tecnología de personalización compensan realmente las horas que se pueden pasar desplazándose por contenidos personalizados altamente adictivos?

Todo esto se complica aún más por las dudas sobre la seguridad de las enormes cantidades de datos personales que se recopilan de los consumidores. Una encuesta sobre la privacidad en el comercio minorista estadounidense realizada por Deloitte reveló que sólo uno de cada cinco ejecutivos del comercio minorista encuestados cree que ha realizado un trabajo adecuado para integrar s^u estrategia de privacidad de datos en la estrategia general de su empresa o unidad de negocio5 . En la misma encuesta, los directivos citaron la falta de financiación, la gestión inadecuada de los datos dentro de sus organizaciones y la falta de una normativa gubernamental clara como retos a la hora de aplicar una estrategia de privacidad de los consumidores.

En Europa, la normativa GDPR protege los datos de los consumidores. En cambio, en Estados Unidos no existe un mandato federal claro, y es competencia de cada estado promulgar normas sobre privacidad de datos, lo que genera confusión e ineficacia. Es mucho lo que está en juego cuando nuestro perfil digital incluye información como nuestras direcciones, datos de geolocalización, historiales médicos y legales, credenciales de inicio de sesión e historiales de puntuación crediticia. La seguridad de los datos debe ser un componente central de las organizaciones, no sólo una normativa que tienen que cumplir o un "nice to have".

Afortunadamente, los consumidores pueden influir favoreciendo a las empresas que dan prioridad a la seguridad de los datos y forzando al mercado a alinearse con nuestros valores de privacidad de los datos. Este tipo de organizaciones centradas en el consumidor y la confianza facilitan a los consumidores la gestión de su privacidad, personalización y configuración de datos; son transparentes sobre los usos de sus datos; capacitan a los empleados para defender la protección de datos de sus clientes; e implementan sólidas medidas de ciberseguridad en su infraestructura. Estas empresas pueden servir de modelo para una gestión más ética de los datos.

La mayoría de las empresas adoptan la tecnología de personalización de manera optativa, en la que las funciones personalizadas son las predeterminadas. Un componente clave del comportamiento humano es nuestra tendencia a quedarnos con lo predeterminado o seguir la corriente, un ejemplo de un sesgo cognitivo conocido como sesgo del statu quo. Aunque la decisión de no participar es nuestra, la fricción de encontrar dónde está la configuración, junto con el sesgo del statu quo, hace que la gran mayoría de la gente active la personalización por defecto. Cambiar a una configuración opt-in ofrece un enfoque más ético, ya que obliga a la gente a tomar una decisión consciente sobre qué ajustes personalizados funcionan mejor para ellos.

Otro ajuste sencillo que pueden hacer las organizaciones para mejorar la ética de las funciones de personalización y fomentar la confianza de los consumidores es el consentimiento informado. El consentimiento informado con respecto a la recopilación de datos ofrece al usuario una visión general de los datos que se recopilan de él, dónde se utilizan y los riesgos asociados, para que pueda tomar decisiones informadas sobre sus propios datos. Esto debe presentarse en términos sencillos y concisos, evitando la jerga de la ciencia de datos y páginas y páginas de letra pequeña. El consentimiento informado sobre las funciones de personalización debería aparecer en las ventanas emergentes de gestión de datos existentes.

En última instancia, los datos personales deben tratarse como propiedad de su dueño y deben protegerse con la misma vigilancia que cualquier otro activo. Por lo tanto, las empresas siempre deberían permitirnos acceder a nuestros propios datos e informarnos de dónde se están utilizando. Por desgracia, a menudo no es así y, cuando lo es, como el derecho de acceso en el marco de la normativa GDPR, a menudo puede implicar un proceso largo y disuasorio para obtener la información.

Recapitulando, la tecnología de personalización es muy beneficiosa para ahorrar tiempo y, al fin y al cabo, el tiempo es nuestro bien más preciado. Puede aliviar la carga de elección asociada a la vida moderna. Puede ayudar a establecer una relación entre la empresa y el cliente, haciéndonos sentir como un cliente valioso y aumentando nuestros sentimientos de satisfacción. En el lado opuesto, la tecnología de personalización puede utilizarse en la publicidad dirigida depredadora y puede convertir las plataformas en altamente adictivas.

Como ocurre con muchos algoritmos modernos, el funcionamiento interno de la tecnología de personalización es a menudo ambiguo y puede resultar intrusivo. Si aceptamos la personalización en aras de la comodidad en determinados aspectos de nuestras vidas, también debemos ser conscientes de los fines más siniestros para los que podrían utilizarse nuestros datos en el futuro, como el aumento de las primas de nuestros seguros y la posible denegación de préstamos o hipotecas.

Quizá esas molestas ventanas emergentes que nos piden nuestro consentimiento no sean tan malas después de todo, ya que sirven para proteger la privacidad de nuestros datos. ¿Te detendrás un segundo antes de pulsar "aceptar todo" la próxima vez que veas una de estas? ¿Aceptarás o rechazarás las funciones personalizadas?