Recuerdo cómo ocurrió. Una mañana me desperté y vi una avalancha de contenidos en mis redes sociales sobre lo manipuladoras que eran las redes sociales. Los canales de Slack de la oficina de la startup tecnológica en la que trabajo bullían con discusiones sobre la malvada industria tecnológica. En la conversación se lanzaban algunas palabras de moda: dopamina, recopilación de datos, algoritmos, patrones oscuros. Al parecer, Netflix había estrenado un docudrama titulado The Social Dilemma (El dilema social), en el que exploraba las peligrosas repercusiones de las redes sociales y el uso indebido de los datos y el diseño engañoso para manipular a las personas.
Tenía que saber más. Pero, ¿cómo iba a hacerlo?
Salga cuando quiera, pero nunca podrá...
Unas semanas antes, había decidido desinstalar Netflix de mi teléfono. No quería que la aplicación se quedara ahí como una escapada fácil a un entretenimiento sin fondo. Para mi diversión, me enteré de que Netflix era una aplicación de stock en mi teléfono, lo que significa que el fabricante y Netflix habían decidido que la aplicación iba a ser un elemento permanente en mi dispositivo.
En otras palabras: Puedes desactivarlo cuando quieras, ¡pero nunca podrás abandonarlo!
La ironía de todo esto fue demasiado para mí. Conocer un documental sobre los efectos nocivos de las redes sociales, a través de las redes sociales. Ver un documental sobre diseño ético en un servicio de streaming que no me permite borrar su aplicación. Terminar el documental y que los mismos algoritmos que el documental acaba de condenar me recomienden inmediatamente otros 10 programas similares que me encantarían.
Como científico del comportamiento, no debería haberme sorprendido.
El problema es que si Robinson Crusoe hubiera visto un barco funcional, lo habría cogido y se habría largado de la isla. Para los no familiarizados, Robinson Crusoe es el protagonista de una novela homónima, publicada por primera vez en 1917, que narra la historia de un náufrago que pasó 28 años en una isla desierta antes de ser rescatado1.
Las empresas son como Robinson Crusoe en la isla: varadas. Con unas finanzas que tienen que parecer gordas y sanas, unos conductos de clientes con fugas que hay que arreglar, unos inversores que esperan beneficios y unos clientes que quieren lo mejor, las empresas están desesperadas por encontrar cualquier solución que les ayude a mantenerse a flote.
Para muchas empresas, apareció un barco en forma de diseño conductual. Todos estos atajos que parecen ayudar a resolver algunos de sus problemas, proporcionando un mayor compromiso de los clientes, más clientes que regresan y resolviendo todas las métricas que les importaban. ¿Por qué no iban a aprovecharlos?
No estoy justificando el uso de la manipulación, sino simplemente argumentando que el conocimiento de la ciencia del comportamiento que ya existe es, por utilizar un tópico, como la pasta de dientes sacada de un tubo. No puede retirarse, y mientras esté ahí fuera sin ninguna barrera, se utilizará mal.
Lo que me lleva al siguiente punto: ¿Quién es responsable de la ética en el sector privado?
Ciencia del comportamiento, democratizada
Tomamos 35.000 decisiones al día, a menudo en entornos que no favorecen la toma de decisiones acertadas.
En TDL trabajamos con organizaciones de los sectores público y privado -desde nuevas empresas, pasando por gobiernos, hasta actores consolidados como la Fundación Gates- para sesgar la toma de decisiones y crear mejores resultados para todos.
Los guardianes de la ética
En abril de 2019, en Estados Unidos, los sen. Mark Warner y Deb Fischer presentaron la Ley DETOUR (Deceptive Experiences To Online Users Reduction). El objetivo de esta ley es "prohibir el uso de prácticas explotadoras y engañosas por parte de los grandes operadores en línea y promover el bienestar de los consumidores en el uso de la investigación del comportamiento por parte de dichos proveedores".2
El texto principal de los proyectos de ley reza así:
"(1) EN GENERAL: Será ilegal que cualquier gran operador en línea...
(A) diseñar, modificar o manipular una interfaz de usuario con el propósito o el efecto sustancial de oscurecer, subvertir o menoscabar la autonomía, la toma de decisiones o la elección del usuario para obtener su consentimiento o sus datos;
(B) subdividir o segmentar a los consumidores de servicios en línea en grupos a efectos de experimentos o estudios conductuales o psicológicos, salvo con el consentimiento informado de cada usuario implicado; o
(C) diseñar, modificar o manipular una interfaz de usuario en un sitio web o servicio en línea, o parte del mismo, que esté dirigido a una persona menor de 13 años, con el propósito de lograr un efecto sustancial o cultivar el uso compulsivo, incluidas las funciones de reproducción automática de vídeo iniciadas sin el consentimiento de un usuario."
En otras palabras, si se aprueba, este proyecto de ley prohibiría a las plataformas diseñar interfaces de usuario para manipular el proceso de toma de decisiones de un usuario. También prohibiría las pruebas A/B (un tipo de prueba aleatoria en la que los desarrolladores presentan versiones distintas de una función a diferentes usuarios y comparan sus respuestas), y convertiría en ilegales varias tácticas utilizadas por las empresas tecnológicas, como la reproducción automática de anuncios de vídeo.3
Para ponerlo en práctica, la Ley propone un Organismo de Normas Profesionales, compuesto por representantes de la industria tecnológica y de otros sectores, para establecer normas y directrices "claras". Además, se crearía un Consejo de Revisión Independiente, que sería la autoridad competente para aprobar cualquier investigación conductual basada en la actividad o los datos de los usuarios. La violación de las directrices constituiría un delito con arreglo a la Ley de la Comisión Federal de Comercio.
Esta ley, si se aprueba, supondría el primer intento de un gobierno de regular el mundo de la tecnología a nivel de diseño o producto.
Se trata de un gran primer paso, esperemos que de muchos más en el futuro. Pero sigue dejando muchas lagunas. ¿Dónde y cómo trazamos la línea entre lo que es manipulación y lo que no lo es? ¿Significa esto que incluso el marketing y la publicidad son manipuladores? Todas estas preguntas no tienen una respuesta clara.
Otro enfoque para fomentar el diseño ético es alinearlo de algún modo con los intereses corporativos. Hace poco oí hablar en una conferencia al increíble David Evans, director de investigación de Microsoft, que hizo una afirmación importante: "Cualquier ética del diseño del comportamiento tiene que tener, incorporado, un incentivo empresarial. De lo contrario, no es más que moralina".4
Eso sí que es dar en el clavo. ¿Cómo podemos crear incentivos empresariales para un diseño ético? Se podría argumentar que si un número suficiente de clientes son conscientes de estas manipulaciones, las fuerzas del mercado actuarán y los clientes dejarán de utilizar la aplicación. Pero en una batalla entre comodidad y ética, la balanza podría inclinarse un poco a favor de la comodidad. Estudios anteriores demuestran que, incluso para los "consumidores conscientes", varios factores económicos y sociales (como la familia, la comodidad y el precio) pesan mucho en su elección de productos, lo que a menudo les lleva a decidirse por opciones más éticas5.
Una forma podría ser hacer que las calificaciones de las aplicaciones en las tiendas de aplicaciones fueran más granulares y centradas en la ética: ¿Es útil esta aplicación? ¿Es adecuada para todas las edades? ¿El diseño de esta aplicación utiliza "patrones oscuros" para engañar al usuario?
Como puede ver, hay muchas preguntas y no puedo afirmar que tenga las respuestas. Sin embargo, como científico del comportamiento, creo que hay esperanza.
Qué pueden hacer los científicos del comportamiento
Mientras seguimos tratando de responder a estas difíciles preguntas sobre la legislación y los incentivos empresariales para el diseño ético, he aquí algunas cosas que puede hacer en su propia organización. En mis pocos años como científico del comportamiento, he establecido algunas reglas para mí mismo y para cualquiera que siga mis consejos. Son las siguientes
No habrá más guardián que uno mismo. La persona más angustiada por el mal uso de la dinamita en la guerra fue su inventor, el propio Alfred Nobel, porque como creador sabía lo perjudicial que era. Del mismo modo, nadie conoce mejor los efectos secundarios del mal uso de la ciencia del comportamiento que los científicos del comportamiento. No necesitamos un documental de Netflix para comprender los riesgos.
En lugar de esperar a que le llamen la atención, sea el guardián de la ética en su organización. Cree una carta ética. Socialícela. Haga saber a todo el mundo que es importante. Nunca he terminado un solo taller que haya dirigido sin una diapositiva sobre ética. En la jerga de los productos tecnológicos, no es un "nice-to-have", es un "must-have".
Elabore una sencilla lista de comprobación ética. Hay muchas directrices éticas disponibles en Internet. Adopte cualquiera de ellas. Al principio de mi carrera, me topé con una lista de 4 preguntas que, con pequeños cambios, satisfacía todas mis necesidades. Desde entonces la he seguido. (Tengo que pedir disculpas: Adopté esta lista hace tanto tiempo que soy incapaz de encontrar una referencia para ella. Pero si alguien conoce los orígenes de este marco, no dude en ponerse en contacto conmigo y estaré encantado de dar crédito a quien corresponda).
Hágase estas 4 preguntas para cada elemento de diseño que realice.
La ética debe formar parte del proceso. El proceso del producto es largo: investigación, diseño, ingeniería y comercialización. Pero nunca es tan largo como para que sea imposible dar cabida a la ética. Asegúrese de que la aprobación de la lista de comprobación ética forma parte del proceso del producto. Hágala fácil de usar para que no haya fricciones en su adopción. A continuación se presenta una plantilla de la lista de comprobación anterior:
Cuando un producto falle en la lista de comprobación, inicie un debate con el equipo. ¿Qué compromisos está dispuesta a asumir la empresa? ¿Merecerá la pena el riesgo por el impacto negativo en los clientes? Si no es así, ¿qué cambios hay que hacer?
En un mundo ideal, la defensa de la ética no debería ser sólo un deber de los científicos del comportamiento, sino de todo el mundo del producto: jefes de producto, diseñadores, directores comerciales. Pero hay que empezar por algún sitio, y ¿qué mejor que limpiar la propia casa? Esperemos que con los años, al igual que el Design Thinking, el diseño ético conductual se convierta en un proceso establecido.
Hasta entonces, lucharemos por la ética, notificación roja a notificación roja.
References
1. Wikipedia. (s.f.). Robinson Crusoe. Wikipedia, la enciclopedia libre. Recuperado el 30 de octubre de 2020, de https://en.wikipedia.org/wiki/Robinson_Crusoe
2. Congreso de los EE. (2019, 9 de abril). Texto - S.1084 - 116º Congreso (2019-2020): Ley de reducción de experiencias engañosas a usuarios en línea. Biblioteca del Congreso. https://www.congress.gov/bill/116th-congress/senate-bill/1084/text
3. Kelly, M. (2019, 9 de abril). Los 'patrones oscuros' de las grandes tecnológicas podrían ser ilegalizados bajo un nuevo proyecto de ley del Senado. The Verge. https://www.theverge.com/2019/4/9/18302199/big-tech-dark-patterns-senate-bill-detour-act-facebook-google-amazon-twitter
4. David Evans. (2019, 11 de marzo). Evans DC Ética del diseño conductual [Vídeo]. YouTube. https://youtu.be/KvHRokv63-0
5. Szmigin, I., Carrigan, M., & McEachern, M. G. (2009). El consumidor consciente: un enfoque flexible del comportamiento ético. International Journal of Consumer Studies, 33(2), 224-231.
