En BBVA Data & Analytics creemos que el futuro de la tecnología debe ser continuamente cuestionado, debatido y considerado desde diferentes puntos de vista. Con esa filosofía, organizamos esta semana un encuentro poco convencional de artistas, juristas, diseñadores, creadores y científicos para explorar las implicaciones de los Sistemas de Recomendación (RecSys).
Estos algoritmos de Machine Learning definen cómo se forma nuestro mundo, cómo se acortan las distancias y cómo se crean nuevas conexiones. Apoyado por el trabajo experimental de Iskra Velichkova RecSys: ¿Qué es una Recomendación en la Era del Machine learning? tuvimos una conversación en un encantador y antiguo piso en Madrid. Lo que sigue es una imagen de las conexiones y las ideas que se encontraron allí.
¿Qué es realmente una recomendación?
Los Sistemas de Recomendación nos ayudan a conectar con productos, servicios o lugares, pero además descomponen un universo de emociones y conexiones personales. “Los algoritmos de Machine Learning nos permiten acceder al conocimiento de toda una ciudad y viajar en un universo multidimensional donde podemos encontrar algo que despierta una emoción”, explica Velichkova, experta de BBVA Data & Analytics en Visual Thinking.
Hace un siglo, el autor francés y burgués atormentado Marcel Proust explicaba en sus novela “En busca del tiempo perdido” con gran clarividencia el proceso que conecta experiencias y productos con nuestras más íntimas emociones. Velichkova usa ese ejemplo de Proust y su famosa magdalena a la hora de imaginar cómo las máquinas acabarán visualizando y entendiendo nuestro universo de experiencias pasadas y posibles conexiones en el futuro.
La fábula creada por BBVA Data & Analytics muestras las preguntas y deja a la audiencia buscar sus respuesta. En nuestra presentación invitamos a Francisco Vieira, presidente del Tribunal Superior de Justicia de Madrid; la responsable de innovación de restaurante Celler Can Roca, Heloïse Vilaseca; al director de arte y ganador de un Goya por Blancanieves, Alain Bainée, y al diseñador de interacción Javier Cañada.
Vieira reflexionó sobre cómo la ubicuidad de la tecnología que percibe (es miembro del consejo que regula el respeto a la privacidad de las cámaras de seguridad en Madrid) pueden “interferir en nuestras relaciones sociales; en nuestra espontaneidad”.
Baineé y Vilaseca explicaron cómo intentan conjurar en su obra las mismas emociones que la magdalena de Proust le provocó hace cien años. Uno de los goles de Messi -en el caso de Vilaseca- o un oscuro recuerdo de la infancia -en el caso de la versión de Blancanieves de Baineé- puede conjurarse con recreaciones materiales y sutiles, de la misma manera que los sistemas de recomendación podrían algún día darte lo que buscas incluso antes de que lo pidas.
Cañada, un diseñador de interacción, ofreció una visión más sobria de cómo conocer las preferencias de los consumidores y su configuración ayudó a las empresas y diseñadores a ofrecer algo útil y conveniente. La cantidad de datos generados hoy en día pueden“medir” a todo el mundo de una manera nunca antes alcanzada. Por ejemplo, conocer el “contexto emocional” de una persona es esencial para comprender la interacción de esa persona con el producto. A medida que el debate avanzaba, Cañada planteaba una nueva pregunta:“pero, ¿qué pasa si poder entregar el producto más conveniente que se ajuste perfectamente a las necesidades de uno nos convierte en seres idiotas?”
Entonces, ¿contribuyen los Sistemas de Recomendación a conectarnos a todos de una manera más eficiente y significativa?
Ejemplos como el uso de Facebook como cámara de repercusión para reforzar los sesgos políticos y la polarización durante las elecciones presidenciales de 2016 en EE.UU. hicieron dudar a algunos participantes de que los sistemas de recomendación contribuyeran realmente a enriquecer nuestra visión del mundo.
Borja Adsuara, abogado especializado en tecnología y privacidad y consultor, cree que la forma en que se diseñan los sistemas de recomendación en la actualidad “la afinidad es lo que realmente se promueve”, no el descubrimiento. Algunos científicos de datos señalaron rápidamente que uno de los retos más importantes de su trabajo con RecSys es “añadir ruido” para permitir a la gente encontrar cosas fuera de su zona de confort, evitando así el “efecto burbuja de las recomendaciones” y, en última instancia, ampliando nuestro mundo.
Según Adsuara, las recomendaciones se transmiten desde una “posición de autoridad”, y sobre todo con fines de mera comercialización; para “venderle algo”. Juan Murillo, de BBVA Data & Analytics, discrepó: “al menos para nosotros, los vemos como herramientas para proporcionar al cliente lo que necesita cuando más lo necesita. Queremos ayudar a su tranquilidad. Es una situación en la que todos salen ganando”.
Todos coincidieron en que las industrias que aplican RecSys tienen que evitar utilizar estas herramientas como “manipuladores de la atención” y, por lo tanto, la transparencia y la confianza son los fundamentos básicos de un RecSys “honesto”.
El aspecto más productivo del debate creado por RecSys: ¿Qué es una recomendación en la era del Machine Learning? fue la capacidad de ayudar a brotar nuevas ideas en la audiencia y añadir matices a las anteriores. Tal y como reconoció Juan Arévalo, científico de datos de BBVA Data & Analytics: “para nosotros es de suma importancia crear confianza con los datos. En este sentido, es interesante darse cuenta de que, de alguna manera, las recomendaciones podrían ser ofrecidas desde una posición de autoridad”, ya que podría provenir de una empresa que sabe más que usted, que analiza datos que el usuario no necesariamente sabe que están siendo utilizados (aunque él esté de acuerdo), y que usted confía. El debate también llevó a Vieira a presentar un nuevo concepto: “lealtad. El recomendador puede tener que mostrar lealtad al usuario”.
A medida que la conversación avanzaba, el emprendedor Marcelo Soria encontró en su teléfono una recomendación procesada por el cerebro humano; una nueva forma de expresar cómo un RecSys puede acortar espacios (físicos o de otro tipo), devolver emociones y crear conexiones significativas en las palabras del poeta uruguayo Mario Benedetti:
Mi táctica es mirarte,
aprender como sos,
quererte como sos.
Mi táctica es hablarte
y escucharte,
construir con palabras
un puente indestructible.
Mi táctica es
quedarme en tu recuerdo,
no sé cómo ni sé
con qué pretexto,
pero quedarme en vos.
Mi táctica es ser franco
y saber que sos franca
y que no nos vendamos simulacros
para que entre los dos
no haya telón ni abismos.
Mi estrategia es,
en cambio,
más profunda y más simple.
Mi estrategia es,
que un día cualquiera,
no sé cómo ni sé
con qué pretexto,
por fin me necesites.
MTal vez las respuestas sobre cómo construir tecnología que nos ayuden a explorar más conexiones humanas han estado ahí todo el tiempo, y sólo tenemos que leer más poesía.