El día 21-4-2022 la familia digital ha participado en una agradable charla con los alumnos del centro de formación de adultos Victorina Vila de Lleida hablando de riesgos y oportunidades en las redes sociales.
La página web: https://agora.xtec.cat/cfavictorinavila
La constatación que algunos algoritmos que utiliza la inteligencia artificial fallan a la hora de reconocer a las personas de color, pone de relieve las dificultades que aún existen para incluir la diversidad racial en los productos y servicios que usamos de manera habitual en el mundo digital.
Las máquinas toman cada vez más decisiones de manera autónoma y por ello, preocupa que los algoritmos perpetúen en el mundo digital las mismas conductas de discriminación racial provenientes del mundo analógico y que los algoritmos tomen decisiones claramente discriminatorias.
Para ilustrar el debate es interesante el video del caso del dispensador de jabón que utiliza un sensor para detectar cuándo una mano se sitúa debajo:
https://www.youtube.com/watch?v=YJjv_OeiHmo
El dispensador no plantea problemas cuando la mano es de color blanco ya que dispensa el jabón sin dificultad alguna, pero curiosamente ese sensor no puede detectar la mano de un cliente negro.
Si fuese posible tirar hacia atrás en el tiempo para intentar comprender la causa de este sesgo racial, seguramente el problema se creó -y no se detectó- en la propia fase de diseño del dispensador, cuando la empresa que lo concibió tenia en mente como prototipo a un solo tipo de usuario ideal, sin pensar en reflejar a la diversidad de la población a la que iba dirigido.
Y seguramente la composición del grupo de personas que hizo el diseño de la máquina expendedora de jabón tampoco era equitativa, pues nos aventuramos a asegurar que había una clara infrarrepresentación de personas de color, tanto en la fase de diseño como en la de entrenamiento del modelo, ya que posiblemente el mismo no se testeó con una variedad amplia de tonos de piel y posiblemente ninguna de color negro.
El sesgo posiblemente estuvo presente en la fase de diseño y también en la elección de los datos que se utilizaron para entrenar a la máquina expendedora de jabón.
La falta de representación de la realidad de las personas que iban a utilizar ese servicio como clientes o dicho de otra manera, la homogeneidad racial del equipo creador del diseño se apunta como una de las causas del sesgo.
En este caso las consecuencias no fueron graves, pero en otros supuestos las consecuencias de las decisiones tomadas pueden ser complicadas de asumir.
Para evitar perpetuar las situaciones de discriminación racial es clave el diseño inclusivo, la promoción de la diversidad en el equipo que crea y entrena la máquina y sobretodo, la aplicación efectiva de principios de la ética digital como la equidad, la transparencia, la confiabilidad y la no discriminación, herramientas todas ellas que se apuntan como indispensables para evitar que los sesgos raciales se transfieran de manera automática a los algoritmos y con ello, a las decisiones que las máquinas toman y que nos afectan como personas.
Los darkpatterns o patrones oscuros son aquellas prácticas de diseño engañosas, creadas expresamente para forzar a los usuarios de una web o una app a realizar acciones que en otras circunstancias no harían, y que tienen normalmente como finalidad manipular de forma más o menos consciente la voluntad del usuario.
El término fue creado por el diseñador de experiencia de usuario Harry Brignull en el año 2010: www.darkpatterns.org
En este perfil de twiter podemos ver ejemplos: https://twitter.com/darkpatterns
Se trata de anuncios disfrazados de vídeos, de ofertas de bajos precios que no muestran los costes adicionales, de diseños que desorientan al usuario a la hora de cancelar un producto o de darse de baja de la cuenta, de productos que de forma misteriosa se cuelan en el carrito de la compra, de diseños que empujan al usuario a aceptar tratamientos poco respetuosos con la privacidad o de suscripciones gratuitas que para disfrutarlas obligan a introducir la tarjeta de crédito, pero que después es complicado darse de baja cuando se quiere cancelar el servicio.
Desde el punto de vista legal son habituales en la políticas de privacidad de las redes sociales el uso de términos redactados de tal manera que son difíciles de entender, o que omiten información relevante en la primera capa y que obligan al usuario a ir haciendo clic a diversos enlaces para poder tener una comprensión aproximada de la política de tratamiento de datos personales, diseños legales que claramente infringen la normativa en protección de datos personales.
La finalidad de estos patrones siempre es incrementar las ventas o tratar más datos de los necesarios y van mas allá de las técnicas de simple persuasión o de marketing inteligente, sin que en ningún caso se trate de simples errores de programación.
Los diseñadores tienen un papel relevante frente a la presión de los clientes ante este fenómeno, para hacerles comprender que el uso de este tipo de estrategias no hace más que crear desconfianza y frustración y que los consumidores y usuarios son conscientes de los portales que utilizan estas técnicas.
Finalmente no debemos olvidar que un simple tuit de un cliente descontento puede convertirse en viral y suponer un grave riesgo reputacional y económico para la organización.
Causa causae causa causati (la causa de la causa es la causa de lo causado), es un principio utilizado cuando se trata de analizar la relación entre un acto (causa) y la consecuencia (resultado).
Cum hoc ergo propter hoc (con esto, por tanto a causa de esto) es según la wikipedia, una falacia que se comete al inferir que dos o más eventos están conectados causalmente porque se dan juntos, es decir que existe una relación causal entre dos o más eventos por haberse observado una correlación estadística entre ellos.
Estos dos latinajos nos sirven para hablar de otra ley de la transformación digital, esta vez vinculada con el big data, que habla de la causalidad y la correlación y también para analizar el significado de otro de los mantras que escucharemos de boca de los expertos en transformación digital de forma machacona:
“correlación no significa causalidad”.
Una vez soltada la anterior frase, el profesor nos ilustrará con frases del tipo los humanos estamos acostumbrados a detectar patrones y tendencias, lo que en una época con poca información es relativamente sencillo, pero no en plena era de los macrodatos, ya que existe tantísima información disponible que los patrones y las tendencias permanecen ocultos a los ojos de cualquier persona, sepultados entre millones y millones de datos.
A continuación nos soltará el rollo que las empresas han acudido a los ordenadores y al fenómeno del big data para que la tecnología nos ayude a los humanos a detectar esos patrones invisibles, a poner luz en esa montaña de datos, a buscar relaciones entre hechos aparentemente inconexos a través de la minería de datos, para así tomar decisiones que ayuden a las empresas a incrementar las ventas.
Y finalmente el maestro entrará a hablarnos de los que es más interesante desde mi punto de vista, esto es las diferencias entre la causalidad y la correlación, que resumidamente y en una definición de ir algo por casa seria algo así como que no es lo mismo decir que a es la causa segura de b (causalidad), que por el contrario decir que parece que a y b están relacionados (correlación).
La causalidad (el porqué de la cosas) es aquella ley que establece una relación directa entre una causa y un efecto, de tal manera que para llegar a esa conclusión cierta (que a es la causa de b) es necesario previamente experimentar e investigar y dedicar mucho tiempo y dinero a validar que efectivamente, existe una única relación directa entre esa causa y ese efecto.
La causalidad -como su nombre indica-, nos ayuda a conocer la causa de las cosas, es decir a recorrer el camino de vuelta desde el efecto producido y hacia la causa que lo ha producido, por lo que si el resultado de esa investigación es positivo, ello nos sirve para afirmar sin ningún genero de dudas, que a es la causa de b, ya que no existe una explicación alternativa.
En cambio la correlación (el qué de las cosas, sin importar el porqué) simplemente nos advierte que entre a y b existe una posible relación pero no nos explica a ciencia cierta -al contrario de la causalidad- cual es la causa concreta que produce ese resultado.
Por tanto la correlación sería algo así como que el fenómeno a y el fenómeno b se observan al mismo tiempo, que parece que existe un patrón común entre ambos o una correlación estadística, que los dos se mueven juntos, pero sin poder afirmar de manera científica que a es la causa de b, como si haríamos con el principio de causalidad.
Es un metodo por tanto mas rápido y barato.
Por tanto, la deducción a la que llega la correlación sobre la relación de la causa y el efecto podríamos decir que es débil, en el sentido que no se basa en ese ejercicio científico de la causalidad que hemos visto antes, sino en otro principio del tipo “si la acierto, la adivino”.
Y para finalizar veremos un ejemplo típico de la correlación que mezcla pañales y cervezas.
Se explica -sin saberse si es verdad o se trata de una fábula- que en un análisis que hizo Walmart de sus tarjetas de clientes cruzando los datos de millones de perfiles de compras, observaron un patrón de comportamiento (correlación y no causalidad) en las compras que hacían un perfil determinado de clientes -hombres jóvenes- un día en concreto -los viernes tarde al volver del trabajo-.
Al parecer los padres adquirían en la misma compra pañales y cervezas, lo primero para sus hijos menores y lo segundo para los progenitores.
Con esos resultados se dice que Walmart reordenó algunas estanterías del supermercado de tal manera que, como ya os podéis imaginar, al lado de los pañales se pusieron estanterías con cervezas, con lo que consiguió incrementar las ventas de la bebida en cuestión de manera muy notable.
Si volvemos al mantra en cuestión -la causalidad supone correlación pero la correlación no siempre supone causalidad-, y lo ponemos en relación con el caso Walmart, vemos que el supermercado no analizó ni investigó el porqué de la compra de ambos productos a la vez, sino que tuvo suficiente con el qué, es decir que la compra se llevaba a cabo por los padres los viernes tardes, ejemplo claro que la correlación no siempre significa causalidad.