El dia 21-4-2022 la família digital ha participat en una agradable xerrada amb els alumnes del centre de formació d´adults Victorina Vila de Lleida parlant de riscos i oportunitats a les xarxes socials.
El web del centre: https://agora.xtec.cat/cfavictorinavila/
La constatació que alguns algorismes que utilitza la intel·ligència artificial fallen a l’hora de reconèixer les persones de color, posa en relleu les dificultats que encara existeixen per incloure la diversitat racial en els productes i serveis que fem servir de manera habitual al món digital.
Les màquines prenen cada vegada més decisions de manera autònoma i per això preocupa que els algorismes perpetuïn en el món digital les mateixes conductes de discriminació racial provinents del món analògic i que els algorismes prenguin decisions clarament discriminatòries.
Per il·lustrar el debat és interessant el vídeo del cas del dispensador de sabó que utilitza un sensor per detectar quan una mà se situa a sota:
El dispensador no planteja problemes quan la mà és de color blanc, ja que dispensa el sabó sense cap dificultat, però curiosament aquest sensor no pot detectar la mà d’un client negre.
Si fos possible tirar enrere en el temps per intentar comprendre la causa d’aquest biaix racial, segurament el problema es va crear -i no es va detectar- en la mateixa fase de disseny del dispensador, quan l’empresa que el va concebre tenia al cap com a prototip un sol tipus d’usuari ideal, sense pensar a reflectir la diversitat de la població a qui anava dirigit.
I segurament la composició del grup de persones que va fer el disseny de la màquina expenedora de sabó tampoc era equitativa, ja que ens aventurem a assegurar que hi havia una clara infrarepresentació de persones de color, tant a la fase de disseny com a la d’entrenament del model, ja que possiblement el mateix no es va testejar amb una varietat àmplia de tons de pell i possiblement cap de color negre.
El biaix possiblement va estar present a la fase de disseny i també a l’elecció de les dades que es van utilitzar per entrenar a la màquina expenedora de sabó.
La manca de representació de la realitat de les persones que utilitzarien aquest servei com a clients o dit altrament, l’homogeneïtat racial de l’equip creador del disseny s’apunta com una de les causes del biaix.
En aquest cas, les conseqüències no van ser greus, però en altres supòsits les conseqüències de les decisions preses poden ser complicades d’assumir.
Per evitar perpetuar les situacions de discriminació racial és clau el disseny inclusiu, la promoció de la diversitat a l’equip que crea i entrena la màquina i sobretot, l’aplicació efectiva de principis de l’ètica digital com l’equitat, la transparència, la confiança i la no discriminació, eines totes que s’apunten com a indispensables per evitar que els biaixos racials es transfereixin de manera automàtica als algoritmes i amb això, a les decisions que les màquines prenen i que ens afecten com a persones.
Els darkpatterns o patrons foscos són aquelles pràctiques de disseny enganyoses, creades expressament per forçar els usuaris d’una web o una app a realitzar accions que en altres circumstàncies no farien, i que normalment tenen com a finalitat manipular de manera més o menys conscient la voluntat de l’usuari.
El terme el va crear el dissenyador d’experiència d’usuari Harry Brignull l’any 2010: www.darkpatterns.org
En aquest perfil de twiter podem veure exemples: https://twitter.com/darkpatterns
Es tracta d’anuncis disfressats de vídeos, d’ofertes de preus baixos que no mostren els costos addicionals, de dissenys que desorienten l’usuari a l’hora de cancel·lar un producte o de donar-se de baixa del compte, de productes que de forma misteriosa es colen al carret de la compra, de dissenys que empenyen l’usuari a acceptar tractaments poc respectuosos amb la privadesa o de subscripcions gratuïtes que per gaudir-les obliguen a introduir la targeta de crèdit, però que després és complicat donar-se de baixa quan es vol cancel·lar el servei .
Des del punt de vista legal són habituals en les polítiques de privadesa de les xarxes socials l’ús de termes redactats de tal manera que són difícils d’entendre, o que ometen informació rellevant a la primera capa i que obliguen l’usuari a anar fent clic a diversos enllaços per poder tenir una comprensió aproximada de la política de tractament de dades personals, dissenys legals que clarament infringeixen la normativa en protecció de dades personals.
La finalitat d’aquests patrons sempre és incrementar les vendes o tractar més dades de les necessàries i van més enllà de les tècniques de simple persuasió o de màrqueting intel·ligent, sense que en cap cas es tracti de simples errors de programació.
Els dissenyadors tenen un paper rellevant davant la pressió dels clients davant d’aquest fenomen, per fer-los comprendre que l’ús d’aquest tipus d’estratègies no fa sinó crear desconfiança i frustració i que els consumidors i usuaris són conscients dels portals que utilitzen aquestes tècniques.
Finalment, no hem d’oblidar que un simple tuit d’un client descontent pot convertir-se en viral i suposar un risc reputacional i econòmic greu per a l’organització.
Causa causa causa causati (la causa de la causa és la causa del fet causat), és un principi utilitzat quan es tracta d’analitzar la relació entre un acte (causa) i la conseqüència (resultat).
Cum hoc ergo propter hoc (amb això, per tant a causa d’això) és segons la wikipedia, una fal·làcia que es comet en inferir que dos o més esdeveniments estan connectats causalment perquè es donen junts, és a dir que hi ha una relació causal entre dos o més esdeveniments per haver observat una correlació estadística entre ells.
Aquests dos principis llatins ens serveixen per parlar d’una altra llei de la transformació digital, aquesta vegada vinculada amb el big data, que parla de la causalitat i la correlació i també per analitzar el significat d’un altre dels mantres que escoltarem de boca dels experts transformació digital de forma insistent correlació no significa causalitat.
Un cop deixada anar l’anterior frase, el professor ens il·lustrarà amb frases del tipus els humans estem acostumats a detectar patrons i tendències, cosa que en una època amb poca informació és relativament senzill, però no en plena era de les macrodades, ja que existeix tantíssima informació disponible que els patrons i les tendències romanen ocults als ulls de qualsevol persona, sepultats entre milions i milions de dades.
A continuació ens deixarà anar el rotllo que les empreses han acudit als ordinadors i al fenomen del big data perquè la tecnologia ens ajudi els humans a detectar aquests patrons invisibles, a posar llum en aquesta muntanya de dades, a buscar relacions entre fets aparentment inconnexos a través de la mineria de dades, per així prendre decisions que ajudin les empreses a incrementar les vendes.
I finalment el mestre entrarà a parlar-nos dels que és més interessant des del meu punt de vista, això és les diferències entre la causalitat i la correlació, que resumidament i en una definició d’anar alguna cosa per casa seria una cosa així com que no és el mateix dir que a és la causa segura de b (causalitat), que per contra dir que sembla que a i b estan relacionats (correlació).
La causalitat (el perquè de les coses) és aquella llei que estableix una relació directa entre una causa i un efecte, de manera que per arribar a aquesta conclusió certa (que a és la causa de b) cal prèviament experimentar i investigar i dedicar molt de temps i diners a validar que efectivament, hi ha una única relació directa entre aquesta causa i aquest efecte.
La causalitat -com el seu nom indica- ens ajuda a conèixer la causa de les coses, és a dir a recórrer el camí de tornada des de l’efecte produït i cap a la causa que l’ha produït, per la qual cosa si el resultat d’aquesta investigació és positiu, això ens serveix per afirmar sense cap gènere de dubtes, que a és la causa de b, ja que no hi ha una explicació alternativa.
En canvi la correlació (el què de les coses, sense importar el perquè) simplement ens adverteix que entre a i b hi ha una possible relació però no ens explica amb certesa -al contrari de la causalitat- quina és la causa concreta que produeix aquest resultat.
Per tant la correlació seria una cosa així com que el fenomen a i el fenomen b s’observen alhora, que sembla que hi ha un patró comú entre tots dos o una correlació estadística, que tots dos es mouen junts, però sense poder afirmar de manera científica que a és la causa de b, com si faríem amb el principi de causalitat.
És un mètode per tant més ràpid i barat. Per tant, la deducció a què arriba la correlació sobre la relació de la causa i l’efecte podríem dir que és feble, en el sentit que no es basa en aquest exercici científic de la causalitat que hem vist abans, sinó en un altre principi del tipus «si l’encerto, l’endevino».
I per acabar veurem un exemple típic de la correlació que barreja bolquers i cerveses.
S’explica -sense saber-se si és veritat o es tracta d’una faula- que en una anàlisi que va fer Walmart de les seves targetes de clients creuant les dades de milions de perfils de compres, van observar un patró de comportament (correlació i no causalitat) a les compres que feien un perfil determinat de clients -homes joves- un dia en concret -els divendres tard en tornar de la feina-.
Pel que sembla els pares adquirien a la mateixa compra bolquers i cerveses, el primer per als seus fills menors i el segon per als progenitors. Amb aquests resultats es diu que Walmart va reordenar algunes prestatgeries del supermercat de tal manera que, com ja us podeu imaginar, al costat dels bolquers es van posar prestatgeries amb cerveses, de manera que va aconseguir incrementar les vendes de la beguda en qüestió de manera molt notable.
Si tornem al mantra en qüestió -la causalitat suposa correlació però la correlació no sempre suposa causalitat-, i ho posem en relació amb el cas Walmart, veiem que el supermercat no va analitzar ni investigar el perquè de la compra a tots dos productes alhora, sinó que en va tenir prou amb el què, és a dir que la compra es duia a terme pels pares els divendres tardes, exemple clar que la correlació no sempre significa causalitat.