Ens preguntem a través d’aquestes notes si hi ha alguna vinculació entre l’èxit en la transformació digital d’una organització, amb l’adopció per part d’aquesta i des de l’inici del projecte, d’una visió ètica a les decisions tecnològiques implantades, o dit d’una altra manera si una transformació digital que es defineixi com a tal, pot ser sostenible en el temps sense incorporar els principis de l’ètica digital o de l’anomenada responsabilitat digital corporativa.
L’ètica pot ser definida com aquell conjunt de valors humans que en forma de regles, estàndards, creences o normes, ens ajuden les persones a determinar quan una acció és correcta i quan no ho és, principis ètics que influeixen en la manera com els individus pensem i actuem i que, per tant, com a humans que som, apliquem en les decisions del nostre dia a dia.
La presència de principis ètics és un element essencial en les organitzacions amb què interactuem de forma habitual i així ens convertim en els seus defensors quan tenen valors ètics ben definits i les seves actuacions amb nosaltres són congruents amb aquests.
Per contra desconfiem quan no és així, com el cas del robot Tay llançat per Microsoft a Twitter, o quan Google va recopilar dades de nens que feien servir YouTube per mostrar-los anuncis personalitzats o finalment amb el que va passar amb tot l’embolic de Facebook i Cambridge Analitics.
Sent l’ètica un concepte una mica borrós en general, la veritat és que a la pràctica tots nosaltres coneixem, apliquem i exigim a la nostra vida diària que les decisions que es prenen per les organitzacions i que ens afecten, estiguin inspirades en principis ètics tals com la confiança, la integritat, la no discriminació, la transparència, la rendició de comptes, la llibertat d’elecció, el respecte a la diversitat de les persones o no fer mal, entre d’altres.
La transformació digital per contra pot entendre’s com la integració de la tecnologia digital en totes les àrees de negoci d’una organització, per garantir així la viabilitat i l’èxit de l’entorn digital i això s’aconsegueix situant les dades i els clients al centre de les decisions d’aquesta.
Quan unim l’ètica i la transformació digital o simplement quan parlem d’ètica digital, no ens referim només a qüestions de compliment normatiu consistents a no infringir la llei o a incorporar l’opinió d’experts en tecnologies disruptives als projectes de transformació digital, sinó que fem referència als nombrosos desafiaments ètics que plantegen les tecnologies disruptives involucrades en la transformació digital i els seus efectes a la vida de les persones.
Tecnologies com els vehicles autònoms, la intel·ligència artificial, la robòtica, l’internet de les coses, el big data, entre d’altres, quan formen part de les solucions tecnològiques adoptades en els projectes de transformació digital, generen interessants debats ètics com el cada vegada més habitual contacte automatitzat i menor humà de les organitzacions amb els seus clients, sent exemple d’això el recent cas del jubilat Carlos San Juan i la seva reeixida protesta contra la banca per la clamorosa falta de caixers automàtics a molts pobles d’Espanya.
Altres debats oberts en la mateixa línia són per exemple, com formar els empleats afectats pels processos de transformació digital perquè adquireixin noves habilitats digitals o els canvis en els rols en aquests i el futur que els espera als que no puguin seguir el ritme de la transformació digital, conflictes entre principis ètics i valors empresarials que no han fet més que començar.
De vegades la llei ja fixa una sèrie de principis que intenten resoldre alguns d’aquests dilemes ètics, com succeeix al camp de la protecció de dades personals on tant el conveni 108 de l’any 1981 com el reglament 2016/679, han normativitzat els principis de rendició de comptes, transparència, confidencialitat, seguretat, informació, entre d’altres.
Altres vegades són les mateixes organitzacions les que s’intenten assumir internament aquesta tasca.
En algunes simplement, no existeixen ni codis ètics ni una mínima cultura sobre l’ètica digital, per la qual cosa de manera informal i tàcita deleguen en les mateixes persones involucrades en la transformació digital -sobretot en els tecnòlegs-, la presa de les decisions per resoldre els conflictes que tenen a veure amb l’ètica digital, de manera que els debats ètics es plantegen i es resolen per part de les persones que estan al capdavant dels projectes de transformació digital i per tant, no s’escalen als responsables de les organitzacions, amb la dificultat afegida que la cultura, les creences o l’educació de cada persona en particular, fa que les seves solucions -encertades o no- puguin diferir de vegades del propòsit, la missió o la visió fixats per la pròpia organització.
Altres organitzacions sí que han afrontat aquest interessant repte a través de codis ètics que guien el seu comportament corporatiu en matèria digital -de vegades com a simples eines de màrqueting-, mentre que en altres ocasions l’ètica digital sí que forma part de l’ADN de l’organització com component essencial de la seva cultura corporativa i que, per tant, impregna el propòsit, la visió i la missió de la mateixa i es converteix en el focus que il·lumina i marca el camí per on han de discórrer les respostes als debats amb conseqüències ètiques a l’entorn digital.
A les organitzacions més madures -les menys- l’ètica digital ja és present des del mateix disseny de la proposta de transformació digital, afectant tot el seu cicle de vida en forma de compromís assumit per part de l’alta direcció, fet que suposa integrar l’ètica, no com una opció o valorar afegit com a complement addicional, sinó com un requisit que impregna tot el projecte i que, per tant, apareix reflectit en totes les solucions en què l’ésser humà estigui involucrat o afectat de manera indirecta.
Aquestes organitzacions ètiques, digitalment parlant, estan dirigides per líders compromesos amb els aspectes ètics de la tecnologia i són la consciència digital de l’organització, ja que uneixen en les seves decisions els objectius estratègics amb els principis ètics.
Si la transformació digital té com a finalitat canviar les persones i les organitzacions, serà imprescindible afegir una visió ètica a tot el procés si volem aconseguir que aquesta transformació sigui sostenible en el temps i això només passarà quan les persones i els seus principis ètics es vegin contemplats. i respectats a la nova organització i en totes les seves decisions, siguin digitals o no.
@ Ramon Arnó Torrades, Lleida, 2022.
Ètica digital i biaixos en el disseny de productes: el cas del dispensador de sabó.
La constatació que alguns algorismes que utilitza la intel·ligència artificial fallen a l’hora de reconèixer les persones de color, posa en relleu les dificultats que encara existeixen per incloure la diversitat racial en els productes i serveis que fem servir de manera habitual al món digital.
Les màquines prenen cada vegada més decisions de manera autònoma i per això preocupa que els algorismes perpetuïn en el món digital les mateixes conductes de discriminació racial provinents del món analògic i que els algorismes prenguin decisions clarament discriminatòries.
Per il·lustrar el debat és interessant el vídeo del cas del dispensador de sabó que utilitza un sensor per detectar quan una mà se situa a sota:
El dispensador no planteja problemes quan la mà és de color blanc, ja que dispensa el sabó sense cap dificultat, però curiosament aquest sensor no pot detectar la mà d’un client negre.
Si fos possible tirar enrere en el temps per intentar comprendre la causa d’aquest biaix racial, segurament el problema es va crear -i no es va detectar- en la mateixa fase de disseny del dispensador, quan l’empresa que el va concebre tenia al cap com a prototip un sol tipus d’usuari ideal, sense pensar a reflectir la diversitat de la població a qui anava dirigit.
I segurament la composició del grup de persones que va fer el disseny de la màquina expenedora de sabó tampoc era equitativa, ja que ens aventurem a assegurar que hi havia una clara infrarepresentació de persones de color, tant a la fase de disseny com a la d’entrenament del model, ja que possiblement el mateix no es va testejar amb una varietat àmplia de tons de pell i possiblement cap de color negre.
El biaix possiblement va estar present a la fase de disseny i també a l’elecció de les dades que es van utilitzar per entrenar a la màquina expenedora de sabó.
La manca de representació de la realitat de les persones que utilitzarien aquest servei com a clients o dit altrament, l’homogeneïtat racial de l’equip creador del disseny s’apunta com una de les causes del biaix.
En aquest cas, les conseqüències no van ser greus, però en altres supòsits les conseqüències de les decisions preses poden ser complicades d’assumir.
Per evitar perpetuar les situacions de discriminació racial és clau el disseny inclusiu, la promoció de la diversitat a l’equip que crea i entrena la màquina i sobretot, l’aplicació efectiva de principis de l’ètica digital com l’equitat, la transparència, la confiança i la no discriminació, eines totes que s’apunten com a indispensables per evitar que els biaixos racials es transfereixin de manera automàtica als algoritmes i amb això, a les decisions que les màquines prenen i que ens afecten com a persones.
Ètica digital i darkpatterns
Els darkpatterns o patrons foscos són aquelles pràctiques de disseny enganyoses, creades expressament per forçar els usuaris d’una web o una app a realitzar accions que en altres circumstàncies no farien, i que normalment tenen com a finalitat manipular de manera més o menys conscient la voluntat de l’usuari.
El terme el va crear el dissenyador d’experiència d’usuari Harry Brignull l’any 2010: www.darkpatterns.org
En aquest perfil de twiter podem veure exemples: https://twitter.com/darkpatterns
Es tracta d’anuncis disfressats de vídeos, d’ofertes de preus baixos que no mostren els costos addicionals, de dissenys que desorienten l’usuari a l’hora de cancel·lar un producte o de donar-se de baixa del compte, de productes que de forma misteriosa es colen al carret de la compra, de dissenys que empenyen l’usuari a acceptar tractaments poc respectuosos amb la privadesa o de subscripcions gratuïtes que per gaudir-les obliguen a introduir la targeta de crèdit, però que després és complicat donar-se de baixa quan es vol cancel·lar el servei .
Des del punt de vista legal són habituals en les polítiques de privadesa de les xarxes socials l’ús de termes redactats de tal manera que són difícils d’entendre, o que ometen informació rellevant a la primera capa i que obliguen l’usuari a anar fent clic a diversos enllaços per poder tenir una comprensió aproximada de la política de tractament de dades personals, dissenys legals que clarament infringeixen la normativa en protecció de dades personals.
La finalitat d’aquests patrons sempre és incrementar les vendes o tractar més dades de les necessàries i van més enllà de les tècniques de simple persuasió o de màrqueting intel·ligent, sense que en cap cas es tracti de simples errors de programació.
Els dissenyadors tenen un paper rellevant davant la pressió dels clients davant d’aquest fenomen, per fer-los comprendre que l’ús d’aquest tipus d’estratègies no fa sinó crear desconfiança i frustració i que els consumidors i usuaris són conscients dels portals que utilitzen aquestes tècniques.
Finalment, no hem d’oblidar que un simple tuit d’un client descontent pot convertir-se en viral i suposar un risc reputacional i econòmic greu per a l’organització.
Big data, causa causa causa causati i com hoc ergo propter hoc.
Causa causa causa causati (la causa de la causa és la causa del fet causat), és un principi utilitzat quan es tracta d’analitzar la relació entre un acte (causa) i la conseqüència (resultat).
Cum hoc ergo propter hoc (amb això, per tant a causa d’això) és segons la wikipedia, una fal·làcia que es comet en inferir que dos o més esdeveniments estan connectats causalment perquè es donen junts, és a dir que hi ha una relació causal entre dos o més esdeveniments per haver observat una correlació estadística entre ells.
Aquests dos principis llatins ens serveixen per parlar d’una altra llei de la transformació digital, aquesta vegada vinculada amb el big data, que parla de la causalitat i la correlació i també per analitzar el significat d’un altre dels mantres que escoltarem de boca dels experts transformació digital de forma insistent correlació no significa causalitat.
Un cop deixada anar l’anterior frase, el professor ens il·lustrarà amb frases del tipus els humans estem acostumats a detectar patrons i tendències, cosa que en una època amb poca informació és relativament senzill, però no en plena era de les macrodades, ja que existeix tantíssima informació disponible que els patrons i les tendències romanen ocults als ulls de qualsevol persona, sepultats entre milions i milions de dades.
A continuació ens deixarà anar el rotllo que les empreses han acudit als ordinadors i al fenomen del big data perquè la tecnologia ens ajudi els humans a detectar aquests patrons invisibles, a posar llum en aquesta muntanya de dades, a buscar relacions entre fets aparentment inconnexos a través de la mineria de dades, per així prendre decisions que ajudin les empreses a incrementar les vendes.
I finalment el mestre entrarà a parlar-nos dels que és més interessant des del meu punt de vista, això és les diferències entre la causalitat i la correlació, que resumidament i en una definició d’anar alguna cosa per casa seria una cosa així com que no és el mateix dir que a és la causa segura de b (causalitat), que per contra dir que sembla que a i b estan relacionats (correlació).
La causalitat (el perquè de les coses) és aquella llei que estableix una relació directa entre una causa i un efecte, de manera que per arribar a aquesta conclusió certa (que a és la causa de b) cal prèviament experimentar i investigar i dedicar molt de temps i diners a validar que efectivament, hi ha una única relació directa entre aquesta causa i aquest efecte.
La causalitat -com el seu nom indica- ens ajuda a conèixer la causa de les coses, és a dir a recórrer el camí de tornada des de l’efecte produït i cap a la causa que l’ha produït, per la qual cosa si el resultat d’aquesta investigació és positiu, això ens serveix per afirmar sense cap gènere de dubtes, que a és la causa de b, ja que no hi ha una explicació alternativa.
En canvi la correlació (el què de les coses, sense importar el perquè) simplement ens adverteix que entre a i b hi ha una possible relació però no ens explica amb certesa -al contrari de la causalitat- quina és la causa concreta que produeix aquest resultat.
Per tant la correlació seria una cosa així com que el fenomen a i el fenomen b s’observen alhora, que sembla que hi ha un patró comú entre tots dos o una correlació estadística, que tots dos es mouen junts, però sense poder afirmar de manera científica que a és la causa de b, com si faríem amb el principi de causalitat.
És un mètode per tant més ràpid i barat. Per tant, la deducció a què arriba la correlació sobre la relació de la causa i l’efecte podríem dir que és feble, en el sentit que no es basa en aquest exercici científic de la causalitat que hem vist abans, sinó en un altre principi del tipus “si l’encerto, l’endevino”.
I per acabar veurem un exemple típic de la correlació que barreja bolquers i cerveses.
S’explica -sense saber-se si és veritat o es tracta d’una faula- que en una anàlisi que va fer Walmart de les seves targetes de clients creuant les dades de milions de perfils de compres, van observar un patró de comportament (correlació i no causalitat) a les compres que feien un perfil determinat de clients -homes joves- un dia en concret -els divendres tard en tornar de la feina-.
Pel que sembla els pares adquirien a la mateixa compra bolquers i cerveses, el primer per als seus fills menors i el segon per als progenitors. Amb aquests resultats es diu que Walmart va reordenar algunes prestatgeries del supermercat de tal manera que, com ja us podeu imaginar, al costat dels bolquers es van posar prestatgeries amb cerveses, de manera que va aconseguir incrementar les vendes de la beguda en qüestió de manera molt notable.
Si tornem al mantra en qüestió -la causalitat suposa correlació però la correlació no sempre suposa causalitat-, i ho posem en relació amb el cas Walmart, veiem que el supermercat no va analitzar ni investigar el perquè de la compra a tots dos productes alhora, sinó que en va tenir prou amb el què, és a dir que la compra es duia a terme pels pares els divendres tardes, exemple clar que la correlació no sempre significa causalitat.
L’ètica en la transformació digital
Ens preguntem a través d’aquestes notes si hi ha alguna vinculació entre l’èxit en la transformació digital d’una organització, amb l’adopció per part d’aquesta i des de l’inici del projecte, d’una visió ètica a les decisions tecnològiques implantades, o dit d’una altra manera si una transformació digital que es defineixi com a tal, pot ser sostenible en el temps sense incorporar els principis de l’ètica digital o de l’anomenada responsabilitat digital corporativa.
L’ètica pot ser definida com aquell conjunt de valors humans que en forma de regles, estàndards, creences o normes, ens ajuden les persones a determinar quan una acció és correcta i quan no ho és, principis ètics que influeixen en la manera com els individus pensem i actuem i que, per tant, com a humans que som, apliquem en les decisions del nostre dia a dia.
La presència de principis ètics és un element essencial en les organitzacions amb què interactuem de forma habitual i així ens convertim en els seus defensors quan tenen valors ètics ben definits i les seves actuacions amb nosaltres són congruents amb aquests.
Per contra desconfiem quan no és així, com el cas del robot Tay llançat per Microsoft a Twitter, o quan Google va recopilar dades de nens que feien servir YouTube per mostrar-los anuncis personalitzats o finalment amb el que va passar amb tot l’embolic de Facebook i Cambridge Analitics.
Sent l’ètica un concepte una mica borrós en general, la veritat és que a la pràctica tots nosaltres coneixem, apliquem i exigim a la nostra vida diària que les decisions que es prenen per les organitzacions i que ens afecten, estiguin inspirades en principis ètics tals com la confiança, la integritat, la no discriminació, la transparència, la rendició de comptes, la llibertat d’elecció, el respecte a la diversitat de les persones o no fer mal, entre d’altres.
La transformació digital per contra pot entendre’s com la integració de la tecnologia digital en totes les àrees de negoci d’una organització, per garantir així la viabilitat i l’èxit de l’entorn digital i això s’aconsegueix situant les dades i els clients al centre de les decisions d’aquesta.
Quan unim l’ètica i la transformació digital o simplement quan parlem d’ètica digital, no ens referim només a qüestions de compliment normatiu consistents a no infringir la llei o a incorporar l’opinió d’experts en tecnologies disruptives als projectes de transformació digital, sinó que fem referència als nombrosos desafiaments ètics que plantegen les tecnologies disruptives involucrades en la transformació digital i els seus efectes a la vida de les persones.
Tecnologies com els vehicles autònoms, la intel·ligència artificial, la robòtica, l’internet de les coses, el big data, entre d’altres, quan formen part de les solucions tecnològiques adoptades en els projectes de transformació digital, generen interessants debats ètics com el cada vegada més habitual contacte automatitzat i menor humà de les organitzacions amb els seus clients, sent exemple d’això el recent cas del jubilat Carlos San Juan i la seva reeixida protesta contra la banca per la clamorosa falta de caixers automàtics a molts pobles d’Espanya.
Altres debats oberts en la mateixa línia són per exemple, com formar els empleats afectats pels processos de transformació digital perquè adquireixin noves habilitats digitals o els canvis en els rols en aquests i el futur que els espera als que no puguin seguir el ritme de la transformació digital, conflictes entre principis ètics i valors empresarials que no han fet més que començar.
De vegades la llei ja fixa una sèrie de principis que intenten resoldre alguns d’aquests dilemes ètics, com succeeix al camp de la protecció de dades personals on tant el conveni 108 de l’any 1981 com el reglament 2016/679, han normativitzat els principis de rendició de comptes, transparència, confidencialitat, seguretat, informació, entre d’altres.
Altres vegades són les mateixes organitzacions les que s’intenten assumir internament aquesta tasca.
En algunes simplement, no existeixen ni codis ètics ni una mínima cultura sobre l’ètica digital, per la qual cosa de manera informal i tàcita deleguen en les mateixes persones involucrades en la transformació digital -sobretot en els tecnòlegs-, la presa de les decisions per resoldre els conflictes que tenen a veure amb l’ètica digital, de manera que els debats ètics es plantegen i es resolen per part de les persones que estan al capdavant dels projectes de transformació digital i per tant, no s’escalen als responsables de les organitzacions, amb la dificultat afegida que la cultura, les creences o l’educació de cada persona en particular, fa que les seves solucions -encertades o no- puguin diferir de vegades del propòsit, la missió o la visió fixats per la pròpia organització.
Altres organitzacions sí que han afrontat aquest interessant repte a través de codis ètics que guien el seu comportament corporatiu en matèria digital -de vegades com a simples eines de màrqueting-, mentre que en altres ocasions l’ètica digital sí que forma part de l’ADN de l’organització com component essencial de la seva cultura corporativa i que, per tant, impregna el propòsit, la visió i la missió de la mateixa i es converteix en el focus que il·lumina i marca el camí per on han de discórrer les respostes als debats amb conseqüències ètiques a l’entorn digital.
A les organitzacions més madures -les menys- l’ètica digital ja és present des del mateix disseny de la proposta de transformació digital, afectant tot el seu cicle de vida en forma de compromís assumit per part de l’alta direcció, fet que suposa integrar l’ètica, no com una opció o valorar afegit com a complement addicional, sinó com un requisit que impregna tot el projecte i que, per tant, apareix reflectit en totes les solucions en què l’ésser humà estigui involucrat o afectat de manera indirecta.
Aquestes organitzacions ètiques, digitalment parlant, estan dirigides per líders compromesos amb els aspectes ètics de la tecnologia i són la consciència digital de l’organització, ja que uneixen en les seves decisions els objectius estratègics amb els principis ètics.
Si la transformació digital té com a finalitat canviar les persones i les organitzacions, serà imprescindible afegir una visió ètica a tot el procés si volem aconseguir que aquesta transformació sigui sostenible en el temps i això només passarà quan les persones i els seus principis ètics es vegin contemplats. i respectats a la nova organització i en totes les seves decisions, siguin digitals o no.
@ Ramon Arnó Torrades, Lleida, 2022.
La família digital a l´institut d´Almenar
Els dies 3 i 4 de març Ramon Arnó de la família digital (www.lafamiliadigital.es) i els alumnes dels 4 cursos de primer de primària, hem estat parlant animadament dels riscos i de les oportunitats de les xarxes socials per als menors.
Ha estat molt interessant el debat sobre si s´han de compartir o no les contrasenyes dels mòbils dels menors amb les mares i pares, o si cal demanar permís per a fer una fotografia a algú de la família.
Hem explicat també que és el sexting i el ciberassetjament, quines són les obligacions dels menors o que les noies i nois ja tenen responsabilitat penal a partir dels 14 anys.
Prevenció de situacions de risc en l’esport al Futbol Club Barcelona
Des de l’any 2016 al 2019, Ramon Arnó de la família digital ha participat com a professor en diverses formacions a entrenadors i altre personal del Futbol Club Barcelona, organitzat per l’àrea de Formació de Formadors de Masia 360
Els enllaços:
https://www.fcbarcelona.es/es/club/noticias/775663/curso-de-prevencion-de-situaciones-de-riesgo-en-el-deporte
https://www.fcbarcelona.es/es/noticias/724079/valores-que-hacen-grande-el-deporte
La família digital al YoMo, The Youth Mobile Festival
La família digital va participar els anys 2018 i 2019 al YoMo, The Youth Mobile Festival, creat pel Mobile World Congress, amb els Mossos d´Esquadra i gràcies a la Fundació punt.cat.
Els enllaços
https://domini.cat/webs-al-punt-cat-tanca-el-periode-dinscripcions-amb-mes-de-2400-alumnes-inscrits/
https://www.mwcbarcelona.com/
La família digital a la subcomissió d’estudi sobre xarxes socials al Congrés dels Diputats
Ramon Arnó com a Coordinador de la comissió de menors de l’Associació Professional Espanyola de Privadesa (APEP), va comparèixer el dia de 25 de setembre de 2013 a la subcomissió d’estudi sobre les xarxes socials constituïda a la comissió d’Interior del Congrés dels Diputats
En aquest enllaç, a les pàgines 19 i 20 consta la seva intervenció:
https://www.congreso.es/public_oficiales/L10/CONG/BOCG/D/BOCG-10-D-643.PDF
Conferència al Consell General d’Andorra
El dia 28-1-2013 vaig participar en la conferència Què cal fer per enredar-se ben enredat amb les xarxes socials, al vestíbul del Consell General d’Andorra.
L’acte es va celebrar amb motiu del Dia Europeu de Protecció de Dades i hi van assistir unes cent persones.
La ponència va tractar temes d’actualitat com els fenòmens de l’Informer, la protecció de dades personals, les xarxes socials i l’exercici de la pàtria potestat a Internet, entre altres temes i casos pràctics relacionats amb la privacitat.
El Síndic General del Consell d’Andorra, Sr. Vicenç Mateu, i el cap de l’Agència Andorrana de Protecció de Dades, Sr. Joan Crespo, van acompañar-me durant la conferència
L´enllaç:
http://www.pcital.com/noticies/conferencia-de-ramon-arno-sobre-les-xarxes-socials-al-consell-general-d2019andorra
https://www.apda.ad/sites/default/files/2018-10/memoria_apda_2013.pdf
El Tribunal Suprem avala que els pares revisin els dispositius dels seus fills sense el seu consentiment