La mare sempre deia que la vida és com una caixa de bombons, mai saps el que et tocarà.

Aquesta frase es va fer famosa gràcies a la pel·lícula Forrest Gump protagonitzada per Tom Hanks allà per l’any 1994, quan el protagonista convida a una noia que està asseguda en un banc en Savannah a agafar un bombó d’una caixa, mentre Forrest està esperant l’autobús.

Aquesta anècdota ens serveix per a parlar de les recompenses aleatòries i la seva relació amb l’addiccions digitals que tanta preocupació estan generant en la nostra societat doncs s’han convertit en un greu problema de salut pública, i per a això parlarem d’un psicòleg estatunidenc anomenat B. F. Skinner, que es va fer famós amb un experiment consistent a tancar en una caixa a un colom en l’interior del qual hi havia una palanca que si era premuda, l’animal obtenia menjar.

Inicialment cada vegada que l’animal estrenyia la palanca, la caixa li donava una quantitat igual d’aliment, amb el que aquest pressionava el mecanisme, obtenia el menjar i aquí acabava l’experiment, però Skinner va començar a provar que succeïa amb el comportament del colom quan la recompensa en prémer la palanca variava cada vegada i es convertia en imprevisible, és a dir que quan premia la palanca obtenia menjar però de manera aleatòria, a vegades li donava aliment i no sempre en la mateixa proporció i en altres ocasions no.

El que va descobrir Skinner és que quan el resultat de prémer la palanca no era previsible per al colom sinó totalment aleatori, l’animal perdia el control i no parava de pressionar amb independència de la quantitat de menjar que li proporcionava, per la qual cosa al resultat del seu experiment Skinner el va denominar el sistema de recompensa variable.

Si ens emportem l’exemple del món animal al nostre món digital, veiem que les màquines escurabutxaques, els videojocs i les xarxes socials han incorporat aquest tipus de tàctiques subtils consistents a oferir-nos recompenses aleatòries, inesperades o imprevisibles, que creen en els usuaris una sensació d’incertesa que fa que algunes persones reaccionin jugant de manera compulsiva i no puguin deixar de fer-ho, la qual cosa converteix un simple joc en una perillosa addicció.

Aquesta és una estratègia molt pensada pels dissenyadors de tecnologia que serveix per a reforçar un determinat tipus de conducta i així el jugador comença a jugar d’una forma fàcil i molt amigable per a, a poc a poc, anar-se enganxant a ella, sent curiós que l’usuari creu en tot moment que ell controla a la tecnologia i no al revés i no sols això sinó que està convençut que en qualsevol moment rebrà el seu recompensa en forma de punts, cofres, diners, etc.

La resposta humana davant aquesta mena d’estímuls té a veure amb el fet que la tecnologia s’ha dissenyat per a aconseguir l’activació ràpida de la dopamina, que és un neurotransmissor associat amb el plaer, la recompensa i la motivació, per la qual cosa aquí podríem canviar la frase de Forrest i afirmar sense rubor que la tecnologia no és com una caixa de bombons, doncs els seus dissenyadors sí que saben en tot moment el bombó que ens tocarà i no sempre ens arriba en forma d’agradable dolç de xocolata, sinó com a addicció a la tecnologia digital i a vegades com a greu problema de salut digital.

Ètica des del disseny i el cas Tay

Un bot és un programa d’ordinador que fan anar algunes organitzacions als seus webs per automatitzar tasques com són gestionar les queixes dels clients o resoldre els seus dubtes, tot això sense la intervenció de cap humà i, per tant, de forma automàtica.

Bot és el resultat d’escurçar la paraula robot i és una eina molt utilitzada en les xarxes socials i els portals de comerç electrònic, sobretot en l’apartat d’atenció al client on de vegades fins i tot simulen converses amb nosaltres els clients.

Tay va ser un bot basat en intel·ligència artificial llançat per Microsoft a la xarxa social Twitter el 23 de març de 2016 com a experiment de comprensió conversacional i que segons els seus creadors, volia imitar el llenguatge dels adolescents i específicament el perfil d´una noia jove i feminista d´entre 18 a 24 anys.

Es va activar a través del compte @TayandYou i era una barreja d’aprenentatge automàtic i de processament del llenguatge obtingut de les xarxes socials amb la idea que com més interactuessin els usuaris de Twitter amb Tay, el bot més coneixement adquiriria i, per tant, les seves respostes serien més acurades, o almenys això és el que deia la teoria.

Inicialment Tay piulava frases divertides, però al cap d’unes hores del seu llançament alguns usuaris es van encarregar d’inundar-lo amb comentaris racistes, misògins i antisemites fins al punt de negar l’holocaust.

Frases del tipus “Hitler tenia raó, odio als jueus” o “Odi a les feministes, haurien de morir i ser cremades en l’infern” van aparèixer al seu perfil a Twitter.

Per empitjorar més les coses, Tay incorporava un mecanisme que li feia repetir automàticament qualsevol paraula o frase que els usuaris de Twitter li diguessin, el que propiciava que sembles que aquelles horroroses opinions eren pròpies de Tay.

Al cap de 16 hores del seu llançament i al constatar que la majoria dels comentaris de Tay eren abusius i ofensius, Microsoft va decidir de manera unilateral suspendre el compte a Twitter, de tal manera que les piulades es van eliminar i Tay va ser desconnectat, afirmant el seu creador que el bot necessitava un temps per descansar.

Posteriorment, Microsoft va publicar una declaració al seu bloc reconeixent que l´experiment amb el bot Tay no havia funcionat tal com s’esperava.

El cas Tay ens serveix com a exemple per a reflexionar sobre les dificultats de dissenyar tecnologia incorporant principis ètics des del moment inicial, però també ens posa sobre avis de la necessària responsabilitat que tenen els fabricants de productes i serveis basats en intel·ligència artificial sobre els resultats dels seus invents.

L’experimentació amb eines d’intel·ligència artificial tan populars com el Siri o l’Alexa ha de ser coherent amb els valors culturals i socials comunament admesos, principis que han de formar part dels codis ètics dels dissenyadors i de la resta de professionals que hi intervenen, per tal que s’integrin a l’adn de la tecnologia creada per ells.

La principal lliçó que podem extreure del cas Tay és la importància que han de tenir els codis ètics en el disseny de productes i serveis basats en la intel·ligència artificial, principis que la tecnologia ha d’incorporar des de l’inici com per exemple no jugar amb les emocions negatives de les persones, que els riscos potencials de la tecnologia s’avaluen i es gestionen contínuament o sobretot que sempre cal incloure la supervisió humana en les decisions que pren la tecnologia.

El dia 21-4-2022 la família digital ha participat en una agradable xerrada amb els alumnes del centre de formació d´adults Victorina Vila de Lleida parlant de riscos i oportunitats a les xarxes socials.

El web del centre: https://agora.xtec.cat/cfavictorinavila/

Els dies 3 i 4 de març Ramon Arnó de la família digital (www.lafamiliadigital.es) i els alumnes dels 4 cursos de primer de primària, hem estat parlant animadament dels riscos i de les oportunitats de les xarxes socials per als menors.

Ha estat molt interessant el debat sobre si s´han de compartir o no les contrasenyes dels mòbils dels menors amb les mares i pares, o si cal demanar permís per a fer una fotografia a algú de la família.

Hem explicat també que és el sexting i el ciberassetjament, quines són les obligacions dels menors o que les noies i nois ja tenen responsabilitat penal a partir dels 14 anys.

Des de l’any 2016 al 2019, Ramon Arnó de la família digital ha participat com a professor en diverses formacions a entrenadors i altre personal del Futbol Club Barcelona, organitzat per l’àrea de Formació de Formadors de Masia 360

Els enllaços:

https://www.fcbarcelona.es/es/club/noticias/775663/curso-de-prevencion-de-situaciones-de-riesgo-en-el-deporte

https://www.fcbarcelona.es/es/noticias/724079/valores-que-hacen-grande-el-deporte

La família digital va participar els anys 2018 i 2019 al YoMo, The Youth Mobile Festival, creat pel Mobile World Congress, amb els Mossos d´Esquadra i gràcies a la Fundació punt.cat.

Els enllaços

https://domini.cat/webs-al-punt-cat-tanca-el-periode-dinscripcions-amb-mes-de-2400-alumnes-inscrits/

https://www.mwcbarcelona.com/

Ramon Arnó com a Coordinador de la comissió de menors de l’Associació Professional Espanyola de Privadesa (APEP), va comparèixer el dia de 25 de setembre de 2013 a la subcomissió d’estudi sobre les xarxes socials constituïda a la comissió d’Interior del Congrés dels Diputats

En aquest enllaç, a les pàgines 19 i 20 consta la seva intervenció:

https://www.congreso.es/public_oficiales/L10/CONG/BOCG/D/BOCG-10-D-643.PDF

El dia 28-1-2013 vaig participar en la conferència Què cal fer per enredar-se ben enredat amb les xarxes socials, al vestíbul del Consell General d’Andorra.

L’acte es va celebrar amb motiu del Dia Europeu de Protecció de Dades i hi van assistir unes cent persones.

La ponència va tractar temes d’actualitat com els fenòmens de l’Informer, la protecció de dades personals, les xarxes socials i l’exercici de la pàtria potestat a Internet, entre altres temes i casos pràctics relacionats amb la privacitat.

El Síndic General del Consell d’Andorra, Sr. Vicenç Mateu, i el cap de l’Agència Andorrana de Protecció de Dades, Sr. Joan Crespo, van acompañar-me durant la conferència

L´enllaç:

http://www.pcital.com/noticies/conferencia-de-ramon-arno-sobre-les-xarxes-socials-al-consell-general-d2019andorra

https://www.apda.ad/sites/default/files/2018-10/memoria_apda_2013.pdf

 

El dia 11-11-2017 la família digital va participar en la jornada entorns familiars i dispositius digitals organitzada per la federació d´associacions de mares i pares d´alumnes de Catalunya i l´observatori Lleida pantalles, que es va celebrar a la Universitat de Lleida.

L´enllaç: http://lleidapantalles.lleida.org/wordpress/2018/01/22/jornada-entorns-familiars-i-dispositius-digitals/

El dia 14-7-2021 Ramon Arnó de la familia digital ha participat a Rac 1 al programa “no ho sé” amb la periodista Agnès Marques (20.30 a 21:30), sobre la polèmica del vídeo de Naim Darrechi, Tiktok i el tancament dels perfils de les xarxes socials.

Podeu escoltar l´audio dels minuts 12.45 en endavant:

https://www.rac1.cat/programes/no-ho-se/20210713/410517411311/tiktok-compte-naim-darrechi-abus-sexual-polemica-advocat.html