Ètica des del disseny i el cas Tay
Un bot és un programa d’ordinador que fan anar algunes organitzacions als seus webs per automatitzar tasques com són gestionar les queixes dels clients o resoldre els seus dubtes, tot això sense la intervenció de cap humà i, per tant, de forma automàtica.
Bot és el resultat d’escurçar la paraula robot i és una eina molt utilitzada en les xarxes socials i els portals de comerç electrònic, sobretot en l’apartat d’atenció al client on de vegades fins i tot simulen converses amb nosaltres els clients.
Tay va ser un bot basat en intel·ligència artificial llançat per Microsoft a la xarxa social Twitter el 23 de març de 2016 com a experiment de comprensió conversacional i que segons els seus creadors, volia imitar el llenguatge dels adolescents i específicament el perfil d´una noia jove i feminista d´entre 18 a 24 anys.
Es va activar a través del compte @TayandYou i era una barreja d’aprenentatge automàtic i de processament del llenguatge obtingut de les xarxes socials amb la idea que com més interactuessin els usuaris de Twitter amb Tay, el bot més coneixement adquiriria i, per tant, les seves respostes serien més acurades, o almenys això és el que deia la teoria.
Inicialment Tay piulava frases divertides, però al cap d’unes hores del seu llançament alguns usuaris es van encarregar d’inundar-lo amb comentaris racistes, misògins i antisemites fins al punt de negar l’holocaust.
Frases del tipus «Hitler tenia raó, odio als jueus» o «Odi a les feministes, haurien de morir i ser cremades en l’infern» van aparèixer al seu perfil a Twitter.
Per empitjorar més les coses, Tay incorporava un mecanisme que li feia repetir automàticament qualsevol paraula o frase que els usuaris de Twitter li diguessin, el que propiciava que sembles que aquelles horroroses opinions eren pròpies de Tay.
Al cap de 16 hores del seu llançament i al constatar que la majoria dels comentaris de Tay eren abusius i ofensius, Microsoft va decidir de manera unilateral suspendre el compte a Twitter, de tal manera que les piulades es van eliminar i Tay va ser desconnectat, afirmant el seu creador que el bot necessitava un temps per descansar.
Posteriorment, Microsoft va publicar una declaració al seu bloc reconeixent que l´experiment amb el bot Tay no havia funcionat tal com s’esperava.
El cas Tay ens serveix com a exemple per a reflexionar sobre les dificultats de dissenyar tecnologia incorporant principis ètics des del moment inicial, però també ens posa sobre avis de la necessària responsabilitat que tenen els fabricants de productes i serveis basats en intel·ligència artificial sobre els resultats dels seus invents.
L’experimentació amb eines d’intel·ligència artificial tan populars com el Siri o l’Alexa ha de ser coherent amb els valors culturals i socials comunament admesos, principis que han de formar part dels codis ètics dels dissenyadors i de la resta de professionals que hi intervenen, per tal que s’integrin a l’adn de la tecnologia creada per ells.
La principal lliçó que podem extreure del cas Tay és la importància que han de tenir els codis ètics en el disseny de productes i serveis basats en la intel·ligència artificial, principis que la tecnologia ha d’incorporar des de l’inici com per exemple no jugar amb les emocions negatives de les persones, que els riscos potencials de la tecnologia s’avaluen i es gestionen contínuament o sobretot que sempre cal incloure la supervisió humana en les decisions que pren la tecnologia.
El dret de correcció.
El dret de correcció permet al pare castigar el fill menor amb la limitació de l’ús dels dispositius electrònics sense que això sigui constitutiu de delicte.
La SAP de Madrid de 7-2-2023, ponent Jacobo Vigil Levi confirma la sentència absolutòria dictada pel Jutjat d’instrucció.
El pare i la mare tenen dos fills en comú, i en algunes ocasions l’any passat, durant les estades dels fills amb el seu pare, aquest ha aixecat la veu als seus fills obligant-los a obeir, usant com a càstig la privació de l’ús de pantalles o l’anunci de l’anterior, havent proferit almenys en una ocasió el pare als seus fills que els faria fora de casa.
Al recurs de la mare davant l’AP de Madrid entén que s’ha infringit, per la seva manca d’aplicació, els preceptes que defineixen els delictes lleus de coaccions i amenaces (art. 172.3 i 171.7 del Codi Penal) que es consideren comesos a partir del relat de fets provats.
Al relat de fets es considera provat que l’acusat es va dirigir als fills menors d’edat: » … aixecant la veu obligant-los a obeir, usant com a càstig la privació de l’ús de pantalles o l’anunci de l’anterior, havent proferit almenys en una ocasió el pare als seus fills que els faria fora de casa …».
La mare Argumenta que aquesta conducta ha afectat psicològicament els fills menors i que ha d’integrar les infraccions referides, però l’AP de Madrid entén que la conducta descrita ha de situar-se en el context del dret/deure de correcció que s’atribueix als titulars de la pàtria potestat.
Des d’antic s’esmenta un dret de correcció dels pares envers els fills menors i es tracta d’una facultat (dret-deure) reconeguda per als progenitors (art. 154.1 del Codi Civil) per educar i correlativament els fills com a deure obeir (art. 155 Codi Civil).
En exercici d’aquesta potestat el Codi Civil reconeixia la facultat dels pares de: » … corregir raonablement i moderadament els fills … «, paràgraf que no obstant va ser suprimit de la nostra legislació per la Llei 54/07 de 28 de desembre.
Resulta evident, però, que els pares mantenen un cert poder de correcció sobre els fills menors, correcció que realitzen mitjançant conductes que serien fàcilment tipificables (amenaces, coaccions, etc.) i que es consideren justificades en virtut del que podem estimar és una conducta socialment adequada quan no per l’eximent de compliment d’un deure (art. 20.7 del Codi Penal).
El Tribunal Suprem ha tractat la qüestió en diferents resolucions des de la sentència 654/19 de 8-2 (Pte. Berdugo i Gómez de la Torre) citada per les sentències 47/20 de 11-2 i 582/22 de 13-6 ( Pte Colom de l’Arc) i raona que:
«… En conclusió, cal considerar que el dret de correcció, després de la reforma de l’art. 154.2 in fine del Codi Civil, continua existint com a necessari per a la condició de la funció d’educar inherent a la pàtria potestat, contemplada a l’art. CE i com a contrapartida al deure d’obediència dels fills cap als seus pares, previst a l’art. suprimit el dret de correcció i sota la seva empara determinades actuacions dels pares tals com donar un lleu cachete o castigar els fills sense sortir un cap de setmana, aquests actes podrien integrar tipus penals com el maltractament o la detenció il·legal…”.
Tot i això argumenta que el contingut i l’abast d’aquest dret s’ha d’interpretar de conformitat amb la realitat social del nostre temps (art. 3.1 del Codi Civil) de manera que les facultats inherents a la pàtria potestat s’han dolcificat i modificat en la nostra realitat social.
Actualment entén el Tribunal Suprem en la mateixa sentència que:
«… En aquest sentit els comportaments violents que ocasionin lesions -enteses en el sentit jurídic-penal com aquelles que requereixen una primera assistència facultativa i que constitueixin delicte- no poden trobar empara en el dret de correcció. Pel que fa a la resta de conductes, hauran de ser analitzades segons les circumstàncies de cada cas i si resulta que no excedeixen els límits del dret de correcció, l’actuació no tindrà conseqüències penals ni civils…”.
En cas que ens ocupa, no es va produir un càstig físic, sinó únicament un càstig consistent en la limitació de l’ús de dispositius electrònics.
És cert que en l’ús de la facultat de correcció els progenitors no sempre empren els recursos que són des del punt de vista pedagògic més adequats, però aquest fet no ha de determinar que es recondueixin a l’àmbit de la sanció penal conductes que són altres comuns en l’exercici de la difícil tasca d’educar els fills i que, com és el cas, no comporten cap lesió de la seva integritat física.
La resolució: https://www.poderjudicial.es/search/AN/openDocument/758f5944c8f339aba0a8778d75e36f0d/20230509
La família digital participa al XII Congrés ISACA Barcelona
El dia 14-11-2023 Ramon Arnó va participat en una taula rodona titulada el triangle del bullying.
Aquest any el congrés es va dedicar a la governança, l’auditoria i la ciberseguretat: construint la ciberresiliència.
L´enllaç: https://inscriu.me/ca/xii-congres-isaca-barcelona
La família digital al grau en enginyeria informàtica de la Universitat de Lleida.
Des de l’any 2012 Ramon Arnó Torrades participa com a professor a l’assignatura aspectes legals, socials i professionals als alumnes de tercer del Grau en Enginyeria Informàtica de la Universitat de Lleida.
Parlem amb els alumnes dels aspectes penals de l’entorn digital, dels contractes, la venda mitjançant internet i la protecció de dades personals.
L’enllaç a la UDL: https://grauinformatica.udl.cat/ca/pla-formatiu/professorat/detall/index.html?enc=NDM3MDk2ODM=
Què fem amb les pantalles? L’impacte de la tecnologia i les xarxes socials en la salut mental infantojuvenil
La família digital ha participat com a ponent a aquesta formació organitzada per l’Hospital Sant Joan de Déu Barcelona https://www.sjdhospitalbarcelona.org/es i el departament de psiquiatria i medicina legal de la Universitat Autònoma de Barcelona https://www.uab.cat/ca/psiquiatria
S’ha fet el dia 18-4 a l’auditori de Sant Joan de Déu a Barcelona.
Hem parlat de les problemàtiques legals associades a l’ús de les TIC.
El programa: https://actoserveis.com/jornada-psiquiatria-psicologia-2024/es/
La família digital al Tech&Play 2024
Què són els drets digitals? Protegeix el teu espai a la xarxa.
Sota aquest suggerent títol el dia 27-4 la família digital ha participat en el Tech&Play 2024.
Aquest és el nou festival de tecnologia on descobrir les últimes tendències en innovació i connectivitat
És un esdeveniment del Mobile World Capital Barcelona: https://barcelona.mobileworldcapital.com/
En aquest enllaç el programa: https://techandplay.community/es/
La salut digital a la pediatria
Sota el títol la salut digital en pediatria, la família digital ha participat en la XIII Jornada Multidisciplinària organitzada per la societat catalana de pediatria el dia 25-11-2023 a Barcelona.
Hem aportat una mirada legal a la salut digital.
Aquí teniu el programa: https://www.scpediatria.cat/?p=page/html/detallactivitat/id/24567/codi_entitat/039/tipus_entitat/s
Aquí el vídeo de la jornada:https://www.youtube.com/watch?si=nYtp_3ztXX60am2-&v=V3vOZt-W_zQ&feature=youtu.be
Bolquers, cerveses i big data
S’explica -sense saber-se si és veritat o es tracta d’una faula- que en una anàlisi que va fer Walmart de les seves targetes de clients creuant les dades de milions de perfils de compres, van observar un patró de comportament (correlació i no causalitat) a les compres que feien un perfil determinat de clients -homes joves- un dia en concret -els divendres tarda en tornar de la feina-.
Pel que sembla els pares adquirien a la mateixa compra bolquers i cerveses, el primer producte per als seus fills menors i el segon per als progenitors.
Amb aquests resultats es diu que Walmart va reordenar algunes prestatgeries del supermercat de tal manera que, com ja us podeu imaginar, al costat dels bolquers es van posar prestatgeries amb cerveses, de manera que va aconseguir incrementar les vendes de la beguda en qüestió de manera molt notable.
Si tornem al mantra en qüestió -la causalitat suposa correlació però la correlació no sempre suposa causalitat-, i ho posem en relació amb el cas Walmart, veiem que el supermercat no va analitzar ni investigar el perquè de la compra dels dos productes alhora, sinó que en va tenir prou amb el què, és a dir que la compra es duia a terme pels pares els divendres tardes, exemple clar que la correlació no sempre significa causalitat.
Ètica des del disseny i el cas Tay
Ètica des del disseny i el cas Tay
Un bot és un programa d’ordinador que fan anar algunes organitzacions als seus webs per automatitzar tasques com són gestionar les queixes dels clients o resoldre els seus dubtes, tot això sense la intervenció de cap humà i, per tant, de forma automàtica.
Bot és el resultat d’escurçar la paraula robot i és una eina molt utilitzada en les xarxes socials i els portals de comerç electrònic, sobretot en l’apartat d’atenció al client on de vegades fins i tot simulen converses amb nosaltres els clients.
Tay va ser un bot basat en intel·ligència artificial llançat per Microsoft a la xarxa social Twitter el 23 de març de 2016 com a experiment de comprensió conversacional i que segons els seus creadors, volia imitar el llenguatge dels adolescents i específicament el perfil d´una noia jove i feminista d´entre 18 a 24 anys.
Es va activar a través del compte @TayandYou i era una barreja d’aprenentatge automàtic i de processament del llenguatge obtingut de les xarxes socials amb la idea que com més interactuessin els usuaris de Twitter amb Tay, el bot més coneixement adquiriria i, per tant, les seves respostes serien més acurades, o almenys això és el que deia la teoria.
Inicialment Tay piulava frases divertides, però al cap d’unes hores del seu llançament alguns usuaris es van encarregar d’inundar-lo amb comentaris racistes, misògins i antisemites fins al punt de negar l’holocaust.
Frases del tipus «Hitler tenia raó, odio als jueus» o «Odi a les feministes, haurien de morir i ser cremades en l’infern» van aparèixer al seu perfil a Twitter.
Per empitjorar més les coses, Tay incorporava un mecanisme que li feia repetir automàticament qualsevol paraula o frase que els usuaris de Twitter li diguessin, el que propiciava que sembles que aquelles horroroses opinions eren pròpies de Tay.
Al cap de 16 hores del seu llançament i al constatar que la majoria dels comentaris de Tay eren abusius i ofensius, Microsoft va decidir de manera unilateral suspendre el compte a Twitter, de tal manera que les piulades es van eliminar i Tay va ser desconnectat, afirmant el seu creador que el bot necessitava un temps per descansar.
Posteriorment, Microsoft va publicar una declaració al seu bloc reconeixent que l´experiment amb el bot Tay no havia funcionat tal com s’esperava.
El cas Tay ens serveix com a exemple per a reflexionar sobre les dificultats de dissenyar tecnologia incorporant principis ètics des del moment inicial, però també ens posa sobre avis de la necessària responsabilitat que tenen els fabricants de productes i serveis basats en intel·ligència artificial sobre els resultats dels seus invents.
L’experimentació amb eines d’intel·ligència artificial tan populars com el Siri o l’Alexa ha de ser coherent amb els valors culturals i socials comunament admesos, principis que han de formar part dels codis ètics dels dissenyadors i de la resta de professionals que hi intervenen, per tal que s’integrin a l’adn de la tecnologia creada per ells.
La principal lliçó que podem extreure del cas Tay és la importància que han de tenir els codis ètics en el disseny de productes i serveis basats en la intel·ligència artificial, principis que la tecnologia ha d’incorporar des de l’inici com per exemple no jugar amb les emocions negatives de les persones, que els riscos potencials de la tecnologia s’avaluen i es gestionen contínuament o sobretot que sempre cal incloure la supervisió humana en les decisions que pren la tecnologia.
La llei de martec i la transformació digital
La llei de martec i la transformació digital
La Llei de Martec va ser descrita per Scott Brinker, vicepresident de Hubspot l’any 2013.
Aquesta llei explica bàsicament que la tecnologia canvia tan ràpidament que les organitzacions no poden absorbir el canvi.
La Llei de Martec ens diu que mentre que les organitzacions canvien a un ritme logarítmic -més lent- la tecnologia canvia a un ritme exponencial -més ràpid-.
Per això si intentem introduir de cop massa canvis tecnològics en una organització, podem acabar en un autèntic desastre.
És l’ explicació de la raó per la qual les inversions en tecnologia no suposen sempre resultats automàtics en la productivitat de les organitzacions.
Per això, moltes de les iniciatives de transformació digital no triomfen precisament per la dificultat d’absorbir les novetats tecnològiques i la pròpia resistència al canvi de les organitzacions.
La família digital a Sidamon
El dia 1-7-2022 la família digital va participar en una xerrada sobre riscos i oportunitats d´internet per a les famílies.