La constatación que algunos algoritmos que utiliza la inteligencia artificial fallan a la hora de reconocer a las personas de color, pone de relieve las dificultades que aún existen para incluir la diversidad racial en los productos y servicios que usamos de manera habitual en el mundo digital.
Las máquinas toman cada vez más decisiones de manera autónoma y por ello, preocupa que los algoritmos perpetúen en el mundo digital las mismas conductas de discriminación racial provenientes del mundo analógico y que los algoritmos tomen decisiones claramente discriminatorias.
Para ilustrar el debate es interesante el video del caso del dispensador de jabón que utiliza un sensor para detectar cuándo una mano se sitúa debajo:
https://www.youtube.com/watch?v=YJjv_OeiHmo
El dispensador no plantea problemas cuando la mano es de color blanco ya que dispensa el jabón sin dificultad alguna, pero curiosamente ese sensor no puede detectar la mano de un cliente negro.
Si fuese posible tirar hacia atrás en el tiempo para intentar comprender la causa de este sesgo racial, seguramente el problema se creó -y no se detectó- en la propia fase de diseño del dispensador, cuando la empresa que lo concibió tenia en mente como prototipo a un solo tipo de usuario ideal, sin pensar en reflejar a la diversidad de la población a la que iba dirigido.
Y seguramente la composición del grupo de personas que hizo el diseño de la máquina expendedora de jabón tampoco era equitativa, pues nos aventuramos a asegurar que había una clara infrarrepresentación de personas de color, tanto en la fase de diseño como en la de entrenamiento del modelo, ya que posiblemente el mismo no se testeó con una variedad amplia de tonos de piel y posiblemente ninguna de color negro.
El sesgo posiblemente estuvo presente en la fase de diseño y también en la elección de los datos que se utilizaron para entrenar a la máquina expendedora de jabón.
La falta de representación de la realidad de las personas que iban a utilizar ese servicio como clientes o dicho de otra manera, la homogeneidad racial del equipo creador del diseño se apunta como una de las causas del sesgo.
En este caso las consecuencias no fueron graves, pero en otros supuestos las consecuencias de las decisiones tomadas pueden ser complicadas de asumir.
Para evitar perpetuar las situaciones de discriminación racial es clave el diseño inclusivo, la promoción de la diversidad en el equipo que crea y entrena la máquina y sobretodo, la aplicación efectiva de principios de la ética digital como la equidad, la transparencia, la confiabilidad y la no discriminación, herramientas todas ellas que se apuntan como indispensables para evitar que los sesgos raciales se transfieran de manera automática a los algoritmos y con ello, a las decisiones que las máquinas toman y que nos afectan como personas.
Los darkpatterns o patrones oscuros son aquellas prácticas de diseño engañosas, creadas expresamente para forzar a los usuarios de una web o una app a realizar acciones que en otras circunstancias no harían, y que tienen normalmente como finalidad manipular de forma más o menos consciente la voluntad del usuario.
El término fue creado por el diseñador de experiencia de usuario Harry Brignull en el año 2010: www.darkpatterns.org
En este perfil de twiter podemos ver ejemplos: https://twitter.com/darkpatterns
Se trata de anuncios disfrazados de vídeos, de ofertas de bajos precios que no muestran los costes adicionales, de diseños que desorientan al usuario a la hora de cancelar un producto o de darse de baja de la cuenta, de productos que de forma misteriosa se cuelan en el carrito de la compra, de diseños que empujan al usuario a aceptar tratamientos poco respetuosos con la privacidad o de suscripciones gratuitas que para disfrutarlas obligan a introducir la tarjeta de crédito, pero que después es complicado darse de baja cuando se quiere cancelar el servicio.
Desde el punto de vista legal son habituales en la políticas de privacidad de las redes sociales el uso de términos redactados de tal manera que son difíciles de entender, o que omiten información relevante en la primera capa y que obligan al usuario a ir haciendo clic a diversos enlaces para poder tener una comprensión aproximada de la política de tratamiento de datos personales, diseños legales que claramente infringen la normativa en protección de datos personales.
La finalidad de estos patrones siempre es incrementar las ventas o tratar más datos de los necesarios y van mas allá de las técnicas de simple persuasión o de marketing inteligente, sin que en ningún caso se trate de simples errores de programación.
Los diseñadores tienen un papel relevante frente a la presión de los clientes ante este fenómeno, para hacerles comprender que el uso de este tipo de estrategias no hace más que crear desconfianza y frustración y que los consumidores y usuarios son conscientes de los portales que utilizan estas técnicas.
Finalmente no debemos olvidar que un simple tuit de un cliente descontento puede convertirse en viral y suponer un grave riesgo reputacional y económico para la organización.
Nos preguntamos a través de estas notas si existe alguna vinculación entre el éxito en la transformación digital de una organización, con la adopción por parte de la misma y desde el inicio del proyecto, de una visión ética en las decisiones tecnológicas implantadas, o dicho de otra manera si una transformación digital que se defina como tal, puede ser sostenible en el tiempo sin incorporar los principios de la ética digital o de la denominada responsabilidad digital corporativa.
La ética puede ser definida como aquel conjunto de valores humanos que en forma de reglas, estándares, creencias o normas, nos ayudan a las personas a determinar cuando una acción es correcta y cuando no lo es, principios éticos que influyen en la forma en que los individuos pensamos y actuamos y que por tanto, como humanos que somos, aplicamos en las decisiones de nuestro día a día.
La presencia de principios éticos es un elemento esencial en las organizaciones con las que interactuamos de forma habitual y así nos convertimos en defensores de las mismas cuando tienen valores éticos bien definidos y sus actuaciones con nosotros son congruentes con los mismos.
Por el contrario desconfiamos cuando no es así como el caso del robot Tay lanzado por Microsoft en Twitter, o cuando Google recopiló datos de niños que usaban YouTube para mostrarles anuncios personalizados o finalmente con lo sucedido con todo el lío de Facebook y Cambridge Analitics.
Siendo la ética un concepto algo borroso en general, lo cierto es que en la práctica todos nosotros conocemos, aplicamos y exigimos en nuestra vida diaria que las decisiones que se toman por las organizaciones y que nos afectan, estén inspiradas en principios éticos tales como la confianza, la integridad, la no discriminación, la transparencia, la rendición de cuentas, la libertad de elección, el respecto a la diversidad de las personas o el no hacer daño, entre otros.
La transformación digital por el contrario puede entenderse como la integración de la tecnología digital en todas las áreas de negocio de una organización, para garantizar así la viabilidad y el éxito de la misma en el entorno digital y ello se consigue situando a los datos y a los clientes en el centro de las decisiones de la misma.
Cuando aunamos la ética y la transformación digital o simplemente cuando hablamos de ética digital, no nos referimos solo a cuestiones de cumplimiento normativo consistentes en no infringir la ley o en incorporar la opinión de expertos en tecnologías disruptivas en los proyectos de transformación digital, sino que hacemos referencia a los numerosos desafíos éticos que plantean las tecnologías disruptivas involucradas en la transformación digital y sus efectos en la vida de las personas.
Tecnologías tales como los vehículos autónomos, la inteligencia artificial, la robótica, el internet de la cosas, el big data, entre otras, cuando forman parte de las soluciones tecnológicas adoptadas en los proyectos de transformación digital, generan interesantes debates éticos como el cada vez mayor contacto automatizado y menor humano de las organizaciones con sus clientes, siendo ejemplo de ello el reciente caso del jubilado Carlos San Juan y su exitosa protesta contra la banca por la clamorosa falta de cajeros automáticos en muchos pueblos de España.
Otros debates abiertos en la misma línea son por ejemplo, como formar a los empleados afectados por los procesos de transformación digital para que adquieran nuevas habilidades digitales o los cambios en los roles en los mismos y el futuro que les espera a los que no puedan seguir el ritmo de la transformación digital, conflictos entre principios éticos y valores empresariales que no han hecho más que empezar.
A veces la ley ya fija una serie de principios que intentan resolver algunos de estos dilemas éticos, como sucede en el campo de la protección de datos personales donde tanto el convenio 108 del año 1981 como el reglamento 2016/679, han normativizado los principios de rendición de cuentas, transparencia, confidencialidad, seguridad, información, entre otros.
Otras veces son las propias organizaciones las que se intentan asumir internamente esta tarea.
En algunas de ellas, simple y llanamente, no existen ni códigos éticos ni una mínima cultura sobre la ética digital por lo que de manera informal y tácita delegan en las propias personas involucradas en la transformación digital -sobretodo en los tecnólogos-, la toma de las decisiones para resolver los conflictos que tiene que ver con la ética digital, de tal manera que los debates éticos se plantean y se resuelven por parte de las personas que están al frente de los proyectos de transformación digital y por tanto, no se escalan a los responsables de las organizaciones, con la dificultad añadida que la cultura, las creencias o la educación de cada persona en particular, hace que sus soluciones -acertadas o no- puedan diferir a veces con el propósito, la misión o la visión fijados por la propia organización.
Otras organizaciones si que han afrontado este interesante reto a través de códigos éticos que guían su comportamiento corporativo en materia digital -a veces como simples herramientas de marketing-, mientras que en otras ocasiones la ética digital si que forma parte del ADN de la organización como componente esencial de su cultura corporativa y que por tanto, impregna el propósito, la visión y la misión de la misma y se convierte en el foco que ilumina y marca el camino por donde deben discurrir las respuestas a los debates con consecuencias éticas en el entorno digital.
En las organizaciones más maduras -las menos- la ética digital ya está presente desde el mismo diseño de la propuesta de transformación digital, afectando a todo su ciclo de vida en forma de compromiso asumido por parte de la alta dirección, lo que supone integrar la ética, no como una opción o valorar añadido a modo de complemento adicional, sino como un requisito que impregna todo el proyecto y que por tanto aparece reflejado en todas la soluciones en las que el ser humano esté involucrado o afectado de manera indirecta.
Estas organizaciones éticas digitalmente hablando, están dirigidas por líderes comprometidos con los aspectos éticos de la tecnología y son la conciencia digital de la organización, ya que aúnan en sus decisiones los objetivos estratégicos con los principios éticos.
Si la transformación digital tiene como objetivo cambiar a las personas y a las organizaciones, será imprescindible añadir una visión ética a todo el proceso si queremos conseguir que esa transformación sea sostenible en el tiempo y ello sucederá solo cuando las personas y sus principios éticos se vean contemplados y respetados en la nueva organización y en todas sus decisiones, sean digitales o no.
@ Ramon Arnó Torrades, Lleida, 2022.
Ramon arnó ha participado en el Forum internacional de educación y tecnología (FIET) en los años 2014 y 2018:
a.- En 2014 en Tarragona, centrado en la ética y la tecnología.
El enlace: https://fietcat.cat/es/linenine
b.- en 2017 en Barcelona, hablando de educación, ética y civismo digital
El enlace: https://fiet2018.fietcat.cat/
Participación el día 2-11-2009 en las xxiv jornadas de bioética hablando de los aspectos legales y jurídicos del consentimiento informado.
El enalce: http://www.medicina.udl.cat/ca/
Ayer estuvimos en la jornada de presentación de la Carta catalana para los derechos y las responsabilidades digitales, una herramienta viva y dinámica con vocación normativa y de contribución al debate global
La jornada:
http://smartcatalonia.gencat.cat/ca/projectes/ciutadania/eTic/etic2019/
La carta:
https://participa.gencat.cat/uploads/decidim/attachment/file/1523/Carta_catalana_per_als_drets_i_les_responsabilitats_digitals_2.pdf
Enlaces de interés
Aquí tienes algunos enlaces interesantes, quizás te sean útiles.Categorías
- Acoso escolar
- Acoso sexual
- Actividades
- Administraciones públicas
- Ampa
- Ciberseguridad
- Comercio electrónico
- Conferencia
- Consumidores y usuarios
- Deporte
- Derecho penal
- Digitalización
- Documentos en papel
- El testamento digital
- Entrevista
- Escuela
- Ética
- Formación
- Fotos
- Imagen
- Influencer
- Internet
- Intimidad
- Medios de comunicación
- Menores
- Mobile Word Congres
- Nombres de dominio
- Patria potestad
- Propiedad intelectual
- Protección de datos
- Publicaciones
- Redes sociales
- Responsabilidad civil
- Seguridad
- Telecomunicaciones
- Trabajador
- Transformación digital
- Universidad
- Videovigilancia
Archivos
- septiembre 2022
- julio 2022
- junio 2022
- mayo 2022
- abril 2022
- marzo 2022
- enero 2022
- diciembre 2021
- enero 2021
- enero 2020
- diciembre 2016
- septiembre 2016
- junio 2016
- marzo 2016
- septiembre 2015
- mayo 2015
- febrero 2015
- abril 2014
- noviembre 2013
- abril 2013
- febrero 2013
- enero 2013
- diciembre 2012
- noviembre 2012
- octubre 2012
- junio 2012
- abril 2012
- marzo 2012
- enero 2012
- agosto 2011
- junio 2011
- mayo 2011
- julio 2010
- junio 2010
- mayo 2010