La singularidad tecnológica y la inteligencia artificial.

Google para su motor de búsqueda, Facebook para la publicidad dirigida, Apple para potenciar sus asistentes digitales o el sistemas compás en Estados Unidos, para predecirquién es más probable que vuelva a delinquir son ejemplos de uso de inteligencia artificial.

La singularidad tecnológica es el advenimiento hipotético de inteligencia artificial general, también conocida como IA fuerte.

Será aquel momento de la historia de la humanidad en el que el desarrollo tecnológico llegará a un punto en que las máquinas igualarán y superarán la inteligencia humana.

Si llegara ese momento, las máquinas crearían otras maquinas aún más inteligentes que ellas mismas, produciendo una escalada exponencial de la inteligencia artificial.

Así las máquinas se mejorarán a sí mismas de modo que cada nueva generación, al ser más inteligente, sería capaz de mejorar su propia inteligencia, dando lugar a otra nueva generación aún más inteligente, y así sucesivamente.

Un ejemplo típico de inteligencia artificial que aprende por sí misma es Alfa Go, un programa de inteligencia artificial desarrollado por deepmind de Google, que aprendió a jugar siguiendo no solo las reglas dadas por los programadores, sino -y esto es lo más relevante- empleando también un sistema de aprendizaje automático consistente en jugar contra sí mismo.

En este video se explica de forma muy clara todo el proceso:

Otra visión de la singularidad tecnológica pero de carácter distópico, son las palabras del ordenador Hall en la película de ciencia ficción de Stanley Kubrick, 2001 una odisea en el espacio.

En la escena que podéis ver en el enlace de you tube, Hal en respuesta a una orden humana donde le pide que abra las puertas del hangar, la máquina inteligente responde al humano: “ … lo siento David me temo que no puedo hacer eso …”:

Como abogado creía que esto de la transformación digital no tenía leyes propias, pero resulta que si, que de haberlas haylas como sucede con el derecho o la física, y por ello tiene pleno sentido que allí donde hay leyes deba haber abogados, que para algo somos la única profesión citada en la Constitución de 1978.

Una de la más interesantes es la ley de Metcalfe, que no debe su nombre a las reuniones de los amantes del café light (met + café + light), sino al señor Robert Metcalfe, ingeniero, co-inventor de ethernet y empresario estadounidense, que fue seguramente uno de los primeros casos de personas famosas que han popularizado su apellido dando nombre a una ley (Bosman, Wert, Sinde, entre otros).

La ley en cuestión afirma lo siguiente: El valor de una red es proporcional al cuadrado del numero de usuarios conectados.

En la práctica esta ley explica que una red (como Facebook, LinkedIn, WhatsApp, etc.) se vuelve más valiosa a medida que otros usuarios se unen a la misma, a modo de retroalimentación continua.

Pero claro, así de sopetón cuesta de entender el significado o las consecuencias de la ley metclafe para la gente de letras.

Es por ello que los expertos en transformación digital han utilizado históricamente una misma pregunta -que ya se ha vuelto clásica para explicar la ley en cuestión-, para que la ley metcalfe sea entendible para el común de los mortales, sin necesidad de tener un doctorado por el MIT.

La pregunta que se lanza a los alumnos de cualquier curso de transformación digital será parecida a la siguiente: ¿cual fue el aparato tecnológico que fue más difícil vender por primera vez, al primer cliente?.

Aunque sepáis la respuesta -fácil si continuáis leyendo este artículo- os aconsejo que dejéis pasar unos segundos como aquel que piensa profundamente antes de contestar al inquisitivo profesor que ha lanzado la cuestión, y al cabo de ese rato levantéis la mano para dar la respuesta mágica: el teléfono o el fax.

La respuesta es fácil de entender cuando te dan la explicación completa -como habitualmente sucede-, pero no tanto cuando te sueltan la teoría de golpe en medio de una clase.

Entrando a desentrañar los misterios de la ley, parece claro que si somos el propietario del primer y único teléfono que existe en el mundo, ese intrépido y osado primer cliente no podrá llamar a nadie con ese trasto, o si lo hace, nadie contestará -amantes de las ciencias ocultas, abstenerse de comentarios-.

Por tanto con un único teléfono -el ejemplo también sirve para el fax- parece claro que no podremos crear ninguna conexión llamando a alguien, ya que necesitamos que otro aguerrido usuario como nosotros, tenga a su vez otro teléfono como el nuestro, para así hacer la primera llamada y que alguien responda.

Si cogemos un papel y hacemos un dibujo lo veremos más claro, como me sucedió a mi:

1.- Si tenemos un solo usuario con su flamante teléfono, los enlaces que podemos obtener con el mismo son cero, con lo que no es necesario que hagamos ningún dibujo y guardemos el papel para el resto de ejemplos que veremos a continuación.

2.- Si tenemos dos usuarios y cada uno de ellos tiene su correspondiente teléfono, la cosa ya pinta bien.

Así dibujaremos un teléfono en una punta del papel y otro teléfono en la otra punta del papel, momento en que visualizaremos claramente que ambos teléfonos (o nodos, nada que ver con los noticiarios de antaño) se unen con una línea (la conexión o enlace), es decir -y aquí la primera conclusión de la ley Metcalfe- 2 nodos dan lugar a 1 enlace.

3.- Ahora bien ¿qué sucede si conectamos 3, 4 o 10 teléfonos o nodos entre si? ¿cuántas conexiones se pueden crean?:

Aquí os pongo los resultados directamente:

– 1 nodo = 0 conexiones

– 2 nodos = 1 conexión

– 3 nodos = 3 conexiones

– 4 nodos = 6 conexiones

– 5 nodos = 10 conexiones

– 6 nodos = 15 conexiones

– 7 nodos = 21 conexiones

– 8 nodos = 28 conexiones

– 9 nodos = 36 conexiones

– 10 nodos = 45 conexiones

Esta es la ley de Metcalfé explicada en plan de ir por casa.

La robótica social es una disciplina que se dedica a estudiar los robots antropomórficos que se diseñan y construyen para interactuar y comunicarse con los seres humanos, como sucede con los de tipo asistencial que ayudan a algunas personas mayores a recordar la hora de tomar el medicamento o de practicar ejercicio físico.

Como profanos que somos en esta materia podemos pensar que a mayor realismo del robot por sus rasgos antropomórficos, es decir a mayor semejanza del robot con el ser humano, la respuesta de las personas hacia el robot será en general de mayor empatía.

Pero ello no es exactamente así, si hacemos caso a las teorías del profesor Masahiro Mori.

En 1970 este profesor japonés de robótica del Instituto de Tecnología de Tokio lanzó la hipótesis conocida como del valle inquietante -uncanny valey- y referida a la reacción emocional o de empatía que los robots antropomórficos provocan entre los seres humanos con los que interactúan.

El profesor Mori analizó la relación existente entre el diseño de los robots con caracteres antropomórficos y la respuesta que ello genera en las personas, esto es si a mayor realismo en el diseño de los robots, la respuesta era de mayor empatía o más bien de rechazo.

Pues bien la conclusión del profesor es que cuando el diseño del robot podríamos decir es poco humano, nuestra reacción es positiva hacia él, pero a medida que el robot se va asemejando cada vez más a un humano y sus facciones son claramente antropomórficas, cuanto más aumenta por tanto el realismo del robot, mayor es a su vez el rechazo o la aversión de los humanos hacia él, respuesta que en algunos casos se convierte en recelo o incluso en miedo.

Y de ahí la importancia a la hora de diseñar un robot social de tener en cuenta la teoría del valle inquietante, por los sentimientos de inquietud o temor que pueda causar el mismo cuando interacciona con un ser humano.

Lo cierto es que ya tenemos algunos ejemplos en la vida real de esta teoría, desde maniquíes o figuras de ceras muy humanizadas o por ejemplo el caso del cortometraje Tin Toy creado por Pixar que sufrió grandes críticas por el diseño extremadamente realista del bebé.

Esta teoría tiene incluso un gráfico que la representa, por lo que es importante que los diseñadores de los robots antropomórficos la tengan en cuenta si quieren obtener una respuesta humana positiva hacia el robot.

Por ello los diseñadores de robots deben tener presente el gráfico del valle inquietante antes de empezar a dar forma al diseño del robot, para poder situarlo en el punto más alto de esa imaginaria montaña ya que es el lugar donde la percepción humana hacia el robot será más positiva y por ello evitar de todas todas, los diseños que discurran más allá del pico y que se adentren hacia el fondo del valle.

La razón es que a medida que el diseño se desplaza a la parte más baja de esa hipotética montaña dibujada en el gráfico, es decir a mayor realismo del robot, la respuesta que se obtendrá de los humanos será negativa, salvo que sea ese el resultado pretendido por el diseñador y quiera emular a aquel estudiante de medicina llamado Frankenstein que creó un monstruo de aspecto humano que tomó vida propia, al que abandonó a su suerte con resultados funestos.

En el año 2006 Netflix anunció un premio de 1 millón de dólares para aquellas propuestas que mejoraran su algoritmo de búsqueda en un 10 %.

El nombre del concurso era Netflix Prize.

Para que ello fuera técnicamente posible, Netflix decidió compartir sin conocimiento de sus clientes, 100 millones de clasificaciones de películas de casi 500.000 suscriptores, datos que eran -teóricamente- anónimos pues con ellos no podía identificarse a ningún cliente de Netflix.

Ese historial de alquiler de los clientes consistía en información tal como la fecha, la calificación y los comentarios a las películas de Netflix, información que sería suficiente para que los concursantes del concurso hicieran sus propuesta de mejora del algoritmo.

Pero lo cierto es que sucedió algo inesperado.

Unas semanas después del inicio del concurso, Arvind Narayanan y Vitaly Shmatikov, investigadores de la Universidad de Texas en Austin, pudieron reidentificar a algunos de los clientes anónimos de Netflix.

La pregunta es ¿y como fue posible si los datos de Netflix eran anónimos?.

La estrategia de los investigadores fue la de comparar dos fuentes de información diferentes, por una parte las clasificaciones anónimas de Netflix y por otra las clasificaciones publicas en Internet Movie Database (IMDb), portal de internet que almacena y comparte información sobre películas y donde los usuarios se registran e identifican.

Así cruzando informacion de ambos portales, fue como localizaron diversos perfiles anónimos de Netflix que coincidían a la perfección con los de IMDb, resultando que en algunos casos los perfiles en ambos portales eran de la misma persona.

Aunque pueda parecer que la lista de las películas que visualiza un cliente no es materia sensible, una usuaria de Netflix cuyos datos se habían utilizado en el proyecto Netflix Prize demandó a la compañía, ya que estaba entre las personas reidentificadas.

La cliente en cuestión era una madre lesbiana que no había compartido con nadie -ni con sus hijos- su orientación sexual, por lo que el resultado del proyecto claramente la perjudicada al sacar a la luz una información que ella había guardado celosamente.

La cuestión a debatir es si la empresa debería haber sabido que era posible reidentificar a sus clientes con datos anónimos y por ello, hubiese tenido que aplicar medidas adicionales de seguridad o simplemente no lanzar el proyecto.

En el capítulo segundo de las aventuras de Tom Sawyer, la tía Polly le encarga a Tom que pinte con cal una larga valla de madera, exactamente treinta varas de largo y nueve pies de altura.

Tom se las ingenia para que sus amigos realicen su trabajo por él y así descubre, en palabras del autor, uno de los principios fundamentales de la humana conducta: que para hacer que alguien, hombre o muchacho, anhele alguna cosa, sólo es necesario hacerla difícil de conseguir.

¿Y como lo hace? Pues haciendo creer a sus amigos que ese tedioso trabajo de pintar una extensa valla, es en realidad una agradable actividad creativa.

Para ello Tom empieza a pintar la valla a ojos de sus amigos como un gran artista que disfruta enormemente con su emocionante actividad creativa -que no es trabajo-.

¿Y que consigue?. Pues que sus amigos no solo le pinten la valla entera con 3 capas, sino que a cambio le hagan todo tipo regalos por ese trabajo, mejor dicho por esa ociosa actividad creativa.

Para ello Tom les vende el turno para encalar la valla, a cambio que sus amigos le regalen desde un trozo de vidrio azul de botella para mirar las cosas a través de él, una llave incapaz de abrir nada, un pedazo de tiza, un gatito tuerto o un collar de perro pero sin perro, regalo que da derecho a los colegas de Tom a pintar animosamente la valla -que no es trabajo-.

Tom les observa desde la sombra de un árbol, balanceando las piernas y comiéndose una manzana viendo como sus amigos trabajan por él, aunque ellos piensan que no es trabajo.

El final es conocido … la tía Polly se asombra tanto del trabajo de Tom que no puede expresarlo con palabras, al observar toda la valla encalada con varias capas y con una franja de añadidura en el suelo, y no solo le felicita sino que le regala una manzana.

Si trasladamos esta historia publicada en 1876 y la extrapolamos a las redes sociales o plataformas tipo Facebook, podemos sustituir los 3 personajes y ponerles nombres y apellidos:

a.- La tía Polly sería la representante de los accionistas de Facebook.

b.- Tom Sawyer sería sin duda Mark Zuckerberg.

c.- Los amigos pintores de Tom somos todos nosotros, los 2.449 millones de usuarios de Facebook que hacemos el trabajo -o para algunos una agradable actividad creativa consistente en crear contenidos gratuitos para la plataforma o red social.

En conclusión, aquel trabajo que deberían realizar los trabajadores de Facebook a cambio de un salario, nosotros los usuarios -los amigos pintores de Tom- lo hacemos no solo gratis et amore y de manera desinteresada, sino además pagando un precio como es regalando a la plataforma nuestros datos personales y no, como en el caso de los amigos de Tom, entregando a cambio un vidrio azul o un collar de perro pero sin perro.

Este es el llamado efecto Tom Sawyer, clave del modelo de negocio de las plataformas digitales.

Kodak fue una compañía muy conocida antaño por sus películas y cámaras fotográficas, ya que era la líder de la industria fotográfica.

Fundada en 1892, inventó el carrete de papel sustituyendo así las vetustas placas de cristal de las cámaras fotográficas.

Kodak se hizo famosa con su lema “tu aprieta el botón que nosotros nos encargamos del resto”, y de hecho en 1990 se dijo de ella que era una de las 5 marcas más valiosas del mundo.

Unos años antes, en 1975, un ingeniero de la compañía llamado Steve Sasson, inventó la primera cámara fotográfica digital, y se dice que cuando presentó su novedad a la dirección de la empresa, la respuesta fue algo así como “está bien pero no se lo digas a nadie”.

Kodak no invirtió en la cámara digital al creer que si lo hacía, canibalizaría su principal actividad económica que era vender películas, revelar los negativos e imprimir las imágenes, negocio que era muy rentable en aquellos momentos.

No vio el carácter disruptivo de la fotografía digital, sino que por contra la consideró como su enemiga y cuando por fin Kodak entró en el año 1992 en el mercado de las cámaras digitales, ya era tarde y fue así como la compañía de referencia en la industria fotográfica languideció hasta que presentó en el año 2012 un expediente de quiebra.

Kodak se dedica ahora mayoritariamente a fabricar y vender impresoras, cámaras, proyectores portátiles, televisiones, etc.

¿Pero qué sucedió para llegar a ese triste final?

Pues que Kodak se aferró a lo que sabía hacer, lo mismo que había hecho toda la vida y además no vio que el futuro no estaba en la impresión de las fotografías, sino en visualizarlas en las pantallas, no hizo la revolución digital cuando tocaba y tampoco se diversificó, como Fujifilm, su gran rival.

Cuando los clientes dejaron de imprimir las fotografías y empezaron a compartirlas por internet, que fue en aquel mismo momento en que las cámaras se fusionaron con los teléfonos móviles, Kodak no reaccionó, no se transformó digitalmente usando la tecnología digital para transformar sus productos y servicios, la experiencia del cliente o el funcionamiento interno de la empresa. Y cuando quiso darse cuenta, ya era tarde, demasiado tarde.

¿Kodak es el único ejemplo de fiasco al no querer transformarse digitalmente? … pues no, como veremos cuando analicemos el caso Blockbuster / Netflix o la cadena de librerías Borders / Amazon.

El derecho de corrección permite al padre castigar a su hijo menor con la limitación del uso de los dispositivos electrónicos sin que ello sea constitutivo de delito.

La SAP de Madrid de 7-2-2023, ponente D. Jacobo Vigil Levi confirma la sentencia absolutoria dictada por el Juzgado de instrucción.

El padre y la madre tienen dos hijos en común, y en algunas ocasiones en el pasado año, durante las estancias de los hijos con su padre, éste ha levantado la voz a sus hijos conminándoles a obedecer, usando como castigo la privación del uso de pantallas o el anuncio de lo anterior, habiendo proferido al menos en una ocasión el padre a sus hijos que les iba a echar de casa.

En el recurso de la madre ante la AP de Madrid entiende que se ha infringido, por su falta de aplicación, los preceptos que definen los delitos leves de coacciones y amenazas (art. 172.3 y 171.7 del Código Penal) que se consideran cometidos a partir del relato de hechos probados.

En el relato de hechos se considera probado que el acusado se dirigió a sus hijos menores de edad:

» … levantando la voz conminándoles a obedecer, usando como castigo la privación del uso de pantallas o el anuncio de lo anterior, habiendo proferido al menos en una ocasión el padre a sus hijos que les iba a echar de casa …».

Argumenta la madre que esta conducta ha afectado psicológicamente a los hijos menores y que debe integrar las infracciones referidas, pero la AP de Madrid entiende que la conducta descrita debe situarse en el contexto del derecho/deber de corrección que se atribuye a los titulares de la patria potestad.

Desde antiguo se menciona un derecho de corrección de los padres para con los hijos menores y se trata de una facultad (derecho-deber) reconocida para los progenitores (art. 154.1 del Código Civil) para educar y correlativamente a los hijos como deber de obedecer (art. 155 Código Civil).

En ejercicio de esta potestad el Código Civil reconocía la facultad de los padres de:

» … corregir razonable y moderadamente a los hijos … «,

párrafo que sin embargo fue suprimido de nuestra legislación por la Ley 54/07 de 28 de diciembre.

Resulta no obstante evidente que los padres mantienen un cierto poder de corrección sobre los hijos menores, corrección que realizan mediante conductas que serían fácilmente tipificables (amenazas, coacciones, etc.) y que se consideran justificadas en virtud de lo que podemos estimar es una conducta socialmente adecuada cuando no por la eximente de cumplimiento de un deber (art. 20.7 del Código Penal).

El Tribunal Supremo ha tratado la cuestión en diferentes resoluciones desde la sentencia 654/19 de 8-2 (Pte. Berdugo y Gómez de la Torre) citada por las sentencias 47/20 de 11-2 y 582/22 de 13-6 (Pte Palomo del Arco) y razona que:

» … En conclusión, debe considerarse que el derecho de corrección, tras la reforma del art. 154.2 in fine del Código Civil, sigue existiendo como necesario para la condición de la función de educar inherente a la patria potestad, contemplada en el art. 39 CE y como contrapartida al deber de obediencia de los hijos hacia sus padres, previsto en el art. 155 Código Civil, únicamente de este modo, los padres pueden, dentro de unos límites, actuar para corregir las conductas inadecuadas de sus hijos. Si consideráramos suprimido el derecho de corrección y bajo su amparo determinadas actuaciones de los padres tales como dar un leve cachete o castigar a los hijos sin salir un fin de semana, estos actos podrían integrar tipos penales tales como el maltrato o la detención ilegal …».

Sin embargo argumenta que el contenido y alcance de este derecho debe interpretarse de conformidad con la realidad social de nuestro tiempo (art. 3.1 del Código Civil) de manera que las facultades inherentes a la patria potestad se han venido dulcificando y modificando en nuestra realidad social.

En la actualidad entiende el Tribunal Supremo en la misma sentencia que:

» …  En este sentido los comportamientos violentos que ocasionen lesiones -entendidas en el sentido jurídico-penal como aquellas que requieren una primera asistencia facultativa y que constituyan delito- no pueden encontrar amparo en el derecho de corrección.

En cuanto al resto de las conductas, deberán ser analizadas según las circunstancias de cada caso y si resulta que no exceden los límites del derecho de corrección, la actuación no tendrá consecuencias penales ni civiles …».

En el caso que nos ocupa, no se produjo un castigo físico, sino únicamente un castigo consistente en la limitación del uso de dispositivos electrónicos.

Es cierto que en el uso de la facultad de corrección los progenitores no siempre emplean los recursos que son desde el punto de vista pedagógico más adecuados, pero este hecho no ha de determinar que se reconduzcan al ámbito de la sanción penal conductas que son por lo demás comunes en el ejercicio de la difícil tarea de educar a los hijos y que, como es el caso, no entrañan ninguna lesión de su integridad física.

La resolución:

https://www.poderjudicial.es/search/AN/openDocument/758f5944c8f339aba0a8778d75e36f0d/20230509

El día 14-11-2023 Ramon Arnó participó en una mesa redonda titulada el triángulo del bullying.

Este año el congreso se dedicó a la gobernanza, la auditoría y la ciberseguridad: construyendo la ciberresiliencia.

El enlace: https://inscriu.me/ca/xii-congres-isaca-barcelona

Desde el año 2012 Ramon Arnó Torrades participa como profesor en la asignatura aspectos legales, sociales y profesionales a los alumnos de tercero del Grado en Ingeniería Informática de la Universidad de Lleida.

Hablamos con los alumnos de los aspectos penales del entorno digital, de los contratos, la venta a través de internet y la protección de datos personales.

El enlace a la UDL: https://grauinformatica.udl.cat/es/pla-formatiu/professorat/detall/index.html?enc=NDM3MDk2ODM=

La familia digital ha participado como ponente en esta formación organizada por el Hospital Sant Joan de Déu Barcelona https://www.sjdhospitalbarcelona.org/es y el departamento de psiquiatría y medicina legal de la Universitat Autónoma de Barcelona https://www.uab.cat/es/psiquiatria

Se ha celebrado el día 18-4 en el auditorio de Sant Joan de Déu en Barcelona.

Hemos hablado de las problemáticas legales asociadas al uso de las tic.

El programa: https://actoserveis.com/jornada-psiquiatria-psicologia-2024/es/