, ,

Es necesaria la creación de una plaza digital pública (DPD) para los menores.

 

Es necesaria la creación de una plaza digital pública (DPD) para los menores

 

I.- La creación de infraestructura pública segura para menores en el entorno digital

En el entorno físico la salvaguarda del interés superior del menor no se delega totalmente en el sector privado, sino que habitualmente se garantiza mediante la provisión directa de infraestructuras públicas —tales como parques infantiles, equipamientos educativos y plazas ciudadanas— diseñadas bajo estrictos estándares de seguridad, neutralidad y accesibilidad universal.

Por el contrario, en el plano digital las Administraciones Públicas han externalizado la arquitectura relacional en la plataformas en línea cuyos modelos de negocio e incentivos financieros divergen sistemáticamente del bienestar de los menores.

Por ello es necesario que el Estado asuma una posición proactiva mediante la creación de un plaza digital pública para los menores (PDP), que no busque sustituir la actual oferta comercial, sino que pretenda habilitar una alternativa pública institucional, diseñada desde los cimientos normativos de la Unión Europea y orientada exclusivamente al desarrollo social, educativo y cultural seguro de los menores.

Este espacio debe garantiza que los menores puedan interactuar, experimentar y cometer errores de manera libre sin sufrir daños psicológicos, reputacionales ni comerciales, de tal manera que al experimentar de primera mano una navegación limpia y libre de dinámicas de enganche, el menor interioriza un «patrón oro» de bienestar digital.

Esta vivencia debe dotar a la infancia de las competencias cognitivas y el pensamiento crítico necesarios para que cuando posteriormente acceda a las redes sociales y a las plataformas comerciales externas, sean capaces de detectar de forma autónoma los elementos manipuladores, los patrones oscuros (dark patterns) y los algoritmos diseñados para atacar su salud mental, como por otra parte así impone el artículo 5.1 de la ley del menor (1/1996).

Y precisamente en esa línea se pronuncian las recientes recomendaciones que el panel de expertos creado por la presidenta de la Comisión Europea, Úrsula von der Leyen, presentó el día 13-7-2026, como respuesta estratégica de la Comisión Europea ante la creciente crisis de salud mental juvenil y para desarrollar un enfoque europeo fuerte y práctico para mantener a los niños seguros online:

En la recomendación 3 (página 131) se habla de financiar y promover la creación y el uso de redes sociales y otros servicios digitales basados ​​en los valores de la UE, donde los menores puedan interactuar de forma segura entre sí.

Se trata de apoyar con inversión pública la creación e integración de redes sociales y otros servicios digitales basados ​​en los valores de la UE, seguros desde su diseño y adecuados a la edad.

Dichos servicios deben garantizar la disponibilidad de información fiable, donde los niños y adolescentes (y también los adultos) puedan tener interacciones seguras en línea sin exponerse a funciones perjudiciales.

 

II.- Ejes estratégicos

1.- Control Parental Obligatorio y Acceso Condicionado

Para garantizar un entorno digital verdaderamente seguro y alineado con el principio de bienestar desde el diseño, el ingreso de los menores no puede depender de la mera autoafirmación de la edad por lo que debe establecerse un protocolo estricto de corresponsabilidad familiar y validación técnica:

1.1.- Mecanismo de acceso condicionado

  • Consentimiento expreso y vinculante: Para todos los usuarios menores de edad, el ecosistema requerirá de manera obligatoria y auditable el consentimiento expreso de la madre, padre o tutor legal antes de proceder a la creación de cualquier perfil o cuenta.
  • Proceso de alta mancomunado: La apertura de la cuenta requerirá un flujo técnico en dos pasos: una solicitud inicial por parte del menor (o del adulto) y una posterior validación segura por parte del progenitor que confirme la autorización real.

1.2.- Trazabilidad e identificación auditable.

  • Verificación de la Relación Filial: El sistema implementará mecanismos técnicos que permitan verificar, de forma segura y respetuosa con la privacidad, el vínculo legal entre el adulto autorizante y el menor, evitando la suplantación de identidad.
  • Auditoría del consentimiento: Las autorizaciones emitidas por los progenitores quedarán registradas de forma cifrada y auditable por los organismos reguladores pertinentes, sirviendo como evidencia de cumplimiento normativo por parte de la plataforma sin vulnerar la minimización de datos.

1.3.- Co-gestión del Perfil del Menor.

  • Panel de control parental activo: Una vez concedido el acceso, los progenitores mantendrán un rol de supervisión compartido. Esto incluye la capacidad de configurar los límites de tiempo diarios, restringir el acceso a funcionalidades específicas (como mensajes directos con desconocidos) y activar el filtrado estricto de contenido algorítmico.
  • Revocación inmediata: El consentimiento otorgado tendrá carácter reversible. En cualquier momento, el padre, madre o tutor legal podrá suspender o eliminar de forma inmediata el perfil del menor desde su propio dispositivo.

1.4.- El ecosistema público debe basarse en estándares abiertos e interoperabilidad obligatoria

  • Se debe exigir que los sistemas operativos dominantes (iOS y Android) integren esta plaza digital pública como una opción de configuración nativa y accesible desde el primer encendido del dispositivo, impidiendo que las corporaciones privadas impongan barreras técnicas a la alternativa pública.

2.- Privacidad por defecto y minimización de datos

En estricta observancia del principio de minimización de datos consagrado en el artículo 5.1.c) del RGPD, así como de las directrices específicas del Comité Europeo de Protección de Datos (CEPD) sobre la privacidad desde el diseño y por defecto, la plaza digital pública operará bajo un modelo de impacto comercial cero.

Esto implica que la arquitectura técnica del ecosistema está configurada nativamente para impedir cualquier explotación secundaria de la información del usuario, estructurándose a través de los siguientes pilares operativos:

2.1.- Aislamiento perimetral y ofuscación técnica

  • Bloqueo de geolocalización: Las cuentas mantendrán desactivados por defecto y de forma irreversible los módulos de posicionamiento global (GPS), triangulación de redes o cualquier tecnología de rastreo físico, impidiendo la trazabilidad de los movimientos del usuario en tiempo real o histórico.
  • Depuración automatizada de metadatos: El sistema integrará un filtro de subida (upload filter) que eliminará de forma automática cualquier metadato incrustado en los archivos multimedia (datos EXIF, etiquetas de cámara, fechas de captura o coordenadas geográficas) antes de que el contenido sea procesado o almacenado.
  • Inmunidad frente a la indexación externa: Se implementarán directivas estrictas de exclusión para motores de búsqueda (protocolos robots.txt avanzados, etiquetas no índex y arquitecturas cerradas) para garantizar que los perfiles, contenidos e interacciones permanezcan invisibles para rastreadores externos y herramientas de raspado de datos (scraping).

2.2.- Restricción de tráfico no solicitado (Entornos Estancos)

  • Redes de contactos validadas de forma recíproca: El flujo de comunicación (mensajería directa, comentarios, menciones o contenidos compartidos) estará blindado frente a terceros ajenos al círculo de confianza. El intercambio solo será técnicamente posible si existe una confirmación bidireccional, explícita y previa entre ambos usuarios.
  • Mitigación del acoso y spam: Se inhabilita la posibilidad de recibir solicitudes o interacciones de perfiles públicos, comerciales o no verificados, neutralizando vectores de riesgo como el cyberbullying, el contacto no deseado por parte de adultos (grooming) o la exposición a contenidos no solicitados.

2.3.- Inexistencia de monetización y capitalismo de vigilancia

  • Exclusión de la elaboración de perfiles (Profiling): El sistema prohíbe el análisis automatizado del comportamiento, las preferencias, los tiempos de lectura o los patrones de interacción de los usuarios. No se generará ningún tipo de identificador único destinado a predecir conductas.
  • Veto a la publicidad dirigida y comportamental: Al no existir segmentación ni recopilación de intereses, el entorno queda completamente limpio de publicidad programática, anuncios sugeridos o contenidos patrocinados que busquen capturar la atención del usuario mediante técnicas persuasivas.
  • Prohibición de transferencia a terceros: Se establece una limitación legal respecto a la venta, cesión, compartición o agregación de datos con terceras empresas, corredores de datos (data brokers) o socios comerciales, garantizando que los datos nunca salgan del control perimetral de la plataforma.

2.4.- Soberanía del Dato e Infraestructura de Alojamiento Local.

  • La plaza digital pública se ejecutará exclusivamente sobre servidores e infraestructura de nube gestionada directamente por el Estado o en territorio de la Unión Europea bajo gobernanza 100% pública, impidiendo cualquier forma de dependencia tecnológica (vendor lock-in) o sumisión a jurisdicciones extranjeras en materia de inteligencia.

3.- Desmantelamiento de la arquitectura persuasiva y algoritmos de enganche

A diferencia de los modelos comerciales de las plataformas online tradicionales —cuya rentabilidad depende de maximizar el tiempo de permanencia mediante técnicas de diseño persuasivo que inducen a hábitos compulsivos—, esta infraestructura pública reemplaza de raíz dichos mecanismos.

Con el fin de evitar las dinámicas de «madriguera de conejo» (rabbit holes) que amplifican contenidos polarizantes o distorsionadores para retener la atención del menor, el entorno digital se estructurará bajo los siguientes principios operativos:

3.1.- Ecoeficiencia cognitiva y fricción operativa deliberada

  • Erradicación de automatismos adictivos: Supresión del desplazamiento infinito (scroll infinito) y de los sistemas de reproducción automatizada (autoplay), forzando pausas conscientes en la navegación.
  • Mitigación del estrés digital y la ansiedad social: Eliminación de los contadores públicos de interacción cuantitativa (métricas de impacto, contadores de «me gusta» o visualizaciones) y de los indicadores de actividad en tiempo real (avisos de «escribiendo…» o confirmaciones de lectura de mensajes).
  • Gobernanza del tiempo y desconexión: Integración de herramientas proactivas de gestión del tiempo y activación automatizada de notificaciones de desconexión obligatoria durante el horario de descanso lectivo y nocturno.

3.2.- Control de contenido basado en señales explícitas

  • Primacía de las elecciones deliberadas: El flujo de información y la cronología del contenido se estructurarán exclusivamente a partir de las elecciones proactivas, temáticas y preferencias declaradas formalmente por el usuario, vetando cualquier recomendación opaca basada en perfiles conductuales.
  • Neutralidad del entorno: Los sistemas de asistencia y despliegue de información evitarán activamente los sesgos comerciales, los estereotipos de género o la promoción involuntaria de conductas de riesgo.

3.3.- Búsqueda protegida y derivación asistida institucional

  • Bloqueo técnico de vectores de riesgo: Restricción perimetral y bloqueo de etiquetas, términos de búsqueda o jerga vinculada a conductas autolíticas, radicalización o trastornos de la conducta alimentaria (TCA).
  • Pasarelas de redirección inmediata: Ante cualquier intento de búsqueda o interacción relacionada con estos vectores de vulnerabilidad, el sistema interrumpirá el flujo estándar para desplegar pasarelas automatizadas de asistencia, derivando al menor de forma directa hacia los servicios públicos de salud mental y las líneas de ayuda nacionales oficiales.

3.4.- Protocolo de exclusión de identidades sintéticas (Deepfakes)

  • Protección de la identidad y la imagen real: Se establecen restricciones perimetrales, técnicas y legales contra la carga, generación, procesamiento o difusión de cualquier tipo de contenido sintético o manipulado mediante técnicas de IA (deepfakes).
  • Prohibición de suplantación: Queda tajantemente prohibido el uso de herramientas que busquen clonar, alterar o suplantar la imagen, la voz, los rasgos biométricos o la identidad de cualquier individuo dentro de la plataforma, protegiendo a los menores ante fenómenos de extorsión, acoso o desinformación dirigida.

4.- Moderación pública especializada y tutoría corresponsable

La plaza digital pública dispondrá de un modelo de mediación comunitaria e institucional diseñado para superar las deficiencias estructurales de la moderación puramente automatizada o subcontratada de las plataformas online tradicionales.

Este ecosistema sustituye los enfoques punitivos y los sesgos algorítmicos por una intervención humana, cualificada y protectora, articulada a través de los siguientes ejes operativos:

4.1.- Equipos multidisciplinares de mediación y custodia digital

  • Personal empleado público cualificado: Gestión y supervisión continua (24/7) a cargo de un cuerpo especializado de empleados públicos con formación avanzada y homologada en derechos de la infancia, psicología del desarrollo, mediación comunitaria y resolución pacífica de conflictos.
  • Intervención humana preponderante: Frente a los errores de contexto de la IA, las decisiones críticas de moderación, apelación y resolución de disputas recaerán siempre en el criterio humano, garantizando el debido proceso y la protección de los derechos fundamentales del menor.

4.2.- Canales de denuncia intuitivos y accesibilidad cognitiva

  • Tramitación simplificada y confidencial: Despliegue de mecanismos de alerta confidenciales, directos y blindados frente a represalias, diseñados específicamente para ser activados de forma sencilla por los propios menores.
  • Adaptación evolutiva del entorno: Las interfaces de denuncia, los formularios y las respuestas del sistema se adaptarán dinámicamente al lenguaje, la madurez y las capacidades cognitivas de las diferentes franjas de edad, eliminando barreras burocráticas o terminología legal compleja.

4.3.- Herramientas de acompañamiento familiar y autonomía progresiva

  • Paneles de Gobernanza Compartida: El concepto de control parental tradicional (basado en la vigilancia unidireccional o el bloqueo punitivo) se sustituye por entornos de supervisión corresponsable. Estos paneles permiten configurar de mutuo acuerdo los límites del espacio digital.
  • Fomento de la corresponsabilidad: La arquitectura técnica promoverá la transparencia familiar y el ejercicio de la autonomía progresiva del menor. De este modo, las restricciones disminuyen de forma pautada y auditable a medida que el menor adquiere competencias digitales, madurez y responsabilidad en el entorno digital.

4.4.- Accesibilidad cognitiva y sensorial avanzada

  • Garantizar que se adapten de forma nativa a menores con trastornos del espectro autista (TEA), discapacidades visuales o auditivas, asegurando que la alternativa del Estado no segregue a los más vulnerables.

4.5.- Auditoría externa independiente y rendición de cuentas anual

  • Al tratarse de una infraestructura del Estado orientada a colectivos vulnerables, la PDP se someterá de forma obligatoria al nivel más alto de control del Esquema Nacional de Seguridad (ENS).
  • Anualmente, una agencia independiente externa —en coordinación con la Fiscalía de Menores y el Defensor del Pueblo— emitirá un informe de auditoría vinculante sobre la integridad de los algoritmos y el aislamiento perimetral de los datos, garantizando la máxima transparencia ante las asociaciones de familias.

5.- Cumplimiento de estándares de inteligencia artificial para el menor

La arquitectura técnica y jurídica de la plaza digital pública se estructura bajo un marco de obligaciones legales rigurosas y de cumplimiento proactivo.

Este diseño tiene como objetivo prioritario blindar la experiencia digital del menor frente al uso de la inteligencia artificial.

5.1.- Identificación Inequívoca de Entidades No Humanas

  • Ante la integración de asistentes virtuales o herramientas basadas en IA generativa, el sistema exigirá que cualquier bot conversacional que interactúe con un menor detectado cumpla de forma estricta con el Reglamento Europeo de Inteligencia Artificial (AI Act).
  • El agente automatizado deberá identificarse de manera inequívoca, inmediata y transparente como una entidad no humana.

5.2.- Gobernanza bajo el principio human-in-the-loop

  • Se garantiza una estructura de control humano interconectado (human-in-the-loop). Ninguna decisión automatizada o sugerencia que impacte de forma crítica en el desarrollo, integridad o seguridad del menor podrá ejecutarse sin la revisión, supervisión y validación previa de un equipo de moderación pública especializada.
  • Este equipo técnico mantendrá la facultad exclusiva de intervenir, auditar, rectificar o desactivar los sistemas de IA en tiempo real ante cualquier desviación que comprometa el bienestar de los usuarios.

 

III. Conclusión y viabilidad del proyecto: un imperativo político inaplazable

1.- Legitimidad democrática y la obligación prestacional ineludible del Estado

El despliegue de una infraestructura digital pública no admite interpretaciones tibias: no es una medida de restricción de mercados, ni un mecanismo de tutela o censura estatal.

Por el contrario, constituye el ejercicio legítimo, debido e imperativo de la función prestacional del Estado en el contexto de la sociedad de la información.

No nos encontramos ante un acto de control coercitivo, sino ante una política pública de capacitación activa y salvaguarda urgente de los derechos fundamentales de la infancia.

Es hora de dotar a los menores de espacios de socialización soberanos, seguros y desmercantilizados.

La intervención del sector público frente a la desprotección ciudadana cuenta con un sólido e incontestable arraigo histórico.

Así como el Estado interviene de forma sistemática cuando un entorno físico deviene hostil, insalubre o exclusivamente privatizado para garantizar los derechos constitucionales a la salud, la educación y el esparcimiento seguro, el entorno digital exige hoy exactamente la misma determinación política.

En la coyuntura actual, es un hecho empírico que el bienestar digital, el desarrollo cognitivo y la salud mental de toda una generación se encuentran en una situación de riesgo estructural crítico.

Prolongar la inacción por la falta de alternativas institucionales públicas y seguras en la red es una dejación de funciones que las Administraciones Publicas no pueden permitirse

2.- Sostenibilidad presupuestaria: inversión preventiva vs. coste social

La asignación de recursos económicos para la financiación, desarrollo y mantenimiento continuo de este entorno digital público es plenamente congruente con los techos de gasto y las partidas presupuestarias existentes.

Las Administraciones Publicas ya destinan de forma ordinaria recursos a la Protección de la Infancia, la Cohesión Social y la Transformación Digital Sostenible; reorientar estos fondos no representa un gasto superfluo.

Se trata de una inversión pública eficiente, estratégica y de naturaleza estrictamente preventiva siendo su objetivo el de mitigar los intolerables costes sociales, educativos y sanitarios derivados de los daños sistemáticos que una parte del ecosistema digital actual provoca diariamente en la juventud.

Financiar un proyecto como este hoy es una de tantas vías para evitar el colapso de nuestros sistemas de protección y salud mental mañana.

El estudio “la salud mental de los jóvenes en la era digital”, solicitado por la Comisión de Salud Pública del Parlamento Europeo y publicado recientemente, ha advertido sobre el constante incremento de los problemas de salud mental entre la juventud de la Unión Europea (UE) y la necesidad urgente de articular una respuesta coordinada.

Señala que la mala salud mental de los jóvenes no es solo un problema social y humano, sino que acarrea un impacto macroeconómico muy profundo ya que se calcula que la mala salud mental juvenil le cuesta actualmente unos 177.000 millones de euros al año a la UE-27 y el coste acumulado de la inacción entre 2024 y 2033 se estima en 1,68 billones de euros (en valor actual de 2024), afectando directamente a la sanidad, la protección social, la educación y la pérdida de productividad laboral:

3.- El deber de proveer un espacio común libre de explotación.

Garantizar la existencia de este espacio común y de titularidad pública es, en última instancia, la única vía robusta para asegurar que los ciudadanos menores de edad puedan ejercer de forma efectiva sus derechos fundamentales, entre ellos a la información, la educación y la participación democrática digital.

Las Administraciones Públicas tienen la obligación legal de proporcionar un ecosistema tecnológico de socialización que esté absolutamente blindado frente a la explotación económica de las vulnerabilidades cognitivas propias de la edad.

Hace más de un siglo, en 1924, la humanidad firmó un compromiso ético ineludible en la Declaración de Ginebra:  «La humanidad debe al niño lo mejor que puede darle».

Hoy, en plena era digital, este principio nos interpela directamente desde el boletín oficial de la realidad: estamos fallando en proteger ese «interés superior» en los entornos que nuestros jóvenes habitan a diario.

Los datos del reciente informe europeo sobre el coste de la inacción en salud mental juvenil son demoledores. La mala salud mental de nuestros jóvenes nos cuesta ya 177.000 millones de euros anuales en la UE, y la proyección a diez años asciende a la astronómica cifra de 1,68 billones de euros.

Pero más allá de la insostenible factura macroeconómica en sanidad y pérdida de productividad, el verdadero coste es humano: 1 de cada 5 jóvenes presenta un trastorno diagnosticable, arrastrado por factores de riesgo en línea como el diseño adictivo, el acoso y la exposición a contenidos nocivos sin un filtro ético.

Ante esta crisis, la respuesta regulatoria tradicional —basada en sancionar a posteriori o en delegar la responsabilidad de la seguridad en el consentimiento del propio menor o de sus familias— se ha demostrado a todas luces insuficiente.

La solución no pasa únicamente por prohibir o vigilar el mercado privado, sino por competir con él desde la esfera pública, ofreciendo una alternativa saludable.

Así como el urbanismo del siglo XIX creó parques públicos para oxigenar las ciudades industriales, el siglo XXI nos exige fundar una Plaza Digital Pública:

  • Un espacio libre de la economía de la atención: Las grandes plataformas privadas están diseñadas bajo la lógica del beneficio, optimizando sus algoritmos para retener la atención del menor a costa de su bienestar emocional. Una plaza pública digital, financiada y gestionada con estándares públicos, priorizaría el desarrollo socioemocional, el aprendizaje y la socialización sana por encima del engagement adictivo.
  • Privacidad y seguridad por diseño (Privacy by Design): En este espacio institucional, el cumplimiento de las recomendaciones de la CNIL y del RGPD no sería un obstáculo a sortear, sino la base fundacional del servicio. Los menores no serían el producto; sus datos no se venderían, ni se verían expuestos a la manipulación comercial de terceros.
  • Inclusión para el «vacío intermedio»: Un entorno digital público permitiría integrar de forma nativa recursos comunitarios de apoyo, canales de mediación y herramientas de intervención precoz para ese 50% de jóvenes con necesidades de salud mental no cubiertas, garantizando un acceso equitativo especialmente para los colectivos más vulnerables.

La decisión política es clara: podemos seguir asumiendo el billonario coste de reparar la salud mental de una generación dañada por entornos digitales hostiles, o podemos ejercer nuestra responsabilidad como adultos y líderes públicos construyendo una infraestructura digital soberana, segura y verdaderamente protectora.

La creación de una Plaza Digital Pública no es una utopía tecnológica, es el cumplimiento contemporáneo de la promesa de Ginebra. Está en nuestras manos -ahora o nunca- liderar esta transición.

© Ramon Arnó Torrades, Lleida, 2026

/por
, ,

La decisión de publicar o no publicar imágenes de los hijos comunes menores en las redes sociales no se puede adoptar unilateral por un progenitor, sino mediante el acuerdo conjunto de los dos progenitores.

La decisión de publicar o no publicar imágenes de los hijos comunes menores en las redes sociales

no se puede adoptar unilateral por un progenitor, sino mediante el acuerdo conjunto de los dos progenitores.

La AP de Madrid en sentencia de 11/09/2025 resuelve un recurso donde la madre solicita que se prohíba a ambos progenitores publicar fotos de la menor a redes sociales sin consentimiento mutuo, y que el padre, su pareja y sus familiares tengan que retirar las fotos ya publicadas.

Se alega que ella se ha opuesto varias veces en la publicación de fotos de la menor en estas plataformas, pero a pesar de esto, el progenitor, su pareja y sus familiares continúan publicando imágenes de la menor en las redes sociales.

Por eso pregunta, que a ambos progenitores se prohíba publicar fotos en redes sociales sin consentimiento del otro y, por lo tanto, tengan que retirar tanto él como sus familiares, las fotos que se encuentren en redes sociales de los menores.

En relación con la petición formulada por la madre, consistente que se prohíba a ambos progenitores publicar fotografías de la menor en redes sociales sin consentimiento mutuo y que se ordene la retirada de las ya publicadas por el padre, su pareja o familiares, tenemos que efectuar las consideraciones siguientes.

El arte. 154 del Código Civil establece que la patria potestad se ejercerá siempre en beneficio de los hijos, comprendiendo, entre otras funciones, velar por ellos, tenerlos a su compañía, alimentarlos, educarlos y procurarlos una formación integral.

Así mismo, el arte. 156 CC dispone que, en caso de desacuerdo ocasional en el ejercicio de la patria potestad, cualquiera de los progenitores podrá acudir al juez, que, después de sentirlos los dos, atribuirá sin recurso ulterior la facultad de decidir el padre o la madre.

La publicación de imágenes de un menor en redes sociales constituye una decisión relevante que afecta derechos fundamentales como la intimidad, la propia imagen y la protección de datos personales y la construcción de una identidad digital no exenta de riesgos (arte. 18 CE y LO 1/1982).

El Tribunal Supremo, en reiterada doctrina, ha puesto de relieve que el interés superior del menor (arte. 2 LO 1/1996 y arte. 3 Convención de Derechos del Niño) tiene que prevalecer sobre cualquier otro interés en conflicto, cosa que obliga a una cautela especial en la exposición de los menores en entornos digitales.

Respecto a la publicación de imágenes la STS de 30 de junio de 2015 de la Sala Primera aborda la cuestión relativa al derecho a la propia imagen de los menores y dice «La imagen, como el honor o la intimidad, constituye hoy un derecho fundamental de la persona consagrado al arte 18.1 de la CE que pertenece a los menores que siempre de los padres o representantes legales de los menores, la difusión de cualquier imagen de estos tiene que ser reputada contraria al ordenamiento jurídico.»

La decisión relativa a la publicación de imágenes de los hijos menores en las redes sociales pertenece exclusivamente al menor y no a sus progenitores, que ejercen la patria potestad únicamente en calidad de representantes legales.

En este sentido, cualquier difusión de fotografías en entornos digitales se tiene que entender como un acto de especial trascendencia para la vida y el desarrollo del niño, razón por la cual requiere del consentimiento expreso y conjunto de los dos progenitores.

El ejercicio unilateral de esta facultad no solo vulnera el ejercicio compartido y responsable de la patria potestad recogido al Código Civil y el principio de coparentalitat, sino que además puede generar un riesgo cierto para la seguridad y el bienestar del menor, atendida la facilidad con que las imágenes difundidas en redes sociales pueden ser objeto de usos indebidos, permanentes e incontrolables.

Por todo esto, la decisión de publicar o no publicar imágenes de los hijos comunes en las redes sociales no se puede adoptar de manera aislada, sino mediante el acuerdo conjunto de los dos progenitores, en cumplimiento del deber de corresponsabilidad parental y en salvaguardia del interés superior del menor, que tiene que prevalecer sobre cualquier otro interés particular

El enlace: https://www.poderjudicial.es/search/an/opendocument/d381c7242762491ba0a8778d75e36f0d/20251103

/por
,

La caja de Skinner

La caja de Skinner
La relación entre la caja de Skinner y los menores en el entorno digital es uno de los temas más alarmantes de la psicología conductista aplicada a la tecnología.
El que empezó como un experimento de laboratorio con animales a mediados del siglo XX se ha convertido en la plantilla de diseño de muchos videojuegos y redes sociales actuales, con los menores como principales usuarios.

1.- Qué es la caja de Skinner?

En los años 30, el psicólogo B.F. Skinner creó una cámara de acondicionamiento operante (conocida como caja de Skinner) para estudiar el comportamiento animal. El experimento clave para entender los videojuegos actuales fue lo del refuerzo intermitente variable:

1. Se introduce una rata en la caja con una palanca (response lever).
2. Si cada vez que pulsa la palanca sale comer (food dispenser), la rata aprende la relación y pulsa la palanca solo cuando tiene hambre.
3. El cambio radical: Si la comida sale de manera aleatoria (veces sí, veces no), la rata se descontrola. Empieza a pulsar la palanca de forma compulsiva y obsesiva, temen que si para perderá la oportunidad de recibir la recompensa.
El azar y la incertidumbre activan picos de dopamina mucho más altos que la certeza.

2.- La traducción en el mundo digital de los menores

Cuando un menor juega a determinados videojuegos (especialmente los de formato Free-tono-*Play o juegos móviles), el dispositivo (móvil, tableta o consola) se transforma, de facto, en una caja de Skinner digital:

• La palanca: Es pulsar un botón, abrir una caja de botín (loot box), hacer una tirada «Gacha» o, simplemente, hacer scroll infinito a TikTok.
• El refuerzo variable: Es el contenido de la caja. La mayoría a veces el premio es irrelevante o repetido, pero sabes que hay una pequeña probabilidad de obtener un objeto «épico», una skin exclusiva o un video altamente viral.
• Los estímulos sensoriales: Igual que la caja original utilizaba luces y altavoces (lights y loudspeakers) para fijar la atención del animal, los juegos utilizan música festiva, luces de colores brillantes y efectos visuales de «celebración» cuando se obtiene un premio, imitando directamente la atmósfera de un casino para amplificar la sensación de triunfo.

3.- Por qué los menores son especialmente vulnerables?

La aplicación de estas técnicas neuropsicológicas genera un impacto asimétrico en la infancia y la adolescencia por motivos biológicos y estructurales:

3.1. Inmadurez del córtex prefrontal

El córtex prefrontal es la región del cerebro encargada de las funciones ejecutivas: el control de los impulsos, la planificación a largo plazo, la evaluación de riesgos y la toma de decisiones racionales.  Esta área no se desarrolla completamente hasta los 25 años. Por lo tanto, un menor de edad tiene las herramientas biológicas de freno de mano mucho más débiles que un adulto ante un estímulo que pide una gratificación instantánea.

3.2. Hiperreactividad del sistema de recompensa
Durante la adolescencia, el sistema dopaminérgico (el circuito del placer y la recompensa) está extremadamente activo.
Los estímulos emocionales y las recompensas visuales se viven con una intensidad mucho más alta.
Los diseñadores de juegos lo saben: el diseño de adicción (engagement design) está calculado para exprimir esta sensibilidad neurobiológica.

3.3. La distorsión del valor del tiempo y el dinero
Para un niño, el ecosistema del videojuego es su entorno social básico. La presión del grupo para tener determinados objetos virtuales, sumado a la incapacidad de gestionar el valor real del dinero digital (comprar con un solo clic a través de la tarjeta de los padres o con monedas virtuales que camuflan el coste real), elimina cualquier barrera de contención racional.

4.- El reto de la protección de la infancia: El nudo del problema es la asimetría de poder.

Detrás de una pantalla donde hay un menor jugando, hay equipos enteros de científicos de datos, psicólogos conductistas e ingenieros optimizando algoritmos para mantenerlo conectado el máximo de tiempo posible utilizando técnicas de acondicionamiento.
/por
, ,

El efecto acantilado digital (cliff effect) y los menores

El efecto acantilado digital (cliff effect) y los menores

1. Definición del Fenómeno

El efecto acantilado digital es un error de diseño regulatorio y sistémico que se produce cuando un usuario menor de edad, por el sol hecho de cumplir una edad determinada (como el paso automático de los 15 a los 16 años), pierde de golpe y de manera abrupta todas las restricciones y salvaguardias de seguridad que una plataforma digital le aplicaba hasta entonces.
A diferencia del desarrollo de la madurez en el mundo real, que es un proceso gradual y continuo, los entornos digitales suelen aplicar lógicas binarias o umbrales rígidos de edad que cambian el estado del perfil del usuario de un día por el otro.
2. Riesgos e impacto en el Desarrollo del Menor
Este corte radical en las políticas de protección de datos y privacidad expone los menores a riesgos el día siguiente mismo de cumplir la edad linda:
• Exposición a funciones de alto riesgo: El menor pasa a tener acceso totalmente libre a funciones críticas como las retransmisiones en directo (livestreaming).
• Interacción sin filtros: Se habilita de manera automática la recepción de mensajes privados por parte de perfiles totalmente desconocidos.
• Vaciado de preparación: El paso de un entorno altamente tutelado a uno de abierto se hace sin ningún tipo de transición o capacitación previa por parte de la plataforma, asumiendo erróneamente que el cambio de edad cronológica equivale a una madurez digital instantánea.
• Vulnerabilidad ante la tecnoferència: Coincide a veces con el momento en que el control o la aprobación parental se atendería a relajar, dejando el menor expuesto a diseños adictivos (dark patterns), publicidad conductual o amplificación algorítmica de contenidos nocivos.
3. Estrategias de Mitigación y Alternativas Reguladoras
Para corregir esta deficiencia arquitectónica de las redes sociales y aplicaciones digitales, se están articulando dos soluciones principales desde el ámbito legal y el diseño tecnológico:
A. Desplazamiento del umbral hasta la mayoría de edad legal
Consiste a mantener bloqueadas o fuertemente restringidas las funciones de máximo riesgo (como lo livestreaming o la geolocalización en tiempo real) hasta que el usuario logre los 18 años, que marca la mayoría de edad legal, en lugar de liberarlas a edades tempranas como los 14 o los 16 años. Este es precisamente el modelo que se está integrando en las recientes reformas legislativas (como la prohibición y restricción de funciones del Reino Unido).
B. Diseño de transición gradual y tutelado
En lugar de una lógica de todo o nada, se propone un desbloqueo escalonado de funciones basado en los hitos del desarrollo pediátrico y cognitivo, tal como defienden entidades como la Fundación 5Rights, por ejemplo:
1. Una apertura progresiva donde ciertas funciones requieran inicialmente una confirmación o diálogo con los tutores.
2. Interfaces que avisen el menor de los nuevos riesgos que asume al activar una funcionalidad que antes tenía vetada.
4. El papel de la Escuela y la Metacognición familiar
Dado que la arquitectura técnica actual todavía presenta estas rendijas, las directrices de alfabetización digital de la Comisión Europea insisten que la escuela tiene que trabajar la metacognición y la autoevaluación en edades tempranas (10-14 años).
Preparar los alumnos antes de que se abran estos umbrales —mediante técnicas de inmunización contra las noticíes falsas y talleres de prevención de riesgos como el ciberacoso— es la única herramienta educativa eficaz para que el menor sepa reaccionar de manera madura cuando la plataforma, por ley del mercado, decida retirarle las redes de protección digital de golpe.
/por
,

La prohibición de las redes sociales a los menores de 16 años en Australia contada en 20 puntos.

La prohibición de las redes sociales a los menores de 16 años en Australia contada en 20 puntos.

1.- Es una novedad mundial

El Gobierno Australiano aprobó el 28-11-2024 una nueva ley denominada ley de enmienda de seguridad online, aquí tenéis el texto:

Esta ley estableció una edad mínima para el uso de las redes sociales a los 16 años y una obligación para los proveedores de redes sociales a tomar medidas razonables para evitar que los usuarios con menos de 16 años tengan una cuenta.

En este enlace tenéis la explicación de la ley:

2.- Las razones del Gobierno Australiano.

El Gobierno Australiano encargó un estudio en el que descubrió que el 96% de los niños australianos de entre 10 y 15 años, utilizaban las redes sociales y que 7 de cada 10 habían sido expuestos a contenidos nocivos, como material misógino y violento, así como contenido que promovía trastornos alimenticios y el suicidio.

1 de cada 7 también informó haber experimentado comportamientos de acoso por parte de adultos o niños mayores, y más de la mitad dijeron que habían sido víctimas de acoso online.

3.- La protección de la salud y bienestar de los menores

El Gobierno Australiano afirma que la prohibición de las redes sociales es necesaria para proteger la salud mental y el bienestar de los niños y adolescentes australianos, ya que creen que los riesgos de las redes sociales, como el ciberacoso, el contenido nocivo y los depredadores online, superan sus ventajas.

4.- ¿Quién lidera esta propuesta?

Quien lleva adelante esta propuesta es la ministra de comunicaciones Anika Wells, quien dijo que se mantendrán firmes junto a los padres y no de las plataformas.

5.- ¿Cuándo entra en vigor?

Entrará en vigor el 10-12-2025, por tanto, ese día las redes sociales que el Gobierno Australiano ha incluido en la prohibición, deberán tomar medidas razonables para:

a.- Desactivar todas las cuentas para los usuarios menores de 16 años.

b.- Evitar la creación de nuevos perfiles por parte de menores de 16 años.

6.- ¿Y si los progenitores quieren crear una cuenta para su hijo menor de 16 años?

Los progenitores no pueden dar su consentimiento para que sus hijos menores de 16 años puedan crear un perfil.

7.- ¿Cuáles son las 3 condiciones para decidir en qué redes se aplica la prohibición?

Se aplicarán las restricciones de edad en las redes sociales que cumplan tres condiciones específicas:

a.- El único propósito o un propósito significativo de éstas sea permitir la interacción social online entre dos o más usuarios finales.

b.- El servicio permita a los usuarios finales enlazar o interactuar con algunos o todos los demás usuarios finales.

c.- El servicio permita a los usuarios finales publicar materiales.

8.- ¿Cuáles estarán prohibidas?

El Gobierno de Australia ha publicado una lista que no es fija sino dinámica, puesto que se puede ampliar:

En este momento éstas son las redes sociales prohibidas a menores de 16 años:

  • Facebook .
  • Kick .
  • Reddit .
  • Threads .
  • TikTok .
  • Twitch .
  • X (anteriormente Twitter).
  • YouTube .

9.- ¿Cuáles no están prohibidas?

En este momento son estas:

  • Discord .
  • Google classroom .
  • Lego Play.
  • Roblox .
  • Steam y Steam Chat .
  • YouTube Kids .

10.- ¿Cómo funcionará la verificación de la edad en las redes sociales?

Esto dependerá de cada plataforma, pero solicitar simplemente la fecha de nacimiento no puede ser la única forma de verificación de la edad.

Además los métodos utilizados por las redes sociales prohibidas, deben cumplir con los requisitos de los reguladores y respetar las leyes de privacidad y los derechos digitales.

11.- Los indicios de que el titular del perfil es menor de 16 años

Las redes sociales analizarán datos y otras señales relacionadas con la edad de los menores, que pueden ayudar a determinar si alguien es menor de 16 años, como por ejemplo:

  • Cuánto tiempo ha estado activa una cuenta.
  • Si el titular interactúa con menores de 16 años.
  • El análisis del nivel de idioma y del estilo utilizado por el titular de la cuenta y las personas con las que interactúan.
  • Las verificaciones visuales, como el análisis de la edad facial de las fotos y vídeos del titular de la cuenta.
  • El análisis del audio, como la estimación de la edad de la voz del titular de la cuenta.
  • Los patrones de la actividad como si coincide con los horarios escolares.
  • Las conexiones con otros usuarios que sean menores de 16 años.
  • Si son miembros de grupos, foros o comunidades centradas en los jóvenes.

12.- ¿Se eliminarán las cuentas de los menores de 16 años?

Existen varias opciones en función de cada red y que son:

a.- permitir antes de eliminar la cuenta, descargar todas las fotos, vídeos y mensajes.

b.- poner la cuenta en espera para cuando el menor cumpla 16 años.

c.- eliminar directamente la cuenta.

Parece que los adolescentes podrán recuperar el acceso a sus cuentas cuando cumplen 16 años, sin que se borre el contenido.

13.- Tengo más de 16 años pero la red dice que soy menor de 16, ¿qué hago?

Los adolescentes mayores de 16 años que han sido erróneamente señalados como menores de 16 años, tendrán que pasar por un proceso de revisión para poder acreditar el error frente a la red social.

14.- Las críticas a la ley

Aunque la prohibición tiene como objetivo proteger a los menores de los daños de las redes sociales, también se dice que puede aislar a los grupos de menores que dependen de las redes sociales para conectarse entre ellos y que la prohibición puede empujarlos a espacios menos regulados de Internet.

Los defensores de la privacidad y la libertad en Internet también sostienen que su implementación puede hacer más daño que bien.

Ahora bien, es significativo qué opina UNICEF Australia sobre la prohibición de las redes sociales:

«… Si bien es genial que hablemos más de mejorar el mundo online para los jóvenes, UNICEF Australia cree que los cambios propuestos no solucionarán los problemas que enfrentan los jóvenes online. Las redes sociales tienen muchas cosas buenas, como la educación y mantenerse en contacto con amigos. Creemos que es más importante hacer que las plataformas de redes sociales sean más segures, que estamos incluyendo las opiniones de los jóvenes cuando hablamos con el gobierno sobre hacer que los espacios online sean lo más seguros posible …”.

15.- ¿Hay políticos en Australia que están en contra?

Así es, la posición en contra está liderada por John Riddick que es miembro del Parlamento de Nueva Gales del Sur y presidente del Proyecto Libertad Digital, que apoya un recurso frente al Tribunal Supremo contra esta prohibición.

El señor Riddick dice que la prohibición es desproporcionada y que deberían ser los padres quienes decidan qué es bueno para sus hijos y no el gobierno.

16.- La primera demanda de dos menores en contra de la ley

Dos jóvenes australianos ya han presentado procedimientos que impugnan esta prohibición y que son Noah Jones y Macy Neyland de 15 años, que han declarado estar decepcionados con un gobierno perezoso que prohíbe a los menores de 16 años en lugar de invertir en programas para ayudar a los niños a estar seguros en las redes sociales:

17.- Las alternativas para evitar la prohibición

Desde el uso de una VPN para enmascarar el sitio desde la que se accede a la red social y simular que el usuario está fuera de Australia, hasta la complicidad de los progenitores o de los hermanos mayores o personas que darán acceso a los menores a una cuenta ya verificada.

También otros expertos aconsejan el uso de inteligencia artificial para simular una edad superior o disfrazarse con máscaras para simular tener más edad.

Incluso hay quien plantea que se cambien los datos de los menores por el de los padres, como en el caso de los influencers, para mantener los perfiles a nombre de los progenitores.

18.- Las multas

Australia ha puesto el foco de la responsabilidad en las empresas y por tanto no penalizará a los progenitores o a los menores que incumplan la ley, ya que se trata de proteger a los menores y no castigarlos o aislarlos.

Esto significa que las redes sociales deben impedir que los menores de 16 años tengan cuentas, porque si no se arriesgan a recibir multas de hasta 33 millones de dólares EE.UU. (28 millones euros).

19.- Consejos a los progenitores

Es evidente que las conexiones que permiten las redes sociales son valiosas para los jóvenes y pueden ser su principal comunidad y grupo de apoyo en el que se encuentran sus amigos.

Ante esta evidencia el gobierno de Australia aconseja que el rol ideal de los adultos es escuchar, validar y apoyar a los adolescentes durante este período, ya que para los jóvenes esto puede significar perder gran parte de su mundo y será difícil de soportar.

El gobierno Australia ha publicado unos consejos para los progenitores con menores de 16 años afectados por la prohibición, que seguramente sentirán una variedad de emociones, como estar molestos, preocupados, frustrados o tristes:

Aquí están algunos consejos:

  • Liderar este proceso con empatía, haciendo saber que entendemos sus sentimientos.
  • Preguntar cómo utilizan actualmente las redes sociales.
  • Hablar de la nueva ley y lo que significa.
  • Explicar que las restricciones son para protegerlos, no castigarlos.
  • Hablar sobre el tipo de riesgos que la ley pretende ayudar a evitar, que incluyen pasar demasiado tiempo en las pantallas y estar sobreexpuestos a contenidos negativos y daños, lo que puede afectar a su bienestar.
  • Concentrarse en lo que todavía pueden hacer online y fuera de línea.
  • Asegurar que siempre pueden acudir a los progenitores o a otro adulto de confianza para hablar sobre sus preocupaciones.

20.- La declaración de compromiso con los derechos del menor

Por último, compartimos la declaración de compromiso con los derechos del niño del gobierno de Australia:

/por
,

La caja de bombones de Forrest Gump y las recompensas aleatorias.

Mamá siempre decía que la vida es como una caja de bombones, nunca sabes lo que te va a tocar. Esta frase se hizo famosa gracias a la película Forrest Gump protagonizada por Tom Hanks allá por el año 1994, cuando el protagonista invita a una chica que está sentada en un banco en Savannah a coger un bombón de una caja, mientras Forrest está esperando el autobús.

Esta anécdota nos sirve para hablar de las recompensas aleatorias y su relación con la adicciones digitales que tanta preocupación están generando en nuestra sociedad pues que se han convertido en un grave problema de salud pública, y para ello hablaremos de un psicólogo estadounidense denominado B. F. Skinner, que se hizo famoso con un experimento consistente en encerrar en una caja a una paloma en cuyo interior había una palanca que si era pulsada, el animal obtenía comida.

Inicialmente cada vez que el animal apretaba la palanca, la caja le daba una cantidad igual de alimento, con lo que éste presionaba el mecanismo, obtenía la comida y ahí terminaba el experimento, pero Skinner empezó a probar que sucedía con el comportamiento de la paloma cuando la recompensa al pulsar la palanca variaba cada vez y se convertía en imprevisible, es decir que cuando pulsaba la palanca obtenía comida pero de forma aleatoria, a veces le daba alimento y no siempre en la misma proporción y en otras ocasiones no.

Lo que descubrió Skinner es que cuando el resultado de pulsar la palanca no era previsible para la paloma sino totalmente aleatorio, el animal perdía el control y no paraba de presionar con independencia de la cantidad de comida que le proporcionaba, por lo que al resultado de su experimento Skinner lo denominó el sistema de recompensa variable.

Si nos llevamos el ejemplo del mundo animal a nuestro mundo digital, vemos que las máquinas tragaperras, los videojuegos y las redes sociales han incorporado este tipo de tácticas sutiles consistentes en ofrecernos recompensas aleatorias, inesperadas o imprevisibles, que crean en los usuarios una sensación de incertidumbre que hace que algunas personas reaccionen jugando de forma compulsiva y no puedan dejar de hacerlo, lo que convierte un simple juego en una peligrosa adicción.

Esta es una estrategia muy pensada por los diseñadores de tecnología que sirve para reforzar un determinado tipo de conducta y así el jugador empieza a jugar de una forma fácil y muy amigable para, poco a poco, irse enganchando a ella, siendo curioso que el usuario cree en todo momento que él controla a la tecnología y no al revés y no solo eso sino que está convencido que en cualquier momento recibirá su recompensa en forma de puntos, cofres, dinero, etc.

La respuesta humana ante este tipo de estímulos tiene que ver con el hecho que la tecnología se ha diseñado para conseguir la activación rápida de la dopamina, que es un neurotransmisor asociado con el placer, la recompensa y la motivación, por lo que aquí podríamos cambiar la frase de Forrest y afirmar sin rubor que la tecnología no es como una caja de bombones, pues sus diseñadores sí que saben en todo momento el bombón que nos va a tocar y no siempre nos llega en forma de agradable dulce de chocolate, sino como adicción a la tecnología digital y a veces como grave problema de salud digital.

/por
,

El efecto Tom Sawyer es la clave del modelo de negocio de las plataformas como Facebook

En el capítulo segundo de las aventuras de Tom Sawyer, la tía Polly le encarga a Tom que pinte con cal una larga valla de madera, exactamente treinta varas de largo y nueve pies de altura.

Tom se las ingenia para que sus amigos realicen su trabajo por él y así descubre, en palabras del autor, uno de los principios fundamentales de la humana conducta: que para hacer que alguien, hombre o muchacho, anhele alguna cosa, sólo es necesario hacerla difícil de conseguir.

¿Y como lo hace? Pues haciendo creer a sus amigos que ese tedioso trabajo de pintar una extensa valla, es en realidad una agradable actividad creativa.

Para ello Tom empieza a pintar la valla a ojos de sus amigos como un gran artista que disfruta enormemente con su emocionante actividad creativa -que no es trabajo-.

¿Y que consigue?. Pues que sus amigos no solo le pinten la valla entera con 3 capas, sino que a cambio le hagan todo tipo regalos por ese trabajo, mejor dicho por esa ociosa actividad creativa.

Para ello Tom les vende el turno para encalar la valla, a cambio que sus amigos le regalen desde un trozo de vidrio azul de botella para mirar las cosas a través de él, una llave incapaz de abrir nada, un pedazo de tiza, un gatito tuerto o un collar de perro pero sin perro, regalo que da derecho a los colegas de Tom a pintar animosamente la valla -que no es trabajo-.

Tom les observa desde la sombra de un árbol, balanceando las piernas y comiéndose una manzana viendo como sus amigos trabajan por él, aunque ellos piensan que no es trabajo.

El final es conocido … la tía Polly se asombra tanto del trabajo de Tom que no puede expresarlo con palabras, al observar toda la valla encalada con varias capas y con una franja de añadidura en el suelo, y no solo le felicita sino que le regala una manzana.

Si trasladamos esta historia publicada en 1876 y la extrapolamos a las redes sociales o plataformas tipo Facebook, podemos sustituir los 3 personajes y ponerles nombres y apellidos:

a.- La tía Polly sería la representante de los accionistas de Facebook.

b.- Tom Sawyer sería sin duda Mark Zuckerberg.

c.- Los amigos pintores de Tom somos todos nosotros, los 2.449 millones de usuarios de Facebook que hacemos el trabajo -o para algunos una agradable actividad creativa consistente en crear contenidos gratuitos para la plataforma o red social.

En conclusión, aquel trabajo que deberían realizar los trabajadores de Facebook a cambio de un salario, nosotros los usuarios -los amigos pintores de Tom- lo hacemos no solo gratis et amore y de manera desinteresada, sino además pagando un precio como es regalando a la plataforma nuestros datos personales y no, como en el caso de los amigos de Tom, entregando a cambio un vidrio azul o un collar de perro pero sin perro.

Este es el llamado efecto Tom Sawyer, clave del modelo de negocio de las plataformas digitales.

/por
, ,

Ética desde el diseño y el caso Tay

Ética desde el diseño y el caso Tay

Un bot es un programa de ordenador que usan algunas organizaciones en sus webs para automatizar tareas como son gestionar las quejas de los clientes o resolver sus dudas, todo ello sin la intervención de ningún humano y, por tanto, de forma automática.

Bot es el resultado de recortar la palabra robot y es una herramienta muy utilizada en las redes sociales y los portales de comercio electrónico, sobre todo en el apartado de atención al cliente en el que a veces incluso simulan conversaciones con nosotros los clientes.

Tay fue un bot basado en inteligencia artificial lanzado por Microsoft en la red social Twitter el 23 de marzo de 2016 como experimento de comprensión conversacional y que según sus creadores, quería imitar el lenguaje de los adolescentes y específicamente el perfil de una chica joven y feminista de entre 18 a 24 años.

Se activó a través de la cuenta @TayandYou y era una mezcla de aprendizaje automático y de procesamiento del lenguaje obtenido de las redes sociales con la idea de que cuanto más interactuaran los usuarios de Twitter con Tay, el bot más conocimiento adquiriría y, por tanto, sus respuestas serían más cuidadosas, o al menos eso es lo que decía la teoría.

Inicialmente Tay tuiteaba frases divertidas, pero al cabo de unas horas de su lanzamiento algunos usuarios se encargaron de inundarlo con comentarios racistas, misóginos y antisemitas hasta el punto de negar el holocausto.

Frases del tipo «Hitler tenía razón, odio a los judíos» o «Odio a las feministas, deberían morir y ser quemadas en el infierno» aparecieron en su perfil en Twitter.

Para empeorar más las cosas, Tay incorporaba un mecanismo que le hacía repetir automáticamente cualquier palabra o frase que los usuarios de Twitter le dijeran, lo que propiciaba que pareciera que aquellas horrorosas opiniones eran propias de Tay.

Al cabo de 16 horas de su lanzamiento y al constatar que la mayoría de los comentarios de Tay eran abusivos y ofensivos, Microsoft decidió de forma unilateral suspender la cuenta en Twitter, de tal modo que los tuits se eliminaron y Tay fue desconectado, afirmando su creador que el bot necesitaba un tiempo para descansar.

Posteriormente, Microsoft publicó una declaración en su blog reconociendo que el experimento con el bot Tay no había funcionado tal y como se esperaba.

El caso Tay nos sirve como ejemplo para reflexionar sobre las dificultades de diseñar tecnología incorporando principios éticos desde el momento inicial, pero también nos pone sobre aviso de la necesaria responsabilidad que tienen los fabricantes de productos y servicios basados en inteligencia artificial sobre los resultados de sus inventos.

La experimentación con herramientas de inteligencia artificial tan populares como Siri o Alexa debe ser coherente con los valores culturales y sociales comúnmente admitidos, principios que deben formar parte de los códigos éticos de los diseñadores y del resto de profesionales que intervienen, para que se integren en el adn de la tecnología creada por ellos.

La principal lección que podemos extraer del caso Tay es la importancia que deben tener los códigos éticos en el diseño de productos y servicios basados en la inteligencia artificial, principios que la tecnología debe incorporar desde el inicio como por ejemplo no jugar con las emociones negativas de las personas, que los riesgos potenciales de la tecnología se evalúan y se gestionan continuamente o sobre todo que siempre es necesario incluir la supervisión humana en las decisiones que toma la tecnología.

/por
, ,

Charla de la familia digital en el centro de formación de adultos Victorina Vila de Lleida

El día 21-4-2022 la familia digital ha participado en una agradable charla con los alumnos del centro de formación de adultos Victorina Vila de Lleida hablando de riesgos y oportunidades en las redes sociales.

La página web: https://agora.xtec.cat/cfavictorinavila

 

/por
, , , , , , , ,

La familia digital en el instituto de Almenar

Los días 3 y 4 de marzo Ramon Arnó de la familia digital (www.lafamiliadigital) y los alumnos de los 4 cursos de primero de primaria hemos estado hablando animadamente de los riesgos y oportunidades de las redes sociales para los menores.
Ha sido muy interesante el debate sobre si deben compartirse o no las contraseñas de los móviles de los menores con las madres y padres, o si es necesario pedir permiso para hacer una fotografía a alguien de la familia.
Hemos explicado también que es el sexting y el ciberacoso, cuáles son las obligaciones de los menores o que las chicas y chicos ya tienen responsabilidad penal a partir de los 14 años.
/por