La fal·làcia de la neutralitat tecnològica i els menors

1.- Introduccio

Els algorismes de recomanació de les xarxes socials (TikTok, Instagram, YouTube) no operen com a cercadors passius ni com a lliuradors neutrals d’informació. Són sistemes de marcadors predictius dissenyats sota el model econòmic de la “captació de l’atenció” (attention economy).

El seu objectiu principal és maximitzar el temps de permanència de l’usuari a la plataforma per incrementar la monetització publicitària.
Quan aquests sistemes interactuen amb ments en desenvolupament (infants i adolescents), les dinàmiques de retenció es tornen especialment agressives i invasives.

L’algorisme opera mitjançant un bucle de retroalimentació contínua que es divideix en quatre fases crítiques:

Fase 1: Detecció de la vulnerabilitat o interès inicial

El punt d’entrada pot ser una acció conscient del menor, sovint motivada per un estat d’ànim baix, solitud, problemes d’autoestima o curiositat pròpia de l’edat.

•⁠ ⁠Inputs actius: Cerques de paraules clau concretes o hashtags de risc.

•⁠ ⁠Inputs passius (més perillosos): L’algorisme mesura els segons exactes que el menor s’atura davant d’un vídeo (micro-retenció), si llegeix els comentaris, o si reacciona amb un like. Si el menor es troba emocionalment vulnerable, aquest temps de detenció involuntària augmenta, registrant una “bellesa mètrica” que el sistema interpreta com a “interès prioritari”.

Fase 2: El perfilat predictiu (Intel·ligència Artificial)

Un cop detectat aquest patró de comportament, els models d’aprenentatge automàtic (machine learning) assignen el perfil del menor a un clúster o grup d’usuaris amb característiques psicològiques similars.

L’algorisme extreu correlacions: “Els usuaris que s’aturen en aquest tipus de vídeo trist acaben consumint continguts d’autolesió o trastorns alimentaris en un 80% dels casos”.

Fase 3: L’alimentació massiva i proactiva

Aquesta és la fase d’inducció pura. L’algorisme comença a col·locar continguts similars directament al mur principal de l’usuari (pestanyes de selecció automatitzada com “Per a tu” o Reels):

•⁠ ⁠Eliminació de la cerca: El menor ja no ha de buscar res; l’entorn digital li subministra el contingut de manera invasiva.

•⁠ ⁠Disseny persuasiu: Es fa ús de l’scroll infinit (elimina les barreres de parada conscient) i de notificacions push personalitzades en horaris de màxima vulnerabilitat (com la matinada, alterant els cicles de son).

Fase 4: El bucle de retroalimentació o “forat de cunill” (Rabbit Hole)

En rebre tant de contingut d’una mateixa temàtica, la percepció de la realitat del menor es distorsiona.
El sistema crea una brossa digital o cambra d’eco on sembla que tothom pateix el mateix problema, normalitzant conductes de risc (autolesions, fixació estètica extrema, aïllament).

Com més interactua el menor amb la bombolla per pur malestar, més contingut idèntic li injecta l’algorisme, fent que sortir d’aquest estat psicològic sense intervenció externa sigui pràcticament impossible.

2.⁠ ⁠Factors de vulnerabilitat neurobiològica en menors

L’èxit d’aquests algorismes a l’hora de “segrestar” l’atenció dels menors rau en el fet que el disseny de la plataforma s’aprofita de la maduració cerebral de l’adolescent:

•⁠ ⁠El sistema de recompensa (Dopamina): Els vídeos curts i els mecanismes de validació (likes) funcionen com a recompenses intermitents (efecte màquina escurabutxaques), provocant pics constants de dopamina a la recerca de l’estímul següent.

•⁠ ⁠Immaduresa del lòbul frontal: Aquesta regió cerebral, encarregada del control d’impulsos, la planificació i la capacitat de mesurar les conseqüències a llarg termini, no està completament desenvolupada fins passats els 20 anys. Per tant, un menor no disposa de les eines neurològiques basals per autogestionar el fre davant d’una tecnologia dissenyada per trencar la seva força de voluntat.

3.⁠ ⁠Conclusions i línies de defensa regulatòria

L’anàlisi d’aquest model de captació evidencia que el problema ha deixat de ser una qüestió de “manca d’educació” de les famílies per esdevenir una crisi de salut pública i seguretat digital. Les mesures actuals s’orienten cap a tres eixos:

•⁠ ⁠Auditoria d’algorismes (Llei DSA de la UE): Exigir per llei a les multinacionals la desactivació dels algorismes de recomanació basats en perfilat de dades per a menors d’edat, oferint murs d’ordre cronològic o neutrals.

•⁠ ⁠Prohibició de patrons nocius (Dark Patterns): Eliminar l’scroll infinit, les reproduccions automàtiques de vídeo i els sistemes de monetització o recompenses incrustats que fomenten la ludopatia digital primerenca.

•⁠ ⁠Exercici de l’Autoritat Digital Familiar: Reforçar la implementació d’eines de control parental a nivell de dispositiu per tallar els ponts de l’algorisme durant les hores de descans i oferir espais analògics lliures de pantalles dins la llar.