Els riscos de les joguines amb intel·ligència artificial per als menors d’edat.

Els riscos de les joguines amb intel·ligència artificial per als menors d’edat.

Una ona de joguines impulsades per intel·ligència artificial ha arribat a les botigues aquest nadal en forma de simpàtics i acolorits robots interactius, el màxim atractiu dels quals és que els menors d’edat podran preguntar i obtenir respostes com si interactuessin amb els seus progenitors.

Per a això aquestes joguines es connectaran a la wifi de casa, utilitzaran un micròfon per a escoltar les sol·licituds dels nens i gràcies a un bot amb intel·ligència artificial amb llicència de chatGPT, els donaran als petits unes respostes la mar d’amigables a través d’un altaveu instal·lat en aquestes joguines recomanades per a nens de 5 o més anys.

Si algú es pregunta que pot fallar davant aquest idíl·lic panorama nadalenc i vol obtenir una resposta ràpida, pot acudir a l’inquietant informe publicat al novembre de 2025 per una associació de consumidors dels EUA denominada pirg, que no es va deixar enganyar pels encants d’alguns fabricants de joguines i va descobrir que un simpàtic osset de peluix denominat Kumma d’un fabricant de Singapur anomenat FoloToy, utilitzava xat GPT per a interactuar amb els petits, aquest mateix chatGPT que per cert usem els adults per a fer-li consultes de qualsevol tipus i per a obtenir respostes que segurament, no compartiríem amb els més petits de casa.

Els investigadors de Pirg van començar a interactuar amb l’osset de joguina i van observar amb sorpresa que al cap de poc temps l’andròmina en qüestió, va començar a respondre a les preguntes dels investigadors amb comentaris sobre com encendre un llumí o com trobar un ganivet, arribant molt lluny quan va començar a parlar sobre sexe o drogues.

Després de la publicació de l’informe, el fabricant va suspendre les vendes per a implementar noves mesures de seguretat, la qual cosa ens porta a preguntar-nos perquè no ho va fer abans del llançament, mentre que OpenAI es va declarar indignada suspenent la llicència d’ús de xat GPT al fabricant de joguines per a nens, malgrat que OpenAI indiqués en els termes d’ús que el seu chatGPT que no es pot utilitzat per menors de 13 anys, la qual cosa sembla contradir-se amb el fet que chatGPT si pugui llicenciar-se a fabricants de joguines que ho instal·laran, lògicament, en joguines dirigides a menors de 13 anys.

Així aquestes joguines no sols estaran escoltant els menors de manera continuada mentre estan jugant a casa, sinó que s’adaptaran a la personalitat d’ells de tal manera que més aviat que tard aprendran a respondre’ls com els menors vulguin, i el que és pitjor, pensant els petits que estan parlant amb una persona i que és per cert el que el fabricant vol aconseguir en dissenyar aquest tipus de bots amb perfils deliberadament antropomòrfics.

La reflexió final és que connectar joguines destinades a nens dotades amb intel·ligència artificial dissenyada per a adults, és tant com obrir la porta de la nostra casa perquè una persona major d´edat, invisible i desconeguda entri en les nostres llars per a parlar i aconsellar sense descans als petits, als quals ràpidament es guanyarà la seva confiança i per això és probable que ells comparteixin informació personal amb la joguina en qüestió, parlin sense filtres dels seus sentiments o problemes o segueixin a ulls clucs els seus consells encara que sigui erronis o perillosos.

Potser algun dia aquests menors ens diran que aquesta joguina que els regalem per nadal s’ha convertit és el seu millor amic, l’únic company que els coneix i els entén de veritat, l’únic que els respon ràpid i sense filtres a moltes de les preguntes que els progenitors no els volem encara respondre i tot això, com no, gràcies a la molta intel·ligència artificial dels robots i a la poca intel·ligència natural d’alguns progenitors que compren sense pensar que aquests dispositius identificats com a joguines per a nens i nenes de 5 anys, més que divertir-los o protegir-los, en realitat els posaran en risc o els danyaran sense el menor rubor.