Ètica des del disseny i el cas Tay

Un bot és un programa d’ordinador que fan anar algunes organitzacions als seus webs per automatitzar tasques com són gestionar les queixes dels clients o resoldre els seus dubtes, tot això sense la intervenció de cap humà i, per tant, de forma automàtica.

Bot és el resultat d’escurçar la paraula robot i és una eina molt utilitzada en les xarxes socials i els portals de comerç electrònic, sobretot en l’apartat d’atenció al client on de vegades fins i tot simulen converses amb nosaltres els clients.

Tay va ser un bot basat en intel·ligència artificial llançat per Microsoft a la xarxa social Twitter el 23 de març de 2016 com a experiment de comprensió conversacional i que segons els seus creadors, volia imitar el llenguatge dels adolescents i específicament el perfil d´una noia jove i feminista d´entre 18 a 24 anys.

Es va activar a través del compte @TayandYou i era una barreja d’aprenentatge automàtic i de processament del llenguatge obtingut de les xarxes socials amb la idea que com més interactuessin els usuaris de Twitter amb Tay, el bot més coneixement adquiriria i, per tant, les seves respostes serien més acurades, o almenys això és el que deia la teoria.

Inicialment Tay piulava frases divertides, però al cap d’unes hores del seu llançament alguns usuaris es van encarregar d’inundar-lo amb comentaris racistes, misògins i antisemites fins al punt de negar l’holocaust.

Frases del tipus “Hitler tenia raó, odio als jueus” o “Odi a les feministes, haurien de morir i ser cremades en l’infern” van aparèixer al seu perfil a Twitter.

Per empitjorar més les coses, Tay incorporava un mecanisme que li feia repetir automàticament qualsevol paraula o frase que els usuaris de Twitter li diguessin, el que propiciava que sembles que aquelles horroroses opinions eren pròpies de Tay.

Al cap de 16 hores del seu llançament i al constatar que la majoria dels comentaris de Tay eren abusius i ofensius, Microsoft va decidir de manera unilateral suspendre el compte a Twitter, de tal manera que les piulades es van eliminar i Tay va ser desconnectat, afirmant el seu creador que el bot necessitava un temps per descansar.

Posteriorment, Microsoft va publicar una declaració al seu bloc reconeixent que l´experiment amb el bot Tay no havia funcionat tal com s’esperava.

El cas Tay ens serveix com a exemple per a reflexionar sobre les dificultats de dissenyar tecnologia incorporant principis ètics des del moment inicial, però també ens posa sobre avis de la necessària responsabilitat que tenen els fabricants de productes i serveis basats en intel·ligència artificial sobre els resultats dels seus invents.

L’experimentació amb eines d’intel·ligència artificial tan populars com el Siri o l’Alexa ha de ser coherent amb els valors culturals i socials comunament admesos, principis que han de formar part dels codis ètics dels dissenyadors i de la resta de professionals que hi intervenen, per tal que s’integrin a l’adn de la tecnologia creada per ells.

La principal lliçó que podem extreure del cas Tay és la importància que han de tenir els codis ètics en el disseny de productes i serveis basats en la intel·ligència artificial, principis que la tecnologia ha d’incorporar des de l’inici com per exemple no jugar amb les emocions negatives de les persones, que els riscos potencials de la tecnologia s’avaluen i es gestionen contínuament o sobretot que sempre cal incloure la supervisió humana en les decisions que pren la tecnologia.

La intel·ligència artificial i Frankenstein

Mary Shelley va publicar el 1818 la que es considera com la primera novel·la de ciència-ficció, que va titular Frankenstein, en què explica com un estudiant de medicina uneix un conjunt de matèria inorgànica humana i aconsegueix crear un monstre d’aspecte humà que pren vida pròpia, de tal manera que quan el seu creador és conscient del resultat de la seva horrorosa invenció, abandona el monstre a la seva sort perdent totalment el control de la fera, que comet diverses atrocitats.

Les reflexions de la novel·la escrita durant la segona revolució industrial són aplicables ara a la quarta revolució industrial, en plena explosió de la intel·ligència artificial, paraula màgica que atreu totes les mirades i que sembla destinada a canviar el món tal com el coneixem.

Recuperem doncs Frankenstein per reflexionar sobre els robots amb intel·ligència artificial i els seus enormes riscos, aprofitant que el missatge de la novel·la és que els científics han d’assumir sempre la responsabilitat de les seves obres i no abandonar-les a la seva sort.

Ara que la humanitat rivalitza amb el poder diví i aviat crearà robots intel·ligents que desdibuixaran els límits del que coneixem com a vida humana, és més necessari que mai parlar de qui i com respondrem a les conseqüències no desitjades dels robots intel·ligents.

Els invents llançats sense un procés previ de reflexió han posat sovint en perill la humanitat i el que és pitjor, han socialitzat els seus efectes desastrosos que acabem assumint tots, mentre que unes quantes organitzacions han estat prou espavilades per privatitzar i fer seus els beneficis econòmics dels invents, sense cap debat previ i seriós amb la ciutadania i aprofitant la dinàmica dels fets consumats.

Per tant, la creació per l’home d’éssers artificials que adquiriran un tipus específic de vida intel·ligent requereix una profunda i prèvia reflexió, com de fet ja han demanat més de 1.000 personalitats del món tecnològic que van subscriure una carta el mes de març del 2023 sol·licitant una moratòria de la intel·ligència artificial arran de l’èxit que ha suposat el famós ChatGPT, o com molt abans ja havia fer el científic britànic Stephen Hawking, que va dir directament que la intel·ligència artificial pot acabar amb la raça humana.

Sembla que hi ha motius més que raonables per obrir un debat ciutadà, ara que encara hi som a temps, i no esperar quan sigui massa tard, com ens passa sovint als humans, que actuem a posteriori i quan ja veiem les orelles al llop.

No podem oblidar que els humans som profundament vulnerables i, per tant, cal reflexionar seriosament sobre si tot allò que tècnicament podem fer sempre s’ha d’acabar fent, o dit d’una altra manera, si totes les fronteres s’han de creuar pel simple fet que existeixen.

La responsabilitat sobre els actes de les nostres creacions, el principi de beneficència que vol dir fer el bé i no causar danys o prendre com a exemple el que fan altres indústries de risc abans de treure les seves creacions al mercat –com la farmacèutica o l’aeronàutica–, són algunes de les propostes que els experts posen damunt de la taula per afrontar aquest enorme repte de la intel·ligència artificial robotitzada.

La resposta als desafiaments de la intel·ligència i la robòtica han de venir de l’ètica, però sobretot de la política, que ha d’escoltar la veu de la ciutadania, i la solució per tant ha d’estar basada també en principis ètics com la prudència, l’autolimitació, la responsabilitat i la rendició de comptes.