Search
Close this search box.

ChatGPT i el viciat debat de classe sobre la tecnologia

La ciència i la tecnologia no resten al marge de la lluita de classes. Assumir el contrari implica naturalitzar múltiples formes d’opressió, sota l’anomenat mantra de la tecnocràcia, i desarticular el potencial de la ciència i la tecnologia com eines d’emancipació popular.

ChatGPT i el viciat debat de classe sobre la tecnologia

La ciència i la tecnologia no resten al marge de la lluita de classes. Assumir el contrari implica naturalitzar múltiples formes d’opressió, sota l’anomenat mantra de la tecnocràcia, i desarticular el potencial de la ciència i la tecnologia com eines d’emancipació popular.

Si les organitzacions de classe no tenim una estratègia i tàctica concreta la ciència i la tecnologia (com qualsevol altre camp travessat per la lluita de classes) reforçaran l’hegemonia de les classes dominants i l’explotació de les classes populars. Si a més, en part per l’anterior, adoptem un paper subaltern (i fins i tot preocupadament alienat els últims anys) el capitalisme no trobarà oposició a les seves lògiques mercantils abocant-nos a una distopia cada cop més palpable.

En base a aquestes premises volem qüestionar el recent debat al voltant de l’anomenada intel·ligència artificial genèrica originat arran de l’aparició dels grans models de llenguatge, específicament el famós ChatGPT, i l’efecte en aquest de les contradiccions emergents del capital al mercantilitzar-los així com la seva posició hegemònica en el debat.

Molt resumidament, podem conceptualitzar els grans models de llenguatge com models que permeten detectar patrons estadístics simples (correlacions) dels milers de milions de textos amb els quals s’entrenen i generar nova informació a partir d’aquests.

Matitzant una mica més, aquests models entrenen immenses xarxes neuronals (un conjunt de matrius) cercant optimitzar els pesos associats als elements d’aquestes. Per fer-ho els algoritmes optimitzen, d’una forma extremadament eficaç en termes de recursos computacionals, unes funcions cost derivades de la teoria de la informació. La forma per fer-ho, en el cas específic del ChatGPT, és una arquitectura anomenada Transformers formada per dos components clau: l’encoder, que aprèn i genera representacions del text d’entrada, i el decoder, que utilitza aquestes representacions per produir seqüències de sortida. El mecanisme central d’aquesta és «l’atenció» que permet al model identificar i ponderar les relacions entre les paraules en una seqüència de text, aconseguint així aprendre, segons el context particular, quines són les paraules més rellevants d’un text.

La capacitat de generar nova informació, i els usos derivats d’això, és el que ha obert un intens debat en la comunitat científica i més enllà d’aquesta. El que a priori se’ns ha venut com un debat «purament científic» oculta les contradiccions de mercantilitzar a marxes forçades la ciència i la tecnologia i els efectes nocius que té en aquestes i més enllà d’aquestes.

En els marcs d’aquest debat un dels punts amb major controversia han sigut els posicionaments (massa sovint interessats) que defensen els grans models de llenguatge com les primeres intel·ligències artificials genèriques capaces d’entendre el llenguatge humà i de raonar. Al nostre parer, i sense negar la immensa potencialitat d’aquests models per realitzar determinades tasques concretes, el terme intel·ligència artificial genèrica, aixì com la possibilitat d’entendre i/o raonar com els humans, ens sembla forçat i extremadament perillós. Primerament perquè aquests termes són difícils de definir tal i com ens mostren les ciències cognitives que fa molts anys que s’hi barallen per estudiar-los de forma rigorosa. Per tant, el fet que aquests models obtinguin molt bons resultats per unes tasques definides, i fins i tot al interaccionar-hi ens sembli que podem conversar-hi com ho fariem amb un humà, no pot ser en cap cas una prova concloent per associar la capacitat d’entendre i raonar a aquests models. Segonament, perquè aquests debats es donen en un context de monopoli, derivat de propi mode de producció capitalista, d’unes poques empreses i persones amb les capacitats i eines de mercantilitzar sense límits aquestes tecnologies i la informació derivada de la nostra interacció amb elles.

Similar al primer argument, un altre motiu de pes per dubtar d’aquestes afirmacions és el propi funcionament dels models. Com hem dit, aquests models cerquen, mitjançant l’optimització de funcions cost, correlacions per tal d’aprendre (un altre terme controvertit per les ciències cognitives). Afirmar que aquestes correlacions produïdes al entrenar models amb trilions d’elements deriven en la possibilitat de raonar quan, degut a la complexitat dels models, no entenem (en la immensa majoria de casos) com el model les produeix ens torna a semblar extremadament perillós i un flac favor a la ciència per afavorir al capital en el seu exercici de continua mercantilització de tot allò que pot.

Finalment, no podem deixar d’esmentar un tercer element nociu com és el fet que a dia d’avui no sapiguem quin ha sigut el conjunt de textos amb el qual s’ha entrenat el model. Són coneguts i documentats els múltiples casos d’algoritmes d’intel·ligència artificial amb biaixos classistes, patriarcals i racistes. Si a això hi sumem els interessos del capital per mercantilitzar aquesta tecnologia el resultat no pot ser altre que la distopia tecnològica a la que assistim i les externalitats negatives que se’n deriven per les classes populars com són la precarització del ja de per si raquític treball assalariat al segle XXI o la desinformació massiva al servei dels interessos del capital.

En síntesi, opinem que més enllà del necessari debat científic, i sense negar la potencialitat de la intel·ligència artificial, aquest es troba excessivament mediat per les lògiques capitalistes que el distorsionen per tal d’afavorir l’extracció de plusvàlua.

Aquesta conclusió negativa no ens hauria de sorprendre i cal treballar per tal de revertir-la. Com a científiques i militants d’organitzacions de classe hem de treballar per tal que el debat, i en última instancia la pròpia producció científica i tecnològica, s’esdevinguin sota lògiques populars sense cedir espais al capital. Per fer-ho cal que articulem i organitzem de forma estratègica la lluita de classes en cadascun dels àmbits del capitalisme digital.

Un lloc clau i fonamental on fer-ho han de ser les nostres universitats. Llocs clau no solament en termes de d’articulació de la classe, tal i com mostren la potencialitat de les experiències sindicals, sinó pel seu rol com a principals espais productors de la ciència i la tecnologia. Per això és imperant que ens organitzem a les nostres universitats per posar la ciència i la tecnologia sota control popular. No fer-ho és assumir unes conseqüències nefastes per les classes populars i renunciar a la ciència i la tecnologia com a eines per emancipar-nos com a classe.

Les universitats han de ser espais estratègics d’articulació de la classe i de disputa en la generació de sobirania tecnològica en l’era del capitalisme digital.

Vols que t'informem de les novetats de Catarsi Magazín?

Les dades personals s’utilitzaran per l’enviament d’informació i promocions. El responsable és Cultura 21, SCCL. L’usuari pot revocar el seu consentiment en qualsevol moment i exercir els drets que l’assisteixen mitjançant correu electrònic a [email protected]. Pot consultar aquí la política de privacitat.

Estudiant de doctorat de la URV, membre de l'associació de tecnocientifíca Heurística i militant del sindicat d'habitatge de cassoles i la CUP Barcelona

Comentaris

ChatGPT i el viciat debat de classe sobre la tecnologia

Feu un comentari

El nou número de Catarsi ja és aquí!

Subscriu-te ara i te l'enviem a casa!

Cataris-blau