Pioner en la IA i professor emèrit a l’Institut en Intel·ligència Artificial, Ramón López de Mántaras adverteix que la bombolla de les tecnològiques es desinfla. El professor critica la regulació de la Unió Europea sobre la IA . Ha cedit, diu, a la pressió del “lobby” armamentístic. López de Mántaras va pronunciar dijous una conferència al MNACTEC en el marc de la Setmana de la Ciència.
Resolem el dubte. La IA és intel·ligent realment? Pot aprendre sola? En el sentit humà no. Parlen d’algoritmes d’aprenentatge, intentant fer-ho com els humans. Però hi ha enormes diferències. Nosaltres acumulem aprenentatge, incrementalment. Però a la IA se l’entrena aportant dades. Un exemple, si incorpores dades i imatges de carrers, arbres, gossos, persones i cruïlles, milions, a un cotxe autònom a Europa i el portes a Austràlia no identificarà un cangur que travessi la carretera a salts. A les màquines se les entrena per fer una cosa, i no saben fer res més. Nosaltres podem aprendre, no parem de fer-ho i ho acumulem.
Un altre tòpic. Pot substituir el cervell humà? Parcialment, pot substituir algunes accions que fan els humans i sobretot ajudar-los a aprendre millors decisions. El concepte substituir el cervell no té sentit. Poden substituir tasques.
La IA regenerativa no és sostenible. Consumeix més energia que el 80% dels habitatges al món
Anem doncs a una societat futura, a un canvi de paradigma amb màquines treballant i gent a casa? La gent que està en perill de perdre la feina és la que no sap fer servir una màquina. La IA tindrà més incidència, però ni a curt ni a mitjà termini una empresa podrà funcionar només amb màquines. A llarguíssim futur ningú pot predir què passarà.
Els gegants tecnològics controlen la investigació i el talent vinculat a la IA. Queda espai per a la recerca d’una IA que pensi en el bé comú? Aquesta és una reflexió que fem en el món acadèmic. Les tecnològiques el que volen és augmentar el seu valor borsari i pagar grans dividends als seus accionistes. I el problema és que una bona part de la IA està a les seves mans avui i la seva preocupació no és el bé. Tenen tants recursos que poden pagar investigadors que fan recerca bàsica, com la que fem al món acadèmic. Tenen dades, les controlen, i el talent. I el problema greu és que estan xuclant talent que formem a les universitats.
Queda espai doncs? Mira. La IA regenerativa, la capaç de crear continguts, requereix moltíssimes dades, per exemple, eines com el ChatGPT i no és sostenible. Consumeix més energia que el 80% dels habitatges de tot el món: entre 80 i 100 terawatts/any, I un terawatt equival a mil milions de quilowatts. Microsoft ha comprat el reactor de Three Mile Island, una central nuclear clausurada, perquè només l’energia nuclear els pot abastir de l’energia necessària. No és sostenible. I nosaltres al món acadèmic fem recerca perquè la IA no necessiti tantes dades ni tant consum per funcionar. Aquesta és una recerca que ells no fan.
No és sostenible energèticament… i econòmicament? Per això s’està desinflant la bombolla. Els inversors de la IA regenerativa no veuen clar que tingui un retorn econòmic i estic convençut que la recerca del món acadèmic acabarà imposant-se.
El tecnosolucionisme és una cortina de fum perquè no parlem de problemes com el canvi climàtic
Estem veient suplantacions d’identitat, noves formes de ciberdelinqüència, intents de subvertir processos electorals… La regulació va darrere dels delictes. La IA es pot avançar per prevenir? La UE ha regulat i va per aquí, però s’ha quedat curta. No menciona les armes letals autònomes. El lobby de l’empresa armamentística és molt poderosa i ha pressionat. És inacceptable. Estic decebut i indignat amb aquesta llei. . Però a banda de les lleis hi ha l’educació. Estem formant professionals amb valors ètics. A la UAB hi ha un nou grau en IA on la component ètica i humanística és molt gran. Ja no podem formar enginyers en IA només des del punt de vista tècnic, cal incorporar humanitats. La primera promoció sortirà el juny de 2025. Ara, si l’empresa Palantir, que treballa en IA al món armamentístic els ofereix sous elevadíssims ells decidiran. Que quan facin una app que discrimina, fomenta polarització, robots soldats o drons autònoms per llençar bombes es facin la següent pregunta: “És tecnològicament factible però, ho he de fer?”.
L’arqueòleg Eudald Carbonell diu que a l’Homo sapiens, com a ésser biològic, el succeiran els transhumans, millorats tecnològicament. Ho comparteix? La transhumanitat és una parida filosòfica, no la creieu. No hi ha cap teoria científica que l’avali. Si fem desaparèixer l’espècie no són útils pel planeta. És el discurs de Silicon Valley: “La tecnologia controlarà el món” i el tecnosolucionisme és un problema. La màquina no sap fer res sense un humà. Amb l’Èric Smith, president executiu de Google, érem companys de classe a Berkeley i vam fer el màster junts. L’1 de setembre, a una cimera a Washington va dir: “Oblidem-nos els humans de resoldre el canvi climàtic, ho faran les màquines”. El tecnosolucionisme és una cortina de fum perquè no parlem del que és realment important. Amb la IA tenim una llista llarga de problemes presents i greus de privacitat, de polarització, suplantacions i aquestes empreses no volen que hi parlem perquè els creen elles. És que el problema no és el Frankenstein, el problema és el doctor Frankenstein que fa el monstre i el deixa anar pel món.
