Advocada, especialitzada en l’ètica en la intel·ligència artificial (IA), ha protagonitzat aquesta setmana una jornada sobre tecnologia a l’edifici del Vapor Gran. Caldas alerta sobre la pèrdua de la privacitat i la vulneració dels drets humans.
La crida a posar límits a la intel·ligència artificial xoca amb Estats i companyies que ignoren aquestes regles. Som a temps d’aplicar l’ètica a la IA? Només cal mirar el món per veure com la tecnologia i la IA poden ocasionar danys a escala planetària. Ja hi ha drons controlant fronteres i la Xina utilitza la IA en polítiques de defensa. Les guerres actuals generen consciència sobre la necessitat d’utilitzar l’ètica. Ara, també hi ha tecnologia creada per grans companyies per contrarestar i que poden mitigar l’ús nociu de la IA.
Xina ja està vigilant tota la la població amb l’excusa de la seguretat . I ara venen els JJOO de París…
Abans de morir, Stephen Hawking va dir que la IA podia significar la fi de la raça humana. Comparteix aquesta visió apocalíptica? Tinc una visió optimista de la tecnologia, però no podem perdre de vista que ara s’està utilitzant també amb objectius diabòlics. Un dron o un coet per satèl·lit pot ocasionar un dany imminent. Ho estem veient. Hi ha moltes dones victimitzades amb suplantacions a la xarxa. La IA pot ocasionar danys en segons i, per contra, el canvi climàtic és un procés lent. Sense dubte, avui les urgències de la IA superen les de la crisi climàtica.
També hi ha un biaix de clase davant els riscos de la IA? Històricament, els perjudicis de la tecnologia sempre afecten els més vulnerables. Nens, dones i minories. Per això és tan important la participació de la societat en el debat ètic de la IA. No deixar-lo en mans dels filòsofs i dels advocats. Cal crear consciència sobre els drets i sobre el dret al consentiment. Vaig fundar la International WoMenX In Business For Ethical AI amb la voluntat que tothom tingui accés a la informació i al debat. Cal empoderar els infants i els pares. I els joves, ells són el futur.
Tatiana Caldas és la CEO de International WoMenX in Business for Ethical AI, una “tink thank” que fomenta la difusió i el debat sobre l’ética de la intel·ligència artificial / nebridi aróztegui
Toquem a terra. És on el que més preocupa és l’atur tecnològic. És important admetre que es perdrà el 40% del treball actual. Cal capacitar als treballadors de les fàbriques, als camperols, cal que desenvolupem habilitats que no siguin estrictament manuals. La IA generarà noves feines que compensaran la balança. Ara cal evitar que els sèniors quedin fora del mercat laboral, perquè l’experiència cobrarà molta rellevància. Jo soc molt optimista, reconeixent que la transició és tot un repte.
I què en pensa dels robots de companyia i la deshumanització de les relacions? A l’Índia ja s’estan utilitzant com a infermeres. A Suècia, on jo visc, hi ha un debat sobre el dret a ser abraçat per un robot. Són un recurs útil contra la solitud de la gent gran, però no podem deshumanitzar les cures. Primer, l’usuari ha d’estar informat que el que té al davant és un robot. Això ja està regulat en l’àmbit europeu. I ha de tenir la capacitat de decidir. I si diu que si, s’hauria de compensar la part afectiva amb presència humana. Això hauria d’estar regulat.
Vostè parla sovint del risc de les tecnologies i de la IA, en particular per als drets humans. Poso un exemple, el dret a la privacitat. El monitoratge permet controlar els nostres moviments, quan anem al banc, quan anem al metge, quan els nens van a escola… Controlen, i això els obre la porta a prendre decisions en contra. Quan? Doncs si demanes un préstec per la casa, o en l’accés d’una persona d’una determinada ètnia als serveis. Poden estar en perill drets com l’accés a un habitatge o a una feina digna si aquesta informació s’utilitza amb finalitats negatives o discriminatòries.
La IA generarà noves feines que compensaran les perdues, i l’experiència serà un valor
Arribem tard per frenar aquests abusos? Les automatitzacions es van generar l’any 2012 i són les que ens posen en aquests riscos. Com la lectura ocular. Estem perdent la privacitat i s’està donant una situació curiosa. Les companyies que dissenyen aquestes tecnologies estan demanant regulació. Elles venen la tecnologia a tercers i no estan disposades al fet que se’ls faci responsables d’un ús no ètic. Avui el monopoli de la IA està en 5 companyies. S’està invertint en millores tecnològiques als processos productius, a la medicina. La IA pot millorar la nostra vida, però està bé que es faci soroll també sobre l’ús negatiu, perquè les noves generacions prenguin consciència.
A Europa, els països es van negar a posar límits a la IA regenerativa, que pot crear continguts originals a partir de dades existents: idees, converses, imatges, vídeos, històries… Com s’entén? Ho van fer França, Alemanya i Itàlia, per interessos polítics. Els països s’han d’unir contra el monopoli de la tecnologia i imposar les seves idees pensant en la protecció de la població i els tractats internacionals són clau. Estem en risc, Xina ja vigila tota la població amb l’excusa de la seguretat. I Ara venen els JJOO de París. Cal prevenir el terrorisme, en això tots estem d’acord. Però aquest principi no pot ser una excusa per violar
