L’historiador, filòsof i escriptor israelià Yuval Noah Harari ha advertit, en la roda de premsa telemàtica des de Washington per la publicació del seu nou llibre ‘Nexus’, del “potencial totalitari” de la IA. De fet, el volum posa el focus en els perills d’aquest avenç tecnològic. “Hitler o Stalin no podien controlar a tothom sempre, però la IA sí que ho pot fer perquè no només té la capacitat de saber-ho gairebé tot de tothom a través dels mòbils i altres dispositius, sinó que pot analitzar aquesta informació”, ha dit.
En aquest sentit, Harari ha exposat els riscs que pot suposar la IA per la democràcia, que no es fonamenta en “conversar per arribar a un acord”. “Els mitjans són imprescindibles per preservar la democràcia perquè tenen la capacitat de fiscalitzar el Govern”, ha dit. Tanmateix, ha parlat també de la perillositat de les intencions de l’extrema dreta i l’extrema esquerra de generar desconfiança cap als mitjans i les institucions: “La democràcia es basa en la confiança i en la capacitat de canviar d’opinió si les coses no funcionen. La desconfiança promou el totalitarisme”.
Un totalitarisme que té com a característica principal el control sobre tots els individus, a banda d’ostentar el poder. De fet, l’escriptor ha explicat que ja es poden veure exemples de l’aplicació de la IA per controlar la població com la que fa Israel sobre Palestina o la que exerceix Iran sobre les dones, amb drons que controlen si porten hijab i les sancionen directament si desobeeixen la normativa per reconeixement facial i accedint a les seves dades personals.
La informació que promou l’algoritme
El filòsof també ha obert el debat de què significa deixar la informació en mans de les grans plataformes i els seus algoritmes, que “promouen tota mena de continguts, principalment de por i ràbia -que és el que han detectat que captiva més l’audiència-, per mantenir els usuaris enganxats”. “El model de negoci d’aquestes plataformes és mantenir la gent connectada més temps per fer més diners amb els anuncis, no importa quins continguts promocionin”, alerta.
“Estic d’acord amb el fet que tothom s’ha de poder expressar i amb què la gent té dret a l’estupidesa i a mentir, encara que no estigui bé”, ha afegit, insistint que “s’ha d’anar amb molt de compte amb la censura a internet”. Tanmateix, Harari té clar que “les corporacions haurien de ser responsables del que escull l’algoritme, igual que els editors dels diaris són responsables del que publiquen a la portada”.
Agent amb capacitat de decisió
Yubal Noah Harari presenta la intel·ligència artificial com una invenció diferent del que s’ha fet fins ara, perquè considera que “la intel·ligència artificial és aliena a qualsevol altra tecnologia: no és una eina, és un agent independent amb la capacitat d’actuar de manera autònoma”. Per comparar-ne la perillositat amb altres invents humans, l’historiador posa l’exemple de la bomba atòmica. “La bomba és perillós, però és l’humà qui decideix on i per què fer-la servir perquè per si mateixa no pot decidir res i no pot inventar res”, diu, i afegeix: “en canvi, la intel·ligència artificial pot prendre decisions per si sola”.
L’escriptor de ‘Nexus’ alerta també de la capacitat d’evolució tan ràpida que té la IA i la compara amb l’evolució biològica orgànica. “Si pensem en el desenvolupament de la intel·ligència artificial està clar que és molt més ràpid que l’evolució biològica, que ha necessitat milions d’anys per passar d’una ameba a un humà. A hores d’ara, la IA encara és una ameba, imagineu-vos com serà el dinosaure o l’humà que estan per venir”. Per Harari, instal·lar-nos en el discurs de pensar que la IA mancarà sempre de matisos i que sempre cometrà errors és erroni perquè, precisament, “evolucionarà molt de pressa i encara no hem vist res”, alerta.
De puntetes pels avantatges
D’entrada ens podria semblar que Harari, en la seva obra, no esmenta grans avantatges de la IA, però ho justifica dient que la major part del llibre se centra en la part negativa de la IA perquè “les grans corporacions ja s’encarreguen de difondre la part positiva d’aquesta nova tecnologia i tendeixen a ignorar els perills”. De fet, considera que a contraposició d’aquestes grans companyies, la feina dels filòsofs i historiadors és plantejar les problemàtiques d’aquest nou agent i obrir el debat.
Harari insisteix a dir que se sent obligat a mostrar l’altra cara de la moneda, encara que reconeix que “la IA té molt potencial” en camps com la medicina o la seguretat en els transports. En aquest sentit, l’historiador recalca la necessitat d’invertir més recursos en seguretat. “Cal destinar recursos a garantir que aquesta tecnologia sigui segura per no perdre’n el control, igual que es fa amb un cotxe abans de posar-lo en circulació”, reflexiona.
Yubal Noah Harari
Harari s’ha convertit en un dels intel·lectuals més influents dels nostres temps després de la publicació de best-sellers com ‘Sàpiens’, ‘Homo Deus’ i ‘21 lliçons per al segle XXI’, i la sèrie d’adaptacions gràfiques ‘Sàpiens: una història gràfica’, i ‘Imparables’, la sèrie de llibres per a nens, dels que s’han venut prop de 45 milions d’exemplars en seixanta-cinc idiomes.
Autor
insight redacció
