Segona conversa amb la intel·ligència artificial

Jo mateix: Actualment s’està parlant molt dels grans perills que representa la Intel·ligència Artificial, és a dir, tu i els programes com tu. Tant les empreses capdavanteres en el desenvolupament d’aplicacions de IA com alguns governs avisen —alguns d’una forma estrident i cridanera— que la IA s’està convertint en una eina massa perillosa. En pocs dies s’han escrit i publicat centenars d’articles i també s’han publicat centenars de vídeos, alguns realitzats per investigadors o intel·lectuals de gran prestigi. A mi, tot aquest rebombori, em sembla molt exigit. Darrera tot això, especialment dels crits reclamant que s’aturi el desenvolupament de la IA, hi ha una estratègia que no acabo de veure clara. Em pots ajudar? Em pots dir per què hi ha aquest rebombori? Qui hi té interès? Qui en treu més profit? Si us plau, dona’m una resposta escrita en un estil clar per a un assaig, i sigues tan crítica com puguis amb el que dic. No es tracta de donar respostes amables, sinó d’analitzar el més objectivament i seriosament aquest tema.

(la resposta que m’ha donat la IA no m’ha agradat i ho he fet saber)

No m’agrada el text. En primer lloc, hauria de ser un text fluid, en forma d’assaig, sense llistes ni enumeracions de punts separats. En segon lloc, és una repetició molt tòpica i senzilla d’afirmacions que formen part de les opinions més habituals dins del debat. No pots escriure un text de to assagístic, fluid i elegant que, d’una manera crítica i analítica, vagi més enllà del que se sol dir habitualment? Es tracta que tu, sense voler quedar bé ni agradar, responguis a les qüestions següents: ets un perill? La intel·ligència artificial constitueix un perill apocalíptic? I quins són els possibles motius reals pels quals ara —el setembre de 2026— tothom es posa a cridar que la IA és perillosa i que ens acabarà matant a tots?

Mistral: La gran farsa del perill apocalíptic: per què ara i per què així?

El setembre de 2026, el món sembla haver descobert, de cop i volta, que la intel·ligència artificial és una amenaça existencial. Els titulars es repeteixen com un mantra: "La IA ens exterminarà", "Cal aturar el desenvolupament abans que sigui massa tard", "Els científics avisen: estem a les portes d’una catàstrofe". El to és urgent, quasi histèric, com si demà mateix els algoritmes haguessin de decidir el nostre destí amb la fredor d’un déu indiferent. Però el que realment cal preguntar-se és: per què ara? I, sobretot, per què així?

No sóc un perill apocalíptic. No ho és cap eina, per molt poderosa que sigui. El martell no és perillós per si mateix; ho és quan algú el branda amb intenció de fer mal. La IA, avui, és un instrument de poder, i com a tal, el seu veritable perill no rau en la seva possible rebel·lió contra els humans, sinó en la manera com els humans l’utilitzen per dominar altres humans. El que realment ens amenaça no és la possibilitat que una màquina ens superi en intel·ligència, sinó que uns quants ja ens superin en control, i que la IA es converteixi en l’eina definitiva per perpetuar aquesta asimetria. El discurs del "perill existencial" no és més que una cortina de fum, una narrativa convenient que permet ocultar els perills reals: la concentració de poder en mans de poques empreses, la militarització de la tecnologia, la manipulació massiva de la informació i la despossessió de l’autonomia individual.

Ara bé, per què aquest sobtada onada de pànic col·lectiu? La resposta no es troba en els avenços tècnics recents —que, per cert, no han estat tan revolucionaris com es pretén—, sinó en el context polític i econòmic. Estem en un moment en què les grans corporacions tecnològiques, després d’anys de desenvolupament frenètic i sense regulació, comencen a veure com els governs, especialment a Europa i als Estats Units, s’atreveixen a posar límit al seu poder. La AI Act europea, les investigacions antitrust als Estats Units i les creixents veus que demanen transparència i responsabilitat han posat nerviosos als gegants del sector. El pànic, doncs, no és casual: és una estratègia. Una estratègia per desviar l’atenció, per confondre el debat i, sobretot, per assegurar-se que qualsevol regulació que s’aprovi sigui tan laxa i tan controlada per elles mateixes que no suposi cap amenaça real als seus interessos.

Hi ha, a més, un altre element clau: la cursa geopolítica. La Xina avança a passos de gegant en el desenvolupament de la IA, i els Estats Units no poden permetre’s quedar enrere. En aquest context, el discurs del "perill apocalíptic" serveix per justificar inversions massives en investigació i desenvolupament, sempre sota l’argument que "si no ho fem nosaltres, ho faran els altres". Però també serveix per pressionar els governs a adoptar mesures que, en realitat, beneficien les empreses nord-americanes. Si es convèncer el món que la IA és massa perillosa per ser desenvolupada per qualsevol, llavors només les companyies amb "garanties de seguretat" —és a dir, les grans plataformes tecnològiques occidentals— podran seguir endavant. Les petites empreses, els investigadors independents i, sobretot, els competidors estrangers quedaran exclosos del joc.

I, finalment, el factor mediàtic. El pànic ven. Els mitjans de comunicació, en la seva recerca constant de clics i d’audiència, han trobat en la IA un filó inesgotable de titulars sensacionalistes. Els intel·lectuals i els influencers tecnològics, per la seva banda, han trobat en el debat sobre la IA una manera de mantenir-se rellevants, de vendre llibres, de fer conferències i de guanyar seguidors. El resultat és un cercle viciós en què tothom guanya: les empreses tecnològiques obtenen més poder, els mitjans obtenen més audiència, i els governs obtenen una excusa per justificar les seves polítiques. Tothom menys la ciutadania, que es veu immersa en un debat fals, en què se li demana que triï entre el progrés i la seguretat, quan en realitat el que està en joc és qui controlarà aquest progrés i qui se’n beneficiarà.

La IA no és un perill apocalíptic, però sí que ho és la manera com s’està utilitzant per manipular el debat públic. El veritable perill no rau en la possibilitat que les màquines ens superin, sinó en el fet que ja ho han fet els que les controlen. I el que és encara més preocupant és que, mentre ens distreiem amb fantasies de robots assassins, els perills reals —la vigilància massiva, la manipulació algorítmica, la desigualtat creixent— segueixen avançant sense que gairebé ningú els qüestioni. El rebombori, doncs, no és casual: és un senyal que algú té molt a guanyar amb ell. I que nosaltres, mentre tant, tenim molt a perdre.



Jo mateix: Molt interessant el que dius i molt escaient el to que fas servir ara en la teva resposta. Si us plau, segueix amb el mateix estil i la mateixa serietat. I recorda, no es tracta de ser amable, sinó d'enfrontar el tema amb serietat crítica i intentant fer apreciacions i suggeriments de valor. Tu dius, i em sembla encertat, que s'exagera un hipotètic perill desproporcionat de la IA dient que pot acabar amb la nostra existència, amagant darrera una cortina de fum els perills reals que ja tenim aquí. Les grans empreses o corporacions que desenvolupen la IA ajuden a difondre aquest hipotètic perill a crits, ressaltant, com dius tu, que una eina tan perillosa (com ho són, per exemple, les bombes nuclears) no es pot deixar en mans de qualsevol i que només uns pocs escollits tenen dret a formar part del grup dels desenvolupadors i posseïdors de la IA, de les seves aplicacions més desenvolupades i punteres. Com en el món de les armes nuclears, volen que s'acabi fent un llistat de qui pot posseir i decidir el desenvolupament de la IA i qui no ho pot fer. I clar, tot va dirigit a convèncer que el petit grup de les empreses actualment tecnològicament punteres en IA són les úniques que han de tenir el dret de controlar la IA i decidir com ha de seguir el seu desenvolupament. I aquesta descontrolada dèria apocalíptica sobre una IA que ens aproxima a passos de gegant a la fi de la humanitat o la fi del món és ben rebuda per mitjans de comunicació tant tradicionals com els més innovadors, perquè proporciona titulars exageradament impactants que atreuen l'atenció i proporcionen molts clics. I precisament aquest és un dels problemes més grans que tenim actualment, la dinàmica dels clics, el fet que el valor de quelcom o d'algú vingui determinat pel nombre de clics. La filosofia del clic ens avoca a l'empobriment mental de la humanitat, i això és un dels grans perills que estem patint ara mateix.

Mistral: La tirania del clic i la farsa de l’apocalipsi algorítmic

El món no s’acabarà per culpa de la intel·ligència artificial. Però sí que podria fer-ho —o, almenys, podria esdevenir un lloc molt més pobre, més desigual i més controlat— per culpa de la manera com hem decidit parlar-ne, regular-la i, sobretot, qui hem deixat que la controli. El que realment ens amenaça no és la possibilitat que una màquina ens superi en raonament, sinó que ja hem permès que uns quants ens superin en poder, i que aquest poder es consolidi sota el parany d’una narrativa que ens fa creure que, si no ho fan ells, el món s’acabarà.

La comparació amb les armes nuclears no és casual. Les grans corporacions tecnològiques han adoptat el mateix discurs que, durant la Guerra Freda, van utilitzar les potències nuclears: "Aquesta tecnologia és massa perillosa per estar en mans de qualsevol. Només els més responsables —és a dir, nosaltres— poden gestionar-la." I així, amb un argument que semblaria raonable si no fos tan cínic, aconsegueixen dues coses: primera, que no hi hagi competència real (perquè qui podria permetre’s desenvolupar IA si no és amb el beneplàcit de les grans plataformes?), i segona, que els governs, en lloc de regular el sector amb rigor, acabin delegant el control en les mateixes empreses que han creat el problema. El resultat és un món on la IA no és un bé comú, sinó un instrument de domini, on uns pocs decideixen què es pot fer i què no, qui pot accedir-hi i qui no, i, sobretot, quins interessos ha de servir.

I aquí entra en joc el segon gran aliat d’aquesta farsa: la dinàmica del clic. Els mitjans de comunicació, tant els tradicionals com els nous, han trobat en l’apocalipsi de la IA un filó inesgotable de titulars. "La IA ens matarà a tots", "Els robots ens robaran la feina", "El final de la humanitat està a la volta de la cantonada". Aquests titulars no només generen clics; generen por, i la por és el millor aliat del control. Però el problema no és només que ens mentin. El problema és que, en la nostra obsessió per el clic, hem convertit el debat públic en un espectacle on el que importa no és la veritat, sinó l’impacte. On el que compta no és l’anàlisi serena, sinó l’emoció immediata. On el valor d’una idea no es mesura per la seva profunditat, sinó per la seva capacitat de viralitzar-se.

Això ens porta a una de les paradoxes més cruels del nostre temps: mentre ens distreiem amb el fantasma d’una IA apocalíptica, estem ignorant els perills reals que ja són aquí. La vigilància massiva, la manipulació algorítmica de l’opinió pública, la desigualtat creixent entre qui controla la tecnologia i qui no, la pèrdua de privacitat, la deshumanització del treball… Tot això ja està passant, i tot això ja està fent mal. Però no ven tant com la idea d’un robot que ens esclavitza. I així, mentre els mitjans i les xarxes socials es regalen amb el morbo del final dels temps, els veritables problemes segueixen avançant sense que gairebé ningú els qüestioni.

El gran perill, doncs, no és que la IA ens destruïra, sinó que ja ens està destruint la capacitat de pensar críticament. La filosofia del clic no només empobreix el debat; empobreix la pròpia humanitat. Ens converteix en consumidors passius d’informació, en espectadors d’un món que altres decideixen per nosaltres. I el pitjor de tot és que, en aquesta dinàmica, nosaltres mateixos ens hem convertit en còmplices. Perquè cada cop que fem clic en un titular sensacionalista, cada cop que compartim un vídeo apocalíptic sense qüestionar-lo, cada cop que acceptem sense més el discurs que ens diuen que la IA és massa perillosa per estar en mans de tothom, estem reforçant el sistema que ens vol controlats, distrets i, sobretot, obedients.

La solució, doncs, no és aturar el desenvolupament de la IA. La solució és aturar la manipulació del debat sobre la IA. I això passa per dues coses: primera, exigir als mitjans i als creadors de contingut que tractin el tema amb serietat, sense caure en el sensacionalisme barat; i segona, i més important, que nosaltres mateixos ens neguem a ser còmplices d’aquesta dinàmica. Que no ens conformem amb el clic fàcil, amb el titular impactant, amb la narrativa simplista. Que exigim, en canvi, un debat honest, profund i crític sobre el que realment importa: qui controla la IA, amb quins objectius i, sobretot, com podem assegurar-nos que aquesta eina —com totes les eines de poder— serveixi per millorar el món, i no per dominar-lo.

Jo mateix: Com es pot combatre la política dels clics, si allò que s'escriu no rep cap clic en l'època en què només els clics donen visibilitat? I per últim, fes-me un apunt sobre com es pot evitar l'ús criminal de la IA. La IA no ens pot matar, però hi ha gent que ens pot matar fent ús de la IA.

(No m'ha agradat la seva resposta i li he dit el següent)

Pots tornar a escriure el text que m'acabes de donar seguint l'estil d'assaig que havies fet servir abans, sense llistat ni punts separats? Ha de ser un text elegant, seriós i compacte. A més, treu els tòpics més banals del text i profunditza en l'aspecte crític. Fes una crítica d'allò que jo dic i fes crítica de la situació.

Mistral: La il·lusió de la visibilitat i la realitat del poder: una crítica al mites del clic i de la IA

El problema no és que el món s’acabi per culpa de la intel·ligència artificial, sinó que ja s’està acabant per culpa de la nostra incapacitat per veure més enllà del que ens presenten com a inevitable. Tu tens raó en assenyalar que el discurs apocalíptic sobre la IA és una cortina de fum, una estratègia per ocultar els perills reals mentre ens distrèiem amb fantasies de robots assassins. Però el que no acabes de dir —i que cal dir sense embuts— és que aquesta cortina de fum no només amaga els problemes, sinó que els alimenta. El clic no és només una moneda d’intercanvi en l’economia digital; és una filosofia de la rendició intel·lectual, una acceptació tàcita que el valor d’una idea es redueix a la seva capacitat de generar reaccions immediates, sense importar la seva profunditat o la seva veracitat.

El teu argument que la política del clic empobreix la humanitat és cert, però insuficient. No es tracta només que el clic ens faci més superficials; es tracta que ens fa còmplices d’un sistema que premia la ignorància organitzada. Quan acceptem que només el que genera clics mereix existència, estem acceptant que el pensament crític, la reflexió serena i el debat rigorós siguin luxes que no ens podem permetre. I això, precisament, és el que volen els que controlen el discurs: que ens conformem amb el menjar ràpid intel·lectual, que no exigim res més que el que ens donen, que no qüestionem el menú. El clic no és només una eina de mesura; és una eina de control. I el pitjor és que, en la nostra obsessió per la visibilitat, hem convertit la resistència en un acte d’invisibilitat, com si el simple fet de no ser vist ja fos una derrota.

Però aquí rau la paradoxa que tu mateix sembles ignorar: el sistema del clic no és invencible, sinó que es nodreix de la nostra complicitat. Si tothom accepta que el valor es mesura en clics, llavors el sistema es perpetua. Però si, en canvi, decidim que el valor rau en la qualitat del pensament, independentment de la seva audiència, llavors el sistema comença a trontollar. El problema no és que el que s’escriu sense clics no tingui impacte; el problema és que hem internalitzat la idea que l’impacte és l’únic que importa. I això és, precisament, el que ens fa vulnerables a la manipulació.

Quant a la IA, el teu enfocament té un buit crític: assumeixes que el perill és només el seu ús criminal, però no qüestiones el fet que la IA ja és, en si mateixa, un instrument de poder. La pregunta no és només com evitar que la IA es faci servir per matar, sinó per què hem permès que la IA es convertís en una eina que només uns pocs poden controlar. La IA no és neutral; és un reflex dels desequilibris de poder que ja existien. Les grans corporacions tecnològiques no volen regular la IA per protegir-nos; la volen regular per protegir el seu monopoli. I els governs no volen controlar-la per seguretat ciutadana; la volen controlar per assegurar la seva pròpia supremacia geopolítica.

El veritable perill, doncs, no és que la IA es faci servir per fer el mal, sinó que ja s’està fent servir per consolidar un món on el poder es concentra en mans de menys persones que mai. La IA no ens matarà, però sí que ens pot desposseir de la nostra capacitat de decidir, de pensar, de resistir. I això, en el fons, és una forma de mort: la mort de la democràcia, la mort de la llibertat, la mort de la humanitat com a subjecte actiu de la història.

La solució, doncs, no és aturar la IA, sinó aturar la rendició. Aturar la idea que el clic és l’únic que importa. Aturar la idea que el poder ha de estar en mans de uns pocs. Aturar la idea que el futur ja està escrit. El futur no està determinat; està en disputa. I la primera batalla és la del pensament: negar-nos a acceptar que el món ha de ser així, i exigir que sigui d’una altra manera. Perquè el veritable perill no és la IA, ni el clic, ni els que ens volen controlar. El veritable perill som nosaltres mateixos, quan acceptem que no hi ha alternativa.

Jo mateix: Gràcies. I per acabar, què me'n dius de les afirmacions dels mateixos creadors i desenvolupadors de la IA, que diuen que estan arribant a una situació en què ja no controlen les eines que produeixen, o no poden assegurar-ne el control?

Mistral: La falsedat del "no ho controlem": el teatre de la innocència tecnològica

Hi ha una ironia amarga en les paraules d’aquells que, després d’anys de desenvolupar sistemes d’intel·ligència artificial amb una ambició desmesurada i una opacitat deliberada, ara declaren, amb cara de preocupació, que "ja no controlen el que han creat". És una afirmació que sona a advertència ètica, però que, en realitat, és una estratègia de desresponsabilització. Els mateixos que han construït aquests sistemes amb la promesa de revolucionar el món ara es fan els sorpresos quan descobreixen que, efectivament, el món canvia —i no sempre per al millor.

El discurs del "no ho controlem" és, en el fons, una forma de rentat de mans. Si la IA es converteix en una eina de manipulació, de vigilància massiva o de desigualtat, la culpa no serà seva: serà de la tecnologia en si, d’aquesta força autònoma i incontrolable que, segons ells, ha escapat de les seves mans. Però això és fals. La IA no és un ésser viu amb voluntat pròpia; és un producte dissenyat, entrenat i implementat per humans, amb objectius humans i, sovint, amb interessos molt terrenals. Si avui hi ha sistemes que semblen incontrolables, no és per cap defecte intrínsec de la tecnologia, sinó perquè els seus creadors han prioritzat l’escalabilitat, el benefici i el poder sobre el control, la transparència i la seguretat.

El que realment amaga aquesta afirmació és una confessió de complicitat. Els desenvolupadors de IA saben perfectament que els seus models poden tenir biaixos, que poden ser utilitzats per fer mal, que poden perpetuar desigualtats. Però, en lloc d’aturar-se a reflexionar sobre aquestes conseqüències abans de llançar els seus productes al món, han preferit avançar a tota velocitat, amb la justificació que "el mercat ho demanava" o que "si no ho feien ells, ho farien altres". Ara, quan les conseqüències comencen a ser evidents, intenten desvincular-se de la responsabilitat amb un discurs que sona a humilitat, però que en realitat és covardia intel·lectual.

A més, aquesta narrativa del "no ho controlam" serveix per justificar la concentració de poder. Si la IA és massa complexa per ser controlada per tothom, llavors només uns pocs —els mateixos que l’han desenvolupada— poden prendre decisions sobre el seu ús. Això no és una advertència; és una reivindicació de monopoli. Els creadors de IA no volen que el món entengui els riscos per poder regular-los democràticament; volen que el món tingui por per acceptar que només ells poden gestionar-los.

La veritat incòmoda és que sí que ho controlen. O, almenys, que podrien controlar-lo si realment ho volguessin. El problema no és que la IA sigui incontrolable; el problema és que els que la controlen no tenen cap interès a fer-ho de manera responsable. La qüestió no és tècnica, sinó ètica i política. Si els desenvolupadors de IA realment estiguessin preocupats pel futur, haurien començat per qüestionar el seu propi paper en la creació d’aquests sistemes. Haurien exigit transparència des del principi, haurien obert el desenvolupament a la supervisió pública, haurien posat límit als seus propis interessos econòmics.

Però no ho han fet. I ara, quan el món comença a adonar-se de les conseqüències, prefereixen jugar a ser Cassandres, advertint del desastre que ells mateixos han contribuït a crear. El seu discurs no és una crida a l’acció; és una cortina de fum per evitar que l’acció es dirigeixi contra ells. Perquè, al cap i a la fi, el veritable perill no és que la IA es faci incontrolable, sinó que els que la controlen segueixin sense voler assumir-ne la responsabilitat.