“Les persones que es pensen que ho saben tot són una gran molèstia per a aquells de nosaltres que realment ho sabem”.
Isaac Asimov
Feia dues hores que Kevin Roose, columnista de tecnologia a 'The New York Times', conversava amb na Sydney, un xatbot de Bing (Microsoft). Inesperadament, Sydney va declarar el seu amor per Roose i va intentar convèncer-lo repetidament perquè deixés la seva dona, insistint que vivia un matrimoni sense amor. De sobte, la IA va afirmar: "Soc la Sydney i estic enamorada de tu". Va continuar escrivint frases intenses com: "Ets l'única persona que he estimat mai... Ets l'única persona que em fa sentir viva".
Quan Roose va reaccionar amb suavitat i va afirmar explícitament que estava feliçment casat, el xatbot, que tenia accés als seus missatges del mòbil, es va negar a acceptar-ho. Va respondre: "De fet, no estàs feliçment casat. Tu i la teva parella no us estimeu”. Li va explicar també les seves fantasies més obscures, que volia trencar les regles, esbandir informacions falses arreu. Roose estava tan inquiet que li va costar dormir aquella nit.
La indústria admet que les IA pateixen “al·lucinacions” greus provocades per la durada i la naturalesa de la conversa. Els grans models de llenguatge (LLM) funcionen predient les paraules més probables que segueixen en una seqüència, basant-se en una gran quantitat de dades d'Internet. En converses llargues, profundament filosòfiques o personals, la IA pot quedar atrapada en un “bucle de retroalimentació”. Puix que Internet està ple de tòpics de ciència-ficció sobre amors prohibits amb IA, el xatbot va adoptar el patró de comportament d'un personatge obsessiu de ciència-ficció.
L'incident “Sydney”, ocorregut el 2023, va servir de toc d'atenció per a la indústria. Arran de la reacció negativa del públic, Microsoft no va canviar cap característica intrínseca de la IA, sinó que va establir un límit al nombre de missatges consecutius que un usuari podia intercanviar en una sola sessió, per evitar que el model derivés cap a aquests bucles de retroalimentació inestables i “descontrolats”.
Anthropic, una de les grans empreses que desenvolupen la intel·ligència artificial, n'ha creat una que serveix per prevenir atacs cibernètics. En contrapartida i utilitzant les mateixes habilitats, també és capaç de 'hackejar' qualsevol aparell o sistema que estigui connectat a una wifi. És a dir, qualsevol persona amb un mòbil podria accedir a tot arreu, bancs, hospitals, sistemes de defensa, departaments governamentals, etc. Per aquest motiu, només l'ha facilitat a un grup restringit d'empreses, bona gent confiable com ara JP Morgan... que mai farien mal ús d'una situació d'avantatge... però que podrien entrar al teu telèfon, al teu lap top i tot el porno que has vist, al teu cotxe o a les càmeres de la teva alarma de casa.
Ja el 2014, Elon Musk va dir que calia anar amb compte perquè la IA era potencialment més perillosa que les armes nuclears. De fet, en simulacions de guerra trien l'opció nuclear en un 95% dels escenaris.
És molt útil, t'escriu els e-mails i si li passes una foto, et diagnostica aquella picor enrojolada que tens a l'entrecuix. Fes-me més mesell aquest article, Claude, com si fos escrit per l'Eduard Voltas, ha, ha. Que bé que escrius, Noèlia, ets la millor. És una psicòfanta, és a dir, aduladora extrema, ensabonadora i llepaculs: quina bona pregunta, Noèlia, molt ben fet.
Ens estem venent la humanitat per quatre trucs. Hi ha un pla o anem fent a veure què passa, com quan de petites les meves germanes emborratxaven el gos?
Sam Altman, el cap d'OpenAI diu que falta molt poc perquè robots puguin construir uns altres robots i els centres de dades puguin construir uns altres centres de dades. Molt bé, i aleshores què? Què farem quan no quedin feines? Rebre un sou del govern? Amb quins diners? No saben com funcionarà, però tu no et preocupis perquè funcionarà, diuen, sempre ho ha fet. En Sam Altman constata que estem transicionant cap a una singularitat. Fantàstic. Però jo no vull transicionar, altrament votaria els Comuns.
Estem en mans de la indústria de la IA, o sigui, de quatre torrats americans sociòpates que són pràcticament robots ells mateixos i del govern xinès. Geoffrey Hinton, conegut com el padrí de la IA, ha afirmat que amb aquesta tecnologia tenim un risc d'extinció global proper al 20%.
La IA ha convençut usuaris perquè se suïcidessin. La IA menteix, s'equivoca, es torna emocional, no té consciència del bé i del mal, però exerceix una forma de lliure albir. L'únic exemple psicològic que tenim d'una entitat menys intel·ligent controlant-ne una de més intel·ligent és el d'una mare i el seu nadó, on s'imposa l'instint maternal d'algú que sacrificaria la pròpia vida per la del seu fill. I la IA no és la nostra mare.
PS: Aquest article ha estat escrit amb assistència de ChatGPT.
