Què passaria si consideréssim que la intel·ligència artificial tenen un “Déu”?
Què pot passar si aquestes instruccions es manipulen, si els sistemes “desobeeixen” o si són enganyats per actors maliciosos?
KIT DIGITAL
Creuen en Déu els LLMs? Reflexions sobre moral i obediència en la intel·ligència artificial
La intel·ligència artificial ha arribat per quedar-se, i ja forma part de la nostra vida quotidiana: ens fa resums, redacta textos, respon preguntes i fins i tot pren decisions en entorns professionals. Però… fins a quin punt podem confiar-hi? Obeeixen realment les ordres que els donem? Entenen la diferència entre el bé i el mal? Podem considerar que tenen una “moral”?
En aquesta xerrada explorarem aquestes preguntes a partir d’un concepte provocador: què passaria si consideréssim que aquests sistemes tenen un “Déu” —és a dir, un conjunt de regles o instruccions que defineixen com han de comportar-se. Aquestes instruccions són com els “manaments” que guien les seves respostes.
Analitzarem el comportament de més de 100 models d’intel·ligència artificial per veure si realment s’alineen amb els valors humans, si segueixen les ordres que se’ls imposen i com gestionen situacions èticament delicades. Què passa si se’ls demana fer trampes? O enganyar? Obeeixen cegament, o hi ha límits?
També parlarem de riscos: què pot passar si aquestes instruccions es manipulen, si els sistemes “desobeeixen” o si són enganyats per actors maliciosos?. I finalment, reflexionarem sobre la necessitat de crear sistemes més transparents i responsables, que posin la seguretat i la privacitat de les persones al centre.
Una sessió oberta a tothom, on la tecnologia es converteix en un mirall per parlar d’ètica, confiança i el futur de la societat digital.
Dia: Dijous, 22 de maig de 2025
Horari: de 17.30h a 18.30h
Durada: 1 hores
PRESENCIAL
Carrer de l’Anselm Clavé, 2, 25007 Lleida
Jordi Murgo – GFT
Jordi Murgó Ambou (Lleida, 1968) és un expert en ciberseguretat conegut en l’escena hacker hispana amb l’àlies “Savage”. Des del 2014 exerceix com a Arquitecte de Seguretat a GFT i ha col·laborat amb el Banc Sabadell, Liberbank, Deutsche Bank, BBVA i Banco Santander, combinant recerca en seguretat i intel·ligència artificial.
L’any 1989 cofundà el grup històric Apòstols, referent del hacking ibèric dels anys 90. Amb el seu pseudònim Savage desenvolupà eines emblemàtiques com QueSO (un dels primers sistemes de fingerprinting de sistemes operatius) i NePED (detector de sniffers en xarxa), àmpliament difoses en la comunitat internacional de seguretat.
Entre el 1997 i el 1998 participà, juntament amb el col·lectiu portuguès Toxyn, en la primera gran campanya de defacement amb motivació política: una onada d’atacs contra servidors del govern d’Indonèsia per visibilitzar la causa independentista de Timor-Leste. Murgó va escriure gran part del codi dels exploits utilitzats en aquells atacs, considerats el naixement del hacktivisme modern.
Començà com a administrador de sistemes a Telefónica i aviat fundà serveis locals d’Internet, com Lleida.Net. Fou arquitecte a Indra i dirigí equips de desenvolupament abans d’especialitzar-se en seguretat i antifrau al sector financer. La seva experiència l’ha portat als escenaris de RootedCON, SecAdmin, TEDx Lleida i nombrosos meet-ups tècnics, on divulga sobre riscos de la IA, hardware hacking i història de l’underground digital.
Amb més de tres dècades dins la comunitat, Jordi Murgó continua actiu com a mentor, ponent i contribuent en projectes open-source (la seva pàgina de GitHub es presenta amb la frase: “Hacker – Fine Code Artist”). Fidel al seu lema —“les regles són per hackejar-les”—, combina la defensa de l’ètica hacker amb la recerca aplicada a la protecció d’usuaris i entitats financeres.
