Podríem tenir una Conseller-IA d’Universitats, de Sanitat o de Transports? Quines decisions podria prendre una intel·ligència artificial i sota quines condicions? On cal posar les línies vermelles sobre allò que no podríem delegar mai a una màquina? Aquestes són algunes de les preguntes que s’han fet una cinquantena d’estudiants del grau en Ciència i Enginyeria de Dades de la UPC juntament amb estudiants de la Facultat de Filosofia de la UB, en el marc de l’assignatura Ètica a Ciència i Enginyeria de Dades. Aquest grau s'imparteix conjuntament entre la Facultat d'Informàtica de Barcelona (FIB), l'Escola Tècnica Superior d'Enginyeria de Telecomunicació de Barcelona (ETSETB) i la Facultat de Matemàtiques i Estadística (FME).
Durant els darrers mesos, han analitzat l'impacte ètic de delegar funcions de govern de la Generalitat de Catalunya a sistemes d'intel·ligència artificial, identificant els límits de l'automatització en l'esfera pública.  La idea va néixer de la iniciativa del govern d’Albània que, el setembre de 2025, anunciava el nomenament d’una ministra generada per IA, Dellia, per lluitar contra la corrupció. Eva Vidal, professora de l’Escola Tècnica Superior d’Enginyeria de Telecomunicació de Barcelona (ETSETB) i responsable de l’assignatura, va creure que era un bon punt de partida per obrir el debat a l’aula. Així, els estudiants, dividits en 12 grups, se’ls ha assignat una conselleria i han hagut de definir el seu "nivell d'automatització". Per a cada Conseller-IA, han analitzat diferents qüestions, com ara les funcions que podrien ser automatitzades, les dades que serien necessàries i com es recollirien, els tipus de models d’IA que es podrien dissenyar, les persones que hi estarien implicades, tant en el disseny com en la supervisió, així com a qui afectarien les decisions que implementaria la IA. També han hagut de tenir en compte qüestions econòmiques, d’impacte ambiental i preparar casos concrets d’aplicació, que han debatut a l’aula. L’objectiu final: fer una anàlisi ètica i reflexionar sobre la seva responsabilitat com a futurs professionals de l’enginyeria de dades i de la IA. L’actualitat sobre la IA, a l’aula
El treball fet a l’aula ha plantejat nombrosos casos i reptes, que han exposat i debatut a cada classe amb la resta de companys. Per exemple, des de la Conseller-IA de Salut han preparat com a punt de partida per al debat un petit joc interactiu en què el jugador/a assumeix el rol de conseller/a de salut. El joc mostra diferents situacions i dilemes ètics que planteja l’ús de la IA i n’analitza l’impacte en quatre grans àmbits: pacients, metges, medi ambient i finances. El repte consisteix a mantenir un equilibri en els quatre àmbits, per poder continuar en el càrrec, fins a un màxim de 16 anys de mandat. El joc obre el debat sobre els límits de l’ús de la tecnologia en un àmbit tan sensible com el de la salut. Una reflexió que els porta a plantejar-se els límits de l’autonomia dels models d’IA i a afirmar que “la IA no resol els conflictes ètics, sinó que els fa visibles”. El repte d’integrar la IA en el sistema judicial o en la gestió de les presons s’ha analitzat des de la Conseller-IA de Justícia i Qualitat Democràtica. S’ha plantejat, per exemple, si es podria deixar en mans de la tecnologia el treball ordinari dels jutjats, per fer més eficient la gestió dels expedients, o per ajudar als jutges en la redacció de sentències. Podríem usar una IA per a la classificació dels interns d’una presó, decidint el seu grau de perillositat, o un software de detecció de mentides en els interrogatoris a partir de dades biomèdiques, com el pols o la tensió ocular? Els estudiants han hagut de reflexionar sobre com definir una mètrica justa o quines variables són legítimes d’utilitzar, perquè, en definitiva, “dissenyant i utilitzant una IA estem definint quin model de justícia volem”. La IA davant la crisi econòmica
Un altre cas pràctic és el plantejat per la Conseller-IA d’Economia i Finances: podríem deixar en mans d’una IA el desenvolupament d’un pla d’austeritat davant d’una crisi econòmica? Aquí, els estudiants s’han preguntat si, en aplicar-lo, estem governant o només estem optimitzant. “Un pla pot ser matemàticament coherent, però socialment devastador?”, reflexiona un estudiant. Les conclusions són clares: la neutralitat algorísmica és una fal·làcia: “Les dades ens marquen el camí més curt, però no la destinació a la qual volem arribar com a societat”, afirma el portaveu de la Conseller-IA. És art només el què és 100 % humà?
La Conseller-IA de Cultura i Esports han debatut sobre què és una obra d’art i l’ètica professional en aquest àmbit. Cal posar límits a l’ús de la IA als participants en un concurs literari? I què entenem per IA? Utilitzar un corrector ortogràfic és vàlid, però no ho és un generador de textos? Són preguntes que s’han fet els estudiants, analitzant si només és art el què és 100 % humà. Aquesta Conseller-IA també ha reflexionat sobre els efectes d’aplicar la IA a l’arbitratge en l’esport d’alta competició: un partit tindria interès, si es xiulen totes les faltes que detecta la IA? O farà que els jugadors baixin el nivell de confrontació, afectant el nivell de la competició? I han analitzat si un algoritme podria fer la millor selecció nacional per participar en competicions internacionals, sense biaixos ni “amiguismes”. “El silenci ètic és un fracàs”
Aquests són només alguns casos que han tractat els estudiants durant l’assignatura. Exemples pràctics que els han fet pensar en quines condicions es pot donar una autonomia completa a l’algoritme i quan és imprescindible garantir la intervenció, i la responsabilitat, humana. Sobre qui cauria la “culpa”, en el cas que hi hagi algun problema? “És important que, darrere de cada línia de codi, hi continuï havent humanitat”, expressa el portaveu de la Conseller-IA d’Interior i Seguretat Pública en la seva intervenció. “L'objectiu d'aquesta assignatura és que el nostre estudiantat reconegui la seva futura responsabilitat com a professionals, que reflexioni sobre com la tecnologia que dissenyaran té implicacions a diversos nivells en la societat i no és en cap cas neutra. Que ser un bon enginyer o enginyera no només implica dominar la part tècnica, sinó també conèixer els impactes ambientals, socials i econòmics d’allò que fem”, explica la professora Eva Vidal. “Com a enginyers i enginyeres prendran decisions que tenen una implicació ètica, i és bàsic que estiguin preparats, que tinguin esperit crític”, afegeix. A l’aula s’ha debatut sobre regulació i democràcia; la necessitat d’establir uns criteris públics i mecanismes d’auditoria; la “reserva” humana i la responsabilitat no delegable; la pretesa neutralitat de l’algoritme, la importància de la revocabilitat tècnica dels sistemes, o els biaixos i les desigualtats ja existents en les dades, que perpetuen les desigualtats ja existents en la societat. Reflexions que s’han aplicat a temes d’actualitat i que els han portat a pensar sobre els dilemes a què s’hauran d’afrontar, en un futur, en la pràctica professional. “El silenci ètic és un fracàs”, conclou el portaveu de la Conseller-IA d’Interior i Seguretat Pública. | 
