La IA agentiva presenta riscos específics respecte altres tipus de sistemes d’IA. Vindria a ser una «màquina» en acció, que passa de respondre una pregunta a actuar autònomament per aconseguir uns objectius. Per tant, té més autonomia en la presa de decisions; i això genera nous riscos en aspectes clau en protecció de dades: quines dades són estrictament necessàries? Quin rol assumeixen les organitzacions (responsable, corresponsables o encarregat del tractament)? I, com s’estructura una supervisió humana efectiva d’aquests agents d’IA?

APDCAT | LinkedIn

Directora, Autoritat Catalana de Protecció de Dades

MBA per la UB, diplomada en Lideratge Polític per l’IESE de Madrid, i llicenciada en Farmàcia. Ha ocupat càrrecs de responsabilitat a la Generalitat de Catalunya, al Parlament de Catalunya i en l’àmbit local. Va dirigir, la formació sobre el nou RGPD per a les administracions catalanes el 2016, com a responsable del Departament de Governació de la Generalitat, al qual estava adscrita l’Escola d’Administració Pública de Catalunya. També va participar en el desplegament de la Llei de Transparència a la Generalitat de Catalunya i en facilitar la seva implementació als ajuntaments. Des del 2022 ocupa la direcció de l’APDCAT.