L’explicabilitat és un aspecte crucial de la IA, especialment en l’avaluació de resultats obtinguts amb models de caixa negra que solen ser difícils de comprendre i interpretar, degut a una complexitat interna que sovint roman oculta.

Per aconseguir una adopció a escala de les solucions basades en IA, cal construir una relació de confiança amb l’usuari. L’explicabilitat de la IA és un element clau en aquesta relació, ja que permet dilucidar les decisions que prenen els models i ofereix informació complementària de valor. Així mateix, és un element crucial per obtenir algoritmes auditables.

En aquesta sessió veurem els darrers desenvolupaments i exemples de tècniques que aprofundeixen en l’explicabilitat de la IA amb l’objectiu d’avançar cap a un ús fiable i cada cop menys opac.

Presenta:

• Nuria Martinez, Responsable de comunicació i màrqueting, CVC

Participen:

• Toni Manzano, CSO and co-founder, Aizon

• Vasja Urbancic, Lead Data Scientist, Intelygenz a VASS Company

www.aizon.ai

És el cofundador i CSO d’Aizon, una empresa al núvol que proporciona una plataforma SaaS d’IA per a la indústria biotecnològica i farmacèutica. És membre del Consell Assessor d’Afers Reguladors i Qualitat de la PDA, col·laborador actiu en la iniciativa d’IA per a AFDO i imparteix assignatures d’IA a la Universitat (URV i OBS), expert de les Nacions Unides en temes d’IA per a Ciències de la Vida. Ha escrit nombrosos articles en l’àmbit farmacèutic i té una dotzena de patents internacionals relacionades amb el xifratge, la transmissió, l’emmagatzematge i el processament de grans volums de dades per a entorns regulats al núvol. Toni és Físic, Màster en Societat de la Informació i el Coneixement i Postgrau en Sistemes de Qualitat per a la fabricació i la investigació de processos farmacèutics.

La indústria farmacèutica ha estat sempre molt conservadora, en part degut a la regulació que obliga a disposar d’uns elevats nivells de qualitat al producte final. Però la implementació d’IA en processos industrials requereix robustesa i alta disponibilitat i per aquest motiu, el cloud es presenta com una alternativa potent per donar resposta als requeriments industrials. Per un altre costat, la regulació existent no accepta la interpretació dels models d’IA com a “caixes negres” i tot el procés ha d’estar validat. L’utilització d’estàndards com ONNX per la gestió de models d’IA al cloud ha resultat clau per alinear els requisits reguladors amb l’alta disponibilitat dels outputs dels models en entorns industrials.

intelygenz.com

Vasja té una formació acadèmica en ciències de la vida, havent estudiat Biologia Molecular a la Universitat de Bath i completat el seu doctorat i postdoc en Neurobiologia del Desenvolupament a la Universitat de Cambridge, estudiant els processos de desenvolupament implicats en la construcció de xarxes neuronals biològiques. Vasja va començar la seva carrera en ciència de dades el 2016, primer completant el programa de formació en ciència de dades S2DS a Londres (any 2017) i treballant en Data Science en una empresa de consultoria (Tessella) del 2018 al 2019. Ha estat a Intelygenz des del 2019, treballant en una varietat diversa de projectes que abasten el processament del llenguatge natural, la visió per computador i la generació d’imatges. En els últims 18 mesos, ha treballat per a un client del sector fintech ajudant a construir una solució per detectar i prevenir transaccions fraudulentes en temps real.

Hem implementat una solució de detecció de frau altament eficaç per a una important institució fintech. Els reptes tècnics implicats han inclòs l’exigència de cobrir un volum elevat de transaccions (milions al dia, fins a 150 per segon) a una latència molt baixa per permetre al client utilitzar la solució per a la prevenció del frau en temps real en el moment de la transacció. La implementació d’aquesta solució va requerir precalcular un gran nombre de funcions interpretables basades en transaccions anteriors dels comptes de clients i comerciants involucrats en la transacció. A més, era molt important que la solució no es presentés com una caixa negra, sinó que oferís explicabilitat de predicció, és a dir, la importància de les característiques que contribueixen individualment, no només a escala global (conjunt de dades), sinó també a escala local, específiques de cada transacció. Per aquesta raó, hem utilitzat una combinació d’un algorisme basat en arbres d’augment de gradient d’alt rendiment i mètodes d’interpretabilitat post-hoc basats en valors SHAP.

www.cvc.uab.cat | Linkedin

Núria Martínez és cap de comunicació i màrqueting al Centre de Visió per Computador (CVC). És graduada en Periodisme i Màster en Direcció de la Comunicació Corporativa i Institucional per la Universitat Autònoma de Barcelona. Des del 2017, es va incorporar al departament de comunicació del CVC, on ha coordinat diversos projectes de ciència ciutadana, divulgació i impacte social de la intel·ligència artificial, com ExperimentAI o IAèticaBCN. Prèviament al CVC va col·laborar en diversos mitjans de comunicació divulgatius com les revistes Sàpiens i Descobrir.