CA | ES | EN

Cristian Canton | Facebook

Engineering Manager, Head of Facebook's AI Red Team

Cristian Canton | Facebook

Engineering Manager, Head of Facebook's AI Red Team

Biografia

Cristian Canton és líder de l’equip AI Red Team de Facebook a Seattle, Estats Units. Aquest grup de treball està especialitzat en descobrir, comprendre i mitigar potencials amenaces derivades de l’aplicació de la IA per a la seva companyia. Aquestes amenaces estan relacionades a la integritat de diferents casos d’ús, especialment vinculats a frau, abús, desinformació, entre d’altres.

Anteriorment, dins de Facebook, va dirigir altres equips relacionats amb la detecció de contingut nociu. Ha ocupat altres càrrecs com director d’investigació/enginyeria a Microsoft Research a Redmond (EE. UU.), Cambridge (Regne Unit), i Vicon a Oxford (Regne Unit), desenvolupant la IA per produir efectes visuals en la indústria de cinema. Va obtenir el seu doctorat i MS a la Universitat Politècnica de Catalunya (Barcelona) i la seva tesi de MS en EPFL (Suïssa) sobre temes de visió artificial.

Abusos i usos indeguts de la IA: prevenció davant reacció

A mesura que la IA s’ha tornat més omnipresent i forma part de gairebé tots els aspectes de les nostres vides, tant professionals com personals, cal tenir en compte els possibles aspectes nocius de la mateixa: des de l’explotació de les debilitats de la IA amb fins nefastos (eg Deepfakes to spread misinformation) fins abusos de tecnologies (per exemple, Deepfakes per difondre informació errònia). Abordar de manera reactiva aquests usos indeguts/abusos de la IA quan ja s’han executat ha demostrat ser costós en moltes dimensions (humana, econòmica, etc.), de manera que sorgeix un enfocament més preventiu com a alternativa.

En aquesta sessió, farem un recorregut per alguns escenaris adversos en l’ús de la IA i com la mentalitat del seu equip ajuda a definir una estratègia viable, ensenyant alguns exemples concrets.

All sessions by Cristian Canton | Facebook