CA | ES | EN

Cristian Canton | Facebook

Engineering Manager, Head of Facebook's AI Red Team

Cristian Canton | Facebook

Engineering Manager, Head of Facebook's AI Red Team

Biografía

Cristian Canton es líder del equipo AI Red Team de Facebook en Seattle, Estados Unidos. Este grupo de trabajo está especializado en descubrir, comprender y mitigar potenciales amenazas derivadas de la aplicación de la IA para su compañía. Estas amenazas están relacionadas a la integridad de diferentes casos de uso, especialmente vinculados a fraude, abuso, desinformación, entre otros.
Anteriormente, dentro de Facebook, dirigió otros equipos relacionados con la detección de dominios de contenido dañino. Ha ocupado otros cargos como director de investigación/ingeniería en Microsoft Research en Redmond (EE. UU.) Y Cambridge (Reino Unido), y Vicon en Oxford (Reino Unido), desarrollando la IA para producir efectos visuales en la industria del cine. Obtuvo su doctorado y MS en la Universidad Politécnica de Cataluña (Barcelona) y su tesis de MS en EPFL (Suiza) sobre temas de visión artificial.

Abusos y usos indebidos de la IA: prevención frente a reacción

A medida que la IA se ha vuelto más omnipresente y forma parte de casi todos los aspectos de nuestras vidas, tanto profesionales como personales, es necesario tener en cuenta los posibles aspectos dañinos de la misma: desde la explotación de las debilidades de la IA con fines nefastos (e.g. Deepfakes to spread misinformation) hasta abusos de tecnologías (por ejemplo, Deepfakes para difundir información errónea). Abordar de manera reactiva estos usos indebidos/abusos de la IA cuando ya se han ejecutado ha demostrado ser costoso en muchas dimensiones (humana, económica, etc.), por lo que surge un enfoque más preventivo como alternativa.

En esta sesión, haremos un recorrido por algunos de escenarios adversos del uso de la IA y cómo la mentalidad de su equipo ayuda a definir una estrategia viable, enseñando algunos ejemplos concretos.

All sessions by Cristian Canton | Facebook