Gran parte de las aplicaciones de IA generativa se basan en modelos de lenguaje de gran tamaño (LLM), como por ejemplo, las diferentes versiones del GPT de Open-AI. Entrenar modelos de esta naturaleza requiere inversiones millonarias que están al alcance de un reducido número de empresas o instituciones.

Los modelos de lenguaje reducidos, o Small Language Models (SLMs), requieren menos potencia computacional tanto para su entrenamiento como en su operativa y despliegue y, a pesar de presentar algunas limitaciones en la complejidad de las tareas que pueden realizar, en algunos casos de uso los SLMs se convierten en una alternativa a los LLMs.

En esta sesión veremos ejemplos reales o casos de uso de aplicaciones que ilustran la utilización de LLMs o SLMs y se analizan aspectos como la eficiencia, rendimiento, despliegue o capacidades de razonamiento a la hora de elegir una opción o la otra.

Presenta:

• José Perona, Data and analytics Manager – Generative AI, NTT DATA

Participan:

• Oriol Alàs, Researcher Applied Artificial Intelligence (AAI), Eurecat

• Karina Gibert, Catedrática, directora de IDEAI-UPC y Decana del COEINF

• Ramon Serrallonga,CTO & Chief AI Scientist, InnoAnalytiX

www.eurecat.org | Linkedin

Es investigador en la unidad de Inteligencia Artificial Aplicada (AAI) de Eurecat. Es graduado en Ingeniería Informática con especialidad en computación y máster en Ingeniería Informática, ambos por la Universitat de Lleida (UdL). Desde su llegada a Eurecat, ha estado involucrado en proyectos de analítica de datos, inteligencia artificial e ingeniería de datos. Actualmente, trabaja en proyectos de visión artificial y procesamiento de lenguaje natural aplicando modelos y algoritmos de última generación para abordar retos como la detección de objetos, la detección de anomalías o la generación de datos.

Presentamos fRAGments, una arquitectura modular de recuperación-generación aumentada (RAG) que aprovecha los SLM para adaptar de manera flexible las bases de datos de texto locales en asistentes de texto implementados localmente. Esta arquitectura pretende superar dos grandes retos: permite la configuración automática de estos sistemas independientemente de los archivos locales almacenados y mitiga los inconvenientes asociados a los sistemas basados en la nube.

www.ideai.upc.edu | @KarinagibertK

Catedrática de la Universitat Politècnica de Catalunya-BarcelonaTech (UPC). Licenciada y doctora en Informática con las especialidades de estadística computacional e inteligencia artificial. Directora y cofundadora del centro de Investigación en Intelligent Data Science and Artificial Intelligence (IDEAI, en-2018). Decana del Colegio Oficial de Ingeniería Informática de Cataluña (COEINF), Mayo 2023-). Experta y coautora de la estrategia catalana de Inteligencia Artificial Catalonia.AI (Oct 2018, Generalitat de Catalunya). Asesora de los gobiernos Catalan, Nacional y de la Comisión Europea en temas de ética de la IA y transformación digital. Premio Ada Byron 2022, (aNoite Colegio de Ingeniería de Galicia), Premio donaTIC2018 (GenCat). Mención Creu Casas 2020-2021 (IEC).

Tradicionalmente, la explosión que hemos vivido en el ámbito de la IA en los últimos años está basada en la existencia del Big Data, los modelos de lenguaje no son una excepción. El despliegue de la IA generativa descansa sobre bases de datos enormes para poder entrenar los modelos de lenguaje. Pero nos encontramos que en realidad el mundo no es tanto Big Data como querríamos y a menudo hay entornos sin Big Data disponible donde la IA tiene mucho que decir. Y también hay aplicaciones de la lingüística computacional en lenguas más pequeñas. El catalán, en realidad, estaría a medio camino y estabilizar los algoritmos de lenguaje para lenguas minoritarias o más pequeñas o medias como es el catalán, presenta sus retos. En esta charla se reflexionará sobre las limitaciones para las lenguas más pequeñas, de la IA generativa, de los modelos de lenguaje y las alternativas que la IA ofrece en estas circunstancias.

www.innoanalytix.com | Linkedin
@r_serrallonga

Es licenciado en Ciencias Económicas por la Universitat Autònoma de Barcelona y MBA por ESADE Business School. Su carrera profesional internacional se ha desarrollado en el sector tecnológico en diferentes industrias, centrándose en la Inteligencia Artificial durante los últimos 9 años, y ocupando responsabilidades tanto directivas como técnicas. Es cofundador de InnoAnalytiX y actualmente actua como CTO y Chief AI Scientist.

Muchas empresas sufren para extraer el poder de la IA generativa cuando intentan resolver tareas concretas para su negocio. Descubriremos la receta para obtener lo que quieres de la IA generativa y dentro de tu presupuesto, utilizando un caso exitoso en Consultoría de Negocio. Respondiendo a preguntas comunes como: ¿deberíamos usar un modelo propietario o uno de código abierto? ¿Deberíamos usar RAG o fine-tuning? ¿Deberíamos usar un LLM o un SLM? Y mucho más.