2024-11-25 –, Jaguatirica room
Language: Português brasileiro
Nesta oficina, os participantes aprenderão a criar um sistema de FAQ utilizando RAG com modelos de linguagem natural (LLMs) de código aberto.
Esta oficina prática é voltada para desenvolvedores e cientistas de dados que desejam explorar o uso de modelos de linguagem natural open source para criar sistemas de FAQ inteligentes. A abordagem principal será a implementação de Retrieval-Augmented Generation (RAG), uma técnica que combina a recuperação de informações relevantes com a geração de respostas utilizando LLMs.
Os participantes irão aprender a configurar um ambiente Python para RAG, utilizando o ChromaDB para armazenar e consultar embeddings. Serão utilizados modelos disponíveis no Hugging Face Hub, com integração via Ollama para garantir a eficiência na geração de embeddings e interação de chat. Além disso, a oficina abordará a integração do sistema com o Telegram, criando um bot capaz de responder a perguntas frequentes de maneira eficiente e personalizada.
Ao final, os participantes terão desenvolvido um protótipo funcional de um sistema de FAQ, pronto para ser adaptado e expandido para outras aplicações.
Leon Sólon é Bacharel em Ciência da Computação e Mestre em Computação Aplicada pela UnB. Auditor-Fiscal da Receita e host do Let's Data. Possui 20+ anos em Tecnologia, 8 como cientista de dados.