Le déploiement de LLMs pour le BI en libre-service semble prometteur — jusqu'à ce que vous rencontriez des données du monde réel. Cette présentation partage des insights concrets de plusieurs déploiements en production et pré-production de chatbots IA conçus pour interfacer avec des données business. Nous couvrirons comment les équipes data ont abordé l'ingénierie de prompt, la génération augmentée par récupération (RAG), l'injection de métadonnées (depuis dbt, catalogues, outils de lignage), et les pipelines d'évaluation pour atténuer les hallucinations. Vous verrez également comment nous avons mesuré les performances (précision sémantique vs validité SQL), géré les attentes des utilisateurs, et itéré sur l'UX et les garde-fous. Attendez-vous à un aperçu sans fluff des patterns architecturaux, des leçons apprises, et pourquoi certains PoCs prometteurs ont encore échoué — et que faire à ce sujet !