Building the AI factory: the operating-model shifts behind Doctolib's AI products

Toutes les entreprises courent pour mettre de l'IA dans leurs produits. Bien moins nombreuses sont celles qui résolvent le problème plus difficile qui se cache dessous : faire en sorte que chaque équipe puisse construire des produits d'IA de façon fiable, sûre et à grande échelle. Dans notre cas, cela se passe dans la santé, où 90 millions de patients et 500 000 professionnels de santé dépendent de ce que nous livrons.

En tant que Product Manager de la ML Platform chez Doctolib, j'ai passé les deux dernières années sur ce problème, du lancement de notre premier produit AI-native aux fondations d'une « AI factory ». Ce retour d'expérience est raconté depuis le siège de la plateforme ML, l'équipe interne qui soutient les feature teams qui construisent ces produits d'IA. Il couvre les cinq changements de modèle opérationnel qu'il a fallu opérer, et ce que chacun nous a appris :

1. De plateformes fragmentées à une plateforme unifiée. La fusion des plateformes Data, ML et Engineering, et pourquoi le changement d'organisation a été plus difficile que la technique.
2. De facilitateur technique à plateforme-produit. Traiter des dizaines de feature teams internes comme des clients, et comment la priorisation casse quand on passe de deux clients à beaucoup.
3. De produits d'IA prêts pour la production à des produits optimisés. Le développement piloté par l'évaluation (les équipes lancent aujourd'hui des centaines d'expériences d'eval par jour), une passerelle GenAI, et la stratégie de modèles : des modèles de fondation serverless en v1, des modèles open source post-entraînés en v2.
4. De capacités à accélérateurs. La couche d'abstraction qui a fait passer les produits d'IA de plusieurs trimestres à quelques semaines (trois semaines de zéro à une bêta en production, lors de notre dernier hackathon).
5. De zéro à près de 100 % d'adoption du codage assisté par IA. Et comment construire la plateforme pour des agents a de nouveau changé notre modèle opérationnel.

Je partagerai de vrais chiffres (adoption, vélocité, volume d'évaluations), les décisions que nous avons ratées, dont une migration de framework douloureuse causée par une absence de décision, et les tensions qui ne disparaissent jamais : golden paths contre autonomie des équipes, pression de livraison contre travail de plateforme à long terme.

Vous repartirez avec une carte concrète des décisions de modèle opérationnel qui sous-tendent la mise à l'échelle de produits d'IA, telles qu'elles avaient du sens dans le contexte de Doctolib, et de l'ordre dans lequel les prendre quand la capacité de la plateforme est limitée.