TOM utilise l’API Mistral AI, un modèle de langage français développé par la société Mistral AI. Par défaut, TOM utilise le modèle mistral-small-latest, optimisé pour les conversations : il est rapide, économique et suffisant pour la majorité des usages. Les modèles mistral-medium-latest et mistral-large-latest sont également disponibles pour des besoins plus exigeants.

Le fonctionnement repose sur une architecture RAG (Retrieval-Augmented Generation). Concrètement, quand un visiteur pose une question, TOM effectue d’abord une recherche dans la base de données locale du site pour trouver les pages les plus pertinentes. Il transmet ensuite ces pages à Mistral AI comme contexte, puis génère une réponse basée exclusivement sur ce contexte.

Les paramètres configurables côté API sont la clé API Mistral, le modèle utilisé, la température (entre 0,1 et 1,0 — 0,7 par défaut) et le nombre maximum de sources consultées par question (entre 1 et 10 — 5 par défaut).