Architecture data
Choisir une organisation des données adaptée à vos usages.
Faire parler la donnée.
Concevoir une plateforme data, relier vos sources et fiabiliser les traitements qui alimentent vos usages.
Les situations dans lesquelles nos clients nous appellent le plus souvent sur ce sujet.
Choisir une organisation des données adaptée à vos usages.
Collecter et transformer vos sources dans des flux fiables.
Structurer le stockage et les traitements pour les équipes.
Faire évoluer la plateforme en maîtrisant les dépendances.
Ce que nous livrons
Nous structurons des plateformes fiables, de la collecte aux usages métier. Avec une conviction : une architecture utile doit d’abord être comprise par ceux qui s’en servent.
On choisit avec vous, selon ce que votre équipe sait déjà faire tourner. Pas de technologie imposée.
Les questions techniques qu’on nous pose en premier rendez-vous, avec nos réponses franches.
Sur trois critères mesurables : la part de données semi-structurées ou de flux (logs, événements, documents) dans vos usages, les compétences de l’équipe qui exploitera la plateforme (SQL seul, ou aussi Spark et Python) et le coût complet calculé sur vos requêtes réelles, pas sur une grille tarifaire. Un warehouse SQL suffit à beaucoup d’organisations ; un lakehouse se justifie quand la même plateforme doit servir le reporting, le machine learning et l’IA générative sans dupliquer les données. Dans les deux cas, un format de table ouvert (Delta, Iceberg) protège la réversibilité.
Par domaine métier, avec une période de double run : l’ancienne et la nouvelle chaîne tournent en parallèle et nous comparons automatiquement les résultats (comptages, agrégats, écarts ligne à ligne sur un échantillon) jusqu’à ce que chaque écart soit expliqué. La bascule se fait tableau par tableau, et le retour arrière est préparé avant, pas pendant. Ce que nous ne faisons pas : un big bang un week-end.
Quand une décision ou une action dépend d’une donnée vieille de moins de quelques minutes : détection de fraude, réassort, alerte opérationnelle. Pour un reporting quotidien ou horaire, un batch dbt orchestré par Airflow est plus simple, moins cher et plus facile à tester. Nous commençons souvent par du micro-batch et passons à l’événementiel seulement là où la latence a une valeur mesurée.
En traitant les pipelines comme du logiciel : versionnés dans Git, testés à chaque modification (schéma, unicité, fraîcheur, volumes), déployés automatiquement, observés en production. Les règles de qualité sont écrites avec les métiers sous forme de contrats de données, et une alerte part vers un responsable nommé avant que l’utilisateur découvre l’erreur. C’est l’approche DataOps que nous détaillons dans nos articles.
Généralement six à dix semaines pour un premier domaine : sources connectées, modèle documenté, tests en place et un usage métier réellement servi. Nous préférons livrer un périmètre étroit qui tourne plutôt qu’une architecture complète sur papier. Le reste s’ajoute domaine par domaine, en réutilisant ce qui a été prouvé.
Un projet, une question, un doute sur une architecture : écrivez-nous ou réservez un créneau. Le premier échange sert à comprendre, pas à vendre.