LogbrainPrendre rendez-vous
Logbrain

Data Architecture & Engineering

Faire parler la donnée.

Concevoir une plateforme data, relier vos sources et fiabiliser les traitements qui alimentent vos usages.

Quand faire appel à nous ?

Les situations dans lesquelles nos clients nous appellent le plus souvent sur ce sujet.

01

Architecture data

Choisir une organisation des données adaptée à vos usages.

02

Data engineering

Collecter et transformer vos sources dans des flux fiables.

03

Data warehouse & lakehouse

Structurer le stockage et les traitements pour les équipes.

04

Migration

Faire évoluer la plateforme en maîtrisant les dépendances.

Ce que nous livrons

Et si vos données devenaient votre meilleur point de départ ?

Nous structurons des plateformes fiables, de la collecte aux usages métier. Avec une conviction : une architecture utile doit d’abord être comprise par ceux qui s’en servent.

  • Architecture cible et trajectoire de migration
  • Pipelines de collecte et de transformation
  • Tests et documentation des traitements
  • En parler avec nous

Les outils que nous utilisons

On choisit avec vous, selon ce que votre équipe sait déjà faire tourner. Pas de technologie imposée.

Traiter et transformer

  • Apache Spark
  • dbt
  • Python
  • SQL

Orchestrer les flux

  • Apache Airflow

Transporter les événements

  • Apache Kafka

Structurer la plateforme

  • Snowflake
  • Databricks
  • Data warehouse
  • Lakehouse

Questions fréquentes

Les questions techniques qu’on nous pose en premier rendez-vous, avec nos réponses franches.

Lakehouse Databricks ou warehouse Snowflake : comment tranchez-vous ?

Sur trois critères mesurables : la part de données semi-structurées ou de flux (logs, événements, documents) dans vos usages, les compétences de l’équipe qui exploitera la plateforme (SQL seul, ou aussi Spark et Python) et le coût complet calculé sur vos requêtes réelles, pas sur une grille tarifaire. Un warehouse SQL suffit à beaucoup d’organisations ; un lakehouse se justifie quand la même plateforme doit servir le reporting, le machine learning et l’IA générative sans dupliquer les données. Dans les deux cas, un format de table ouvert (Delta, Iceberg) protège la réversibilité.

Comment migrer une plateforme data sans arrêter le reporting ?

Par domaine métier, avec une période de double run : l’ancienne et la nouvelle chaîne tournent en parallèle et nous comparons automatiquement les résultats (comptages, agrégats, écarts ligne à ligne sur un échantillon) jusqu’à ce que chaque écart soit expliqué. La bascule se fait tableau par tableau, et le retour arrière est préparé avant, pas pendant. Ce que nous ne faisons pas : un big bang un week-end.

Batch ou streaming : quand Kafka est-il vraiment nécessaire ?

Quand une décision ou une action dépend d’une donnée vieille de moins de quelques minutes : détection de fraude, réassort, alerte opérationnelle. Pour un reporting quotidien ou horaire, un batch dbt orchestré par Airflow est plus simple, moins cher et plus facile à tester. Nous commençons souvent par du micro-batch et passons à l’événementiel seulement là où la latence a une valeur mesurée.

Comment garantir que les chiffres restent justes après la mise en production ?

En traitant les pipelines comme du logiciel : versionnés dans Git, testés à chaque modification (schéma, unicité, fraîcheur, volumes), déployés automatiquement, observés en production. Les règles de qualité sont écrites avec les métiers sous forme de contrats de données, et une alerte part vers un responsable nommé avant que l’utilisateur découvre l’erreur. C’est l’approche DataOps que nous détaillons dans nos articles.

Combien de temps pour une première version utile ?

Généralement six à dix semaines pour un premier domaine : sources connectées, modèle documenté, tests en place et un usage métier réellement servi. Nous préférons livrer un périmètre étroit qui tourne plutôt qu’une architecture complète sur papier. Le reste s’ajoute domaine par domaine, en réutilisant ce qui a été prouvé.

On en parle ?

Un projet, une question, un doute sur une architecture : écrivez-nous ou réservez un créneau. Le premier échange sert à comprendre, pas à vendre.