Formation Apache Kafka : de zéro à la prod

Projet Kafka : pipeline e-commerce de bout en bout — chapitre 12

Construisez une architecture événementielle complète : commandes, stock, facturation, notifications et archivage. Un pipeline 100% Kafka, scalable et observable.

Réservé aux abonnés

Contexte

Ce projet Kafka final consolide tous les concepts étudiés : production, consommation, rebalance, rétention, Streams, Connect, monitoring. Vous allez construire un pipeline événementiel e-commerce complet, proche d’une architecture microservices réelle.

L’objectif : démontrer la puissance de Kafka dans un flux métier cohérent : une commande passe par plusieurs étapes automatisées jusqu’à son archivage.

Le pipeline couvre :

  • 📦 Commande client
  • 📉 Vérification du stock
  • 🧾 Création de facture
  • 📤 Archivage en base via Kafka Connect
  • 📨 Notification client

Lexique

Pipeline événementiel

Suite d’étapes automatisées orchestrées par des topics Kafka.

Service orchestré

Microservice réagissant aux événements d’un topic.

Idempotence

Capacité à traiter un événement plusieurs fois sans doublon.

Outbox pattern

Technique d’émission fiable des événements à partir d’une base métier.

Diagramme du pipeline complet

SOURCESTOPICSTRAITEMENTSSORTIESSite webPostgreSQLstockordersstock-eventsPaiementréessais + DLTKafka StreamsCA / minuteConnect sinkarchivagepaymentsorders-dltTableau ventesData lakeS3DebeziumTout passe par Kafka : chaque service peut tomber et reprendre sans perteUne panne se voit comme un retard (lag), jamais comme une commande perdue
Architecture Le pipeline e-commerce complet

Comment lire le schéma

  • Lisez de gauche à droite : sources → topics (jaune) → traitements (violet) → sorties.
  • orders est lu par trois traitements indépendants : le paiement, le calcul du chiffre d'affaires et l'archivage (pointillés).
  • Le stock arrive de PostgreSQL par Debezium, sans modifier l'application de stock.
  • Le paiement isole ses échecs dans orders-dlt (rouge) : les autres commandes ne sont jamais bloquées.

La suite de cette leçon est réservée aux abonnés

Les 3 premières leçons de chaque formation sont gratuites. Débloquez la suite pour continuer.