SCHEDULING, SCALING, AND ORCHESTRATING COMPLEX KAFKA WORKFLOWS EĞİTİMİ

Karmaşık Kafka akışlarını zamanla, ölçekle, orkestre et

Kafka Connect, Streams ve tüketici gruplarını orkestre edin; partition ölçekleme, consumer scaling ve iş akışı zamanlamasını üretimde yönetin.

Karmaşık Kafka iş akışlarının üretimde zamanlanması, ölçeklenmesi ve orkestrasyonuna odaklanan ileri seviye eğitim: Connect/Streams/tüketici topolojisi, partition ve consumer ölçekleme, cooperative sticky rebalance, Airflow zamanlama, Strimzi ile Kubernetes d…

4 gün İleri Seviye Online / Yüz Yüze / Hibrit Sertifikalı

Eğitim Hakkında

Workflow orkestrasyonu, consumer/partition ölçekleme, zamanlama ve dayanıklılık

Bu ileri seviye eğitim, çok bileşenli Kafka iş akışlarının üretimde zamanlanması, ölçeklenmesi ve orkestrasyonuna odaklanır. Katılımcılar Kafka Connect, Streams ve tüketici uygulamalarından oluşan karmaşık akışları orkestre eder; partition sayısını ve consumer group'u ölçekleyerek throughput artırır; rebalance stratejilerini (cooperative sticky) ve etkisini yönetir. Airflow/Kubernetes ile Kafka iş akışlarının zamanlanması ve dağıtımı, Connect task ölçekleme, Streams uygulamalarının instance ölçeklemesi ve state store yeniden dağıtımı işlenir. Backpressure, lag tabanlı otomatik ölçekleme (KEDA), teslim garantileri ve hata yayılımı (error handling) ele alınır. Eğitim, uçtan uca dayanıklı ve ölçeklenebilir bir akış mimarisinin tasarımıyla tamamlanır.

Süre ve Format

4 Gün. Her gün dört modül; iş akışı orkestrasyonundan ölçeklemeye, zamanlamaya ve dayanıklılık tasarımına ilerlenir.

Seviye

İleri Seviye — Karmaşık Kafka iş akışlarının zamanlanması, ölçeklenmesi ve orkestrasyonu; çok bileşenli akış mimarisinin üretim operasyonu.

Öğrenme Metodu

Katılımcılar çok bileşenli Kafka akışlarını kurar, partition/consumer ölçeklemesini ve lag tabanlı otomatik ölçeklemeyi gerçek metriklerle uygulamalı test eder.

Neden Bu Eğitim?

🔀Orkestrasyon

Connect, Streams ve tüketicileri uçtan uca bir akış olarak orkestre edersiniz.

📈Ölçekleme

Partition ve consumer ölçeklemeyle throughput'u bilinçli artırırsınız.

🤖Otomatik Ölçek

Lag tabanlı KEDA ile yüke göre otomatik ölçeklenen akış kurarsınız.

Anahtar Konular

kafka orkestrasyonkafka ölçeklemekafka workflowconsumer scalingpartition ölçeklemecooperative rebalancekeda kafkastrimzikafka airflowakış mimarisi
“Karmaşık akış mimarisinde ustalık, her bileşeni değil aralarındaki akışı yönetebilmektir.”

Ön Koşullar

Eğitimden verim almak için faydalı olacak bilgi ve ortam gereksinimleri

1
Kafka Deneyimi

Kafka producer/consumer, Connect ve Streams deneyimi güçlü biçimde faydalıdır.

2
Konteyner/K8s

Kubernetes ve konteyner kavramlarına aşinalık faydalıdır.

3
Dağıtık Sistem

Ölçekleme, rebalance ve teslim garantilerine aşinalık beklenir.

4
Çalışma Ortamı

Kafka, Connect/Streams ve Kubernetes içeren bir ortam erişimi.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiKatılımcı, çok bileşenli bir Kafka akış mimarisini tasarlayıp orkestre edebilir.
Modül 1
Akış Topolojisi
  • Source → Connect → Streams → sink zinciri
  • Çok aşamalı topic topolojisi tasarımı
  • Ham, türetilmiş ve zenginleştirilmiş katmanlar
  • Fan-out ve fan-in desenleri
  • Topic isimlendirme ve bölümleme stratejisi
  • Bileşenler arası sözleşme (contract)
Modül 2
Connect Orkestrasyonu
  • Distributed Connect cluster
  • Connector ve task dağıtımı
  • REST API ile connector yaşam döngüsü
  • Connector bağımlılık sırası
  • Yeniden başlatma ve offset yönetimi
  • Connect ölçekleme temeli
Modül 3
Streams Orkestrasyonu
  • Streams uygulama topolojisi
  • Application.id ve instance kavramı
  • State store ve changelog topic
  • Standby replica ile dayanıklılık
  • Streams instance koordinasyonu
  • Topoloji sürümleme
Modül 4
Bağımlılık Yönetimi
  • Bileşenler arası veri hazır olma
  • Şema uyumu ve evrim
  • Geriye uyumsuz değişikliklerin yönetimi
  • Akış sürüm dağıtımı
  • Kademeli devreye alma
  • Bağımlılık hatalarının izolasyonu
Günün hedefiKatılımcı, partition ve consumer ölçeklemeyle throughput'u ve dengeyi yönetebilir.
Modül 1
Partition Ölçekleme
  • Partition sayısının paralellik sınırı
  • Partition artırmanın sıralamaya etkisi
  • Partition anahtarı ve dağılım
  • Partition eklemenin geri alınamazlığı
  • Over-partitioning maliyeti
  • Throughput hedefine göre partition planı
Modül 2
Consumer Ölçekleme
  • Consumer group içi paralellik
  • Consumer sayısı ve partition ilişkisi
  • Atıl consumer (partition'dan fazla) durumu
  • Yatay ölçekleme stratejisi
  • Consumer başına throughput
  • Ölçeklemenin lag'e etkisi
Modül 3
Rebalance Yönetimi
  • Eager ve cooperative rebalance
  • Cooperative sticky assignor avantajı
  • Rebalance sırasında kesinti (stop-the-world)
  • session.timeout ve heartbeat ayarı
  • static membership ile rebalance azaltma
  • max.poll.interval yönetimi
Modül 4
Connect/Streams Ölçekleme
  • Connect task sayısı ölçekleme
  • Streams instance ekleme
  • State store yeniden dağıtımı
  • num.stream.threads ayarı
  • Ölçeklemede durum taşıma maliyeti
  • Ölçekleme sırasında veri tutarlılığı
Günün hedefiKatılımcı, Kafka iş akışlarını zamanlayıp Kubernetes üzerinde otomatik ölçekleyebilir.
Modül 1
İş Akışı Zamanlama
  • Batch tetikli Kafka işleri (dump/load)
  • Airflow ile Connect/iş tetikleme
  • Zamanlanmış veri taşıma akışları
  • Bağımlılık ve sensor kullanımı
  • Yeniden deneme ve backfill
  • Sürekli akış ile batch'in birlikte yönetimi
Modül 2
Kubernetes Dağıtımı
  • Strimzi operator ile Kafka dağıtımı
  • Connect ve Streams'in pod olarak dağıtımı
  • Kaynak limit/request ayarı
  • ConfigMap/Secret ile yapılandırma
  • Rolling update stratejisi
  • Pod sağlık (readiness/liveness) kontrolü
Modül 3
Otomatik Ölçekleme (KEDA)
  • Lag tabanlı ölçekleme metriği
  • KEDA Kafka scaler yapılandırması
  • HPA ile consumer pod ölçekleme
  • Ölçek aşağı (scale-to-zero) davranışı
  • Ölçekleme eşikleri ve gecikme
  • Otomatik ölçeklemenin rebalance etkisi
Modül 4
Backpressure ve Hız
  • Yavaş tüketicinin lag birikimi
  • Backpressure yönetimi
  • Quota ile üretici/tüketici hız sınırı
  • Buffer ve retry ayarı
  • Kaynak doygunluğu tespiti
  • Hız-kapasite dengesinin kurulması
Günün hedefiKatılımcı, dayanıklı ve gözlemlenebilir uçtan uca bir akış mimarisi tasarlayabilir.
Modül 1
Hata Yönetimi
  • Dead letter queue stratejisi
  • Connect error tolerance ayarı
  • Streams uncaught exception handler
  • Zehirli mesaj (poison pill) yönetimi
  • Hata izolasyonu ve devreyi açma
  • Yeniden işleme (reprocessing) akışı
Modül 2
Teslim Garantileri
  • Uçtan uca exactly-once zinciri
  • Streams EOS yapılandırması
  • İdempotent producer ve transaction
  • Garantinin bileşenler arası korunması
  • Çoklu bileşende tutarlılık
  • Garanti seviyesinin maliyeti
Modül 3
Gözlemlenebilirlik
  • Consumer lag ve throughput metrikleri
  • Connect ve Streams JMX metrikleri
  • Uçtan uca gecikme izleme
  • Dağıtık izleme (tracing)
  • Uyarı ve SLO tanımı
  • Olay müdahale süreci
Modül 4
Mimari Tasarım
  • Ölçeklenebilir ve dayanıklı tasarım ilkeleri
  • Replay ve yeniden işlenebilirlik
  • Kapasite planlaması
  • Felaket kurtarma (multi-cluster)
  • Maliyet-performans dengesi
  • Üretim hazırlık değerlendirmesi

Eğitim Kazanımları

Program sonunda katılımcılar:

✅
Orkestrasyon

Connect, Streams ve tüketicilerden karmaşık akış topolojisi kurarsınız.

✅
Partition Ölçek

Partition stratejisiyle paralellik ve throughput'u planlarsınız.

✅
Consumer Ölçek

Consumer group ve rebalance'ı ölçekleyip dengelersiniz.

✅
Zamanlama

Airflow ile batch ve akış işlerini zamanlayıp orkestre edersiniz.

✅
K8s Dağıtım

Strimzi/KEDA ile Kafka akışlarını Kubernetes'te dağıtırsınız.

✅
Otomatik Ölçek

Lag tabanlı KEDA ile yüke göre otomatik ölçekleme kurarsınız.

✅
Dayanıklılık

Dead letter queue ve exactly-once ile hata yönetimi sağlarsınız.

✅
Gözlemlenebilirlik

Lag, metrik ve tracing ile mimariyi uçtan uca izlersiniz.

Kimler İçin Uygundur?

  • Üretimde karmaşık Kafka tabanlı akış mimarilerini işleten veri/platform mühendisleri
  • DataOps ekipleri
  • akış sistem mimarları için uygundur

Sıkça Sorulan Sorular

Bu eğitim kimler için uygundur?
Üretimde karmaşık Kafka tabanlı akış mimarilerini işleten veri/platform mühendisleri, DataOps ekipleri ve akış sistem mimarları için uygundur.
Partition sayısını sonradan artırabilir miyim?
Artırmak mümkündür ancak anahtar bazlı sıralamayı ve mevcut veri dağılımını etkiler, azaltmak ise mümkün değildir; eğitim partition planlamasının neden önden yapılması gerektiğini gösterir.
Cooperative rebalance neyi iyileştirir?
Cooperative sticky assignor rebalance sırasında tüm partition'ların bırakılmasını (stop-the-world) önleyerek yalnızca gerekenleri taşır; bu, kesintiyi ve lag sıçramasını azaltır.
KEDA ile otomatik ölçekleme nasıl çalışır?
KEDA consumer lag metriğine bakarak tüketici pod sayısını HPA üzerinden artırır/azaltır ve gerektiğinde sıfıra indirir; eğitim eşik ve rebalance etkisini uygulamalı ele alır.
Eğitim sonunda sertifika veriliyor mu?
Katılım ve değerlendirme sonrası Digital Vizyon Akademi Katılım ve Başarı Sertifikası verilir.

Sertifikalandırma

Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika d Digital Vizyon AKADEMİ KATILIM SERTİFİKASI Bu sertifika [Katılımcı Adı Soyadı] adlı katılımcının aşağıdaki eğitim programını başarıyla tamamladığını belgeler. Scheduling, Scaling, and Orchestrating Complex Kafka Workflo Sertifika Kodu DV-2026XX00 Tarih 26.10.2026 Yetkili İmza DV AKADEMİ

Eğitim Bilgileri

Süre4 gün
Seviyeİleri Seviye
FormatOnline / Yüz Yüze / Hibrit
Sertifika✓ Var
Hemen Bilgi Al
İlgili Eğitimler

Bu Eğitimle Birlikte Tercih Edilenler

Büyük Veri TeknolojileriAdvanced Kafka-Spark Streaming Patterns and Production Readiness Eğitimi
Veri ve Analitik Eğitimleri

Advanced Kafka-Spark Streaming Patterns and Production Readiness Eğitimi

4 günUzmanOnline / Yüz Yüze / Hibrit

Kafka ve Spark Structured Streaming ile exactly-once, watermark, stateful join, state store ve üretim operasyonunu uzman düzeyde öğrenin.

Detayları Gör →
Büyük Veri TeknolojileriAdvanced Operations Using Hadoop MapReduce Eğitimi
Veri ve Analitik Eğitimleri

Advanced Operations Using Hadoop MapReduce Eğitimi

3 günİleriOnline / Yüz Yüze / Hibrit

İleri MapReduce: özel partitioner, combiner, secondary sort, map/reduce-side join, counter ve performans ayarını Java ile uygulamalı öğrenin.

Detayları Gör →
Büyük Veri TeknolojileriAnalyzing, Querying, & Extracting Big Data Eğitimi
Veri ve Analitik Eğitimleri

Analyzing, Querying, & Extracting Big Data Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

Hive/Spark SQL ve DataFrame ile büyük veriyi sorgulama, window analitiği, profilleme, optimizasyon ve dışa aktarmayı uygulamalı öğrenin.

Detayları Gör →
Büyük Veri TeknolojileriApache Hadoop Eğitimi
Veri ve Analitik Eğitimleri

Apache Hadoop Eğitimi

4 günOrtaOnline / Yüz Yüze / Hibrit

Apache Hadoop eğitimi: HDFS, MapReduce, YARN ve Hive/Sqoop/HBase ekosistemiyle dağıtık depolama ve işlemeyi uygulamalı öğrenin.

Detayları Gör →
Büyük Veri TeknolojileriApache Kafka Admin Eğitimi
Veri ve Analitik Eğitimleri

Apache Kafka Admin Eğitimi

3 günİleriOnline / Yüz Yüze / Hibrit

Kafka yönetimi: broker yapılandırma, KRaft, SASL/SSL/ACL güvenlik, kota, reassignment, izleme ve felaket kurtarmayı uygulamalı öğrenin.

Detayları Gör →
+90 (501) 369 40 14 WhatsApp [email protected] LinkedIn