SRE DATA PIPELINES & INTEGRITY: PIPELINE DESIGN EĞİTİMİ

Veriyi güvenle akıt, hatada sorunsuz tekrarla

Batch ve streaming pipeline tasarımı, idempotentlik, exactly-once semantiği, geri basınç ve veri freshness SLO'larını uygulamalı öğrenin.

Büyük ölçekli veri işleme hatlarını SRE ilkeleriyle tasarlayan ileri seviye eğitim: batch ve streaming modelleri, DAG orkestrasyonu, idempotentlik, teslim semantiği, checkpoint, geri basınç, pencereleme, watermark ve veri freshness/tamlık SLO'ları.

4 gün İleri Seviye Online / Yüz Yüze / Hibrit Sertifikalı

Eğitim Hakkında

Veri hatlarının güvenilirliği, idempotentliği ve gözlemlenebilirliği

Bu ileri seviye eğitim, büyük ölçekli veri işleme hatlarının güvenilir tasarımını SRE perspektifiyle ele alır. Batch (toplu) ve streaming (akış) işleme modelleri, MapReduce/DAG tabanlı iş akışları, idempotent operasyonlar ve exactly-once ile at-least-once semantiği işlenir. Checkpoint, geri basınç (backpressure), watermark, pencereleme (windowing) ve geç gelen veri yönetimi; thundering herd, uneven work distribution ve 'periodic pipeline' tuzaklarından kaçınma uygulanır. Katılımcılar veri freshness ve tamlık (completeness) için SLI/SLO tanımlar, dead-letter kuyruğu ve yeniden işleme (reprocessing) tasarlar; bir pipeline'ı baştan kurup hata enjekte ederek dayanıklılığını ölçer.

Süre ve Format

4 Gün. Her gün dört modül; katılımcılar basit batch'ten dayanıklı streaming pipeline'a doğru ilerler.

Seviye

İleri Seviye — Güvenilir, idempotent ve gözlemlenebilir veri işleme hatlarının (data pipeline) SRE ilkeleriyle tasarlanması.

Öğrenme Metodu

Katılımcılar örnek bir pipeline'ı adım adım kurar, idempotentlik ve checkpoint ekler, hata enjekte ederek yeniden işleme davranışını lab ortamında doğrular.

Neden Bu Eğitim?

♻️Idempotentlik

İşlemleri güvenle tekrarlanabilir tasarlar, yeniden denemede çift kayıt oluşturmazsınız.

📊Freshness SLO

Veri tazeliği ve tamlığı için SLI tanımlar, gecikmeyi ölçülebilir hedefe bağlarsınız.

🔧Dayanıklı Tasarım

Geri basınç, checkpoint ve dead-letter ile kısmi hatalarda pipeline'ı ayakta tutarsınız.

Anahtar Konular

data pipelineveri hattı tasarımıidempotentlikexactly oncestreaming işlemebackpressurewatermark pencerelemedata freshness slodead letter queuesre pipeline
“İyi bir pipeline veriyi hızlı taşır; güvenilir bir pipeline hatadan sonra da doğru taşır.”

Ön Koşullar

Eğitimden verim almak için faydalı olacak bilgi ve ortam gereksinimleri

1
Dağıtık Sistem

Mesaj kuyruğu ve dağıtık işleme kavramlarına temel aşinalık beklenir.

2
SLO Kavramı

SLI/SLO ve error budget kavramlarına temel aşinalık faydalıdır.

3
Programlama

Bir dilde (Python/Java/Go) veri işleme kodu okuyabilme beklenir.

4
Lab Ortamı

Kafka/PubSub benzeri bir kuyruk ve işleme çalıştırabilen bir ortam.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiKatılımcı, batch ve streaming modellerini ayırt eder ve DAG tabanlı bir iş akışı tasarlayabilir.
Modül 1
Batch vs Streaming
  • Toplu (batch) işlemenin yüksek verim ve gecikme dengesi
  • Akış (streaming) işlemede düşük gecikme ihtiyacı
  • Lambda ve Kappa mimarilerinin karşılaştırılması
  • Micro-batch ile batch/stream arası çözüm
  • Bounded ve unbounded veri kümeleri
  • İş gereksinimine göre model seçimi
Modül 2
DAG ve Orkestrasyon
  • Yönlü çevrimsiz grafik (DAG) ile iş adımlarının modellenmesi
  • Airflow/Dagster ile görev bağımlılık yönetimi
  • MapReduce/Spark aşamalarının zincirlenmesi
  • Retry, SLA ve zamanlama (schedule) tanımları
  • Task seviyesinde başarısızlık izolasyonu
  • Fan-in/fan-out desenleriyle paralellik
Modül 3
Veri Modelleri
  • Kaynak-dönüşüm-hedef (ETL/ELT) akış tasarımı
  • Şema evrimi (schema evolution) ve geriye uyum
  • Partitioning ve sharding ile ölçeklenebilirlik
  • Veri formatları: Avro, Parquet, ORC seçimi
  • Değişmezlik (immutability) ve append-only tasarım
  • Metadata ve data lineage takibi
Modül 4
Pipeline Antipatternleri
  • Periodic pipeline'da iş yükü dengesizliği (uneven work)
  • Thundering herd: eşzamanlı tetiklenen işlerin yükü
  • Moloch: tek büyük işin tüm kaynağı tüketmesi
  • Elle müdahale gerektiren kırılgan zincirler
  • Gizli bağımlılıklar ve gözlemlenemeyen adımlar
  • Google 'Data Processing Pipelines' derslerinden tuzaklar
Günün hedefiKatılımcı, idempotent operasyonlar tasarlar ve teslim semantiklerini doğru seçebilir.
Modül 1
Idempotentlik
  • Idempotent operasyon tanımı ve tekrar güvenliği
  • Idempotency key ile çift işlemeyi engelleme
  • Upsert ve deterministik çıktı tasarımı
  • Yan etkilerin (side effect) kontrol altına alınması
  • Dedup (duplicate elimination) stratejileri
  • Yeniden deneme güvenli yazma desenleri
Modül 2
Teslim Semantiği
  • At-most-once, at-least-once, exactly-once ayrımı
  • Exactly-once'ın pratikte 'effectively-once' olması
  • Transactional outbox ve two-phase commit maliyeti
  • Kafka transactions ve idempotent producer
  • Offset commit zamanlamasının teslime etkisi
  • Uygulamaya göre doğru semantiğin seçimi
Modül 3
Checkpoint ve State
  • Checkpoint ile işleme konumunun kalıcılaştırılması
  • Durum bilgili (stateful) işlemede state backend
  • Savepoint ile planlı yeniden başlatma
  • Hata sonrası checkpoint'ten devam (recovery)
  • State büyümesinin TTL ile sınırlanması
  • Checkpoint sıklığı ile gecikme dengesi
Modül 4
Yeniden İşleme
  • Geçmiş veriyi yeniden işleme (backfill) tasarımı
  • Dead-letter queue ile işlenemeyen kayıtların izolasyonu
  • Poison message'ların tespiti ve karantinası
  • Reprocessing sırasında idempotentliğin korunması
  • Replay için kaynak verinin saklanması
  • Kısmi başarısızlıkta seçici yeniden işleme
Günün hedefiKatılımcı, geri basınç ve pencereleme mekanizmalarıyla streaming pipeline'ı kararlı tutabilir.
Modül 1
Geri Basınç
  • Backpressure ile tüketici hızının üreticiye yansıtılması
  • Kuyruk birikmesinin (lag) tespiti ve sınırlanması
  • Buffer ve flow control mekanizmaları
  • Yük atma (load shedding) ile aşırı yükte korunma
  • Consumer lag metriğinin izlenmesi
  • Kontrolsüz birikmenin OOM'a yol açması
Modül 2
Pencereleme
  • Tumbling, sliding ve session window türleri
  • Event-time ve processing-time ayrımı
  • Aggregation'ların pencere bazında hesaplanması
  • Trigger ile erken/geç sonuç yayınlama
  • Pencere durumu ve bellek yönetimi
  • Pencere boyutunun gecikmeye etkisi
Modül 3
Watermark ve Geç Veri
  • Watermark ile event-time ilerlemesinin izlenmesi
  • Geç gelen (late) verinin ele alınma stratejisi
  • Allowed lateness ve drop politikaları
  • Out-of-order veride doğruluk-gecikme dengesi
  • Watermark gecikmesinin ayarlanması
  • Tamlık (completeness) ile tazelik dengesi
Modül 4
Ölçekleme
  • Partition sayısıyla paralelliğin ölçeklenmesi
  • Autoscaling ile değişken yüke uyum
  • Hot partition ve veri çarpıklığı (skew) çözümü
  • Rebalancing sırasında kesintinin azaltılması
  • Kaynak kotası ve maliyet kontrolü
  • Ölçekleme sınırlarının yük testiyle doğrulanması
Günün hedefiKatılımcı, pipeline için SLI/SLO tanımlar ve dayanıklılığını hata enjeksiyonuyla doğrulayabilir.
Modül 1
Freshness ve Tamlık SLO
  • Veri tazeliği (freshness) SLI tanımı: 'veri en fazla X geç'
  • Tamlık (completeness): kayıp kayıt oranı ölçümü
  • Doğruluk (correctness) için örnekleme kontrolleri
  • Error budget ile pipeline gecikme toleransı
  • SLO ihlalinin alt akış tüketicilere etkisi
  • SLO'nun iş kararlarıyla hizalanması
Modül 2
İzleme
  • End-to-end gecikme ve throughput metrikleri
  • Consumer lag ve kuyruk derinliği izleme
  • Hata oranı ve dead-letter sayacı
  • Data lineage ve aşama bazlı görünürlük
  • Heartbeat ile sessiz duran pipeline tespiti
  • Aksiyon üreten uyarıların tanımlanması
Modül 3
Hata Dayanıklılığı
  • Hata enjeksiyonu (chaos) ile dayanıklılık testi
  • Retry/backoff ve devre kesici (circuit breaker)
  • Bağımlılık kesintisinde graceful degradation
  • Kısmi hata izolasyonu ile tam durmayı önleme
  • İdempotent yeniden işleme ile kurtarma
  • Felaket senaryosunda yeniden başlatma planı
Modül 4
Operasyon
  • Pipeline deployment ve sürüm yükseltme stratejisi
  • Şema değişikliğinin kesintisiz devreye alınması
  • Runbook ve on-call için operasyon rehberi
  • Toil azaltan otomasyon ve self-healing
  • Maliyet-performans optimizasyonu
  • Kapasite planlama ile yük artışına hazırlık

Eğitim Kazanımları

Program sonunda katılımcılar:

✅
Model Seçimi

Batch ve streaming arasında iş gereksinimine göre doğru modeli seçersiniz.

✅
DAG Tasarımı

İş akışlarını DAG olarak modeller ve orkestrasyonla yönetirsiniz.

✅
Idempotentlik

Idempotent operasyonlar tasarlar ve yeniden denemede çift kaydı önlersiniz.

✅
Teslim Semantiği

At-least-once ve effectively-once semantiğini doğru şekilde uygularsınız.

✅
Akış Kontrolü

Geri basınç ve pencereleme ile streaming pipeline'ı kararlı tutarsınız.

✅
Freshness SLO

Tazelik ve tamlık için SLI/SLO tanımlar ve error budget yönetirsiniz.

✅
Dayanıklılık

Dead-letter, checkpoint ve hata enjeksiyonuyla dirençli hatlar kurarsınız.

✅
Operasyon

İzleme, runbook ve otomasyonla pipeline'ı sürdürülebilir işletirsiniz.

Kimler İçin Uygundur?

  • Veri hatları işleten SRE'ler
  • veri/platform mühendisleri
  • streaming sistem tasarlayan yazılımcılar
  • pipeline güvenilirliğinden sorumlu teknik liderler için uygundur

Sıkça Sorulan Sorular

Bu eğitim kimler için uygundur?
Veri hatları işleten SRE'ler, veri/platform mühendisleri ve pipeline güvenilirliğinden sorumlu teknik liderler için uygundur.
Exactly-once gerçekten mümkün mü?
Uçtan uca katı exactly-once teslim zordur; pratikte idempotentlik ve transaction ile 'effectively-once' etkisi hedeflenir. Eğitim bunu uygulamalı gösterir.
Data Integrity eğitiminden farkı nedir?
Bu eğitim verinin işlenmesi ve akışının güvenilirliğine odaklanır; Data Integrity ise verinin korunması, bozulma tespiti ve kurtarmaya odaklanır.
Hangi araçlar işleniyor?
Kafka/PubSub, Airflow/Dagster, Spark/Flink gibi yaygın araçların kavramları ele alınır; odak belirli bir ürün değil güvenilir tasarım desenleridir.
Eğitim sonunda sertifika veriliyor mu?
Katılım ve değerlendirme sonrası Digital Vizyon Akademi Katılım ve Başarı Sertifikası verilir.

Sertifikalandırma

Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika d Digital Vizyon AKADEMİ KATILIM SERTİFİKASI Bu sertifika [Katılımcı Adı Soyadı] adlı katılımcının aşağıdaki eğitim programını başarıyla tamamladığını belgeler. SRE Data Pipelines & Integrity: Pipeline Design Eğitimi Sertifika Kodu DV-2026XX00 Tarih 27.10.2026 Yetkili İmza DV AKADEMİ

Eğitim Bilgileri

Süre4 gün
Seviyeİleri Seviye
FormatOnline / Yüz Yüze / Hibrit
Sertifika✓ Var
Hemen Bilgi Al
İlgili Eğitimler

Bu Eğitimle Birlikte Tercih Edilenler

DevOps Kültürü ve UygulamalarıAZ-400 - Microsoft DevOps Solutions: Reusable Pipeline Components Eğitimi
DevOps ve Konteyner Eğitimleri

AZ-400 - Microsoft DevOps Solutions: Reusable Pipeline Components Eğitimi

3 günİleriOnline / Yüz Yüze / Hibrit

Azure Pipelines'ta YAML template, parametre, task group ve merkezi şablon kütüphanesiyle tekrar kullanılabilir CI/CD bileşenleri. İleri seviye AZ-400 eğitimi.

Detayları Gör →
DevOps Kültürü ve UygulamalarıAZ-400 - Microsoft DevOps Solutions: Testing, Coverage, and Quality Gates Eğitimi
DevOps ve Konteyner Eğitimleri

AZ-400 - Microsoft DevOps Solutions: Testing, Coverage, and Quality Gates Eğitimi

3 günİleriOnline / Yüz Yüze / Hibrit

Azure Pipelines'ta test otomasyonu, kod kapsamı eşiği, SonarQube quality gate ve PR branch policy ile kalite denetimi. İleri seviye AZ-400 DVA eğitimi.

Detayları Gör →
DevOps Kültürü ve UygulamalarıAZ-400 - Microsoft DevOps Solutions: Work Planning and Traceability Eğitimi
DevOps ve Konteyner Eğitimleri

AZ-400 - Microsoft DevOps Solutions: Work Planning and Traceability Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

Azure Boards ile backlog, sprint ve Kanban yönetimi; commit-PR-build-release izlenebilirliği ve analytics raporlama. Orta seviye AZ-400 DVA eğitimi.

Detayları Gör →
DevOps Kültürü ve UygulamalarıAZ-400T00: Designing and Implementing Microsoft DevOps solutions Eğitimi
DevOps ve Konteyner Eğitimleri

AZ-400T00: Designing and Implementing Microsoft DevOps solutions Eğitimi

4 günİleriOnline / Yüz Yüze / Hibrit

Azure DevOps ve GitHub ile uçtan uca DevOps: Git, CI/CD, dağıtım desenleri, ARM/Bicep, Terraform, DevSecOps ve Azure Monitor. İleri seviye AZ-400 DVA eğitimi.

Detayları Gör →
DevOps Kültürü ve UygulamalarıAzure DevOps Eğitimi
DevOps ve Konteyner Eğitimleri

Azure DevOps Eğitimi

3 günOrtaOnline / Yüz Yüze / Hibrit

Azure DevOps'un Boards, Repos, Pipelines, Artifacts ve Test Plans servislerini uçtan uca kullanın. CI/CD, paket ve test yönetimi. Orta seviye DVA eğitimi.

Detayları Gör →
+90 (501) 369 40 14 WhatsApp [email protected] LinkedIn