Talend ile büyük veriyi kod yazmadan uçtan uca akıt
Talend Studio for Big Data ile HDFS, Hive ve Spark üzerinde görsel ETL/ELT job'ları tasarlayan orta seviye eğitim: tHDFS, tHiveInput, tMap dönüşümleri, context yönetimi ve Spark batch işleriyle uçtan uca büyük veri akışı kurarsınız.
tHDFS, tHiveInput, tMap ve Spark iş tasarımı ile büyük veri entegrasyonu
Bu orta seviye eğitim, Talend Studio for Big Data ile Hadoop ekosistemine veri akıtmanın görsel yollarını uygulamalı öğretir. tHDFSInput/tHDFSOutput ile HDFS'e dosya yazma-okuma, tHiveInput/tHiveRow ile Hive sorgulama, tMap ile birleştirme ve dönüştürme, tFileInputDelimited ile kaynak okuma işlenir. MapReduce yerine Spark çalıştırma çatısı (tez/Spark job), bağlam değişkenleri (context), metadata repository, tLogRow ile hata ayıklama ve job çizelgeleme (TAC/komut satırı) ele alınır. Katılımcı, görsel bir job tasarlayıp Spark üzerinde çalıştırabilir.
3 Gün. Her gün dört modül; katılımcılar Talend job'unu kaynak okumadan Spark üzerinde dönüştürmeye kadar aşamalı kurar.
Orta Seviye — Talend Studio ile Hadoop/Spark üzerinde büyük veri alım, dönüştürme ve yükleme işlerinin görsel olarak tasarlanması.
Katılımcılar Talend Studio'da sürükle-bırak bileşenlerle gerçek job'lar tasarlayıp HDFS/Hive/Spark hedeflerine karşı çalıştırarak öğrenir.
Kod yazmadan sürükle-bırak bileşenlerle büyük veri akışları tasarlarsınız.
HDFS, Hive ve Spark'a tek stüdyodan bağlanıp iş çalıştırırsınız.
Context değişkenleri ve metadata ile job'ları ortamlar arası taşırsınız.
Eğitimden verim almak için faydalı olacak bilgi ve ortam gereksinimleri
Tablo, kolon ve basit SQL kavramlarına aşinalık faydalıdır.
HDFS ve Hive'ın ne işe yaradığına dair temel bilgi beklenir.
Kaynak-dönüşüm-hedef (ETL) akış mantığına aşinalık yararlıdır.
Talend Studio kurulu bir makine ve erişilebilir bir Hadoop kümesi/sandbox.
Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.
Program sonunda katılımcılar:
Talend Studio'da proje, job ve repository yapısını kurarsınız.
tHDFS bileşenleriyle HDFS'e veri okuyup yazarsınız.
tMap ile join, lookup ve ifade tabanlı dönüşümleri tasarlarsınız.
tHive bileşenleriyle tablo oluşturup sorgulayıp yüklersiniz.
Big Data Batch job ile Spark üzerinde iş çalıştırırsınız.
Context gruplarıyla job'ları ortamlar arası taşırsınız.
Şema doğrulama ve reject akışlarıyla veriyi temizlersiniz.
Job'ları dışa aktarıp çizelgeleyerek üretime alırsınız.
Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.
Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.
Spark SQL ile büyük veriyi sorgulayın: tablo tanımı, join, pencere fonksiyonları, karmaşık tipler ve Catalyst/AQE ile performans ayarı. Orta seviye eğitim.
Detayları Gör →Python ve pandas ile veri analizine başlayın, pandas sınırlarını görüp Spark'a geçerek büyük veriyle tanışın. Pratik, temel seviye DVA eğitimi.
Detayları Gör →Spark ile büyük veri temizleme: profilleme, eksik ve aykırı değer yönetimi, standartlaştırma, doğrulama ve yeniden kullanılabilir hazırlık pipeline'ı. Orta sevi
Detayları Gör →Hadoop ekosisteminde veri akışı kurun: Sqoop, Flume, Kafka ve NiFi ile alım, Hive/Spark ile dönüşüm, Oozie/Airflow ile orkestrasyon. Orta seviye eğitim.
Detayları Gör →Apache Sqoop ile RDBMS ve Hadoop arasında import/export, artımlı aktarım, Hive/HBase yükleme ve Sqoop job otomasyonu öğrenin. Orta seviye DVA eğitimi.
Detayları Gör →