Pig ve Hive ile Hadoop'ta analitik üretin
Pig Latin ile akış tabanlı ETL ve HiveQL ile SQL analitiğini birlikte kapsayan; dönüşüm, JOIN, UDF, bölümleme ve window fonksiyonlarını öğreten uygulamalı Hadoop eğitimi.
Pig Latin ve HiveQL ile Hadoop veri işleme
Bu eğitim, Apache Pig ve Apache Hive'ı birlikte kullanarak Hadoop üzerinde veri işlemeyi öğretir. Pig Latin ile LOAD/FILTER/FOREACH/GROUP/JOIN veri akışı betikleri, UDF kullanımı ve ETL dönüşümleri işlenir. Hive tarafında tablo oluşturma, HiveQL ile JOIN ve GROUP BY, bölümleme, ORC/Parquet ve window fonksiyonları uygulamalı ele alınır. Pig'in akış tabanlı ETL'i ile Hive'ın SQL analitiği ne zaman kullanılır, metastore paylaşımı ve iki aracın birlikte çalışması gösterilir.
3 Gün. Her gün dört modül; Pig betikleri ve HiveQL sorguları yazma ağırlıklı labler.
Orta Seviye — Pig Latin ile veri akışı ve Hive ile SQL tabanlı Hadoop analitiğini birlikte kapsar.
Grunt kabuğunda Pig betikleri ve Beeline'da HiveQL sorguları çalıştırarak uygulanır.
Akış tabanlı Pig ETL ile SQL tabanlı Hive analitiğini bir arada öğrenirsiniz.
Pig Latin ile karmaşık veri temizleme ve dönüşüm akışları kurarsınız.
Pig ve Hive'ı ortak metastore üzerinde birlikte çalıştırırsınız.
Eğitimden verim almak için faydalı olacak bilgi ve ortam gereksinimleri
Temel SELECT/JOIN sorguları faydalıdır.
HDFS ve temel MapReduce kavramları beklenir.
Terminal ve dosya işlemleri gerekir.
Pig ve Hive kurulu bir Hadoop ortamı gerekir.
Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.
Program sonunda katılımcılar:
LOAD/FILTER/FOREACH ile veri akışı betikleri yazarsınız.
GROUP/COGROUP ve toplama ile veriyi dönüştürürsünüz.
Replicated ve skewed join'leri doğru senaryoda kullanırsınız.
Java/Jython UDF ile Pig'i özel fonksiyonlarla genişletirsiniz.
Hive'da JOIN ve window ile analitik sorgular yazarsınız.
Bölümleme ve ORC/Parquet ile sorguları hızlandırırsınız.
Pig ETL ile Hive analitiği arasında doğru seçim yaparsınız.
Ortak metastore ile Pig ve Hive'ı birlikte çalıştırırsınız.
Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.
Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.
Kafka ve Spark Structured Streaming ile exactly-once, watermark, stateful join, state store ve üretim operasyonunu uzman düzeyde öğrenin.
Detayları Gör →İleri MapReduce: özel partitioner, combiner, secondary sort, map/reduce-side join, counter ve performans ayarını Java ile uygulamalı öğrenin.
Detayları Gör →Hive/Spark SQL ve DataFrame ile büyük veriyi sorgulama, window analitiği, profilleme, optimizasyon ve dışa aktarmayı uygulamalı öğrenin.
Detayları Gör →Apache Hadoop eğitimi: HDFS, MapReduce, YARN ve Hive/Sqoop/HBase ekosistemiyle dağıtık depolama ve işlemeyi uygulamalı öğrenin.
Detayları Gör →Kafka yönetimi: broker yapılandırma, KRaft, SASL/SSL/ACL güvenlik, kota, reassignment, izleme ve felaket kurtarmayı uygulamalı öğrenin.
Detayları Gör →