GPU Programlama Girişine Eğitimi

Eğitim Hakkında

GPU programlamaya giriş

Eğitim, GPU ile paralel programlamanın temellerini CUDA üzerinden işler: CPU ve GPU mimari farkı, SIMT yürütme modeli, thread, block ve grid hiyerarşisi, cudaMalloc ve cudaMemcpy ile bellek yönetimi, kernel yazımı (vektör toplama, matris çarpımı), global, shared ve register belleği, bellek birleştirme (coalescing), warp divergence, stream ile eşzamansız çalışma, Nsight ile profil çıkarma ve Python için Numba CUDA.

Süre ve Format

2 Gün. Her gün dört modül; GPU Mimarisi ve CUDA Temelleri; Bellek Hiyerarşisi ve Optimizasyon ekseninde ilerleyen uygulamalı program.

Seviye

Temel Seviye — GPU mimarisi, CUDA programlama modeli, bellek hiyerarşisi, çekirdek (kernel) yazımı ve profil çıkarma

Öğrenme Metodu

Her konu NVIDIA GPU'lu makine veya Colab ortamında kernel yazılarak denenir; hız karşılaştırmaları ve profil sonuçlarıyla optimize edilir.

Neden Bu Eğitim?

🚀Paralel düşünme

Problemi binlerce thread'e bölerek hızlandırmayı öğrenirsiniz.

🧠Bellek hakimiyeti

Global ve shared bellek kullanımıyla darboğazları açarsınız.

📈Ölçülebilir hız

Profil çıkararak gerçek hız artışını raporlarsınız.

Anahtar Konular

gpu programlamacuda eğitimicuda kernelparalel programlamashared memorynsight profilnumba cudacupyyüksek performanslı hesaplama

“GPU'yu hızlı yapan donanım değil, ona uygun düşünülmüş algoritmadır.”

Ön Koşullar

Eğitimden verim almak için faydalı olacak bilgi ve ortam gereksinimleri

1

C/C++ veya Python

Temel C/C++ veya Python bilgisi.

2

Bilgisayar mimarisi

Bellek ve işlemci temel kavramları.

3

GPU erişimi

NVIDIA GPU veya Google Colab.

4

Matematik

Vektör ve matris işlemleri.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiKatılımcı GPU mimarisini kavrar ve ilk CUDA kernel'larını yazar.

Modül 1

GPU Mimarisi

CPU ve GPU tasarım felsefesi
Streaming Multiprocessor (SM)
Warp ve SIMT yürütme
Bellek bant genişliği ve hesaplama
Amdahl yasası
GPU uygun iş yükleri

Modül 2

CUDA Programlama Modeli

Host ve device kodu
__global__ kernel ve <<<grid, block>>>
threadIdx, blockIdx, blockDim
Boyut hesaplama ve 1D/2D indeks
nvcc derleme
Hata denetimi (cudaGetLastError)

Modül 3

Bellek Yönetimi

cudaMalloc, cudaMemcpy, cudaFree
Unified Memory
Pinned (page-locked) bellek
Host-device aktarım maliyeti
Sınır kontrolleri
Bellek sızıntısı denetimi

Modül 4

İlk Uygulamalar

Vektör toplama kernel'ı
SAXPY
Görüntü gri tonlama dönüşümü
Reduction ilk deneme
CPU ile hız kıyaslaması
Grid-stride loop kalıbı

Günün hedefiKatılımcı bellek hiyerarşisini kullanarak kernel'ları optimize eder ve profil çıkarır.

Modül 1

Bellek Hiyerarşisi

Register, shared, L1/L2 ve global bellek
__shared__ ve __syncthreads
Matris çarpımı: naif ve tiled
Bank conflict
Sabit ve texture bellek
Occupancy kavramı

Modül 2

Performans Optimizasyonu

Bellek birleştirme (coalescing)
Warp divergence
Reduction optimizasyonu
Prefix sum (scan)
Atomic işlemler
Yürütme yapılandırması seçimi

Modül 3

Eşzamansız Çalışma

CUDA stream'ler
cudaMemcpyAsync
Hesaplama-aktarım örtüştürme
Event ile zamanlama
Çoklu GPU kısa bakış
CUDA Graphs tanıtımı

Modül 4

Araçlar ve Python

Nsight Systems ve Compute
nvprof / ncu metrikleri
Roofline kavramı
Numba CUDA JIT
CuPy ile dizi hesabı
Kütüphaneler: cuBLAS, Thrust

Eğitim Kazanımları

Program sonunda katılımcılar:

✅

GPU mimarisi

SM, warp ve SIMT yürütmeyi açıklayabilirsiniz.

✅

Kernel yazımı

Thread indeksleriyle CUDA kernel yazabilirsiniz.

✅

Bellek yönetimi

Host-device bellek aktarımını doğru yönetebilirsiniz.

✅

Shared bellek

Tiled matris çarpımı ile shared bellek kullanabilirsiniz.

✅

Coalescing

Birleşik bellek erişimi için veri düzenleyebilirsiniz.

✅

Warp divergence

Dallanma kaynaklı kayıpları azaltabilirsiniz.

✅

Stream kullanımı

Hesaplama ve aktarımı örtüştürebilirsiniz.

✅

Profil çıkarma

Nsight ile darboğazı bulup optimize edebilirsiniz.

Kimler İçin Uygundur?

Yüksek performanslı hesaplama
yapay zeka veya bilimsel hesaplama için GPU programlamayı öğrenmek isteyen geliştiriciler
araştırmacılar
öğrenciler için uygundur

Sıkça Sorulan Sorular

Bu eğitim kimler için uygundur?

Yüksek performanslı hesaplama, yapay zeka veya bilimsel hesaplama için GPU programlamayı öğrenmek isteyen geliştiriciler, araştırmacılar ve öğrenciler için uygundur.

NVIDIA kartı şart mı?

Evet CUDA için NVIDIA GPU gerekir; Google Colab ücretsiz GPU ile de çalışılabilir.

Python ile yapılabilir mi?

Evet, ikinci gün Numba CUDA ve CuPy ile Python örnekleri de gösterilir.

Yapay zeka için faydalı mı?

Evet, derin öğrenme çerçevelerinin altında yatan GPU hesaplama mantığını anlatır.

Eğitim sonunda sertifika verilir mi?

Katılımcılara Digital Vizyon Akademi Katılım ve Başarı Sertifikası verilir.

Sertifikalandırma

Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika

GPU PROGRAMLAMA GİRİŞİNE EĞİTİMİ