Yapay Zeka Güvenliğine Giriş Eğitimi

Eğitim Hakkında

Bu eğitim, kurumlarında yapay zeka sistemleri ve büyük dil modeli uygulamaları devreye alınan güvenlik, BT ve risk ekiplerinin bu sistemlere özgü tehditleri tanıması için tasarlanmış bir günlük giriş programıdır. Katılımcılar veri zehirleme, istem enjeksiyonu ve model tedarik zinciri gibi riskleri demolarla görür, temel savunma ve yönetişim adımlarını öğrenir.

Neden Bu Eğitim?

Yeni Saldırı Yüzeyi. Klasik uygulama güvenliğinin yakalayamadığı veri, model ve istem kaynaklı riskleri tek günde net biçimde tanıyın.

Ortak Dil ve Çerçeve. OWASP LLM Top 10 ve MITRE ATLAS ile güvenlik ve YZ ekipleri arasında ortak bir risk dili oluşturun.

Hemen Uygulanabilir. Eğitimden, kurumunuzda ilk gün kullanabileceğiniz bir YZ güvenliği kontrol listesiyle ayrılın.

“Yapay zekayı güvenle kullanmanın ilk koşulu, onun yeni bir yazılım değil yeni bir saldırı yüzeyi olduğunu kabul etmektir.”

Ön Koşullar

Güvenlik Temeli — Gizlilik, bütünlük, erişilebilirlik ve temel saldırı türleri gibi kavramlara aşinalık.
BT Altyapı Bilgisi — Web uygulamaları, API'ler ve bulut servislerinin genel çalışma mantığını bilmek.
Kodlama Şartı Yok — Makine öğrenmesi veya programlama bilgisi gerekmez; demolar eğitmen tarafından yapılır.
Cihaz Erişimi — Grup çalışmaları ve atölye için internete bağlı bir dizüstü bilgisayar yeterlidir.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiYZ sistemlerinin saldırı yüzeyini kavramak, model ve LLM uygulamalarına yönelik tehditleri demolarla tanımak ve temel savunma ile yönetişim adımlarını belirlemek.

Modül 1

YZ Sistemlerini Güvenlik Açısından Tanımak

Yapay zeka, makine öğrenmesi ve LLM kavramlarına hızlı bakış
YZ sistem yaşam döngüsü: veri, eğitim, dağıtım ve kullanım
YZ güvenliği ile klasik uygulama güvenliğinin farkları
YZ saldırı yüzeyi: veri, model, API ve entegrasyonlar
Güvenlik (security) ile emniyet (safety) kavram ayrımı
Vaka: Kurumsal sohbet asistanında veri sızıntısı olayı

Modül 2

YZ Sistemlerine Yönelik Başlıca Tehditler

Veri zehirleme (data poisoning) ve arka kapı riskleri
Kaçınma (evasion) saldırıları ve çekişmeli örnekler
Model çalma ve üyelik çıkarımı (membership inference)
MITRE ATLAS ile YZ saldırı taktik ve tekniklerini okuma
Model tedarik zinciri: açık modeller ve güvensiz dosyalar
Demo: Çekişmeli örnekle görüntü sınıflandırıcıyı yanıltma

Modül 3

Büyük Dil Modeli Uygulamalarında Riskler

OWASP LLM Top 10 listesine genel bakış
İstem enjeksiyonu (prompt injection): doğrudan ve dolaylı
Jailbreak girişimleri ve güvenlik filtrelerinin aşılması
Hassas bilgi ifşası ve sistem istemi sızıntısı
Aşırı yetkili etmenler ve araç kullanımı riskleri
Demo: Belge üzerinden dolaylı istem enjeksiyonu saldırısı

Modül 4

Temel Savunmalar, Yönetişim ve Kapanış

Güvenli YZ kullanım politikası ve gölge YZ (shadow AI)
Girdi-çıktı filtreleme, en az yetki ve insan onayı
NIST AI RMF, ISO/IEC 42001 ve EU AI Act'e genel bakış
KVKK açısından YZ araçlarına veri girişi kuralları
Uygulama: Kurumsal YZ güvenliği ilk adım kontrol listesi
Eğitim değerlendirmesi, Soru-Cevap ve sertifika takdimi

Eğitim Kazanımları

Saldırı Yüzeyi — Bir YZ sisteminin veri, model, API ve entegrasyon katmanlarındaki güvenlik açıklarını haritalayabileceksiniz.
Tehdit Türleri — Veri zehirleme, kaçınma, model çalma ve üyelik çıkarımı saldırılarını ayırt edip etkilerini açıklayabileceksiniz.
İstem Enjeksiyonu — Doğrudan ve dolaylı istem enjeksiyonunun LLM uygulamalarında nasıl gerçekleştiğini tanıyabileceksiniz.
Çerçeve Kullanımı — OWASP LLM Top 10 ve MITRE ATLAS'ı risk değerlendirmesi ve ekipler arası iletişimde kullanabileceksiniz.
Tedarik Zinciri — Açık kaynak model ve veri setlerini kurum ortamına almadan önce sormanız gereken soruları bileceksiniz.
Temel Savunmalar — Girdi-çıktı filtreleme, en az yetki ve insan onayı gibi temel kontrolleri önceliklendirebileceksiniz.
Yönetişim Farkındalığı — NIST AI RMF, ISO/IEC 42001, EU AI Act ve KVKK'nın YZ güvenliğiyle ilişkisini açıklayabileceksiniz.
Eylem Listesi — Kurumunuzda YZ güvenliğini başlatmak için somut ve önceliklendirilmiş bir kontrol listesi hazırlayacaksınız.

Kimler İçin Uygundur?

Siber güvenlik uzmanları
SOC ve BT güvenlik ekipleri
bilgi güvenliği yöneticileri
risk ve uyum uzmanları ile YZ projelerinde görev alan yazılım ve altyapı ekipleri.

Sıkça Sorulan Sorular

Yapay Zeka Güvenliğine Giriş Eğitimi kimler için uygundur?

Program; siber güvenlik uzmanları, SOC ve BT güvenlik ekipleri, bilgi güvenliği yöneticileri, risk ve uyum uzmanları ile yapay zeka projelerinde görev alan yazılım ve altyapı ekipleri için tasarlanmıştır.

Eğitim ne kadar sürer ve hangi formatta verilir?

Eğitim 1 tam gün sürer ve 4 modülden oluşur. Kurumun tercihine göre Digital Vizyon Akademi sınıflarında, kurum lokasyonunda veya online olarak gerçekleştirilir.

Katılmak için makine öğrenmesi veya kodlama bilgisi gerekli mi?

Hayır. Temel bilgi güvenliği kavramlarına ve web uygulamaları ile API'lerin genel işleyişine aşinalık yeterlidir. Saldırı ve savunma demoları eğitmen tarafından canlı olarak gösterilir.

Bu eğitim Yapay Zeka ve Siber Güvenlik Eğitimi'nden nasıl ayrılır?

Bu program yapay zeka sistemlerinin kendisinin nasıl korunacağına, yani modellere ve LLM uygulamalarına yönelik tehditlere odaklanır. Yapay Zeka ve Siber Güvenlik Eğitimi ise yapay zekanın saldırganlar ve savunma ekipleri tarafından nasıl kullanıldığını ele alır.

Eğitim sonunda sertifika veriliyor mu, sonraki adım ne olmalı?

Evet. Katılımcılar Digital Vizyon Akademi sertifikası alır. Teknik derinlik isteyen ekipler için Büyük Dil Modeli Uygulamalarında Güvenlik ve Değerlendirme ile Yapay Zeka Güvenliği: İleri Teknikler eğitimleri devam programı olarak önerilir.

Sertifikalandırma

Bu eğitim Katılım Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika