SEC536 Yapay Zeka Sistemleri Sızma Testi Eğitimi

Eğitim Hakkında

SEC536 Sınav Müfredatıyla Uyumlu Dört Günlük Yapay Zeka Sistem Sızma Testi Programı

Bu eğitim, yapay zeka sistemlerini uçtan uca metodolojik bir sızma testinden geçirebilen ve bulguları savunma değeriyle raporlayabilen uzmanlar yetiştirmek için tasarlanmış dört günlük bir yetkinlik programıdır. Program, SEC536 sınav müfredatıyla uyumlu konu başlıklarını internetten yalıtılmış laboratuvarda kavramsal düzeyde ele alır.

Süre ve Format

4 Tam Gün. Kavramsal anlatım, izole laboratuvar test senaryoları ve savunma odaklı raporlama atölyeleriyle dengeli bir akış.

Seviye

Orta Seviye — Sızma testi metodolojisi ve yapay zeka sistemlerine giriş düzeyinde aşinalık beklenir.

Öğrenme Metodu

İzole laboratuvarda uçtan uca test senaryoları, tehdit modelleme atölyeleri, savunma odaklı vaka analizleri ve raporlama.

Neden Bu Eğitim?

🧭Metodolojik Test

Yapay zeka sistemlerini kapsamdan raporlamaya uzanan sistematik bir sızma testi metodolojisiyle değerlendirirsiniz.

⚖️Yasal ve Etik Zemin

TCK bilişim suçları, KVKK ve yetkilendirme sözleşmesi çerçevesinde çalışmayı programın merkezine yerleştiriyoruz.

🧪İzole Laboratuvar

Tüm testler internetten yalıtılmış ortamda çalışılır; gerçek hedefe yönelik hiçbir işlem gerçekleştirilmez.

Bu Eğitim Hangi Rollere Hazırlar?

Yapay Zeka Sızma Testi UzmanıYapay Zeka Güvenliği MühendisiKırmızı Takım OperatörüGüvenlik DanışmanıMLSecOps UzmanıYapay Zeka Risk Denetçisi

Kırmızı Takım: Yapay zeka sistemlerine yetkili sızma testi uygulayıp riskleri raporlayan ofansif ekip

“Yapay zeka sistemini bir bütün olarak test edebildiğinizde, riski üretime çıkmadan önce görüp önceliklendirebilirsiniz.”

Ön Koşullar

Programdan En Yüksek Verimi Almanız İçin Beklenen Temel Yetkinlikler

1

Sızma Testi Temelleri

Sızma testi metodolojisi ve kapsam yönetimi kavramlarına aşinalık beklenir.

2

Yapay Zeka Aşinalığı

Makine öğrenmesi ve büyük dil modeli sistemlerine giriş düzeyinde bilgi.

3

Betik Okuryazarlığı

Python veya bir betik dilinde kod okuyup anlama düzeyinde temel yetkinlik.

4

Etik Sorumluluk Taahhüdü

Öğrenilen konuların yalnızca yazılı yetki verilen kapsamda kullanılacağının kabulü.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiYapay zeka sistemleri testinin yasal zeminini kavramak, sistem mimarisini çıkarmak, tehdit modellemeyi ve sızma testi metodolojisini kavramsal olarak öğrenmek.

Modül 1

Yasal Çerçeve, Kapsam ve Yetkilendirme

5237 sayılı TCK bilişim suçları hükümlerine genel bakış
KVKK ve yapay zeka sistemlerinde veri koruma ilkeleri
Yetkilendirme sözleşmesi ve yazılı onay belgesinin unsurları
Model, veri ve API erişim izninin ve gizliliğin kapsamı
Sorumlu açıklama ve bulgu paylaşımı sürecinin kurgulanması
Vaka: Örnek bir yapay zeka sızma testi kapsamının incelenmesi

Modül 2

Yapay Zeka Sistem Mimarisi ve Yüzeyi

Yapay zeka uygulama yığınının katmanlarının kavranması
Veri hattı, model sunumu ve arayüz sınırlarının haritası
Güven sınırları ve giriş noktalarının belirlenmesi
Bileşenler arası veri akışının izlenmesi
Üçüncü taraf model ve servis bağımlılıklarının riski
Lab: İzole bir yapay zeka sisteminin mimari haritalaması

Modül 3

Yapay Zeka Tehdit Modellemesi

Yapay zekaya özgü tehdit modelleme yaklaşımının kavranması
MITRE ATLAS ile taktik ve tekniklerin eşleştirilmesi
OWASP LLM Top 10 kategorilerinin sisteme yansıması
Varlık, tehdit ve etki ilişkisinin kurulması
Risk önceliklendirme ve saldırı ağacı kurgusu
Atölye: Bir sistem için tehdit modelinin çıkarılması

Modül 4

Yapay Zeka Sızma Testi Metodolojisi

Yapay zeka sistemleri için test yaşam döngüsünün kavranması
Kapsam belirleme ve test sınırlarının tanımı
Kara kutu ve gri kutu test yaklaşımlarının farkı
Bulgu kaydı ve kanıt toplama disiplininin temelleri
Tekrarlanabilirlik ve test güvenilirliği ilkeleri
Atölye: Bir yapay zeka sistemi için test planının tasarımı

Günün hedefiVeri ve eğitim hattı ile model sunum katmanının risklerini kavramsal olarak test etmek, güvenlik korkuluklarını değerlendirmek ve savunma karşılıklarını incelemek.

Modül 1

Veri ve Eğitim Hattı Değerlendirmesi

Veri toplama ve etiketleme hattının güven sınırı
Veri zehirlenmesi riskinin savunma gözüyle kavranması
Veri kökeni ve bütünlük doğrulamanın rolü
Eğitim ortamı erişim kontrolünün değerlendirilmesi
Hassas veri sızıntısı riskinin incelenmesi
Lab: İzole bir veri hattının güvenlik incelemesi

Modül 2

Model Sunum ve Çıkarım Arayüzü

Model sunum katmanı ve çıkarım API'sinin yüzeyi
Kimlik doğrulama ve yetkilendirmenin API'deki rolü
Sorgu hız sınırlama ve kötüye kullanım korumasının değeri
Model çıkarımı ve çalma riskinin savunma gözüyle kavranması
Girdi doğrulama ve çıktı denetiminin önemi
Lab: Bir çıkarım API'sinin savunma gözüyle değerlendirilmesi

Modül 3

Güvenlik Korkuluğu ve Filtre Testi

Güvenlik korkuluğu (guardrail) mimarisinin kavranması
İçerik filtresi ve moderasyon katmanının rolü
Korkuluk kapsamının ve boşluklarının değerlendirilmesi
Girdi ve çıktı denetim katmanlarının bütünlüğü
Korkuluk olaylarının kayıt ve izlenmesi
Atölye: Bir korkuluk katmanının kapsam değerlendirmesi

Modül 4

Model Dayanıklılığı ve Çekişmeli Girdi

Çekişmeli girdi (adversarial input) kavramının anlaşılması
Kaçınma riskinin savunma perspektifiyle kavranması
Model kararlarının kırılganlığının değerlendirilmesi
Girdi ön işleme ve dayanıklılık artırmanın rolü
Dayanıklılık ölçütlerinin ve metriklerin belirlenmesi
Lab: İzole ortamda model dayanıklılığının incelenmesi

Günün hedefiDil modeli uygulamalarını istem enjeksiyonu, ajan mimarisi ve çok kipli girdi açısından kavramsal olarak test etmek ve savunma karşılıklarını değerlendirmek.

Modül 1

İstem Enjeksiyonu Test Yaklaşımı

İstem enjeksiyonu test kapsamının kavramsal tanımı
Doğrudan ve dolaylı enjeksiyonun test edilmesi yaklaşımı
Sistem istemi güven sınırının değerlendirilmesi
Girdi doğrulama ve niyet ayrımının savunmadaki rolü
Test bulgularının tekrarlanabilir biçimde kaydı
Lab: İzole bir istem akışının test edilmesi

Modül 2

Ajan ve Araç Zinciri Testi

Yapay zeka ajanı mimarisinin test kapsamı
Araç ve eklenti çağrılarının yetkilendirme testi
Otomatik eylem zincirlerinin savunma gözüyle analizi
İnsan onayı ve en az ayrıcalık ilkesinin değerlendirilmesi
Ajan eylemlerinin izlenmesi ve kaydı
Lab: Bir ajan mimarisinin test senaryosu

Modül 3

Çok Kipli ve Dolaylı Kaynak Riski

Çok kipli (multimodal) girdi saldırı yüzeyinin kavranması
Görüntü ve belge kaynaklı dolaylı enjeksiyonun anlaşılması
Harici kaynak güven sınırının değerlendirilmesi
Kaynak doğrulama ve içerik denetiminin rolü
Dolaylı girdi izlerinin kayıtlardan tespiti
Vaka: Çok kipli bir risk senaryosunun çözümlenmesi

Modül 4

Uygulama Katmanı Savunması ve Sertleştirme

Dil modeli uygulamasında savunma derinliği ilkesi
Girdi, bağlam ve çıktı denetim katmanlarının tasarımı
En az ayrıcalık ve yetki ayrımının uygulanması
İzleme, kayıt ve anomali tespitinin rolü
Kırmızı takım değerlendirmesinin savunmaya katkısı
Atölye: Uygulama sertleştirme kontrol listesi çıkarılması

Günün hedefiYapay zeka yönetişim ve risk çerçevelerini kavramak, bulguları iş etkisiyle raporlamak, düzeltme önerilerini yazmak ve programı uçtan uca bir vakayla tamamlamak.

Modül 1

Yapay Zeka Yönetişimi ve Risk Çerçeveleri

NIST AI Risk Management Framework yaklaşımına genel bakış
ISO/IEC 42001 yapay zeka yönetim sistemine giriş
Yapay zeka risk yönetiminin kurumsal sorumlulukları
Şeffaflık, hesap verebilirlik ve izlenebilirlik ilkeleri
Düzenleyici gelişmelerin savunmaya etkisinin kavranması
Vaka: Bir yapay zeka riski için yönetişim değerlendirmesi

Modül 2

Bulgu Raporlama ve Önceliklendirme

Bulguların iş etkisi ve olasılıkla önceliklendirilmesi
Bulguların MITRE ATLAS taktikleriyle eşleştirilmesi
Yönetici özeti ile teknik bulgu bölümünün ayrıştırılması
Düzeltme ve risk azaltma önerilerinin yazımı
Yeniden test ve doğrulama sürecinin planlanması
Atölye: Örnek bir yapay zeka sızma testi raporunun hazırlanması

Modül 3

Sürekli Güvenlik ve Kırmızı Takım Programı

Yapay zeka için sürekli güvenlik testinin kavranması
MLSecOps yaklaşımının teslim hattına entegrasyonu
Kırmızı takım programının kurumsal kurgulanması
İzleme ve olay müdahalesinin yapay zekaya uyarlanması
Güvenlik olgunluğunun ölçülmesi ve iyileştirilmesi
Atölye: Bir sürekli değerlendirme planının tasarlanması

Modül 4

Uçtan Uca Vaka, Sınav Stratejisi ve Kapanış

Uçtan uca yetkili yapay zeka sızma testi vakasının yürütülmesi
Vaka bulgularının sunumu ve akran değerlendirmesi oturumu
SEC536 sınav stratejisi, kapsam tekrarı ve zaman yönetimi
Değerlendirme ölçütleri ve kişisel çalışma yol haritası
Eğitim değerlendirmesi ve interaktif Soru-Cevap oturumu
Digital Vizyon Akademi Katılım ve Başarı Sertifikası takdimi

Eğitim Kazanımları

Program sonunda katılımcılar:

🧭

Test Metodolojisi

Yapay zeka sistemlerini kapsamdan raporlamaya uzanan bir metodolojiyle uçtan uca sistematik biçimde test edebileceksiniz.

⚖️

Yasal Çerçeve

TCK bilişim suçları ve KVKK kapsamında model, veri ve API erişim iznini ile gizlilik yükümlülüğünü doğru yönetebileceksiniz.

🗺️

Tehdit Modelleme

Yapay zeka sistemlerini MITRE ATLAS ve OWASP LLM Top 10 ile modelleyerek risk odaklı test planı çıkarabileceksiniz.

🛢️

Hat ve Sunum Testi

Veri hattı ve model sunum katmanını değerlendirerek erişim kontrolü ve bütünlük önlemlerini savunabileceksiniz.

🚧

Korkuluk Testi

Güvenlik korkuluğu ve filtre katmanlarının kapsamını değerlendirerek boşlukları savunma gözüyle kapatabileceksiniz.

💬

LLM Uygulama Testi

İstem enjeksiyonu, ajan ve çok kipli riskleri test ederek uygulama katmanı savunmasını sistematik biçimde güçlendirebileceksiniz.

📋

Yönetişim ve Risk

NIST AI RMF ve ISO/IEC 42001 çerçevelerini kavrayarak yapay zeka riskini kurumsal yönetişime bağlayabileceksiniz.

📑

Raporlama Ustalığı

Bulgularınızı önceliklendirip yönetime ve teknik ekibe hitap eden düzeltme odaklı raporlar hazırlayabileceksiniz.

Kimler İçin Uygundur?

Sızma testi uzmanları
yapay zeka güvenliği mühendisleri
güvenlik danışmanları
MLOps ekipleri
yapay zeka sistemlerinin riskini değerlendiren denetim ekipleri için tasarlanmıştır

Sıkça Sorulan Sorular

SEC536 eğitimi kimler için uygundur?

Program; sızma testi uzmanları, yapay zeka güvenliği mühendisleri, güvenlik danışmanları, MLOps ekipleri ve yapay zeka sistemlerinin riskini değerlendiren denetim ekipleri için tasarlanmıştır. Sızma testi metodolojisi ve yapay zeka sistemlerine giriş düzeyinde aşinalık beklenir.

Eğitim ne kadar sürer ve hangi formatta verilir?

Eğitim 4 tam gün sürer ve 16 modülden oluşur. Kurumun tercihine göre Digital Vizyon Akademi sınıflarında, kurum lokasyonunda veya online olarak gerçekleştirilir. Uygulamalar internetten yalıtılmış sanal laboratuvarda yapılır.

SEC536 ile SEC535 arasındaki fark nedir?

SEC535 yapay zeka destekli saldırı araç ve tekniklerine odaklanırken, SEC536 yapay zeka sistemlerinin uçtan uca sızma testine ve yönetişimine odaklanır. İkisi birbirini tamamlar; SEC536 test metodolojisi ve raporlamayı merkeze alır.

Eğitimde gerçek sistemlere saldırı yapılıyor mu?

Hayır. Tüm testler yalnızca eğitim için hazırlanmış, internetten yalıtılmış sanal laboratuvar ortamında yürütülür. Program boyunca yasal çerçeve, yazılı yetkilendirme ve kapsam disiplini vurgulanır.

Eğitim sonunda hangi belge veriliyor?

Programı başarıyla tamamlayan katılımcılar Digital Vizyon Akademi Katılım ve Başarı Sertifikası almaya hak kazanır. Sınav ücreti katılımcıya aittir ve ilgili kurumun sınavı ayrı bir süreçtir.

Sertifikalandırma

Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika

ADVERSARIAL AI - PENETRATION TESTING AI SYSTEMS (SEC536) EĞİTİMİ

Eğitim Hakkında

Neden Bu Eğitim?

Bu Eğitim Hangi Rollere Hazırlar?

Ön Koşullar

Eğitim İçeriği

Yasal Çerçeve, Kapsam ve Yetkilendirme

Yapay Zeka Sistem Mimarisi ve Yüzeyi

Yapay Zeka Tehdit Modellemesi

Yapay Zeka Sızma Testi Metodolojisi

Veri ve Eğitim Hattı Değerlendirmesi

Model Sunum ve Çıkarım Arayüzü

Güvenlik Korkuluğu ve Filtre Testi

Model Dayanıklılığı ve Çekişmeli Girdi

İstem Enjeksiyonu Test Yaklaşımı

Ajan ve Araç Zinciri Testi

Çok Kipli ve Dolaylı Kaynak Riski

Uygulama Katmanı Savunması ve Sertleştirme

Yapay Zeka Yönetişimi ve Risk Çerçeveleri

Bulgu Raporlama ve Önceliklendirme

Sürekli Güvenlik ve Kırmızı Takım Programı

Uçtan Uca Vaka, Sınav Stratejisi ve Kapanış

Eğitim Kazanımları

Kimler İçin Uygundur?

Sıkça Sorulan Sorular

Sertifikalandırma

Eğitim Bilgileri

Bu Eğitimle Birlikte Tercih Edilenler

Offensive AI - Attack Tools and Techniques (SEC535) Eğitimi

IoT Penetration Testing (SEC556) Eğitimi

Web App Penetration Testing and Ethical Hacking (SEC542) Eğitimi

Wireless Penetration Testing and Ethical Hacking (SEC617) Eğitimi

Enterprise Penetration Testing (SEC560) Eğitimi

iOS and Android Application Security Analysis and Penetration Testing (SEC575) Eğitimi