AI SECURITY PRINCIPLES AND PRACTICES: GENAI AND LLM DEFENSE (SEC411) EĞİTİMİ

Yapay Zeka Uygulamalarını Baştan Güvenli Kurun

AI Security Principles and Practices: GenAI and LLM Defense (SEC411) Eğitimi, Digital Vizyon Akademi tarafından kurumlara verilen 5 günlük, orta seviye bir yapay zeka savunma programıdır.

5 gün Orta Seviye Online / Yüz Yüze / Hibrit Sertifikalı

Eğitim Hakkında

SEC411 Sınav Müfredatıyla Uyumlu Beş Günlük Yapay Zeka Savunma Programı

Bu eğitim, üretken yapay zeka ve büyük dil modeli tabanlı uygulamaları tasarım, veri, çalışma zamanı ve yönetişim katmanlarında savunabilen uzmanlar yetiştirmek üzere kurgulanmış beş günlük bir yetkinlik programıdır. Program, SEC411 sınav müfredatıyla uyumlu konu başlıklarını istem enjeksiyonu, veri güvenliği, koruma bariyerleri ve uyum başlıklarıyla uygulamalı biçimde işler.

Süre ve Format

5 Tam Gün. Kavramsal anlatım, dil modeli laboratuvarları, koruma bariyeri atölyeleri ve yönetişim vakalarıyla ilerler.

Seviye

Orta Seviye — Uygulama geliştirme veya bilgi güvenliği alanında temel düzeyde deneyim beklenir.

Öğrenme Metodu

Dil modeli uygulama laboratuvarları, kırmızı takım denemeleri, koruma bariyeri tasarım atölyeleri ve vaka analizleri.

Neden Bu Eğitim?

🤖Yeni Risk Sınıfı

Klasik uygulama güvenliğinin kapsamadığı istem enjeksiyonu ve model davranışı riskleri ayrı ayrı ele alınır.

🧱Savunma Katmanları

Tek bir filtreye değil, girdi, model, çıktı ve izleme katmanlarına yayılmış bir savunma kurgusu öğretilir.

📋Yönetişim Bütünlüğü

NIST AI RMF, ISO/IEC 42001 ve KVKK gereklilikleri teknik kontrollerle birlikte eşleştirilerek işlenir.

Bu Eğitim Hangi Rollere Hazırlar?

Yapay Zeka Güvenliği UzmanıGüvenlik MimarıUygulama Güvenliği UzmanıYapay Zeka Risk AnalistiMakine Öğrenmesi MühendisiUyum ve Yönetişim Uzmanı

Sarı Takım: Güvenliği yapay zeka uygulamasının tasarımına ve teslim hattına gömen geliştirme ekibi

“Yapay zekayı kuruma güvenle getiren şey modelin gücü değil, etrafına kurduğunuz savunma ve yönetişim katmanlarıdır.”

Ön Koşullar

Programa Katılmadan Önce Beklenen Teknik ve Kavramsal Altyapı

1
Uygulama Bilgisi

API tabanlı uygulama geliştirme veya uygulama güvenliği alanında temel deneyim.

2
Yapay Zeka Farkındalığı

Dil modeli ve üretken yapay zeka kavramlarına kullanıcı düzeyinde aşinalık.

3
Güvenlik Temelleri

Kimlik doğrulama, yetkilendirme ve veri koruma kavramlarına temel hakimiyet.

4
Dizüstü Bilgisayar

Laboratuvar ortamına bağlanabilen, internet erişimi olan bir dizüstü bilgisayar.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiÜretken yapay zeka bileşenlerinin çalışma mantığını kavramak, yapay zekaya özgü tehdit sınıflarını tanımak ve yönetişim çerçevelerini konumlandırmak.
Modül 1
Üretken Yapay Zeka Temelleri
  • Büyük dil modellerinin çalışma mantığına genel bakış
  • Eğitim, ince ayar ve çıkarım aşamalarının ayrıştırılması
  • Bağlam penceresi, belirteç ve maliyet kavramları
  • Model sağlayıcı, açık ağırlık ve yerinde çalıştırma seçenekleri
  • Halüsinasyon ve belirsizlik kavramlarının güvenlik etkisi
  • Lab: Örnek bir dil modeli uygulamasının bileşen analizi
Modül 2
Yapay Zekaya Özgü Tehdit Sınıfları
  • OWASP Top 10 for LLM Applications risklerine genel bakış
  • İstem enjeksiyonu ve dolaylı istem enjeksiyonu ayrımı
  • Eğitim verisi zehirlenmesi ve model bütünlüğü riski
  • Model çalınması ve çıkarım yoluyla veri sızdırma
  • Aşırı yetkilendirilmiş model davranışının sonuçları
  • Vaka: Yayımlanmış bir yapay zeka olayının çözümlenmesi
Modül 3
Saldırı Çerçeveleri ve Eşleştirme
  • MITRE ATLAS matrisinin taktik ve teknik yapısı
  • Klasik MITRE ATT&CK ile ATLAS arasındaki ilişki
  • Tehditlerin uygulama mimarisi üzerinde konumlandırılması
  • Tespit boşluklarının belirlenmesi ve önceliklendirilmesi
  • Saldırı senaryolarının iş etkisiyle ilişkilendirilmesi
  • Atölye: Bir yapay zeka uygulamasının ATLAS ile haritalanması
Modül 4
Yönetişim Çerçeveleri ve Mevzuat
  • NIST AI RMF yapısı ve işlevlerine genel bakış
  • ISO/IEC 42001 yönetim sistemi gerekliliklerinin okunması
  • Avrupa Birliği Yapay Zeka Yasası risk sınıflandırması
  • KVKK kapsamında yapay zeka ile veri işleme esasları
  • Kurumsal yapay zeka kullanım politikasının kurgulanması
  • Vaka: Kurumsal yapay zeka politikası taslağının incelenmesi
Günün hedefiDil modeli uygulama mimarisinin güven sınırlarını çıkarmak, istem enjeksiyonu senaryolarını anlamak ve girdi ile çıktı denetimlerini tasarlamak.
Modül 1
Dil Modeli Uygulama Mimarisi
  • İstemci, düzenleyici katman, model ve araç bileşenleri
  • Güven sınırlarının mimari üzerinde işaretlenmesi
  • Sistem istemi, kullanıcı girdisi ve dış içerik ayrımı
  • Model sağlayıcı entegrasyonunda kimlik ve kota yönetimi
  • Maliyet, gecikme ve güvenlik dengesinin kurulması
  • Atölye: Uygulama mimarisinin güven sınırlarıyla çizilmesi
Modül 2
İstem Enjeksiyonu ve Savunması
  • Doğrudan istem enjeksiyonunun oluşum mekanizması
  • Dolaylı enjeksiyonun belge ve web içeriğiyle taşınması
  • Sistem istemi sızdırma ve talimat geçersizleştirme riskleri
  • Talimat ile veriyi ayıran mimari kalıpların kurulması
  • Yalnızca istem düzeyinde savunmanın sınırlarının anlaşılması
  • Lab: İstem enjeksiyonu denemelerinin kontrollü incelenmesi
Modül 3
Girdi Denetimi ve İçerik Filtreleme
  • Girdi sınıflandırması ve kötüye kullanım tespiti yaklaşımı
  • Hassas veri tespiti ve girdide maskeleme uygulaması
  • Dosya ve belge girdilerinin ayrıştırma öncesi denetimi
  • Uzunluk, oran ve kota sınırlarının belirlenmesi
  • Çok dilli ve kodlanmış girdi kaçırma denemelerinin ele alınması
  • Lab: Girdi filtreleme katmanının kurgulanması
Modül 4
Çıktı Denetimi ve Güvenli Kullanım
  • Model çıktısının güvenilmeyen veri olarak ele alınması
  • Çıktının koda, sorguya veya komuta dönüştürülmesi riski
  • Bağlama göre kodlama ve çıktı arındırma uygulaması
  • Kaynak gösterme ve doğrulanabilirlik gereksinimleri
  • İnsan onayı gerektiren eylemlerin belirlenmesi
  • Lab: Güvensiz çıktı işlemenin düzeltilmesi çalışması
Günün hedefiEğitim ve getirim verisinin güvenliğini sağlamak, getirimle zenginleştirilmiş üretim mimarisini korumak ve model tedarik zinciri risklerini yönetmek.
Modül 1
Eğitim ve Bağlam Verisi Yönetişimi
  • Veri kaynaklarının envanteri ve sahiplik tanımları
  • Veri sınıflandırması ve hassas alanların ayıklanması
  • Eğitim verisi zehirlenmesine karşı kaynak doğrulama
  • Veri minimizasyonu ve saklama süresi kararları
  • KVKK kapsamında aydınlatma ve işleme dayanağı
  • Atölye: Yapay zeka veri akış haritasının çıkarılması
Modül 2
Getirimle Zenginleştirilmiş Üretim Güvenliği
  • Getirim mimarisinin bileşenleri ve akış adımları
  • Belge alımı sırasında içerik doğrulama ve temizleme
  • Dolaylı enjeksiyonun belge deposu üzerinden taşınması
  • Kaynak güvenilirliği puanlaması ve filtreleme kuralları
  • Bağlam sızıntısının ve alıntı doğruluğunun denetimi
  • Lab: Getirim hattına içerik denetimi eklenmesi
Modül 3
Vektör Deposu ve Erişim Denetimi
  • Gömme vektörlerinin saklanması ve gizlilik etkisi
  • Kullanıcı bazlı yetkilendirmenin getirime yansıtılması
  • Çok kiracılı ortamda veri yalıtımının sağlanması
  • Silme talebinin vektör deposunda karşılanması
  • Depo erişim kayıtlarının toplanması ve izlenmesi
  • Lab: Yetki sızdıran bir getirim kurgusunun düzeltilmesi
Modül 4
Model Tedarik Zinciri ve Bütünlük
  • Model kaynağı, lisansı ve köken bilgisinin doğrulanması
  • Açık ağırlık model dosyalarının bütünlük denetimi
  • Model ve veri kümesi malzeme listesinin üretilmesi
  • Eklenti ve araç bağımlılıklarının risk değerlendirmesi
  • Sürüm değişikliklerinin davranış üzerindeki etkisinin izlenmesi
  • Vaka: Model tedarik zinciri riskinin değerlendirilmesi
Günün hedefiAraç kullanan ajan mimarilerinde yetki sınırlarını tasarlamak, koruma bariyerlerini kurgulamak ve savunmayı yapay zeka kırmızı takım çalışmasıyla sınamak.
Modül 1
Araç Kullanan Ajan Mimarileri
  • Ajan döngüsü, planlama ve araç çağırma akışı
  • Araç tanımlarının ve parametrelerinin doğrulanması
  • Çok adımlı görevlerde hata yayılımı ve durma koşulları
  • Ajanlar arası iletişimin güven modeli
  • Otonomi düzeyinin iş riskine göre belirlenmesi
  • Atölye: Bir ajan akışının risk noktalarıyla çizilmesi
Modül 2
Yetki Sınırlandırma ve Yalıtım
  • En az yetki ilkesinin araç erişimlerine uygulanması
  • Salt okunur ve yazma yetkilerinin ayrıştırılması
  • Kum havuzu ortamında kod çalıştırma denetimi
  • Giden ağ erişiminin ve hedef listesinin sınırlandırılması
  • İnsan onay adımlarının kritik eylemlere yerleştirilmesi
  • Lab: Aşırı yetkili bir ajan yapılandırmasının daraltılması
Modül 3
Koruma Bariyerleri ve Politika Katmanı
  • Koruma bariyeri türleri ve mimari konumlandırması
  • Kural tabanlı ve model tabanlı filtrelerin birlikte kullanımı
  • NeMo Guardrails ile diyalog akışı sınırlandırması
  • Politikaların sürüm kontrollü ve test edilebilir yazımı
  • Yanlış pozitif dengesinin ve kullanıcı deneyiminin yönetimi
  • Lab: Koruma bariyeri kurallarının tasarlanması
Modül 4
Yapay Zeka Kırmızı Takım Çalışması
  • Yapay zeka kırmızı takım kapsamının ve kurallarının tanımı
  • Yetkilendirme, kapsam ve yasal çerçeve gereklilikleri
  • Garak gibi araçlarla otomatik zafiyet denemeleri
  • Senaryo tabanlı el ile değerlendirme yönteminin kurulması
  • Bulguların önceliklendirilmesi ve düzeltme takibi
  • Lab: Kontrollü kırmızı takım denemesi ve bulgu raporlaması
Günün hedefiYapay zeka sistemlerinde izleme ve değerlendirme kabiliyeti kurmak, olay müdahalesini yürütmek, uyum kanıtlarını üretmek ve programı kapanışla tamamlamak.
Modül 1
İzleme, Kayıt ve Sürekli Değerlendirme
  • Yapay zeka uygulamalarında kayıt tasarımı ve gizlilik dengesi
  • İstem, çıktı ve araç çağrısı izlerinin saklanması
  • SIEM entegrasyonu ve kötüye kullanım uyarılarının kurgusu
  • Model davranış sapmasının ve kalite düşüşünün izlenmesi
  • Değerlendirme kümeleriyle sürekli regresyon testi
  • Lab: Kötüye kullanım tespiti uyarısının kurgulanması
Modül 2
Yapay Zeka Olay Müdahalesi
  • Yapay zeka olaylarının sınıflandırılması ve şiddet ölçütleri
  • Olay müdahale planında yapay zeka özel adımları
  • Model geri alma, devre dışı bırakma ve kısıtlama kararları
  • Kanıt toplama ve etkilenen kullanıcıların belirlenmesi
  • İletişim planı ve kamuoyu bildirimi sorumluluğu
  • Vaka: Bir istem enjeksiyonu olayının müdahale simülasyonu
Modül 3
Uyum, Risk Kaydı ve Şeffaflık
  • Yapay zeka risk kaydının oluşturulması ve güncellenmesi
  • Model kartı ve sistem kartı belgelerinin hazırlanması
  • NIST AI RMF ile kontrol eşleştirmesinin yapılması
  • KVKK kapsamında ilgili kişi taleplerinin karşılanması
  • Tedarikçi ve model sağlayıcı sözleşme maddelerinin denetimi
  • Atölye: Risk kaydı ve kontrol eşleştirme çalışması
Modül 4
Yol Haritası, Sınav Stratejisi ve Kapanış
  • Kurumsal yapay zeka güvenliği yol haritasının aşamalandırılması
  • Atölye: Yapay zeka güvenliği yol haritasının önceliklendirilmesi
  • SEC411 sınav stratejisi, soru okuma ve zaman yönetimi
  • Kişisel çalışma planı ve kaynak yol haritasının çıkarılması
  • Eğitim değerlendirmesi ve interaktif Soru-Cevap oturumu
  • Digital Vizyon Akademi Katılım ve Başarı Sertifikası

Eğitim Kazanımları

Program sonunda katılımcılar:

🧠
Model Okuryazarlığı

Üretken yapay zeka bileşenlerinin çalışma mantığını ve güvenlik açısından kritik noktalarını açıklayabileceksiniz.

🗺️
Tehdit Haritalama

Yapay zeka uygulamalarındaki riskleri MITRE ATLAS ve OWASP listeleriyle eşleştirerek önceliklendirebileceksiniz.

💉
İstem Enjeksiyonu

Doğrudan ve dolaylı istem enjeksiyonu senaryolarını tanıyıp mimari düzeyde karşı kontroller kurabileceksiniz.

🧾
Çıktı Denetimi

Model çıktısını güvenilmeyen veri olarak ele alıp bağlama uygun arındırma ve onay adımları tasarlayabileceksiniz.

🗄️
Veri ve Getirim

Getirim mimarisinde yetkilendirme, içerik doğrulama ve veri yalıtımı kontrollerini doğru biçimde kurgulayabileceksiniz.

🧰
Ajan Güvenliği

Araç kullanan ajanlarda yetki sınırlarını daraltıp kritik eylemleri insan onayına bağlayabileceksiniz.

🛡️
Koruma Bariyerleri

Kural ve model tabanlı filtreleri katmanlı biçimde kurgulayıp etkinliklerini ölçerek ayarlayabileceksiniz.

⚖️
Yönetişim ve Uyum

NIST AI RMF, ISO/IEC 42001 ve KVKK gerekliliklerini risk kaydına ve teknik kontrollere yansıtabileceksiniz.

Kimler İçin Uygundur?

  • Yapay zeka uygulaması geliştiren yazılımcılar
  • güvenlik mimarları
  • veri bilimciler
  • uygulama güvenliği uzmanları
  • risk
  • uyum ekipleri ile teknik ürün yöneticileri

Sıkça Sorulan Sorular

SEC411 eğitimi kimler için uygundur?
Program; yapay zeka uygulaması geliştiren yazılımcılar, güvenlik mimarları, veri bilimciler, uygulama güvenliği uzmanları ile risk ve uyum ekipleri için tasarlanmıştır. Uygulama geliştirme veya bilgi güvenliği alanında temel deneyim beklenir.
Eğitim ne kadar sürer ve hangi formatta verilir?
Eğitim 5 tam gün sürer ve 20 modülden oluşur. Kurumun tercihine göre Digital Vizyon Akademi sınıflarında, kurum lokasyonunda veya online olarak gerçekleştirilir; her modülde en az bir laboratuvar, atölye veya vaka çalışması yer alır.
Eğitimde model eğitimi veya veri bilimi anlatılıyor mu?
Program model geliştirme değil, model tabanlı uygulamaların savunmasına odaklanır. Çalışma mantığı güvenlik kararlarını anlamaya yetecek düzeyde ele alınır; ağırlık eğitimi, ince ayar ve algoritma matematiği kapsam dışındadır.
Bu program SEC411 sınavına hazırlık sağlıyor mu?
Program, SEC411 sınav müfredatıyla uyumlu konu başlıklarını kapsayan bir sınava hazırlık ve yetkinlik programıdır. Sınav başvurusu ve güncel koşulları sınavı düzenleyen kurum tarafından belirlenir; sınav ücreti katılımcıya aittir.
Eğitim sonunda hangi belge veriliyor?
Programı başarıyla tamamlayan katılımcılar Digital Vizyon Akademi Katılım ve Başarı Sertifikası almaya hak kazanır. Bu belge, sınavı düzenleyen kurumun verdiği unvandan ayrı bir katılım ve başarı belgesidir.

Sertifikalandırma

Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika d Digital Vizyon AKADEMİ KATILIM SERTİFİKASI Bu sertifika [Katılımcı Adı Soyadı] adlı katılımcının aşağıdaki eğitim programını başarıyla tamamladığını belgeler. AI Security Principles and Practices: GenAI and LLM Defense Sertifika Kodu DV-2026XX00 Tarih 15.10.2026 Yetkili İmza DV AKADEMİ

Eğitim Bilgileri

Süre5 gün
SeviyeOrta Seviye
FormatOnline / Yüz Yüze / Hibrit
Kurs KoduSEC411
Sertifika✓ Var
Hemen Bilgi Al
İlgili Eğitimler

Bu Eğitimle Birlikte Tercih Edilenler

Sarı TakımGenAI and LLM Application Security (SEC545) Eğitimi
Siber Güvenlik Eğitimleri

GenAI and LLM Application Security (SEC545) Eğitimi

5 günOrtaOnline / Yüz Yüze / Hibrit

5 günlük SEC545 GenAI ve LLM uygulama güvenliği eğitimi: istem enjeksiyonu, çıktı doğrulama, RAG güvenliği, ajan yetkileri, model tedarik zinciri ve uyum.

Detayları Gör →
Sarı TakımLeveraging LLMs: Building & Securing RAG, Contextual RAG, and Agentic RAG (SEC495) Eğitimi
Siber Güvenlik Eğitimleri

Leveraging LLMs: Building & Securing RAG, Contextual RAG, and Agentic RAG (SEC495) Eğitimi

4 günOrtaOnline / Yüz Yüze / Hibrit

4 günlük SEC495 eğitimi: RAG mimarisi kurma, gömme ve vektör arama, bağlamsal RAG, yetki farkındalıklı erişim, ajansal RAG ve yapay zeka güvenlik testi.

Detayları Gör →
Sarı TakımCloud Native Security and DevSecOps Automation (DEV540) Eğitimi
Siber Güvenlik Eğitimleri

Cloud Native Security and DevSecOps Automation (DEV540) Eğitimi

5 günOrtaOnline / Yüz Yüze / Hibrit

5 günlük DEV540 eğitimi: DevSecOps otomasyonu, güvenli CI/CD hattı, gizli bilgi yönetimi, altyapı kodu taraması, konteyner ve Kubernetes güvenliği.

Detayları Gör →
Sarı TakımCloud Native Security and DevSecOps Automation (SEC540) Eğitimi
Siber Güvenlik Eğitimleri

Cloud Native Security and DevSecOps Automation (SEC540) Eğitimi

5 günOrtaOnline / Yüz Yüze / Hibrit

5 günlük SEC540 bulut yerel güvenlik ve DevSecOps otomasyonu eğitimi: CI/CD güvenliği, sır yönetimi, konteyner, Kubernetes, altyapı kodu ve politika kodu.

Detayları Gör →
Sarı TakımDefending Web Applications Security Essentials (DEV522) Eğitimi
Siber Güvenlik Eğitimleri

Defending Web Applications Security Essentials (DEV522) Eğitimi

6 günOrtaOnline / Yüz Yüze / Hibrit

6 günlük DEV522 eğitimi: web mimarisi, kimlik ve oturum yönetimi, enjeksiyon savunması, kriptografi, API güvenliği, WAF ve izleme uygulamaları.

Detayları Gör →
Sarı TakımAWS Secure Builder (SEC480) Eğitimi
Siber Güvenlik Eğitimleri

AWS Secure Builder (SEC480) Eğitimi

5 günOrtaOnline / Yüz Yüze / Hibrit

5 günlük SEC480 AWS Secure Builder eğitimi: hesap yönetişimi, IAM yetki tasarımı, VPC bölümleme, KMS şifreleme, tehdit tespiti ve olay müdahalesi.

Detayları Gör →
+90 (501) 369 40 14 WhatsApp [email protected] LinkedIn