GENAI AND LLM APPLICATION SECURITY (SEC545) EĞİTİMİ

Yapay Zeka Uygulamasını Güvenle Üretime Alın

SEC545 GenAI ve LLM Uygulama Güvenliği Eğitimi, Digital Vizyon Akademi tarafından kurumlara verilen 5 günlük bir yetkinlik programıdır.

5 gün Orta Seviye Online / Yüz Yüze / Hibrit Sertifikalı

Eğitim Hakkında

SEC545 Sınav Müfredatıyla Uyumlu Beş Günlük Yapay Zeka Güvenliği Programı

Bu eğitim, üretken yapay zeka ve büyük dil modeli (LLM) tabanlı uygulamaları tasarım, geliştirme ve üretim aşamalarında güvenli kılabilen ekipler yetiştirmek üzere kurgulanmış beş günlük bir yetkinlik programıdır. SEC545 sınav müfredatıyla uyumlu başlıklar; istem enjeksiyonu, veri gizliliği, ajan güvenliği ve model tedarik zinciri atölyeleriyle pekiştirilir.

Süre ve Format

5 Tam Gün. Kavramsal anlatım, model güvenliği atölyeleri, laboratuvar uygulamaları ve gerçekçi vaka analizleriyle işlenir.

Seviye

Orta Seviye — Yazılım geliştirme deneyimi ile büyük dil modeli kavramlarına temel düzeyde aşinalık beklenir.

Öğrenme Metodu

İstem güvenliği atölyeleri, korkuluk tasarımı laboratuvarları, kırmızı takım değerlendirme oturumları ve vaka analizleri.

Neden Bu Eğitim?

🧠Yeni Saldırı Yüzeyi

Dil modeli uygulamalarının klasik yazılımdan farklı güven sınırlarını ve tehdit örüntülerini ayrıntılı ele alırız.

🛡️Savunma Odaklı Tasarım

Korkuluk, çıktı doğrulama ve en az yetki ilkesiyle savunmayı mimarinin içine yerleştirmeyi öğrenirsiniz.

⚖️Uyum ve Yönetişim

NIST AI RMF, ISO/IEC 42001 ve KVKK gereksinimleri teknik kararlarla birlikte bütüncül biçimde okunur.

Bu Eğitim Hangi Rollere Hazırlar?

Yapay Zeka Güvenliği UzmanıLLM Uygulama MühendisiYapay Zeka Risk AnalistiÜrün Güvenliği MühendisiMakine Öğrenmesi MühendisiGüvenli Yazılım Mimarı

Sarı Takım: Güvenliği yapay zeka uygulamasının tasarımına ve kod hattına gömen geliştirme ekibi

“Yapay zekayı güvenli kılmak modele körü körüne güvenmeyi değil, her girdi ve çıktıyı denetleyen bir mimari kurmayı gerektirir.”

Ön Koşullar

Programdan Verim Almanız İçin Beklenen Temel Bilgi ve Deneyim

1
Yazılım Geliştirme

Python veya benzeri bir dilde uygulama geliştirme düzeyinde pratik deneyim.

2
Yapay Zeka Kavramları

Büyük dil modeli, istem ve gömme kavramlarına temel düzeyde aşinalık.

3
Uygulama Güvenliği

Kimlik doğrulama, yetkilendirme ve girdi doğrulama konularında temel bilgi.

4
Etik Sorumluluk Taahhüdü

Öğrenilen tekniklerin yalnızca yazılı yetki verilen sistemlerde kullanılacağının kabulü.

Eğitim İçeriği

Programın gün gün akışı aşağıdadır. Bir güne tıklayarak o günün modüllerini ve içeriklerini görebilirsiniz.

Günün hedefiBüyük dil modeli uygulamalarının çalışma mantığını kavramak, mimarideki güven sınırlarını çizmek ve tehdit ortamını yerleşik çerçevelerle okumak.
Modül 1
Büyük Dil Modeli Temelleri
  • Üretken yapay zeka ve dil modeli kavramlarının netleştirilmesi
  • Belirteçleme, bağlam penceresi ve çıkarım süreci
  • İstem, sistem yönergesi ve kullanıcı girdisi ayrımının önemi
  • Model sağlayıcı, açık ağırlık ve yerinde barındırma seçenekleri
  • Halüsinasyon, belirsizlik ve güvenilirlik sınırlarının kabulü
  • Atölye: Örnek bir uygulamanın model kullanım akışının çıkarımı
Modül 2
LLM Uygulama Mimarisi ve Güven Sınırları
  • Tipik LLM uygulama bileşenleri ve veri akış şeması
  • Model, uygulama ve veri katmanları arasındaki güven sınırları
  • Güvenilmeyen içeriğin bağlam penceresine taşınma yolları
  • Kimlik, oturum ve yetki bilgisinin model çağrısındaki yeri
  • Model sağlayıcı bağımlılığı ve kilitlenme riskinin yönetimi
  • Lab: Bir LLM mimarisi için veri akış diyagramının çizilmesi
Modül 3
LLM Tehdit Ortamı ve Risk Sınıfları
  • OWASP LLM uygulamaları risk listesinin bütüncül okunması
  • MITRE ATLAS ile yapay zeka saldırı tekniklerinin eşlenmesi
  • Gizlilik, bütünlük ve erişilebilirlik risklerinin ayrıştırılması
  • İtibar, hukuki ve operasyonel etkilerin değerlendirilmesi
  • Tehdit modelleme yönteminin yapay zeka bağlamına uyarlanması
  • Vaka: Yayımlanmış bir yapay zeka olayının çözümlenmesi
Modül 4
Yapay Zeka Yönetişimi ve Uyum Çerçeveleri
  • NIST AI RMF işlevlerinin kurumsal sürece uyarlanması
  • ISO/IEC 42001 yönetim sistemi gereksinimlerine genel bakış
  • AB Yapay Zeka Yasası risk sınıflarının temel mantığı
  • KVKK kapsamında kişisel veri işleme ve aydınlatma yükümlülüğü
  • Model envanteri, sahiplik ve kullanım politikası tanımlanması
  • Atölye: Kurum için yapay zeka kullanım politikası taslağı
Günün hedefiİstem enjeksiyonu sınıflarını kavramak, dolaylı enjeksiyon yollarını kapatmak ve model çıktısını güvenli işleyerek korkuluk katmanı tasarlamak.
Modül 1
İstem Enjeksiyonu Sınıfları
  • İstem enjeksiyonunun klasik enjeksiyondan farkının kavranması
  • Sistem yönergesini geçersiz kılma girişimlerinin örüntüleri
  • Rol oynatma ve bağlam kaydırma temelli atlatma yaklaşımları
  • Sistem yönergesi sızıntısı ve gizli bilgi ifşası riski
  • Yönerge ile veriyi ayıran tasarım kalıplarının kurulması
  • Atölye: Zayıf bir sistem yönergesinin dayanıklı hale getirilmesi
Modül 2
Dolaylı Enjeksiyon ve İçerik Zehirlenmesi
  • Dolaylı istem enjeksiyonunun tanımı ve gerçekçi senaryoları
  • Belge, web sayfası ve e-posta içeriğinin taşıdığı risk
  • Erişilen kaynakların güvenilirlik düzeyine göre etiketlenmesi
  • Gizli yönerge taşıyan içeriklerin tespit yaklaşımları
  • İçerik temizleme ve bağlam yalıtımı tasarım kalıpları
  • Lab: Zehirli belge senaryosunun etkisinin sınırlandırılması
Modül 3
Güvensiz Çıktı İşleme
  • Model çıktısının güvenilmeyen girdi olarak ele alınması ilkesi
  • Çıktının arayüzde işlenmesi ve XSS riskinin önlenmesi
  • Üretilen kodun veya sorgunun doğrudan çalıştırılması riski
  • Yapılandırılmış çıktı şeması ve katı doğrulama kullanımı
  • Aşağı akış sistemlerine aktarımda kodlama ve kaçış kuralları
  • Lab: Çıktı doğrulama katmanının uygulamaya eklenmesi
Modül 4
Korkuluk Tasarımı ve İçerik Süzme
  • Korkuluk katmanının mimarideki konumu ve görev tanımı
  • Girdi ve çıktı süzme kurallarının katmanlı kurgulanması
  • Konu dışı, zararlı ve hassas içerik sınıflandırması
  • Kişisel veri maskeleme ve yeniden tanımlama denetimi
  • Yanlış pozitif dengesi ve kullanıcı deneyimi etkisi
  • Atölye: Kullanım senaryosuna özgü korkuluk kural setinin yazımı
Günün hedefiBağlam ve eğitim verisinin korunmasını sağlamak, erişim artırılmış üretim katmanını güvenli kurmak ve gizlilik yükümlülüklerini mimariye yansıtmak.
Modül 1
Bağlam ve Eğitim Verisinin Korunması
  • Veri sınıflandırmasının yapay zeka kullanım senaryolarına etkisi
  • Hassas verinin bağlam penceresine taşınma kararının yönetimi
  • Model sağlayıcıya veri aktarımında sözleşmesel denetimler
  • Eğitim ve değerlendirme verisinin ayrıştırılması ilkesi
  • Veri saklama, silme ve kayıt tutma politikalarının tasarımı
  • Atölye: Veri sınıfına göre model kullanım matrisinin çıkarılması
Modül 2
Erişim Artırılmış Üretim Güvenliği
  • Erişim artırılmış üretim (RAG) mimarisinin akış şeması
  • Belge alımı hattında kaynak doğrulama ve temizleme adımları
  • Kullanıcı yetkisinin geri getirme katmanına taşınması
  • Belge düzeyinde erişim denetimi ve sızıntı senaryoları
  • Kaynak gösterimi ile doğrulanabilirliğin artırılması
  • Lab: Yetki farkındalıklı geri getirme akışının kurgulanması
Modül 3
Vektör Veritabanı ve Gömme Güvenliği
  • Gömme (embedding) üretimi ve saklanmasının güvenlik etkisi
  • Vektör veritabanı erişim denetimi ve ağ yalıtımı
  • Gömme tersine çevirme ve bilgi sızıntısı tartışması
  • İndeks zehirlenmesi ve kaynak bütünlüğünün korunması
  • Çok kiracılı indekslerde izolasyon ve etiketleme tasarımı
  • Lab: İndeks erişim denetimlerinin senaryolarla sınanması
Modül 4
Gizlilik, KVKK ve Veri Yaşam Döngüsü
  • Kişisel verinin yapay zeka hattındaki yolculuğunun haritası
  • KVKK kapsamında hukuki dayanak ve aydınlatma yükümlülüğü
  • Veri en aza indirme ve amaç sınırlaması ilkelerinin uygulanması
  • Takma ad verme, maskeleme ve sentetik veri seçenekleri
  • Veri sahibi talepleri ve silme isteklerinin teknik karşılığı
  • Vaka: Gizlilik etki değerlendirmesinin örnek üzerinde yapılması
Günün hedefiModel ve bileşen tedarik zincirini doğrulamak, zehirleme risklerini değerlendirmek ve araç kullanan ajan mimarilerinde yetki sınırlarını tasarlamak.
Modül 1
Model ve Bileşen Tedarik Zinciri
  • Model kaynağı, lisansı ve köken bilgisinin doğrulanması
  • Açık ağırlık modellerinin indirilme ve saklanma disiplini
  • Model biçimlerinde seri hale getirme kaynaklı riskler
  • Eklenti ve bağlantı bileşenlerinin güven değerlendirmesi
  • Yazılım malzeme listesinin yapay zeka bileşenlerine uyarlanması
  • Atölye: Model ve bileşen envanterinin risk puanlamasıyla çıkarımı
Modül 2
Zehirleme ve Model Bütünlüğü
  • Eğitim verisi zehirlenmesinin oluşum mantığı ve etkileri
  • İnce ayar sürecinde veri kalitesi ve kaynak denetimi
  • Arka kapı davranışı ve tetikleyici örüntü kavramı
  • Model çıkarımı ve ağırlık sızıntısı risklerinin yönetimi
  • Model sürümleme, imzalama ve bütünlük doğrulaması
  • Vaka: Zehirlenmiş bir veri setinin etkilerinin tartışılması
Modül 3
Ajan Mimarisi ve Araç Kullanımı Güvenliği
  • Ajan kavramı, planlama döngüsü ve araç çağırma akışı
  • Araç tanımlarının en az yetki ilkesiyle sınırlandırılması
  • İnsan onayı gerektiren yüksek etkili işlemlerin belirlenmesi
  • Ajanlar arası iletişimde kimlik ve yetki devrinin denetimi
  • Yürütme ortamının yalıtımı ve ağ erişiminin kısıtlanması
  • Lab: Ajan araç setinin yetki matrisiyle yeniden tasarlanması
Modül 4
Aşırı Yetki, Maliyet ve Kötüye Kullanım
  • Aşırı özerklik riskinin iş süreçlerindeki karşılığı
  • Model hizmeti kotası, hız sınırlama ve maliyet denetimi
  • Hizmet dışı bırakma ve kaynak tüketimi senaryoları
  • Kötüye kullanım göstergelerinin kullanıcı bazında izlenmesi
  • Kurumsal kullanım politikası ve gölge yapay zeka yönetimi
  • Atölye: Ajan senaryosu için kötüye kullanım eşiklerinin yazımı
Günün hedefiYapay zeka uygulamalarını yapılandırılmış biçimde değerlendirmek, güvenlik testini otomatikleştirmek ve üretim izleme ile olay müdahalesini kurgulamak.
Modül 1
Yapay Zeka Kırmızı Takım Değerlendirmesi
  • Yapay zeka kırmızı takım çalışmasının kapsam ve yetki çerçevesi
  • Senaryo tabanlı değerlendirme kurgusu ve başarı ölçütleri
  • Zararlı çıktı, veri sızıntısı ve atlatma hedeflerinin ayrımı
  • Bulguların ciddiyet ve tekrarlanabilirlikle raporlanması
  • Yasal çerçeve: TCK bilişim suçları ve yetkilendirme belgesi
  • Atölye: Değerlendirme planının örnek uygulama için yazılması
Modül 2
Güvenlik Testi Otomasyonu ve Ölçütler
  • Değerlendirme veri setlerinin oluşturulması ve sürümlenmesi
  • Otomatik istem testi araçlarının hatta konumlandırılması
  • Gerileme testi ile model sürüm geçişlerinin güvenceye alınması
  • Ölçüt tasarımı: doğruluk, dayanıklılık ve güvenlik dengesi
  • Sonuçların geliştirme sürecine geri beslenme akışı
  • Lab: Sürüm hattına yapay zeka güvenlik testinin eklenmesi
Modül 3
Üretim İzleme ve Olay Müdahalesi
  • İstem ve yanıt kaydının gizlilik dengesiyle tasarlanması
  • Anormal kullanım örüntülerinin tespit kurallarıyla izlenmesi
  • Yapay zeka olaylarının SIEM üzerinde ilişkilendirilmesi
  • Model geri alma, devre dışı bırakma ve geri düşme kararları
  • Olay sonrası kök neden analizi ve iyileştirme döngüsü
  • Lab: Yapay zeka olay müdahale oyun kitabının hazırlanması
Modül 4
Yapay Zeka Vakası, Sınav Stratejisi ve Kapanış
  • Uçtan uca yapay zeka güvenliği vakasının takımlarla işlenmesi
  • Bulguların yönetici özeti ve teknik rapor olarak sunulması
  • SEC545 sınav stratejisi, konu tekrarı ve zaman yönetimi
  • Kurumsal yapay zeka güvenliği yol haritasının çıkarılması
  • Eğitim değerlendirmesi ve interaktif Soru-Cevap oturumu
  • Digital Vizyon Akademi Katılım ve Başarı Sertifikası takdimi

Eğitim Kazanımları

Program sonunda katılımcılar:

🧠
LLM Mimarisi

Dil modeli uygulamalarının bileşenlerini ve güven sınırlarını doğru biçimde haritalayabileceksiniz.

🚧
İstem Savunması

Doğrudan ve dolaylı istem enjeksiyonuna karşı katmanlı savunma kalıpları tasarlayabileceksiniz.

🧾
Çıktı Doğrulama

Model çıktısını güvenilmeyen girdi kabul ederek şema ve kodlama denetimleriyle işleyebileceksiniz.

🔍
RAG Güvenliği

Erişim artırılmış üretim hattında yetki farkındalıklı geri getirme akışı kurabileceksiniz.

🔐
Veri Gizliliği

Kişisel veriyi KVKK yükümlülükleriyle uyumlu biçimde maskeleyip yaşam döngüsünü yönetebileceksiniz.

🔗
Model Zinciri

Model, eklenti ve bileşen tedarik zincirini köken doğrulaması ile güvence altına alabileceksiniz.

🤖
Ajan Denetimi

Araç kullanan ajan mimarilerinde yetki sınırlarını ve onay noktalarını tanımlayabileceksiniz.

📊
Değerlendirme

Yapay zeka uygulamalarını ölçütlerle sınayıp üretimdeki davranışı sürekli izleyebileceksiniz.

Kimler İçin Uygundur?

  • Yapay zeka uygulamaları geliştiren yazılım mühendisleri
  • çözüm mimarları
  • veri ve makine öğrenmesi ekipleri
  • ürün güvenliği uzmanları
  • yapay zeka risklerini değerlendiren güvenlik analistleri

Sıkça Sorulan Sorular

SEC545 yapay zeka güvenliği eğitimi kimler için uygundur?
Program; yapay zeka uygulamaları geliştiren yazılım mühendisleri, çözüm mimarları, veri ve makine öğrenmesi ekipleri, ürün güvenliği uzmanları ve yapay zeka risklerini değerlendiren güvenlik analistleri için tasarlanmıştır. Yazılım geliştirme deneyimi ve temel dil modeli bilgisi beklenir.
Eğitim ne kadar sürer ve kaç modülden oluşur?
Eğitim 5 tam gün sürer ve 20 modülden oluşur. Kurumun tercihine göre Digital Vizyon Akademi sınıflarında, kurum lokasyonunda veya çevrim içi olarak gerçekleştirilir; her modülde laboratuvar, atölye veya vaka uygulaması yer alır.
Bu eğitim SEC545 sınavına hazırlık sağlıyor mu?
Program, SEC545 sınav müfredatıyla uyumlu bir sınava hazırlık ve yetkinlik eğitimidir. Sınav başvurusu ve güncel koşulları sınavı düzenleyen kurum tarafından belirlenir; sınav ücreti katılımcıya aittir ve eğitim ücretine dahil değildir.
Eğitimde hangi çerçeve ve konular ele alınıyor?
OWASP büyük dil modeli risk listesi, MITRE ATLAS, NIST AI RMF, ISO/IEC 42001, AB Yapay Zeka Yasası risk sınıfları ve KVKK yükümlülükleri; istem enjeksiyonu, çıktı doğrulama, RAG güvenliği, vektör veritabanı yalıtımı ve ajan yetki tasarımı ile birlikte işlenir.
Eğitim sonunda hangi belge veriliyor?
Programı başarıyla tamamlayan katılımcılar Digital Vizyon Akademi Katılım ve Başarı Sertifikası almaya hak kazanır. Bu belge, sınavı düzenleyen kurumun verdiği sınav sertifikasından ayrı bir katılım ve başarı belgesidir.

Sertifikalandırma

Bu eğitim Digital Vizyon Akademi Başarı Sertifikası ile tamamlanır.

Eğitim başında “Ön Test”, bitiminde “Son Test” uygulanarak gelişim ölçümlenir. Değerlendirme formunu dolduran katılımcılar sertifikalarını alır. Sertifikanızın geçerliliğini Sertifika Sorgulama sayfasından doğrulayabilirsiniz.

Örnek Sertifika d Digital Vizyon AKADEMİ KATILIM SERTİFİKASI Bu sertifika [Katılımcı Adı Soyadı] adlı katılımcının aşağıdaki eğitim programını başarıyla tamamladığını belgeler. GenAI and LLM Application Security (SEC545) Eğitimi Sertifika Kodu DV-2026XX00 Tarih 15.10.2026 Yetkili İmza DV AKADEMİ

Eğitim Bilgileri

Süre5 gün
SeviyeOrta Seviye
FormatOnline / Yüz Yüze / Hibrit
Kurs KoduSEC545
Sertifika✓ Var
Hemen Bilgi Al
İlgili Eğitimler

Bu Eğitimle Birlikte Tercih Edilenler

Sarı TakımAI Security Principles and Practices: GenAI and LLM Defense (SEC411) Eğitimi
Siber Güvenlik Eğitimleri

AI Security Principles and Practices: GenAI and LLM Defense (SEC411) Eğitimi

5 günOrtaOnline / Yüz Yüze / Hibrit

5 günlük SEC411 eğitimi: üretken yapay zeka güvenliği, istem enjeksiyonu savunması, getirim mimarisi, ajan yetkileri, koruma bariyerleri ve uyum.

Detayları Gör →
Sarı TakımLeveraging LLMs: Building & Securing RAG, Contextual RAG, and Agentic RAG (SEC495) Eğitimi
Siber Güvenlik Eğitimleri

Leveraging LLMs: Building & Securing RAG, Contextual RAG, and Agentic RAG (SEC495) Eğitimi

4 günOrtaOnline / Yüz Yüze / Hibrit

4 günlük SEC495 eğitimi: RAG mimarisi kurma, gömme ve vektör arama, bağlamsal RAG, yetki farkındalıklı erişim, ajansal RAG ve yapay zeka güvenlik testi.

Detayları Gör →
Sarı TakımApplication Security: Securing Web Applications, APIs, and Microservices (SEC522) Eğitimi
Siber Güvenlik Eğitimleri

Application Security: Securing Web Applications, APIs, and Microservices (SEC522) Eğitimi

6 günOrtaOnline / Yüz Yüze / Hibrit

6 günlük SEC522 uygulama güvenliği eğitimi: tehdit modelleme, OWASP Top 10, kimlik ve oturum, API güvenliği, mikroservis ve DevSecOps test otomasyonu.

Detayları Gör →
Sarı TakımCloud Native Security and DevSecOps Automation (SEC540) Eğitimi
Siber Güvenlik Eğitimleri

Cloud Native Security and DevSecOps Automation (SEC540) Eğitimi

5 günOrtaOnline / Yüz Yüze / Hibrit

5 günlük SEC540 bulut yerel güvenlik ve DevSecOps otomasyonu eğitimi: CI/CD güvenliği, sır yönetimi, konteyner, Kubernetes, altyapı kodu ve politika kodu.

Detayları Gör →
Sarı TakımCloud Native Security and DevSecOps Automation (DEV540) Eğitimi
Siber Güvenlik Eğitimleri

Cloud Native Security and DevSecOps Automation (DEV540) Eğitimi

5 günOrtaOnline / Yüz Yüze / Hibrit

5 günlük DEV540 eğitimi: DevSecOps otomasyonu, güvenli CI/CD hattı, gizli bilgi yönetimi, altyapı kodu taraması, konteyner ve Kubernetes güvenliği.

Detayları Gör →
Sarı TakımDefending Web Applications Security Essentials (DEV522) Eğitimi
Siber Güvenlik Eğitimleri

Defending Web Applications Security Essentials (DEV522) Eğitimi

6 günOrtaOnline / Yüz Yüze / Hibrit

6 günlük DEV522 eğitimi: web mimarisi, kimlik ve oturum yönetimi, enjeksiyon savunması, kriptografi, API güvenliği, WAF ve izleme uygulamaları.

Detayları Gör →
+90 (501) 369 40 14 WhatsApp [email protected] LinkedIn