CENG051 Deep Generative Models

6 AKTS - 3-0 Süre (T+U)- . Yarıyıl- 3 Yerel Kredi

Genel Bilgi

Kod CENG051
Ad Deep Generative Models
Yarıyıl . Yarıyıl
Süre (T+U) 3-0 (T-U) (17 Hafta)
AKTS 6 AKTS
Yerel Kredi 3 Yerel Kredi
Eğitim Dil Türkçe
Seviye Yüksek Lisans Dersi
Tür Normal
Öğretim Şekli Yüz Yüze Öğretim
Bilgi Paketi Koordinatörü Mehmet SARIGÜL


Dersin Amacı

Derin Üretken Modeller kursunun amacı, öğrencilere derin öğrenme mimarilerini kullanan üretken modelleme teknikleri hakkında kapsamlı bir anlayış sağlamaktır. Derin üretken modeller, belirli bir veri kümesine benzeyen yeni veri örneklerini öğrenmeyi ve oluşturmayı, bunun temelindeki dağıtımını ve yapısını yakalamayı amaçlar.

Dersin İçeriği

Bu ders, Üretken Modellemeye Giriş, Üretken modellemeye genel bakış, Olasılıksal modelleme ve olabilirlik tahmini, Maksimum Olabilirlik Tahmini (MLE), Varyasyonlu Otomatik Kodlayıcılar (VAE'ler), Üretken Karşıt Ağlar (GAN'lar), Otoregresif Modeller, Doğal Dil İşlemede Derin Üretken Modeller, Derin Üretken Modellerde İleri Konular, Derin Üretken Modellerin Uygulamaları, Araştırma Makalelerinin Eleştirisi.

Dersin Ön Koşulu

Temel programlama, lineer cebir ve olasılık teorisi bilgisi.

Kaynaklar

Tomczak, J. M. (2022). Deep generative modeling (pp. 1-197). Springer.

Notlar

Tomczak, J. M. (2022). Deep generative modeling (pp. 1-197). Springer.


Dersin Öğrenme Çıktıları

Sıra Dersin Öğrenme Çıktıları
ÖÇ01 Üretken Modellemeyi Anlamak
ÖÇ02 Derin Öğrenme Mimarilerine aşinalık
ÖÇ03 Derin Üretken Modelleri Eğitme ve Değerlendirme Yeteneği
ÖÇ04 Derin Üretken Modellerin uygulanması


Program Öğrenme Çıktıları ile İlişkisi

Sıra Tür Program Öğrenme Çıktıları Duzey
PÖÇ01 Bilgi - Kuramsal, Olgusal Lisans düzeyinde kazanılan yetkinlikler temelinde Bilgisayar Mühendisliği temel alanında özgün çalışmalar için gerekli temeli sağlayan ileri düzeyde bilgi ve kavrayışa sahiptir. 4
PÖÇ02 Bilgi - Kuramsal, Olgusal Mühendislik alanında bilimsel araştırma yaparak bilgiye genişlemesine ve derinlemesine ulaşır, bilgiyi değerlendirir, yorumlar ve uygular. 3
PÖÇ03 Yetkinlikler - Öğrenme Yetkinliği Mesleğinin yeni ve gelişmekte olan uygulamalarının farkında olup, gerektiğinde bunları inceler ve öğrenir. 3
PÖÇ04 Yetkinlikler - Öğrenme Yetkinliği Mühendislik problemlerini kurgular, çözmek için yöntem geliştirir ve çözümlerde yenilikçi yöntemler uygular. 2
PÖÇ05 Yetkinlikler - Öğrenme Yetkinliği Analitik, modelleme ve deneysel esaslı araştırmaları tasarlar ve uygular, bu süreçte karşılaşılan karmaşık durumları çözümler ve yorumlar. 3
PÖÇ06 Yetkinlikler - Öğrenme Yetkinliği Yeni ve/veya özgün fikir ve yöntemler geliştirir, sistem, parça veya süreç tasarımlarında yenilikçi çözümler geliştirir. 3
PÖÇ07 Beceriler - Bilişsel, Uygulamalı Öğrenme becerilerine sahip olur. 2
PÖÇ08 Beceriler - Bilişsel, Uygulamalı Bilgisayar Mühendisliğinin yeni ve gelişmekte olan uygulamalarının farkında olup gerektiğinde bunları inceler ve öğrenir. 2
PÖÇ09 Beceriler - Bilişsel, Uygulamalı Çalışmalarının süreç ve sonuçlarını Bilgisayar Mühendisliği alanındaki veya alan dışındaki ulusal ve uluslararası ortamlarda açık bir şekilde yazılı veya sözlü olarak aktarır.
PÖÇ10 Beceriler - Bilişsel, Uygulamalı Bilgisayar Mühendisliğinde uygulanan güncel teknik ve yöntemler ile bunların kısıtları hakkında kapsamlı bilgiye sahip olur. 2
PÖÇ11 Beceriler - Bilişsel, Uygulamalı Bilgisayar Mühendisliğinin gerektirdiği düzeyde bilgisayar yazılımı ile birlikte bilişim ve iletişim teknolojilerini ileri düzeyde etkileşimli olarak kullanır. 2
PÖÇ12 Bilgi - Kuramsal, Olgusal Mesleki tüm etkinliklerde toplumsal, bilimsel ve etik değerleri gözetir. 2


Haftalık Akış

Hafta Konu Ön Hazırlık Yöntemler
1 Üretken modellemeye, olasılıksal modellemeye ve olabilirlik tahminine giriş. Ders notlarının okunması Öğretim Yöntemleri:
Anlatım
2 Otomatik kodlayıcılar ve sınırlamaları, Değişken Otomatik Kodlayıcılara (VAE'ler) giriş. Ders notlarının okunması Öğretim Yöntemleri:
Anlatım
3 Varyasyonel çıkarım, kanıt alt sınırı (ELBO) ve eğitim VAE'leri. Ders notlarının okunması Öğretim Yöntemleri:
Anlatım
4 VAE'lerin değerlendirilmesi, gizli alandan örnekleme ve yeniden yapılandırma kalitesi. Ders notlarının okunması Öğretim Yöntemleri:
Anlatım
5 Üretken Çekişmeli Ağlara (GAN'lar) ve oluşturucu-ayırıcı çerçeveye giriş. Ders notlarının okunması Öğretim Yöntemleri:
Anlatım
6 GAN eğitimi ve GAN hedefi, GAN varyasyonları (ör. DCGAN, WGAN). Ders notlarının okunması Öğretim Yöntemleri:
Anlatım
7 GAN eğitimindeki zorluklar (mod çökmesi, kararsızlık) ve çözümleri. Ders notlarının okunması Öğretim Yöntemleri:
Anlatım
8 Ara Sınavlar Ölçme Yöntemleri:
Yazılı Sınav
9 Otoregresif modeller, PixelCNN ve PixelRNN. Ders notlarının okunması Öğretim Yöntemleri:
Anlatım
10 Akışları ve akışa dayalı üretici modelleri Normalleştirme. Ders notlarının okunması Öğretim Yöntemleri:
Anlatım
11 Derin üretken modellerle dil modelleme, RNN'ler ve dönüştürücüler kullanarak metin oluşturma. Ders notlarının okunması Öğretim Yöntemleri:
Anlatım
12 Koşullu oluşturma ve metinden görüntüye sentez. Ders notlarının okunması Öğretim Yöntemleri:
Anlatım
13 Disentangled representation learning and its applications. Ders notlarının okunması Öğretim Yöntemleri:
Anlatım
14 Difüzyon Modelleri. Ders notlarının okunması Öğretim Yöntemleri:
Anlatım
15 Gözden Geçirme Ders notlarının okunması Öğretim Yöntemleri:
Anlatım
16 Yarıyıl Sonu Sınavları Ölçme Yöntemleri:
Yazılı Sınav
17 Yarıyıl Sonu Sınavları Ölçme Yöntemleri:
Yazılı Sınav


Öğrenci İş Yükü - AKTS

Çalışmalar Sayısı Süresi (Saat) İş Yükü (Saat)
Ders ile İlgili Çalışmalar
Ders (Sınav haftaları dahil değildir) 14 3 42
Sınıf Dışı Ders Çalışma (Ön çalışma, pekiştirme) 14 5 70
Değerlendirmeler ile İlgili Çalışmalar
Ödev, Proje, Diğer 0 0 0
Ara Sınavlar (Yazılı, Sözlü, vs.) 1 14 14
Yarıyıl/Yıl Sonu/Final Sınavı 1 28 28
Toplam İş Yükü (Saat) 154
Toplam İş Yükü / 25 (s) 6,16
AKTS 6 AKTS