Dersin Amacı Bu dersin amacı, doğal dil işleme alanındaki en yeni araştırma alanlarını yeterli derinlikte incelemektir. Kursun sonunda katılımcılar, seçtikleri konulardaki araştırmalara aktif olarak katkıda bulunabilecek donanıma sahip olacaklardır. Bu ders, bilgisayar bilimleri/mühendisliği lisansüstü öğrencilerine yöneliktir. Ders, öğrencilerin makine öğrenimi konusunda temel bilgiye ve doğal dil işleme konusunda önceden deneyime veya ders aldıklarını olduklarını varsaymaktadır. İşlenen konular doğal dil anlama, temsil öğrenimi, bağlamsal temsiller, çoklu görev öğrenimi, çoklu modalitelerden öğrenme, derin üretken modeller, pekiştirmeli öğrenme, üretken düşmanca öğrenme, NLP yöntemleri ve metriklerini kapsamaktadır. Her yıl için konuların spesifik listesi, öğretim üyesi ve doğal dil işleme araştırmalarındaki hâkim eğilimlere bağlı olacak ve ayrıntılar ders sırasında duyurulacaktır.
Dersin İçeriği
Bu ders; Doğal dil anlayışı,Temsil öğrenimi,Bağlamsal temsil modelleri,Anlamsal ve sözdizimsel ayrıştırma,Soru cevaplama,Makine çevirisi,Sınav haftası,Çoklu görev öğrenimi, Çoklu modalitelerden öğrenme,Dil üretimi,Derin üretken modeller,Büyük dil modelleri,Pekiştirmeli öğrenme,Üretken çekişmeli öğrenme,Proje/araştırma sunumları; konularını içermektedir.
Dersin Öğrenme Kazanımları
Öğretim Yöntemleri
Ölçme Yöntemleri
1 - Öğrenme algoritmalarının tasarımına ve öğrenme algoritmalarının değerlendirilmesine odaklanarak doğal dil işlemede seçilen ileri konular tanımlar.
2
E
2 - Doğal dil işleme alanındaki güncel bilimsel literatürü okuma ve anlama, bilimsel makaleleri okuyarak elde edilen bilgileri uygulama, yöntemleri tartışma ve karşılaştırma ve potansiyellerini ve eksikliklerini değerlendirme becerisini geliştirmek
16, 2
D, F
3 - İleri yöntemler hakkında kapsamlı bir anlayış kazanarak bu bilgileri pratik problemlerin çözümlerine uygular
12, 14, 21, 6, 9
A, D, G
4 - Doğal dil işleme alanında seçilen bir ilgi alanında araştırma projeleri yürütür.
14, 2
F
Öğretim Yöntemleri:
12: Problem Çözme Yöntemi, 14: Bireysel Çalışma Yöntemi, 16: Soru - Cevap Tekniği , 2: Proje Temelli Öğrenme Modeli, 21: Benzetim/Simülasyon Tekniği, 6: Deneyimle Öğrenme Modeli, 9: Anlatım Yöntemi
Ölçme Yöntemleri:
A: Klasik Yazılı Sınav, D: Sözlü Sınav, E: Ödev, F: Proje Görevi, G: Kısa Sınav
Ders Akışı
Sıra
Konular
Ön Hazırlık
1
Doğal dil anlayışı
2
Temsil öğrenimi
3
Bağlamsal temsil modelleri
4
Anlamsal ve sözdizimsel ayrıştırma
5
Soru cevaplama
6
Makine çevirisi
7
Sınav haftası
8
Çoklu görev öğrenimi, Çoklu modalitelerden öğrenme
9
Dil üretimi
10
Derin üretken modeller
11
Büyük dil modelleri
12
Pekiştirmeli öğrenme
13
Üretken çekişmeli öğrenme
14
Proje/araştırma sunumları
Kaynak
- Eisenstein (2019), Introduction to Natural Language Processing.
- Jurafsky and Martin (~2021), Speech and Language Processing.
- Manning and Schütze, Foundations of Statistical NLP.
- Murphy, Machine Learning: a Probabilistic Perspective
- Goodfellow, Bengio and Courville (2016), Deep Learning.
- Bird et al, NLP with Python, a.k.a. the NLTK book.
- Lewis Tunstall, Leandro von Werra, and Thomas Wolf. Natural Language Processing with Transformers
- Selected Papers.
Dersin Program Yeterliliklerine Katkısı
Dersin Program Yeterliliklerine Katkısı
No
Program Yeterliliği
Katkı Düzeyi
1
2
3
4
5
1
Temel bilimleri, matematik ve mühendislik bilimlerini üst düzeyde anlar ve uygular, alanında en son gelişmeler dahil olmak üzere genişlemesine ve derinlemesine bilgi sahibidir.
X
2
Mühendisliğin ilişkili olduğu disiplinler arası etkileşimi kavrar, yeni ve karmaşık fikirleri analiz, sentez ve değerlendirmede uzmanlık gerektiren bilgileri kullanarak özgün sonuçlara ulaşır.
X
3
Bir alanda en yeni bilgilere ulaşır ve bunları kavrayarak araştırma yapabilmek için gerekli yöntem ve becerilerde üst düzeyde yeterliğe sahiptir.
X
4
Bilime veya teknolojiye yenilik getiren, yeni bir bilimsel yöntem veya teknolojik ürün/süreç geliştiren ya da bilinen bir yöntemi yeni bir alana uygulayan kapsamlı bir çalışma yapar.
5
Akademik çalışmalarının çıktılarını saygın akademik ortamlarda yayınlayarak bilim ve teknoloji literatürüne katkıda bulunur.
X
6
Bilimsel, teknolojik, sosyal ve kültürel gelişmeleri değerlendirerek bilimsel tarafsızlık ve etik sorumluluk bilinciyle topluma aktarır.
7
Özgün bir araştırma sürecini bağımsız olarak algılar, tasarlar, uygular ve sonuçlandırır; bu süreci yönetir.
X
8
Bilimsel bilgi birikimini yazılı ve sözlü olarak etkin bir şekilde ifade eder, en az bir yabancı dilde Avrupa Dil Portföyü C1 Genel Düzeyinde iletişim kurar ve iletişim teknolojilerini ileri düzeyde kullanır
X
9
Uzmanlık alanındaki fikirlerin ve gelişmelerin eleştirel analizini, sentezini ve değerlendirmesini yapar.
X
10
Mühendislik alanındaki bilimsel, teknolojik, sosyal veya kültürel ilerlemeleri tanıtır, yaşadığı toplumun bilgi toplumu olma ve bunu sürdürebilme sürecine katkıda bulunur ve toplumsal, bilimsel, kültürel ve etik değerlerin gelişimini destekler.
X
Değerlendirme Sistemi
Katkı Düzeyi
Mutlak Değerlendirme
Ara Sınavın Başarıya Oranı
50
Genel Sınavın Başarıya Oranı
50
Toplam
100
AKTS / İşyükü Tablosu
Etkinlik
Sayı
Süresi (Saat)
Toplam İş Yükü (Saat)
Ders Saati
14
3
42
Rehberli Problem Çözme
0
0
0
Problem Çözümü / Ödev / Proje / Rapor Tanzimi
10
2
20
Okul Dışı Diğer Faaliyetler
0
0
0
Proje Sunumu / Seminer
8
10
80
Kısa Sınav (QUİZ) ve Hazırlığı
6
3
18
Ara Sınav ve Hazırlığı
1
30
30
Genel Sınav ve Hazırlığı
1
50
50
Performans Görevi, Bakım Planı
0
0
0
Toplam İş Yükü (Saat)
240
Dersin AKTS Kredisi = Toplam İş Yükü (Saat)/30*=(240/30)
8
Dersin AKTS Kredisi: *30 saatlik çalışma 1 AKTS kredisi sayılmaktadır.
Dersin Detaylı Bilgileri
Ders Tanımı
Ders
Kodu
Yarıyıl
T+U Saat
Kredi
AKTS
DOĞAL DİL İŞLEMEDE İLERİ KONULAR
COED1213993
Bahar Dönemi
3+0
3
8
Ders Programı
Ön Koşul Dersleri
Önerilen Seçmeli Dersler
Dersin Dili
İngilizce
Dersin Seviyesi
Doktora
Dersin Türü
Programa Bağlı Seçmeli
Dersin Koordinatörü
Prof.Dr. Reda ALHAJJ
Dersi Verenler
Prof.Dr. Reda ALHAJJ
Dersin Yardımcıları
Dersin Amacı
Dersin Amacı Bu dersin amacı, doğal dil işleme alanındaki en yeni araştırma alanlarını yeterli derinlikte incelemektir. Kursun sonunda katılımcılar, seçtikleri konulardaki araştırmalara aktif olarak katkıda bulunabilecek donanıma sahip olacaklardır. Bu ders, bilgisayar bilimleri/mühendisliği lisansüstü öğrencilerine yöneliktir. Ders, öğrencilerin makine öğrenimi konusunda temel bilgiye ve doğal dil işleme konusunda önceden deneyime veya ders aldıklarını olduklarını varsaymaktadır. İşlenen konular doğal dil anlama, temsil öğrenimi, bağlamsal temsiller, çoklu görev öğrenimi, çoklu modalitelerden öğrenme, derin üretken modeller, pekiştirmeli öğrenme, üretken düşmanca öğrenme, NLP yöntemleri ve metriklerini kapsamaktadır. Her yıl için konuların spesifik listesi, öğretim üyesi ve doğal dil işleme araştırmalarındaki hâkim eğilimlere bağlı olacak ve ayrıntılar ders sırasında duyurulacaktır.
Dersin İçeriği
Bu ders; Doğal dil anlayışı,Temsil öğrenimi,Bağlamsal temsil modelleri,Anlamsal ve sözdizimsel ayrıştırma,Soru cevaplama,Makine çevirisi,Sınav haftası,Çoklu görev öğrenimi, Çoklu modalitelerden öğrenme,Dil üretimi,Derin üretken modeller,Büyük dil modelleri,Pekiştirmeli öğrenme,Üretken çekişmeli öğrenme,Proje/araştırma sunumları; konularını içermektedir.
Dersin Öğrenme Kazanımları
Öğretim Yöntemleri
Ölçme Yöntemleri
1 - Öğrenme algoritmalarının tasarımına ve öğrenme algoritmalarının değerlendirilmesine odaklanarak doğal dil işlemede seçilen ileri konular tanımlar.
2
E
2 - Doğal dil işleme alanındaki güncel bilimsel literatürü okuma ve anlama, bilimsel makaleleri okuyarak elde edilen bilgileri uygulama, yöntemleri tartışma ve karşılaştırma ve potansiyellerini ve eksikliklerini değerlendirme becerisini geliştirmek
16, 2
D, F
3 - İleri yöntemler hakkında kapsamlı bir anlayış kazanarak bu bilgileri pratik problemlerin çözümlerine uygular
12, 14, 21, 6, 9
A, D, G
4 - Doğal dil işleme alanında seçilen bir ilgi alanında araştırma projeleri yürütür.
14, 2
F
Öğretim Yöntemleri:
12: Problem Çözme Yöntemi, 14: Bireysel Çalışma Yöntemi, 16: Soru - Cevap Tekniği , 2: Proje Temelli Öğrenme Modeli, 21: Benzetim/Simülasyon Tekniği, 6: Deneyimle Öğrenme Modeli, 9: Anlatım Yöntemi
Ölçme Yöntemleri:
A: Klasik Yazılı Sınav, D: Sözlü Sınav, E: Ödev, F: Proje Görevi, G: Kısa Sınav
Ders Akışı
Sıra
Konular
Ön Hazırlık
1
Doğal dil anlayışı
2
Temsil öğrenimi
3
Bağlamsal temsil modelleri
4
Anlamsal ve sözdizimsel ayrıştırma
5
Soru cevaplama
6
Makine çevirisi
7
Sınav haftası
8
Çoklu görev öğrenimi, Çoklu modalitelerden öğrenme
9
Dil üretimi
10
Derin üretken modeller
11
Büyük dil modelleri
12
Pekiştirmeli öğrenme
13
Üretken çekişmeli öğrenme
14
Proje/araştırma sunumları
Kaynak
- Eisenstein (2019), Introduction to Natural Language Processing.
- Jurafsky and Martin (~2021), Speech and Language Processing.
- Manning and Schütze, Foundations of Statistical NLP.
- Murphy, Machine Learning: a Probabilistic Perspective
- Goodfellow, Bengio and Courville (2016), Deep Learning.
- Bird et al, NLP with Python, a.k.a. the NLTK book.
- Lewis Tunstall, Leandro von Werra, and Thomas Wolf. Natural Language Processing with Transformers
- Selected Papers.
Dersin Program Yeterliliklerine Katkısı
Dersin Program Yeterliliklerine Katkısı
No
Program Yeterliliği
Katkı Düzeyi
1
2
3
4
5
1
Temel bilimleri, matematik ve mühendislik bilimlerini üst düzeyde anlar ve uygular, alanında en son gelişmeler dahil olmak üzere genişlemesine ve derinlemesine bilgi sahibidir.
X
2
Mühendisliğin ilişkili olduğu disiplinler arası etkileşimi kavrar, yeni ve karmaşık fikirleri analiz, sentez ve değerlendirmede uzmanlık gerektiren bilgileri kullanarak özgün sonuçlara ulaşır.
X
3
Bir alanda en yeni bilgilere ulaşır ve bunları kavrayarak araştırma yapabilmek için gerekli yöntem ve becerilerde üst düzeyde yeterliğe sahiptir.
X
4
Bilime veya teknolojiye yenilik getiren, yeni bir bilimsel yöntem veya teknolojik ürün/süreç geliştiren ya da bilinen bir yöntemi yeni bir alana uygulayan kapsamlı bir çalışma yapar.
5
Akademik çalışmalarının çıktılarını saygın akademik ortamlarda yayınlayarak bilim ve teknoloji literatürüne katkıda bulunur.
X
6
Bilimsel, teknolojik, sosyal ve kültürel gelişmeleri değerlendirerek bilimsel tarafsızlık ve etik sorumluluk bilinciyle topluma aktarır.
7
Özgün bir araştırma sürecini bağımsız olarak algılar, tasarlar, uygular ve sonuçlandırır; bu süreci yönetir.
X
8
Bilimsel bilgi birikimini yazılı ve sözlü olarak etkin bir şekilde ifade eder, en az bir yabancı dilde Avrupa Dil Portföyü C1 Genel Düzeyinde iletişim kurar ve iletişim teknolojilerini ileri düzeyde kullanır
X
9
Uzmanlık alanındaki fikirlerin ve gelişmelerin eleştirel analizini, sentezini ve değerlendirmesini yapar.
X
10
Mühendislik alanındaki bilimsel, teknolojik, sosyal veya kültürel ilerlemeleri tanıtır, yaşadığı toplumun bilgi toplumu olma ve bunu sürdürebilme sürecine katkıda bulunur ve toplumsal, bilimsel, kültürel ve etik değerlerin gelişimini destekler.
