Ders Detayı
Ders Tanımı
| Ders | Kodu | Yarıyıl | T+U Saat | Kredi | AKTS |
|---|---|---|---|---|---|
| DOĞAL DİL İŞLEMEYE GİRİŞ | - | Bahar Dönemi | 3+0 | 3 | 6 |
| Ders Programı |
| Ön Koşul Dersleri | |
| Önerilen Seçmeli Dersler |
| Dersin Dili | İngilizce |
| Dersin Seviyesi | Lisans |
| Dersin Türü | Programa Bağlı Seçmeli |
| Dersin Koordinatörü | Prof.Dr. Selim AKYOKUŞ |
| Dersi Verenler | Prof.Dr. Selim AKYOKUŞ |
| Dersin Yardımcıları | |
| Dersin Amacı | Doğal dil işleme (NLP) bilgi çağında çok önemli bir teknolojidir. Doğal dil işleme (NLP) alanındaki heyecan verici gelişmeler son zamanlarda ortaya çıkmış ve metin çevirisi, soru cevaplama ve sözlü konuşmalar gibi görevleri yerine getirebilen sistemlere olanak sağlamıştır. Bu ders, öğrencilere çeşitli NLP problemlerini çözmek için kullanılan standart çerçeveler, algoritmalar ve teknikler de dahil olmak üzere NLP hakkında temel bir anlayış sağlamayı amaçlamaktadır. Müfredat, dil modelleme, temsil öğrenme, metin sınıflandırma, dizi etiketleme, sözdizimsel ayrıştırma, makine çevirisi ve soru yanıtlama gibi konuları kapsayacak ve özellikle son derin öğrenme yaklaşımlarına odaklanacaktır. Bu ders sayesinde öğrenciler, NLP kavramları, yöntemleri, algoritmaları, uygulamaları ve NLP için derin öğrenme alanındaki son teknoloji yöntem araştırmalarına kapsamlı bir giriş yapacaklardır. |
| Dersin İçeriği | Bu ders; Doğal Dil İşlemeye (DDİ) Giriş,Linguistik Temeler, Regular Exp., Metin Normalizasyonu, Düzenleme Mesafesi,N-gram Modeller,Makine Öğrenmesi Temelleri, Metin Sınıflandırma, Naive Bayes ve Lojistik Regresyon,Vektör Anlambilimi ve Yoğun Sözcük Gömüleri,Yapay Sinir Ağları ve Nöral Dil Modelleri,Konuşma Parçaları ve Adlandırılmış Varlıklar için Sıra Etiketleme,Sınav Haftası,RNNs and LSTMs,Dönüştürücüler ve Önceden Eğitilmiş Dil Modelleri, İnce Ayar ve Maskelenmiş Dil Modelleri,Makine Çevirisi, Soru Yanıtlama ve Bilgi Edinme,Sohbet Robotları ve Diyalog Sistemleri, Otomatik Konuşma Tanıma ve Metinden Konuşmaya Dönüşüm,Bağlamdan Bağımsız Dilbilgileri, Oluşum Ayrıştırma, Bağımlılık Ayrıştırma, Cümle Anlamının Mantıksal Gösterimleri,Konu Tekrarı ve Proje Sunumları; konularını içermektedir. |
| Dersin Öğrenme Kazanımları | Öğretim Yöntemleri | Ölçme Yöntemleri |
| NLP'de gerçek dünyadaki bir problemi alt problemlere ayırma, temel NLP'yi yürütmek için mevcut doğal dil işleme araçlarını kullanma ve potansiyel çözümleri belirleme. | 11 | A, F |
| NLP'de makine öğrenimi tekniklerinin ve derin öğrenme modellerinin ana kullanımları hakkında bilgi edinme. | A, F, G | |
| Metin temsili, temsil öğrenme teknikleri, metin madenciliği, dil modelleme ve benzerlik tespiti gibi NLP alt problemlerinin üstesinden gelmek için en son yöntemleri açıklamak ve çeşitli doğal dil işleme görevleri ve uygulamaları için yöntemler ve metrikler hakkında bir anlayış kazanmak. | A, F, G | |
| Kök çıkarma, n-gramlar, POS etiketleme ve ayrıştırma dahil olmak üzere doğal dil işleme (NLP) kavramlarını ve yöntemlerini kullanarak metinden otomatik olarak bilgi ayıklama. | A, E, F | |
| NLP'deki çok çeşitli kavramlar ve görevler olan terminolojiyi anlama. | A, G |
| Öğretim Yöntemleri: | 11: Gösterip Yapma Yöntemi |
| Ölçme Yöntemleri: | A: Klasik Yazılı Sınav, E: Ödev, F: Proje Görevi, G: Kısa Sınav |
Ders Akışı
| Sıra | Konular | Ön Hazırlık |
|---|---|---|
| 1 | Doğal Dil İşlemeye (DDİ) Giriş | Ch 1 |
| 2 | Linguistik Temeler, Regular Exp., Metin Normalizasyonu, Düzenleme Mesafesi | Ch 2 |
| 3 | N-gram Modeller | Ch 3 |
| 4 | Makine Öğrenmesi Temelleri, Metin Sınıflandırma, Naive Bayes ve Lojistik Regresyon | Ch 4, 5 |
| 5 | Vektör Anlambilimi ve Yoğun Sözcük Gömüleri | Ch 6 |
| 6 | Yapay Sinir Ağları ve Nöral Dil Modelleri | Ch 7 |
| 7 | Konuşma Parçaları ve Adlandırılmış Varlıklar için Sıra Etiketleme | Ch 8 |
| 8 | Sınav Haftası | Ch 1-8 |
| 9 | RNNs and LSTMs | Ch 9 |
| 10 | Dönüştürücüler ve Önceden Eğitilmiş Dil Modelleri, İnce Ayar ve Maskelenmiş Dil Modelleri | Ch 10, 11 |
| 11 | Makine Çevirisi, Soru Yanıtlama ve Bilgi Edinme | Ch 13, 14 |
| 12 | Sohbet Robotları ve Diyalog Sistemleri, Otomatik Konuşma Tanıma ve Metinden Konuşmaya Dönüşüm | Sohbet Robotları ve Diyalog Sistemleri, Otomatik Konuşma Tanıma ve Metinden Konuşmaya |
| 13 | Bağlamdan Bağımsız Dilbilgileri, Oluşum Ayrıştırma, Bağımlılık Ayrıştırma, Cümle Anlamının Mantıksal Gösterimleri | Ch 17, 18, 19 |
| 14 | Konu Tekrarı ve Proje Sunumları |
| Kaynak |
| - Speech and Language Processing, D.Jurafsky, J.H.Martin, 3rd Edition, Pearson-Prentice Hall. - Foundations of Statistical Natural Language Processing, C.D.Manning, H.Schütze, MIT Press, 2002. - Jacob Eisenstein, Introduction to Natural Language Processing, 2019. |
| - Yoav Goldberg. A Primer on Neural Network Models for Natural Language Processing - Ian Goodfellow, Yoshua Bengio, and Aaron Courville. Deep Learning - Delip Rao and Brian McMahan. Natural Language Processing with PyTorch - Lewis Tunstall, Leandro von Werra, and Thomas Wolf. Natural Language Processing with Transformers |
Dersin Program Yeterliliklerine Katkısı
| Dersin Program Yeterliliklerine Katkısı | |||||||
| No | Program Yeterliliği | Katkı Düzeyi | |||||
| 1 | 2 | 3 | 4 | 5 | |||
| 1 | 1. Matematik, fen bilimleri ve ilgili mühendislik disiplinine özgü konularda yeterli bilgi birikimi; bu alanlardaki kuramsal ve uygulamalı bilgileri, karmaşık mühendislik problemlerinde kullanabilme becerisi | X | |||||
| 2 | 2. Karmaşık mühendislik problemlerini saptama, tanımlama, formüle etme ve çözme becerisi; bu amaçla uygun analiz ve modelleme yöntemlerini seçme ve uygulama becerisi | X | |||||
| 3 | 3. Karmaşık bir sistemi, süreci, cihazı veya ürünü gerçekçi kısıtlar ve koşullar altında, belirli gereksinimleri karşılayacak şekilde tasarlama becerisi; bu amaçla modern tasarım yöntemlerini uygulama becerisi | X | |||||
| 4 | 4. Mühendislik uygulamalarında karşılaşılan karmaşık problemlerin analizi ve çözümü için gerekli olan modern teknik ve araçları geliştirme, seçme ve kullanma becerisi; bilişim teknolojilerini etkin bir şekilde kullanma becerisi | X | |||||
| 5 | 5. Karmaşık mühendislik problemlerinin veya disipline özgü araştırma konularının incelenmesi için deney tasarlama, deney yapma, veri toplama, sonuçları analiz etme ve yorumlama becerisi | X | |||||
| 6 | 6. Disiplin içi ve çok disiplinli takımlarda etkin biçimde çalışabilme becerisi; bireysel çalışma becerisi | X | |||||
| 7 | 7. Sözlü ve yazılı etkin iletişim kurma becerisi; en az bir yabancı dil bilgisi; etkin rapor yazma ve yazılı raporları anlama, tasarım ve üretim raporları hazırlayabilme, etkin sunum yapabilme, açık ve anlaşılır talimat verme ve alma becerisi | X | |||||
| 8 | 8. Yaşam boyu öğrenmenin gerekliliği bilinci; bilgiye erişebilme, bilim ve teknolojideki gelişmeleri izleme ve kendini sürekli yenileme becerisi | X | |||||
| 9 | 9. Etik ilkelerine uygun davranma, mesleki ve etik sorumluluk bilinci; mühendislik uygulamalarında kullanılan standartlar hakkında bilgi | X | |||||
| 10 | 10. Proje yönetimi, risk yönetimi ve değişiklik yönetimi gibi, iş hayatındaki uygulamalar hakkında bilgi; girişimcilik, yenilikçilik hakkında farkındalık; sürdürülebilir kalkınma hakkında bilgi | ||||||
| 11 | 11. Mühendislik uygulamalarının evrensel ve toplumsal boyutlarda sağlık, çevre ve güvenlik üzerindeki etkileri ve çağın mühendislik alanına yansıyan sorunları hakkında bilgi; mühendislik çözümlerinin hukuksal sonuçları konusunda farkındalık | X | |||||
Değerlendirme Sistemi
| Katkı Düzeyi | Mutlak Değerlendirme | |
| Ara Sınavın Başarıya Oranı | 30 | |
| Genel Sınavın Başarıya Oranı | 70 | |
| Toplam | 100 | |
| AKTS / İşyükü Tablosu | ||||||
| Etkinlik | Sayı | Süresi (Saat) | Toplam İş Yükü (Saat) | |||
| Ders Saati | 14 | 3 | 42 | |||
| Rehberli Problem Çözme | 0 | 0 | 0 | |||
| Problem Çözümü / Ödev / Proje / Rapor Tanzimi | 6 | 12 | 72 | |||
| Okul Dışı Diğer Faaliyetler | 0 | 0 | 0 | |||
| Proje Sunumu / Seminer | 2 | 8 | 16 | |||
| Kısa Sınav (QUİZ) ve Hazırlığı | 0 | 0 | 0 | |||
| Ara Sınav ve Hazırlığı | 2 | 10 | 20 | |||
| Genel Sınav ve Hazırlığı | 3 | 10 | 30 | |||
| Performans Görevi, Bakım Planı | 0 | 0 | 0 | |||
| Toplam İş Yükü (Saat) | 180 | |||||
| Dersin AKTS Kredisi = Toplam İş Yükü (Saat)/30*=(180/30) | 6 | |||||
| Dersin AKTS Kredisi: *30 saatlik çalışma 1 AKTS kredisi sayılmaktadır. | ||||||
Dersin Detaylı Bilgileri
Ders Tanımı
| Ders | Kodu | Yarıyıl | T+U Saat | Kredi | AKTS |
|---|---|---|---|---|---|
| DOĞAL DİL İŞLEMEYE GİRİŞ | - | Bahar Dönemi | 3+0 | 3 | 6 |
| Ders Programı |
| Ön Koşul Dersleri | |
| Önerilen Seçmeli Dersler |
| Dersin Dili | İngilizce |
| Dersin Seviyesi | Lisans |
| Dersin Türü | Programa Bağlı Seçmeli |
| Dersin Koordinatörü | Prof.Dr. Selim AKYOKUŞ |
| Dersi Verenler | Prof.Dr. Selim AKYOKUŞ |
| Dersin Yardımcıları | |
| Dersin Amacı | Doğal dil işleme (NLP) bilgi çağında çok önemli bir teknolojidir. Doğal dil işleme (NLP) alanındaki heyecan verici gelişmeler son zamanlarda ortaya çıkmış ve metin çevirisi, soru cevaplama ve sözlü konuşmalar gibi görevleri yerine getirebilen sistemlere olanak sağlamıştır. Bu ders, öğrencilere çeşitli NLP problemlerini çözmek için kullanılan standart çerçeveler, algoritmalar ve teknikler de dahil olmak üzere NLP hakkında temel bir anlayış sağlamayı amaçlamaktadır. Müfredat, dil modelleme, temsil öğrenme, metin sınıflandırma, dizi etiketleme, sözdizimsel ayrıştırma, makine çevirisi ve soru yanıtlama gibi konuları kapsayacak ve özellikle son derin öğrenme yaklaşımlarına odaklanacaktır. Bu ders sayesinde öğrenciler, NLP kavramları, yöntemleri, algoritmaları, uygulamaları ve NLP için derin öğrenme alanındaki son teknoloji yöntem araştırmalarına kapsamlı bir giriş yapacaklardır. |
| Dersin İçeriği | Bu ders; Doğal Dil İşlemeye (DDİ) Giriş,Linguistik Temeler, Regular Exp., Metin Normalizasyonu, Düzenleme Mesafesi,N-gram Modeller,Makine Öğrenmesi Temelleri, Metin Sınıflandırma, Naive Bayes ve Lojistik Regresyon,Vektör Anlambilimi ve Yoğun Sözcük Gömüleri,Yapay Sinir Ağları ve Nöral Dil Modelleri,Konuşma Parçaları ve Adlandırılmış Varlıklar için Sıra Etiketleme,Sınav Haftası,RNNs and LSTMs,Dönüştürücüler ve Önceden Eğitilmiş Dil Modelleri, İnce Ayar ve Maskelenmiş Dil Modelleri,Makine Çevirisi, Soru Yanıtlama ve Bilgi Edinme,Sohbet Robotları ve Diyalog Sistemleri, Otomatik Konuşma Tanıma ve Metinden Konuşmaya Dönüşüm,Bağlamdan Bağımsız Dilbilgileri, Oluşum Ayrıştırma, Bağımlılık Ayrıştırma, Cümle Anlamının Mantıksal Gösterimleri,Konu Tekrarı ve Proje Sunumları; konularını içermektedir. |
| Dersin Öğrenme Kazanımları | Öğretim Yöntemleri | Ölçme Yöntemleri |
| NLP'de gerçek dünyadaki bir problemi alt problemlere ayırma, temel NLP'yi yürütmek için mevcut doğal dil işleme araçlarını kullanma ve potansiyel çözümleri belirleme. | 11 | A, F |
| NLP'de makine öğrenimi tekniklerinin ve derin öğrenme modellerinin ana kullanımları hakkında bilgi edinme. | A, F, G | |
| Metin temsili, temsil öğrenme teknikleri, metin madenciliği, dil modelleme ve benzerlik tespiti gibi NLP alt problemlerinin üstesinden gelmek için en son yöntemleri açıklamak ve çeşitli doğal dil işleme görevleri ve uygulamaları için yöntemler ve metrikler hakkında bir anlayış kazanmak. | A, F, G | |
| Kök çıkarma, n-gramlar, POS etiketleme ve ayrıştırma dahil olmak üzere doğal dil işleme (NLP) kavramlarını ve yöntemlerini kullanarak metinden otomatik olarak bilgi ayıklama. | A, E, F | |
| NLP'deki çok çeşitli kavramlar ve görevler olan terminolojiyi anlama. | A, G |
| Öğretim Yöntemleri: | 11: Gösterip Yapma Yöntemi |
| Ölçme Yöntemleri: | A: Klasik Yazılı Sınav, E: Ödev, F: Proje Görevi, G: Kısa Sınav |
Ders Akışı
| Sıra | Konular | Ön Hazırlık |
|---|---|---|
| 1 | Doğal Dil İşlemeye (DDİ) Giriş | Ch 1 |
| 2 | Linguistik Temeler, Regular Exp., Metin Normalizasyonu, Düzenleme Mesafesi | Ch 2 |
| 3 | N-gram Modeller | Ch 3 |
| 4 | Makine Öğrenmesi Temelleri, Metin Sınıflandırma, Naive Bayes ve Lojistik Regresyon | Ch 4, 5 |
| 5 | Vektör Anlambilimi ve Yoğun Sözcük Gömüleri | Ch 6 |
| 6 | Yapay Sinir Ağları ve Nöral Dil Modelleri | Ch 7 |
| 7 | Konuşma Parçaları ve Adlandırılmış Varlıklar için Sıra Etiketleme | Ch 8 |
| 8 | Sınav Haftası | Ch 1-8 |
| 9 | RNNs and LSTMs | Ch 9 |
| 10 | Dönüştürücüler ve Önceden Eğitilmiş Dil Modelleri, İnce Ayar ve Maskelenmiş Dil Modelleri | Ch 10, 11 |
| 11 | Makine Çevirisi, Soru Yanıtlama ve Bilgi Edinme | Ch 13, 14 |
| 12 | Sohbet Robotları ve Diyalog Sistemleri, Otomatik Konuşma Tanıma ve Metinden Konuşmaya Dönüşüm | Sohbet Robotları ve Diyalog Sistemleri, Otomatik Konuşma Tanıma ve Metinden Konuşmaya |
| 13 | Bağlamdan Bağımsız Dilbilgileri, Oluşum Ayrıştırma, Bağımlılık Ayrıştırma, Cümle Anlamının Mantıksal Gösterimleri | Ch 17, 18, 19 |
| 14 | Konu Tekrarı ve Proje Sunumları |
| Kaynak |
| - Speech and Language Processing, D.Jurafsky, J.H.Martin, 3rd Edition, Pearson-Prentice Hall. - Foundations of Statistical Natural Language Processing, C.D.Manning, H.Schütze, MIT Press, 2002. - Jacob Eisenstein, Introduction to Natural Language Processing, 2019. |
| - Yoav Goldberg. A Primer on Neural Network Models for Natural Language Processing - Ian Goodfellow, Yoshua Bengio, and Aaron Courville. Deep Learning - Delip Rao and Brian McMahan. Natural Language Processing with PyTorch - Lewis Tunstall, Leandro von Werra, and Thomas Wolf. Natural Language Processing with Transformers |
Dersin Program Yeterliliklerine Katkısı
| Dersin Program Yeterliliklerine Katkısı | |||||||
| No | Program Yeterliliği | Katkı Düzeyi | |||||
| 1 | 2 | 3 | 4 | 5 | |||
| 1 | 1. Matematik, fen bilimleri ve ilgili mühendislik disiplinine özgü konularda yeterli bilgi birikimi; bu alanlardaki kuramsal ve uygulamalı bilgileri, karmaşık mühendislik problemlerinde kullanabilme becerisi | X | |||||
| 2 | 2. Karmaşık mühendislik problemlerini saptama, tanımlama, formüle etme ve çözme becerisi; bu amaçla uygun analiz ve modelleme yöntemlerini seçme ve uygulama becerisi | X | |||||
| 3 | 3. Karmaşık bir sistemi, süreci, cihazı veya ürünü gerçekçi kısıtlar ve koşullar altında, belirli gereksinimleri karşılayacak şekilde tasarlama becerisi; bu amaçla modern tasarım yöntemlerini uygulama becerisi | X | |||||
| 4 | 4. Mühendislik uygulamalarında karşılaşılan karmaşık problemlerin analizi ve çözümü için gerekli olan modern teknik ve araçları geliştirme, seçme ve kullanma becerisi; bilişim teknolojilerini etkin bir şekilde kullanma becerisi | X | |||||
| 5 | 5. Karmaşık mühendislik problemlerinin veya disipline özgü araştırma konularının incelenmesi için deney tasarlama, deney yapma, veri toplama, sonuçları analiz etme ve yorumlama becerisi | X | |||||
| 6 | 6. Disiplin içi ve çok disiplinli takımlarda etkin biçimde çalışabilme becerisi; bireysel çalışma becerisi | X | |||||
| 7 | 7. Sözlü ve yazılı etkin iletişim kurma becerisi; en az bir yabancı dil bilgisi; etkin rapor yazma ve yazılı raporları anlama, tasarım ve üretim raporları hazırlayabilme, etkin sunum yapabilme, açık ve anlaşılır talimat verme ve alma becerisi | X | |||||
| 8 | 8. Yaşam boyu öğrenmenin gerekliliği bilinci; bilgiye erişebilme, bilim ve teknolojideki gelişmeleri izleme ve kendini sürekli yenileme becerisi | X | |||||
| 9 | 9. Etik ilkelerine uygun davranma, mesleki ve etik sorumluluk bilinci; mühendislik uygulamalarında kullanılan standartlar hakkında bilgi | X | |||||
| 10 | 10. Proje yönetimi, risk yönetimi ve değişiklik yönetimi gibi, iş hayatındaki uygulamalar hakkında bilgi; girişimcilik, yenilikçilik hakkında farkındalık; sürdürülebilir kalkınma hakkında bilgi | ||||||
| 11 | 11. Mühendislik uygulamalarının evrensel ve toplumsal boyutlarda sağlık, çevre ve güvenlik üzerindeki etkileri ve çağın mühendislik alanına yansıyan sorunları hakkında bilgi; mühendislik çözümlerinin hukuksal sonuçları konusunda farkındalık | X | |||||
Değerlendirme Sistemi
| Katkı Düzeyi | Mutlak Değerlendirme | |
| Ara Sınavın Başarıya Oranı | 30 | |
| Genel Sınavın Başarıya Oranı | 70 | |
| Toplam | 100 | |