Περιγραφή θέματος

  • Ανακοινώσεις

  • Αυτό το θέμα

    Βασικές πληροφορίες μαθήματος

    Μεταπτυχιακό μάθημα, χειμερινό εξάμηνο, κωδικοί μαθήματος στα προγράμματα σπουδών: ΜΠΣ 316, ΔΣΑΚ Γ12, ΕΔΕΜΜ 852, ΕΜΕ 94125, Προτυποποίηση 9531

    Διάλεξη

    Πέμπτη 12:45-15:00 (Δ2 - Υβριδική διδασκαλία) Αιθ. 002. 

    Προσοχή! Η προσέλευση στη σχολή γίνεται υποχρεωτικά μόνο εφόσον έχει γίνει δήλωση edupass.

    Παρουσίαση και βιντεοσκόπηση. Τα αρχεία καταγραφών μεταφέρονται αυτόματα μετά την λήξη της διάλεξης στο tab "Files" στο MS Teams.
    Αρχείο βιντεοσκοπημένων διαλέξεων (SharePoint).

    Εργαστήριο

    Τρίτη 08:45-10:30 στο PC Lab της ΗΜΜΥ. Παρακαλούμε συμβουλευτείτε τη σχετική ενότητα παρακάτω.
    Αρχείο βιντεοσκοπημένων εργαστηρίων (SharePoint).

    Η παρακολούθηση του εργαστηρίου δεν είναι υποχρεωτική.

    MS Teams

    Κωδικός ΜS Teams: h1n9rgo

    Βαθμολογικό σχήμα

    • Τελική γραπτή εξέταση: 60%
    • Γραπτή πρόοδος: 20%
    • Εργασίες: 30%

    Συνολικά είναι διαθέσιμοι 11 πόντοι (ένας βαθμός bonus).

    Κανονισμοί απουσιών

    Η παρακολούθηση του μαθήματος είναι υποχρεωτική για όλους. Οι κανονισμοί διαφέρουν μεταξύ των προγραμμάτων. Παρακαλούμε συμβουλευτείτε τους κανονισμούς απουσιών που σας αφορούν.

    Διδακτέα - εξεταστέα ύλη

    Η διδακτέα και εξεταστέα ύλη είναι το σύνολο της ύλης των διαλέξεων και του εργαστηρίου.

    Μέτρα COVID19

    10 απλές οδηγίες για την προστασία μας στη διάρκεια του χειμερινού εξαμήνου 2021-2022 με δια ζώσης μαθήματα στη ΣΗΜΜΥ

    • Διαλέξεις

      • Διαλέξεις Φάκελος

        Στον φάκελο αυτό θα ανεβαίνουν σταδιακά οι διαφάνειες των διαλέξεων του μαθήματος. Οι βιντεοσκοπημένες διαλέξεις βρίσκονται στο MS Teams στο κανάλι "Διαλέξεις" στο tab "Files".

    • Εργαστήριο

      Παρακολούθηση έξτρα εργαστηρίου μηχανικής μάθησης (Τρίτη 8:45-10:30). Το εργαστήριο απευθύνεται σε όσους δεν έχουν χρησιμοποιήσει ποτέ βιβλιοθήκη μηχανικής μάθησης (πχ scikit-learn).  

      Το εργαστήριο μπορούν να το παρακολουθήσουν όλοι (όχι μόνο ΕΔΕΜΜ όπως αναφερόταν στην ανακοίνωση). Αν δεν έχετε ΑΜ ακόμα, απλά συμπληρώστε κάτι στο αντίστοιχο πεδίο της φόρμας.

      Το εργαστήριο γίνεται στην αίθουσα Α2 του PC Lab. To PC Lab βρίσκεται στα νέα κτίρια ηλεκτρολόγων, στην πτέρυγα Α' (Α' φάση, η αρίθμηση των αιθουσών ξεκινάει με "Α") στον πρώτο όροφο.  H μέγιστη χωριτικότητα της αίθουσας είναι 20 άτομα. Επιλέξτε παρακάτω τη μέρα που προτιμάτε να παραστείτε δια ζώσης.

      Το εργαστήριο θα μεταδίδεται και αυτό ζωντανά στο teams στο κανάλι "Εργαστήριο"¨.

    • Syllabus

      Το πρόβλημα της μάθησης: Είδη μηχανικής μάθησης. Επιβλεπόμενη μάθηση Ι: Βασικές έννοιες και αλγόριθμοι. Δεδομένα, πρόβλεψη και διασταυρούμενη επικύρωση. Είδη ταξινομητών, επιλογή μοντέλων, ανταλλαγή πόλωσης - διακύμανσης. Παραδείγματα ταξινομητών: αφελής Μπεϋζιανός, k-πλησιέστεροι γείτονες, λογιστική παλινδρόμηση. Δέντρα αποφάσεων. Τεχνικές και μεθοδολογίες: Εξαγωγή και επιλογή χαρακτηριστικών. PCA και μείωση διαστατικότητας. Υπερπροσαρμογή και ομαλοποίηση. Κυρτή βελτιστοποίηση. Επιβλεπόμενη μάθηση ΙΙ: Νευρωνικά Δίκτυα. Perceptron - Multiclass Perceptron. Νευρωνικά δίκτυα, κάθοδος κλίσης, backpropagation. Μη επιβλεπόμενη μάθηση: Ομαδοποίηση. Γκαουσιανά μείγματα και αλγόριθμος ΕΜ. Μέθοδοι δειγματοληψίας. Θεωρία της μάθησης: Μοντέλο μάθησης PAC και ενιαία σύγκλιση. Πολυπλοκότητα Rademacher και διάσταση VC. Επιβλεπόμενη μάθηση ΙΙI: Αλγόριθμοι και θεωρητικά αποτελέσματα. Μηχανές διανυσμάτων υποστήριξης & μέθοδοι πυρήνων. Παλινδρόμηση. Μέθοδοι συνόλων. Άλλα μαθησιακά μοντέλα:  Ημι-επιβλεπόμενη μάθηση. Επιγραμμική μάθηση (online learning). Ενισχυτική μάθηση. Κατηγοριοποίηση πολλών κλάσεων. Κατάταξη.

      • Βιβλιογραφία

        Κύρια textbooks

        • Simon Haykin - Neural Networks and Learning Machines - Prentice Hall, 3rd Edition (2008) - Simon Haykin, Νευρωνικά Δίκτυα και Μηχανική Μάθηση, Εκδόσεις Παπασωτηρίου, 2010
        • Christopher Bishop - Pattern Recognition And Machine Learning - Springer (2006)
        • Mehryar Mohri, Afshin Rostamizadeh, Ameet Talwalkar - Foundations of Machine Learning (second edition) - The MIT Press (2018)
        • Shai Shalev-Shwartz and Shai Ben-David - Understanding Machine Learning: From Theory to Algorithms - Cambridge University Press (2014)

        Συμπληρωματικά textbooks

        • Ian Goodfellow, Yoshua Bengio, and Aaron Courville - Deep learning. MIT press (2016)
        • Vladimir Vapnik - The Nature Of Statistical Learning (second edition) - Springer  (2010)

        Πρακτική Μηχανική Μάθηση

        • Raschka, Sebastian, and Vahid Mirjalili. Python Machine Learning, 3rd Ed. Packt Publishing (2019) - code repository
        • Géron, A. Hands-on machine learning with Scikit-Learn, Keras, and TensorFlow: Concepts, tools, and techniques to build intelligent systems. O'Reilly Media. (2019) - code repository

        Αντιστοίχιση ύλης - κεφαλαίων textbooks

          Haykin Bishop Mohri Shalev Goodfellow
        Supervised Learning   4 1 2,9  
        Model Selection     4 11  
        Perceptron 1 4 8 9  
        Regression   3 11,6 9,16  
        Clustering   9   22  
        Decision Trees     9 18  
        MLP 4 5   20  
        DFFN         6
        The PAC Learning Framework     2 3,4  
        SVM & Kernel Methods 6 7 5,6 15,16  
        Regularization   5 5 13  
        Rademacher Complexity - VC Dimension     3 26,6  
        Deep Learning Intro1         9
        Online Learning     8 21  
        Reinforcement Learning     17    
        Boosting     7 10  
        Multiclass Classification - Ranking     9,10 17
        1για το ResNet: Dive Into Deep Learning 7.6