ΣΤΑΤΙΣΤΙΚΗ ΜΗΧΑΝΙΚΗ ΜΑΘΗΣΗ

Μαθησιακά Αποτελέσματα:

Μετά την επιτυχή ολοκλήρωση του μαθήματος, οι φοιτητές θα είναι σε θέση:

• Να γνωρίζουν τις αρχές και τις μεθόδους της στατιστικής θεωρίας της μάθησης και τη σχέση της με γνωστές προσεγγίσεις της μηχανικής μάθησης.
• Να κατανοούν τη στατιστική φύση των εννοιών και των μεθόδων της μηχανικής μάθησης και τη σχέση τους με την επεξεργασία των δεδομένων.
• Να κατανούν, να επιλέγουν και να εφαρμόζουν την καταλληλότερη μέθοδο μηχανικής μάθησης για να προσεγγίσουν συστηματικά και να επιλύσουν προβλήματα της επιστήμης και της τεχνολογίας.
• Να επιλέγουν και να εφαρμόζουν αποδοτικούς αλγορίθμους μηχανικής μάθησης για τη μοντελοποίηση δεδομένων και συστημάτων.
• Να αντιλαμβάνονται τα ανοιχτά προβλήματα στην περιοχή της μηχανικής μάθησης και της μοντελοποίησης των δεδομένων και των συστημάτων.
• Να διεξάγουν αποτελεσματική βιβλιογραφική αναζήτηση συσχετίζοντας τα ανοιχτά προβλήματα με τη βιβλιογραφία.
• Να αναγνωρίζουν και να διαχωρίζουν τα ερευνητικά ζητήματα από τα προβλήματα εφαρμογής.

Γενικές Ικανότητες:

• Προαγωγή ελεύθερης, δημιουργικής και επαγωγικής σκέψης.
• Αναζήτηση, ανάλυση και σύνθεση δεδομένων, τεχνικών και πληροφοριών, με τη χρήση και των απαραίτητων τεχνικών.
• Ανάπτυξη και τεκμηρίωση επιχειρημάτων με αξιοποίηση δομημένης μαθηματικής σκέψης.
• Συνδυαστική ανάλυση μεθόδων για επίλυση προβλημάτων.
• Λήψη αποφάσεων.
• Εργασία σε διεπιστημονικό περιβάλλον.
• Παραγωγή νέων ερευνητικών ιδεών.

Περιεχόμενο Μαθήματος:

• Βασικές στατιστικές τεχνικές στη μηχανική μάθηση: εκτίμηση πυκνότητας πιθανότητας, μοντέλα μείξης, εκτίμηση παραμέτρων, επιλογή μοντέλου.
• Μη-παραμετρική παλινδρόμηση. Μη-παραμετρικές τεχνικές εκτίμησης πυκνότητας πιθανότητας.
• Θεωρία αποφάσεων του Bayes. Μπεϋζιανή εκτίμηση πυκνότητας πιθανότητας.
• Μπεϋζιανή ταξινόμηση.
• Μηχανές διανυσμάτων υποστήριξης.
• Hidden Markov Models.
• Υλοποίηση αλγορίθμων σε περιβάλλον R, MATLAB/Octave.
• Ομαδοποίηση και στατιστικές τεχνικές (k-means, k-median).
• Ο αλγόριθμος DBSCAN.
• Bootstrap και Subsampling.
• Υλοποίηση αλγορίθμων σε περιβάλλον R, MATLAB/Octave.
• Μπεϋζιανή μάθηση και Νευρωνικά Δίκτυα. Πιθανοτικά νευρωνικά δίκτυα.
• Το πρόβλημα της Γενίκευσης. Το Δίλημμα Bias-Variance και η Διάσταση Vapnik – Chervonenkis.
• Στατιστική ερμηνεία του πολυεπίπεδου perceptron.
• Το No Free Lunch Theorem και η εφαρμογή του στη μηχανική μάθηση.
• Μετασχηματισμός Karhunen-Loeve.
• Ανάλυση σε Ιδιάζουσες Τιμές (Singular Value Decomposition ) και Ανάλυση σε Κύριες Συνιστώσες (Principal Component Analysis).
• Μείωση της διάστασης με χρήση θεωρίας γράφων. Ιδιοαπεικονίσεις Laplace. Τοπική γραμμική ενσωμάτωση, Ισομετρική απεικόνιση.
• Μείωση της Διάστασης με Αυτο-οργανούμενους Χάρτες Kohonen και Αυτο-συσχετιστικά Νευρωνικά Δίκτυα (Auto-associative Neural Networks).
• Πυρήνες Mercer, και reproducing kernel Hilbert spaces. Σχέση με μη-παραμετρική στατιστική. Ταξινόμηση βασισμένη σε πυρήνες. Μηχανές διανυσμάτων υποστήριξης: μη-γραμμική περίπτωση. Νευρωνικά δίκτυα ακτινικής βάσης. Δίκτυα perceptron με χρήση πυρήνων.