Εντροπία, σχετική εντροπία και αμοιβαία πληροφορία, ιδιότητα της ασυμπτωματικής ισοκατανομής, ρυθμοί εντροπίας στοχαστικών διεργασιών, συμπίεση δεδομένων, τυχερά παίγνια και συμπίεση δεδομένων, χωρητικότητα διαύλου, διαφορική εντροπία, δίαυλος Gauss, θεωρία ρυθμού-παραμόρφωσης, θεωρία πληροφορίας και στατιστική, μέγιστη εντροπία, καθολική κωδικοποίηση πηγής, πολυπλοκότητα Kolmogorov, δικτυακή θεωρία πληροφορίας, θεωρία πληροφορίας και θεωρία χαρτοφυλακίου, ανισότητες της θεωρίας πληροφορίας.


Περιγραφή : Το μάθημα καλύπτει βασικές έννοιες και τομείς στη θεωρία πληροφοριών, συμπεριλαμβανομένης της εντροπίας, της συμπίεσης δεδομένων, της χωρητικότητας του καναλιού και των εφαρμογών τους σε διάφορους τομείς όπως τα παίγνια, η στατιστική και η θεωρία χαρτοφυλακίου. Ασχολείται επίσης με θέματα όπως τα κανάλια Gauss, η θεωρία παραμόρφωσης ρυθμού, η πολυπλοκότητα Kolmogorov και η θεωρία πληροφοριών δικτύου.
Εκπαιδευτικές Μονάδες ECTS : 4
Πρόγραμμα Σπουδών στο οποίο ανήκει: Προπτυχιακό πρόγραμμα ΣΗΜΜΥ ΕΜΠ
Τύπος Μαθήματος: Υποχρεωτικό ή Κατ' επιλογήν : Selective
Τύπος Μαθήματος: Κορμού ή Κατεύθυνσης : Specialization
Φόρτος Εργασίας : 3 θεωρία, 9 μελέτη
Μέθοδος Αξιολόγησης : Γραπτή εξέταση 100%, επίλυση ασκήσεων προσθετικά 15%
Κατανομή Διδακτέας Ύλης : Θεωρία 39 ώρες, ασκήσεις 16 ώρες, μελέτη 65 ώρες
Κοινό : students only
Γλώσσα : el