Ενότητα 3. Κωδικοποίηση Πηγής
Δίνονται ορισμοί για την κωδικοποίηση της πηγής πληροφορίας και παραδείγματα γνωστών κωδίκων. Ταξινομούνται οι κώδικες και περιγράφεται η αθόρυβη κωδικοποίηση η οποία έχει στόχο την συμπίεση δεδομένων. Αναλύονται σχεδιαστικά ζητήματα κωδίκων και δίνονται οι ορισμοί της ευκρίνιας, μονοσημαντικότητας και στιγμιαίας αποκωδικοποίησης. Περιγράφεται το δενδροδιάγραμμα απόφασης για την αποκωδικοποίηση ενός κωδικού μηνύματος. Ορίζεται το μέσο μήκος κώδικα και ο βέλτιστος κώδικας. Περιγράφονται οι ταυτοανισότητες Kraft και McMillan και δίνεται η ερμηνεία τους. Περιγράφεται η τεχνική της κωδικοποίησης κατά Huffman για την συμπίεση δεδομένων χωρίς απώλειες με παραδείγματα. Προσδιορίζεται η κωδικοποίηση κατά Huffman η οποία οδηγεί σε κώδικα με την ελάχιστη μεταβλητότητα. Δίνονται παραδείγματα και ασκήσεις.
