Teoria dell'informazione (2005/2006)

Corso a esaurimento

Codice insegnamento
4S00039
Docente
Vincenzo Manca
crediti
5
Altri corsi di studio in cui è offerto
Settore disciplinare
INF/01 - INFORMATICA
Lingua di erogazione
Italiano
Sede
VERONA
Periodo
non ancora assegnato

Obiettivi formativi

Il corso intende presentare i concetti fondamentali della teoria dell'Informazione secondo Shannon e i suoi risvolti piu' recenti relativi alla compressione, alla sicurezza e alla complessita'.

Programma

Introduzione ai codici. Principali caratteristiche e tipologie.
Misure informative e informazione intrinseca.
Teoremi di Kraft e diÊ McMillan.
Codifichea diÊ Huffmann. Teorema di ottimalita'.
Codifica di Shannon-Fano-Elias e codifica Arithmetic.
Algoritmi di compressione LZ e BW.
Entropia di una sorgente semplice. Entropie congiunte, relativa e condizionale.
Lemma del logaritmo. Primo teorema di Shannon.
Sorgenti stocastiche e stazionarie. Teorema di stazionarieta'.
Sorgenti markoviane ed entropie linguistiche.
Teorema dell'equipartizione asintotica. Sorgenti ergodiche.
Canali discreti con rumore. Mutua informazione e capacita'.
Secondo teorema di Shannon. Codici autocorrettori (cenni).
Entropie continua. Entropia della distribuzione normale. Teorema di Maxwell.
Segnali, serie e trasformata di Fourier.
Teorema del campionamento (Nyquist-Wiener-Shannon).
Canale gaussiano e terzo teorema di Shannon.
Principi informazionali dei metodi crittografici.
Complessita' algoritmica. Eleganza.
Testualizzazione e Recupero dell'informazione.

Modalità d'esame

Esame orale.

Condividi