Teoria dell'informazione (2004/2005)

Corso a esaurimento

Codice insegnamento
4S00039
Docente
Vincenzo Manca
Coordinatore
Vincenzo Manca
crediti
5
Altri corsi di studio in cui è offerto
Settore disciplinare
INF/01 - INFORMATICA
Lingua di erogazione
Italiano
Sede
VERONA
Periodo
1° Q - 2° anno e successivi dal 27-set-2004 al 26-nov-2004.

Orario lezioni

Obiettivi formativi

Il corso intende presentare i concetti fondamentali della teoria dell'Informazione secondo Shannon e i suoi risvolti piu' recenti relativi alla compressione, alla sicurezza e alla complessita'.

Programma

Introduzione ai codici. Principali caratteristiche e tipologie.
Misure informative e informazione intrinseca.
Teoremi di Kraft e diÊ McMillan.
Codifichea diÊ Huffmann. Teorema di ottimalita'.
Codifica di Shannon-Fano-Elias e codifica Arithmetic.
Algoritmi di compressione LZ e BW.
Entropia di una sorgente semplice. Entropie congiunte, relativa e condizionale.
Lemma del logaritmo. Primo teorema di Shannon.
Sorgenti stocastiche e stazionarie. Teorema di stazionarieta'.
Sorgenti markoviane ed entropie linguistiche.
Teorema dell'equipartizione asintotica. Sorgenti ergodiche.
Canali discreti con rumore. Mutua informazione e capacita'.
Secondo teorema di Shannon. Codici autocorrettori (cenni).
Entropie continua. Entropia della distribuzione normale. Teorema di Maxwell.
Segnali, serie e trasformata di Fourier.
Teorema del campionamento (Nyquist-Wiener-Shannon).
Canale gaussiano e terzo teorema di Shannon.
Principi informazionali dei metodi crittografici.
Complessita' algoritmica. Eleganza.
Testualizzazione e Recupero dell'informazione.

Modalità d'esame

Esame orale.

Materiale didattico

Documenti

Condividi