Roberto Prevete » 1.Informazioni generali sul corso

Programma (sintentico)

• Mod.A
  • Introduzione alle reti neurali artificiali nell’ambito dell’apprendimento automatico.
  • Il neurone biologico e alcuni modelli computazionali del neurone biologico.
  • Reti neurali feed-forward.
  • Principali algoritmi di apprendimento per reti feed-forward.
  • Reti RBF.
  • Reti neurali ricorrenti
  • Principali algoritmi di apprendimento per reti feed-forward.
• Mod.B
  • Problemi di apprendimento e distribuzioni di probabilità.
  • Modelli lineari per la regressione e per la classificazione.
  • Metodi kernel.
  • Support vector machine.
  • Feature selection.

Modalità d’esame

• Durante il corso sarà richiesto di svolgere esercizi di carattere sia teorico sia applicativo.
• Al termine di ciascuno dei due moduli sarà richiesto di svolgere un progetto.
• Un prova orale al termine del corso, a cui si potrà avere accesso solamente se i progetti richiesti saranno giudicati positivamente.

Il voto finale dipenderà da:

• Gli esercizi svolti durante il corso.
• L’esito dei progetti.
• L’esito della prova orale.

Di cosa parleremo (Mod.A)…

L’espressione reti neurale va ad identificare un’ampia classe di modelli computazionali più o meno ispirati al sistema nervoso centrale e ai suoi elementi di base. Possiamo, infatti, individuare due differenti tipologie di reti neurali:

• Reti neurali come modelli computazionali dei neuroni biologici. In questo caso, la rete neurale ha uno stretto riferimento al biologico sia ad un livello strutturale sia ad un livello funzionale.
• Reti neurali ispirate al biologico. In questo caso le reti neurali prendono solo spunto da caratteristiche molto generali del sistema nervoso centrale e delle sue parti fondamentali. Tali reti, infatti, sono pensate come modelli di calcolo che prendendo spunto dalle principali caratteristiche strutturali e funzionali del sistema nervoso centrale (il cervello), quali l’alto parallelismo con cui l’informazione è elaborata, la forte connettività tra le sue parti, la plasticità del sistema.

Di cosa parleremo (Mod.A)… (segue)

Nota che:

La classificazione prima introdotta, però, è vera solo in prima approssimazione, in quanto molto spesso sono presenti modelli di reti neurali che hanno sia caratteristiche per appartenere alla prima classe sia caratteristiche per appartenere alla seconda classe.

In questo corso faremo riferimento principalmente a reti neurali artificiali che ricadono nella seconda classe.

Di cosa parleremo (Mod.A)… (segue)

Lo studio delle reti neurali può coinvolgere differenti discipline, quali:

• Biologia (Neurofisiologia),
• Informatica (Pattern Classification, Intelligenza Artificiale),
• Matematica (Ottimizzazione, Proprietà di approssimazione),
• Statistica (Regressione, Classificazione),
• Ingegneria (Teoria del Controllo),
• Fisica (Sistemi Dinamici).

Di cosa parleremo (Mod.A)… (segue)

Alcune delle principali problematiche che possono essere affrontate utilizzando le reti neurali sono le seguenti:

• Classificazione/trasformazione di pattern. Ad esempio riconoscimento di immagini, suoni, voci ed altri pattern, estrazione di caratteristiche significative di un certo fenomeno;
• Ottimizzazione. Ad esempio, un tipico problema di ottimizzazione é quello del “commesso viaggiatore”: dato un certo numero di città, trovare il percorso più breve per visitarle tutte.
• Previsione. Rientrano in questo caso, ad esempio, i problemi di previsione meteorologica.
• Controllo. Ad esempio per il controllo senso-motorio di un robot mobile.

Di cosa parleremo (Mod.A)… (segue)

Le reti neurali, in maniera molto sintetica (e sottolineo molto), posso essere caratterizzate dalla seguente proprietà:

Sono un sistema di calcolo distribuito in grado di
apprendere nuovi comportamenti sulla base di input esterni.

Di cosa parleremo (Mod. B)…

Le reti neurali, in quanto sistemi in grado di apprendere, si inseriscono in un più ampio campo di ricerca:

Apprendimento automatico delle macchine
(in inglese, machine learning)

Esistono, quindi, approcci diversi dalle reti neurali per risolvere gli stessi (o simili) problemi, la cui caratteristica principale è sempre l’apprendimento sulla base di stimoli esterni.

Di cosa parleremo (Mod. B)… (segue)

Nell’ambito del machine learning, alcune “tecniche” che studieremo sono:

• Modelli lineari per la regressione e per la classificazione.
• Metodi kernel.
• Support vector machine.

Di cosa parleremo (Mod. B)… (segue)

Molti dei temi tipici dell’approccio con reti neurali sono, naturalmente, anche presententi nel machine learning, ad esempio:

• Generalizzazione
• Over-fitting
• Regolarizzazione

Nella seconda parte del corso (Mod.B) tali temi, allora saranno ripresi ed inquadrati in un contesto più generale.

In più saranno affrontate problematiche più specifiche al machine learning.