Nella presente lezione daremo, spesso in maniera qualitativa, alcuni concetti di base sui sistemi Dinamici, in particolare
Cominciamo con un esempio.
Consideriamo il pendolo semplice, cioè un sistema fisico costituito da un filo inestensibile di lunghezza L e da una massa puntiforme m fissata alla sua estremità e soggetta all’accelerazione di gravità g .
Il comportamento del pendolo semplice è descritto tramite la seguente equazione:
θ”+(1/L)θ sin θ =0
dove θ è l’angolo del filo rispetto alla verticale e e θ” la derivata seconda di θ rispetto al tempo.
Cominciamo con un esempio.
Se rinominiamo θ come x1, e θ’ come x2, allora la precedente equazione differenziale di secondo ordine (derivata seconda rispetto al tempo) può essere riscritta come un sistema di 2 equazioni differenziali del primo ordine:
x’1= x2
x’2=- (1/L) x1 sin (x1)
Dove con il singolo apice stiamo indicando la derivata prima rispetto al tempo.
Cominciamo con un esempio.
Quindi il comportamento del sistema fisco “pendolo semplice” è descritto dalle soluzioni del precedente sistema, x1(t) e x2(t) (che in questo caso rappresentano, rispettivamente, l’angolo del filo rispetto alla verticale e la velocità angolare al variare del tempo; cioè la posizione e la velocità del corpo di massa m al variare del tempo).
Tale sistema è costituito da due equazioni differenziali non lineari (poiché le variabili x1 e x2 compaiono nella parte destra in funzioni non lineari) ordinarie del primo ordine. Dato che il sistema è costituito da due equazioni , il sistema è detto del secondo ordine.
Più in generale, il comportamento di un sistema dinamico è descritto nella seguente maniera:
x’1=f1(x1,x2, …, xn)
x’2=f2(x1,x2, …, xn)
.
.
x’n=fn(x1,x2, …, xn)
Con condizioni iniziali
x1(0) = x01
x2(0) = x02
.
.
xn(0) = x0n
Dove:
f1, …,fn sono funzioni o tutte lineari oppure c’è ne almeno una non lineare.
Nel primo caso si parlerà di sistema dinamico lineare,
nel secondo caso di sistema dinamico non lineare.
Le variabili x1, …,xn possono essere le posizioni e le velocità di un sistema di particelle, le concentrazioni di reagenti chimici, le popolazioni di differenti specie di un ecosistema, le quotazioni dei titoli in borsa, e così via.
Se riconsideriamo l’esempio precedente del pendolo semplice, si osservi che la non linearità del sistema fa sì che le soluzioni siano “difficili” da trovare.
Molto spesso si passa ad approssimazioni del tipo sin θ ≈ θ per θ << π/2, per trovare delle soluzioni analitiche esatte.
In effetti soluzioni analitiche per il pendolo semplice esistono, ma in termini di funzioni ellittiche.
Ma c’è un modo piu semplice di “estrarre” le informazioni sul comportamento del pendolo?
Dopotutto noi sappiamo che il moto del pendolo è semplice: a bassa energia ha delle oscillazioni periodiche tra -π/2 e +π/2, ad alta energia supera tale intervallo.
L’idea di base per poter estrarre tale informazione più facilmente è la seguente:
Supponiamo che, in qualche modo, conosciamo la soluzione per il pendolo semplice, a partire da una qualche posizione e velocità iniziale. Allora conosciamo x1(t) e x2(t). Se noi costruiamo uno spazio astratto con coordinate (x1 , x2), allora la soluzione (x1(t) , x2(t) ) corrisponde a un punto che si muove lunga una curva in tale spazio astratto (vedi figura).
Questa curva è chiamata traiettoria, e lo spazio astratto è chiamato spazio delle fasi.
Lo spazio delle fasi è “riempito” da possibili traiettorie, in quanto ad ogni condizione iniziale (posizione e velocità iniziale, in questo caso) corrispondono traiettorie differenti.
L’approccio che si vuole perseguire è di invertire la costruzione appena fatta: dato il sistema, si vogliono capire quali sono le possibili traiettorie nello spazio delle fasi, e quindi estrarre le informazioni su quali possono essere le soluzioni.
In molti casi, non si arriverà a conoscere la reale soluzione, ma si capirà qualitativamente come il sistema si comporta.
Ricapitolando:
Il comportamento del sistema dinamico è descritto da un inseme di n (con n anche uguale ad 1) equazioni differenziali ordinarie del primo ordine lineari o non lineari (se sono tutte lineari allora il sistema dinamico è detto lineare, altrimenti non lineare).
Le x1, …,xn vanno a costituire uno spazio n-dimensionale detto spazio delle fasi. Le dimensioni dello spazio coincidono con l’ordine del sistema. Un sistema di ordine n ha uno spazio delle fasi n-dimensionale.
Ogni soluzione del sistema di equazioni differenziali, definisce un punto che si muove lungo una curva dello spazio delle fasi. Tale curva è detta traiettoria.
Lo studio di un sistema dinamico può essere così approcciato: dato il sistema, si vogliono capire quali sono le possibili traiettorie nello spazio delle fasi, e quindi estrarre le informazioni su quali possono essere le soluzioni.
Ricapitolando:
Lo studio di un sistema dinamico può essere così approcciato:
Dato il sistema, si vogliono capire quali sono le possibili traiettorie nello spazio delle fasi, e quindi estrarre le informazioni su quali possono essere le soluzioni.
Sistemi dinamici unidimensionali.
In questo caso il sistema di equazioni differenziali si riduce a:
x’=f(x)
Se consideriamo x come un punto nello spazio delle fasi (in questo caso unidimensionale) e la velocità di tale punto x’, allora x’=f(x) rappresenta un campo vettoriale sulla linea.
Associa, cioè, un vettore velocità x’ a ciascun punto x (si osservi che per essere un campo vettoriale ad ogni punto x deve essere associato un unico vettore).
Lo studio di tale campo vettoriale ci permette di estrarre informazioni sulla soluzione del sistema dinamico.
Sistemi dinamici unidimensionali.
Possiamo immaginare il tutto come un fluido che fluisca con una velocità data dal campo vettoriale x’=f(x).
In questo modo tale fluido avrà una velocità pari a zero nelle posizioni in cui x’=0.
Tali punti sono detti punti fissi (fixed point).
Si può osservare che ci sono due tipi di punti fissi: quelli in cui la velocità è tale che a sinistra e a destra va verso il punto fisso e quelli in cui la velocità, a sinistra e a destra, si allontana dal punto fisso.
Nel primo caso si parlerà di punti fissi stabili, nel secondo caso di punti fissi non stabili.
Sistemi dinamici unidimensionali.
L’idea precedentemente esposta può essere estesa ad ogni sistema unidimensionale del tipo
x’=f(x).
Andremo, cioè, a studiare il campo vettoriale definito da f(x) sulla retta x.
Sistemi dinamici unidimensionali.
E’ possibile , quindi, immaginare la soluzione come un punto (phase point) che a partire dalla posizione iniziale x0 si muova lungo l’asse x con una velocità data (posizione per posizione) da f(x).
All’incrementare del tempo, tale punto si muove lungo l’asse x in accordo alla soluzione x(t).
L’insieme delle posizioni occupate dal phase point è detta traiettoria.
Il disegno che mostra tutte le possibili differenti traiettorie è detto phase portrait.
La forma di un phase portrait, e quindi le possibili traiettorie di un sistema dinamico, è in primo luogo determinata dai punti fissi.
Sistemi dinamici unidimensionali (punti fissi).
Punti fissi sono valori di x per cui la f si annulla, cioè f(x*)=0.
In termini del sistema di equazioni differenziali i punti fissi sono punti di equilibrio (o steady point) in quanto f(x*)=0 ↔ x’=0 in x=x*.
Cioè se x assume inizialmente un valore x*, allora x(t)=x* per ogni tempo.
Un punto fisso può essere stabile o instabile.
Sistemi dinamici unidimensionali (punti fissi).
Qualitativamente possiamo dire che:
Un punto fisso x* è stabile quando una qualsiasi sufficientemente piccola perturbazione si annulla nel tempo.
Al contrario, è instabile quando ogni piccola perturbazione cresce nel tempo.
Sistemi dinamici unidimensionali (punti fissi).
Si osservi che se x* è un punto fisso allora:
Quando f’(x*) <0 la perturbazione si andrà a ridurre con andamento esponenziale. In questo caso il punto fisso è stabile. Quando, invece, f’(x*) >0 la perturbazione andrà ad aumentare con andamento esponenziale. In questo caso il punto fisso è instabile.
Cosa accade quando f’(x*) =0? In questo caso ci possono essere casi di stabilità, instabilità ed “altro”.
Teorema di esistenza e unicità
Dato il sistema
x’(t)=f(x) con x(0)=x0
Supposto che f(x) e f’(x) siano funzioni continue su un intervallo aperto A dell’asse x, e supposto che x0 appartenga ad A. Il sistema, allora, ammette una soluzione x(t) in un qualche intervallo di tempo (-τ,τ) comprendente t=0, e la soluzione è unica.
Dimostrazioni di tale teorema possono essere trovate in Borelli e Coleman (1987), Lin e Segel (1988) o in qualunque libro di testo sulle equazioni differenziali ordinarie.
Tale teorema ci garantisce che sotto determinate condizioni la soluzione di un sistema di equazioni differenziali esiste ed è unica.
Biforcazioni
Le soluzioni dei sistemi di equazioni differenziali possono dipendere fortemente dai valori dei parametri.
Al variare di tali valori, si possono creare nuovi punti fissi, eliminare punti fissi o cambiare la loro stabilità.
Questi cambiamenti qualitativi della dinamica del sistema sono detti biforcazioni, e i valori dei parametri per cui avvengono tali cambiamenti qualitativi sono detti punti di biforcazione.
Il concetto di biforcazione è importante perché è possibile modificare radicalmente il comportamento di un sistema dinamico variando opportunamente i valori di alcuni parametri.
Nella prossima lezione applicheremo i concetti ora esposti per analizzare il comportamento di una “piccola” rete CTRNN.
1. Informazioni generali sul corso
3. Un modello computazionale del neurone biologico
4. Possibili problemi risolvibili con Reti Neurali
5. Problemi di Classificazione ed approccio probabilistico
7. Capacità rappresentativa delle reti neurali - parte prima
8. Capacità rappresentativa delle reti neurali - Parte seconda
9. Apprendimento e generalizzazione
10. Discesa del gradiente e backpropagation
11. Back-Propagation
13. Interpretazione output di una rete neural feed-forward
14. Complessità della rete, generalizzazione e termini di regolari...
15. Cross-entropy e variazioni sulla discesa del gradiente
16. Verso le reti neurali RBF: interpolazione esatta.
17. Reti neurali RBF
18. Addestramento di una rete RBF
19. Parametri delle funzioni a base radiale
20. Un primo modello di reti neurali ricorrenti: formalismo di Caia...