Roberto Prevete » 22.Reti neurali ricorrenti a tempo continuo

Introduzione

Nella presente lezione descriveremo un particolare tipo di reti neurali ricorrenti,
in particolare

• CTRNN

• DTRNN

Reti Neurali Ricorrenti a Tempo Continuo

Le reti neurali ricorrenti a tempo continuo (Continuous Time Recurrent Neural Network – CTRNN) sono reti costituite da n neuroni modellati ciascuno con una equazione differenziale del primo ordine:

dy₁/dt=f₁(y₁,y₂, ….,y_n)=(1/τ₁)(-y₁ +∑_j=1…n w_ij σ(y_j+b₁)+ I^e₁ )

dy₂/dt=f₂(y₁,y₂, ….,y_n)=(1/τ₂)(-y₂ +∑_j=1…n w_ij σ(y_j+b₂)+ I^e₂ )
.
.
.
dy_n/dt=f_n(y₁,y₂, ….,y_n)=(1/τ_n)(-y_n +∑_j=1…n w_ij σ(y_j+b_n)+ I^e_n )

Reti Neurali Ricorrenti a Tempo Continuo (segue)

In ciascuna equazione differenziale:

dy_i/dt=f_i(y₁,y₂, ….,y_i)=(1/τ_i)(-y_i +∑_j=1…n w_ij σ(y_j+b_j)+ I_i )

τ_i è lo stato (o l’attivazione) di ciascun neurone (da un punto di vista biologico rappresenta il potenziale di membrana).

y_i è una costante di tempo.

w_ij è il peso associato alla connessione che va dal neurone j al neurone i.
Si noti che ogni nodo i riceve connessioni da tutti i nodi, compreso se stesso.

σ(x) è la classica sigmoide. Da un punto di vista biologico σ(yi) rappresenta la frequenza di sparo media (nel tempo).

I_i è un input esterno.

Reti Neurali Ricorrenti a Tempo Continuo (segue)

Si noti che:

L’ input esterno, I_i, ricevuto dall’ i-simo nodo può assumere la seguente forma:

I_i =∑ _j=1…d w’_ij x_j(t)

In questo modo la rete neurale riceve d input x1(t), x1(t), …,xd(t), variabili nel tempo, che sono inviati a ciascuno nodo i tramite d connessioni. A ciascuna connessione è associato un peso w’_ij.

Reti Neurali Ricorrenti a Tempo Continuo (segue)

Una osservazione (1).

Tale modello nasce da una semplificazione del modello di Hodgkin-Huxley descritto nella lezione precedente.

Infatti, se consideriamo l’equazione del modello di Hodgkin-Huxley per un neuone:

C(dV_m/dt)= I(t) -(g_l + g_Na + g_K )V_m+ g_l E_l +g_NaE_Na+ g_KE_K

Questa può essere riscritta come:

dV_m/dt= -(1/C)(g_l + g_Na + g_K )V_m+ (1/C)[g_l E_l +g_NaE_Na+ g_KE_K+ I(t)]

Reti Neurali Ricorrenti a Tempo Continuo (segue)

Una osservazione (2).

Ed ancora, trascurando i termini con g_Na e g_K, da

dV_m/dt= -(1/C)(g_l + g_Na + g_K )V_m+ (1/C)[g_l E_l +g_NaE_Na+ g_KE_K+ I(t)]

Possiamo scrivere:

dV_m/dt= -(g_l/C) [V_m+ (1/g_l )(g_l E_l + I(t))]

Ed ancora: dV_m/dt= -(1/τ) [V_m+ (1/g_l )(g_l E_l + I(t))]

Avendo posto τ=C/g_l

Reti Neurali Ricorrenti a Tempo Continuo (segue)

Una osservazione (3).

Se osserviamo, allora, l’equazione

dV_m/dt= -(1/τ) [Vm+ (1/g_l )(g_l E_l + I(t))]

E la generica equazione di un nodo di una CTRNN:

dy_i/dt=fi(y₁,y₂, ….,y_n)=(1/τ_i)(-y_i +∑_j=1…n w_ijσ(y_j+b_j)+ I_i )

Si possono notare le somiglianze, considerando:

Vm come y_i

V_m+ (1/g_l )(g_l E_l + I(t)) come l’input proveniente dagli altri nodi della rete e
dall’input esterno.

Reti Neurali Ricorrenti a Tempo Continuo (segue)

In forma vettoriale il sistema di equazioni che definiscono una CTRNN può essere così riscritto.

Reti Neurali Ricorrenti a Tempo Continuo (segue)

Oppure in un formalismo più compatto:

τdy/dt= -y + W σ(y+b) + I

Reti Neurali Ricorrenti a Tempo Continuo (segue)

Cosa ci interessa di tali reti?

Risulta importante la dinamica della rete, e in particolare:

Punti fissi

Attrattori

Biforcazioni

Prima di dare una definizione più precisa di tali concetti, affrontiamo il problema di come implementare al calcolatore il sistema di equazioni differenziali che definisce una CTRNN.

Reti Neurali Ricorrenti a Tempo Discreto (DTRNN)

Naturalmente molti sono i possibili metodici numerici per risolvere una equazione differenziale del tipo che abbiamo visto, tra i tanti mostriamo uno tra i più usati:

il metodo di Eulero.

Reti Neurali Ricorrenti a Tempo Discreto (DTRNN) (segue)

Il metodo di Eulero.

Data una equazione differenziale del tipo:

dy/dt=f(y) ……………………………………… (1)
con condizione iniziale y(0)=y₀ ………… (2)

sappiamo, dal teorema di Cauchy, che sotto opportune ipotesi per la f(y) esiste, ed è unica,

la soluzione y(t) per la (1) e la (2).

Reti Neurali Ricorrenti a Tempo Discreto (DTRNN) (segue)

Il metodo di Eulero.

Scelto un intervallo di tempo DT, possiamo considerare i tempi

t₀=0,

t₁= t₀ +DT=DT,

t₂= t₁ +DT= 2DT, …,

t_n= t_n-1+DT=nDT, …

e cercare di calcolare numericamente quali sono i valori della soluzione a tali tempi.

Reti Neurali Ricorrenti a Tempo Discreto (DTRNN) (segue)

Il metodo di Eulero.

Dallo sviluppo in serie di Taylor possiamo scrivere:

y(t₁)=y(t₀)+ [dy/dt]_t=t0 DT + R (3)

dove R è il resto di Lagrange ed, in questo caso, risulta

R=(( t₁ – t₀)²/2)[d²y/dt²]_t=t* con t* ∈[t₀, t₁].

Reti Neurali Ricorrenti a Tempo Discreto (DTRNN) (segue)

Il metodo di Eulero.

Allora y(t₁) può essere approssimato con un errore conosciuto da un valore numerico y₁ dato da

y₁ = y(t₀)+ [dy/dt]_t=t0 DT (4)

ma sapendo, dalle (1) e (2), che

y(t₀=0)=y₀ …………. e …………. [dy/dt]_t=t0 = f(y(t₀))=f(y₀)

si ha:

y₁ = y₀+ f(y₀)DT

Reti Neurali Ricorrenti a Tempo Discreto (DTRNN) (segue)

Il metodo di Eulero.

Quindi supposto di conoscere l’approssimazione numerica yn-1 di y(tn-1) possiamo
ripetere lo stesso ragionamento di prima è ottenere, in generale, l’approssimazione
numerica di y(t_n) come

y_n = y_n-1+ f(y_n-1)DT (5)

Reti Neurali Ricorrenti a Tempo Discreto (DTRNN) (segue)

Il metodo di Eulero (una osservazione).

In genere per un metodo di approssimazione numerica sono importanti due proprietà:

L’accuratezza. Cioè che i valori numerici siano effettivamente vicini ai valori
reali della soluzione. Nel nostro caso è necessario minimizzare il termine di
errore dello sviluppo in serie di Taylor.

La stabilità numerica. Vogliamo che la sequenza di valori numerici
y₁,y₂, y_k, … sia poco sensibile alle variazioni di y₀.
Più formalmente: ∀ε>0 ∃δ_ε>0 : |y₀- y’₀| < δ_ε allora ∀k |y_k – y’_k| < ε
dove y’₁, y’₂, … è la sequenza di valori numerici calcolati a partire da y’₀.

Reti Neurali Ricorrenti a Tempo Discreto (DTRNN) (segue)

Il metodo di Eulero.

Applicando la (5) alle equazioni differenziali della CTRNN si ottiene:

yi[n] = y_i[n-1] +(DT/τ_i)(-yi[n-1]+∑_j=1…n w_ij σ( y_j[n-1]+b_j)+ I_i)

con i=1,2, …,n (6)

Reti Neurali Ricorrenti a Tempo Discreto (DTRNN) (segue)

Osserviamo che la (6) ha una doppia interpretazione:

• Può essere interpretata come una soluzione numerica delle CTRNN (quando DT è sufficientemente piccolo!).

• Può essere visto come un modello a se stante di rete neurale.

Reti Neurali Ricorrenti a Tempo Discreto (DTRNN) (segue)

Nella seconda interpretazione, allora, possiamo parlare di Reti neurali ricorrenti a tempo discreto.

Osservo subito che la scelta opportuna di DT (in genere DT<2τ_i) fa sì che il modello di rete descritto dalla (6) abbia lo stesso comportamento di quello descritto dalle CTRNN.

Molto spesso, quindi, si preferisce studiare analiticamente un modello di rete CTRNN per
poi utilizzare i risultati ottenuti con un tipo di rete DTRNN.

Reti Neurali Ricorrenti a Tempo Discreto (DTRNN) (segue)

Vediamo, però, meglio che tipo di rete individua la (6):

• Il tempo è discreto.

• La sequenza di aggiornamento è sincrona.

• La rete è pienamente connessa.

• Le connessioni sono orientate. A ciascuna connessione da un neurone j ad un neurone i è associato un peso w_ij.

• A ciascun nodo i è associato un bias b_i e un valore di input esterno I_i.

• Ciascun neurone i, al tempo n, ha un valore di input h_i[n], un valore di attivazione y_i[n] e un valore di output σ_i[n].

• … (continua)

Reti Neurali Ricorrenti a Tempo Discreto (DTRNN) (segue)

Vediamo, però, meglio che tipo di rete individua la (6):

• Il valore di input, al tempo n, è definito come: h_i[n] = ∑_j=1…n w_ij s_j[n-1]+ I_i
  dove I_i è, in genere, un valore costante.

• Il valore di attivazione, al tempo n, è definito come:
  y_i[n] = y_i[n-1] +(DT/τ_i)(-y_i[n-1]+ h_i[n]).
  In genere abbiamo τ_i=1 e DT<2τ_i.

• Il valore di output, al tempo n, è definito come: σ_i[n] = s(y_i[n]+b_i)

Reti Neurali Ricorrenti a Tempo Discreto (DTRNN) (segue)

Alcune osservazioni.

Le reti DTRNN ricadono nella caratterizzazione generale di una rete neurale che abbiamo dato nella lezione 6.

I risultati di uno studio teorico delle CTRNN possono essere riportati facilmente alle reti DTRNN in quanto queste ultime possono essere viste come una soluzione numerica delle prime (se abbiamo accuratezza e stabilità del metodo numerico).

Questo ci permette di focalizzare l’attenzione sulle CTRNN.

Reti Neurali Ricorrenti a Tempo Discreto (DTRNN) (segue)

Prossime lezioni.

Dato che tali reti CTRNN sono definite da un insieme di equazioni differenziali ordinarie del primo ordine, il loro comportamento (e quindi quello di una DTRNN) può essere studiato nell’ambito della teoria dei sistemi dinamici.

Questo studio ci permette di capire quale può essere il comportamento di una rete se conosciamo il valore dei pesi e, viceversa, come scegliere i valori dei pesi in modo da avere particolari comportamenti.

A tale scopo, allora, nella prossima lezione faremo un richiamo di alcuni elementi di base della teoria dei sistemi dinamici.