I contenuti
- Il problema
- Metodo dei Minimi Quadrati
- Metodo di Massima Verosimiglianza
- Metodo Bayesiano
- Altri metodi
Il problema
Ipotesi
Sia data una popolazione finita e su di essa sia definita una v.c. X continua o discreta la cui funzione di densità o distribuzione di probabilità dipenda completamente da un parametro “teta” (scalare) appartenente ad uno spazio parametrico prefissato.
Obiettivo
Stimare il valore di “teta” sulla base di un campione di n unità statistiche osservate.
Definire i possibili metodi di costruzione (derivazione) dello stimatore del parametro “teta”, studiandone le proprietà per piccoli e grandi campioni.
Popolazione teorica
Parametro non noto da stimare
Metodo dei Minimi Quadrati
Assunzioni
Non occorre assumere nota la funzione di probabilità della popolazione.
Metodo
La stima dei minimi quadrati ordinari è ottenuta minimizzando, rispetto al parametro da stimare, la somma dei quadrati degli scarti tra i valori osservati del campione ed il parametro da stimare.
Una volta derivata la funzione che lega i valori osservati del campione è possibile definire la v.c. stimatore che assume valori diversi al variare del campione.
Proprietà
Gli stimatori dei MQ sono consistenti e asintoticamente normali.
Esempi
Media campionaria, Proporzione campionaria
Stima dei Minimi Quadrati della media
Stimatore Media campionaria
Metodo della Massima Verosimiglianza (MV)
Assunzioni
Occorre assumere nota la funzione di probabilità della popolazione, a meno del parametro da stimare.
Metodo
La stima di Massima Verosimiglianza (MV) è ottenuta massimizzando, rispetto al parametro da stimare, la funzione di verosimiglianza, dato il campione osservato.
Una volta derivata la funzione che lega i valori osservati del campione è possibile definire la v.c. stimatore che assume valori diversi al variare del campione.
Si sceglie, quale stima di MV, il valore del parametro “teta” tale che il particolare campione estratto sia il più verosimile a rappresentare la popolazione da cui è estratto.
Stima di Massima Verosimiglianza
Proprietà degli stimatori di MV
Proprietà
Gli stimatori dei MV sono efficienti, consistenti e asintoticamente normali.
Se esiste uno stimatore sufficiente per “teta”, allora lo stimatore di MV ne è una funzione.
Se esiste uno stimatore non distorto e più efficiente per “teta”, allora lo stimatore di MV coincide con esso.
Esempi
Media campionaria, Proporzione campionaria.
Metodo Bayesiano
Assunzioni
Occorre assumere nota la funzione di probabilità della popolazione, a meno del parametro da stimare.
Occorre assumere nota la funzione a-priori di probabilità del parametro da stimare, visto come una v.c. che assume valori diversi in funzione di un modello di probabilità. Si ha una corrispondenza tra le possibili specificazioni del parametro e le cause del teorema di Bayes.
Metodo
La stima bayesiana è ottenuta massimizzando, rispetto al parametro da stimare, la probabilità a-posteriori del parametro da stimare dato il campione osservato (tenuto conto del teorema di Bayes).
Nell’espressione la funzione di verosimiglianza esprime la probabilità probativa del teorema di Bayes, al denominatore la probabilità del campione osservato (l’evento generato dalle possibili cause).
Proprietà
Gli stimatori Bayesiani sono spesso distorti ma consistenti e asintoticamente normali.
Funzione di probabilità a-priori del parametro
Stima Bayesiana
Altri metodi di stima puntuale
Metodo dei Momenti
Sia data la funzione di probabilità della popolazione. Si definisce un sistema di equazioni imponendo l’identità tra momenti teorici di una funzione di probabilità e momenti campionari: il numero di equazioni è pari al numero di parametri da stimare, le incognite sono i parametri da stimare, la soluzione del sistema consente la derivazione della stima dei parametri in funzione dei valori campionari.
Metodo di derivazione di stimatori BLUE
Lo stimatore BLUE (Best Linear Unbiased Estimator) è lineare nelle v.c. che compongono il campione, non distorto ed efficiente in senso assoluto. Esso è ottenuto per costruzione imponendo alle osservazioni campionarie di soddisfare le proprietà auspicabili di uno stimatore per piccoli campioni.
Metodi di ricampionamento
Il ricampionamento consiste nell’estrazione di “tanti” possibili campioni a partire dal campione dato, in modo da derivare la distribuzione empirica delle possibili stime, considerata un’approssimazione della distribuzione campionaria delle stime possibili. La media delle possibili stime è la stima del parametro non noto.
Sulla base della tecnica di estrazione campionaria si distinguono tre metodi:
- Bootstrap, si derivano tutti i possibili campioni con estrazione con ripetizione fissando una numerosità campionaria;
- Jacknife, si elimina una osservazione alla volta;
- Cross-validation, si elimina a turno un gruppo di una prefissata numerosità.
Le lezioni del Corso
2. Campionamento statistico e statistiche campionarie di uso più frequente
3. Stimatore e proprietà per piccoli campioni
4. Proprietà asintotiche degli stimatori, leggi di convergenza e teorema del limite centrale
6. Teoria della stima intervallare
7. Teoria della verifica delle ipotesi: la costruzione del test parametrico
