A proposito di flat...

Discutiamo qui dell'hardware e dei software astronomici per l'elaborazione grafica, planetari, interfacce per strumenti e altro.
Avatar utente
Paolo
Quasar Guru
Messaggi: 7831
Iscritto il: 16 gen 2006, 22:49
Località: L'Aquila
Contatta:

A proposito di flat...

Messaggio da Paolo »

... e di calibrazioni "minimali".

Ok, la calibrazione rigorosa e' fondamentale per svolgere lavori di fotometria, astrometria o altro ma si sa, specie agli inizi, molto spesso si elaborano immagini astronomiche senza alcun frame di calibrazione. Si effettua una grossolana correzione basata sul fondo cielo (usando Photoshop o similari), cercando di uniformare i livelli nell'intera area ripresa.

Con molte camere CCD raffreddate non si sente neanche la necessita' di usare il dark. In effetti basta un comando come il median 3x3 a togliere perfettamente tutti i pixel caldi, ovvero cio' che salta all'occhio della cosiddetta mappa termica. Ma l'uso del flat, non c'e' camera che tenga, e' proprio necessario. Polvere sul cammino ottico o vignettatura sono molto probabili, se il soggetto e' molto luminoso poco male ma se cerchiamo di tirare fuori dal fondo cielo una debole nebulosita' un buon flat e' vitale.

Volendo minimizzare i tempi necessari alle riprese ed alla calibrazione della nostra immagine con finalita' estetiche, possiamo usare il solo master flat. Con un accorgimento pero', altrimenti la divisione per questo master da risultati non validi. Capitato mai flat che non spianano o addirittura che producono una vignettatura inversa, con il fondo cielo ai bordi piu' luminoso che al centro? Quando usato da solo, il master flat e ogni light frames devono essere privi dell'offset, un "piedistallo" in ADU impostato dal costruttore della camera. Prendendo un frame con tempo di esposizione zero (il cosiddetto bias frame) si puo' controllare a quanto ammonta il suo valore, che non e' zero ma ha un valore positivo (ADU medio dei pixel).

Se si divide il light frame per il master flat direttamente, senza togliere questo piedistallo ad entrambi, si produce una contro-vignettatura. Questa e' tanto piu' forte quanto piu' alto e' l'offset della camera e piu' piccola e' la differenza in ADU tra offset e fondo cielo nel light frame. L'operazione di divisione e' infatti coerente se il rapporto di luce tra centro e bordo e' effettivo, ovvero non e' falsato dalla presenza dell'offset.

Un esempio pratico sul light frame.

Cio' che conta e' il rapporto di intensita' luminosa tra centro e spigolo. In questo caso, in cui non c'e' offset, vale 3200/1000=3.20 (vignettatura mostruosa, e' solo un esempio). Il fondo cielo varia da 3200 ADU al centro del frame fino ad un minimo di 1000 allo spigolo.
prof1.gif
prof1.gif (3.03 KiB) Visto 3040 volte
Nel seguente caso abbiamo invece la situazione realistica con il fatidico offset introdotto dalla camera, pari a 1500 ADU (e' un esempio, il dato varia a seconda dei modelli). Questo valore si somma sia al centro che allo spigolo. Il rapporto di intensita' luminosa diventa pari a 4700/2500=1.88. Un valore, in questo caso, falsato dalla presenza dell'offset.
prof2.gif
prof2.gif (4.64 KiB) Visto 3034 volte
Potra' venire spontaneo tirare in ballo che la differenza di luce tra centro e spigolo rimane sempre la stessa (2200 ADU) in entrambi i casi, ma la correzione con il flat esegue un'operazione non di sottrazione ma di divisione sui valori correnti di ogni pixel dell'immagine, quindi i numeri rilevanti sono 4700/2500 o 3200/1000, con risultati evidentemente diversi.

Questo per quanto riguarda il light, invece ogni flat frame ottenuto con la nostra flatbox oppure con altri sistemi, potra' avere un profilo del genere, dopo aver tolto l'offset (che essendo in proporzione molto piccolo cambia poco le cose):
prof3.gif
prof3.gif (9.55 KiB) Visto 3040 volte
Il fattore correttivo associato va da 1x al centro fino a 3.2x allo spigolo. L'applicazione di questo flat nel primo caso (privo di offset) produce un risultato corretto spianando il campo uniformemente: centro 3200 x 1, spigolo 1000 x 3.2, ovvero valori uguali. L'applicazione nel secondo caso produce invece una controvignettatura, centro 4700 x 1, spigolo 2500 x 3.2 = 8000, quest'ultimo valore e' molto piu' alto rispetto al centro.

Vediamo adesso gli effetti pratici. Da considerare che Astroart, nella divisione per il flat, applica il fattore 1 nel punto medio della curva di luce e non sul massimo come nell'esempio sopra. Ne consegue che l'operazione di divisione alza le intensita' agli spigoli ed abbassa quelle al centro. Il risultato comunque e' analogo, viene "spianato" il campo di luce anche se su valori diversi.

Il light frame affetto da vignettatura (e non solo):
light_flrame.jpg
Il relativo master flat. I quadrati identificano le zone analizzate (su entrambi i frames):
area_flat.jpg
Divisione del light per il master flat "nudi e crudi" (entrambi ancora con offset):
controvign.jpg
Siamo davanti al caso di "contro-vignettatura". La divisione ha sovracorretto la perdita di luce ai bordi.

La verifica sui dati. Ho misurato i livelli di luce in diverse aree dell'immagine (i box evidenziati sopra):
DIV_NO_OFF.gif
Il risultato della divisione e' calcolato sul foglio elettronico sulla base dei valori misurati sulle immagini flat/light.
ADU risultante = ADU light / ADU flat x ADU medio flat (il valore in rosso). Si nota anche qui come l'intensita' del fondo (istogrammi rossi dell'immagine divisa per il flat) cresca dal centro verso il bordo per la sovracorrezione.

Togliamo adesso l'offset ad entrambi e dividiamo per il master flat:
flatted_ok.jpg
Il campo e' perfettamente "spianato" (almeno per una valutazione visiva e a meno di gradienti per inquinamento luminoso).

Verifica sui dati:
DIV_OFF.gif
Le intensita' post-divisione del fondo stavolta sono ben livellate, segno che il master flat ha lavorato correttamente.

Riguardo l'esposizione da usare nella ripresa dei flat frames non ci sono vincoli tranne quello di restare nel campo di linearita' della camera. Ad esempio possono andare bene sia flat che hanno raggiunto 45000 ADU, sia flat che arrivano a 12000 ADU. Per sole ragioni di abbattimento del rumore fotonico associato converrebbe orientarsi verso alti ADU ma soprattutto fare un master composto da molti flat frames (>15-20). Una volta sottratto l'offset (al light ed al flat) si e' completamente indipendenti dal livello di luce, questo lavorera' correttamente con qualunque valore (i rapporti di intensita' luminosa tra centro e bordo sono sempre gli stessi, qualunque sia l'intensita' media del flat).

Tutta questa palla lunghissima per dire che prima di fare la divisione per il flat bisogna togliere l'offset sia sul light che sul flat frame (sul flat impatta molto meno, sul light e' fondamentale). L'offset si misura su un frame preso con tempo piu' rapido possibile con camera/ottica tappata (non deve entrare luce). Si puo' usare il valore medio dei pixel. Cambia poco con la temperatura e comunque eventuali differenze nell'applicazione non sono valutabili ad occhio. Va bene anche un valore di riferimento fisso ma non sarebbe male (e ci vuole pochissimo) prendere un bias a fine sessione di riprese e ricavare con un software di elaborazione il valore medio dei pixel.

Questo discorso, dicevo, ha poca importanza a livello pratico se si effettua la calibrazione completa dei frames che prevede anche dark, bias, darkflat e mappa cosmetica. L'offset e' contenuto in qualunque frames, quindi gia' una sottrazione del dark compie un'operazione analoga. Gli aspetti descritti devono essere considerati se si vuole provare ad utilizzare il master flat da solo. Perche' da solo? A livello di elaborazione la calibrazione completa e' semplicissima in quanto i software (ad esempio Astroart) hanno una finestra di pretrattamento che fa tutto automaticamente. Il vero "problema" e' produrre tanti dark frames. A noi pigroni, spesso alle prese con immagini dalla sola valenza estetica, spaventa non poco dover passare tutto quel tempo con il telescopio tappato... ;) Ben diverso e' il caso di chi, avendo una camera termostatata, puo' contare sulle librerie di dark preconfezionate e pronte all'uso.

Fatemi sapere se vi quadra...

Ciao ciao
Paolo
Avatar utente
maxcaimmi
Quasar Guru
Messaggi: 1503
Iscritto il: 24 gen 2008, 13:02
Località: Loreto (AN)
Contatta:

Re: A proposito di flat...

Messaggio da maxcaimmi »

Quadra tutto, e devo dire che (come ben sai) questo discorso della controvignettatura, mi ha fatto impazzire per moltissimo tempo! #-o
Com'è possibile infatti vedere nella mia galleria (sopratutto le immagini in luce bianca di galassie), i risultati dei flat eseguiti senza la sottrazione del piedistallo di cui parla Paolo, ha prodotto nella mia galleria una bella quantità di "fondi cielo" controvignettati.
In merito alla descrizione dei motivi, che possiamo dire... :ymapplause: :ymapplause: :ymapplause:
Avatar utente
Paolo
Quasar Guru
Messaggi: 7831
Iscritto il: 16 gen 2006, 22:49
Località: L'Aquila
Contatta:

Re: A proposito di flat...

Messaggio da Paolo »

Max, proprio dopo la recente chiacchierata in rete con te mi sono deciso a scrivere due righe. Via SkyPe e senza poter fare qualche piccolo schemino al volo era un po' difficile da spiegare.

Chiacchiere a parte, basta togliere quel numerino prima di fare qualunque divisione per il flat. Tutto qui.

Grazie per l'apprezzamento e a presto,
Paolo
alexconte
Quasar Dipendente
Messaggi: 1156
Iscritto il: 7 lug 2007, 18:03
Contatta:

Re: A proposito di flat...

Messaggio da alexconte »

Grazie, Paolo. Spiegazione puntuale ed interessantissima. Anche io sono impazzito parecchio per cercare di spiegarmi la controvignettatura.....
Un salutone e grazie ancora.
A.
Avatar utente
Paolo Maria Ruscitti
Quasar Guru
Messaggi: 1852
Iscritto il: 6 feb 2006, 3:08
Contatta:

Re: A proposito di flat...

Messaggio da Paolo Maria Ruscitti »

Carissimo Paolo ottima descrizione. Quadra tutto e credo che forse sarebbe il caso (ci sto pensando su da qualche tempo) di scrivere un breve manuale sulla calibrazione di immagini digitali per giovani astrofili. E' vero c'è molto in giro, ma nulla di veramente organico secondo me, ogni lettura manca di alcuni aspetti e metendoli tutti insieme si potrebbe dare un valido aiuto a chi è alle prime armi.
Avatar utente
Paolo
Quasar Guru
Messaggi: 7831
Iscritto il: 16 gen 2006, 22:49
Località: L'Aquila
Contatta:

Re: A proposito di flat...

Messaggio da Paolo »

L'idea del tutorial sulla calibrazione delle immagini per chi e' alle prime armi e' ottima ma condivido che dovrebbe avere una impostazione un po' diversa dal solito. Sulla calibrazione rigorosa si e' scritto tanto, senza contare che le guide dei software (tipo Astroart) sono completissime e la procedura di calibrazione e' cosi' semplice che si puo' usare un solo comando (pretrattamento).

Il fatto da considerare e' che il neofita molto spesso si spaventa per tutti i frame extra-immagine che servono alla sua calibrazione. Posso dirlo anche sulla base della mia esperienza, infatti e' cio' che mi e' capitato dopo aver letto uno dei primi testi che ho avuto fra le mani sulle riprese ed elaborazioni digitali, "Guida ai CCD per l'astronomia" di Plinio Camaiti. Provenendo dalla fotografia chimica dove c'era ben poco da fare dopo le riprese (specie con il colore che non potevo trattare in casa ma i rullini andavano spediti al laboratorio) ero abbastanza preoccupato sia per la difficolta' di esecuzione e successivo trattamento dei frames di calibrazione che per il tempo extra occorrente che si somma a quello dell'integrazione sul soggetto.

Il futuro si e' rivelato invece ben diverso da come mi aspettavo, finora non ho fatto neanche una calibrazione rigorosa per produrre foto deep-sky prese con la camera CCD. Piu' esattamente l'ho provata verificando che i benefici non erano tali da giustificare l'extra tempo (parlo dei dark frames) che ho scelto di impiegare per incrementare l'integrazione sul soggetto. Svolgo normalmente la calibrazione completa solo per i lavori di spettroscopia ed ho toccato con mano quanto sia importante in occasione di un lavoro su una curva di luce asteroidale. Quindi molto dipende dal tipo di risultato atteso.

E' fondamentale comprendere che le "scorciatoie" di cui parlo possono avere senso solo per la mia strumentazione. Con un'altra camera digitale probabilmente sarei arrivato a conclusioni diverse. L'immagine del dark frame riportata nel libro di Camaiti per fortuna non ha nulla a che fare con quella che mi restituisce la SXV-H9 (parliamo di un vecchio Kodak KAF contro il Sony ICX285) su cui riesco a togliere i pochi pixel caldi con la funzione mediana.

Ricollegadomi al discorso del tutorial, per trattare l'argomento a livello generale si dovrebbe quindi tener conto delle varie apparecchiature usate e di come queste possano cambiare le procedure di lavoro "fuori standard". Cosa succede ad esempio se con una determinata camera si usano i filtri per la rimozione degli hot pixel al posto della sottrazione del master dark (con o senza mappa cosmetica) e in generale quali risultati si possono avere facendo una calibrazione non completa, mostrando come in alcuni casi (camere a basso rumore e foto dalla sola valenza estetica) i risultati possono essere ugualmente validi. Sarebbe interessante mostrare i risultati sulla base di una scala di "completamento" della fase di calibrazione (es. nulla, +flat, +dark, +darkflat, +bias ecc) da cui si possano evincere i benefici relativi. Senz'altro un grosso lavoro se si vogliono considerare le varie tipologia di camere (reflex digitali, camere CCD raffreddate, termostatate e non, con alto/basso rumore termico, con alto/basso rumore di lettura).

Io credo che sia molto facile dire che bisogna acquisire ed applicare tutti i frames di calibrazione, piu' difficile forse far capire cosa succede se manca qualche step e come ottimizzare i frames a disposizione, situazioni che non sempre portano a chissa' quali effetti devastanti. Azzardo un concetto estremo... anche la ripresa dei flat frames, che io considero da sempre importantissima, puo' risultare superflua se per fotografare un soggetto luminoso si impiega un ottica/sensore che non vignetta in modo evidente e si mantengono puliti vetrino e filtri (e comunque sui frame non si rilevano ombre evidenti causate dalla polvere). Peccato che sono condizioni molto rare... A me e' capitato solo una volta, lavoravo con il Pentax 75 e la H9, ad occhio l'applicazione del master flat non cambiava nulla se non per l'aggiunta di una certa quantita' di rumore. Tuttavia sarebbe bastato forse un soggetto piu' elusivo per rendere il flat necessario.

A mio avviso questi concetti non devono spaventare piu' di tanto. Basta pensare che in una tipica immagine dalla sola valenza estetica, per mostrare tutti dettagli catturati facciamo a pezzi la linearita' di quanto registrato (non sarebbe possibile altrimenti). Ben diverso se sul frame vanno fatte misurazioni di intensita'/posizione ed e' richiesta una certa precisione, in questo caso la calibrazione completa e' basilare per raggiungere l'obiettivo.

Ho allargato un po' troppo il discorso...

Ciao
Paolo
Pering
Quasar Guru
Messaggi: 4060
Iscritto il: 22 nov 2010, 14:58
Contatta:

Re: A proposito di flat...

Messaggio da Pering »

Dopo quasi 10 anni di utilizzo della camera mx916 mi sono accorto che i dark non cambiavano se non di 1 o due ADU (su 65000 e rotti) al cambiare del tempo di esposizione, quindi sono sempre stato diligente applicando dark, flat e flatdark.

Ricordo che il valore di background era attorno a 282 ADU, in effetti molto basso.

Ultimamente lavorando con i sensori più disparati specie quelli canon 300D e 450D mi sono trovato ad avere i problemi di non corretta applicazione del flat, pur attuando scrupolosamente il metodo che da oltre 15 anni perseguo alla lettera con Astroart (ho cominciato dalla versione 1, quella con il floppy).
Ho sempre "corretto" andando a cambiare i dark, riducendoli, oppure facendo una media tra l'immagine calibrata senza flat e quella calibrata con il flat.
Lo so non è bello per niente.

Le definizioni di dark, flat, bias, offset, e ligth, non sono identiche per tutti i programmi di elaborazione, quindi a volte mi sono trovato in difficoltà.

Per esempio proprio in questi giorni un associato con la Moravian 8300 mi ha detto di aver visto sparire il segnale dopo la calibrazione con dark, flat e bias, ok! è tutto da verificare ancora, ma la morale resta: ogni ccd è una storia a se!
Avatar utente
Paolo
Quasar Guru
Messaggi: 7831
Iscritto il: 16 gen 2006, 22:49
Località: L'Aquila
Contatta:

Re: A proposito di flat...

Messaggio da Paolo »

Azz, qui ci vogliono tante delucidazioni...
Dopo quasi 10 anni di utilizzo della camera mx916 mi sono accorto che i dark non cambiavano se non di 1 o due ADU (su 65000 e rotti) al cambiare del tempo di esposizione
Un pixel caldo e' evidente quando ha un valore che oscilla da poco piu' della media del fondo fino alla saturazione. I pixel caldi che saturano velocemente sono di solito pochissimi, escludiamoli dal discorso. Se stai dicendo che un pixel caldo ha, ad esempio, un valore di 4000 ADU sia con 1 minuto che con 5 minuti, e' proprio strano!

Dai un'occhiata a cosa accade sulla mia SXV-H9:
HOTP.gif
In alto l'andamento dei 50 pixel piu' sensibili, in basso quello dei 50 pixel meno sensibili. Come vedi dal grafico in alto solo tre pixel vanno in saturazione in 500 secondi di esposizione. Qualche altro cresce abbastanza rapidamente, tutti gli altri non saturano e mostrano un andamento quasi lineare. Anche i pixel caldi piu' "tranquilli" (grafico sotto) incrementano abbastanza linearmente e non saturano affatto (vedi ADU). Tutti comunque crescono con il tempo di esposizione e concorrono alla formazione del rumore termico.

Non ho capito quindi cosa intendi con "il dark non cambia". Se ti riferisci al rumore (dev std) in piccole zone dove non sono evidenti i pixel caldi il discorso e' completamente diverso ma non so quanto e' pertinente.
Ho sempre "corretto" andando a cambiare i dark, riducendoli, oppure facendo una media tra l'immagine calibrata senza flat e quella calibrata con il flat.
Se hai avuto questa necessita' penso che qualcosa e' andato storto. Senza scomodare bias, darkflat e mappe cosmetiche, la sola sottrazione del dark e la divisione per il flat in Astroart spiana il fondo perfettamente (per fini estetici e non solo) ed in modo completamente indipendente dal tipo di camera. Nel mio caso lavora perfettamente sia con la SXV-H9 che con la EOS500D. Basta mettere i light frames, flat fields e dark frames nelle relative sezioni della finestra di pretrattamento di Astroart, non serve altro.
Le definizioni di dark, flat, bias, offset, e ligth, non sono identiche per tutti i programmi di elaborazione, quindi a volte mi sono trovato in difficoltà.
Spiegati meglio, magari con qualche esempio.
Per esempio proprio in questi giorni un associato con la Moravian 8300 mi ha detto di aver visto sparire il segnale dopo la calibrazione con dark, flat e bias, ok! è tutto da verificare ancora, ma la morale resta: ogni ccd è una storia a se!
Sono abbastanza confidente che ha sbagliato la procedura o la raccolta dei frames. Ripeto, i metodi sono gli stessi qualunque sia la camera. Questa ha un offset, mostra un probabile pattern nel bias, tutte le varie componenti di rumore, da quello di lettura al termico (in camere professionali e' trascurabile) compresi gli immancabili pixel caldi. Ognuno puo' smandrappare i vari frame in modo da raggiungere un risultato accettabile (ad occhio?) ma la sottrazione del dark (che contiene anche il bias) e la divisione per il flat sono procedure universali e danno come risultato una calibrazione di precisione alla quale i metodi "manuali" possono solo avvicinarsi.

Sono cose che come ben sai non ho inventato io... ;)

Ciao ciao
Paolo
Rispondi

Chi c’è in linea

Visitano il forum: Nessuno e 1 ospite