Dithering vs darks

Metoder för astrofotografering
Post Reply
User avatar
AstroFriend
Posts: 4099
Joined: 2012-12-17 13:30:45
spamtest: JA
Location: Stockholm
Contact:

Dithering vs darks

Post by AstroFriend »

Med moderna lågbrusiga kameror rekommenderas det ibland att man skall slopa darkcalibration och istället flytta kameran mellan exponeringarna sk dithering och göra en hot pixel map för att få bort de heta pixlarna.

Dithering är effektivt mot "fixed pattern", till ex. kolumndefekter, kvarvarande hotpixel efter darksubtraction. Mot det slumpmässiga bruset har det ingen påverkan. Och det slumpmässiga blir värre ju fler bilder man adderar till som inte har objektet i sig, till ex. bias (om det inte är just en konstant), dark, flat.

Kan man slippa darksubtraction och ersätta det med att subtrahera en konstant så slipper man det brustillskottet. Dessutom är det tidsbesparade för det tar lång tid att hantera ett darkbibliotek. Speciellt för dslr som inte har någon temp. stabilisering. Men hur stor skillnad blir det?

Jag tänkte göra en matematisk simulering här.

Bara ett par frågor, ni som gör dithering. Hur många subbar brukar ni ta och hur många pixlar flyttar ni kameran mellan exponeringarna?

Jag brukar till masterdark ta ca 50 subbar och sätta dithering till omkring 5 pixel. Men har inte haft som mål att slopa darkcalibration. Fast det vore lockande men min kamera är inte lämplig för det.

Lars
Camera: Canon EOS 6D / QHY5
Mount: EQ6 / HEQ5
Telescope: TS130 APO / Pentax 645 300 mm ED IF
Samt en massa tålamod!

Homepage: http://www.astrofriend.eu" onclick="window.open(this.href);return false;
User avatar
Frazze
Posts: 653
Joined: 2008-08-06 15:54:35
Location: Älvsjö
Contact:

Re: Dithering vs darks

Post by Frazze »

Som jag förstår det så är väl dark-frames till för att främst kalibrera bort dark current som uppstår under exponeringen.

Dithering gör det enklare att ta bort outliers (hot/cold pixels och liknande) vid stackning då dessa inte ligger på samma plats efter registrering (align). Dark current resulterar väl i mer eller mindre ett större mönster och jag vet inte om dithering är ett effektivt sätt att rejecta storskaliga strukturer?

Så jag skulle säga att syftet med metoderna är olika, och att den ena inte ersätter den andra utan att de kompletterar varandra.

Jag kör dithering via PHD och den slumpar antalet pixlar och riktning inom ett förbestämt intervall (small, medium, high, very high och extreme). Jag brukar köra high, eller very high.
Jag brukar köra någonstans mellan 20-30 darks.

/Daniel
User avatar
AstroFriend
Posts: 4099
Joined: 2012-12-17 13:30:45
spamtest: JA
Location: Stockholm
Contact:

Re: Dithering vs darks

Post by AstroFriend »

Uppdaterad 20141224:

Nu har jag gjort några simuleringar och skall visa här. Tack Daniel för informationen.

Frågan var alltså vad blir skillnanden mellan dithering och darksubtraction i bilden och praktiskt handhavande.

Har inte tagit hänsyn till bias som man har i kameran för att klara negativa signaler. Men ni ser direkt i resultaten varför kameratillverkarna måste lägga till detta. Utan detta blir det katastrof i bildbehandlingen om de helt sonika klippt de negativa signalerna. Värdena på y-axeln är tänkt att vara efter man subtraherat bias, annars skulle man inte ha negativa värden. Sensorn är tänkt att ha kolumndefekter (statisk fel) samt brus (slumpartat) som är summan av allt brus i kameran, lite förenklat som vanligt då det finns brus och brus. Kolumndefekter är sådant ni kan se när ni kontrastförstärker bilden under bildbehandlingen, yttrar sig som linjer över bilden, ofta från botten till toppen. Syns tydligast i bakgrunden och blir väldigt fult.

För enkelhetens skull är detta ett linjediagram, till ex. en rad i sensorn. Alla diagram i samma skala och längst till höger finns förklaringar till staplarna. Staplarnas höjd motsvarar den totala signalen räknat i till ex. ADU, alltså mycket låga signaler och det är ju där bruset och fixed pattern är mest störande. De olika delarna är staplade på varandra, inte adderade som jag egentligen ville men fördelen är att de olika delarna får olika färger för tydlighetens skull.
01 dither vs darks.jpg
01 dither vs darks.jpg (43.33 KiB) Viewed 4691 times
Här är första exemplet, 1st subbild. Ingen signal men kamerans slumpmässiga brus (orange) samt ett statiskt kolumnfel (blått) som yttrar sig som en högre signal, hot pixel är något liknande men hot pixel tar man lätta bort med "hot pixel remove" som brukar finnas i de flesta program. Kolumndefekterna är svårare att få bort utan att ta darks men det går med lite matematiska knep. Kolumndefekter är dock inte helt statiskt men ganska lika från bild till bild vid samma iso, exponeringstid och temperatur.
02 dither vs darks.jpg
02 dither vs darks.jpg (41.24 KiB) Viewed 4691 times
Samma bild men nu är 5 subbar medelvärdesbildade. Som synes minskar det slumpmässiga bruset men inte det statiska.
03 dither vs darks.jpg
03 dither vs darks.jpg (47.77 KiB) Viewed 4691 times
Här är 5 bilder med dithering, har flyttats i ett 5x5 pixel stort område, eller som här 5 pixlar längs raden. Här syns hur det statiska kolumnfelet (rött) jämnar ut sig medans det slumpmässiga bruset blir lika i nivå som i föregående exempel.
04 dither vs darks.jpg
04 dither vs darks.jpg (39.07 KiB) Viewed 4691 times
Här har 5 bilder subtraherats med 5 darks. Så som man vanligen gör. Nu ser man att det statiska felet har försvunnit helt. Dock har det slumpmässiga bruset ökat! Ca 1.4 gånger högre eller mer exakt roten ur 2. Det är ju inte bra och därför slösar man med antalet darks. Men antalet kan kan bli orimligt högt och man gör kompromisser. I verkligheten är inte de statiska delarna så perfekt lika mellan bilderna heller som nämndes i början. Om man hade 10 gånger fler darks än objektbilder skulle brustillskotet bli litet, men om man har 100 objektbilder blir det ju orimligt då det skulle kräva 1000 darks. I ett sådant läge kan det bli att man har färre darks än objektbilder och då tillför man relativt kraftigt brus för att få bort de statiska felen. Nu är det dock så att själva objektet också har ett brus samt att bakgrundsljuset ger ett kraftigt brustillskott som gör att det inte blir riktigt så allvarligt. Vid smalbandfoto, Halpha till ex. har man i regel lågt bakgrundsljus och litet brustillskott från detta, då blir ovan mer framträdande.
05 dither vs darks.jpg
05 dither vs darks.jpg (37.85 KiB) Viewed 4691 times
Här bild med simulerad signal i 3 olika nivåer (orange) statiskt och brus i blått. Den här bilden är inte darkssubtraherad inte heller dithering. Här kan det bli svårt att urskilja de svagaste signalerna ur bruset, svårare än nödvändigt skall man kanske säga, för det finns alltid mer att se ju bättre teknik man har.
06 dither vs darks.jpg
06 dither vs darks.jpg (42.65 KiB) Viewed 4691 times
Sist samma bild som ovan men med darksubraction. Statiska felet försvann men bruset ökade med en faktor roten ur 2. Att det blir just denna faktor i mina exempel har att göra med att antalet darks är lika med antalet objektbilder.

Hade man dessutom gjort en dithering på den sista bilden och samtidigt gjort darksubtraction hade det inte blivit någon skillnad eftersom dithering bara är bra för de statiska felen i mitt idealiska exempel. I verkligheten är de statiska felen inte helt perfekt lika mellan bilderna, så man vinner ändå på att använda dithering. Ofta skiljer ju temperaturen lite grand mellan bilderna och sensorn åldras lite med tiden. Darks är lite färskvara kan man se det som.

Att bygga upp ett Darksbibliotek samt underhålla det är ju mycket tidsödande samt ganska tråkigt. För kameror med låga statiska störningar kanske man kan ersätta darks med dithering och några andra smarta matematiska metoder. Då är det mycket vunnet. Just dithering är en sådan teknik som kan vara värt att ägna lite tid åt. Andra är hot pixel map (som kräver darks men inte skall användas till objektbilden, bara för att finna hotpixel), kolumndefektfilter (finns det i programmen ni använder?), selektiv noisereduction filter (filter som bara är aktivt där det behövs, till ex. där signalen är låg), mörkerströmmen subtraherar man bort med en konstant. Fourierfilter kan vara effektiva på att få bort fixedpattern. Det finns många saker i kameran som avgör vilken metod som blir bäst, också objektets egenskaper. Kamerans fixedpattern, mörkerström, temperaturstabilitet osv.

Om man anväder darksubtraction, man har i regel inte ett komplett darks bibliotek, speciellt till dslr kameror som inte har stabil temperatur. Man kanske har med 5 graders mellanrum på sin höjd, har man dessutom blandat in olika isotal och binning som man kan göra på CCD kameror blir det otrloligt många kalibreringsbilder att hålla reda på. För just olika temperaturer och exponeringstid finns det knep i de flesta program att ta till när man kalibrerar på det sätet att programmet räknar fram en skalfaktor för darksen så att de matchar bättre mot objektbilden även fast temperaturen är olika.

När jag provat dithering så har jag märkt att det ibland är svårt att få guidekameran låsa efter en dithering (flytt) på objektet stabilt. Gör det inte det får man rörelseoskärpa på subbarna, man får anpassa pausen mellan bilderna så att det hunnit stabilisera sig. Programmet som styr dithering ligger i rehel i kamerakontrollprogrammet som styr monteringen. Har man guidad vilket ofta är fallet måste det också vara ihopkopplat. Tidigare använde jag Astrojan Tools till at styra Canon kameran, EQMOD för att kontrollera EQ6 monteringen, PHD för att kontrollera guide kameran. Nu har jag istället APT, EQMOD och PHD2 och har faktiskt inte hunnit prova denna kombination. Jag gör ju fortfarande de flesta bilderna från balkongen så duger inte för att visa men bra för att utvärdera teknik.

Kommer nog komplettera med text här samt ev. rätta till fel som blivit, kanske ett excelark för att testa olika brusbidrag för olika tekniker. Så tag en titt igen längre fram.

En liten fråga, hur många av er som inte redan vet detta, hur intressant är det att läsa om detta och liknande saker? Bara så jag inte lägger ned massor med tid på något som uppfattas som ointressant.

/Lars
Camera: Canon EOS 6D / QHY5
Mount: EQ6 / HEQ5
Telescope: TS130 APO / Pentax 645 300 mm ED IF
Samt en massa tålamod!

Homepage: http://www.astrofriend.eu" onclick="window.open(this.href);return false;
User avatar
Frazze
Posts: 653
Joined: 2008-08-06 15:54:35
Location: Älvsjö
Contact:

Re: Dithering vs darks

Post by Frazze »

Hej Lars.
Jag vill svara på din sista fråga. Jag tycker det är mycket intressant och jag själv känner att det är något som jag måste bli bättre på att förstå.
Jag har dock lite svårt att hänga med i dina diagram, vad är det för enheter på x och y axeln? X-axeln för mig verkar vara något datumformat och det förstår jag inte alls vad det betyder. Y-skalan är signal, men vad är det för skala? Betyder 10 att sensorn är mättad då?

Mvh
Daniel
User avatar
AstroFriend
Posts: 4099
Joined: 2012-12-17 13:30:45
spamtest: JA
Location: Stockholm
Contact:

Re: Dithering vs darks

Post by AstroFriend »

Hej Frazze!
Ursäkta min dåliga beskrivning på axlarna. Allt har förenklats för att göra det tydligare vilket det definitivt inte blev nu.

X-axeln skall representera en rad i sensorn, alltså endast 40 pixlars längd. Sensorns dimension 1x40 pixlar. Var datumen kom från var mysko. Innan jag exporterade diagrammet var skalan 1 till 40. Får göra om det.

Y-axeln kan du se som fångade fotoner eller elektroner som skapats i sensorn. Alltså väldigt låg signal som studeras. Lägre än vad man har i verkligheten då denna skulle vara drunknad i bruset. 5ggr högre vore mer verklighetsnära om man räknar y axeln i adu.

Skall förklara mer senare, men skriv frågor om allt som är otydligt så vet jag vad jag skall fylla i.

/Lars
Camera: Canon EOS 6D / QHY5
Mount: EQ6 / HEQ5
Telescope: TS130 APO / Pentax 645 300 mm ED IF
Samt en massa tålamod!

Homepage: http://www.astrofriend.eu" onclick="window.open(this.href);return false;
User avatar
AstroFriend
Posts: 4099
Joined: 2012-12-17 13:30:45
spamtest: JA
Location: Stockholm
Contact:

Re: Dithering vs darks

Post by AstroFriend »

Nu har jag rättat till en del felaktigheter som jag skrivit och bytt ut bilderna så axlarnas skala och etiketter stämmer. Konstigt fel, vid export av graferna så byttes x-axeln mot datum. Fick göra en skärmdump istället av bilderna.

Dithering ger ju också en annan spännande möjlighet för de system som har skarp optik och är undersamplade pga fel pixelskala. Där kan man öka upplösningen. I princip kan man arbeta med kortare fokallängd så man får widefield och sedan ändå få tillbaks högre upplösning. Tekniken man använder kallas för Drizzle och det får man på köpet. Som tumregel brukar man säga att man skall ha minst 25 subbar för en 2x upplösningshöjning.

Mitt eget system är kraftigt undersamplat så där borde det vara idealiskt. Har dock en del nackdelar också, högre brus till ex. Fast det får man ju alltid när man ökar upplösningen. Men eftersom man använder samma originalbilder så är det ju bara att välja vid bildbearbetningen vilken metod man skall använda.

Sammanfattat:
Dithering kan för vissa system under ideala förhållande få bort den tidsödande mörkerströmkalibreringen (och som tillför brus).
Dithering ger möjlighet att öka upplösningen för undersamplade system med Drizzling.

Alla ni som gör dithering skriv lite om era erfarenheter, det underlättar för alla som vill ge sig på det så de slipper testa alla olämpliga kombinationer.

/Lars
Camera: Canon EOS 6D / QHY5
Mount: EQ6 / HEQ5
Telescope: TS130 APO / Pentax 645 300 mm ED IF
Samt en massa tålamod!

Homepage: http://www.astrofriend.eu" onclick="window.open(this.href);return false;
Martin F
Posts: 1812
Joined: 2013-11-06 12:16:53
spamtest: JA

Dithering vs darks

Post by Martin F »

Hur funkat dithering? Får programmet monteringen att flytta lite mellan subbarna eller hur åstadkommer man förflyttningen?


Sent from my iPhone using Tapatalk
User avatar
Frazze
Posts: 653
Joined: 2008-08-06 15:54:35
Location: Älvsjö
Contact:

Re: Dithering vs darks

Post by Frazze »

Martin F wrote:Hur funkat dithering? Får programmet monteringen att flytta lite mellan subbarna eller hur åstadkommer man förflyttningen?


Sent from my iPhone using Tapatalk
Japp precis så fungerar det.
T.ex Nebulosity har en länk till PHD så när Nebulosity är klar med en exponering så flyttar PHD monteringen några pixlar, sedan väntar Nebulosity på att guideningen skall stabilisera sig och så tar den nästa exponering.

Samma funktion finns även in andra programvaror.

/Daniel
Corpze
Posts: 1012
Joined: 2012-03-01 04:00:53
spamtest: JA
Location: Arvika

Re: Dithering vs darks

Post by Corpze »

Det låter som en teknik som används mer och mer, men som jag förstår så krävs det guidekamera ansluten till samma program som sköter ditheringen? (Kör själv synguider)
TS N-AG10
Celestron C9.25" XLT
Meade 102mm APO
Astro Systeme Austria (ASA) DDM85
NEQ6 Pro Synscan
Atik 460 EX
SX Filterwheel LRGB Ha O3 S2

http://www.facebook.com/exophotograph" onclick="window.open(this.href);return false;
Martin F
Posts: 1812
Joined: 2013-11-06 12:16:53
spamtest: JA

Dithering vs darks

Post by Martin F »

Jag kör autoguidning med PHD2 så det borde funka.


Sent from my iPhone using Tapatalk
User avatar
AstroFriend
Posts: 4099
Joined: 2012-12-17 13:30:45
spamtest: JA
Location: Stockholm
Contact:

Re: Dithering vs darks

Post by AstroFriend »

Hur ser egentligen en bild ut som man gjort Dithering på?
Hot Pixel Dithered.jpg
Hot Pixel Dithered.jpg (10.83 KiB) Viewed 4493 times
Här har jag beskuret ett område runt en het pixel. Meningen med Dithering är ju att defekta pixlar och statiskt brus skall spridas ut över ett större område så att felet jämnas ut. Men när man har en helt kass pixel som lägger sig på 100% signal fungerar det inte så bra. Men den heta pixeln blir ypperlig när man vill analysera hur effektiv den slumpmässiga förflyttningen av monteringen varit.

Här ser man att det inte är så slumpmässigt utan distributionen har samlat sig i tre lokala grupper. Inte perfekt men fungerar. Dock kan man ju misstänka att själva stackningen blivit fel och referensstjärnorna har av misstag bytts. Men att det skall ske på samma sätt för alla referenspunkter är osannolikt och de här grupperna ser man över hela fältet medans stjärnorna ser samlade ut. Jag misstänker mer att det är autogiudern som inte hunnit med att reglera tillbaks i tidsfönstret som är tillgänligt. Kanske blir så när det blir ovanligt stora hopp, eller kanske glapp i mekaniken.

Man ser här att bakgrunden ser relativt jämn ut och det var ju ett av målen med Dithering.

/Lars
Camera: Canon EOS 6D / QHY5
Mount: EQ6 / HEQ5
Telescope: TS130 APO / Pentax 645 300 mm ED IF
Samt en massa tålamod!

Homepage: http://www.astrofriend.eu" onclick="window.open(this.href);return false;
AndreasW
Posts: 138
Joined: 2013-05-02 22:11:51
spamtest: JA

Re: Dithering vs darks

Post by AndreasW »

AstroFriend wrote:Hur ser egentligen en bild ut som man gjort Dithering på?
Hot Pixel Dithered.jpg
Här har jag beskuret ett område runt en het pixel. Meningen med Dithering är ju att defekta pixlar och statiskt brus skall spridas ut över ett större område så att felet jämnas ut. Men när man har en helt kass pixel som lägger sig på 100% signal fungerar det inte så bra. Men den heta pixeln blir ypperlig när man vill analysera hur effektiv den slumpmässiga förflyttningen av monteringen varit.

Här ser man att det inte är så slumpmässigt utan distributionen har samlat sig i tre lokala grupper. Inte perfekt men fungerar. Dock kan man ju misstänka att själva stackningen blivit fel och referensstjärnorna har av misstag bytts. Men att det skall ske på samma sätt för alla referenspunkter är osannolikt och de här grupperna ser man över hela fältet medans stjärnorna ser samlade ut. Jag misstänker mer att det är autogiudern som inte hunnit med att reglera tillbaks i tidsfönstret som är tillgänligt. Kanske blir så när det blir ovanligt stora hopp, eller kanske glapp i mekaniken.

Man ser här att bakgrunden ser relativt jämn ut och det var ju ett av målen med Dithering.

/Lars
När du stackade den här, vad för metod använde du, någon sigma-reject variant? Med rätt värden på parametrarna borde man väll kunna få bort även heta pixlar (även om de har 100% signal)?

Sen är det väll egentligen inte riktigt bra att man slumpar ditheringen som de flesta program gör, för om man har otur kan slumpen hamna så att punkterna klumpar ihop sig (och då funkar ju metoden sämre). Egentligen är det nog bättre om ditheringen flyttar i ett styrt mönster så att man alltid får ordentlig spridning över pixlarna.

mvh

Andreas
User avatar
AstroFriend
Posts: 4099
Joined: 2012-12-17 13:30:45
spamtest: JA
Location: Stockholm
Contact:

Re: Dithering vs darks

Post by AstroFriend »

Hej Andreas!
Jag brukar väldigt ofta använda mig av Drizzling för att få lite bättre upplösning när jag stackar, så även på denna. En nackdel är att det inte går att göra Sigma reject med denna teknik.

Om Ditherfunktionen är riktig gjord så skall det vara slupmässigt men statistiskt jämt fördelat över det område den styr monteringen, men det måste vara tillräckligt många bilder för att detta skall uppnås, mer än 25 brukar vara bra. I mitt fall är det något som är fel, så här skall det inte bli, men det verkar ändå tillräckligt fördelat för att den önskade effekten skall uppnås.

Att ha alltför stort område för Dithering ger en nackdel minst. En är att det tar längre tid för styrprogrammet att stabilsera monteringen efter varje Dithering. Gör man riktigt stora förflyttningar minskar ju sensorn effektiva område också, fast så stort brukar man aldrig göra, man kan ju då även få problem med optikens distortion.

/Lars
Camera: Canon EOS 6D / QHY5
Mount: EQ6 / HEQ5
Telescope: TS130 APO / Pentax 645 300 mm ED IF
Samt en massa tålamod!

Homepage: http://www.astrofriend.eu" onclick="window.open(this.href);return false;