各色フォーマットのダイナミックレンジ

「各色フォーマットのダイナミックレンジ」の編集履歴（バックアップ）一覧はこちら

「各色フォーマットのダイナミックレンジ」(2010/04/11 (日) 04:37:49) の最新版変更点

追加された行は緑色になります。

削除された行は赤色になります。

- 整数8bit(LDR)の場合
10 * log 256 ≒ 24 (dB)
- もし素の16bit整数があったとしたら
10*log 65536 ≒ 48.2 dB
- FP16
仮数部10bit、指数部5bit、符号あり(s10e5)
2^10 * 2^32
(normalize数の範囲の場合、denormalizeを含めるなら 2^11 * 2^32)
もっと正確にはinfとnanのケースを除外しないといけないので
2^10 * 2^30
デシベルに直すと
10*log(2^10 * 2^32) ≒ 120.4(dB)
- FP10
仮数部7bitで指数部が3bit、符号なし(7e3)
FP10は符号なしでなんか特殊っぽいのでinfとnanの扱いがよくわからないので2通り書くと
10*log(2^7 * 2^6) ≒ 39.1(dB)
10*log(2^7 * 2^8) ≒ 45.2(dB)
- RGBM
10*log(2^8 * 2^8) ≒ 48.2 dB
(16bit整数と同じ)
- RGBE
10*log(2^8 * 2^256) ≒ 794.7 dB
- LogLuv
10*log(2^8 * 2^256) ≒ 794.7 dB
----
参考リンク集
LogLuv
http://realtimecollisiondetection.net/blog/?p=15
RGBE
http://www.gamedev.net/reference/articles/article2208.asp
RGBM
http://graphicrants.blogspot.com/2009/04/rgbm-color-encoding.html

- 整数8bit(LDR)の場合
10 * log 256 ≒ 24 (dB)
- もし素の16bit整数があったとしたら
10*log 65536 ≒ 48.2 dB
- FP16
仮数部10bit、指数部5bit、符号あり(s10e5)
2^10 * 2^32
(normalize数の範囲の場合、denormalizeを含めるなら 2^11 * 2^32)
もっと正確にはinfとnanのケースを除外しないといけないので
2^10 * 2^30
デシベルに直すと
10*log(2^10 * 2^30) ≒ 120.4(dB)
- FP10
仮数部7bitで指数部が3bit、符号なし(7e3)
FP10は符号なしでなんか特殊っぽいのでinfとnanの扱いがよくわからないので2通り書くと
10*log(2^7 * 2^6) ≒ 39.1(dB)
10*log(2^7 * 2^8) ≒ 45.2(dB)
- RGBM
10*log(2^8 * 2^8) ≒ 48.2 dB
(16bit整数と同じ)
- RGBE
10*log(2^8 * 2^256) ≒ 794.7 dB
- LogLuv
10*log(2^8 * 2^256) ≒ 794.7 dB
----
参考リンク集
LogLuv
http://realtimecollisiondetection.net/blog/?p=15
RGBE
http://www.gamedev.net/reference/articles/article2208.asp
RGBM
http://graphicrants.blogspot.com/2009/04/rgbm-color-encoding.html