各色フォーマットのダイナミックレンジ


※上記の広告は60日以上更新のないWIKIに表示されています。更新することで広告が下部へ移動します。

  • 整数8bit(LDR)の場合
10 * log 256 ≒ 24 (dB)
  • もし素の16bit整数があったとしたら
10*log 65536 ≒ 48.2 dB
  • FP16
仮数部10bit、指数部5bit、符号あり(s10e5)
2^10 * 2^32
(normalize数の範囲の場合、denormalizeを含めるなら 2^11 * 2^32)
もっと正確にはinfとnanのケースを除外しないといけないので
2^10 * 2^30
デシベルに直すと
10*log(2^10 * 2^30) ≒ 120.4(dB)
  • FP10
仮数部7bitで指数部が3bit、符号なし(7e3)
FP10は符号なしでなんか特殊っぽいのでinfとnanの扱いがよくわからないので2通り書くと
10*log(2^7 * 2^6) ≒ 39.1(dB)
10*log(2^7 * 2^8) ≒ 45.2(dB)
  • RGBM
10*log(2^8 * 2^8) ≒ 48.2 dB
(16bit整数と同じ)
  • RGBE
10*log(2^8 * 2^256) ≒ 794.7 dB
  • LogLuv
10*log(2^8 * 2^256) ≒ 794.7 dB

ツールボックス

下から選んでください:

新しいページを作成する
ヘルプ / FAQ もご覧ください。