各色フォーマットのダイナミックレンジ

  • 整数8bit(LDR)の場合
10 * log 256 ≒ 24 (dB)
  • もし素の16bit整数があったとしたら
10*log 65536 ≒ 48.2 dB
  • FP16
仮数部10bit、指数部5bit、符号あり(s10e5)
2^10 * 2^32
(normalize数の範囲の場合、denormalizeを含めるなら 2^11 * 2^32)
もっと正確にはinfとnanのケースを除外しないといけないので
2^10 * 2^30
デシベルに直すと
10*log(2^10 * 2^30) ≒ 120.4(dB)
  • FP10
仮数部7bitで指数部が3bit、符号なし(7e3)
FP10は符号なしでなんか特殊っぽいのでinfとnanの扱いがよくわからないので2通り書くと
10*log(2^7 * 2^6) ≒ 39.1(dB)
10*log(2^7 * 2^8) ≒ 45.2(dB)
  • RGBM
10*log(2^8 * 2^8) ≒ 48.2 dB
(16bit整数と同じ)
  • RGBE
10*log(2^8 * 2^256) ≒ 794.7 dB
  • LogLuv
10*log(2^8 * 2^256) ≒ 794.7 dB

タグ:

+ タグ編集
  • タグ:

このサイトはreCAPTCHAによって保護されており、Googleの プライバシーポリシー利用規約 が適用されます。

最終更新:2010年04月11日 04:37
ツールボックス

下から選んでください:

新しいページを作成する
ヘルプ / FAQ もご覧ください。