必要になった時によく忘れているので纏めておきます。

keyword

  • IEE754
  • 符号部
  • 仮数部
  • 指数部
  • NaN : Not a Number
  • bfloat16
    IEE754に準じたハーフフロート
  • 単精度: 1-8-23bit
  • 桁落ち
    ざっくりだが指数部と仮数部で数値を表現するため23bit分しか小数点部分を表現できない

R10G10B10A2_Unormのダンプ結果

r,g,b,a = 1.f,0.f,0.f,1.fの時のダンプ値 0xc0 00 03 ff
LE CPUレジスタ上のビット列
A           B                            G                              R
MSB 11| 00 0000 0000| 0000 0000 00 | 11 1111 1111  LSB

参考:GPUのTRMではフォーマットの定義はメモリのLower AddressからRGBAと並ぶと言うような定義になっている場合があります。そもそもDXGIフォーマットで決められていた気もしますがGPUの方でも一般的なグラフィックスAPIのフォーマットの定義に従った内部フォーマットが定義されています。